CN107959838B - 显示装置及通过该显示装置进行显示的方法 - Google Patents
显示装置及通过该显示装置进行显示的方法 Download PDFInfo
- Publication number
- CN107959838B CN107959838B CN201711209444.6A CN201711209444A CN107959838B CN 107959838 B CN107959838 B CN 107959838B CN 201711209444 A CN201711209444 A CN 201711209444A CN 107959838 B CN107959838 B CN 107959838B
- Authority
- CN
- China
- Prior art keywords
- focusedimage
- projection
- presented
- projector
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3141—Constructional details thereof
- H04N9/317—Convergence or focusing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/363—Image reproducers using image projection screens
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/383—Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3141—Constructional details thereof
- H04N9/3147—Multi-projection systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
- H04N9/3188—Scale or resolution adjustment
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3191—Testing thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3191—Testing thereof
- H04N9/3194—Testing thereof including sensor feedback
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0147—Head-up displays characterised by optical features comprising a device modifying the resolution of the displayed image
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
- G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/048—Indexing scheme relating to G06F3/048
- G06F2203/04805—Virtual magnifying lens, i.e. window or frame movable on top of displayed information to enlarge it for better reading or selection
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Optics & Photonics (AREA)
- Human Computer Interaction (AREA)
- Controls And Circuits For Display Device (AREA)
- Transforming Electric Information Into Light Information (AREA)
- Projection Apparatus (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
Abstract
本申请涉及一种显示装置及通过该显示装置进行显示的方法。该显示装置包括用于呈现背景图像的至少一个背景显示器、用于呈现聚焦图像的至少一个聚焦图像投影仪、图像转向单元、用于检测注视方向的装置以及与图像转向单元和用于检测注视方向的装置通信耦合的处理器,该至少一个背景显示器包括至少一个投影表面。所呈现的背景图像的投影的角宽度介于40度至220度之间。所呈现的聚焦图像的投影的角宽度介于5度至60度之间。进行布置以将所呈现的聚焦图像的投影与所呈现的背景图像的投影相结合来创建视觉场景。
Description
技术领域
本公开总体上涉及视觉信息的呈现,更特别地涉及显示装置,该显示装置包括背景显示器和聚焦图像投影仪。此外,本公开还涉及通过上述提及的显示装置进行显示的方法。
背景技术
近来,诸如虚拟现实、增强现实等现代技术的使用在人们的日常生活中有了快速的发展。例如,这种技术可以用于诸如游戏、教育、军事训练、医疗手术训练等应用。具体地,这种技术给设备的用户展示了仿真环境(通常称为“虚拟世界”)。通过在设备中的显示器上呈现构成仿真环境的图像来展示仿真环境。这种设备的示例包括但不限于头戴式虚拟现实设备、虚拟现实眼镜和增强现实耳机。这种设备适于使用诸如体视学之类现代技术将沉浸在仿真环境中的感觉呈现给用户。
然而,这种现有设备具有某些限制。在示例中,这种设备中使用的传统显示器的尺寸较小。具体地,该传统显示器提供的像素密度不足以模仿人眼的视敏度(visualacuity)。此外,提供更高像素密度的显示器尺寸过大而不能容纳在这种设备中。在另一示例中,现有设备中使用的显示器需要大量的光学部件来正确地呈现仿真环境以及实现如人类视觉***中的注视偶然性(gaze contingency)。具体地,这种光学部件的大小及数量难以容纳在这种设备中。因此,这种现有设备没有得到充分发展并且模仿人类视觉***的能力受到限制。
因此,鉴于上述讨论,需要克服上述与用于实现仿真环境的设备中所使用的传统显示器相关联的缺陷。
发明内容
本公开内容旨在提供一种显示装置。本公开还旨在提供一种通过显示装置进行显示的方法,该显示装置包括至少一个背景显示器和至少一个聚焦图像图影仪,该至少一个背景显示器包括至少一个投影表面。本公开旨在为以下现有问题提供解决方案:像素密度和物理尺寸间的权衡、以及在用于实现仿真环境的设备中所使用的传统显示器的图像不连续性。本公开的目的在于提供一种至少部分地克服在现有技术中遇到的问题的解决方案,以及提供一种逼真地模仿人类视觉***的显示装置。
一方面,本公开的实施例提供了一种显示装置,包括:
-至少一个背景显示器,用于呈现背景图像,其中,所呈现的背景图像的投影的角宽度的范围为40度至220度,该至少一个背景显示器包括至少一个投影表面;以及
-至少一个聚焦图像投影仪,用于呈现聚焦图像,其中,所呈现的聚焦图像的投影的角宽度的范围为5度至60度;
-图像转向单元;
-用于检测注视方向的装置;
-处理器,与图像转向单元和用于检测注视方向的装置以通信方式耦接,其中,处理器被配置成:
(a)接收输入图像,并使用所检测的注视方向来确定输入图像的视觉精度区域;
(b)处理所述输入图像以生成背景图像和聚焦图像,背景图像具有第一分辨率,聚焦图像具有第二分辨率,其中:
-遮蔽背景图像中的与输入图像的视觉精度区域基本对应的区域,
-聚焦图像基本对应于输入图像的视觉精度区域,以及
-第二分辨率高于第一分辨率;
(c)在至少一个背景显示器上呈现背景图像;
(d)通过至少一个聚焦图像投影仪在至少一个投影表面上呈现聚焦图像;
(e)控制图像转向单元以调整所呈现的聚焦图像在至少一个投影表面上的投影的位置,以使所呈现的聚焦图像的投影与所呈现的背景图像的遮蔽区域的投影基本重叠;
其中,处理器被配置成基本上同时执行(c)、(d)和(e),并且进行布置以将所呈现的聚焦图像的投影与所呈现的背景图像的投影相结合来创建视觉场景。
另一方面,本公开的实施例提供了一种通过显示装置进行显示的方法,该显示装置包括至少一个背景显示器、至少一个聚焦图像投影仪、图像转向单元、用于检测注视方向的装置以及与图像转向单元和用于检测注视方向的装置以通信方式耦接的处理器,该至少一个背景显示器包括至少一个投影表面,该方法包括:
(ii)通过至少一个背景显示器呈现背景图像,其中,所呈现的背景图像的投影的角宽度的范围为40度至220度;
(ii)通过至少一个聚焦图像投影仪呈现聚焦图像,其中,所呈现的聚焦图像的投影的角宽度的范围为5度至60度;
(iii)将所呈现的聚焦图像的投影与所呈现的背景图像的投影相结合来创建视觉场景;
(iv)检测注视方向,并使用所检测的注视方向来确定输入图像的视觉精度区域;
(v)处理所述输入图像以生成背景图像和聚焦图像,背景图像具有第一分辨率,聚焦图像具有第二分辨率,第二分辨率高于第一分辨率,其中,所述处理包括:
-遮蔽背景图像中的与所述输入图像的视觉精度区域基本对应的区域,
-生成与输入图像的视觉精度区域基本对应的聚焦图像;以及
(e)控制图像转向单元以调整所呈现的聚焦图像在至少一个投影表面上的投影的位置,以使所呈现的聚焦图像的投影与所呈现的背景图像的遮蔽区域的投影基本上重叠,
其中,(i)、(ii)和(vi)基本上被同时执行。
本公开的实施例基本上消除或至少部分解决了以上提及的在现有技术中的问题,并且能够在用于实现仿真环境的设备中所使用的显示装置内实现有效中央凹以仿真人类视觉***。
根据附图及结合所附权利要求解释的说明性实施例的详细描述,本发明的其他方面、优点、特征及目的将变得明显。
应该理解的是,在不脱离由所附权利要求限定的本公开的范围的情况下,易于以各种组合的方式对本公开的特征进行组合。
附图说明
当结合附图阅读时,可以更好地理解上述发明内容及下述说明性实施例的具体实施方式。为了说明本公开,在附图中示出了本公开的示例性构造。然而,本公开不限于此处所公开的具体方法和手段。此外,本领域的技术人员应当理解附图并不成比例。在任何可能的情况下,类似元件由相同的附图标记来表示。
现在将参照以下附图仅通过示例来对本发明的实施例进行描述,在附图中:
图1-图2为根据本公开的实施例的显示装置的示例性结构的框图;
图3为根据本公开的实施例的显示装置的示例性实现方式;
图4为根据本公开的实施例的示例性背景显示器的分解图;
图5-图6为根据本公开的实施例的示例性背景显示器的分层的示意图;以及
图7示出了根据本公开的实施例的通过显示装置进行显示的方法的步骤。
在附图中,下划线标记用于表示其上放置有该下划线标记的项或与该下划线标记相邻的项。无下划线标记指的是通过将无下划线标记链接到项的线条来标识的项。当标记无下划线且附有相关联的箭头时,该无下划线标记用于标识箭头所指向的一般项。
具体实施方式
以下的详细描述示出了本公开的实施例及能实施这些实施例的方式。尽管已经公开了执行本公开的一些模式,但是本领域的技术人员应该认识到用于执行或实践本公开的其他实施例也是可能的。
一方面,本公开的实施例提供了一种显示装置,包括:
-至少一个背景显示器,用于呈现背景图像,其中,所呈现的背景图像的投影的角宽度介于40度至220度之间,该至少一个背景显示器包括至少一个投影表面;
-至少一个聚焦图像投影仪,用于呈现聚焦图像,其中,所呈现的聚焦图像的投影的角宽度介于5度至60度之间;
-图像转向单元;
-用于检测注视方向的装置;
-处理器,与图像转向单元和用于检测注视方向的装置以通信方式耦接,其中,处理器被配置成:
(a)接收输入图像,并使用所检测的注视方向来确定输入图像的视觉精度区域;
(b)处理输入图像以生成背景图像和聚焦图像,背景图像具有第一分辨率,聚焦图像具有第二分辨率,其中:
-遮蔽背景图像中的与输入图像的视觉精度区域基本对应的区域,
-聚焦图像基本对应于输入图像的视觉精度区域,以及
-第二分辨率高于所述第一分辨率;
(c)在该至少一个背景显示器上呈现背景图像;
(d)通过至少一个聚焦图像投影仪在至少一个投影表面上呈现聚焦图像;以及
(e)控制图像转向单元以调整所呈现的聚焦图像在至少一个投影表面上的投影的位置,以使所呈现的聚焦图像的投影与所呈现的背景图像的遮蔽区域的投影基本上重叠,
其中,所述处理器被配置成基本上同时执行(c)、(d)和(e),并且进行布置以将所呈现的聚焦图像的投影与所呈现的背景图像的投影相结合来创建视觉场景。
另一方面,本公开的实施例提供了一种通过显示装置进行显示的方法,该显示装置包括至少一个背景显示器、至少一个聚焦图像投影仪、图像转向单元、用于检测注视方向的装置以及与图像转向单元和用于检测注视方向的装置以通信方式耦接的处理器,该至少一个背景显示器包括至少一个投影表面,该方法包括:
(ii)通过至少一个背景显示器呈现背景图像,其中,所呈现的背景图像的投影的角宽度介于40度至220度之间;
(ii)通过至少一个聚焦图像投影仪呈现聚焦图像,其中,所呈现的聚焦图像的投影的角宽度介于5度至60度之间;
(iii)将所呈现的聚焦图像的投影与所呈现的背景图像的投影相结合来创建视觉场景;
(iv)检测注视方向,并使用所检测的注视方向来确定输入图像的视觉精度区域;
(v)处理输入图像以生成背景图像和聚焦图像,该背景图像具有第一分辨率,聚焦图像具有第二分辨率,第二分辨率高于所述第一分辨率,其中,该处理包括:
-遮蔽背景图像中的与输入图像的视觉精度区域基本对应的区域,
-生成与输入图像的视觉精度区域基本对应的聚焦图像;以及
(e)控制图像转向单元以调整所呈现的聚焦图像在至少一个投影表面上的投影的位置,以使所呈现的聚焦图像的投影与所呈现的背景图像的遮蔽区域的投影基本上重叠;
其中,(i)、(ii)和(vi)基本上被同时执行。
本公开提供了一种显示装置和一种通过使用背景显示器和投影仪的显示装置进行显示的方法。本文中所描述的显示装置不受限于用来呈现仿真环境的光学部件的大小及数量。因此,可以容易地在诸如虚拟现实设备之类的小尺寸设备中实现该显示装置。此外,该显示装置通过检测设备用户的眼睛的注视方向来仿真人类视觉***的有效中央凹(active foveation)。此外,由于适当减小了所呈现的背景图像和所呈现的聚焦图像之间的过渡区接缝,所以使用所描述的显示装置所显示的图像是连续的。因此,所描述的显示装置可操作成逼真地模仿与人类视觉***类似的注视偶然性。使用所描述的显示装置进行显示的方法易于实施,并且拥有鲁棒的有效中央凹能力。在本文中所描述的方法中,背景图像和聚焦图像被呈现在距用户的眼睛几乎相等的距离处,从而减轻眼睛疲劳。此外,该显示装置由于几乎没有光学部件而具有低成本且易于制造。
该显示装置包括用于呈现背景图像的至少一个背景显示器和用于呈现聚焦图像的至少一个聚焦图像投影仪,该至少一个背景显示器包括至少一个投影表面。所呈现的背景图像的投影的角宽度范围为40度至220度。所呈现的聚焦图像的投影的角宽度范围为5度至60度。此外,在显示装置中,进行布置以将所呈现的聚焦图像的投影与所呈现的背景图像的投影结合来创建视觉场景。
可选地,所呈现的背景图像的投影的角宽度可以大于220度。在这种情况下,用于呈现背景图像的背景显示器的角度尺寸可以大于220度。根据实施例,所呈现的背景图像的投影的角宽度可以例如从40度、50度、60度、70度、80度、90度、100度、110度、120度、130度、140度、150度、160度或170度直至70度、80度、90度、100度、110度、120度、130度、140度、150度、160度、170度、180度、190度、200度、210度或220度。根据另一实施例,所呈现的聚焦图像的投影的角宽度可以例如从5度、10度、15度、20度、25度、30度、35度、40度、45度或50度直至15度、20度、25度、30度、35度、40度、45度、50度、55度或60度。
在实施例中,视觉场景可以是待呈现给诸如头戴式虚拟现实设备、虚拟现实眼镜、增强现实耳机等设备的用户的仿真环境内的场景,诸如咖啡店环境、鬼屋、森林场景等。更具体地,当用户使用该设备时,视觉场景可以投影到用户的眼睛上。在这种情况下,该设备可以包括显示装置。此外,包括至少一个投影表面的至少一个背景显示器和至少一个聚焦图像投影仪的上述布置方式有助于所呈现的聚焦图像的投影与所呈现的背景图像的投影进行适当组合。如果该组合不是最佳(或不正确),则创建的视觉场景可能会出现失真。
在实施例中,背景图像涉及在上述提及的角宽度内待通过显示装置呈现并显示的视觉场景的图像以处理与用户眼睛的运动相关联的眼跳(saccades)。在另一实施例中,聚焦图像涉及在上述提及的角宽度内待通过显示装置呈现并投影的图像以处理与用户眼睛的运动相关联的眼跳运动。具体地,聚焦图像在尺寸上小于背景图像。此外,背景图像和聚焦图像在其投影组合时共同构成视觉场景。
在实施例中,本文中所使用的术语“背景显示器”涉及有助于在其上呈现背景图像的显示器(或屏幕)。具体地,该至少一个背景显示器可以用于提供用于呈现背景图像的背景区域。根据实施例,背景显示器可以选自包括以下各项的分组:液晶显示器(LCD)、基于发光二极管(LED)的显示器、基于有机LED(OLED)的显示器、基于微OLED的显示器和基于硅基液晶(LCoS)的显示器。
在另一实施例中,至少一个背景显示器可以包括至少两个背景显示器,该至少两个背景显示器中的至少一个设置成用于用户的左眼,且该至少两个背景显示器中的至少一个设置成用于用户的右眼。具体地,该至少两个背景显示器可使用为使至少一个背景显示器可专用于为用户的每只眼睛呈现分离的背景图像。更具体地,用于用户的左眼和用户的右眼的各个背景图像可以共同构成背景图像。
在又一实施例中,该至少一个背景显示器可共享地用于用户的两只眼睛。具体地,在该实施例中,至少一个背景显示器可以用来将分离的背景图像共享地呈现给用户的左眼和右眼两者。
如前面所描述的,该至少一个背景显示器包括至少一个投影表面。在实施例中,本文中所使用的术语“投影表面”涉及有助于在其上呈现聚焦图像的显示器(或屏幕)。具体地,至少一个投影表面可以具有适用于接收聚焦图像的投影以在其上呈现聚焦图像的透射率和反射率规格。在另一实施例中,聚焦图像可以从投影表面的前侧和投影表面的后侧任一侧或者两侧投影到该至少一个投影表面上。
在示例中,该至少一个投影表面可以包括至少两个投影表面,该至少两个投影表面中的至少一个设置成用于用户的左眼,且该至少两个投影表面中的至少一个设置成用于用户的右眼。具体地,该至少两个投影表面可使用为使至少一个投影表面可专用于为用户的每只眼睛呈现分离的聚焦图像。更具体地,用于用户的左眼和用户的右眼的各个聚焦图像可以共同构成聚焦图像。
在又一实施例中,该至少一个投影表面可以共享地用于用户的两只眼睛。具体地,在该实施例中,至少一个投影表面可以用来将各个聚焦图像共享地呈现给用户的左眼和右眼两者。
根据实施例,本文中所使用的术语“聚焦图像投影仪”涉及用于将聚焦图像投影到至少一个投影表面上的光学设备。根据实施例,聚焦图像投影仪可以选自包括以下各项的分组:基于液晶显示器(LCD)的投影仪、基于发光二极管(LED)的投影仪、基于有机LED(OLED)的投影仪、基于硅基液晶(LCoS)的投影仪、基于数字光处理(DLP)的投影仪和激光投影仪。
在本公开的实施例中,该至少一个聚焦图像投影仪可以包括至少两个聚焦图像投影仪,该至少两个聚焦图像投影仪中的至少一个设置成用于用户的左眼,且该至少两个聚焦图像投影仪中的至少一个设置成用于用户的右眼。具体地,该至少两个聚焦图像投影仪可使用为使至少一个聚焦图像投影仪可以专门地(或完全地)用来给用户的一只眼睛呈现聚焦图像。该至少两个聚焦图像投影仪使得能够分别优化共同构成聚焦图像的各个聚焦图像(例如,用于用户左眼的聚焦图像和用于用户右眼的聚焦图像)的光路。
例如,如果该至少一个聚焦图像投影仪是激光投影仪,则一个聚焦图像投影仪可设置成用于用户的两只眼睛。具体地,一个激光投影仪可以操作成使得可以基本上同时投影用于用户双眼的各个聚焦图像。例如,该一个激光投影仪可以由于其操作速度快而用作至少一个聚焦图像投影仪来投影(用于用户的左眼和用户的右眼的)各个聚焦图像。
显示装置还包括图像转向单元、用于检测注视方向的装置以及与图像转向单元和用于检测注视方向的装置通信耦接的处理器。
在实施例中,处理器可以是硬件、软件、固件或其组合,其被配置成控制显示装置的操作。具体地,处理器可以控制显示装置的操作以处理视觉场景并将其显示(或投影)在用户的眼睛上。在与用户相关联的设备内使用显示装置的情况下,处理器可以在设备外部或不可以在设备外部。
可选地,处理器还可以与存储单元通信耦接。在实施例中,存储单元可以是硬件、软件、固件或其组合,适用于存储待由处理器处理以通过显示装置显示的视觉场景的图像和/或背景图像和聚焦图像。在该实施例中,存储单元可以在设备内使用或者可以位于远处。
在实施例中,用于检测注视方向的装置可以涉及用于测量用户眼睛的注视方向并检测眼睛运动的专用设备,诸如眼追踪器。具体地,对注视方向的精确检测使得显示装置能够在其上逼真地实现注视偶然性。此外,用于检测注视方向的装置可以被放置成与眼睛接触/不可以被放置成与眼睛接触。用于检测注视方向的装置的示例包括具有运动传感器的接触镜、监视眼睛瞳孔位置的摄像机等。
处理器被配置成接收输入图像,并使用检测到的注视方向来确定输入图像的视觉精度(visual accuracy)区域。根据实施例,本文中所使用的术语“输入图像”涉及待通过显示装置显示的视觉场景的图像。具体地,可以将输入图像显示给用户的眼睛。在实施例中,输入图像可以从耦接到与用户相关联的设备的图像传感器处接收。具体地,图像传感器(诸如直通数码相机的图像传感器)可以捕获真实环境的图像作为待投影到眼睛上的输入图像。在实施例中,可以从耦接成与处理器相关联的存储单元接收输入图像。具体地,存储单元可以被配置成以适当的格式存储输入图像,该适当格式包括但不限于动态图像专家组(MPEG)、联合图像专家小组(JPEG)、标签图像文件格式(TIFF)、便携式网络图形格式(PNG)、图像互换格式(GIF)和位图文件格式(BMP)。在该实施例中,输入图像可选地是计算机生成的图像。
随着接收到输入图像,处理器使用检测到的注视方向来确定输入图像的视觉精度区域。在实施例中,视觉精度区域指的是输入图像中的所检测到的用户双眼的注视方向可以在该处聚焦的区域。具体地,视觉精度区域可以是输入图像内所感兴趣的区域(或固定点),并且可以被投影到用户双眼的中央凹上。此外,视觉精度区域可以是输入图像内的聚焦区域。因此,显而易见地,当通过人类视觉***查看输入图像时,视觉精度区域指的是与输入图像的其他区域相比包含更多细节的区域。
此外,在确定了输入图像的视觉精度区域后,处理器被配置成处理输入图像以生成背景图像和聚焦图像,背景图像具有第一分辨率,而聚焦图像具有第二分辨率。第二分辨率高于第一分辨率。聚焦图像基本上对应于输入图像的视觉精度区域。此外,背景图像对应于输入图像的低分辨率表示。因此,背景图像包括输入图像的视觉精度区域与输入图像的剩余区域。具体地,背景图像的尺寸大于聚焦图像的尺寸,这是由于聚焦图像仅与背景图像中的所检测到的眼睛注视方向可在该处聚焦的一部分对应。
在实施例中,可以根据角分辨率来理解第一分辨率和第二分辨率。具体地,指示第二分辨率的像素/度(pixels per degree)高于指示第一分辨率的像素/度。在示例中,用户眼睛的中央凹与2度的视场对应,并且接收角横截面宽度等于114像素(指示每度57像素)的聚焦图像的投影。因此,与聚焦图像对应的角像素大小等于2/114或0.017。此外,在该示例中,眼睛的视网膜与180度的视场对应,并且接收角横截面宽度等于2700像素(指示每度15像素)的背景图像的投影。因此,与背景图像对应的角像素大小等于180/2700或0.067。如所计算的,与背景图像对应的角像素大小明显大于与聚焦图像对应的角像素大小。然而,与聚焦图像相比,针对背景图像的由像素的总数量指示的感知角分辨率可以更大,这是由于聚焦图像仅与背景图像的一部分对应,其中,该部分对应于输入图像的视觉精度区域。
随着背景图像和聚焦图像的生成,背景图像中的与输入图像的视觉精度区域基本上对应的区域被遮蔽。具体地,处理器可以执行该遮蔽以隐藏(或模糊)背景图像中的与输入图像的视觉精度区域对应的区域。更具体地,遮蔽背景图像中的与输入图像的视觉精度区域基本上对应的区域涉及修改在至少一个背景显示器上呈现的内容(具体为背景图像),以使至少一个投影表面的亮度和/或色度特性保持不变。例如,背景图像中的与输入图像的视觉精度区域对应的像素可变暗(或变黑)以进行遮蔽。此外,聚焦图像基本上对应于输入图像的视觉精度区域,同时第二分辨率高于第一分辨率。
此外,处理器被配置成在至少一个背景显示器上呈现背景图像,以及通过至少一个聚焦图像投影仪在至少一个投影表面上呈现聚焦图像。
此外,处理器被配置成控制图像转向单元以调整所呈现的聚焦图像在至少一个投影表面上的投影的位置,以使所呈现的聚焦图像的投影与所呈现的背景图像的遮蔽区域的投影基本上重叠。处理器被配置成基本上同时执行以下操作:呈现背景图像、呈现聚焦图像以及控制图像转向单元。具体地,聚焦图像在所呈现的背景图像的投影上的重叠投影可共同构成输入图像的投影。背景图像和聚焦图像被基本上同时呈现以避免在它们的投影重叠(或叠加)期间发生迟滞。
如前面所描述的,所呈现的背景图像的投影的角宽度大于所呈现的聚焦图像的投影的角宽度。这可能归因于以下事实:所呈现的聚焦图像通常投影在眼睛的中央凹上及周围,然而所呈现的背景图像投影在眼睛的视网膜上,眼睛的中央凹仅是视网膜的一小部分。具体地,所呈现的背景图像和聚焦图像的组合构成输入图像并且可被投影到眼睛上以将输入图像投影在眼睛上。
在实施例中,本文中所使用的“图像转向单元”涉及用于对所呈现的聚焦图像在至少一个投影表面上的投影的位置进行控制的设备(诸如光学元件、机电部件等)。具体地,图像转向单元可以包括至少一个元件/部件。可选地,图像转向单元还可以操作成对在至少一个背景显示器上呈现的背景图像的投影进行控制。
在上述实施例中,图像转向单元使所呈现的聚焦图像的投影与所呈现的背景图像的遮蔽区域的投影基本上重叠,以避免输入图像的视觉精度区域的失真。具体地,输入图像的视觉精度区域出现在所呈现的低分辨率背景图像和所呈现的高分辨率聚焦图像两者内。同一区域的低分辨率图像和高分辨率图像的投影的重叠(或叠加)会导致同一区域的外观失真。此外,与所呈现的低分辨率背景图像相比,所呈现的高分辨率聚焦图像可以包含与输入图像的视觉精度区域有关的更多信息。因此,将背景图像中的与输入图像的视觉精度区域的基本上对应的区域遮蔽,以无失真地投影所呈现的高分辨率聚焦图像。
如前面在实施例中所描述的,处理器可以被配置成遮蔽背景图像的与输入图像的视觉精度区域对应的区域。具体地,可以执行该遮蔽以使所显示的输入图像的视觉精度区域和所显示的输入图像的剩余区域之间的过渡区接缝(或边缘)最小。需要理解的是,所显示的输入图像的视觉精度区域对应于聚焦图像(以及背景图像的遮蔽区域)的投影,而所显示的输入图像的剩余区域对应于背景图像的投影。具体地,该遮蔽应以渐变的方式执行以在背景图像和聚焦图像重叠(或叠加)时使过渡区接缝最小,从而使得所显示的输入图像表现为连续。例如,处理器可以使与输入图像的视觉精度区域对应的背景图像的像素明显变暗,并随着背景图像与输入图像的视觉精度区域的距离的增大逐渐减少像素变暗的量。如果对所呈现的背景图像和聚焦图像的叠加(或重叠)投影的对齐及外观是不正确的和/或具有不连续性,则所显示的输入图像也会是不正确的。
可选地,遮蔽背景图像的与输入图像的视觉精度区域基本对应的区域可通过以下方式执行:在过渡区处的背景图像和聚焦图像之间使用相反值的线性透明遮蔽混合模式、包含自然地难以被用户的眼睛检测的形状的隐藏(或伪装)图案等。
根据实施例,至少一个背景显示器可以包括多层结构,并且其中,通过该多层结构中的至少一个层来实现至少一个投影表面。具体地,用于实现至少一个投影表面的至少一个层可以机械接合和/或电耦接到至少一个背景显示器的多层结构中的其它层。更具体地,用于实现至少一个投影表面的至少一个层可以具有有助于在其上投影聚焦图像的特定透射率和反射率规格。该特定透射率和反射率规格可以取决于以下在本文中所描述的聚焦图像的投影侧(诸如前侧和/或后侧)。在一示例中,该至少一个投影表面可以是非透明(例如不透光)表面。在另一示例中,该至少一个投影表面可以是半透明表面。
在实施例中,聚焦图像可以从至少一个投影表面的前侧投影到该至少一个投影表面的至少一个层上。在这种情况下,用于实现至少一个投影表面的至少一个层可以设置成基本上反射聚焦图像的投影。在另一实施例中,聚焦图像可以从至少一个投影表面的后侧投影到该至少一个投影表面的至少一个层上。在这种情况下,用于实现至少一个投影表面的至少一个层可以设置成使得聚焦图像的投影能够基本上通过。在又一实施例中,聚焦图像可以从至少一个投影表面的前侧和后侧两侧投影到该至少一个投影表面的至少一个层上。在这种情况下,用于实现至少一个投影表面的至少一个层可以设置成部分反射聚焦图像的投影以及使得聚焦图像的投影能够部分通过。可选地,用于实现至少一个投影表面的至少一个层可以设置成至少部分地吸收聚焦图像的投影。
可选地,至少一个背景显示器的多层结构可以包括但不限于诸如滤色器、封装玻璃、衬底上的背板(诸如玻璃,聚酰亚胺等)、保护膜、顶部和/或底部偏振片的层。具体地,该层的特性(或属性)可以是可调整的并且可以有助于将聚焦图像更好地投影在至少一个背景显示器的至少一个投影表面上。
根据一实施例,至少一个投影表面可以设置成使得所呈现的背景图像的投影能够基本上通过。根据另一实施例,该至少一个投影表面可以设置成基本上反射所呈现的背景图像的投影。
在实施例中,可以通过在至少一个背景显示器的前侧或该至少一个背景显示器的后侧上的光学涂层来实现至少一个投影表面。具体地,可以利用光学涂层来实现适用于在其上呈现聚焦图像的特定透射率和反射率规格。更具体地,光学涂层的特定透射率和反射率规格可以取决于至少一个背景显示器的实施有光学涂层的一侧。在一示例中,当在至少一个背景显示器的前侧实施光学涂层时,该光学涂层可以基本上反射聚焦图像的投影。在另一示例中,当在至少一个背景显示器的后侧实施光学涂层时,该光学涂层可以使聚焦图像的投影基本上通过。可选地,还可以在该至少一个背景显示器的上侧实施光学涂层。
在另一实施例中,可以通过偏振片或延迟片来实现至少一个投影表面。具体地,诸如偏振片或延迟片之类的光学设备的固有属性可以有助于使用该光学设备以在至少一个投影表面上呈现聚焦图像。例如,可以通过吸收型线偏振片来实现至少一个投影表面。在该示例中,吸收型线偏振片可以具有一固有属性:当来自至少一个聚焦图像投影仪的聚焦图像的投影的偏振方向与该吸收型线偏振片的偏振方向对应时,该吸收型线偏振片基本上反射所呈现的聚焦图像的投影。此外,在该示例中,吸收型线偏振片可以具有另一固有属性:当来自至少一个聚焦图像投影仪的聚焦图像的投影的偏振方向与该吸收型线偏振片的偏振方向不对应时,该吸收型线偏振片吸收所呈现的聚焦图像的投影。
根据本公开的实施例,该至少一个背景显示器可以包括具有像素布局的层,该层使得所呈现的聚焦图像的投影能够基本上通过。具体地,该像素布局可以是至少一个背景显示器的像素的网格状布置。在实施例中,像素布局可以包括布置成在相邻像素之间形成半透明区域的多个像素。具体地,该多个像素可以稀疏地分散在网格状布置中并且可以在相邻像素之间具有较大的间隔。相邻像素之间的间隔构成它们之间的半透明区域。因此,该至少一个背景显示器的具有上述像素布局的层具有低分辨率(或低像素密度)。此外,上述层使得所呈现的聚焦图像的投影能够基本上通过该层。具体地,处理器可以对聚焦图像进行处理以使高分辨率的聚焦图像的投影在投影到该层的后侧时通过该层来投影。更具体地,可以使用诸如微透镜、微棱镜等之类的光学元件在像素布局的顶部显示高分辨率的经背投的聚焦图像。
在一个实施例中,至少一个背景显示器包括至少一个层,该至少一个层具有用于使所呈现的聚焦图像的投影能够基本上通过的光波导。具体地,光波导可以是半透明的,从而使得聚焦图像的投影能够通过该光波导。可选地,具有光波导的该至少一个层可以位于至少一个投影表面和至少一个聚焦图像投影仪之间的光路上。在实施例中,光波导中还可以包括诸如微棱镜、微透镜、反射镜、衍射光学器件等等之类的光学元件。
在实施例中,图像转向单元可以包括用于使聚焦图像投影仪相对于至少一个投影表面运动的至少一个第一驱动器,其中,处理器被配置成控制该至少一个第一驱动器以调整所呈现的聚焦图像在该至少一个投影表面上的投影的位置。具体地,当眼睛的注视方向从一个方向偏移到另一方向时,该至少一个第一驱动器可以使至少一个聚焦图像投影仪运动。在这种情况下,至少一个聚焦图像投影仪和至少一个投影表面的布置方式可能不能将所呈现的聚焦图像最佳地投影到眼睛的中央凹上及周围。因此,处理器可以控制至少一个第一驱动器以使至少一个聚焦图像投影仪相对于至少一个投影表面运动,从而调整所呈现的聚焦图像在该至少一个投影表面上的投影的位置,以使即使在沿注视方向发生移位时所呈现的聚焦图像也可以投影在眼睛的中央凹上及周围。更具体地,处理器可以通过生成驱动信号(诸如电流、液压等)来控制该至少一个第一驱动器。
在示例中,至少一个第一驱动器可以使该至少一个聚焦图像投影仪靠近或远离至少一个投影表面。在另一示例中,至少一个第一驱动器可以使至少一个聚焦图像投影仪相对于至少一个投影表面侧向运动。在又一示例中,至少一个第一驱动器可以使至少一个聚焦图像投影仪相对于至少一个投影表面倾斜和/或旋转。
根据实施例,图像转向单元可以包括至少一个光学元件和至少一个第二驱动器,该至少一个光学元件位于至少一个投影表面和至少一个聚焦图像投影仪之间的光路上,该至少一个第二驱动器用于使该至少一个光学元件相对于该至少一个聚焦图像投影仪运动。该至少一个光学元件可以选自包括以下各项的分组:透镜、棱镜、反射镜和分束器。此外,在该实施例中,处理器被配置成控制该至少一个第二驱动器以调整所呈现的聚焦图像在至少一个投影表面上的投影的位置。具体地,该至少一个光学元件可以改变将所呈现的聚焦图像投影在至少一个投影表面上的光路,以使得即使在沿注视方向发生移位时也有助于将所呈现的聚焦图像投影在眼睛的中央凹上及周围。更具体地,处理器可以通过生成驱动信号(诸如电流、液压等)来控制该至少一个第二驱动器。
例如,棱镜可以位于投影表面和聚焦图像投影仪之间的光路上。具体地,投影所呈现的聚焦图像的光路可以在通过棱镜时改变以调整所呈现的聚焦图像在投影表面上的投影的位置。此外,可以通过第二驱动器使棱镜横向和/或侧向运动、旋转、倾斜等,以使得即使在沿注视方向发生移位时也有助于将所呈现的聚焦图像投影到眼睛的中央凹上及周围。
在实施例中,位于至少一个投影表面和至少一个聚焦图像投影仪之间的光路上的电控光学组件(诸如一个或更多个LC透镜)可以用来调整所呈现的聚焦图像在该至少一个投影表面上的投影的位置。
根据另一实施例,图像转向单元可以包括用于使至少一个投影表面运动的至少一个第三驱动器,其中,处理器被配置成控制该至少一个第三驱动器以调整所呈现的聚焦图像在至少一个投影表面上的投影的位置。具体地,该至少一个第三驱动器可以使至少一个投影表面运动以使得即使在沿注视方向发生移位时也有助于将所呈现的聚焦图像投影在眼睛的中央凹上及周围。更具体地,处理器可以通过生成驱动信号(诸如电流、液压等)来控制该至少一个第三驱动器。
在一示例中,至少一个第三驱动器可以使至少一个投影表面靠近或远离至少一个聚焦图像投影仪。在另一示例中,至少一个第三驱动器可以使至少一个投影表面相对于至少一个聚焦图像投影仪侧向运动。在又一示例中,至少一个第三驱动器可以使至少一个投影表面倾斜和/或旋转。
在实施例中,显示装置可以包括至少一个聚焦透镜和至少一个第四驱动器,该至少一个聚焦透镜位于至少一个投影表面和至少一个聚焦图像投影仪之间的光路上,该至少一个第四驱动器用于使该至少一个聚焦透镜相对于该至少一个聚焦图像投影仪运动。在该实施例中,处理器被配置成控制该至少一个第四驱动器以调整所呈现的聚焦图像的投影的焦点。具体地,该至少一个聚焦透镜可以利用其特有的属性通过改变光路来调整所呈现的聚焦图像的投影的焦点。更具体地,可以调整所呈现的聚焦图像的投影的焦点以适应屈光度调节、散光度校正等。此外,处理器可以通过生成驱动信号(诸如电流、液压等)来控制该至少一个第四驱动器。
在实施例中,该至少一个聚焦透镜可以包括液晶透镜(LC透镜)或其他电控光学元件。
在实施例中,处理器可以针对至少一个投影表面实施图像处理功能。具体地,可以在将背景图像呈现在至少一个背景显示器上以及将聚焦图像呈现在至少一个投影表面上之前实施图像处理功能。更具体地,该图像处理功能的实施可以优化所呈现的背景图像和聚焦图像的质量。因此,可以通过将至少一个投影表面、至少一个背景显示器的属性和输入图像的属性考虑在内来选择图像处理功能。
根据实施例,针对至少一个投影表面的图像处理功能可以包括用于优化感知到的背景图像质量和/或聚焦图像质量的至少一个功能,该至少一个功能选自包括以下各项的分组:低通滤波、色彩处理和伽马校正。在实施例中,针对至少一个投影表面的图像处理功能还可以包括边缘处理以使所呈现的背景图像和聚焦图像的组合投影的边界上的感知失真最小化。
可选地,上述提及的显示装置可以用来接收另一输入图像、对该另一输入图像进行处理以生成另一聚焦图像和背景图像,以及呈现另一聚焦图像和背景图像,同时设置成将所呈现的另一聚焦图像和背景图像的投影结合来创建视觉场景。在示例中,该另一输入图像可以从与用户相关联的头戴式虚拟现实设备的摄像机中接收。
本说明书还涉及一种如上所述的方法。以上公开的各实施例和变型同样适用于该方法。更具体地,可以通过控制图像转向单元的至少一个第一驱动器以使聚焦图像投影仪相对于至少一个投影表面运动来调整所呈现的聚焦图像的投影的位置。还可以通过控制图像转向单元的至少一个第二驱动器以使图像转向单元的至少一个光学元件相对于至少一个聚焦图像投影仪运动来调整所呈现的聚焦图像的投影的位置,其中,该至少一个光学元件位于至少一个投影表面和至少一个聚焦图像投影仪之间的光路上。
根据另一实施例,通过控制图像转向单元的至少一个第三驱动器以使至少一个投影表面运动来调整所呈现的聚焦图像的投影的位置。该方法还可以包括通过控制显示装置的至少一个第四驱动器以使显示装置的至少一个聚焦透镜相对于至少一个聚焦图像投影仪运动来调整所呈现的聚焦图像的投影的焦点,其中,该至少一个聚焦透镜位于至少一个投影表面和至少一个聚焦图像投影仪之间的光路上。
具体附图说明
参照图1,其示出了根据本公开的实施例的显示装置100的示例性结构的框图。显示装置100包括用于呈现背景图像的至少一个背景显示器102和用于呈现聚焦图像的至少一个聚焦图像投影仪106,所述至少一个背景显示器102包括至少一个投影表面104。进行布置以将所呈现的聚焦图像的投影与所呈现的背景图像的投影结合来创建视觉场景。
参照图2,其示出了根据本公开的另一实施例的显示装置200的示例性结构的框图。显示装置200包括用于呈现背景图像的至少一个背景显示器202、用于呈现聚焦图像的至少一个聚焦图像投影仪206、图像转向单元208、用于检测注视方向的装置210和处理器212,所述至少一个背景显示器202包括至少一个投影表面204。处理器212与图像转向单元208和用于检测注视方向的装置210通信耦接。此外,处理器212还耦接到至少一个背景显示器202和至少一个聚焦图像投影仪206。
参照图3,其示出了根据本公开的实施例的显示装置300的示例性实现方式。如所示出的,显示装置300包括至少一个背景显示器(描述为背景显示器302)、至少一个聚焦图像投影仪、用于检测注视方向的装置(未示出)、处理器(未示出)和图像转向单元(未示出),该至少一个背景显示器包括至少一个投影表面(未示出),该至少一个聚焦图像投影仪包括至少两个聚焦图像投影仪(描述为两个聚焦图像投影仪304A和304B)。本文中所描述的背景显示器302共享地用于用户的两只眼睛。显示装置300的处理器被配置成在背景显示器302上呈现背景图像306。具体地,背景图像306可以由用于用户双眼的各个背景图像共同构成。此外,显示装置300的处理器被配置成分别通过两个聚焦图像投影仪304A和304B在至少一个投影表面(未示出)上呈现聚焦图像(描述为两个聚焦图像308A和308B)。在这种情况下,聚焦图像308A用于用户的左眼,而聚焦图像308B用于用户的右眼。如所示出的,从包括在背景显示器302中的至少一个投影表面的前侧投影聚焦图像308A,并从该至少一个投影表面的后侧投影聚焦图像308B。
参照图4,其示出了根据本公开的实施例的示例性背景显示器400的分解图。如所示出的,背景显示器400包括多层结构(描述为层402、层404、层406、层408和层410)。此外,层402设置在背景显示器400的前侧,而层410设置在背景显示器400的后侧。背景显示器400包括至少一个投影表面,以使得通过该多层结构中的至少一层(描述为层402和层404)来实现该至少一个投影表面。具体地,通过在背景显示器400的前侧的层402上的光学涂层来实现该至少一个投影表面。此外,通过由层404表示的偏振片来实现该至少一个投影表面。层406表示滤色片或封装玻璃。层408表示构建在衬底上的背板,诸如玻璃,聚酰亚胺等。此外,层410表示底部偏振片、顶部偏振片或保护膜中任一个。可选地,层402可以表示光学透明硬涂层,该光学透明硬涂层可以耐刮擦,从而保护背景显示器400。在这种情况下,仅通过所描绘的示例性背景显示器400的层404来实现该至少一个投影表面。
参照图5,其示出了根据本公开的实施例的示例性背景显示器(诸如图4的示例性背景显示器400)的层500的示意图。如所示出的,层500具有像素布局,该像素布局包括多个像素(描述为像素502、像素504和像素506)。具体地,像素布局是多个像素502、504和506的网格状布置。此外,该多个像素502、504和506布置成在相邻像素之间形成半透明区域。因此,该示例性背景显示器的具有上述像素布局的层500具有低分辨率(或低像素密度)。
参照图6,其示出了根据本公开的实施例的图5的背景显示器的层500的示意图。如所示出的,层500使得所呈现的聚焦图像的投影能够基本上通过。具体地,可以从层500的后侧和/或前侧投影聚焦图像。更具体地,所呈现的聚焦图像的投影包括多个像素(描述为像素602、像素604、像素606和像素608),以使得相比较层500的多个像素502、504和506而言,该多个像素具有更高的分辨率(更高的像素密度)。具体地,在多个像素502、504和506上方看到多个像素602、604、606和608。在示例中,在像素502的上方看到像素606和像素608。
参照图7,其示出了根据本公开的实施例的通过显示装置(诸如图1的显示装置100)进行显示的方法700。在步骤702中,通过至少一个背景显示器呈现背景图像,其中,所呈现的背景图像的投影的角宽度介于40度至220度之间。在步骤704中,通过至少一个聚焦图像投影仪来呈现聚焦图像,其中,所呈现的聚焦图像的投影的角宽度介于5度至60度之间。在步骤706中,将所呈现的聚焦图像的投影与所呈现的背景图像的投影结合来创建视觉场景。
此处步骤702至步骤706仅是说明性的,并且此处在不脱离权利要求的范围的情况下,也可以提供其中增加一个或多个步骤、移除一个或多个步骤或者以不同的顺序提供一个或多个步骤的其他替代方案。在示例中,方法700还可以包括检测注视方向并使用检测到的注视方向来确定输入图像的视觉精度区域,处理输入图像以生成背景图像和聚焦图像,背景图像具有第一分辨率,而聚焦图像具有第二分辨率,第二分辨率高于第一分辨率,以及控制图像转向单元来调整所呈现的聚焦图像在至少一个投影表面上的投影的位置,以使所呈现的聚焦图像的投影与所呈现的背景图像的遮蔽区域的投影基本上重叠。上述处理包括遮蔽背景图像中的与输入图像的视觉精度区域基本上对应的区域,并生成与输入图像的视觉精度区域基本对应的聚焦图像。此外,基本上同时执行以下步骤:呈现聚焦图像和背景图像、以及控制图像转向单元。可选地,在方法700中,可以通过控制图像转向单元的至少一个第一驱动器以使聚焦图像投影仪相对于至少一个投影表面运动来调整所呈现的聚焦图像的投影的位置。更可选地,在方法700中,可以通过控制图像转向单元的至少一个第二驱动器以使图像操纵单元的至少一个光学元件相对于至少一个聚焦图像投影仪运动来调整所呈现的聚焦图像的投影的位置,其中,该至少一个光学元件位于至少一个投影表面和至少一个聚焦图像投影仪之间的光路上。在一示例中,在方法700中,可以通过控制图像转向单元的至少一个第三驱动器以使至少一个投影表面运动来调整所呈现的聚焦图像的投影的位置。在另一示例中,该方法700还可以包括通过控制显示装置的至少一个第四驱动器以使该显示装置的至少一个聚焦透镜相对于至少一个聚焦图像投影仪运动来调整所呈现的聚焦图像的投影的焦点,其中,该至少一个聚焦透镜位于至少一个投影表面和至少一个聚焦图像投影仪之间的光路上。
在不脱离所附权利要求所限定的本公开的范围的情况下,可以对前述的本公开的实施例做出修改。诸如“包括”、“包含”、“结合”、“具有”、“为”之类的用于描述和提出本公开的表述旨在于以非排他性的方式来理解,即允许存在未明确描述的项、部件或元件。对单数的提及也可以被理解成涉及复数。
Claims (16)
1.一种显示装置,包括:
-至少一个背景显示器,用于呈现背景图像,其中,所呈现的背景图像的投影的角宽度介于40度至220度之间,所述至少一个背景显示器包括至少一个投影表面;
-至少一个聚焦图像投影仪,用于呈现聚焦图像,其中,所呈现的聚焦图像的投影的角宽度介于5度至60度之间;
-图像转向单元,包括至少一个第一驱动器、至少一个第二驱动器和至少一个光学元件,其中,所述至少一个第一驱动器用于使所述至少一个聚焦图像投影仪相对于所述至少一个投影表面运动,所述至少一个第二驱动器用于使所述至少一个光学元件相对于所述至少一个聚焦图像投影仪运动,所述至少一个光学元件位于所述至少一个投影表面和所述至少一个聚焦图像投影仪之间的光路上;
-用于检测注视方向的装置;
-处理器,与所述图像转向单元和用于检测注视方向的所述装置以通信方式耦接,其中,所述处理器被配置成:
(a)接收输入图像,并使用所检测的注视方向来确定所述输入图像的视觉精度区域;
(b)处理所述输入图像以生成背景图像和聚焦图像,所述背景图像具有第一分辨率,所述聚焦图像具有第二分辨率,其中:
-遮蔽所述背景图像中的与所述输入图像的视觉精度区域对应的区域,
-所述聚焦图像对应于所述输入图像的视觉精度区域,以及
-所述第二分辨率高于所述第一分辨率;
(c)在所述至少一个背景显示器上呈现所述背景图像;
(d)通过所述至少一个聚焦图像投影仪在所述至少一个投影表面上呈现所述聚焦图像;
(e)控制所述图像转向单元的至少一个第二驱动器以调整所呈现的聚焦图像在所述至少一个投影表面上的投影的位置,以使所呈现的聚焦图像的投影与所呈现的背景图像的遮蔽区域的投影重叠,
其中,所述处理器被配置成同时执行(c)、(d)和(e),并且进行布置以将所呈现的聚焦图像的投影与所呈现的背景图像的投影相结合来创建视觉场景。
2.根据权利要求1所述的显示装置,其中,所述至少一个背景显示器包括多层结构,并且其中,所述至少一个投影表面是通过该多层结构中的至少一个层来实现的。
3.根据权利要求1所述的显示装置,其中,所述至少一个投影表面是通过在所述至少一个背景显示器的前侧或所述至少一个背景显示器的后侧上的光学涂层来实现的。
4.根据权利要求1所述的显示装置,其中,所述至少一个投影表面是通过偏振片或延迟片来实现的。
5.根据权利要求1所述的显示装置,其中,所述至少一个背景显示器包括具有像素布局的层,所述层使得所呈现的聚焦图像的投影能够通过。
6.根据权利要求5所述的显示装置,其中,所述像素布局包括多个像素,所述多个像素布置成在相邻像素之间形成半透明区域。
7.根据权利要求1所述的显示装置,其中,所述至少一个背景显示器包括至少一个层,所述至少一个层具有使所呈现的聚焦图像的投影能够通过的光波导。
8.根据权利要求1所述的显示装置,其中,所述处理器被配置成控制所述至少一个第一驱动器以调整所呈现的聚焦图像在所述至少一个投影表面上的投影的位置。
9.根据权利要求1所述的显示装置,其中,所述至少一个光学元件选自包括以下各项的分组:透镜、棱镜、反射镜和分束器。
10.根据权利要求1所述的显示装置,其中,所述图像转向单元包括用于使所述至少一个投影表面运动的至少一个第三驱动器,其中,所述处理器被配置成控制所述至少一个第三驱动器以调整所呈现的聚焦图像在所述至少一个投影表面上的投影的位置。
11.根据权利要求1所述的显示装置,其中,所述显示装置包括:
-至少一个聚焦透镜,其位于所述至少一个投影表面和所述至少一个聚焦图像投影仪之间的光路上;以及
-至少一个第四驱动器,用于使所述至少一个聚焦透镜相对于所述至少一个聚焦图像投影仪运动,
其中,所述处理器被配置成控制所述至少一个第四驱动器以调整所呈现的聚焦图像的投影的焦点。
12.根据权利要求1所述的显示装置,其中,所述背景显示器选自包括以下各项的分组:液晶显示器、基于发光二极管的显示器、基于有机发光二极管的显示器、基于微有机发光二极管的显示器和基于硅基液晶的显示器。
13.根据权利要求1所述的显示装置,其中,所述聚焦图像投影仪选自包括以下各项的分组:基于液晶显示器的投影仪、基于发光二极管的投影仪、基于有机发光二极管的显示器、基于硅基液晶的投影仪、基于数字光处理的投影仪和激光投影仪。
14.一种通过显示装置进行显示的方法,所述显示装置包括至少一个背景显示器和至少一个聚焦图像投影仪,所述至少一个背景显示器包括至少一个投影表面,所述方法包括:
(i)通过所述至少一个背景显示器呈现背景图像,其中,所呈现的背景图像的投影的角宽度介于40度至220度之间;
(ii)通过所述至少一个聚焦图像投影仪呈现聚焦图像,其中,所呈现的聚焦图像的投影的角宽度介于5度至60度之间;以及
(iii)将所呈现的聚焦图像的投影与所呈现的背景图像的投影相结合来创建视觉场景;
其中,所述显示装置还包括图像转向单元、用于检测注视方向的装置以及与图像转向单元和用于检测注视方向的装置以通信方式耦接的处理器,并且所述方法还包括:
(iv)检测注视方向,并使用所检测的注视方向来确定输入图像的视觉精度区域;
(v)处理所述输入图像以生成背景图像和聚焦图像,所述背景图像具有第一分辨率,所述聚焦图像具有第二分辨率,所述第二分辨率高于所述第一分辨率,其中,所述处理包括:
-遮蔽所述背景图像中的与所述输入图像的视觉精度区域对应的区域,
-生成与所述输入图像的视觉精度区域对应的聚焦图像;以及
(vi)控制所述图像转向单元以调整所呈现的聚焦图像在所述至少一个投影表面上的投影的位置,以使所呈现的聚焦图像的投影与所呈现的背景图像的遮蔽区域的投影重叠,
其中,(i)、(ii)和(vi)同时执行;
其中,通过控制所述图像转向单元的至少一个第一驱动器以使所述至少一个聚焦图像投影仪相对于所述至少一个投影表面运动来调整所呈现的聚焦图像的投影的位置;
通过控制所述图像转向单元的至少一个第二驱动器以使所述图像转向单元的至少一个光学元件相对于所述至少一个聚焦图像投影仪运动来调整所呈现的聚焦图像的投影的位置,其中,所述至少一个光学元件位于所述至少一个投影表面和所述至少一个聚焦图像投影仪之间的光路上。
15.根据权利要求14所述的方法,其中,通过控制所述图像转向单元的至少一个第三驱动器以使所述至少一个投影表面运动来调整所呈现的聚焦图像的投影的位置。
16.根据权利要求14所述的方法,还包括:通过控制所述显示装置的至少一个第四驱动器以使所述显示装置的至少一个聚焦透镜相对于所述至少一个聚焦图像投影仪运动来调整所呈现的聚焦图像的投影的焦点,其中,所述至少一个聚焦透镜位于所述至少一个投影表面和所述至少一个聚焦图像投影仪之间的光路上。
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/366,497 | 2016-12-01 | ||
US15/366,424 | 2016-12-01 | ||
US15/366,424 US9711072B1 (en) | 2016-12-01 | 2016-12-01 | Display apparatus and method of displaying using focus and context displays |
US15/366,497 US9711114B1 (en) | 2016-12-01 | 2016-12-01 | Display apparatus and method of displaying using projectors |
US15/372,973 US9710887B1 (en) | 2016-12-01 | 2016-12-08 | Display apparatus and method of displaying using context display and projectors |
US15/372,973 | 2016-12-08 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107959838A CN107959838A (zh) | 2018-04-24 |
CN107959838B true CN107959838B (zh) | 2019-03-08 |
Family
ID=61962213
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711209444.6A Active CN107959838B (zh) | 2016-12-01 | 2017-11-27 | 显示装置及通过该显示装置进行显示的方法 |
Country Status (6)
Country | Link |
---|---|
EP (1) | EP3330773B1 (zh) |
JP (2) | JP6741643B2 (zh) |
KR (1) | KR20180062953A (zh) |
CN (1) | CN107959838B (zh) |
HK (1) | HK1247485B (zh) |
SG (1) | SG10201709801UA (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10955685B2 (en) * | 2018-12-28 | 2021-03-23 | Lightspace Technologies, SIA | Volumetric display arrangement and a method for representing content of an image |
JPWO2021049473A1 (zh) | 2019-09-09 | 2021-03-18 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4479784A (en) * | 1981-03-03 | 1984-10-30 | The Singer Company | Eye line-of-sight responsive wide angle visual system |
EP0618471A2 (en) * | 1993-03-29 | 1994-10-05 | Canon Kabushiki Kaisha | Image display apparatus and image photographing apparatus therefor |
US5394203A (en) * | 1994-06-06 | 1995-02-28 | Delco Electronics Corporation | Retracting head up display with image position adjustment |
US5956180A (en) * | 1996-12-31 | 1999-09-21 | Bass; Robert | Optical viewing system for asynchronous overlaid images |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2741063B2 (ja) * | 1989-05-02 | 1998-04-15 | 株式会社エイ・ティ・アール通信システム研究所 | 広視野表示装置 |
JPH08313843A (ja) * | 1995-05-16 | 1996-11-29 | Agency Of Ind Science & Technol | 視線追従方式による広視野高解像度映像提示装置 |
JPH11109278A (ja) * | 1997-10-03 | 1999-04-23 | Minolta Co Ltd | 映像表示装置 |
US7488072B2 (en) * | 2003-12-04 | 2009-02-10 | New York University | Eye tracked foveal display by controlled illumination |
JP2005202221A (ja) * | 2004-01-16 | 2005-07-28 | Toshiba Corp | 表示装置 |
JP4765024B2 (ja) * | 2004-12-13 | 2011-09-07 | 国立大学法人東北大学 | 光出射方向変換機能を有するフィルムを用いたスクリーンおよびプロジェクションディスプレイシステム光学系 |
JP4735234B2 (ja) * | 2005-12-19 | 2011-07-27 | ブラザー工業株式会社 | 画像表示システム |
KR100773668B1 (ko) * | 2006-03-15 | 2007-11-05 | (주)케이티에프테크놀로지스 | 영상 오버레이 기능을 가지는 영상 처리 장치, 이를 가지는휴대용 단말기 및 영상 오버레이 방법 |
US8269692B2 (en) * | 2007-11-20 | 2012-09-18 | Panasonic Corporation | Image display apparatus, display method thereof, program, integrated circuit, goggle-type head-mounted display, vehicle, binoculars, and desktop display |
JP2010153983A (ja) * | 2008-12-24 | 2010-07-08 | Panasonic Electric Works Co Ltd | 投影型映像表示装置および該方法 |
JP5515405B2 (ja) * | 2009-05-15 | 2014-06-11 | セイコーエプソン株式会社 | 映像処理装置、映像表示装置および映像処理方法 |
US9025252B2 (en) * | 2011-08-30 | 2015-05-05 | Microsoft Technology Licensing, Llc | Adjustment of a mixed reality display for inter-pupillary distance alignment |
US8638498B2 (en) * | 2012-01-04 | 2014-01-28 | David D. Bohn | Eyebox adjustment for interpupillary distance |
JP2014059432A (ja) * | 2012-09-18 | 2014-04-03 | Seiko Epson Corp | 画像表示システム |
TWI548079B (zh) * | 2013-04-16 | 2016-09-01 | 友達光電股份有限公司 | 透明顯示器及透明顯示面板 |
JP2016191845A (ja) * | 2015-03-31 | 2016-11-10 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
-
2017
- 2017-11-27 EP EP17203681.6A patent/EP3330773B1/en active Active
- 2017-11-27 CN CN201711209444.6A patent/CN107959838B/zh active Active
- 2017-11-27 JP JP2017226386A patent/JP6741643B2/ja active Active
- 2017-11-27 KR KR1020170160672A patent/KR20180062953A/ko not_active Application Discontinuation
- 2017-11-27 SG SG10201709801UA patent/SG10201709801UA/en unknown
-
2018
- 2018-05-17 HK HK18106455.5A patent/HK1247485B/zh unknown
-
2019
- 2019-02-14 JP JP2019024132A patent/JP2019106723A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4479784A (en) * | 1981-03-03 | 1984-10-30 | The Singer Company | Eye line-of-sight responsive wide angle visual system |
EP0618471A2 (en) * | 1993-03-29 | 1994-10-05 | Canon Kabushiki Kaisha | Image display apparatus and image photographing apparatus therefor |
US5394203A (en) * | 1994-06-06 | 1995-02-28 | Delco Electronics Corporation | Retracting head up display with image position adjustment |
US5956180A (en) * | 1996-12-31 | 1999-09-21 | Bass; Robert | Optical viewing system for asynchronous overlaid images |
Non-Patent Citations (1)
Title |
---|
From Focus to Context and Back:Combining Mobile Projectors and Stationary Displays;Martin Weigel ET AL.;《XP055467134》;20130423;全文 |
Also Published As
Publication number | Publication date |
---|---|
JP2018113675A (ja) | 2018-07-19 |
CN107959838A (zh) | 2018-04-24 |
JP6741643B2 (ja) | 2020-08-19 |
SG10201709801UA (en) | 2018-07-30 |
HK1247485B (zh) | 2019-11-29 |
KR20180062953A (ko) | 2018-06-11 |
EP3330773A1 (en) | 2018-06-06 |
EP3330773B1 (en) | 2020-06-24 |
JP2019106723A (ja) | 2019-06-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107959837B (zh) | 显示装置及通过该显示装置进行显示的方法 | |
CN107783298B (zh) | 显示装置及使用该显示装置进行显示的方法 | |
EP4071537B1 (en) | Multi-focal display system | |
Itoh et al. | Occlusion leak compensation for optical see-through displays using a single-layer transmissive spatial light modulator | |
CN111465887A (zh) | 包括具有透明发射显示器的目镜的增强现实显示器 | |
WO2018100240A1 (en) | Display apparatus image renderers and optical combiners | |
US10602033B2 (en) | Display apparatus and method using image renderers and optical combiners | |
WO2018100239A1 (en) | Imaging system and method of producing images for display apparatus | |
US10371998B2 (en) | Display apparatus and method of displaying using polarizers and optical combiners | |
CN110023815A (zh) | 显示装置和使用图像渲染器和光学组合器进行显示的方法 | |
WO2018100242A1 (en) | Display apparatus and method of displaying using optical combiners and context and focus image renderers | |
CN107148591A (zh) | 显示装置和显示控制方法 | |
CN107959838B (zh) | 显示装置及通过该显示装置进行显示的方法 | |
CN109997067A (zh) | 使用便携式电子设备的显示装置和方法 | |
CN110088662B (zh) | 成像***和产生背景图像和聚焦图像的方法 | |
Wetzstein et al. | State of the art in perceptual VR displays | |
JP3739348B2 (ja) | 三次元表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 1247485 Country of ref document: HK |
|
GR01 | Patent grant | ||
GR01 | Patent grant |