CN111417918B - 用于在头戴式显示器上渲染当前图像的方法、对应装置、计算机程序产品和计算机可读载体介质 - Google Patents
用于在头戴式显示器上渲染当前图像的方法、对应装置、计算机程序产品和计算机可读载体介质 Download PDFInfo
- Publication number
- CN111417918B CN111417918B CN201880077122.7A CN201880077122A CN111417918B CN 111417918 B CN111417918 B CN 111417918B CN 201880077122 A CN201880077122 A CN 201880077122A CN 111417918 B CN111417918 B CN 111417918B
- Authority
- CN
- China
- Prior art keywords
- roll angle
- capture
- current
- image
- angle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 45
- 238000009877 rendering Methods 0.000 title claims abstract description 43
- 238000004590 computer program Methods 0.000 title claims description 7
- 238000001514 detection method Methods 0.000 claims abstract description 46
- 230000003213 activating effect Effects 0.000 claims description 4
- 238000004891 communication Methods 0.000 claims description 3
- 210000003128 head Anatomy 0.000 description 34
- 230000033001 locomotion Effects 0.000 description 25
- 230000000694 effects Effects 0.000 description 11
- 230000006870 function Effects 0.000 description 9
- 201000003152 motion sickness Diseases 0.000 description 8
- 230000008447 perception Effects 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 230000001720 vestibular Effects 0.000 description 5
- 230000016776 visual perception Effects 0.000 description 4
- 238000012886 linear function Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000035807 sensation Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000009189 diving Effects 0.000 description 2
- 230000004886 head movement Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 206010028813 Nausea Diseases 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000007654 immersion Methods 0.000 description 1
- 206010025482 malaise Diseases 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000004377 microelectronic Methods 0.000 description 1
- 230000008693 nausea Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/37—Details of the operation on graphic patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
- G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0492—Change of orientation of the displayed image, e.g. upside-down, mirrored
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Optics & Photonics (AREA)
- User Interface Of Digital Computer (AREA)
- Processing Or Creating Images (AREA)
Abstract
提供了一种用于在头戴式显示器上渲染当前图像的方法。当前图像是由安装在运动对象上的相机采集的。首先,获得捕捉滚转角。将该捕捉滚转角与作为头戴式显示器的用户头部的当前滚转角的观看滚转角进行比较。如果捕捉滚转角和当前观看滚转角之间的差小于所确定的阈值,则激活检测标志。然后,将当前图像旋转根据捕捉滚转角、当前观看滚转角和检测标志而确定的角度。渲染经旋转的当前图像。
Description
技术领域
本公开涉及沉浸式***领域。更具体地,本公开涉及一种用于在头戴式显示器上渲染当前图像的技术,该技术允许减少可能损害沉浸式体验的令人不快的副作用,例如电子晕动症(motion cyber sickness)。
背景技术
本章节旨在向读者介绍本领域的各个方面,这些方面可能与下面描述和/或要求保护的本公开的各个方面相关。该讨论被认为有助于向读者提供背景信息,以便于更好地理解本公开的各个方面。因此,应理解,这些陈述应当从这个角度来理解,而不是作为对现有技术的承认。
得益于诸如头戴式显示器之类的设备,360度视频和虚拟现实体验现在涌入娱乐市场,从而允许观众沉浸在媒体的中心。然而,用户的沉浸式的体验可能会被通常所说的电子晕动症所改变。电子晕动症是虚拟现实的一种常见的副作用,当视觉感知的运动和前庭***的运动感觉之间存在分歧(即,大脑在身体感觉到的运动缺乏或不同步的情况下对协调眼睛看到的运动存在困难)时出现此副作用。因此,用户可能会感到令人不快的感觉,甚至可能使他恶心。当在显示设备(头戴式显示器)中渲染的场景是根据移动的视点采集的场景(例如,用嵌入在移动的车辆(汽车、过山车车厢等)中的相机捕捉的场景)时,这种副作用更可能发生。
存在一些方法可以减轻这种不适感,例如,增加屏幕分辨率,减少头部运动与图像效果之间的延迟,或者在用户的视场内添加一些固定的视觉参考对象(例如虚拟驾驶舱或虚拟鼻子)。然而,实施这些方法并不允许在所有情况下防止电子晕动症。具体而言,这些方法不足以防止当在头戴式显示器内的图像渲染涉及用户头部滚转运动(roll motion)以及由于在图像采集时图像捕捉设备的滚转角(roll angle)的变化而产生的虚拟滚转运动时可能出现的令人不快的感觉。针对图1a、图1b、图2a和图2b示意性地示出了这种情况的示例。
在这些示例中,渲染的场景(平坦地形12上的竖直圆柱塔11)先前已被嵌入在移动车辆(例如过山车车厢)上的图像捕捉设备(例如,相机)捕获。该场景在用户佩戴的头戴式显示器的参考系14中进行渲染。相机的参考系也由图中的虚线矩形15示意性地表示。
图1a和图1b属于在采集期间相机没有横向倾斜(零滚转角)的情况,例如,因为相机嵌入的车厢正笔直地在平坦的表面上行驶。因此,在相机的参考系中,地平线13是水平的。在关于图1a所示的初始情况下,头戴式显示器(即用户的头)是竖直的。如果用户横向向右倾斜其头部,如关于图1b所示,则常规的头戴式显示渲染器将考虑该滚转分量以补偿倾斜并保持地平线13水平。换句话说,渲染器根据头戴式显示器的参考系14操作图像的反向旋转,以保持图像的视觉感知与前庭***感知一致。因此,如果头部运动和图像的反向旋转之间的延迟保持较低,则这种情况不应导致电子晕动症。
尽管在关于图1a和图1b描述的用例中是高效的,但是在更复杂的情况下(如现在关于图2a和图2b呈现的情况),此渲染器补偿头部滚转运动的常规方法达到了它的极限。图 2a和图2b属于相机在在采集期间中横向向右倾斜(非零滚转角,例如,因为相机所在的车厢正在右转)的情况。因此,在相机的参考系15中,地平线13不是水平的,而是似乎在左侧俯冲。在关于图2a示出的初始情况下,头戴式显示器(即,用户的头)是竖直的。因此,用户看到地平线13时,就好像他将自己的头横向向右倾斜,尽管他没有这样做。因此,他已经处于不舒服的状态。试图找到图像和他的头部位置之间的对应关系时,用户可能被诱使将头部横向向右倾斜。这样的运动导致关于图2b示出的情况,其中渲染器已根据先前关于图1a和图1b呈现的常规方法补偿了头部滚转运动。但是,可以从图2b中看出,这样的运动不会改善用户的情况,因为头戴式显示器的参考系14和地平线13之间的角度变得更大。视觉感知和前庭***感知之间的分歧仍然存在。情况没有得到改善,用户可能仍然感到不舒服:他可能运动不适或失去平衡。
因此,期望提供一种允许在头戴式显示器中渲染当前图像的技术,该技术将至少避免现有技术的这些缺点中的一些缺点,从而改进沉浸式体验。
发明内容
根据本公开的一方面,公开了一种用于在头戴式显示器上渲染当前图像的方法。当前图像已由安装在运动对象上的图像捕捉设备采集。所提出的渲染当前图像的方法包括:
-获得捕捉滚转角,该捕捉滚转角代表用于采集所述当前图像的所述图像捕捉设备的滚转角;
-确定观看滚转角,该观看滚转角代表所述头戴式显示器的用户头部的当前滚转角,被称为当前观看滚转角;
-比较所述捕捉滚转角和所述当前观看滚转角,并且如果捕捉滚转角和当前观看滚转角之间的差小于所确定的阈值,则激活检测标志;
-将所述当前图像旋转一旋转角度,传送经旋转的当前图像,所述旋转角度根据所述捕捉滚转角、所述当前观看滚转角以及所述检测标志的值来确定;
-渲染所述经旋转的当前图像。
这样,在头戴式显示器上渲染当前图像不仅要考虑佩戴头戴式显示器的用户头部的当前滚转角,而且还要考虑当前图像采集时图像捕捉设备的滚转角。更具体地,所提出的技术允许实现根据观看滚转角是否已达到捕捉滚转角而不同的对当前图像的处理。这样,可以执行对当前图像的适应性渲染,并且可以减少观看内容的用户可能经历的不期望的副作用。
根据实施例,当前图像属于图像序列,并且其中:
-如果所述检测标志未被激活,则所述旋转角度根据所述当前观看滚转角而被获得;
-如果所述检测标志被激活,则所述旋转角度等于所述捕捉滚转角减去所述当前观看滚转角。
这样,只要观看滚转角未达到捕捉滚转角,在头戴式显示器中渲染的图像就被当前观看滚转角所束缚,从而形成可以类似于一种随动***的***,此随动***可以是线性的,也可以是非线性的。因此,所提出的技术允许用户找到其头部倾斜度与图像捕捉设备在捕捉当前图像时的倾斜度对准的位置,同时渲染经旋转的图像,以使经渲染的图像的视觉感知与前庭***感知保持一致。一旦达到该位置,束缚关系被取消或至少被修改,并且然后通过对应的图像反向旋转来补偿低于或高于捕捉滚转角的任何当前观看滚转角。
根据先前描述的实施例的特定特征:
-如果所述检测标志未被激活,则该旋转角度等于所述当前观看滚转角;
-如果所述检测标志被激活,则该旋转角度等于所述捕捉滚转角减去所述当前观看滚转角。
这样,当检测标志被激活时,将旋转角度关联到当前观看滚转角的函数是线性函数,因此,对应于当头戴式显示器受到当前观看滚转角的束缚时对于用户更舒适的观看情况。
根据实施例,在用户请求时或者如果捕捉滚转角为空值,所述检测标志被停用。
这样,在某些情况下,该方法可以被重置或重新初始化,从而允许头戴式显示器再次受到当前观看滚转角的束缚。
根据实施例,渲染所述经旋转的当前图像还包括渲染图形指示符,所述图形指示符根据所述当前观看滚转角和所述捕捉滚转角来确定。
这样,用户的视场中会显示永久可访问和更新的位置反馈指示符,该指示符帮助用户认识到自己的位置,并快速找出可以执行以提高用户舒适度并潜在地减少晕动症的运动。
根据本实施例的特定特征,所述图形指示符包括代表所述捕捉滚转角的背景部分和代表所述当前观看滚转角的前景部分。
本公开还涉及一种用于在头戴式显示器上渲染当前图像的装置,所述当前图像由安装在运动对象上的图像捕捉设备采集。这样的装置包括:
-用于获得捕捉滚转角的模块,该捕捉滚转角代表用于采集所述当前图像的所述图像捕捉设备的滚转角;
-用于确定观看滚转角的模块,该观看滚转角代表所述头戴式显示器的用户头部的当前滚转角,被称为当前观看滚转角;
-用于比较所述捕捉滚转角和所述当前观看角的模块,如果捕捉滚转角和当前观看滚转角之间的差小于所确定的阈值,则该模块激活检测标志;
-用于将所述当前图像旋转一旋转角度并且传送经旋转的当前图像的模块,所述旋转角度根据所述捕捉滚转角、所述当前观看滚转角以及所述检测标志的值来确定;
-用于渲染所述经旋转的当前图像的模块。
根据实施例,该装置还包括用于在用户请求时或如果所述捕捉滚转角为空则停用所述检测标志的模块。
根据实施例,该装置还包括用于渲染图形指示符的模块,所述图形指示器根据所述当前观看滚转角和所述捕捉滚转角来确定。
根据一个实现方式,如上所述的用于在头戴式显示器上渲染当前图像的方法的不同步骤由一个或多个软件程序或软件模块程序来实现,该软件程序或软件模块程序包括软件指令,该软件指令意在由用于在头戴式显示器上渲染当前图像的装置的数据处理器执行,这些软件指令被设计为根据本原理来控制该方法的不同步骤的执行。
还公开了一种计算机程序,该计算机程序能够由计算机或数据处理器执行,此程序包括指令,以控制如上所述的用于在头戴式显示器上渲染当前图像的方法的步骤的执行。
此程序可以使用任何编程语言,并且具有源代码、目标代码或源代码和目标代码之间的中间代码的形式,例如具有部分编译的形式或任何其他期望的形式。
信息载体可以是能够存储程序的任何实体或装置。例如,载体可以包括诸如ROM之类的存储模块,例如,CD-ROM或微电子电路ROM或磁记录模块(例如软盘或硬盘驱动器)。
同样,信息载体可以是可传输的载体,例如可以通过电缆或光缆、无线电或其他方式传输的电信号或光信号。根据本原理的程序可以特别地上传到互联网类型的网络中。
作为替代方案,信息载体可以是集成电路,其中包含了程序,该电路适于执行所述方法或在执行所述方法时使用。
根据一个实施例,这些方法/装置可以借助于软件和/或硬件组件来实现。在这方面,术语“模块”或“单元”在本文献中可以同样地对应于软件组件和硬件组件或硬件组件和软件组件的集合。
软件组件对应于能够实现如下针对有关模块所述的功能或一组功能的一个或多个计算机程序、程序的一个或多个子程序、或者(更一般地)程序的任何元素或软件的一部分。这样的软件组件由物理实体(终端、服务器等)的数据处理器执行,并且能够访问该物理实体的硬件资源(存储器、记录介质、通信总线、输入/输出电子板、用户接口等)。
同样地,硬件组件对应于能够实现如下针对有关模块所述的功能或一组功能的硬件单元的任何元件。其可以是用于执行软件的可编程硬件组件或具有集成处理器的组件,例如,集成电路、智能卡、存储卡、用于执行固件的电子板等。
还公开了一种非暂时性处理器可读介质,其上存储有这样的程序。
应理解,上述一般描述和以下详细描述都是示例性的和解释性的,并且不限制所要求保护的本公开。
还必须理解,说明书中对“一个实施例”或“实施例”的引用指示所描述的实施例可以包括特定特征、结构或特性,但每个实施例不一定包括该特定特征、结构或特性。此外,这些短语不一定指同一实施例。此外,当结合实施例描述特定特征、结构或特性时,认为结合其它实施例来影响这种特征、结构或特性是在本领域技术人员的知识范围内的,而不管是否明确描述。
附图说明
参考以下描述和附图,可以更好地理解本公开的实施例,附图以示例的方式给出,并且不限制保护范围,在附图中:
图1a和图1b(已经关于现有技术描述)呈现了常规图像渲染器如何考虑用户头部滚转运动来显示先前通过非横向倾斜的图像捕捉设备采集的图像;
图2a和图2b(已经关于现有技术描述)呈现了常规图像渲染器如何考虑用户头部滚转运动来显示先前通过横向倾斜的图像捕捉设备采集的图像;
图3是关于三维物体如何绕三个正交轴旋转以及用于描述这些不同运动的术语的快速提示;
图4是根据本公开的实施例的用于示出所提出的用于渲染当前图像的技术的一般原理的流程图;
图5a、图5b、图5c和图5d在示例中示出了根据本公开的实施例的应用所提出的用于渲染当前图像的技术的效果;
图6描绘了根据本公开的实施例的图形指示符的示例,该图形指示符用于向用户提供关于当前观看滚转角和捕捉滚转角的反馈;
图7是示出根据本公开的实施例的用于渲染当前图像的装置的示例的示意性框图。
附图中的组成部分不一定要按比例缩放,而是强调示出本公开的原理。
具体实施方式
本公开的一般原理依赖于用于渲染当前图像以在诸如头戴式显示器之类的沉浸式***上显示的特定技术。
如下文中将参考附图更全面地描述的,在本公开的一个方面中提出在图像采集时同时考虑当前用户头部滚转角和图像捕捉设备的滚转角,以适应显示内容的渲染。更具体地,得益于所提出的技术,可以减少观看内容的用户可能经历的不期望的副作用。因此,可以提供更优的沉浸式体验。
然而,本公开可以以多种替代形式体现,并且不应被解释为仅限于本文所述的实施例。因此,虽然本发明容易受到各种修改和替代形式的影响,但其具体实施例在附图中以示例的方式示出,并且将在本文详细描述。然而,应理解,并不意在将本公开限制于所公开的特定形式,相反,本公开意在涵盖落在权利要求所限定的本公开的精神和范围内的所有修改、等同物和替代物。在附图中,相似或类似的元素在其若干视图中被指定为具有相同的附图标记。
虽然未显式地描述,但本实施例和变体可用于任何组合或子组合中。
在附图中,相似或类似的元素在其若干视图中被指定为具有相同的附图标记。
在本公开中,滚转运动应理解为对象绕其前后轴的旋转运动。如图3所简要提示的,滚转运动应与偏航运动和俯仰运动明显地区分开。滚转运动可以导致所考虑的对象(在本公开的特定上下文中为用户头部或图像捕捉设备)的横向倾斜。这样的横向倾斜可以表征为相对于基准竖直轴的滚转角,该滚转角具有值以及左或右方向。在本描述中,如果两个滚转角具有相同的值和相同的方向,则认为它们相等。
图4是根据本公开的实施例的用于解释用于渲染当前图像的方法的流程图。当前图像先前已由安装在移动对象上的图像捕捉设备(例如,相机、智能手机等)采集。在本公开的上下文中,图像捕捉设备以固定的方式安装在运动对象上,这意味着在运动对象的参考系中图像捕捉设备不移动。然而,由于其上安装有图像捕捉设备的对象移动,图像捕捉设备相对于基准竖直轴的横向倾斜可随着时间而变化。
在步骤41处,获得捕捉滚转角。该捕捉滚转角代表在采集所述当前图像时图像捕捉设备的滚转角(即,图像捕捉设备相对于基准竖直轴的横向倾斜,如先前关于图3所解释的)。例如,捕捉滚转角已在图像采集期间由嵌入图像捕捉设备中的一个或若干个传感器(例如,陀螺仪和/或加速计)确定,并被存储为与当前图像相关联的可用元数据。捕捉滚转角也可以通过图像分析技术从当前图像本身获得。
在步骤42处,确定当前观看滚转角。该角度对应于佩戴要在其上渲染当前图像的头戴式显示器的用户头部的当前滚转角。得益于在头戴式显示器中嵌入的一个或多个传感器(陀螺仪、加速计等),可以以固定的时间间隔确定当前观看滚转角。
步骤41和42可以并行地或一个接一个地处理,无所谓其顺序。
在步骤43处,将当前观看滚转角与捕捉滚转角进行比较。如果当前观看滚转角和捕捉滚转角之间的差小于所确定的阈值,则激活检测标志。根据本公开,诸如检测标志之类的标志是可用于记忆事件已发生的双状态变量(激活状态和停用状态)。一旦被激活,标志可以例如响应于另一事件在随后被停用,这可以被称为复位(或重新初始化)操作。所确定的阈值优选为低阈值(例如,具有1到5度之间的值),使得当当前观看滚转角和捕捉滚转角相等或基本上相等时检测标志被激活。换句话说,当检测到用户头部已经达到其头部以与当前图像采集时图像捕捉设备相同的方式横向倾斜的位置时,检测标志被激活。
在步骤44处,将当前图像旋转一旋转角度,传送经旋转的当前图像。根据所提出的技术的一般原理,该旋转角度根据捕捉滚转角(代表当前图像采集时的图像捕捉设备倾斜度)、当前观看滚转角(代表用户头部的当前倾斜度)、以及检测标志的值(指示观看滚转角是否已经达到捕捉滚转角)来确定。
在步骤45处,一旦被旋转,就在头戴式显示器上渲染当前图像(现在称为经旋转的当前图像)。
因此,所提出的技术使得能够考虑到观看滚转角相对于捕捉滚转角的演变,以改进用户的沉浸式体验。更具体地,所提出的技术允许实现根据观看滚转角是否已达到捕捉滚转角而不同的对当前图像的处理。这样,可以执行对当前图像的适应性渲染,并且可以减少观看内容的用户可能经历的不期望的副作用。可以执行所提出的技术来渲染单个图像,或者渲染图像序列中的不同图像。事实上,在本公开中描述的各种实施例中,当前图像可以属于由图像捕捉设备所采集的图像序列,意在根据所提出的技术在头戴式显示器上渲染该图像序列中的每个图像。在这种情况下,一旦针对图像序列中处于当前图像之前的图像激活了检测标志,则检测标志将保持其激活状态以渲染图像序列中的后续图像(直到检测标志被停用,这可在本公开后面关于特定实施例描述的特定情况下发生)。
在一个实施例中,如果检测标志未被激活,则旋转角度根据当前观看滚转角来确定;并且如果检测标志被激活,则旋转角度等于捕捉滚转角减去当前观看滚转角。
换句话说,只要观看滚转角没有达到捕捉滚转角,在头戴式显示器中渲染的图像就受到当前观看滚转角的束缚,从而形成可以类似于一种随动***的***。一旦检测标志被激活(如图4的步骤43所述),意味着观看滚转角已经至少一次达到捕捉滚转角,则由于捕捉滚转角值开始起作用,该束缚关系被取消或至少被修改。实际上,低于或高于捕捉滚转角的任何当前观看滚转角随后通过对应的图像反向旋转而被补偿。
当检测标志未被激活时,将旋转角度关联到当前观看旋转角的函数不一定是线性函数。这样,当在头戴式显示器上渲染图像时,可以获得一些视觉效果,例如,在当前观看滚转角接近捕捉滚转角时,渲染图像的明显旋转运动减缓。
然而,根据特定特征,如果检测标志未被激活,则旋转角度等于当前观看滚转角(暂不考虑可能的延迟);并且如果检测标志被激活,则旋转角度等于捕捉滚转角减去当前观看滚转角。在这种情况下,当检测标志被激活时,将旋转角度关联到当前观看滚转角的函数是线性函数(恒等函数(identity function)),这可以为用户带来更舒适的观看情况。
在一个实施例中,在某些情况下可以停用先前的检测标志,从而允许头戴式显示器再次受到当前观看滚转角的束缚,这可以被认为是复位(或重新初始化)操作。在用户请求(例如,通过专用控制输入或通过语音命令)或者如果与当前图像相关联的捕捉滚转角为空值时,可能出现这种情况。
图5a、图5b、图5c和图5d示出了执行所提出的技术以渲染已经关于现有技术引入的场景(即,包括先前由嵌入在移动车辆中的相机捕获的平坦地形12上的竖直圆柱形塔11的场景)的图像的效果。
如图5a所示的初始情况与已经关于图2a描述的情况类似:在图像采集期间,图像捕捉设备横向向右倾斜(非零滚转角),例如,因为其上嵌入图像捕捉设备的车厢正在右转。因此,在图像捕捉设备的参考系15中,地平线13不是水平的,而是似乎在左侧俯冲。头戴式显示器(即,用户头部)是竖直的。因此,用户看到地平线13时,就好像他将自己的头向右倾斜,尽管他没有这样做。试图找到图像和头部位置之间的对应关系时,用户将其头部横向向右倾斜。只要用户头部倾斜度不与图像捕捉设备在图像捕获期间的倾斜度对准,则当前图像(即,接下来要在头戴式显示器上渲染的图像)被旋转一旋转角度,该旋转角度根据当前观看旋转角来确定。更具体地,根据优选特征,该旋转角度等于当前观看滚转角,使得所渲染的图像看起来遵循用户头部滚转运动(相同的旋转角度、相同的旋转方向)。
图5b示出了当前观看滚转角变为等于捕捉滚转角的情况。在这一点时,地平线13在所渲染的图像上是水平的,并且用户头部以与图像采集时的图像捕捉设备相同的方式倾斜。在关于用户的视觉感知和前庭***感知之间的一致性方面,用户现在已经恢复到舒适的状态。
超过这一点,则应用于当前图像的旋转的旋转角度等于捕捉旋转角减去当前观看旋转角。换句话说,如关于图5c和图5d所示,通过图像的对应反向旋转,沿着捕捉滚转角的任何一侧的旋转运动被补偿。得益于此机制,并且可以从这些附图中看到,地平线13保持水平。然后,用户可以由自己选择采用更舒服的情况,例如,如他可以在真正的过山车车厢中做的那样向其右侧或左侧侧倾,以体验刺激。这些情况分别针对图5c(用户进一步向右倾斜头部)和图5d(用户现在向左倾斜头部)示出。
尽管已经针对在给定捕捉滚转角下捕获的当前图像进行了描述,但是应理解,所提出的技术也适用于对任何图像序列(包括以不同捕捉滚转角采集的图像序列)的渲染。事实上,属于这样的图像序列的任何图像都与其自身的给定的捕捉滚转角相关联,因此可以根据所提出的技术进行渲染。
当然,由于用户头部滚转运动和图像捕捉设备的虚拟滚转运动的结合,用户可能很难知道可以执行哪些运动来提高其舒适性和减少晕动症。根据所提出的技术的实施例,除了图4的步骤45中描述的对经旋转的当前图像的渲染之外,还渲染图形指示符。例如,这样的图形指示符可以叠加显示在头戴式显示器上渲染的经旋转的当前图像上,以帮助用户认识到其位置。这样,用户可以容易地将其头部定向到与图像对准的位置,从而减少电子晕动症的感觉。为实现这一点,图形指示符根据捕捉滚转角和当前观看滚转角两者来确定。
例如,关于图6详细说明了这样的图形指示符的实施例。图形指示符60包括代表捕捉滚转角的背景部分61和代表当前观看滚转角的前景部分62。例如,前景部分62可以采用计量器或针的形式,其倾斜度代表当前观看滚转角。例如,背景部分61自身可以细分为两个部分(61a,61b),它们的边界61c通过其倾斜度表示捕捉滚转角。
已经描述的图5a到图5d示出了图形指示符60的不同状态。从这些附图中可以看出,图形指示符60向用户提供关于其位置的最新视觉信息,该信息可以容易和快速地访问。例如,考虑到图5b所示的情况,用户可以一眼看到他与图像捕捉设备(即,与过山车车厢)对准。
虽然参考主要依赖于由图像捕捉设备采集的图像的示例性实施例来描述本公开,但是相关领域的普通技术人员将理解,在不脱离本公开的范围的情况下,可以进行各种改变并且可以用等同物代替其要素。更具体地,在不脱离本公开的范围的情况下,所提出的技术可以用于渲染与虚拟捕捉滚转角相关联的计算机生成的图像。
图7是示出根据本发明实施例的用于渲染当前图像的装置700的示例的示意性框图。在所提出的技术的实施例中,这样的装置可以嵌入在头戴式显示器中。在另一实施例中,该装置可以是连接到头戴式显示器的外部装置。
装置700包括由总线706连接的处理器701、存储单元702、输入设备703、输出设备704和接口单元705。当然,计算机设备700的组成元件可以通过使用总线706的总线连接以外的连接而被连接。
处理器701控制装置700的操作。存储单元702存储要由处理器701执行的至少一个程序和各种数据(包括例如捕捉滚转角、当前观看滚转角、检测标志的值、由处理器701执行的计算所使用的参数、由处理器701执行的计算的中间数据等)。处理器701由任何已知和合适的硬件、或软件、或硬件和软件的组合形成。例如,处理器701由执行存储在其存储器中的程序的专用硬件(例如,处理电路)或可编程处理单元(例如,CPU(中央处理单元))形成。
存储单元702由能够以计算机可读的方式存储程序、数据等的任何合适的存储装置或模块形成。存储单元702的示例包括非暂时性计算机可读存储介质,例如,加载到读写单元中的半导体存储器设备,以及磁、光或磁光记录介质。如前所述,该程序使处理器701执行根据本公开的实施例的用于在头戴式显示器上渲染当前图像的方法。更具体地,该程序使处理器701在在头戴式显示器上渲染该图像之前,确定要应用于当前图像的旋转角度,使得可以提高观看舒适性。
输入装置703例如由一个或若干个传感器形成,从而允许确定当前观看滚转角,即,佩戴头戴式显示器的用户头部的横向倾斜度。
输出装置704例如由头戴式显示器形成,以显示通过应用上述方法渲染的经旋转图像。
接口单元705提供装置700和外部装置之间的接口。接口单元705可以通过电缆或无线通信与外部装置通信。例如,在装置700未嵌入头戴式显示器的实施例中,外部装置可以是这样的头戴式显示器。
尽管图7中仅示出了一个处理器701,但必须理解,该处理器可以包括体现由根据本公开的实施例的装置700执行的功能的不同模块和单元,例如,允许渲染由安装在运动对象上的图像捕捉设备采集的当前图像的模块:
用于获得捕捉滚转角的模块,该捕捉滚转角代表用于采集所述当前图像的所述图像捕捉设备的滚转角;
用于确定观看滚转角的模块,该观看滚转角表示所述虚拟现实沉浸式***的用户头部的当前滚转角,称为当前观看滚转角;
用于比较所述捕捉滚转角和所述当前观看角,并且如果所述捕捉滚转角和所述当前观看滚转角之间的差小于确定阈值,则激活检测标志的模块;
用于将所述当前图像旋转一旋转角度,传送经旋转的当前图像的模块,所述旋转角度根据所述捕捉滚转角、所述当前观看滚转角以及所述检测标志的值来确定;
用于渲染所述经旋转的当前图像的模块。
在其他实施例中,该装置还包括:
用于应用户请求或者如果所述捕捉滚转角为空值,停用所述检测标志的模块;和/或
用于渲染图形指示符的模块,所述图形指示符根据所述当前观看滚转角和所述捕捉滚转角来确定。
这些模块和单元还可以体现在彼此通信和协作的若干处理器701中。
Claims (13)
1.一种用于在头戴式显示器上渲染当前图像的方法,所述当前图像由安装在运动对象上的图像捕捉设备采集,所述方法包括:
获得捕捉滚转角,所述捕捉滚转角代表用于采集所述当前图像的所述图像捕捉设备的滚转角;
确定观看滚转角,所述观看滚转角代表所述头戴式显示器的用户头部的当前滚转角,被称为当前观看滚转角;
比较所述捕捉滚转角和所述当前观看滚转角,并且如果所述捕捉滚转角和所述当前观看滚转角之间的差小于所确定的阈值,则激活检测标志;
将所述当前图像旋转一旋转角度,传送经旋转的当前图像,所述旋转角度根据所述捕捉滚转角、所述当前观看滚转角以及所述检测标志的值来确定;
渲染所述经旋转的当前图像。
2.根据权利要求1所述的方法,其中:
如果所述检测标志未被激活,则所述旋转角度根据所述当前观看滚转角而被获得;
如果所述检测标志被激活,则所述旋转角度等于所述捕捉滚转角减去所述当前观看滚转角。
3.根据权利要求2所述的方法,其中:
如果所述检测标志未被激活,则所述旋转角度等于所述当前观看滚转角;
如果所述检测标志被激活,则所述旋转角度等于所述捕捉滚转角减去所述当前观看滚转角。
4.根据权利要求1至3中任一项所述的方法,其中,在用户请求时或者如果所述捕捉滚转角为空值,则所述检测标志被停用。
5.根据权利要求1至3中任一项所述的方法,其中,渲染所述经旋转的当前图像还包括渲染图形指示符,所述图形指示符根据所述当前观看滚转角和所述捕捉滚转角来确定。
6.根据权利要求5所述的方法,其中,所述图形指示符包括代表所述捕捉滚转角的背景部分和代表所述当前观看滚转角的前景部分。
7.一种用于在头戴式显示器上渲染当前图像的装置,所述当前图像由安装在运动对象上的图像捕捉设备采集,所述装置包括:
用于获得捕捉滚转角的模块,所述捕捉滚转角代表用于采集所述当前图像的所述图像捕捉设备的滚转角;
用于确定观看滚转角的模块,所述观看滚转角代表所述头戴式显示器的用户头部的当前滚转角,被称为当前观看滚转角;
用于比较所述捕捉滚转角和所述当前观看滚转角的模块,如果所述捕捉滚转角和所述当前观看滚转角之间的差小于所确定的阈值,则该模块激活检测标志;
用于将所述当前图像旋转一旋转角度并且传送经旋转的当前图像的模块,所述旋转角度根据所述捕捉滚转角、所述当前观看滚转角以及所述检测标志的值来确定;
用于渲染所述经旋转的当前图像的模块。
8.根据权利要求7所述的装置,其中:
如果所述检测标志未被激活,则所述旋转角度根据所述当前观看滚转角而被获得;
如果所述检测标志被激活,则所述旋转角度等于所述捕捉滚转角减去所述当前观看滚转角。
9.根据权利要求8所述的装置,其中:
如果所述检测标志未被激活,则所述旋转角度等于所述当前观看滚转角;
如果所述检测标志被激活,则所述旋转角度等于所述捕捉滚转角减去所述当前观看滚转角。
10.根据权利要求7至9中任一项所述的装置,其中,所述装置还包括:用于在用户请求时或者如果所述捕捉滚转角为空值,则停用所述检测标志的模块。
11.根据权利要求7至9中任一项所述的装置,其中,所述装置还包括用于渲染图形指示符的模块,所述图形指示符根据所述当前观看滚转角和所述捕捉滚转角来确定。
12.一种计算机程序产品,所述计算机程序产品能够从通信网络下载和/或记录在计算机可读的介质上和/或是处理器可执行的,所述计算机程序产品包括用于实现根据权利要求1至6中任一项所述的方法的程序代码指令。
13.一种非暂时性计算机可读介质,包括记录在其上并且能够由处理器运行的计算机程序产品,所述计算机程序产品包括用于实现根据权利要求1至6中任一项所述的方法的程序代码指令。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP17306666.3A EP3493027A1 (en) | 2017-11-30 | 2017-11-30 | Method for rendering a current image on a head-mounted display, corresponding apparatus, computer program product, and computer-readable carrier medium |
EP17306666.3 | 2017-11-30 | ||
PCT/EP2018/082282 WO2019105847A1 (en) | 2017-11-30 | 2018-11-22 | Method for rendering a current image on a head-mounted display, corresponding apparatus, computer program product, and computer-readable carrier medium |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111417918A CN111417918A (zh) | 2020-07-14 |
CN111417918B true CN111417918B (zh) | 2024-03-26 |
Family
ID=60673422
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880077122.7A Active CN111417918B (zh) | 2017-11-30 | 2018-11-22 | 用于在头戴式显示器上渲染当前图像的方法、对应装置、计算机程序产品和计算机可读载体介质 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11127376B2 (zh) |
EP (2) | EP3493027A1 (zh) |
CN (1) | CN111417918B (zh) |
WO (1) | WO2019105847A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11119314B1 (en) * | 2020-07-17 | 2021-09-14 | Synapcis Inc. | Apparatus and method for mitigating motion sickness through cyclical object projection in digital space |
US20230343028A1 (en) * | 2022-04-20 | 2023-10-26 | Apple Inc. | Method and Device for Improving Comfortability of Virtual Content |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105556961A (zh) * | 2013-07-31 | 2016-05-04 | 苹果公司 | 用于动态校准相机***中旋转偏移的方法 |
CN105579890A (zh) * | 2013-09-26 | 2016-05-11 | Lg电子株式会社 | 头戴式显示器及其控制方法 |
CN106303029A (zh) * | 2016-08-15 | 2017-01-04 | 广东欧珀移动通信有限公司 | 一种画面的旋转控制方法、装置及移动终端 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090040308A1 (en) * | 2007-01-15 | 2009-02-12 | Igor Temovskiy | Image orientation correction method and system |
-
2017
- 2017-11-30 EP EP17306666.3A patent/EP3493027A1/en not_active Withdrawn
-
2018
- 2018-11-22 WO PCT/EP2018/082282 patent/WO2019105847A1/en unknown
- 2018-11-22 US US16/766,315 patent/US11127376B2/en active Active
- 2018-11-22 CN CN201880077122.7A patent/CN111417918B/zh active Active
- 2018-11-22 EP EP18803726.1A patent/EP3717989A1/en not_active Ceased
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105556961A (zh) * | 2013-07-31 | 2016-05-04 | 苹果公司 | 用于动态校准相机***中旋转偏移的方法 |
CN105579890A (zh) * | 2013-09-26 | 2016-05-11 | Lg电子株式会社 | 头戴式显示器及其控制方法 |
CN106303029A (zh) * | 2016-08-15 | 2017-01-04 | 广东欧珀移动通信有限公司 | 一种画面的旋转控制方法、装置及移动终端 |
Also Published As
Publication number | Publication date |
---|---|
EP3717989A1 (en) | 2020-10-07 |
CN111417918A (zh) | 2020-07-14 |
EP3493027A1 (en) | 2019-06-05 |
US20200365117A1 (en) | 2020-11-19 |
US11127376B2 (en) | 2021-09-21 |
WO2019105847A1 (en) | 2019-06-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3291536B1 (en) | Methods, devices and systems for automatic zoom when playing an augmented reality scene | |
US10088896B2 (en) | Queasiness management for virtual reality systems | |
CN109743892B (zh) | 虚拟现实内容的显示方法和装置 | |
EP3757727B1 (en) | Image re-projection for foveated rendering | |
CN109246463B (zh) | 用于显示弹幕的方法和装置 | |
CN111670453A (zh) | 依赖于注视的凹状渲染装置、方法、计算机程序和*** | |
US11375170B2 (en) | Methods, systems, and media for rendering immersive video content with foveated meshes | |
CN111417918B (zh) | 用于在头戴式显示器上渲染当前图像的方法、对应装置、计算机程序产品和计算机可读载体介质 | |
JP2017016657A (ja) | 没入型ビデオ・コンテンツの一部分を参照部分の位置に従って処理する方法及び装置 | |
US11347306B2 (en) | Method and apparatus for controlling a discrepant aiming direction of a camera | |
US20190139246A1 (en) | Information processing method, wearable electronic device, and processing apparatus and system | |
US20180270463A1 (en) | Recording medium, image generation apparatus, and image generation method | |
EP4032255A1 (en) | A method for capturing and displaying a video stream | |
CN109167989B (zh) | 一种vr视频处理方法及*** | |
US11099392B2 (en) | Stabilized and tracked enhanced reality images | |
CN108027646B (zh) | 一种终端显示防抖方法及装置 | |
CN106371552B (zh) | 一种在移动终端进行媒体展示的控制方法及装置 | |
US11868520B2 (en) | Rendering content | |
CN110941344A (zh) | 获取注视点数据的方法及相关装置 | |
WO2018150711A1 (ja) | 表示制御装置、表示制御装置の制御方法、および制御プログラム | |
EP4059581A1 (en) | Method and system to reduce vr sickness in a cloud game service | |
CN117666875A (zh) | 一种行进过程中提高用户观看屏幕舒适度的方法及装置 | |
CN116114012A (zh) | 信息处理装置、信息处理方法和程序 | |
CN118092626A (zh) | 显示控制方法、装置及头戴式显示设备 | |
CN116700851A (zh) | 一种虚拟现实设备vr场景的截图方法及其设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |