CN109167989B - 一种vr视频处理方法及*** - Google Patents
一种vr视频处理方法及*** Download PDFInfo
- Publication number
- CN109167989B CN109167989B CN201811222181.7A CN201811222181A CN109167989B CN 109167989 B CN109167989 B CN 109167989B CN 201811222181 A CN201811222181 A CN 201811222181A CN 109167989 B CN109167989 B CN 109167989B
- Authority
- CN
- China
- Prior art keywords
- focus
- current frame
- change value
- virtual reality
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- User Interface Of Digital Computer (AREA)
Abstract
本申请提供了一种VR视频处理方法及***,其中,该方法包括如下步骤:根据虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的姿态参数信息,确定视焦点变化值;在所述视焦点变化值大于第一预定阈值的情况下,根据所述当前帧和所述视焦点变化值,生成过渡帧;在所述当前帧之后播放所述过渡帧。本申请实施例利用视焦点预测模型确定视焦点变化值,在视焦点变化大的情况下***过渡帧,降低用户观看时画面呈现的延迟,从而在硬件设计达到最优水平的情况下,尽可能降低视焦点大幅度变化给用户带来的眩晕感。
Description
技术领域
本申请涉及视频处理技术领域,尤其是涉及一种VR视频处理方法及***。
背景技术
人在物理世界中会因为身体处于不平衡状态而产生眩晕,这是因为身体中用于判断运动状态的内耳上部的前庭***向大脑发出了错误信号。当人在旋转时,前庭***内的内淋巴液沿着身体旋转的方向缓慢运动,内淋巴向大脑发出头部正在旋转的信号。当停止旋转时,内淋巴继续运动并且刺激相反方向的毛细胞,尽管已经停下来了,大脑认定头部还在旋转,这就是眩晕产生的原因。
用户在观看虚拟现实(Virtual Reality,VR)视频时,由于VR装置检测到头部运动与VR装置播放的画面呈现到人眼之间存在时间差,VR装置播放的画面会产生延迟,因此用户会产生眩晕感。上述延迟是观看者是否感知眩晕的最主要指标。研究表明,上述延迟不能超过20ms,超过就会出现眩晕。
现有技术中减低眩晕感的方法,都是通过提升硬件设计来降低眩晕感。但受到硬件设计水平的限制,在硬件设计达到最优水平的情况下,由于对下一时刻画面内容的处理具有滞后性,仍然不可避免的存在时延,因此不可避免的会使观看者产生眩晕感。
发明内容
有鉴于此,本申请的目的在于提供一种视频处理方法及***,通过在视焦点变化大的情况下***过渡帧,降低用户观看时画面呈现的延迟,从而降低用户的眩晕感。
第一方面,本申请实施例提供了一种VR视频处理方法,包括:
根据虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息,确定视焦点变化值;
在所述视焦点变化值大于第一预定阈值的情况下,根据所述当前帧和所述当前帧视焦点变化值,生成过渡帧;
在所述当前帧之后播放所述过渡帧。
结合第一方面,本申请实施例提供了第一方面的第一种可能的实施方式,其中,根据虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息,确定视焦点变化值,包括:
基于所述当前帧和所述当前帧姿态参数信息,以及预先训练的视焦点预测模型,确定所述视焦点变化值。
结合第一方面的第一种可能的实施方式,本申请实施例提供了第一方面的第二种可能的实施方式,根据以下步骤训练所述视焦点预测模型:
对虚拟现实VR视频和虚拟现实VR装置传感器获取的所述虚拟现实VR视频中各帧所对应的姿态参数信息进行采样;
根据采样的虚拟现实VR视频中的每两个相邻帧,得到多个采样视焦点变化值;
基于所述采样视焦点变化值、所述采样视焦点变化值对应的相邻帧中的前一帧和所述采样视焦点变化值对应的相邻帧中前一帧所对应的姿态参数信息,进行视焦点预测模型训练。
结合第一方面的第二种可能的实施方式,本申请实施例提供了第一方面的第三种可能的实施方式,其中,所述根据虚拟现实VR视频中的每两个相邻帧,得到多个采样视焦点变化值,包括:
利用特征提取模型,分别提取两个相邻帧的特征向量;
计算两个相邻帧的特征向量的相似度;
根据所述相似度,确定所述视焦点变化值。
结合第一方面的第一种可能的实施方式,本申请实施例提供了第一方面的第四种可能的实施方式,其中,基于所述当前帧和获取的姿态参数信息,以及预先训练的视焦点预测模型,确定所述视焦点变化值,包括:
利用特征提取模型,提取所述当前帧的特征向量;
将所述特征向量和获取的当前帧姿态参数信息输入预先训练的视焦点预测模型,得到所述视焦点变化值。
结合第一方面的第四种可能的实施方式,本申请实施例提供了第一方面的第五种可能的实施方式,其中,根据以下步骤训练所述特征提取模型:
对虚拟现实VR视频进行采样;
根据采样的虚拟现实VR视频中的每一帧,以及与每一帧对应的特征向量,训练所述特征提取模型。
结合第一方面的第一种可能的实施方式,本申请实施例提供了第一方面的第六种可能的实施方式,其中,还包括:
在所述视焦点变化值小于第一预定阈值的情况下,根据所述当前帧对应的视焦点变化值和所述当前帧姿态参数信息,更新所述视焦点预测模型。
结合第一方面,本申请实施例提供了第一方面的第七种可能的实施方式,其中,所述方法还包括:
根据所述视焦点变化值和所述当前帧姿态参数信息确定预测偏差值;
在所述视焦点变化值大于第一预定阈值的情况下,根据所述虚拟现实VR装置播放的当前帧和所述视焦点变化值,生成过渡帧,包括:
在所述视焦点变化值大于第一预定阈值、且所述预测偏差值小于第二预定阈值的情况下,根据所述虚拟现实VR装置播放的当前帧和所述视焦点变化值,生成过渡帧。
结合第一方面的第四种可能的实施方式,本申请实施例提供了第一方面的第八种可能的实施方式,其中,还包括:
在所述视焦点变化值小于第一预定阈值的情况下,确定所述当前帧的特征向量与所述特征提取模型的每个参考特征向量的相似度;
如果所述特征提取模型中不存在与所述当前帧的特征向量之间的相似度大于第三预设阈值的参考特征向量,则将所述当前帧的特征向量确定为参考特征向量,更新所述特征提取模型。
第二方面,本申请实施例还提供一种VR视频处理***,包括获取模块、第一计算模块和视频处理模块:
所述获取模块,用于获取虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息;
所述第一计算模块,用于根据虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息,确定视焦点变化值;
所述视频处理模块,用于在所述视焦点变化值大于第一预定阈值的情况下,根据虚拟现实VR装置播放的当前帧和所述视焦点变化值,生成过渡帧,并在所述当前帧之后播放所述过渡帧。
第三方面,本申请实施例还提供一种电子设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行上述第一方面,或第一方面的任一种可能的实施方式中的步骤。
第四方面,本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述第一方面,或第一方面的任一种可能的实施方式中的步骤。
本申请实施例提供的一种VR视频处理方法及***,利用VR装置播放的当前帧和虚拟现实VR装置传感器获取的姿态参数信息确定视焦点变化值,在视焦点变化大的情况下***过渡帧,降低用户观看时画面呈现的延迟,从而在硬件设计达到最优水平的情况下,尽可能降低视焦点大幅度变化给用户带来的眩晕感。
为使本申请的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本申请实施例所提供的一种视频处理方法的流程图;
图2示出了欧拉角示意图;
图3示出了本申请实施例提供的一种视频处理方法的原理框图;
图4示出了本申请实施例提供的一种视频处理***的***框图;
图5示出了本申请实施例提供的一种电子设备的***框图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
为便于对本实施例进行理解,首先对本申请实施例所公开的一种视频处理方法进行详细介绍。
实施例一
本申请实施例一提供的一种VR视频处理方法可以用在任一种虚拟现实VR装置中,包括但不限于头戴式VR装置、沉浸式VR装置或一体式VR装置中。本申请实施例一提供的一种视频处理方法可以具体应用于使用虚拟现实VR装置观看视频或进行游戏的情况下,降低观看者或游戏者的眩晕感。
如图1所示,本申请实施例一提供的一种视频处理方法具体包括如下步骤:
S101:利用视焦点预测模型,根据虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息,确定视焦点变化值。
这里,获取虚拟现实VR装置播放的视频影像当前帧的视频画面,或者使用虚拟现实VR装置进行游戏的当前帧的游戏画面。
这里,所述VR装置传感器获取的姿态参数信息可以是通过虚拟现实VR装置中设置的9轴传感器获取的姿态参数信息。
这里,视焦点值通常使用欧拉角表示,视焦点值代表了物体绕坐标系三个坐标轴的旋转角度,如图2所示,沿X轴做的旋转称为俯仰角(pitch),沿Y轴做的旋转称为偏航角(yaw),沿Z轴旋转称为翻滚角(roll)。
具体地,视焦点的值分别包括X轴、Y轴和Z轴的角度值θ、φ和Ψ,假定t_0时刻,视焦点的初始值θ_0,φ_0和Ψ_0,对于t_i时刻,即虚拟现实VR装置播放的当前帧对应的时刻,假定视焦点值为θ_i,φ_i,Ψ_i,本申请实施例通过视焦点预测模型,***出t_(i+1)时刻视焦点的角速度和角加速,从而***t_(i+1)时刻相对于t_i时刻的视焦点变化值Δθ_i,Δφ_i,ΔΨ_i,并根据视焦点变化值作为是否会引起眩晕的判据。
这里,根据虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息,确定视焦点变化值,包括:基于所述当前帧和所述当前帧姿态参数信息,以及预先训练的视焦点预测模型,确定所述视焦点变化值。
这里,根据以下步骤训练所述视焦点预测模型:
对VR视频和VR装置传感器获取的所述虚拟现实VR视频中各帧所对应的姿态参数信息进行采样;根据采样的VR视频中的每两个相邻帧,得到多个采样视焦点变化值;基于所述采样视焦点变化值、所述采样视焦点变化值对应的相邻帧中的前一帧和所述采样视焦点变化值对应的相邻帧中前一帧所对应的姿态参数信息,进行视焦点预测模型训练。
这里,所述视焦点预测模型可以使用任一机器学习算法实现,具体地,例如可以使用神经网络算法实现。神经网络算法通常由输入层、若干中间层和输出层组成,神经网络算法中间层的层数越多,输出结果越精确,但所需的训练时间越长。在本申请实施例中,在实际使用前,对VR视频和VR装置传感器获取的虚拟现实VR视频中各帧所对应的姿态参数信息进行采样,基于所述视焦点变化值、所述视焦点变化值对应的相邻帧中的前一帧和采样视焦点变化值对应的相邻帧中前一帧所对应的的姿态参数信息对所述视焦点预测模型提前进行训练,得到视焦点预测模型的初始参数值。由于不需要在使用时进行训练,所以,本申请实施例可以采用较多层神经网络,例如可以采用5层神经网络,从而获得较为精确的计算结果。
另外,在所述视焦点变化值小于第一预定阈值的情况下,利用此时的空闲计算资源,根据所述当前帧对应的视焦点变化值和所述当前帧姿态参数信息,更新所述视焦点预测模型。从而可以达到更快、更精准预测视焦点的效果。
这里,根据VR视频中的每两个相邻帧,得到多个采样视焦点变化值,包括:
利用特征提取模型,分别提取两个相邻帧的特征向量;计算两个相邻帧的特征向量的相似度;根据所述相似度,确定所述视焦点变化值。分别对每两个相邻帧重复上述步骤,得到多个采样视焦点变化值。
基于所述采样视焦点变化值、所述采样视焦点变化值对应的相邻帧中的前一帧和所述采样视焦点变化值对应的相邻帧中前一帧所对应的姿态参数信息,进行视焦点预测模型训练。
这里,基于所述当前帧和获取的姿态参数信息,以及预先训练的视焦点预测模型,确定所述视焦点变化值,包括:
利用特征提取模型,提取所述当前帧的特征向量;将所述特征向量和获取的姿态参数信息输入预先训练的视焦点预测模型,得到所述视焦点变化值。
这里,由于直接使用获取当前帧的图像信息,对下一帧的图像信息进行预测,并使用当前帧的图像信息和下一帧的图像信息相减的方式确定当前帧和下一帧的相似性,从而确定视焦点变化值的方法准确性较低。因此这里,使用任一机器学习算法作为特征提取模型对当前帧对应的图像信息进行处理,具体地,例如可以使用词袋BoW(Bag of Words)的方法。词袋BoW方法是对图像信息中的特征进行识别,将图像中的每个特征用单词一样的方式描述,将所有特征聚类形成词袋,即参考特征向量,从而将每一帧对应的图像信息转换为由词袋中的单词描述的特征向量。
这里,为了节约计算资源,提前利用每一帧画面对所述特征提取模型进行训练,得到特征提取模型的初始参数值和初始的参考特征向量。为了获取较为准确的参考特征向量,需要提前输入尽可能多的画面和图片。具体地,根据以下步骤训练所述特征提取模型:
对VR视频进行采样;根据采样的VR视频中的每一帧,以及与每一帧对应的特征向量,训练所述特征提取模型。
这里,在所述视焦点变化值小于第一预定阈值的情况下,确定所述当前帧的特征向量与所述特征提取模型的每个参考特征向量的相似度;
如果所述特征提取模型中不存在与所述当前帧的特征向量之间的相似度大于第三预设阈值的参考特征向量,则将所述当前帧的特征向量确定为参考特征向量,更新所述特征提取模型。
由于在所述视焦点变化值小于第一预定阈值的情况下,无需生成过渡帧,因此利用此时的空闲计算资源,实时对特征提取模型进行更新,从而更快、更精准地对视焦点进行预测。
S102:在所述视焦点变化值大于第一预定阈值的情况下,根据所述当前帧和所述视焦点变化值,生成过渡帧。
这里,根据所述视焦点变化值和所述姿态参数信息确定预测偏差值;
在所述视焦点变化值大于第一预定阈值的情况下,根据所述VR装置播放的当前帧和所述视焦点变化值,生成过渡帧,包括:
在所述视焦点变化值大于第一预定阈值、且所述预测偏差值小于第二预定阈值的情况下,根据所述VR装置播放的当前帧和所述视焦点变化值,生成过渡帧。
例如,本实施例具体应用时,如果通过本申请实施例计算得到的视焦点变化值较小,而通过虚拟现实VR装置传感器,例如9轴传感器输入的实际检测的姿态参数信息的值较大,说明用户的头部进行了大范围的、与视频或游戏中的场景焦点无关的转动,用户的视线没有集中在视频或游戏的画面场景中,此时即使***过渡帧,对降低眩晕感来说也收效甚微,因此,应当放弃本次生成过渡帧的操作,不对所述视频进行平滑化处理。
S103:在所述当前帧之后播放所述过渡帧。
这里,在过渡帧之后,再播放VR装置根据姿态参数信息渲染播放的下一帧。
实施例二
如图3所示是本申请实施例二提供的一种VR视频处理方法的原理框图。
本申请实施例对虚拟现实VR装置播放的视频进行采样,根据采样的VR视频中的每一帧、与每一帧对应的特征向量,即根据视频信息,训练所述特征提取模型,根据视频信息确定视焦点信息,并根据视频信息和视焦点信息对视焦点预测模型进行训练。
之后本申请实施例利用特征提取模型和视焦点预测模型,根据视频信息和视焦点信息进行计算,得到预测的视焦点变化值,并根据视焦点变化值判断是否要对视频信息进行平滑化处理,在所述视焦点变化值大于第一预定阈值的情况下,根据所述当前帧和所述视焦点变化值,生成过渡帧,并在所述当前帧之后播放所述过渡帧。
基于相同的技术构思,本申请实施例还提供一种VR视频处理***、电子设备及计算机可读存储介质,具体可参见以下实施例。
实施例三
如图4所示是本申请实施例三提供的一种VR视频处理***的***框图。
本申请实施例提供的一种视频处理***400,包括获取模块401、第一计算模块402和视频处理模块403:
获取模块401,用于获取虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息。
这里,获取虚拟现实VR装置播放的视频影像当前帧的视频画面,或者使用虚拟现实VR装置进行游戏的当前帧的游戏画面。
这里,所述VR装置传感器获取的姿态参数信息可以是通过虚拟现实VR装置中设置的9轴传感器获取的姿态参数信息。
第一计算模块402,用于根据虚拟现实VR装置播放的当前帧和VR装置传感器获取的当前帧姿态参数信息,确定视焦点变化值。
这里,第一计算模块基于所述当前帧和所述当前帧姿态参数信息,以及预先训练的视焦点预测模型,确定所述视焦点变化值。
这里,所述视焦点预测模型可以使用任一机器学习算法实现,具体地,例如可以使用神经网络算法实现。
这里,还包括第一训练模块,第一训练模块具体用于根据以下步骤训练所述视焦点预测模型:对VR视频和VR装置传感器获取的所述虚拟现实VR视频中各帧所对应的姿态参数信息进行采样;根据采样的VR视频中的每两个相邻帧,得到多个采样视焦点变化值;基于所述采样视焦点变化值、所述采样视焦点变化值对应的相邻帧中的前一帧和所述采样视焦点变化值对应的相邻帧中前一帧所对应的姿态参数信息,进行视焦点预测模型训练。
并且,第一训练模块还用于在所述视焦点变化值小于第一预定阈值的情况下,利用此时的空闲计算资源,根据所述当前帧对应的视焦点变化值和所述姿态参数信息,更新所述视焦点预测模型。
这里,还包括第二计算模块,第二计算模块包括特征提取模型,用于提取每一帧的特征向量。
第一计算模块将第二计算模块提取的当前帧的特征向量,和获取的姿态参数信息输入预先训练的视焦点预测模型,得到所述视焦点变化值。
第一训练模块,利用第二计算模块分别提取两个相邻帧的特征向量;计算两个相邻帧的特征向量的相似度;根据所述相似度,确定所述视焦点变化值。分别对每两个相邻帧重复上述步骤,得到多个采样视焦点变化值。并基于所述采样视焦点变化值、所述采样视焦点变化值对应的相邻帧中的前一帧和所述采样视焦点变化值对应的相邻帧中前一帧所对应的姿态参数信息,进行视焦点预测模型训练。
这里,还包括第二训练模块,第二训练模块用于对VR视频进行采样,并根据采样的VR视频中的每一帧,以及与每一帧对应的特征向量,训练所述特征提取模型。
第二训练模块还用于,在所述视焦点变化值小于第一预定阈值的情况下,确定所述当前帧的特征向量与所述特征提取模型的每个参考特征向量的相似度;
如果所述特征提取模型中不存在与所述当前帧的特征向量之间的相似度大于第三预设阈值的参考特征向量,则将所述当前帧的特征向量确定为参考特征向量,更新所述特征提取模型。
由于在所述视焦点变化值小于第一预定阈值的情况下,无需生成过渡帧,因此利用此时的空闲计算资源,实时对特征提取模型进行更新,从而更快、更精准地对视焦点进行预测。
视频处理模块403,用于在所述视焦点变化值大于第一预定阈值的情况下,根据VR装置播放的当前帧和所述视焦点变化值,生成过渡帧,并在所述当前帧之后播放所述过渡帧。
这里,视频处理模块,还用于根据所述视焦点变化值和所述姿态参数信息确定预测偏差值;在所述视焦点变化值大于第一预定阈值、且所述预测偏差值小于第二预定阈值的情况下,根据所述VR装置播放的当前帧和所述视焦点变化值,生成过渡帧。
另外,本申请实施例提供的一种视频处理方法及***还可以集成在个人计算机PC式虚拟现实VR装置的计算机端,利用计算机强大的计算能力,将对视焦点变化值进行预测、以及对视频或游戏画面进行平滑化处理的操作集成在视频或游戏的生成过程中,在使用时无需只需少量的计算资源就可以对视焦点变化值进行预测,并对视频或游戏画面进行平滑化处理。
另外,本申请实施例还可以用来检验内容服务提供方提供的内容服务,为内容服务会给用户带来的眩晕感进行提前测试,从而帮助内容服务提供方提供更加优秀的内容,给用户带来更加优越的使用体验。
实施例四
本实施例公开了一种电子设备500,如图5所示,包括:处理器501、存储器502和总线503,所述存储器502存储有所述处理器501可执行的机器可读指令,当电子设备运行时,所述处理器501与所述存储器502之间通过总线503通信。
其中,存储器502可能包含高速随机存取存储器(RAM,Random Access Memory),也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
总线503可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图5中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
其中,存储器502用于存储程序,所述处理器501在接收到执行指令后,执行所述程序,前述本发明实施例任一实施例揭示的视频处理方法可以应用于处理器501中,或者由处理器501实现。
处理器501可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器501中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器501可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(DigitalSignal Processing,简称DSP)、专用集成电路(Application Specific IntegratedCircuit,简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器502,处理器501读取存储器502中的信息,结合其硬件完成上述VR视频处理方法的步骤。
实施例五
本实施例公开了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述实施例的VR视频处理方法中的步骤。
本申请实施例还提供了一种进行视频处理的计算机程序产品,其包括存储了处理器可执行的非易失的程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行前面方法实施例中所述的方法,具体实现可参见方法实施例,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的***、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的***、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本申请的具体实施方式,用以说明本申请的技术方案,而非对其限制,本申请的保护范围并不局限于此,尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本申请实施例技术方案的精神和范围,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。
Claims (7)
1.一种VR视频处理方法,其特征在于,包括:
根据虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息,确定视焦点变化值;
其中,根据虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息,确定视焦点变化值,包括:
基于所述当前帧和所述当前帧姿态参数信息,以及预先训练的视焦点预测模型,确定所述视焦点变化值;
根据以下步骤训练所述视焦点预测模型:
对虚拟现实VR视频和虚拟现实VR装置传感器获取的所述虚拟现实VR视频中各帧所对应的姿态参数信息进行采样;
根据采样的虚拟现实VR视频中的每两个相邻帧,得到多个采样视焦点变化值;
所述根据采样的虚拟现实VR视频中的每两个相邻帧,得到多个采样视焦点变化值,包括:
利用特征提取模型,分别提取两个相邻帧的特征向量;
计算两个相邻帧的特征向量的相似度;
根据所述相似度,确定所述采样视焦点变化值;
基于所述采样视焦点变化值、所述采样视焦点变化值对应的相邻帧中的前一帧和所述采样视焦点变化值对应的相邻帧中前一帧所对应的姿态参数信息,进行视焦点预测模型训练;
在所述视焦点变化值大于第一预定阈值的情况下,根据所述当前帧和所述视焦点变化值,生成过渡帧;
在所述当前帧之后播放所述过渡帧。
2.根据权利要求1所述的方法,其特征在于,基于所述当前帧和获取的当前帧姿态参数信息,以及预先训练的视焦点预测模型,确定所述视焦点变化值,包括:
利用特征提取模型,提取所述当前帧的特征向量;
将所述特征向量和获取的当前帧姿态参数信息输入预先训练的视焦点预测模型,得到所述视焦点变化值。
3.根据权利要求2所述的方法,其特征在于,根据以下步骤训练所述特征提取模型:
对虚拟现实VR视频进行采样;
根据采样的虚拟现实VR视频中的每一帧,以及与每一帧对应的特征向量,训练所述特征提取模型。
4.根据权利要求1所述的方法,其特征在于,还包括:
在所述视焦点变化值小于第一预定阈值的情况下,根据所述当前帧对应的视焦点变化值和所述当前帧姿态参数信息,更新所述视焦点预测模型。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述视焦点变化值和所述当前帧姿态参数信息确定预测偏差值;
在所述视焦点变化值大于第一预定阈值的情况下,根据所述虚拟现实VR装置播放的当前帧和所述视焦点变化值,生成过渡帧,包括:
在所述视焦点变化值大于第一预定阈值、且所述预测偏差值小于第二预定阈值的情况下,根据所述虚拟现实VR装置播放的当前帧和所述视焦点变化值,生成过渡帧。
6.根据权利要求2所述的方法,其特征在于,还包括:
在所述视焦点变化值小于第一预定阈值的情况下,确定所述当前帧的特征向量与所述特征提取模型的每个参考特征向量的相似度;
如果所述特征提取模型中不存在与所述当前帧的特征向量之间的相似度大于第三预设阈值的参考特征向量,则根据所述当前帧的特征向量更新所述特征提取模型。
7.一种VR视频处理***,其特征在于,包括获取模块、第一计算模块、第二计算模块和视频处理模块:
所述获取模块,用于获取虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息;
所述第一计算模块,用于根据虚拟现实VR装置播放的当前帧和虚拟现实VR装置传感器获取的当前帧姿态参数信息,确定视焦点变化值;
所述第二计算模块包括特征提取模型,用于提取每一帧的特征向量;
其中,所述第一计算模块基于所述当前帧和所述当前帧姿态参数信息,以及预先训练的视焦点预测模型,确定所述视焦点变化值;
所述VR视频处理***还包括第一训练模块,所述第一训练模块用于根据以下步骤训练所述视焦点预测模型:对虚拟现实VR视频和虚拟现实VR装置传感器获取的所述VR视频中各帧所对应的姿态参数信息进行采样;根据采样的VR视频中的每两个相邻帧,得到多个采样视焦点变化值;基于所述采样视焦点变化值、所述采样视焦点变化值对应的相邻帧中的前一帧和所述采样视焦点变化值对应的相邻帧中前一帧所对应的姿态参数信息,进行视焦点预测模型训练;
所述第一训练模块在用于根据采样的虚拟现实VR视频中的每两个相邻帧,得到多个采样视焦点变化值时,所述第一训练模块具体用于:利用所述特征提取模型,分别提取两个相邻帧的特征向量;计算两个相邻帧的特征向量的相似度;根据所述相似度,确定所述采样视焦点变化值;
所述视频处理模块,用于在所述视焦点变化值大于第一预定阈值的情况下,根据虚拟现实VR装置播放的当前帧和所述视焦点变化值,生成过渡帧,并在所述当前帧之后播放所述过渡帧。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811222181.7A CN109167989B (zh) | 2018-10-19 | 2018-10-19 | 一种vr视频处理方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811222181.7A CN109167989B (zh) | 2018-10-19 | 2018-10-19 | 一种vr视频处理方法及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109167989A CN109167989A (zh) | 2019-01-08 |
CN109167989B true CN109167989B (zh) | 2020-08-21 |
Family
ID=64878552
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811222181.7A Active CN109167989B (zh) | 2018-10-19 | 2018-10-19 | 一种vr视频处理方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109167989B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111933277A (zh) * | 2020-07-30 | 2020-11-13 | 西交利物浦大学 | 3d眩晕症的检测方法、装置、设备和存储介质 |
CN112354171B (zh) * | 2020-10-20 | 2023-08-25 | 上海恒润文化科技有限公司 | 一种轨道车及其执行机构的执行控制方法和装置 |
CN116744064A (zh) * | 2022-03-02 | 2023-09-12 | 北京字跳网络技术有限公司 | 基于虚拟现实的视频播放方法、装置及电子设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106658170A (zh) * | 2016-12-20 | 2017-05-10 | 福州瑞芯微电子股份有限公司 | 一种降低虚拟现实延迟的方法和装置 |
CN107329561A (zh) * | 2017-05-16 | 2017-11-07 | 广东小天才科技有限公司 | 一种基于usb接口的虚拟现实方法、装置及*** |
CN107943287A (zh) * | 2017-11-16 | 2018-04-20 | 烽火通信科技股份有限公司 | 一种基于Android机顶盒***解决VR画面抖动的***及方法 |
-
2018
- 2018-10-19 CN CN201811222181.7A patent/CN109167989B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106658170A (zh) * | 2016-12-20 | 2017-05-10 | 福州瑞芯微电子股份有限公司 | 一种降低虚拟现实延迟的方法和装置 |
CN107329561A (zh) * | 2017-05-16 | 2017-11-07 | 广东小天才科技有限公司 | 一种基于usb接口的虚拟现实方法、装置及*** |
CN107943287A (zh) * | 2017-11-16 | 2018-04-20 | 烽火通信科技股份有限公司 | 一种基于Android机顶盒***解决VR画面抖动的***及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109167989A (zh) | 2019-01-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109167989B (zh) | 一种vr视频处理方法及*** | |
US20170160795A1 (en) | Method and device for image rendering processing | |
CN112543343B (zh) | 基于连麦直播的直播画面处理方法、装置及电子设备 | |
US20180169517A1 (en) | Reactive animation for virtual reality | |
CN110850961B (zh) | 一种头戴式显示设备的校准方法及头戴式显示设备 | |
CN108096833B (zh) | 基于级联神经网络的体感游戏控制方法及装置、计算设备 | |
CN107376341B (zh) | 一种用于游戏手柄的数据处理方法、装置及游戏手柄 | |
CN110427849B (zh) | 人脸姿态确定方法、装置、存储介质和电子设备 | |
KR102291257B1 (ko) | 가상현실 컨텐츠 체감피로도 저감 장치 및 그 방법 | |
CN114543797B (zh) | 位姿预测方法和装置、设备、介质 | |
CN111191542A (zh) | 虚拟场景中的异常动作识别方法、装置、介质及电子设备 | |
CN106445143B (zh) | 一种数据处理的方法及头戴式虚拟现实设备 | |
CN111611941B (zh) | 特效处理方法及相关设备 | |
CN109543557B (zh) | 视频帧的处理方法、装置、设备以及存储介质 | |
CN111417918B (zh) | 用于在头戴式显示器上渲染当前图像的方法、对应装置、计算机程序产品和计算机可读载体介质 | |
CN110665227B (zh) | 指示用户操作的数据处理方法、装置与游戏辅助设备 | |
CN107596690B (zh) | 界面显示方法及终端设备 | |
TW202107248A (zh) | 電子裝置與其畫面視角辨識方法 | |
US11224801B2 (en) | Enhanced split-screen display via augmented reality | |
CN111199179B (zh) | 目标对象的跟踪方法、终端设备及介质 | |
CN109814703B (zh) | 一种显示方法、装置、设备和介质 | |
CN108205372B (zh) | 应用于虚拟现实设备的操作方法和装置以及虚拟现实设备 | |
CN114327343B (zh) | 一种裸眼3d效果显示优化方法、装置、电子设备及存储介质 | |
WO2018000610A1 (zh) | 一种基于图像类型判断的自动播放方法和电子设备 | |
CN110193194B (zh) | 游戏中的相机抖动模拟方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |