CN115761090A - 特效渲染方法、装置、设备、计算机可读存储介质及产品 - Google Patents

Abstract

本公开实施例提供一种特效渲染方法、装置、设备、计算机可读存储介质及产品，该方法包括：获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息；根据所述目标特效的标识信息确定与所述目标特效对应的渲染数据以及用于渲染所述待渲染图像帧的图形处理器组合；通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧；将所述目标图像帧发送至显示设备进行播放。从而不需要显示设备具备较高水平的硬件设备，此外，通过采用图形处理器组合对待渲染图像帧进行特效渲染操作能够有效地提高渲染后的目标图像帧的内容质量。进而可以提升虚拟现实直播观看者的用户体验。

Description

特效渲染方法、装置、设备、计算机可读存储介质及产品

技术领域

本公开实施例涉及图像处理技术领域，尤其涉及一种特效渲染方法、装置、设备、计算机可读存储介质及产品。

背景技术

随着科技的发展，虚拟现实(Virtual Reality，简称VR)技术逐渐走进用户的生活中。用户可以通过VR技术实现3D的VR直播。在VR直播过程中，通常会存在特效渲染的需求。

VR直播场景中通常在直播端渲染本地特效，将原始直播流推向看播端，在看播端在进行网络特效的渲染操作。但是，VR直播一般采用双目摄像头实时拍摄，VR直播一般采用较高分辨率的超高清视频帧。因此，在看播端进行特效渲染操作往往对看播端的性能要求较高，且在看播端进行特效渲染对看播端的资源占用、能耗等造成了较大的压力，直播帧率也会受到限制，应用看播端用户的观看体验。

发明内容

本公开实施例提供一种特效渲染方法、装置、设备、计算机可读存储介质及产品，用于解决现有的特效渲染方法对看播端硬件要求较高，且对看播端的资源占用、能耗等造成了较大的压力的技术问题。

第一方面，本公开实施例提供一种特效渲染方法，包括：

获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息；

根据所述目标特效的标识信息确定与所述目标特效对应的渲染数据以及用于渲染所述待渲染图像帧的图形处理器组合；

通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧；

将所述目标图像帧发送至显示设备进行播放。

第二方面，本公开实施例提供一种特效渲染装置，包括：

获取模块，用于获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息；

确定模块，用于根据所述目标特效的标识信息确定与所述目标特效对应的渲染数据以及用于渲染所述待渲染图像帧的图形处理器组合；

渲染模块，用于通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧；

发送模块，用于将所述目标图像帧发送至显示设备进行播放。

第三方面，本公开实施例提供一种电子设备，包括：处理器和存储器；

所述存储器存储计算机执行指令；

所述处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的特效渲染方法。

第四方面，本公开实施例提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上第一方面以及第一方面各种可能的设计所述的特效渲染方法。

第五方面，本公开实施例提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上第一方面以及第一方面各种可能的设计所述的特效渲染方法。

本实施例提供的特效渲染方法、装置、设备、计算机可读存储介质及产品，通过在获取到虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息之后，在云端服务器中采用图形处理器组合对待渲染图像帧进行特效渲染操作，从而不需要看播端具备较高水平的硬件设备，此外，通过采用图形处理器组合对待渲染图像帧进行特效渲染操作能够有效地提高渲染后的目标图像帧的内容质量。进而可以提升虚拟现实直播观看者的用户体验。

附图说明

为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本公开所基于的***架构图；

图2为本公开实施例提供的特效渲染方法的流程示意图；

图3为本公开又一实施例提供的特效渲染方法的流程示意图；

图4为本公开又一实施例提供的特效渲染方法的流程示意图；

图5为本公开实施例提供的特效渲染示意图；

图6为本公开又一实施例提供的特效渲染方法的流程示意图；

图7为本公开实施例提供的特效渲染装置的结构示意图；

图8为本公开实施例提供的电子设备的结构示意图。

具体实施方式

为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。

为了解决现有的特效渲染方法对看播端硬件要求较高，且对看播端的资源占用、能耗等造成了较大的压力的技术问题，本公开提供了一种特效渲染方法、装置、设备、计算机可读存储介质及产品。

需要说明的是，本公开提供的特效渲染方法、装置、设备、计算机可读存储介质及产品可以应用在任意一种特效渲染的应用场景中。

当前的特效渲染方法一般都是将虚拟现实直播对应的待渲染图像帧发送至看播端，由看播端进行特效渲染操作。因此，往往对看播端的硬件要求较高，且会导致看播端数据处理的压力过大，影响看播端的性能。

在解决上述技术问题的过程中，发明人通过研究发现，为了避免特效渲染操作对看播端带来的不良影响，提高虚拟现实直播的直播效果，可以通过云端服务器基于虚拟现实直播对应的待渲染图像帧进行特效渲染操作，并将渲染后的目标图像帧发送至看播端进行播放。

此外，为了保证虚拟现实直播的直播效果，云端服务器中可以设置有多个高性能图形处理器。因此，在特效渲染过程中，可以选择至少一个图形处理器组成的图形处理组合实现特效渲染操作。从而能够将各种特效果完整呈现出来，而不必受限设备性能的限制。

图1为本公开所基于的***架构图，如图1所示，本公开所基于的***架构至少包括服务器11、双目图像采集设备12、显示设备13以及特效服务器14。其中，服务器11中设置有特效渲染装置，该特效渲染装置可采用C/C++、Java、Shell或Python等语言编写；显示设备13则可以为VR眼镜、手机、平板等能够实现直播内容观看的显示设备。

基于上述***架构，服务器11可以获取双目图像采集设备12采集的虚拟现实直播对应的待渲染图像帧以及特效服务器14发送的目标特效的标识信息。进而可以根据该待渲染图像帧以及目标特效的标识信息采用图形处理器组合进行特效渲染操作，获得目标图像帧。将该目标图像帧发送至显示设备13进行播放。

图2为本公开实施例提供的特效渲染方法的流程示意图，如图2所示，该方法包括：

步骤201、获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息。

本实施例的执行主体为特效渲染装置，该特效渲染装置可耦合于云端服务器中。该云端服务器可以分别与双目图像采集设备以及显示设备通信连接。进而能够基于获取双目图像采集设备采集的虚拟现实直播对应的待渲染图像帧进行特效渲染操作。

在本实施方式中，为了能够避免对看播端的显示设备造成计算压力，且保证特效渲染的效果，可以在云端服务器中进行特效渲染操作。

可选地，特效渲染装置可以获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息。其中，该虚拟现实直播对应的待渲染图像帧可以为双目图像采集设备采集的，该目标特效的标识信息可以为预设的服务器基于直播观众或者主播的预设触发操作发送的。

需要说明的是，该服务器具体可以为用于存储特效对应的特效数据的数据服务器。

步骤202、根据所述目标特效的标识信息确定与所述目标特效对应的渲染数据以及用于渲染所述待渲染图像帧的图形处理器组合。

在本实施方式中，由于虚拟现实直播一般采用较高分辨率的视频帧。因此，为了保证特效处理的效果可以预先设置多个高性能的图形处理器。在特效处理时，可以根据实际应用的需求灵活地对多个图形处理器进行配置，以实现高质量的特效渲染操作。

在获取到目标特效的标识信息之后，可以根据该目标特效的标识信息获取目标特效对应的渲染数据。以及可以根据该渲染数据确定渲染该待渲染图像帧所需要的图形处理器组合，其中，该图形处理器组合中可以包括至少两个图形处理器。

步骤203、通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧。

在本实施方式中，在确定渲染该待渲染图像帧所需要的图形处理器组合之后，即可以通过该图形处理器组合基于该渲染数据对待渲染图像帧进行渲染操作，获得渲染后的目标图像帧。通过采用图形处理器组合进行特效渲染操作，能够将所需各种特效的效果完整呈现出来，而不必受限设备性能的限制。有效地在避免看播端的计算压力的基础上，提升了虚拟现实直播的质量。

步骤204、将所述目标图像帧发送至显示设备进行播放。

在本实施方式中，在云端服务器内完成对待渲染图像帧的渲染操作之后，可以将目标图像帧发送至显示设备进行播放。其中，该显示设备包括但不限于虚拟现实设备、设置有显示界面的手机、平板、电视等。

从而显示设备无需进行特效渲染操作，仅播放目标图像帧即能够完成高质量的直播内容的观看。

作为一种可以实施的方式，该显示设备具体可以为虚拟现实设备。为了能够节约虚拟现实设备的算力，且保证优质的直播效果，虚拟现实设备可以与云端服务器通信连接。由云端服务器选择图形处理器组合对虚拟现实直播对应的直播内容进行渲染操作。将渲染后的目标视频流发送至虚拟现实设备进行播放。

进一步地，在上述任一实施例的基础上，步骤201包括：

获取双目图像采集设备采集的虚拟现实直播对应的待渲染图像帧，以及，获取服务器发送的目标特效，所述目标特效为用户在所述服务器上触发虚拟资源转移操作时确定的。

在本实施例中，当用户在看播端观看直播内容时，其可以根据实际需求触发虚拟资源转移操作。例如，用户可以通过预设的触发操作为直播送上小礼物。而不同的虚拟资源可能对应有不同的特效。

云端服务器还可以与预设的服务器通信连接。当获取到用户在服务器上触发虚拟资源转移操作时，服务器可以向云端服务器发送目标特效的标识信息。相应地，云端服务器可以分别获取双目图像采集设备采集的虚拟现实直播对应的待渲染图像帧，以及，获取服务器发送的目标特效。

本实施例提供的特效渲染方法，通过在获取到虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息之后，在云端服务器中采用图形处理器组合对待渲染图像帧进行特效渲染操作，从而不需要看播端具备较高水平的硬件设备，此外，通过采用图形处理器组合对待渲染图像帧进行特效渲染操作能够有效地提高渲染后的目标图像帧的内容质量。进而可以提升虚拟现实直播观看者的用户体验。

进一步地，在上述任一实施例的基础上，步骤202包括：

根据目标特效的标识信息获取目标特效对应的渲染数据，所述渲染数据包括目标特效对应的特效类型、场景类型、调用算法信息。

根据所述渲染数据确定用于特效渲染的图形处理器组合。

在本实施例中，在获取到目标特效的标识信息之后，可以根据目标特效的标识信息获取目标特效对应的渲染数据，其中，该渲染数据包括目标特效对应的特效类型、场景类型、调用算法信息。

基于上述渲染数据，可以根据预设的渲染数据与图形处理器之间的映射关系确定该目标特效对应的图形处理器组合。

可选地，用户也可以根据实际需求对多个图形处理器进行自定义的选择操作，本公开对此不做限制。例如，用户可以在多个图形处理器中选择至少两个图形处理器作为该图形处理器组合。

本实施例提供的特效渲染方法，通过根据目标特效对应的渲染数据确定用于特效渲染的图形处理器组合，从而能够通过该高性能的图形处理器组合实现对待渲染图像帧的特效渲染操作，提高了特效渲染的渲染效果，进而能够优化虚拟现实直播的直播效果，提升用户体验。

进一步地，在上述任一实施例的基础上，所述图形处理器组合中包括至少两个图形处理器。步骤203包括：

通过所述图形处理器组合中的任一图形处理器对所述待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧。

通过所述图形处理器组合中的其他至少一个图形处理器对所述预处理后的待渲染图像帧进行转码算法处理以及编码操作。

在本实施例中，当采用至少两张图形处理器进行特效处理时，不可避免地会产生图形处理器之间的数据传输操作。而由于虚拟现实直播对应的待渲染图像帧的分辨率较高，过多的数据传输操作会降低特效处理的效率。

因此，为了在保证特效处理的效果的基础上，提高特效处理的效率，可以使得解码和特效使用同一图形处理器，其他的操作使用其他的图形处理器。

可选地，可以通过图形处理器组合中的任一图形处理器对待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧。通过图形处理器组合中的其他至少一个图形处理器对预处理后的待渲染图像帧进行转码算法处理以及编码操作。

以实际应用举例来说，当图形处理器组合中包括两个图形处理器时，可以采用一个图形处理器执行解码+特效算法+特效渲染等操作，而采用另一个图形处理器进行编码操作。当图形处理器组合中包括三个图形处理器时，可以采用一个图形处理器执行解码+特效算法+特效渲染等操作，采用一个图形处理器执行转码算法，采用一个图形处理器执行编码操作。

本实施例提供的特效渲染方法，通过使用同一个图形处理器进行解码操作与特效处理操作，并采用其他的图形处理器进行其他的操作，从而能够在提升特效渲染效果的基础上，尽量减少跨卡的数据传输，提升了特效渲染的效率。

图3为本公开又一实施例提供的特效渲染方法的流程示意图，在上述任一实施例的基础上，所述目标特效的数量为至少一个。如图3所示，步骤203包括：

步骤301、针对每一所述目标特效，根据所述目标特效对应的渲染数据确定所述目标特效对应的渲染时间范围。

步骤302、根据每一所述目标特效对应的渲染时间范围对所述目标特效进行渲染操作。

在本实施例中，在实际的直播过程中，该虚拟现实直播对应的目标特效的数量可以为至少一个。而不同的目标特效分别对应有不同的渲染时间范围。

因此，为了实现目标特效的准确渲染，针对每一目标特效，根据所述目标特效对应的渲染数据确定所述目标特效对应的渲染时间范围。在该渲染时间范围内根据目标特效对应的渲染数据对待渲染图像帧进行渲染操作。

本实施例提供的特效渲染方法，通过分别确定各目标特效的渲染时间范围，在目标特效对应的渲染时间范围内对该目标特效进行渲染操作，从而能够精准地实现特效渲染操作，进一步地提升特效渲染操作的渲染效果。

图4为本公开又一实施例提供的特效渲染方法的流程示意图，在上述任一实施例的基础上，所述待渲染图像帧为编码后的图像帧；如图4所示，步骤203包括：

步骤401、通过所述图形处理器组合对所述待渲染图像帧进行解码操作，获得解码后的待渲染图像帧。

步骤402、通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息，其中，所述渲染信息包括目标渲染区域以及深度信息。

步骤403、通过所述图形处理器组合根据所述渲染信息以及所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧。

在本实施例中，该待渲染图像帧具体可以为编码后的图像帧。因此，在获取到待渲染图像帧之后，首先可以对该待渲染图像帧进行解码操作，获得解码后的待渲染图像帧。

为了能够实现目标特效的精准渲染操作，在获得解码后的待渲染图像帧之后，可以进一步地通过图形处理器组合识别解码后的待渲染图像帧对应的渲染信息，其中，渲染信息包括目标渲染区域以及深度信息。从而基于该渲染信息即能够确定需要渲染的特效位置、以及特效深度等。因此，在识别到渲染信息之后，可以通过图形处理器组合根据渲染信息以及渲染数据对待渲染图像帧进行渲染操作，获得渲染后的目标图像帧。

可选地，具体可以通过预设的深度识别模型以及预设的区域分割模型识别解码后的待渲染图像帧对应的渲染信息。

或者，可以采用任意一种区域识别以及深度识别的方式实现对渲染信息的识别，本公开对此不做限制。

进一步地，在上述任一实施例的基础上，步骤402包括：

对所述解码后的待渲染图像帧进行鱼眼图像处理操作，获得鱼眼效果的待渲染图像帧。

识别所述鱼眼效果的待渲染图像帧对应的渲染信息。

在本实施例中，为了提高渲染信息识别的准确性，首先可以对解码后的待渲染图像帧进行鱼眼图像处理操作，获得鱼眼效果的待渲染图像帧。通过图形处理器识别鱼眼效果的待渲染图像帧对应的渲染信息。

进一步地，在上述任一实施例的基础上，步骤402之后，还包括：

根据所述待渲染图像帧对应的渲染信息生成所述待渲染图像帧对应的深度纹理图。

所述通过所述图形处理器组合根据所述渲染信息以及所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

根据所述渲染数据对所述深度纹理图进行渲染操作，获得渲染后的图像帧。

在本实施例中，在识别解码后的待渲染图像帧对应的渲染信息之后，可以基于该渲染信息生成待渲染图像帧对应的深度纹理图。该深度纹理图可以为可视化的纹理图，基于该深度纹理图能够确定待渲染图像帧中的明暗变化、目标渲染区域等内容。根据渲染数据对该深度纹理图进行渲染操作，获得渲染后的图像帧。

图5为本公开实施例提供的特效渲染示意图，如图5所示，在获取到待渲染图像帧51之后，可以对待渲染图像帧51进行解码操作，获得解码后的待渲染图像帧52。对解码后的待渲染图像帧52进行鱼眼图像处理操作，获得鱼眼效果的待渲染图像帧53。针对鱼眼效果的待渲染图像帧53中的每一图像帧54，识别该图像帧对应的渲染信息，并根据图像帧对应的渲染信息生成图像帧对应的深度纹理图54。根据渲染数据对该深度纹理图54进行渲染操作，获得渲染后的图像帧55。

本实施例提供的特效渲染方法，通过在获取到待渲染图像帧之后，识别待渲染图像帧中的深度信息以及目标渲染区域，根据该深度信息以及目标渲染区域构建深度纹理图，从而能够基于该深度纹理图实现准确地特效渲染操作，提高了特效渲染的效果。

图6为本公开又一实施例提供的特效渲染方法的流程示意图，在上述任一实施例的基础上，用于播放目标图像帧的显示设备的数量为多个。如图6所示，步骤203包括：

步骤601、确定每一显示设备对应的分辨率。

步骤602、通过所述图形处理器组合中的任一图形处理器对所述待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧。

步骤603、分别采用与所述显示设备对应的分辨率对应的图形处理器对所述预处理后的待渲染图像帧进行转码算法处理以及编码操作。

在本实施例中，虚拟现实直播对应的用于播放目标图像帧的显示设备的数量为多个。而不同的显示设备的分辨率有所不同。举例来说，若该显示设备为手机，则分辨率一般为1080P，而若显示设备为虚拟现实设备，则一般为8K分辨率。为了使得特效渲染后的目标图像帧能够适应于不同的显示设备，针对不同的虚拟现实设备，可以采用不同的图形处理器进行转码算法处理以及编码操作。

可选地，可以确定每一显示设备对应的分辨率。通过图形处理器组合中的任一图形处理器对待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧。针对不同的显示设备，分别采用与显示设备对应的分辨率对应的图形处理器对预处理后的待渲染图像帧进行转码算法处理以及编码操作。

本实施例提供的特效渲染方法，通过针对不同显示设备对应的分辨率，采用不同的图形处理器进行特效渲染操作，从而能够实现不同分辨率的直播内容的多路输出，增加了虚拟现实直播的适用场景。

图7为本公开实施例提供的特效渲染装置的结构示意图，如图7所示，该装置包括：获取模块71、确定模块72、渲染模块73以及发送模块74。其中，获取模块71，用于获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息。确定模块72，用于根据所述目标特效的标识信息确定与所述目标特效对应的渲染数据以及用于渲染所述待渲染图像帧的图形处理器组合。渲染模块73，用于通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧。发送模块74，用于将所述目标图像帧发送至显示设备进行播放。

进一步地，在上述任一实施例的基础上，所述获取模块用于：获取双目图像采集设备采集的虚拟现实直播对应的待渲染图像帧，以及，获取服务器发送的目标特效，所述目标特效为用户在所述服务器上触发虚拟资源转移操作时确定的。

进一步地，在上述任一实施例的基础上，所述确定模块用于：根据目标特效的标识信息获取目标特效对应的渲染数据，所述渲染数据包括目标特效对应的特效类型、场景类型、调用算法信息。根据所述渲染数据确定用于特效渲染的图形处理器组合。

进一步地，在上述任一实施例的基础上，所述目标特效的数量为至少一个。所述渲染模块用于：针对每一所述目标特效，根据所述目标特效对应的渲染数据确定所述目标特效对应的渲染时间范围。根据每一所述目标特效对应的渲染时间范围对所述目标特效进行渲染操作。

进一步地，在上述任一实施例的基础上，所述待渲染图像帧为编码后的图像帧。所述渲染模块用于：通过所述图形处理器组合对所述待渲染图像帧进行解码操作，获得解码后的待渲染图像帧。通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息，其中，所述渲染信息包括目标渲染区域以及深度信息。通过所述图形处理器组合根据所述渲染信息以及所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧。

进一步地，在上述任一实施例的基础上，所述渲染模块用于：对所述解码后的待渲染图像帧进行鱼眼图像处理操作，获得鱼眼效果的待渲染图像帧。识别所述鱼眼效果的待渲染图像帧对应的渲染信息。

进一步地，在上述任一实施例的基础上，所述渲染模块用于：根据所述待渲染图像帧对应的渲染信息生成所述待渲染图像帧对应的深度纹理图。根据所述渲染数据对所述深度纹理图进行渲染操作，获得渲染后的图像帧。

进一步地，在上述任一实施例的基础上，所述渲染模块用于：通过预设的深度识别模型以及预设的区域分割模型识别所述解码后的待渲染图像帧对应的渲染信息。

进一步地，在上述任一实施例的基础上，所述图形处理器组合中包括至少两个图形处理器。所述渲染模块用于：通过所述图形处理器组合中的任一图形处理器对所述待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧。通过所述图形处理器组合中的其他至少一个图形处理器对所述预处理后的待渲染图像帧进行转码算法处理以及编码操作。

进一步地，在上述任一实施例的基础上，用于播放目标图像帧的显示设备的数量为多个。所述渲染模块用于：确定每一显示设备对应的分辨率。通过所述图形处理器组合中的任一图形处理器对所述待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧。分别采用与所述显示设备对应的分辨率对应的图形处理器对所述预处理后的待渲染图像帧进行转码算法处理以及编码操作。

进一步地，在上述任一实施例的基础上，所述显示设备至少包括虚拟现实设备。

本实施例提供的设备，可用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，本实施例此处不再赘述。

为了实现上述实施例，本公开实施例还提供了一种电子设备，包括：处理器和存储器。

所述存储器存储计算机执行指令。

所述处理器执行所述存储器存储的计算机执行指令，使得所述处理器执行如上述任一实施例所述的特效渲染方法。

图8为本公开实施例提供的电子设备的结构示意图，该电子设备800可以为终端设备或服务器。其中，终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、个人数字助理(Personal Digital Assistant，简称PDA)、平板电脑(Portable AndroidDevice，简称PAD)、便携式多媒体播放器(Portable Media Player，简称PMP)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图8示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图8所示，电子设备800可以包括处理装置(例如中央处理器、图形处理器等)801，其可以根据存储在只读存储器(Read Only Memory，简称ROM)802中的程序或者从存储装置808加载到随机访问存储器(Random Access Memory，简称RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中，还存储有电子设备800操作所需的各种程序和数据。处理装置801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

通常，以下装置可以连接至I/O接口805：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置806；包括例如液晶显示器(Liquid CrystalDisplay，简称LCD)、扬声器、振动器等的输出装置807；包括例如磁带、硬盘等的存储装置808；以及通信装置809。通信装置809可以允许电子设备800与其他设备进行无线或有线通信以交换数据。虽然图8示出了具有各种装置的电子设备800，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置809从网络上被下载和安装，或者从存储装置808被安装，或者从ROM802被安装。在该计算机程序被处理装置801执行时，执行本公开实施例的方法中限定的上述功能。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

本公开实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上述任一实施例所述的特效渲染方法。

本公开实施例还提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述任一实施例所述的特效渲染的方法。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备执行上述实施例所示的方法。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LocalArea Network，简称LAN)或广域网(Wide Area Network，简称WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上***(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

第一方面，根据本公开的一个或多个实施例，提供了一种特效渲染方法，包括：

获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息；

根据所述目标特效的标识信息确定与所述目标特效对应的渲染数据以及用于渲染所述待渲染图像帧的图形处理器组合；

通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧；

将所述目标图像帧发送至显示设备进行播放。

根据本公开的一个或多个实施例，所述获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息，包括：

获取双目图像采集设备采集的虚拟现实直播对应的待渲染图像帧，以及，获取服务器发送的目标特效，所述目标特效为用户在所述服务器上触发虚拟资源转移操作时确定的。

根据本公开的一个或多个实施例，所述根据目标特效的标识信息确定与目标特效对应的渲染数据以及用于特效渲染的图形处理器组合，包括：

根据目标特效的标识信息获取目标特效对应的渲染数据，所述渲染数据包括目标特效对应的特效类型、场景类型、调用算法信息；

根据所述渲染数据确定用于特效渲染的图形处理器组合。

根据本公开的一个或多个实施例，所述目标特效的数量为至少一个；所述通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

针对每一所述目标特效，根据所述目标特效对应的渲染数据确定所述目标特效对应的渲染时间范围；

根据每一所述目标特效对应的渲染时间范围对所述目标特效进行渲染操作。

根据本公开的一个或多个实施例，所述待渲染图像帧为编码后的图像帧；所述通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

通过所述图形处理器组合对所述待渲染图像帧进行解码操作，获得解码后的待渲染图像帧；

通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息，其中，所述渲染信息包括目标渲染区域以及深度信息；

通过所述图形处理器组合根据所述渲染信息以及所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧。

根据本公开的一个或多个实施例，所述通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息，包括：

对所述解码后的待渲染图像帧进行鱼眼图像处理操作，获得鱼眼效果的待渲染图像帧；

识别所述鱼眼效果的待渲染图像帧对应的渲染信息。

根据本公开的一个或多个实施例，所述通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息之后，还包括：

根据所述待渲染图像帧对应的渲染信息生成所述待渲染图像帧对应的深度纹理图；

所述通过所述图形处理器组合根据所述渲染信息以及所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

根据所述渲染数据对所述深度纹理图进行渲染操作，获得渲染后的图像帧；

根据本公开的一个或多个实施例，所述通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息，包括：

通过预设的深度识别模型以及预设的区域分割模型识别所述解码后的待渲染图像帧对应的渲染信息。

根据本公开的一个或多个实施例，所述图形处理器组合中包括至少两个图形处理器；

所述通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

通过所述图形处理器组合中的任一图形处理器对所述待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧；

通过所述图形处理器组合中的其他至少一个图形处理器对所述预处理后的待渲染图像帧进行转码算法处理以及编码操作。

根据本公开的一个或多个实施例，用于播放目标图像帧的显示设备的数量为多个；

所述通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

确定每一显示设备对应的分辨率；

通过所述图形处理器组合中的任一图形处理器对所述待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧；

分别采用与所述显示设备对应的分辨率对应的图形处理器对所述预处理后的待渲染图像帧进行转码算法处理以及编码操作。

进一步地，在上述任一实施例的基础上，所述显示设备至少包括虚拟现实设备。

第二方面，根据本公开的一个或多个实施例，提供了一种特效渲染装置，包括：

获取模块，用于获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息；

确定模块，用于根据所述目标特效的标识信息确定与所述目标特效对应的渲染数据以及用于渲染所述待渲染图像帧的图形处理器组合；

渲染模块，用于通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧；

发送模块，用于将所述目标图像帧发送至显示设备进行播放。

根据本公开的一个或多个实施例，所述获取模块用于：

获取双目图像采集设备采集的虚拟现实直播对应的待渲染图像帧，以及，获取服务器发送的目标特效，所述目标特效为用户在所述服务器上触发虚拟资源转移操作时确定的。

根据本公开的一个或多个实施例，所述确定模块用于：

根据目标特效的标识信息获取目标特效对应的渲染数据，所述渲染数据包括目标特效对应的特效类型、场景类型、调用算法信息；

根据所述渲染数据确定用于特效渲染的图形处理器组合。

根据本公开的一个或多个实施例，所述目标特效的数量为至少一个；所述渲染模块用于：

针对每一所述目标特效，根据所述目标特效对应的渲染数据确定所述目标特效对应的渲染时间范围；

根据每一所述目标特效对应的渲染时间范围对所述目标特效进行渲染操作。

根据本公开的一个或多个实施例，所述待渲染图像帧为编码后的图像帧；所述渲染模块用于：

通过所述图形处理器组合对所述待渲染图像帧进行解码操作，获得解码后的待渲染图像帧；

通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息，其中，所述渲染信息包括目标渲染区域以及深度信息；

通过所述图形处理器组合根据所述渲染信息以及所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧。

根据本公开的一个或多个实施例，所述渲染模块用于：

对所述解码后的待渲染图像帧进行鱼眼图像处理操作，获得鱼眼效果的待渲染图像帧；

识别所述鱼眼效果的待渲染图像帧对应的渲染信息。

根据本公开的一个或多个实施例，所述渲染模块用于：

根据所述待渲染图像帧对应的渲染信息生成所述待渲染图像帧对应的深度纹理图；

根据所述渲染数据对所述深度纹理图进行渲染操作，获得渲染后的图像帧。

根据本公开的一个或多个实施例，所述渲染模块用于：

通过预设的深度识别模型以及预设的区域分割模型识别所述解码后的待渲染图像帧对应的渲染信息。

根据本公开的一个或多个实施例，所述图形处理器组合中包括至少两个图形处理器；

所述渲染模块用于：

通过所述图形处理器组合中的任一图形处理器对所述待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧；

通过所述图形处理器组合中的其他至少一个图形处理器对所述预处理后的待渲染图像帧进行转码算法处理以及编码操作。

根据本公开的一个或多个实施例，用于播放目标图像帧的显示设备的数量为多个；

所述渲染模块用于：

确定每一显示设备对应的分辨率；

通过所述图形处理器组合中的任一图形处理器对所述待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧；

分别采用与所述显示设备对应的分辨率对应的图形处理器对所述预处理后的待渲染图像帧进行转码算法处理以及编码操作。

进一步地，在上述任一实施例的基础上，所述显示设备至少包括虚拟现实设备。

第三方面，根据本公开的一个或多个实施例，提供了一种电子设备，包括：至少一个处理器和存储器；

所述存储器存储计算机执行指令；

所述至少一个处理器执行所述存储器存储的计算机执行指令，使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的特效渲染方法。

第四方面，根据本公开的一个或多个实施例，提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上第一方面以及第一方面各种可能的设计所述的特效渲染方法。

第五方面，根据本公开的一个或多个实施例，提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上第一方面以及第一方面各种可能的设计所述的特效渲染方法

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (15)

1.一种特效渲染方法，其特征在于，包括：

获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息；

根据所述目标特效的标识信息确定与所述目标特效对应的渲染数据以及用于渲染所述待渲染图像帧的图形处理器组合；

通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧；

将所述目标图像帧发送至显示设备进行播放。

2.根据权利要求1所述的方法，其特征在于，所述获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息，包括：

获取双目图像采集设备采集的虚拟现实直播对应的待渲染图像帧，以及，获取服务器发送的目标特效，所述目标特效为用户在所述服务器上触发虚拟资源转移操作时确定的。

3.根据权利要求1所述的方法，其特征在于，所述根据目标特效的标识信息确定与目标特效对应的渲染数据以及用于特效渲染的图形处理器组合，包括：

根据目标特效的标识信息获取目标特效对应的渲染数据，所述渲染数据包括目标特效对应的特效类型、场景类型、调用算法信息；

根据所述渲染数据确定用于特效渲染的图形处理器组合。

4.根据权利要求1所述的方法，其特征在于，所述目标特效的数量为至少一个；所述通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

针对每一所述目标特效，根据所述目标特效对应的渲染数据确定所述目标特效对应的渲染时间范围；

根据每一所述目标特效对应的渲染时间范围对所述目标特效进行渲染操作。

5.根据权利要求1-4任一项所述的方法，其特征在于，所述待渲染图像帧为编码后的图像帧；所述通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

通过所述图形处理器组合对所述待渲染图像帧进行解码操作，获得解码后的待渲染图像帧；

通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息，其中，所述渲染信息包括目标渲染区域以及深度信息；

通过所述图形处理器组合根据所述渲染信息以及所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧。

6.根据权利要求5所述的方法，其特征在于，所述通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息，包括：

对所述解码后的待渲染图像帧进行鱼眼图像处理操作，获得鱼眼效果的待渲染图像帧；

识别所述鱼眼效果的待渲染图像帧对应的渲染信息。

7.根据权利要求5所述的方法，其特征在于，所述通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息之后，还包括：

根据所述待渲染图像帧对应的渲染信息生成所述待渲染图像帧对应的深度纹理图；

所述通过所述图形处理器组合根据所述渲染信息以及所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

根据所述渲染数据对所述深度纹理图进行渲染操作，获得渲染后的图像帧。

8.根据权利要求5所述的方法，其特征在于，所述通过所述图形处理器组合识别所述解码后的待渲染图像帧对应的渲染信息，包括：

通过预设的深度识别模型以及预设的区域分割模型识别所述解码后的待渲染图像帧对应的渲染信息。

9.根据权利要求1-4任一项所述的方法，其特征在于，所述图形处理器组合中包括至少两个图形处理器；

所述通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

通过所述图形处理器组合中的任一图形处理器对所述待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧；

通过所述图形处理器组合中的其他至少一个图形处理器对所述预处理后的待渲染图像帧进行转码算法处理以及编码操作。

10.根据权利要求1-4任一项所述的方法，其特征在于，用于播放目标图像帧的显示设备的数量为多个；

所述通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧，包括：

确定每一显示设备对应的分辨率；

通过所述图形处理器组合中的任一图形处理器对所述待渲染图像帧进行解码操作、算法识别操作以及特效渲染操作，获得预处理后的待渲染图像帧；

分别采用与所述显示设备对应的分辨率对应的图形处理器对所述预处理后的待渲染图像帧进行转码算法处理以及编码操作。

11.根据权利要求1-4任一项所述的方法，其特征在于，所述显示设备至少包括虚拟现实设备。

12.一种特效渲染装置，其特征在于，包括：

获取模块，用于获取虚拟现实直播对应的待渲染图像帧以及目标特效的标识信息；

确定模块，用于根据所述目标特效的标识信息确定与所述目标特效对应的渲染数据以及用于渲染所述待渲染图像帧的图形处理器组合；

渲染模块，用于通过所述图形处理器组合根据所述渲染数据对所述待渲染图像帧进行渲染操作，获得渲染后的目标图像帧；

发送模块，用于将所述目标图像帧发送至显示设备进行播放。

13.一种电子设备，其特征在于，包括：处理器和存储器；

所述存储器存储计算机执行指令；

所述处理器执行所述存储器存储的计算机执行指令，使得所述处理器执行如权利要求1至11任一项所述的特效渲染方法。

14.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如权利要求1至11任一项所述的特效渲染方法。

15.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至11任一项所述的特效渲染的方法。

Images