CN110971930A - 虚拟形象直播的方法、装置、终端及存储介质 - Google Patents
虚拟形象直播的方法、装置、终端及存储介质 Download PDFInfo
- Publication number
- CN110971930A CN110971930A CN201911320650.3A CN201911320650A CN110971930A CN 110971930 A CN110971930 A CN 110971930A CN 201911320650 A CN201911320650 A CN 201911320650A CN 110971930 A CN110971930 A CN 110971930A
- Authority
- CN
- China
- Prior art keywords
- avatar
- anchor
- target
- identification
- live video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000009877 rendering Methods 0.000 claims abstract description 87
- 230000014509 gene expression Effects 0.000 claims description 32
- 230000009471 action Effects 0.000 claims description 31
- 230000008921 facial expression Effects 0.000 claims description 7
- 238000005266 casting Methods 0.000 claims 1
- 230000000903 blocking effect Effects 0.000 abstract 1
- 230000006870 function Effects 0.000 description 14
- 230000002093 peripheral effect Effects 0.000 description 10
- 230000001133 acceleration Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 206010011469 Crying Diseases 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/61—Network physical structure; Signal processing
- H04N21/6106—Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
- H04N21/6125—Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via Internet
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本申请公开了一种虚拟形象直播的方法,属于直播技术领域。所述方法包括:主播应用程序获取目标虚拟形象标识;主播应用程序向虚拟形象渲染应用程序发送目标虚拟形象标识;虚拟形象渲染应用程序,向数据服务器发送虚拟形象模型获取请求,其中,虚拟形象模型获取请求中携带有目标虚拟形象标识;数据服务器向虚拟形象渲染应用程序发送目标虚拟形象标识对应的目标虚拟形象模型;虚拟形象渲染应用程序获取主播直播视频,基于目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,向主播应用程序发送虚拟形象直播视频。本申请通过两个独立应用程序,分别完成虚拟形象直播视频生成和直播,避免了主播应用程序直播视频的卡顿问题。
Description
技术领域
本申请涉及直播技术领域,特别涉及一种虚拟形象直播的方法、装置、终端及存储介质。
背景技术
随着直播技术的发展,除真人直播外,虚拟形象直播也开始进入人们的视野。
目前,虚拟形象直播主要通过直播应用程序实现,在主播选择使用虚拟形象进行直播时,直播应用程序向后台服务器获取虚拟形象模型。然后,直播应用程序可以获取主播的直播视频,并通过内置的三维渲染插件,根据直播视频对虚拟形象模型进行渲染,生成虚拟形象直播视频。
在实现本申请的过程中,发明人发现现有技术至少存在以下问题:
安装在直播应用程序中的三维渲染插件在运行时占用直播应用程序的资源,使直播应用程序的直播功能受到影响,导致主播应用程序中的直播视频出现卡顿,不流畅的问题。
发明内容
本申请实施例提供了一种虚拟形象直播的方法,能够解决直播视频卡顿的问题。所述技术方案如下:
第一方面,提供了一种虚拟形象直播的方法,所述方法包括:
主播应用程序获取目标虚拟形象标识;
所述主播应用程序向虚拟形象渲染应用程序发送所述目标虚拟形象标识;
所述虚拟形象渲染应用程序,向数据服务器发送虚拟形象模型获取请求,其中,所述虚拟形象模型获取请求中携带有所述目标虚拟形象标识;
所述数据服务器向所述虚拟形象渲染应用程序发送所述目标虚拟形象标识对应的目标虚拟形象模型;
所述虚拟形象渲染应用程序获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,向所述主播应用程序发送所述虚拟形象直播视频。
在一种可能的实现方式中,所述主播应用程序获取目标虚拟形象标识,包括:
所述主播应用程序向所述数据服务器发送虚拟形象标识查询请求,其中,所述虚拟形象标识查询请求中携带有所述主播应用程序登录的目标主播账户的标识;
所述数据服务器根据存储的主播账户的标识和虚拟形象标识的对应关系,向所述主播应用程序发送所述目标主播账户的标识对应的目标虚拟形象标识。
在一种可能的实现方式中,所述主播应用程序向虚拟形象渲染应用程序发送所述目标虚拟形象标识,包括:
主播应用程序向虚拟形象渲染应用程序发送所述目标虚拟形象标识和所述目标主播账户的标识;
所述虚拟形象模型获取请求中还携带有所述目标主播账户的标识;
所述数据服务器向所述虚拟形象渲染应用程序发送目标虚拟形象标识对应的目标虚拟形象模型,包括:
如果所述数据服务器确定所述目标虚拟形象标识和所述目标主播账户的标识,对应存储在所述主播账户的标识和虚拟形象标识的对应关系中,则向所述虚拟形象渲染应用程序发送目标虚拟形象标识对应的目标虚拟形象模型。
在一种可能的实现方式中,所述方法还包括:
如果所述数据服务器确定所述目标虚拟形象标识和所述目标主播账户的标识,未对应存储在所述主播账户的标识和虚拟形象标识的对应关系中,则向所述虚拟形象渲染应用程序发送请求失败消息;
所述虚拟形象渲染应用程序向所述主播应用程序发送虚拟形象禁止使用消息;
所述主播应用程序显示虚拟形象禁止使用提示消息。
在一种可能的实现方式中,所述虚拟形象渲染应用程序获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,包括:
所述虚拟形象渲染应用程序获取主播直播视频,对所述主播直播视频的视频帧中的主播进行人脸表情识别,确定每个视频帧中主播的表情信息;
所述虚拟形象渲染应用程序控制所述虚拟形象模型执行各视频帧中主播的表情信息对应的表情,以生成虚拟形象直播视频。
在一种可能的实现方式中,所述虚拟形象渲染应用程序获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,包括:
所述虚拟形象渲染应用程序获取主播直播视频,对所述主播直播视频的视频帧中的主播进行动作识别,确定各视频帧中主播的动作信息;
所述虚拟形象渲染应用程序控制所述虚拟形象模型执行各视频帧中主播的动作信息对应的动作,以生成虚拟形象直播视频。
第二方面,提供了一种虚拟形象直播的方法,所述方法包括:
接收主播应用程序发送的目标虚拟形象标识;
向数据服务器发送虚拟形象模型获取请求,其中,所述虚拟形象模型获取请求中携带有所述目标虚拟形象标识;
接收所述数据服务器发送的所述目标虚拟形象标识对应的目标虚拟形象模型;
获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,向所述主播应用程序发送所述虚拟形象直播视频。
在一种可能的实现方式中,所述接收主播应用程序发送的目标虚拟形象标识,包括:
接收所述主播应用程序发送的所述目标虚拟形象标识和所述主播应用程序登录的目标主播账户的标识;
所述虚拟形象模型获取请求中还携带有所述目标主播账户的标识;
所述接收所述数据服务器发送的所述目标虚拟形象标识对应的目标虚拟形象模型,包括;
接收所述数据服务器在确定所述目标虚拟形象标识和所述目标主播账户的标识,对应存储在主播账户的标识和虚拟形象标识的对应关系中时,发送的目标虚拟形象标识对应的目标虚拟形象模型。
在一种可能的实现方式中,所述方法还包括:
接收所述数据服务器发送的请求失败消息,其中,所述请求失败消息为所述数据服务器在确定所述目标虚拟形象标识和所述目标主播账户的标识,未对应存储在所述主播账户的标识和虚拟形象标识的对应关系中时,向所述虚拟形象渲染应用程序发送的;
向所述主播应用程序发送虚拟形象禁止使用消息,以使所述主播应用程序显示虚拟形象禁止使用提示消息。
在一种可能的实现方式中,所述获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,包括:
获取主播直播视频,对所述主播直播视频的视频帧中的主播进行人脸表情识别,确定每个视频帧中主播的表情信息;
控制所述虚拟形象模型执行各视频帧中主播的表情信息对应的表情,以生成虚拟形象直播视频。
在一种可能的实现方式中,所述获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,包括:
获取主播直播视频,对所述主播直播视频的视频帧中的主播进行动作识别,确定各视频帧中主播的动作信息;
控制所述虚拟形象模型执行各视频帧中主播的动作信息对应的动作,以生成虚拟形象直播视频。
第三方面,提供了一种虚拟形象直播的装置,所述装置包括:
第一接收模块,用于接收主播应用程序发送的目标虚拟形象标识;
获取模块,用于向数据服务器发送虚拟形象模型获取请求,其中,所述虚拟形象模型获取请求中携带有所述目标虚拟形象标识;
第二接收模块,用于接收所述数据服务器发送的所述目标虚拟形象标识对应的目标虚拟形象模型;
生成模块,用于获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,向所述主播应用程序发送所述虚拟形象直播视频。
在一种可能的实现方式中,所述第一接收模块,用于:
接收所述主播应用程序发送的所述目标虚拟形象标识和所述主播应用程序登录的目标主播账户的标识;
所述虚拟形象模型获取请求中还携带有所述目标主播账户的标识;
所述第二接收模块,用于;
接收所述数据服务器在确定所述目标虚拟形象标识和所述目标主播账户的标识,对应存储在主播账户的标识和虚拟形象标识的对应关系中时,发送的目标虚拟形象标识对应的目标虚拟形象模型。
在一种可能的实现方式中,所述第二接收模块还用于:
接收所述数据服务器发送的请求失败消息,其中,所述请求失败消息为所述数据服务器在确定所述目标虚拟形象标识和所述目标主播账户的标识,未对应存储在所述主播账户的标识和虚拟形象标识的对应关系中时,向所述虚拟形象渲染应用程序发送的;
向所述主播应用程序发送虚拟形象禁止使用消息,以使所述主播应用程序显示虚拟形象禁止使用提示消息。
在一种可能的实现方式中,所述生成模块,用于:
获取主播直播视频,对所述主播直播视频的视频帧中的主播进行人脸表情识别,确定每个视频帧中主播的表情信息;
控制所述虚拟形象模型执行各视频帧中主播的表情信息对应的表情,以生成虚拟形象直播视频。
在一种可能的实现方式中,所述生成模块,用于:
获取主播直播视频,对所述主播直播视频的视频帧中的主播进行动作识别,确定各视频帧中主播的动作信息;
控制所述虚拟形象模型执行各视频帧中主播的动作信息对应的动作,以生成虚拟形象直播视频。
第四方面,提供了一种终端,其特征在于,所述终端包括处理器和存储器,所述存储器中存储有至少一条指令,所述至少一条指令由所述处理器加载并执行,以实现如上第一方面所述的虚拟形象直播的方法所执行的操作。
第五方面,提供了一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条指令,所述至少一条指令由处理器加载并执行,以实现如上第一方面所述的虚拟形象直播的方法所执行的操作。
本申请实施例提供的技术方案带来的有益效果是:
本申请实施例由虚拟形象渲染应用程序在接收到主播应用程序发送的目标虚拟形象标识后,向数据服务器获取目标虚拟形象标识对应的目标虚拟形象模型。在获取到目标虚拟形象模型后,虚拟形象渲染应用程序获取主播直播视频,并根据主播直播视频和目标虚拟形象模型,生成虚拟形象直播视频,发送至主播应用程序进行直播。可见,在该技术方案中生成虚拟形象直播视频和直播是在两个独立的应用程序中进行,这样,生成虚拟形象直播视频的过程,不会影响到主播应用程序的直播功能,避免了主播应用程序中的直播视频卡顿、不流畅的问题。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种实施环境示意图;
图2是本申请实施例提供的一种虚拟形象直播的方法流程图;
图3是本申请实施例提供的一种虚拟形象直播的方法流程图;
图4是本申请实施例提供的一种主播应用程序的界面示意图;
图5是本申请实施例提供的一种主播应用程序的界面示意图;
图6是本申请实施例提供的一种虚拟形象直播的方法流程图;
图7是本申请实施例提供的一种虚拟形象直播的装置结构示意图;
图8是本申请实施例提供的一种终端的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
图1是本申请实施例提供的一种实施环境的示意图。参见图1,在该实施环境中可以包括有主播终端、数据服务器、观众终端、直播服务器。
其中,主播终端中可以安装有虚拟形象渲染应用程序和主播应用程序。虚拟形象渲染应用程序可以有三维渲染功能,用于对虚拟形象模型进行渲染生成虚拟形象直播视频。主播应用程序可以有直播功能,用于对虚拟形象直播视频或者主播视频进行直播。数据服务器,用于存储各主播对应的虚拟形象模型。观众终端,用于显示虚拟形象直播视频或者主播视频,以供观众观看。直播服务器,用于将主播终端发送的虚拟形象直播视频或者主播直播视频,转发至各观众终端。
图2是本申请实施例提供的一种虚拟形象直播的方法的流程图,该方法可以由主播终端中安装的虚拟形象渲染应用程序实现。参见图2,该方法的处理流程可以包括如下步骤:
步骤201、接收主播应用程序发送的目标虚拟形象标识
步骤202、向数据服务器发送虚拟形象模型获取请求,其中,虚拟形象模型获取请求中携带有目标虚拟形象标识。
步骤203、接收数据服务器发送的目标虚拟形象标识对应的目标虚拟形象模型。
步骤204、获取主播直播视频,基于目标虚拟形象模型和主播直播视频,生成虚拟形象直播视频,向主播应用程序发送虚拟形象直播视频。
图3是本申请实施例提供的一种虚拟形象直播的方法的流程图,该方法可以由主播终端中安装的虚拟形象渲染应用程序、主播应用程序和数据服务器共同实现。参见图3,该方法的处理流程可以包括如下步骤:
步骤301、主播应用程序获取目标虚拟形象标识。
在实施中,每个主播在注册主播账户后,可以通过主播应用程序选择一个虚拟形象模型,以便后续进行虚拟形象模型直播时使用。该虚拟形象模型可以为动物、动漫人物等形象的三维模型。
主播通过主播应用程序选择一个虚拟形象模型后,主播应用程序可以向数据服务器发送虚拟形象注册消息,在该虚拟形象注册消息中可以包括有主播应用程序当前登录的主播账户的标识,以及主播选择的虚拟形象模型的虚拟形象标识。数据服务器在接收到该虚拟形象注册消息后,获取其中的主播账户的标识和虚拟形象的标识,并将二者对应存储。
主播应用程序可以在本地对主播选择的虚拟形象模型的虚拟形象标识进行存储。主播在想要进行虚拟形象直播时,主播应用程序则可以在本地获取到该虚拟标识。主播应用程序的主界面中可以显示有直播功能选项,当主播选择该直播功能选项后,可以显示直播方式选项。如图4所示,为主播应用程序以悬浮窗的形式显示直播方式选项的界面示意图。
上述直播方式选项可以包括有主播直播选项和虚拟形象直播选项。如果主播想要用自己的实际形象进行真人直播,则可以选择主播直播选项,如果主播想要用虚拟形象模型进行虚拟形象直播,则可以选择虚拟形象直播选项。当主播选择虚拟形象直播选项后,主播应用程序则可以获取当前登录的主播账户对应的虚拟形象标识。
在一种可能的实现方式中,为了防止主播对虚拟形象标识进行修改,同时减小主播终端的数据存储量,主播应用程序可以不对主播选择的虚拟形象模型对应的虚拟形象标识进行存储,相应的,步骤301的处理可以如下:主播应用程序向数据服务器发送虚拟形象标识查询请求,其中,虚拟形象标识查询请求中携带有主播应用程序登录的目标主播账户的标识。
在实施中,数据服务器对主播账户的标识和虚拟形象标识可以以对应关系表的形式进行存储。当然,数据服务器也可以以其他存储形式,对主播账户的标识和虚拟形象标识进行对应存储,本申请实施例对此不做限定。如下表1所示,为一种主播账户的标识和虚拟形象标识的对应关系表。
表1
主播账户的标识 | 虚拟形象标识 |
主播1 | 虚拟形象1 |
主播2 | 虚拟形象2 |
主播3 | 虚拟形象3 |
…… | …… |
当主播选择虚拟形象直播选项后,主播应用程序可以向数据服务器发送虚拟形象标识查询请求。数据服务器接收到该虚拟形象查询请求后,获取其中携带的目标主播账户的标识。然后,数据服务器可以根据该目标主播账户的标识,在存储的主播账户的标识和虚拟形象标识的对应关系中,查询出对应的目标虚拟形象标识。并将该目标虚拟形象标识返回给主播应用程序。
步骤302、主播应用程序向虚拟形象渲染应用程序发送目标虚拟形象标识。
在实施中,当主播选择虚拟形象直播选项后,主播应用程序可以在***后台唤醒虚拟形象渲染应用程序。然后,将获取到的目标虚拟形象标识,发送至虚拟形象渲染应用程序。
步骤303、虚拟形象渲染应用程序向数据服务器发送虚拟形象模型获取请求,其中,虚拟形象模型获取请求中携带有目标虚拟形象标识。
在实施中,虚拟形象渲染应用程序在获取到主播应用程序发送的目标虚拟形象标识之后,数据服务器可以通过向数据服务器发送虚拟形象模型获取请求,来获取该目标虚拟形象标识对应的虚拟形象模型。
步骤304、数据服务器向虚拟形象渲染应用程序发送目标虚拟形象标识对应的目标虚拟形象模型。
在实施中,数据服务器在接收到虚拟形象模型获取请求后,可以获取其中携带的虚拟形象标识,并将该虚拟形象标识对应的虚拟形象模型返回给虚拟形象渲染应用程序。
在一种可能的实现方式中,为了防止主播盗用他人的虚拟形象模型,数据服务器可以对虚拟形象渲染应用程序发送的虚拟形象模型获取请求进行验证,以确保获取的虚拟形象模型是主播自己申请的虚拟形象模型。相应的,在步骤302中,主播应用程序在向虚拟形象渲染应用程序发送目标虚拟标识时,可以将当前登录的目标主播账户的标识一起发送至虚拟形象渲染应用程序。在步骤303中,虚拟形象渲染应用程序在向数据服务器发送的虚拟形象模型获取请求中还可以携带有该目标主播账户的标识。在步骤304中,数据服务器如果确定目标虚拟形象标识和目标主播账户的标识,对应存储在主播账户的标识和虚拟形象标识的对应关系中,则向虚拟形象渲染应用程序发送目标虚拟形象标识对应的目标虚拟形象模型。
在实施中,数据服务器获取虚拟形象模型获取请求中携带的目标虚拟形象标识和目标主播账户的标识。然后,可以判断目标虚拟形象标识和目标主播账户的标识是否对应存储在主播账户的标识和虚拟形象标识的对应关系中。此处,判断方法可以如下几种。
方法一、可以在存储的主播账户的标识和虚拟形象标识的对应关系中,查询该目标主播账户的标识对应的虚拟形象标识是否为该目标虚拟形象标识。如果是,则确定目标虚拟形象标识和目标主播账户的标识对应存储在主播账户的标识和虚拟形象标识的对应关系中。如果不是,则确定目标虚拟形象标识和目标主播账户的标识未对应存储在主播账户的标识和虚拟形象标识的对应关系中。
方法二、可以在存储的主播账户的标识和虚拟形象标识的对应关系中,查询该目标虚拟形象标识对应的主播账户的标识是否为该目标主播账户的标识,如果是,则确定目标虚拟形象标识和目标主播账户的标识对应存储在主播账户的标识和虚拟形象标识的对应关系中。如果不是,则确定目标虚拟形象标识和目标主播账户的标识未对应存储在主播账户的标识和虚拟形象标识的对应关系中。
数据服务器在通过上述方法确定目标虚拟形象标识和目标主播账户的标识对应存储在主播账户的标识和虚拟形象标识的对应关系中,则可以将该目标虚拟形象标识对应的目标虚拟形象模型返回给虚拟形象渲染应用程序。
数据服务器在通过上述方法确定目标虚拟形象标识和目标主播账户的标识未对应存储在主播账户的标识和虚拟形象标识的对应关系中,则不会将该目标虚拟形象标识对应的目标虚拟形象模型返回给虚拟形象渲染应用程序。而是,向该虚拟形象渲染应用程序返回请求失败消息。
步骤305、虚拟形象渲染应用程序获取主播直播视频,基于目标虚拟形象模型和主播直播视频,生成虚拟形象直播视频。
在实施中,如果虚拟形象应用程序接收到数据服务器发送的目标虚拟形象模型,则通过主播终端的摄像头获取主播直播视频。然后,将主播直播视频的各视频帧分别输入到预先训练的表情识别模型中。该表情识别模型可以输出每个视频帧中主播的表情信息。此处,表情信息用于指示主播在某一视频帧中的表情,如大笑、生气、哭泣等。对于每个视频帧,在识别出该视频帧中主播的表情信息后,控制目标虚拟形象模型执行该表情信息对应的表情,这样便可以生成主播直播视频对应的虚拟直播视频。
除此之外,虚拟形象应用程序还可以将主播直播视频的各视频帧分别输入到预先训练的动作识别模型中。该动作识别模型可以输出每个视频帧中主播的动作信息。此处,动作信息用于指示主播在某一视频帧中的动作,如抬手、鼓掌、点头等。对于每个视频帧,在识别出该视频帧中主播的动作信息后,控制目标虚拟形象模型执行该动作信息对应的动作,这样便可以生成主播直播视频对应的虚拟直播视频。
当然,虚拟形象应用程序可以同时采用上述的表述识别模型和动作识别模型,控制目标虚拟形象模型既执行相应的表情,也执行相应的动作。
此处还需说明的是,上述表情识别模型和动作识别模型可以为机器学习模型,如CNN(Convolutional Neural Networks,卷积神经网络)、RNN(Recurrent Neural Network,循环神经网络)等等。
如果虚拟形象应用程序接收到数据服务器发送的请求失败消息,则不会获取主播直播视频,而是,向主播应用程序发送虚拟形象禁止使用消息。相应的,主播应用程序显示虚拟形象禁止使用提示消息。如图5所示,主播应用程序在接收到虚拟形象禁止使用消息后,可以以弹窗的形式显示虚拟形象禁止使用提示消息,该虚拟形象禁止使用提示消息,如“虚拟形象不合法,请使用已申请虚拟形象”。
步骤306、虚拟形象渲染应用程序向主播应用程序发送虚拟形象直播视频。
在实施中,主播在选择虚拟形象直播选项后,主播应用程序在后台唤醒虚拟形象渲染应用程序的同时,通知该虚拟形象渲染应用程序开启虚拟摄像头。这样,虚拟形象渲染应用程序在生成虚拟形象直播视频后,可以通过该虚拟摄像头发送给主播应用程序,主播应用程序可以显示该虚拟形象直播视频。同时,主播应用程序还可以将虚拟形象直播视频发送至直播服务器,直播服务器向正在观看该主播直播的观众终端,发送虚拟形象直播视频。各观众终端接收到虚拟形象直播视频后,可以对该虚拟形象直播视频进行显示。
上述所有可选技术方案,可以采用任意结合形成本公开的可选实施例,在此不再一一赘述。
本申请实施例中,由虚拟形象渲染应用程序在接收到主播应用程序发送的目标虚拟形象标识后,向数据服务器获取目标虚拟形象标识对应的目标虚拟形象模型。在获取到目标虚拟形象模型后,虚拟形象渲染应用程序获取主播直播视频,并根据主播直播视频和目标虚拟形象模型,生成虚拟形象直播视频,发送至主播应用程序进行直播。可见,生成虚拟形象直播视频和直播是在两个独立的应用程序中进行,这样,生成虚拟形象直播视频的过程,不会影响到主播应用程序的直播功能,避免了主播应用程序中的直播视频卡顿、不流畅的问题。
图6是本申请实施例提供的一种虚拟形象直播的方法的流程图,该方法可以由主播终端中安装的虚拟形象渲染应用程序、主播应用程序和数据服务器共同实现。参见图6,该方法的处理流程可以包括如下步骤:
步骤601、主播应用程序向数据服务器发送虚拟形象标识查询请求,其中,虚拟形象标识查询请求中携带有主播应用程序登录的目标主播账户的标识。
步骤602、数据服务器根据存储的主播账户的标识和虚拟形象标识的对应关系,向主播应用程序发送目标主播账户的标识对应的目标虚拟形象标识。
步骤603、主播应用程序向虚拟形象渲染应用程序发送目标虚拟形象标识和目标主播账户的标识。
步骤604、虚拟形象渲染应用程序向数据服务器发送虚拟形象模型获取请求,其中,虚拟形象模型获取请求中携带有目标虚拟形象标识和目标主播账户的标识。
步骤605、数据服务器判断目标虚拟形象标识和所述目标主播账户的标识,是否对应存储在主播账户的标识和虚拟形象标识的对应关系中。
步骤606、数据服务器如果确定目标虚拟形象标识和所述目标主播账户的标识,对应存储在主播账户的标识和虚拟形象标识的对应关系中,则向虚拟形象渲染应用程序发送目标虚拟形象标识对应的目标虚拟形象模型。如果确定目标虚拟形象标识和目标主播账户的标识,未对应存储在主播账户的标识和虚拟形象标识的对应关系中,则向虚拟形象渲染应用程序发送请求失败消息。
步骤607、虚拟形象渲染应用程序如果接收到目标虚拟形象模型,则获取主播直播视频,基于目标虚拟形象模型和主播直播视频,生成虚拟形象直播视频,并向主播应用程序发送虚拟直播视频。如果接收到请求失败消息,则向主播应用程序发送虚拟形象禁止使用消息。
步骤608、主播应用程序如果接收到虚拟形象直播视频,则对虚拟形象直播视频进行直播。如果接收到虚拟形象禁止使用消息,则显示虚拟形象禁止使用提示消息。
需要说明的是,上述步骤601-步骤608的具体实施与上述步骤301-步骤306的具体实施相同或者相似,在此对于步骤601-步骤608的具体实施不再赘述。
本申请实施例中,由虚拟形象渲染应用程序在接收到主播应用程序发送的目标虚拟形象标识后,向数据服务器获取目标虚拟形象标识对应的目标虚拟形象模型。在获取到目标虚拟形象模型后,虚拟形象渲染应用程序获取主播直播视频,并根据主播直播视频和目标虚拟形象模型,生成虚拟形象直播视频,发送至主播应用程序进行直播。可见,生成虚拟形象直播视频和直播是在两个独立的应用程序中进行,这样,生成虚拟形象直播视频的过程,不会影响到主播应用程序的直播功能,避免了主播应用程序中的直播视频卡顿、不流畅的问题。
基于相同的技术构思,本申请实施例还提供了一种虚拟形象直播的装置,如图6所示,该装置包括:第一接收模块710、获取模块720、第二接收模块730和生成模块740。
第一接收模块710,用于接收主播应用程序发送的目标虚拟形象标识;
获取模块720,用于向数据服务器发送虚拟形象模型获取请求,其中,所述虚拟形象模型获取请求中携带有所述目标虚拟形象标识;
第二接收模块730,用于接收所述数据服务器发送的所述目标虚拟形象标识对应的目标虚拟形象模型;
生成模块740,用于获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,向所述主播应用程序发送所述虚拟形象直播视频。
在一种可能的实现方式中,所述第一接收模块710,用于:
接收所述主播应用程序发送的所述目标虚拟形象标识和所述主播应用程序登录的目标主播账户的标识;
所述虚拟形象模型获取请求中还携带有所述目标主播账户的标识;
所述第二接收模块730,用于;
接收所述数据服务器在确定所述目标虚拟形象标识和所述目标主播账户的标识,对应存储在主播账户的标识和虚拟形象标识的对应关系中时,发送的目标虚拟形象标识对应的目标虚拟形象模型。
在一种可能的实现方式中,所述第二接收模块730还用于:
接收所述数据服务器发送的请求失败消息,其中,所述请求失败消息为所述数据服务器在确定所述目标虚拟形象标识和所述目标主播账户的标识,未对应存储在所述主播账户的标识和虚拟形象标识的对应关系中时,向所述虚拟形象渲染应用程序发送的;
向所述主播应用程序发送虚拟形象禁止使用消息,以使所述主播应用程序显示虚拟形象禁止使用提示消息。
在一种可能的实现方式中,所述生成模块740,用于:
获取主播直播视频,对所述主播直播视频的视频帧中的主播进行人脸表情识别,确定每个视频帧中主播的表情信息;
控制所述虚拟形象模型执行各视频帧中主播的表情信息对应的表情,以生成虚拟形象直播视频。
在一种可能的实现方式中,所述生成模块740,用于:
获取主播直播视频,对所述主播直播视频的视频帧中的主播进行动作识别,确定各视频帧中主播的动作信息;
控制所述虚拟形象模型执行各视频帧中主播的动作信息对应的动作,以生成虚拟形象直播视频。
需要说明的是:上述实施例提供的虚拟形象直播的装置在虚拟形象直播时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将主播终端的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的虚拟形象直播的装置与虚拟形象直播的方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图8示出了本申请一个示例性实施例提供的终端800的结构框图。该终端800可以为上述安装有虚拟形象渲染应用程序和主播应用程序的终端。该终端800可以是:智能手机、平板电脑、MP3播放器(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端800还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常,终端800包括有:处理器801和存储器802。
处理器801可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器801可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器801也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器801可以在集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器801还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器802可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器802还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器802中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器801所执行以实现本申请中方法实施例提供的虚拟形象直播方法。
在一些实施例中,终端800还可选包括有:***设备接口803和至少一个***设备。处理器801、存储器802和***设备接口803之间可以通过总线或信号线相连。各个***设备可以通过总线、信号线或电路板与***设备接口803相连。具体地,***设备包括:射频电路804、触摸显示屏805、摄像头806、音频电路807、定位组件808和电源809中的至少一种。
***设备接口803可被用于将I/O(Input/Output,输入/输出)相关的至少一个***设备连接到处理器801和存储器802。在一些实施例中,处理器801、存储器802和***设备接口803被集成在同一芯片或电路板上;在一些其他实施例中,处理器801、存储器802和***设备接口803中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路804用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路804通过电磁信号与通信网络以及其他通信设备进行通信。射频电路804将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路804包括:天线***、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路804可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路804还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏805用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏805是触摸显示屏时,显示屏805还具有采集在显示屏805的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器801进行处理。此时,显示屏805还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏805可以为一个,设置终端800的前面板;在另一些实施例中,显示屏805可以为至少两个,分别设置在终端800的不同表面或呈折叠设计;在再一些实施例中,显示屏805可以是柔性显示屏,设置在终端800的弯曲表面上或折叠面上。甚至,显示屏805还可以设置成非矩形的不规则图形,也即异形屏。显示屏805可以采用LCD(LiquidCrystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件806用于采集图像或视频。可选地,摄像头组件806包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件806还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路807可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器801进行处理,或者输入至射频电路804以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在终端800的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器801或射频电路804的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路807还可以包括耳机插孔。
定位组件808用于定位终端800的当前地理位置,以实现导航或LBS(LocationBased Service,基于位置的服务)。定位组件808可以是基于美国的GPS(GlobalPositioning System,全球定位***)、中国的北斗***、俄罗斯的格雷纳斯***或欧盟的伽利略***的定位组件。
电源809用于为终端800中的各个组件进行供电。电源809可以是交流电、直流电、一次性电池或可充电电池。当电源809包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中,终端800还包括有一个或多个传感器810。该一个或多个传感器810包括但不限于:加速度传感器811、陀螺仪传感器812、压力传感器813、指纹传感器814、光学传感器815以及接近传感器816。
加速度传感器811可以检测以终端800建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器811可以用于检测重力加速度在三个坐标轴上的分量。处理器801可以根据加速度传感器811采集的重力加速度信号,控制触摸显示屏805以横向视图或纵向视图进行用户界面的显示。加速度传感器811还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器812可以检测终端800的机体方向及转动角度,陀螺仪传感器812可以与加速度传感器811协同采集用户对终端800的3D动作。处理器801根据陀螺仪传感器812采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器813可以设置在终端800的侧边框和/或触摸显示屏805的下层。当压力传感器813设置在终端800的侧边框时,可以检测用户对终端800的握持信号,由处理器801根据压力传感器813采集的握持信号进行左右手识别或快捷操作。当压力传感器813设置在触摸显示屏805的下层时,由处理器801根据用户对触摸显示屏805的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器814用于采集用户的指纹,由处理器801根据指纹传感器814采集到的指纹识别用户的身份,或者,由指纹传感器814根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器801授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器814可以被设置终端800的正面、背面或侧面。当终端800上设置有物理按键或厂商Logo时,指纹传感器814可以与物理按键或厂商Logo集成在一起。
光学传感器815用于采集环境光强度。在一个实施例中,处理器801可以根据光学传感器815采集的环境光强度,控制触摸显示屏805的显示亮度。具体地,当环境光强度较高时,调高触摸显示屏805的显示亮度;当环境光强度较低时,调低触摸显示屏805的显示亮度。在另一个实施例中,处理器801还可以根据光学传感器815采集的环境光强度,动态调整摄像头组件806的拍摄参数。
接近传感器816,也称距离传感器,通常设置在终端800的前面板。接近传感器816用于采集用户与终端800的正面之间的距离。在一个实施例中,当接近传感器816检测到用户与终端800的正面之间的距离逐渐变小时,由处理器801控制触摸显示屏805从亮屏状态切换为息屏状态;当接近传感器816检测到用户与终端800的正面之间的距离逐渐变大时,由处理器801控制触摸显示屏805从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图8中示出的结构并不构成对终端800的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
在示例性实施例中,还提供了一种计算机可读存储介质,例如包括指令的存储器,上述指令可由终端中的处理器执行以完成上述实施例中虚拟形象直播的方法。例如,所述计算机可读存储介质可以是ROM(Read-Only Memory,只读存储器)、RAM(Random AccessMemory,随机存取存储器)、CD-ROM(Compact Disc Read-Only Memory,光盘只读存储器)、磁带、软盘和光数据存储设备等。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请的可选实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (18)
1.一种虚拟形象直播的方法,其特征在于,所述方法包括:
主播应用程序获取目标虚拟形象标识;
所述主播应用程序向虚拟形象渲染应用程序发送所述目标虚拟形象标识;
所述虚拟形象渲染应用程序向数据服务器发送虚拟形象模型获取请求,其中,所述虚拟形象模型获取请求中携带有所述目标虚拟形象标识;
所述数据服务器向所述虚拟形象渲染应用程序发送所述目标虚拟形象标识对应的目标虚拟形象模型;
所述虚拟形象渲染应用程序获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,向所述主播应用程序发送所述虚拟形象直播视频。
2.根据权利要求1所述的方法,其特征在于,所述主播应用程序获取目标虚拟形象标识,包括:
所述主播应用程序向所述数据服务器发送虚拟形象标识查询请求,其中,所述虚拟形象标识查询请求中携带有所述主播应用程序登录的目标主播账户的标识;
所述数据服务器根据存储的主播账户的标识和虚拟形象标识的对应关系,向所述主播应用程序发送所述目标主播账户的标识对应的目标虚拟形象标识。
3.根据权利要求2所述的方法,其特征在于,所述主播应用程序向虚拟形象渲染应用程序发送所述目标虚拟形象标识,包括:
主播应用程序向虚拟形象渲染应用程序发送所述目标虚拟形象标识和所述目标主播账户的标识;
所述虚拟形象模型获取请求中还携带有所述目标主播账户的标识;
所述数据服务器向所述虚拟形象渲染应用程序发送目标虚拟形象标识对应的目标虚拟形象模型,包括:
所述数据服务器如果确定所述目标虚拟形象标识和所述目标主播账户的标识,对应存储在所述主播账户的标识和虚拟形象标识的对应关系中,则向所述虚拟形象渲染应用程序发送目标虚拟形象标识对应的目标虚拟形象模型。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
所述数据服务器如果确定所述目标虚拟形象标识和所述目标主播账户的标识,未对应存储在所述主播账户的标识和虚拟形象标识的对应关系中,则向所述虚拟形象渲染应用程序发送请求失败消息;
所述虚拟形象渲染应用程序向所述主播应用程序发送虚拟形象禁止使用消息;
所述主播应用程序显示虚拟形象禁止使用提示消息。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述虚拟形象渲染应用程序获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,包括:
所述虚拟形象渲染应用程序获取主播直播视频,对所述主播直播视频的视频帧中的主播进行人脸表情识别,确定每个视频帧中主播的表情信息;
所述虚拟形象渲染应用程序控制所述虚拟形象模型执行各视频帧中主播的表情信息对应的表情,以生成虚拟形象直播视频。
6.根据权利要求1-4中任一项所述的方法,其特征在于,所述虚拟形象渲染应用程序获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,包括:
所述虚拟形象渲染应用程序获取主播直播视频,对所述主播直播视频的视频帧中的主播进行动作识别,确定各视频帧中主播的动作信息;
所述虚拟形象渲染应用程序控制所述虚拟形象模型执行各视频帧中主播的动作信息对应的动作,以生成虚拟形象直播视频。
7.一种虚拟形象直播的方法,其特征在于,所述方法应用于虚拟形象渲染应用程序,所述方法包括:
接收主播应用程序发送的目标虚拟形象标识;
向数据服务器发送虚拟形象模型获取请求,其中,所述虚拟形象模型获取请求中携带有所述目标虚拟形象标识;
接收所述数据服务器发送的所述目标虚拟形象标识对应的目标虚拟形象模型;
获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,向所述主播应用程序发送所述虚拟形象直播视频。
8.根据权利要求7所述的方法,其特征在于,所述接收主播应用程序发送的目标虚拟形象标识,包括:
接收所述主播应用程序发送的所述目标虚拟形象标识和所述主播应用程序登录的目标主播账户的标识;
所述虚拟形象模型获取请求中还携带有所述目标主播账户的标识;
所述接收所述数据服务器发送的所述目标虚拟形象标识对应的目标虚拟形象模型,包括;
接收所述数据服务器在确定所述目标虚拟形象标识和所述目标主播账户的标识,对应存储在主播账户的标识和虚拟形象标识的对应关系中时,发送的目标虚拟形象标识对应的目标虚拟形象模型。
9.根据权利要求3所述的方法,其特征在于,所述方法还包括:
接收所述数据服务器发送的请求失败消息,其中,所述请求失败消息为所述数据服务器在确定所述目标虚拟形象标识和所述目标主播账户的标识,未对应存储在所述主播账户的标识和虚拟形象标识的对应关系中时,向所述虚拟形象渲染应用程序发送的;
向所述主播应用程序发送虚拟形象禁止使用消息,以使所述主播应用程序显示虚拟形象禁止使用提示消息。
10.根据权利要求7-9中任一项所述的方法,其特征在于,所述获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,包括:
获取主播直播视频,对所述主播直播视频的视频帧中的主播进行人脸表情识别,确定每个视频帧中主播的表情信息;
控制所述虚拟形象模型执行各视频帧中主播的表情信息对应的表情,以生成虚拟形象直播视频。
11.根据权利要求7-9中任一项所述的方法,其特征在于,所述获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,包括:
获取主播直播视频,对所述主播直播视频的视频帧中的主播进行动作识别,确定各视频帧中主播的动作信息;
控制所述虚拟形象模型执行各视频帧中主播的动作信息对应的动作,以生成虚拟形象直播视频。
12.一种虚拟形象直播的装置,其特征在于,所述装置包括:
第一接收模块,用于接收主播应用程序发送的目标虚拟形象标识;
获取模块,用于向数据服务器发送虚拟形象模型获取请求,其中,所述虚拟形象模型获取请求中携带有所述目标虚拟形象标识;
第二接收模块,用于接收所述数据服务器发送的所述目标虚拟形象标识对应的目标虚拟形象模型;
生成模块,用于获取主播直播视频,基于所述目标虚拟形象模型和所述主播直播视频,生成虚拟形象直播视频,向所述主播应用程序发送所述虚拟形象直播视频。
13.根据权利要求12所述的装置,其特征在于,所述第一接收模块,用于:
接收所述主播应用程序发送的所述目标虚拟形象标识和所述主播应用程序登录的目标主播账户的标识;
所述虚拟形象模型获取请求中还携带有所述目标主播账户的标识;
所述第二接收模块,用于;
接收所述数据服务器在确定所述目标虚拟形象标识和所述目标主播账户的标识,对应存储在主播账户的标识和虚拟形象标识的对应关系中时,发送的目标虚拟形象标识对应的目标虚拟形象模型。
14.根据权利要求13所述的方法,其特征在于,所述第二接收模块还用于:
接收所述数据服务器发送的请求失败消息,其中,所述请求失败消息为所述数据服务器在确定所述目标虚拟形象标识和所述目标主播账户的标识,未对应存储在所述主播账户的标识和虚拟形象标识的对应关系中时,向所述虚拟形象渲染应用程序发送的;
向所述主播应用程序发送虚拟形象禁止使用消息,以使所述主播应用程序显示虚拟形象禁止使用提示消息。
15.根据权利要求12-14中任一项所述的装置,其特征在于,所述生成模块,用于:
获取主播直播视频,对所述主播直播视频的视频帧中的主播进行人脸表情识别,确定每个视频帧中主播的表情信息;
控制所述虚拟形象模型执行各视频帧中主播的表情信息对应的表情,以生成虚拟形象直播视频。
16.根据权利要求12-14中任一项所述的装置,其特征在于,所述生成模块,用于:
获取主播直播视频,对所述主播直播视频的视频帧中的主播进行动作识别,确定各视频帧中主播的动作信息;
控制所述虚拟形象模型执行各视频帧中主播的动作信息对应的动作,以生成虚拟形象直播视频。
17.一种终端,其特征在于,所述终端包括处理器和存储器,所述存储器中存储有至少一条指令,所述至少一条指令由所述处理器加载并执行,以实现如权利要求7至权利要求11任一项所述的虚拟形象直播的方法所执行的操作。
18.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条指令,所述至少一条指令由处理器加载并执行,以实现如权利要求7至权利要求11任一项所述的虚拟形象直播的方法所执行的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911320650.3A CN110971930B (zh) | 2019-12-19 | 2019-12-19 | 虚拟形象直播的方法、装置、终端及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911320650.3A CN110971930B (zh) | 2019-12-19 | 2019-12-19 | 虚拟形象直播的方法、装置、终端及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110971930A true CN110971930A (zh) | 2020-04-07 |
CN110971930B CN110971930B (zh) | 2023-03-10 |
Family
ID=70035279
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911320650.3A Active CN110971930B (zh) | 2019-12-19 | 2019-12-19 | 虚拟形象直播的方法、装置、终端及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110971930B (zh) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111540055A (zh) * | 2020-04-16 | 2020-08-14 | 广州虎牙科技有限公司 | 三维模型驱动方法、装置、电子设备及存储介质 |
CN111741326A (zh) * | 2020-06-30 | 2020-10-02 | 腾讯科技(深圳)有限公司 | 视频合成方法、装置、设备及存储介质 |
CN111970521A (zh) * | 2020-07-16 | 2020-11-20 | 深圳追一科技有限公司 | 虚拟主播的直播方法、装置、计算机设备和存储介质 |
CN112601098A (zh) * | 2020-11-09 | 2021-04-02 | 北京达佳互联信息技术有限公司 | 直播互动方法、内容推荐方法及装置 |
CN112598785A (zh) * | 2020-12-25 | 2021-04-02 | 游艺星际(北京)科技有限公司 | 虚拟形象的三维模型生成方法、装置、设备及存储介质 |
CN112653898A (zh) * | 2020-12-15 | 2021-04-13 | 北京百度网讯科技有限公司 | 用户形象生成方法、相关装置及计算机程序产品 |
CN113014471A (zh) * | 2021-01-18 | 2021-06-22 | 腾讯科技(深圳)有限公司 | 会话处理方法,装置、终端和存储介质 |
CN113099298A (zh) * | 2021-04-08 | 2021-07-09 | 广州华多网络科技有限公司 | 虚拟形象的改变方法、装置和终端设备 |
CN113507621A (zh) * | 2021-07-07 | 2021-10-15 | 上海商汤智能科技有限公司 | 直播方法、装置、***、计算机设备以及存储介质 |
CN113542801A (zh) * | 2021-06-29 | 2021-10-22 | 北京百度网讯科技有限公司 | 主播标识的生成方法、装置、设备、存储介质及程序产品 |
CN113766119A (zh) * | 2021-05-11 | 2021-12-07 | 腾讯科技(深圳)有限公司 | 虚拟形象显示方法、装置、终端及存储介质 |
CN114007091A (zh) * | 2021-10-27 | 2022-02-01 | 北京市商汤科技开发有限公司 | 一种视频处理方法、装置、电子设备及存储介质 |
CN114286021A (zh) * | 2021-12-24 | 2022-04-05 | 北京达佳互联信息技术有限公司 | 渲染方法、装置、服务器、存储介质及程序产品 |
CN114422862A (zh) * | 2021-12-24 | 2022-04-29 | 上海浦东发展银行股份有限公司 | 服务视频生成方法、装置、设备、存储介质和程序产品 |
CN114422647A (zh) * | 2021-12-24 | 2022-04-29 | 上海浦东发展银行股份有限公司 | 基于数字人的坐席服务方法、装置、设备、介质和产品 |
CN114827652A (zh) * | 2022-05-18 | 2022-07-29 | 上海哔哩哔哩科技有限公司 | 虚拟形象开播方法及装置 |
CN115314728A (zh) * | 2022-07-29 | 2022-11-08 | 北京达佳互联信息技术有限公司 | 信息展示方法、***、装置、电子设备及存储介质 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101079874A (zh) * | 2006-09-13 | 2007-11-28 | 腾讯科技(深圳)有限公司 | 一种定制虚拟形象的方法及*** |
DE60318770D1 (de) * | 2002-06-12 | 2008-03-13 | Medison Co Ltd | Verfahren und Vorrichtung zur Herstellung drei-dimensionaler Ultraschallbilder in Quasi-Echtzeit |
CN105099860A (zh) * | 2014-05-19 | 2015-11-25 | 腾讯科技(深圳)有限公司 | 即时通讯中进行实时互动的方法、***及客户端 |
CN107027046A (zh) * | 2017-04-13 | 2017-08-08 | 广州华多网络科技有限公司 | 辅助直播的音视频处理方法及装置 |
CN108200446A (zh) * | 2018-01-12 | 2018-06-22 | 北京蜜枝科技有限公司 | 虚拟形象的线上多媒体互动***及方法 |
CN108322832A (zh) * | 2018-01-22 | 2018-07-24 | 广州市动景计算机科技有限公司 | 评论方法、装置、及电子设备 |
CN109697060A (zh) * | 2018-12-29 | 2019-04-30 | 广州华多网络科技有限公司 | 视频特效软件及其生成方法、装置、设备和存储介质 |
CN109874021A (zh) * | 2017-12-04 | 2019-06-11 | 腾讯科技(深圳)有限公司 | 直播互动方法、装置及*** |
WO2019128787A1 (zh) * | 2017-12-26 | 2019-07-04 | 阿里巴巴集团控股有限公司 | 网络视频直播方法、装置及电子设备 |
CN110297684A (zh) * | 2019-06-28 | 2019-10-01 | 腾讯科技(深圳)有限公司 | 基于虚拟人物的主题显示方法、装置及存储介质 |
US20190371082A1 (en) * | 2017-08-17 | 2019-12-05 | Tencent Technology (Shenzhen) Company Limited | Three-dimensional virtual image display method and apparatus, terminal, and storage medium |
CN110557625A (zh) * | 2019-09-17 | 2019-12-10 | 北京达佳互联信息技术有限公司 | 虚拟形象直播方法、终端、计算机设备及存储介质 |
-
2019
- 2019-12-19 CN CN201911320650.3A patent/CN110971930B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE60318770D1 (de) * | 2002-06-12 | 2008-03-13 | Medison Co Ltd | Verfahren und Vorrichtung zur Herstellung drei-dimensionaler Ultraschallbilder in Quasi-Echtzeit |
CN101079874A (zh) * | 2006-09-13 | 2007-11-28 | 腾讯科技(深圳)有限公司 | 一种定制虚拟形象的方法及*** |
CN105099860A (zh) * | 2014-05-19 | 2015-11-25 | 腾讯科技(深圳)有限公司 | 即时通讯中进行实时互动的方法、***及客户端 |
CN107027046A (zh) * | 2017-04-13 | 2017-08-08 | 广州华多网络科技有限公司 | 辅助直播的音视频处理方法及装置 |
US20190371082A1 (en) * | 2017-08-17 | 2019-12-05 | Tencent Technology (Shenzhen) Company Limited | Three-dimensional virtual image display method and apparatus, terminal, and storage medium |
CN109874021A (zh) * | 2017-12-04 | 2019-06-11 | 腾讯科技(深圳)有限公司 | 直播互动方法、装置及*** |
WO2019128787A1 (zh) * | 2017-12-26 | 2019-07-04 | 阿里巴巴集团控股有限公司 | 网络视频直播方法、装置及电子设备 |
CN108200446A (zh) * | 2018-01-12 | 2018-06-22 | 北京蜜枝科技有限公司 | 虚拟形象的线上多媒体互动***及方法 |
CN108322832A (zh) * | 2018-01-22 | 2018-07-24 | 广州市动景计算机科技有限公司 | 评论方法、装置、及电子设备 |
CN109697060A (zh) * | 2018-12-29 | 2019-04-30 | 广州华多网络科技有限公司 | 视频特效软件及其生成方法、装置、设备和存储介质 |
CN110297684A (zh) * | 2019-06-28 | 2019-10-01 | 腾讯科技(深圳)有限公司 | 基于虚拟人物的主题显示方法、装置及存储介质 |
CN110557625A (zh) * | 2019-09-17 | 2019-12-10 | 北京达佳互联信息技术有限公司 | 虚拟形象直播方法、终端、计算机设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
张帅: "人工智能主播的前景分析――基于***"AI合成主播"的思考", 《中国记者》 * |
Cited By (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111540055B (zh) * | 2020-04-16 | 2024-03-08 | 广州虎牙科技有限公司 | 三维模型驱动方法、装置、电子设备及存储介质 |
CN111540055A (zh) * | 2020-04-16 | 2020-08-14 | 广州虎牙科技有限公司 | 三维模型驱动方法、装置、电子设备及存储介质 |
WO2021209042A1 (zh) * | 2020-04-16 | 2021-10-21 | 广州虎牙科技有限公司 | 三维模型驱动方法、装置、电子设备及存储介质 |
CN111741326A (zh) * | 2020-06-30 | 2020-10-02 | 腾讯科技(深圳)有限公司 | 视频合成方法、装置、设备及存储介质 |
CN111741326B (zh) * | 2020-06-30 | 2023-08-18 | 腾讯科技(深圳)有限公司 | 视频合成方法、装置、设备及存储介质 |
CN111970521A (zh) * | 2020-07-16 | 2020-11-20 | 深圳追一科技有限公司 | 虚拟主播的直播方法、装置、计算机设备和存储介质 |
CN111970521B (zh) * | 2020-07-16 | 2022-03-11 | 深圳追一科技有限公司 | 虚拟主播的直播方法、装置、计算机设备和存储介质 |
CN112601098A (zh) * | 2020-11-09 | 2021-04-02 | 北京达佳互联信息技术有限公司 | 直播互动方法、内容推荐方法及装置 |
CN112653898A (zh) * | 2020-12-15 | 2021-04-13 | 北京百度网讯科技有限公司 | 用户形象生成方法、相关装置及计算机程序产品 |
CN112653898B (zh) * | 2020-12-15 | 2023-03-21 | 北京百度网讯科技有限公司 | 用户形象生成方法、相关装置及计算机程序产品 |
CN112598785A (zh) * | 2020-12-25 | 2021-04-02 | 游艺星际(北京)科技有限公司 | 虚拟形象的三维模型生成方法、装置、设备及存储介质 |
CN112598785B (zh) * | 2020-12-25 | 2022-03-25 | 游艺星际(北京)科技有限公司 | 虚拟形象的三维模型生成方法、装置、设备及存储介质 |
CN113014471A (zh) * | 2021-01-18 | 2021-06-22 | 腾讯科技(深圳)有限公司 | 会话处理方法,装置、终端和存储介质 |
CN113099298B (zh) * | 2021-04-08 | 2022-07-12 | 广州华多网络科技有限公司 | 虚拟形象的改变方法、装置和终端设备 |
CN113099298A (zh) * | 2021-04-08 | 2021-07-09 | 广州华多网络科技有限公司 | 虚拟形象的改变方法、装置和终端设备 |
CN113766119B (zh) * | 2021-05-11 | 2023-12-05 | 腾讯科技(深圳)有限公司 | 虚拟形象显示方法、装置、终端及存储介质 |
CN113766119A (zh) * | 2021-05-11 | 2021-12-07 | 腾讯科技(深圳)有限公司 | 虚拟形象显示方法、装置、终端及存储介质 |
CN113542801A (zh) * | 2021-06-29 | 2021-10-22 | 北京百度网讯科技有限公司 | 主播标识的生成方法、装置、设备、存储介质及程序产品 |
CN113542801B (zh) * | 2021-06-29 | 2023-06-06 | 北京百度网讯科技有限公司 | 主播标识的生成方法、装置、设备、存储介质及程序产品 |
CN113507621A (zh) * | 2021-07-07 | 2021-10-15 | 上海商汤智能科技有限公司 | 直播方法、装置、***、计算机设备以及存储介质 |
CN114007091A (zh) * | 2021-10-27 | 2022-02-01 | 北京市商汤科技开发有限公司 | 一种视频处理方法、装置、电子设备及存储介质 |
CN114422647A (zh) * | 2021-12-24 | 2022-04-29 | 上海浦东发展银行股份有限公司 | 基于数字人的坐席服务方法、装置、设备、介质和产品 |
CN114422862A (zh) * | 2021-12-24 | 2022-04-29 | 上海浦东发展银行股份有限公司 | 服务视频生成方法、装置、设备、存储介质和程序产品 |
CN114286021A (zh) * | 2021-12-24 | 2022-04-05 | 北京达佳互联信息技术有限公司 | 渲染方法、装置、服务器、存储介质及程序产品 |
CN114286021B (zh) * | 2021-12-24 | 2024-05-28 | 北京达佳互联信息技术有限公司 | 渲染方法、装置、服务器、存储介质及程序产品 |
CN114827652A (zh) * | 2022-05-18 | 2022-07-29 | 上海哔哩哔哩科技有限公司 | 虚拟形象开播方法及装置 |
CN115314728A (zh) * | 2022-07-29 | 2022-11-08 | 北京达佳互联信息技术有限公司 | 信息展示方法、***、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110971930B (zh) | 2023-03-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110971930B (zh) | 虚拟形象直播的方法、装置、终端及存储介质 | |
CN108401124B (zh) | 视频录制的方法和装置 | |
CN110992493B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
US20190267037A1 (en) | Method, apparatus and terminal for controlling video playing | |
CN110278464B (zh) | 显示榜单的方法和装置 | |
CN108965922B (zh) | 视频封面生成方法、装置和存储介质 | |
CN109327608B (zh) | 歌曲分享的方法、终端、服务器和*** | |
CN110740340B (zh) | 视频直播方法及装置、存储介质 | |
CN109922356B (zh) | 视频推荐方法、装置和计算机可读存储介质 | |
CN110533585B (zh) | 一种图像换脸的方法、装置、***、设备和存储介质 | |
CN110288689B (zh) | 对电子地图进行渲染的方法和装置 | |
CN112565806B (zh) | 虚拟礼物赠送方法、装置、计算机设备及介质 | |
CN110839174A (zh) | 图像处理的方法、装置、计算机设备以及存储介质 | |
CN111083526B (zh) | 视频转场方法、装置、计算机设备及存储介质 | |
CN110677713B (zh) | 视频图像处理方法及装置、存储介质 | |
CN109783176B (zh) | 切换页面的方法和装置 | |
CN111083554A (zh) | 直播礼物显示的方法和装置 | |
CN110769120A (zh) | 进行消息提醒的方法、装置、设备及存储介质 | |
CN111192072A (zh) | 用户分群方法及装置、存储介质 | |
CN110933454B (zh) | 处理直播萌脸礼物的方法、装置、设备及存储介质 | |
CN111064657B (zh) | 关注账户分组的方法、装置、*** | |
CN110868642B (zh) | 视频播放方法、装置及存储介质 | |
CN111986700A (zh) | 无接触式操作触发的方法、装置、设备及存储介质 | |
CN112118353A (zh) | 信息显示方法、装置、终端及计算机可读存储介质 | |
CN111897465A (zh) | 弹窗显示方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |