CN115988240A - 视频生成方法、装置、可读介质及电子设备 - Google Patents
视频生成方法、装置、可读介质及电子设备 Download PDFInfo
- Publication number
- CN115988240A CN115988240A CN202211678764.7A CN202211678764A CN115988240A CN 115988240 A CN115988240 A CN 115988240A CN 202211678764 A CN202211678764 A CN 202211678764A CN 115988240 A CN115988240 A CN 115988240A
- Authority
- CN
- China
- Prior art keywords
- video
- data
- target
- audio
- audio data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Signal Processing For Digital Recording And Reproducing (AREA)
Abstract
本公开涉及一种视频生成方法、装置、可读介质及电子设备,可以获取终端当前播放的多媒体数据,多媒体数据包括音频数据以及存储在目标文件中的视频数据;在多个预设时刻分别存储目标文件中的视频数据,得到多个视频文件;针对多个视频文件中的每个视频文件,对该视频文件进行视频转码,得到目标视频数据;根据目标视频数据和音频数据生成目标视频。
Description
技术领域
本公开涉及计算机技术领域,具体地,涉及一种视频生成方法、装置、可读介质及电子设备。
背景技术
随着移动互联网的发展和移动终端硬件性能的不断提升,H5小游戏这种不需要下载安装即可使用的全新游戏应用得到了快速发展,其中录屏是小游戏的核心功能点,承载着小游戏分发宣传能力。由于开发环境的不同,海外的游戏开发一般通过Webview开发,因此,需要支持在Webview上录制小游戏画面。
在录屏过程中,需要将视频录制时输出的文件WebM文件转换为通用的MP4文件,但是现有的方法中,视频转换过程比较耗时,导致用户需要等待较长时间才能获取到录屏后的MP4文件,严重影响用户体验,也不利于业务的推广。
发明内容
提供该发明内容部分以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
第一方面,本公开提供一种视频生成方法,所述方法包括:获取终端当前播放的多媒体数据,所述多媒体数据包括音频数据以及存储在目标文件中的视频数据;在多个预设时刻分别存储所述目标文件中的视频数据,得到多个视频文件;针对多个所述视频文件中的每个所述视频文件,对所述视频文件进行视频转码,得到目标视频数据;根据所述目标视频数据和所述音频数据生成目标视频。
第二方面,本公开提供一种视频生成装置,所述装置包括:
获取模块,用于获取终端当前播放的多媒体数据,所述多媒体数据包括音频数据以及存储在目标文件中的视频数据;
存储模块,用于在多个预设时刻分别存储所述目标文件中的视频数据,得到多个视频文件;
转码模块,用于针对多个所述视频文件中的每个所述视频文件,对所述视频文件进行视频转码,得到目标视频数据;
视频生成模块,用于根据所述目标视频数据和所述音频数据生成目标视频。
第三方面,本公开提供一种计算机可读介质,其上存储有计算机程序,该程序被处理装置执行时实现本公开第一方面所述方法的步骤。
第四方面,本公开提供一种电子设备,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现本公开第一方面所述方法的步骤。
通过上述技术方案,可以在多个预设时刻依次保存多个视频文件,并针对每个视频文件依次进行转码,这样在录屏结束后,也完成了视频的转码(如将WebM文件转换为了MP4文件),从而实现了录屏过程中的实时转码,提高了获取预设格式的目标视频的效率。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。在附图中:
图1是根据一示例性实施例示出的一种视频生成方法的流程图;
图2是根据一示例性实施例示出的一种录屏方法的流程图;
图3是根据图1所示实施例示出的一种视频生成方法的流程图;
图4是根据一示例性实施例示出的一种视频生成装置的框图;
图5是根据图4所示实施例示出的一种视频生成装置的框图;
图6是根据一示例性实施例示出的一种电子设备的结构框图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
可以理解的是,在使用本公开各实施例公开的技术方案之前,均应当依据相关法律法规通过恰当的方式对本公开所涉及个人信息的类型、使用范围、使用场景等告知用户并获得用户的授权。
例如,在响应于接收到用户的主动请求时,向用户发送提示信息,以明确地提示用户,其请求执行的操作将需要获取和使用到用户的个人信息。从而,使得用户可以根据提示信息来自主地选择是否向执行本公开技术方案的操作的电子设备、应用程序、服务器或存储介质等软件或硬件提供个人信息。
作为一种可选的但非限定性的实现方式,响应于接收到用户的主动请求,向用户发送提示信息的方式例如可以是弹窗的方式,弹窗中可以以文字的方式呈现提示信息。此外,弹窗中还可以承载供用户选择“同意”或者“不同意”向电子设备提供个人信息的选择控件。
可以理解的是,上述通知和获取用户授权过程仅是示意性的,不对本公开的实现方式构成限定,其它满足相关法律法规的方式也可应用于本公开的实现方式中。
同时,可以理解的是,本技术方案所涉及的数据(包括但不限于数据本身、数据的获取或使用)应当遵循相应法律法规及相关规定的要求。
本公开主要应用于Webview上的视频录制场景中(如录屏),以Webview开发的小游戏为例,可以在游戏应用运行过程中对游戏画面进行录屏。
目前已有的Webview视频生成技术可以分为以下几类:W3C(万维网联盟)的Mediarecorder能力;基于DOM的片段还原技术;WebGL的视频获取技术;其中,基于W3C的Media recorder能力生成视频的过程中,对于视频录制,在Android设备上输出格式为WebM的视频文件后,需要等录制结束得到全部的WebM视频数据后,再经过较长时间的转码将WebM视频数据转换为通用的MP4文件,耗时严重。另外,通过调用固定的前端接口(如Webview提供的一个前端接口Media recorder),只能录制整个音频文件,并且需要提前连接所有的音频节点,音频数据无法做到实时录制,也就是说,若录制过程中需要暂停录制音频,或者只想录制音频文件中某一段时间内的音频,基于W3C的Media recorder能力均无法实现。
为解决上述存在的问题,本公开提供一种视频生成方法、装置、可读介质和电子设备,可以在视频生成过程中在多个预设时刻依次保存多个视频文件,并对视频文件进行时间戳修复后,即可实现根据时间戳针对每个视频文件依次进行转码,这样在录屏结束后,也完成了视频的转码(如将WebM文件转换为了MP4文件),从而实现了录屏过程中的实时转码,提高了获取预设格式的目标视频的效率。
另外,本公开在获取到录屏指令的情况下,针对不同的声源发出的音频数据,可以通过声源对应的预设音频处理接口采集所述声源播放的目标音频数据,该预设音频处理接口定义了音频采集周期,这样,可以按照音频采集周期采集每个声源播放的目标音频数据,相比较于采集一整个音频文件的音频数据来说,基于本公开中的音频采集方式,可以实现音频数据的实时录制。
下面结合附图,对本公开的具体实施方式进行详细说明。
图1是根据一示例性实施例示出的一种视频生成方法的流程图,如图1所示,该方法包括以下步骤:
在步骤S101中,获取终端当前播放的多媒体数据,所述多媒体数据包括音频数据以及存储在目标文件中的视频数据。
其中,该多媒体数据可以包括音频数据和视频数据,该视频数据可以为WebM格式的视频数据,该音频数据可以包括PCM(Pulse Code Modulation,脉冲编码调制)数据。
在本步骤中,可以在获取到视频生成指令(例如录屏指令)的情况下,获取终端当前播放的多媒体数据。上述已经提及,本公开主要应用于Webview上的视频录制场景中,因此,基于Webview开发的应用程序在运行过程,均可基于本公开提供的视频生成方法进行视频录制,以基于Webview开发的游戏场景为例,用户在玩游戏的过程中,可以通过触发游戏界面的录屏按钮(也可以是其它录屏开启方式,如语音控制开启录屏)启动录屏功能,终端在确定用户启动了录屏功能后,即可获取到该录屏指令。
继续以Webview开发的游戏为例,游戏运行时,会向用户输出多媒体数据,该多媒体数据可以包括视频数据和音频数据,例如游戏的运行画面即为视频数据,游戏中还会存在一种或者多种音频数据(如背景音乐、游戏角色的对话以及打斗的声音等),因此,在录屏过程中,既要采集视频数据,也要采集音频数据,在图1所示的实施例中,介绍视频数据的采集。
由于现阶段的H5小游戏(即基于Webview开发的游戏)基本采用WebGL来绘制游戏画面,游戏内容均绘制在一块上屏的Canvas中,因此视频数据采集的主要目的是获取当前Canvas上的纹理数据,一种可能的实现方式中,终端(一般指Android设备)可以使用W3C提供的Media recorder接口获取当前Canvas上的纹理数据,并将获取到的纹理数据保存成WebM格式的视频数据,因此,在本步骤中,终端在获取到该录屏指令后,可以接收WebM视频数据,然后将接收到的该WebM视频数据存储在预设路径下的目标文件中,例如该目标文件可以命名为video.webm。
在步骤S102中,在多个预设时刻分别存储所述目标文件中的视频数据,得到多个视频文件。
本公开为了实现对视频数据的实时转码,提高视频生成效率,可以在录屏过程中在多个预设时刻(或者按照预设时间间隔保存)依次保存多个视频文件,以便对各个视频文件进行时间戳修复后,即可实现根据时间戳针对每个视频文件依次进行转码,这样在录屏结束后,也完成了视频的转码(即将WebM文件转换为了MP4文件),从而实现了录屏过程中的实时转码,提高了获取预设格式的目标视频的效率。
示例地,在获取到用户触发的录屏指令后,video.webm的目标文件开始实时记录当前播放的视频数据,举例来说,录屏持续了10秒时,video.webm中存储了前10秒的视频数据,录屏持续了20秒时,video.webm中存储了前20秒的视频数据,录屏持续了30秒时,video.webm中存储了前30秒的视频数据,依次类推,video.webm在录屏过程中持续记录着过去的时间内播放的WebM格式的视频数据,在本步骤中,可以在多个预设时刻分别拷贝所述目标文件中的视频数据,得到多个视频文件,假设多个该预设时刻分别记为t1,t2,t3,...tn,若每隔10秒拷贝一次,那么t1=10s,t2=20s,t3=30s,......,在t1时刻,拷贝一次video.webm,得到第一个视频文件v1.webm,并且v1.webm视频文件中存储着前10秒的WebM格式的视频数据,在t2时刻,拷贝一次video.webm,得到第二个视频文件v2.webm,并且v2.webm视频文件中存储着前20秒的WebM格式的视频数据,依次类推,可以得到多个该视频文件,上述示例仅是举例说明,本公开对此不作限定。
在步骤S103中,针对多个所述视频文件中的每个所述视频文件,对所述视频文件进行视频转码,得到目标视频数据。
在本步骤中,针对每个视频文件,可以根据目标视频文件对应的时间戳信息对该视频文件进行视频转码,得到该目标视频数据,其中,该目标视频文件为多个视频文件中与该视频文件在时间上相邻的上一个视频文件。
一种实现方式中,可以依次对每个所述视频文件进行时间戳修复,得到每个视频文件分别对应的时间戳信息。
其中,该时间戳信息包括对应视频文件的视频时长和关键帧的时间节点。
为了解决视频数据转码耗时的问题,需要避免在视频录制结束之后再进行转码,而为了实现实时转码,需要WebM格式的视频文件支持在指定时间开始读取(即seek能力),相关技术中通过Media Recorder录制的WebM视频不具备seek能力,因此无法实现实时转码,在本公开中,可以通过对各个视频文件进行时间戳修复的方式,使得各个待转码的视频文件具备seek所需要的关键信息,即视频时长和关键帧的时间节点,这样,即可实现在录制过程中依次对每个视频文件的实时转码。
在进行时间戳修复的过程中,可以针对每个所述视频文件,通过调用预设视频处理接口分别对所述视频文件进行时间戳修复,得到所述视频文件对应的所述视频时长和所述关键帧的时间节点。
其中,该预设视频处理接口例如可以为ffmpeg。
示例地,以对视频文件v1.webm进行时间戳修复为例,假设v1.webm对应前10秒录制得到的WebM格式的视频数据,并且这10秒的视频中存在5个关键帧,每个关键帧各自对应一个时间节点,在调用了ffmpeg对该视频文件v1.webm进行时间戳修复以后,可以得到该视频文件v1.webm对应的时间戳信息包括视频时长为10s,以及关键帧的时间节点分别为seek1=2s,seek2=4s,seek3=6s,seek4=8s,seek5=10s,此处仅是举例说明,本公开对此不作限定。
在得到每个视频文件分别对应的时间戳信息以后,本步骤可以通过以下方式根据目标视频文件对应的所述时间戳信息对所述视频文件进行视频转码:
在本步骤中,可以根据所述目标视频文件的时间戳信息确定对所述目标视频文件转码后的视频转码进度;根据所述视频转码进度确定所述视频文件中需要进行转码的待转码视频文件;对所述待转码视频文件进行视频转码,得到第一视频数据;将所述第一视频数据和所述目标视频文件对应的转码后的第二视频数据作为所述目标视频数据。
一种可能的实现方式中,在对每个视频文件进行视频转码以后,可以根据转码结果确定转码标识,该转码标识可以指示已转码的视频时长,该视频时长即为视频转码进度,以便在对下一个视频文件进行转码时,可以根据该转码标识确定对下一个视频文件进行转码的开始时刻。
示例地,假设视频文件包括v1.webm和v2.webm两个,其中v1.webm存储有前10秒录制的视频数据,v2.webm存储有前20秒录制的视频数据,并且v2.webm中前10秒的视频数据与v1.webm存储的10秒的视频数据完全相同,在本示例中,可以用POS表示转码标识,未进行转码之前,POS=0,基于本步骤的视频转码方法,可以先根据v1.webm的时间戳信息对v1.webm进行视频转码,对v1.webm转码结束以后,即完成了对前10秒视频数据的转码,此时POS=10,接下来对下一个视频文件v2.webm进行视频转码时,需要先确定转码的开始时刻,根据POS=10可以确定前10秒视频数据已经转码完成,在对v2.webm进行视频转码时,可以从第10秒开始转码,也就是说在对v2.webm进行视频转码时,仅需对v2.webm中存储的20秒的视频数据中第10秒至第20秒的视频数据进行转码(v2.webm中存储的20秒的视频数据中第10秒至第20秒的视频数据即为本次的待转码数据),这样,根据v2.webm的时间戳信息即可完成对v2.webm的视频转码,此时POS更新为20,以便后续继续对其它视频文件进行转码时,可以根据更新后的POS值确定下一次的转码开始时刻,依次类推,在录屏结束后,也完成了对各个视频文件的转码,提高了转码效率,无需等录屏结束后再进行转码。上述示例仅是举例说明,本公开对此不作限定。
另外,在对每个视频文件进行转码的过程中,可以从WebM文件中分离vp8格式的视频数据,并解码成YUV数据再编码成h264数据,以便后续可以根据h264数据生成用户需要的mp4格式的目标视频。
需要说明的是,这里的h264格式的数据以及mp4格式的目标视频仅是一种举例说明,实际的应用场景中,还可以根据实际需求生成其它格式的视频数据,以及其它格式的目标视频,本公开对此不作限定。
在步骤S104中,根据所述目标视频数据和所述音频数据生成目标视频。
其中,该目标视频即为预设格式(如mp4格式)的视频。
在本步骤中,可以根据转码后的该目标视频数据,并融合采集得到的音频数据,生成预设格式的该目标视频。
下面以录屏为例对图1所述的视频生成过程进行示例性说明。
图2是根据一示例性实施例示出的一种录屏方法的流程图,如图2所示,该方法包括以下步骤:
在步骤S201中,在接收到录屏指令的情况下,获取终端当前播放的多媒体数据,所述多媒体数据包括音频数据以及存储在目标文件中的视频数据。
例如,该视频数据可以为WebM格式的视频数据,该音频数据可以包括PCM数据。
在步骤S202中,在多个预设时刻分别存储所述目标文件中的视频数据,得到多个视频文件。
一种实现方式中,终端在获取到该录屏指令后,可以接收WebM视频数据,然后将接收到的该WebM视频数据存储在预设路径下的目标文件中,例如该目标文件可以命名为video.webm。
本公开为了实现对视频数据的实时转码,提高录屏效率,可以在录屏过程中在多个预设时刻(或者按照预设时间间隔保存)依次保存多个视频文件,并针对每个视频文件依次进行转码,这样在录屏结束后,也完成了视频的转码(即将WebM文件转换为了MP4文件),从而实现了录屏过程中的实时转码,提高了获取预设格式的目标视频的效率。
示例地,目标文件video.webm在录屏过程中持续记录着过去的时间内播放的WebM格式的视频数据,在本步骤中,可以在多个预设时刻分别拷贝所述目标文件中的视频数据,得到多个视频文件,假设多个该预设时刻分别记为t1,t2,t3,...tn,若每隔10秒拷贝一次,那么t1=10s,t2=20s,t3=30s,......,在t1时刻,拷贝一次video.webm,得到第一个视频文件v1.webm,并且v1.webm视频文件中存储着前10秒的Webm格式的视频数据,在t2时刻,拷贝一次video.webm,得到第二个视频文件v2.webm,并且v2.webm视频文件中存储着前20秒的WebM格式的视频数据,依次类推,可以得到多个该视频文件,上述示例仅是举例说明,本公开对此不作限定。
在步骤S203中,依次对每个所述视频文件进行时间戳修复,得到每个视频文件分别对应的时间戳信息。
其中,该时间戳信息包括对应视频文件的视频时长和关键帧的时间节点。
为了解决视频数据转码耗时的问题,需要避免在视频录制结束之后再进行转码,而为了实现实时转码,需要WebM格式的视频文件支持在指定时间开始读取(即seek能力),相关技术中通过Media Recorder录制的WebM视频不具备seek能力,因此无法实现实时转码,在本公开中,可以通过对各个视频文件进行时间戳修复的方式,使得各个待转码的视频文件具备seek所需要的关键信息,即视频时长和关键帧的时间节点,这样,即可实现在录制过程中依次对每个视频文件的实时转码。
在进行时间戳修复的过程中,可以针对每个所述视频文件,通过调用预设视频处理接口分别对所述视频文件进行时间戳修复,得到所述视频文件对应的所述视频时长和所述关键帧的时间节点。该预设视频处理接口例如可以为ffmpeg。
在步骤S204中,根据目标视频文件的时间戳信息确定对目标视频文件转码后的视频转码进度。
一种可能的实现方式中,在对每个视频文件进行视频转码以后,可以根据转码结果确定转码标识,该转码标识可以指示已转码的视频时长,该视频时长即为视频转码进度,以便在对下一个视频文件进行转码时,可以根据该转码标识确定对下一个视频文件进行转码的开始时刻。
在步骤S205中,针对每个视频文件,根据视频转码进度确定该视频文件中需要进行转码的待转码视频文件。
在步骤S206中,对该待转码视频文件进行视频转码,得到第一视频数据。
在步骤S207中,将该第一视频数据和该目标视频文件对应的转码后的第二视频数据作为该视频文件对应的目标视频数据。
示例地,假设视频文件包括v1.webm和v2.webm两个,其中v1.webm存储有前10秒录制的视频数据,v2.webm存储有前20秒录制的视频数据,并且v2.webm中前10秒的视频数据与v1.webm存储的10秒的视频数据完全相同,在本示例中,可以用POS表示转码标识,未进行转码之前,POS=0,基于本步骤的视频转码方法,可以先根据v1.webm的时间戳信息对v1.webm进行视频转码,对v1.webm转码结束以后,即完成了对前10秒视频数据的转码,此时POS=10,接下来对下一个视频文件v2.webm进行视频转码时,需要先确定转码的开始时刻,根据POS=10可以确定前10秒视频数据已经转码完成,在对v2.webm进行视频转码时,可以从第10秒开始转码,也就是说在对v2.webm进行视频转码时,仅需对v2.webm中存储的20秒的视频数据中第10秒至第20秒的视频数据进行转码(v2.webm中存储的20秒的视频数据中第10秒至第20秒的视频数据即为本次的待转码数据),这样,根据v2.webm的时间戳信息即可完成对v2.webm的视频转码,此时POS更新为20,以便后续继续对其它视频文件进行转码时,可以根据更新后的POS值确定下一次的转码开始时刻,依次类推,在录屏结束后,也完成了对各个视频文件的转码,提高了转码效率,无需等录屏结束后再进行转码。上述示例仅是举例说明,本公开对此不作限定。
另外,在对每个视频文件进行转码的过程中,可以从WebM文件中分离vp8格式的视频数据,并解码成YUV数据再编码成h264数据,以便后续可以根据h264数据生成用户需要的mp4格式的目标视频。
在步骤S208中,根据所述目标视频数据和所述音频数据生成目标视频。
其中,该目标视频即为预设格式(如mp4格式)的视频。
本步骤可以对所述目标视频数据和所述音频数据进行音视频混流后,生成所述目标视频。
采用上述方法,可以在视频录制过程中在多个预设时刻依次保存多个视频文件,并对视频文件进行时间戳修复后,即可实现根据时间戳针对每个视频文件依次进行转码,这样在录屏结束后,也完成了视频的转码(如将WebM文件转换为了MP4文件),从而实现了录屏过程中的实时转码,提高了获取预设格式的目标视频的效率。
上述已经提及,在获取到录屏指令的情况下,获取到的终端当前播放的多媒体数据还包括音频数据,并且在生成该目标视频的过程中,需要根据实时转码得到的该目标视频数据和采集的音频数据生成该目标视频,下面结合附图对音频数据的采集过程进行说明。
图3是根据图1所示实施例示出的一种视频生成方法的流程图,如图3所示,该方法还包括以下步骤:
在步骤S105中,在确定发生目标事件的情况下,创建与声源对应的预设音频处理接口,所述目标事件包括创建所述声源对应的第一数据源接口的事件,所述声源通过所述第一数据源接口播放所述音频数据,不同的声源播放不同的音频数据。
其中,该预设音频处理接口可以包括Web Audio标准提供的Script ProcessorNode接口,该接口可以用于处理或分析音频数据,并且该接口对应音频采集控制参数(如每次采集的音频数据的数据量,通常记为buffer Size),该音频采集控制参数可以控制音频采集周期,从而实现Webview前端的音频实时采集,支持任意时刻开始采集音频,该第一数据源接口即为声音源接口,如Source node,在确定创建了Source node节点的情况下,可以确定发生该目标事件。
在本公开中,音频采集目标为基于Web Audio标准播放的音频内容,以游戏场景为例,在游戏运行过程中,可能会有多个音频同时播放,例如有背景音乐、人物的说话声、子弹的发射声等,不同的音频通常对应不同的声音源,本公开在采集音频时需要对每个声音源发出的音频分别进行采集。
现有的H5小游戏通常采用W3C的Web Audio标准播放音频内容,该标准可以提供一系列的接口,调用不同的接口,传入相应的音频文件的文件路径后,即可实现音频的播放,并且不同的接口代表不同的功能和效果。
示例地,若仅是播放一个音频,游戏的开发者可以创建一个声音源节点,然后将待播放的音频文件的路径传入创建的声音源节点(即播放音频的节点,可以记为Sourcenode)之后,即可播放音频。若进一步想给音频加特效,可以通过连接在该声音源节点上的其它特效节点(基于特效接口实现音频特效的节点)来实现。
在本公开一种可能的实现方式中,可以通过捕获Web Audio标准提供的接口,隐式的注入Script Processor Node接口对应的节点,来获取实时的音频数据(如PCM数据),例如,可以通过重写Web Audio中的AudioContext类,实现对Web Audio标准中接口的捕获,这样,前端Webview可以监测到是否创建了声源对应的第一数据源接口Source node,在确定创建了该第一数据源接口Source node后,即确定发生了该目标事件,之后可以创建与该声源对应的预设音频处理接口Script Processor Node,也就是说,基于Web Audio标准创建的声音源节点,均会被自动绑定一个Script Processor Node,并且每个声音源节点各自对应一个Script Processor Node节点,该Script Processor Node可以每隔一定的时间触发采集对应的声音源发出的音频数据。
在步骤S106中,针对不同的声源发出的音频数据,通过所述声源对应的预设音频处理接口采集所述声源播放的目标音频数据。
在本步骤一种可能的实现方式中,可以获取所述预设音频处理接口对应的音频采集控制参数,然后根据所述音频采集控制参数确定音频采集周期,并按照所述音频采集周期采集所述声源播放的所述目标音频数据。
其中,该音频采集控制参数可以为每次采集的音频数据的目标数据量(即buffersize),实际的音频采集场景中,每次采集的音频数据的数据量相同,但由于设备状态(如设备是否卡顿)在不同时刻可能存在差异,采集相同的数据量的音频数据所需要的音频采集周期可能不同。
一种实施方式中,在接收到视频生成指令后,针对每个声源,可以触发对应的Script Processor Node节点调用onProcess函数采集目标数据量的该声源发出的音频数据后,得到单个声源发出的PCM音频数据。
需要说明的是,本公开中可以通过优化设置Script Processor Node节点对应的buffersize的大小,避免了由于buffersize设置的较小导致的内存的频繁读取问题,进而避免了对各个声源对应的音频数据进行混合后产生的白噪声问题。另外,针对多声源的音频数据采集的过程中,出现的不同的声音源数据会出现的“早到”、“晚到”问题,本公开可以为每个声音源建立单独的储存数组,这样,在基于onProcess函数采集音频数据时,可以从每个数组中单独获取数组中的第一个元素进行混合,从而解决了多声源的音频数据混合后的声音重叠问题。
采用上述方法,可以在视频录制过程中,针对不同的声源发出的音频数据,可以通过声源对应的预设音频处理接口采集所述声源播放的目标音频数据,该预设音频处理接口定义了音频采集周期,这样,可以按照音频采集周期采集每个声源播放的目标音频数据,相比较于采集一整个音频文件的音频数据来说,基于本公开中的音频采集方式,可以实现音频数据的实时录制。
如图3所示,该方法还包括以下步骤:
在步骤S107中,将采集的每个所述声源播放的所述目标音频数据存储至预设缓存空间;确定多个不同的音频读取时刻;通过预设音频处理线程在每个所述音频读取时刻从所述预设缓存空间读取所述目标音频数据。
为了避免音频处理的过程对主进程的应用程序的业务影响,在本公开中,可以在前端开辟新的线程(即该预设音频处理线程),将音频处理算法涉及到的数据处理通过该预设音频处理线程进行计算,从而避免了对主进程的业务影响。
在本步骤中,可以通过以下方式确定多个不同的音频读取时刻:
在所述目标事件为预设事件的情况下,创建与所述预设事件对应的第二数据源接口,和与所述第二数据源接口对应的指定音频处理接口,所述预设事件为预先设置的用于确定触发时刻的事件,所述触发时刻为触发所述预设音频处理线程从所述预设缓存空间中读取所述目标音频数据的时刻;将所述指定音频处理接口被调用的时刻,作为所述音频读取时刻。
其中,该预设事件例如可以为在获取到用户触发的录屏指令后,第一次接收到任一声音源节点播放音频的事件,为了解决多声源采集的同步问题,在本公开中,可以创建一个与该预设事件对应的第二数据源接口,该第二数据源接口可以理解为是一个播放空白声音(例如音频的PCM能量值为0)的声音源节点的接口,该第二数据源接口SourceNode可以作为一个计时器和触发器,同样需要创建与之对应的Script Processor Node节点的接口,即该指定音频处理接口,这样,可以将指定音频处理接口被调用的时刻作为该音频读取时刻,从而在将每个声源对应的音频数据发送至预设音频处理线程的过程中,可以统一按照新建的空白声音源节点对应的Script Processor Node接口被调用的时刻,作为该触发时刻,从而保证了各个声源的音频数据采集的同步问题。
如图3所示,该方法还包括以下步骤:
在步骤S108中,将每个声源对应的所述目标音频数据按照预设归一化算法进行数据融合,得到第一音频数据;对所述第一音频数据进行格式转换,得到第二音频数据。
针对多声源混合时出现的音频双向溢出问题,本公开可以通过预设归一化算法将采集的每个声源的目标音频数据进行归一化处理,然后基于归一化后的各个声音的音频数据进行数据融合,得到该第一音频数据,该第一音频数据例如可以为pcm格式的数据,之后可以对该第一音频数据进行格式转换,得到第二音频数据,例如可以将32位的浮点型数据转换为16位的整型数据,转换后的第二音频数据兼容原生程序,以便后续将该第二音频数据发送至原生端(即native)的主进程,与视频数据进行数据融合以后生成预设格式的目标视频。
这样,在执行步骤S104的过程中,可以根据所述目标视频数据和所述第二音频数据生成所述目标视频。
一种实现方式中,可以获取所述目标视频数据对应的录制开始时间;然后从所述第二音频数据中获取所述录制开始时间之后的音频数据作为指定音频数据;对所述目标视频数据和所述指定音频数据进行音视频混流后,生成所述目标视频。
另外,考虑到若音频数据的数据量过大,可能导致原生端无法接收,因此在本公开中,在向原生端传输音频数据之前,可以在Webview前端对数据进行拆分,再将拆分的子数据按照不同的声源进行混合,因此,在执行步骤S108之前,本公开还可以针对每个所述声源发出的所述目标音频数据,将所述声源发出的所述目标音频数据拆分成预设数量的多份子音频数据;这样,在将每个声源对应的所述目标音频数据按照预设归一化算法进行数据融合的过程中,可以针对每个声源,获取所述声源对应的目标子音频数据,所述目标子音频数据为所述声源对应的多份所述子音频数据中的其中一份数据;将每个声源对应的所述目标子音频数据按照所述预设归一化算法进行数据融合。
示例地,假设有声源1对应的目标音频数据记为A,声源2对应的目标音频数据记为B,在本示例中,可以将A按照数据量拆分成4份子音频数据,分别记为A1、A2、A3、A4,将B按照数据量拆分成4份子音频数据,分别记为B1、B2、B3、B4,那么在进行数据融合的过程中,可以将声源1对应的目标子音频数据A1与声源2对应的目标子音频数据B1进行融合,将声源1对应的目标子音频数据A2与声源2对应的目标子音频数据B2进行融合,依次类推,可以得到融合后的四份音频融合数据,这样,可以依次将每一份小数据量的音频融合数据进行格式转换后发送至主进程,提高了数据传输的成功率和效率。
图4是根据一示例性实施例示出的一种视频生成装置的框图,如图4所示,该装置包括:
获取模块401,用于获取终端当前播放的多媒体数据,所述多媒体数据包括音频数据以及存储在目标文件中的视频数据;
存储模块402,用于在多个预设时刻分别存储所述目标文件中的视频数据,得到多个视频文件;
转码模块403,用于针对多个所述视频文件中的每个所述视频文件,对所述视频文件进行视频转码,得到目标视频数据;
视频生成模块404,用于根据所述目标视频数据和所述音频数据生成目标视频。
可选地,图5是根据图4所示实施例示出的一种视频生成装置的框图,如图5所示,该装置还包括:
时间修复模块405,用于依次对每个所述视频文件进行时间戳修复,得到每个视频文件分别对应的时间戳信息;
所述转码模块403,用于根据目标视频文件对应的所述时间戳信息对所述视频文件进行视频转码,得到所述目标视频数据,所述目标视频文件为多个视频文件中与所述视频文件在时间上相邻的上一个视频文件。
可选地,所述时间戳信息包括对应视频文件的视频时长和关键帧的时间节点,所述时间修复模块405,用于针对每个所述视频文件,通过调用预设视频处理接口分别对所述视频文件进行时间戳修复,得到所述视频文件对应的所述视频时长和所述关键帧的时间节点。
可选地,所述转码模块403,用于根据所述目标视频文件的时间戳信息确定对所述目标视频文件转码后的视频转码进度;根据所述视频转码进度确定所述视频文件中需要进行转码的待转码视频文件;对所述待转码视频文件进行视频转码,得到第一视频数据;将所述第一视频数据和所述目标视频文件对应的转码后的第二视频数据作为所述目标视频数据。
可选地,如图5所示,该装置还包括:
音频数据采集模块406,用于在确定发生目标事件的情况下,创建与声源对应的预设音频处理接口,所述目标事件包括创建所述声源对应的第一数据源接口的事件,所述声源通过所述第一数据源接口播放所述音频数据,不同的声源播放不同的音频数据;针对不同的声源发出的音频数据,通过所述声源对应的预设音频处理接口采集所述声源播放的目标音频数据。
可选地,所述音频数据采集模块406,用于获取所述预设音频处理接口对应的音频采集控制参数;根据所述音频采集控制参数确定音频采集周期,并按照所述音频采集周期采集所述声源播放的所述目标音频数据。
可选地,如图5所示,所述装置还包括:
音频数据读取模块407,用于将采集的每个所述声源播放的所述目标音频数据存储至预设缓存空间;确定多个不同的音频读取时刻;通过预设音频处理线程在每个所述音频读取时刻从所述预设缓存空间读取所述目标音频数据。
可选地,所述音频数据读取模块407,用于在所述目标事件为预设事件的情况下,创建与所述预设事件对应的第二数据源接口,和与所述第二数据源接口对应的指定音频处理接口,所述预设事件为预先设置的用于确定触发时刻的事件,所述触发时刻为触发所述预设音频处理线程从所述预设缓存空间中读取所述目标音频数据的时刻;将所述指定音频处理接口被调用的时刻,作为所述音频读取时刻。
可选地,如图5所示,所述装置还包括:
音频数据处理模块408,用于将每个声源对应的所述目标音频数据按照预设归一化算法进行数据融合,得到第一音频数据;对所述第一音频数据进行格式转换,得到第二音频数据;
所述视频生成模块404,用于根据所述目标视频数据和所述第二音频数据生成所述目标视频。
可选地,所述音频数据处理模块408,还用于针对每个所述声源发出的所述目标音频数据,将所述声源发出的所述目标音频数据拆分成预设数量的多份子音频数据;针对每个声源,获取所述声源对应的目标子音频数据,所述目标子音频数据为所述声源对应的多份所述子音频数据中的其中一份数据;将每个声源对应的所述目标子音频数据按照所述预设归一化算法进行数据融合。
可选地,所述视频生成模块404,用于获取所述目标视频数据对应的录制开始时间;从所述第二音频数据中获取所述录制开始时间之后的音频数据作为指定音频数据;对所述目标视频数据和所述指定音频数据进行音视频混流后,生成所述目标视频。
采用上述装置,可以在视频录制过程中在多个预设时刻依次保存多个视频文件,并对视频文件进行时间戳修复后,即可实现根据时间戳针对每个视频文件依次进行转码,这样在录屏结束后,也完成了视频的转码(如将WebM文件转换为了MP4文件),从而实现了录屏过程中的实时转码,提高了获取预设格式的目标视频的效率。
并且,针对不同的声源发出的音频数据,可以通过声源对应的预设音频处理接口采集所述声源播放的目标音频数据,该预设音频处理接口定义了音频采集周期,这样,可以按照音频采集周期采集每个声源播放的目标音频数据,相比较于采集一整个音频文件的音频数据来说,基于本公开中的音频采集方式,可以实现音频数据的实时录制。
下面参考图6,其示出了适于用来实现本公开实施例的电子设备600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端可以利用诸如HTTP(HyperText Transfer Protocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取终端当前播放的多媒体数据,所述多媒体数据包括音频数据以及存储在目标文件中的视频数据;在多个预设时刻分别存储所述目标文件中的视频数据,得到多个视频文件;针对多个所述视频文件中的每个所述视频文件,对所述视频文件进行视频转码,得到目标视频数据;根据所述目标视频数据和所述音频数据生成目标视频。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块的名称在某种情况下并不构成对该模块本身的限定,例如,获取模块还可以被描述为“获取多媒体数据的模块”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上***(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,示例1提供了一种视频生成方法,包括:获取终端当前播放的多媒体数据,所述多媒体数据包括音频数据以及存储在目标文件中的视频数据;在多个预设时刻分别存储所述目标文件中的视频数据,得到多个视频文件;针对多个所述视频文件中的每个所述视频文件,对所述视频文件进行视频转码,得到目标视频数据;根据所述目标视频数据和所述音频数据生成目标视频。
根据本公开的一个或多个实施例,示例2提供了示例1的方法,所述对所述视频文件进行视频转码,得到目标视频数据之前,所述方法还包括:
依次对每个所述视频文件进行时间戳修复,得到每个视频文件分别对应的时间戳信息;
所述对所述视频文件进行视频转码,得到目标视频数据包括:
根据目标视频文件对应的所述时间戳信息对所述视频文件进行视频转码,得到所述目标视频数据,所述目标视频文件为多个视频文件中与所述视频文件在时间上相邻的上一个视频文件。
根据本公开的一个或多个实施例,示例3提供了示例2的方法,所述时间戳信息包括对应视频文件的视频时长和关键帧的时间节点,所述对每个所述视频文件进行时间戳修复包括:
针对每个所述视频文件,通过调用预设视频处理接口分别对所述视频文件进行时间戳修复,得到所述视频文件对应的所述视频时长和所述关键帧的时间节点。
根据本公开的一个或多个实施例,示例4提供了示例2的方法,所述根据目标视频文件对应的所述时间戳信息对所述视频文件进行视频转码包括:
根据所述目标视频文件的时间戳信息确定对所述目标视频文件转码后的视频转码进度;
根据所述视频转码进度确定所述视频文件中需要进行转码的待转码视频文件;
对所述待转码视频文件进行视频转码,得到第一视频数据;
将所述第一视频数据和所述目标视频文件对应的转码后的第二视频数据作为所述目标视频数据。
根据本公开的一个或多个实施例,示例5提供了示例1-4任一项的方法,所述方法还包括:
在确定发生目标事件的情况下,创建与声源对应的预设音频处理接口,所述目标事件包括创建所述声源对应的第一数据源接口的事件,所述声源通过所述第一数据源接口播放所述音频数据,不同的声源播放不同的音频数据;
针对不同的声源发出的音频数据,通过所述声源对应的预设音频处理接口采集所述声源播放的目标音频数据。
根据本公开的一个或多个实施例,示例6提供了示例5的方法,所述通过所述声源对应的预设音频处理接口采集所述声源播放的目标音频数据包括:
获取所述预设音频处理接口对应的音频采集控制参数;
根据所述音频采集控制参数确定音频采集周期,并按照所述音频采集周期采集所述声源播放的所述目标音频数据。
根据本公开的一个或多个实施例,示例7提供了示例5的方法,所述方法还包括:
将采集的每个所述声源播放的所述目标音频数据存储至预设缓存空间;
确定多个不同的音频读取时刻;
通过预设音频处理线程在每个所述音频读取时刻从所述预设缓存空间读取所述目标音频数据。
根据本公开的一个或多个实施例,示例8提供了示例7的方法,所述确定多个不同的音频读取时刻包括:
在所述目标事件为预设事件的情况下,创建与所述预设事件对应的第二数据源接口,和与所述第二数据源接口对应的指定音频处理接口,所述预设事件为预先设置的用于确定触发时刻的事件,所述触发时刻为触发所述预设音频处理线程从所述预设缓存空间中读取所述目标音频数据的时刻;
将所述指定音频处理接口被调用的时刻,作为所述音频读取时刻。
根据本公开的一个或多个实施例,示例9提供了示例7的方法,所述通过预设音频处理线程在每个所述音频读取时刻从所述预设缓存空间读取所述目标音频数据后,所述方法还包括:
将每个声源对应的所述目标音频数据按照预设归一化算法进行数据融合,得到第一音频数据;
对所述第一音频数据进行格式转换,得到第二音频数据;
所述根据所述目标视频数据和所述音频数据生成目标视频包括:
根据所述目标视频数据和所述第二音频数据生成所述目标视频。
根据本公开的一个或多个实施例,示例10提供了示例9的方法,在所述将每个声源对应的所述目标音频数据按照预设归一化算法进行数据融合之前,所述方法还包括:
针对每个所述声源发出的所述目标音频数据,将所述声源发出的所述目标音频数据拆分成预设数量的多份子音频数据;
所述将每个声源对应的所述目标音频数据按照预设归一化算法进行数据融合包括:
针对每个声源,获取所述声源对应的目标子音频数据,所述目标子音频数据为所述声源对应的多份所述子音频数据中的其中一份数据;
将每个声源对应的所述目标子音频数据按照所述预设归一化算法进行数据融合。
根据本公开的一个或多个实施例,示例11提供了示例9的方法,所述根据所述目标视频数据和所述第二音频数据生成所述目标视频包括:
获取所述目标视频数据对应的录制开始时间;
从所述第二音频数据中获取所述录制开始时间之后的音频数据作为指定音频数据;
对所述目标视频数据和所述指定音频数据进行音视频混流后,生成所述目标视频。
根据本公开的一个或多个实施例,示例12提供了一种视频生成装置,包括:获取模块,用于获取终端当前播放的多媒体数据,所述多媒体数据包括音频数据以及存储在目标文件中的视频数据;
存储模块,用于在多个预设时刻分别存储所述目标文件中的视频数据,得到多个视频文件;
转码模块,用于针对多个所述视频文件中的每个所述视频文件,对所述视频文件进行视频转码,得到目标视频数据;
视频生成模块,用于根据所述目标视频数据和所述音频数据生成目标视频。
根据本公开的一个或多个实施例,示例13提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理装置执行时实现示例1-11中任一项所述的方法。
根据本公开的一个或多个实施例,示例14提供了一种电子设备,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现示例1-11中任一项所述的方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
Claims (14)
1.一种视频生成方法,其特征在于,所述方法包括:
获取终端当前播放的多媒体数据,所述多媒体数据包括音频数据以及存储在目标文件中的视频数据;
在多个预设时刻分别存储所述目标文件中的视频数据,得到多个视频文件;
针对多个所述视频文件中的每个所述视频文件,对所述视频文件进行视频转码,得到目标视频数据;
根据所述目标视频数据和所述音频数据生成目标视频。
2.根据权利要求1所述的方法,其特征在于,所述对所述视频文件进行视频转码,得到目标视频数据之前,所述方法还包括:
依次对每个所述视频文件进行时间戳修复,得到每个视频文件分别对应的时间戳信息;
所述对所述视频文件进行视频转码,得到目标视频数据包括:
根据目标视频文件对应的所述时间戳信息对所述视频文件进行视频转码,得到所述目标视频数据,所述目标视频文件为多个视频文件中与所述视频文件在时间上相邻的上一个视频文件。
3.根据权利要求2所述的方法,其特征在于,所述时间戳信息包括对应视频文件的视频时长和关键帧的时间节点,所述对每个所述视频文件进行时间戳修复包括:
针对每个所述视频文件,通过调用预设视频处理接口分别对所述视频文件进行时间戳修复,得到所述视频文件对应的所述视频时长和所述关键帧的时间节点。
4.根据权利要求2所述的方法,其特征在于,所述根据目标视频文件对应的所述时间戳信息对所述视频文件进行视频转码包括:
根据所述目标视频文件的时间戳信息确定对所述目标视频文件转码后的视频转码进度;
根据所述视频转码进度确定所述视频文件中需要进行转码的待转码视频文件;
对所述待转码视频文件进行视频转码,得到第一视频数据;
将所述第一视频数据和所述目标视频文件对应的转码后的第二视频数据作为所述目标视频数据。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述方法还包括:
在确定发生目标事件的情况下,创建与声源对应的预设音频处理接口,所述目标事件包括创建所述声源对应的第一数据源接口的事件,所述声源通过所述第一数据源接口播放所述音频数据,不同的声源播放不同的音频数据;
针对不同的声源发出的音频数据,通过所述声源对应的预设音频处理接口采集所述声源播放的目标音频数据。
6.根据权利要求5所述的方法,其特征在于,所述通过所述声源对应的预设音频处理接口采集所述声源播放的目标音频数据包括:
获取所述预设音频处理接口对应的音频采集控制参数;
根据所述音频采集控制参数确定音频采集周期,并按照所述音频采集周期采集所述声源播放的所述目标音频数据。
7.根据权利要求5所述的方法,其特征在于,所述方法还包括:
将采集的每个所述声源播放的所述目标音频数据存储至预设缓存空间;
确定多个不同的音频读取时刻;
通过预设音频处理线程在每个所述音频读取时刻从所述预设缓存空间读取所述目标音频数据。
8.根据权利要求7所述的方法,其特征在于,所述确定多个不同的音频读取时刻包括:
在所述目标事件为预设事件的情况下,创建与所述预设事件对应的第二数据源接口,和与所述第二数据源接口对应的指定音频处理接口,所述预设事件为预先设置的用于确定触发时刻的事件,所述触发时刻为触发所述预设音频处理线程从所述预设缓存空间中读取所述目标音频数据的时刻;
将所述指定音频处理接口被调用的时刻,作为所述音频读取时刻。
9.根据权利要求7所述的方法,其特征在于,所述通过预设音频处理线程在每个所述音频读取时刻从所述预设缓存空间读取所述目标音频数据后,所述方法还包括:
将每个声源对应的所述目标音频数据按照预设归一化算法进行数据融合,得到第一音频数据;
对所述第一音频数据进行格式转换,得到第二音频数据;
所述根据所述目标视频数据和所述音频数据生成目标视频包括:
根据所述目标视频数据和所述第二音频数据生成所述目标视频。
10.根据权利要求9所述的方法,其特征在于,在所述将每个声源对应的所述目标音频数据按照预设归一化算法进行数据融合之前,所述方法还包括:
针对每个所述声源发出的所述目标音频数据,将所述声源发出的所述目标音频数据拆分成预设数量的多份子音频数据;
所述将每个声源对应的所述目标音频数据按照预设归一化算法进行数据融合包括:
针对每个声源,获取所述声源对应的目标子音频数据,所述目标子音频数据为所述声源对应的多份所述子音频数据中的其中一份数据;
将每个声源对应的所述目标子音频数据按照所述预设归一化算法进行数据融合。
11.根据权利要求9所述的方法,其特征在于,所述根据所述目标视频数据和所述第二音频数据生成所述目标视频包括:
获取所述目标视频数据对应的录制开始时间;
从所述第二音频数据中获取所述录制开始时间之后的音频数据作为指定音频数据;
对所述目标视频数据和所述指定音频数据进行音视频混流后,生成所述目标视频。
12.一种视频生成装置,其特征在于,所述装置包括:
获取模块,用于获取终端当前播放的多媒体数据,所述多媒体数据包括音频数据以及存储在目标文件中的视频数据;
存储模块,用于在多个预设时刻分别存储所述目标文件中的视频数据,得到多个视频文件;
转码模块,用于针对多个所述视频文件中的每个所述视频文件,对所述视频文件进行视频转码,得到目标视频数据;
视频生成模块,用于根据所述目标视频数据和所述音频数据生成目标视频。
13.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现权利要求1-11中任一项所述方法的步骤。
14.一种电子设备,其特征在于,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现权利要求1-11中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211678764.7A CN115988240A (zh) | 2022-12-26 | 2022-12-26 | 视频生成方法、装置、可读介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211678764.7A CN115988240A (zh) | 2022-12-26 | 2022-12-26 | 视频生成方法、装置、可读介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115988240A true CN115988240A (zh) | 2023-04-18 |
Family
ID=85966200
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211678764.7A Pending CN115988240A (zh) | 2022-12-26 | 2022-12-26 | 视频生成方法、装置、可读介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115988240A (zh) |
-
2022
- 2022-12-26 CN CN202211678764.7A patent/CN115988240A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021196903A1 (zh) | 视频处理方法、装置、可读介质及电子设备 | |
EP2940940B1 (en) | Methods for sending and receiving video short message, apparatus and handheld electronic device thereof | |
US11997358B2 (en) | Video processing method and apparatus, device and medium | |
CN111930973B (zh) | 多媒体数据的播放方法、装置、电子设备及存储介质 | |
CN112261416A (zh) | 基于云的视频处理方法、装置、存储介质与电子设备 | |
US20230224545A1 (en) | Video playback method and apparatus, storage medium, and electronic device | |
CN105704504A (zh) | 视频直播中***推送信息的方法和装置 | |
CN110418183B (zh) | 音视频同步方法、装置、电子设备及可读介质 | |
CN111163330A (zh) | 直播视频的渲染方法、装置、***、设备及存储介质 | |
CN112165652B (zh) | 视频处理方法、装置、设备及计算机可读存储介质 | |
CN111246245B (zh) | 视频聚合页面的推送方法、装置,服务器及终端设备 | |
US20240127856A1 (en) | Audio processing method and apparatus, and electronic device and storage medium | |
CN111818383B (zh) | 视频数据的生成方法、***、装置、电子设备及存储介质 | |
CN114567812A (zh) | 音频播放方法、装置、***、电子设备及存储介质 | |
CN114201705A (zh) | 视频处理方法、装置、电子设备及存储介质 | |
US20240195937A1 (en) | Method, device, storage medium and program product for video recording | |
CN111435600B (zh) | 用于处理音频的方法和装置 | |
CN113144620B (zh) | 帧同步游戏的检测方法、装置、平台、可读介质和设备 | |
CN114125551B (zh) | 视频生成方法、装置、电子设备及计算机可读介质 | |
CN110149528B (zh) | 一种过程录制方法、装置、***、电子设备、及存储介质 | |
CN111669625A (zh) | 一种拍摄文件的处理方法、装置、设备及存储介质 | |
CN115988240A (zh) | 视频生成方法、装置、可读介质及电子设备 | |
US20240040191A1 (en) | Livestreaming audio processing method and device | |
CN113885741A (zh) | 一种多媒体处理方法、装置、设备及介质 | |
CN109640023B (zh) | 一种视频录制方法、装置、服务器及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |