CN113301295A - 多画面视频数据处理方法、装置、计算机设备和存储介质 - Google Patents
多画面视频数据处理方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN113301295A CN113301295A CN202110379476.0A CN202110379476A CN113301295A CN 113301295 A CN113301295 A CN 113301295A CN 202110379476 A CN202110379476 A CN 202110379476A CN 113301295 A CN113301295 A CN 113301295A
- Authority
- CN
- China
- Prior art keywords
- playing
- video data
- audio
- parameter information
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本发明提供一种多画面视频数据处理方法、装置、计算机设备和存储介质,该方法包括接收播放端的播放参数信息;获取第一视频数据;根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;对多个所述第二视频数据进行拼接,得到第三视频数据;将所述第三视频数据发送至所述播放端。根据播放端的播放参数信息对视频数据进行处理,对视频进行画面的拼接,可大大降低分发带宽的要求,降低分发协议的复杂性,可充分满足分权分域、多用户场景的需求,并且能够使得播放端的配置要求更低,使得播放端仅需满足一路播放能力即可实现多画面监测。
Description
技术领域
本发明涉及视频处理技术领域,特别涉及一种多画面视频数据处理方法、装置、计算机设备和存储介质。
背景技术
目前,监看端在多画面呈现时,需要在监测终端同时实现:对需要监看的多路视频流进行拉取;对拉取的多路视频流进行解码;将解码后的多路画面进行拼接并按输出屏幕大小进行缩放后实时呈现。
受限于监测终端的网络带宽、监测终端的数据处理及实时解码性能,对于各视频采集设备,由于其分辨率、编码格式、码率不一,需要不断的更新监测终端或升级监测环境,以能正常呈现各采集到的视频流画面。
目前进行多画面呈现时,可采用流媒体实时分发技术或自适应实时转码技术实现。
其中,流媒体实时分发技术中,将采集端上传的实时视频流,通过云端CDN(Content Delivery Network,即内容分发网络),实现按照封装、传输协议的转换,将视频流按照监看端支持的传输要求进行分发。该方法的问题是:1)仅支持封装和协议转换,对于监看端不支持的视频流编码标准,无法进行转换分发;2)无法更改原始视频的编码参数,无法做到按终端显示大小、区域的要求进行自动适配,监看端可能不支持某些视频的播放;3)监看端在进行多画面监看时,必须将每个画面的视频流进行单独的拉取和解码,监看的画面越多,对终端的性能要求越高。
而采用自适应实时转码技术,则对于采集到的视频流,可以根据监看端需求,将输出视频流进行编码格式、参数、码率的转换后输出,以满足监看端带宽抖动是正常播放的要求。该方法存在的问题是:1)监看端在进行多画面监看时,仍须将各路视频流进行单独拉取;2)监看端在进行多画面监看时,仍须将各路视频流进行单独解码、画面合并和呈现,监看画面越多,对监看端并发解码性能要求越高;3)监看端需要针对每路视频流进行单独的自适应码率管理,在多画面监看时,需要实现复杂的自适应协商逻辑。
由此可见,上述的流媒体实时分发技术和自适应实时转码技术均存在缺陷。
发明内容
基于此,有必要针对上述技术问题,提供一种多画面视频数据处理方法、装置、计算机设备和存储介质。
一种多画面视频数据处理方法,包括:
接收播放端的播放参数信息;
获取第一视频数据;
根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;
对多个所述第二视频数据进行拼接,得到第三视频数据;
将所述第三视频数据发送至所述播放端。
在其中一个实施例中,所述根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据的步骤之前还包括:
根据所述播放参数信息,对所述第一视频数据进行解码,获得解码后的第一画面图像数据和第一音频数据;
所述根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据的步骤包括:
根据所述播放参数信息,对所述第一画面图像数据进行处理,得到与所述播放参数信息匹配的第二画面图像数据;
根据所述播放参数信息,对所述第一音频数据进行处理,得到与所述播放参数信息匹配的第二音频数据。
在其中一个实施例中,所述对多个所述第二视频数据进行拼接,得到第三视频数据的步骤包括:
对多个所述第二画面图像数据进行拼接,得到多画面图像数据;
对多个所述第二音频数据进行拼接,得到音频合并数据;
对所述多画面图像数据以及所述音频合并数据进行编码,得到编码后的所述第三视频数据。
在其中一个实施例中,根据所述播放参数信息,对所述第一画面图像数据进行处理,得到与所述播放参数信息匹配的第二画面图像数据的步骤包括:
根据所述播放参数信息中的播放分辨率,对所述第一画面图像数据进行处理,得到与所述播放分辨率匹配的第二画面图像数据。
在其中一个实施例中,所述根据所述播放参数信息,对所述第一音频数据进行处理,得到与所述播放参数信息匹配的第二音频数据的步骤包括:
根据所述播放参数信息的音频配置信息,对所述第一音频数据进行处理,得到与所述音频配置信息匹配的第二音频数据。
在其中一个实施例中,所述对多个所述第二画面图像数据进行拼接,得到多画面图像数据的步骤包括:
根据所述播放参数信息中的画面序列信息,对多个所述第二画面图像数据进行拼接,得到多画面图像数据;
所述对多个所述第二音频数据进行拼接,得到音频合并数据的步骤包括:
根据所述播放参数信息中的音轨信息,对多个所述第二音频数据进行拼接,得到音频合并数据。
在其中一个实施例中,所述播放参数信息包括播放分辨率、画面数量、画面序列信息、音频配置信息、音轨信息、视频格式、音频格式和视频源信息的一种或多种。
一种多画面视频数据处理装置,包括:
播放参数接收模块,用于接收播放端的播放参数信息;
第一视频数据获取模块,用于获取第一视频数据;
第二视频数据处理获得模块,用于根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;
第三视频数据拼接获得模块,用于对多个所述第二视频数据进行拼接,得到第三视频数据;
视频数据发送模块,用于将所述第三视频数据发送至所述播放端。
一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现以下步骤:
接收播放端的播放参数信息;
获取第一视频数据;
根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;
对多个所述第二视频数据进行拼接,得到第三视频数据;
将所述第三视频数据发送至所述播放端。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
接收播放端的播放参数信息;
获取第一视频数据;
根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;
对多个所述第二视频数据进行拼接,得到第三视频数据;
将所述第三视频数据发送至所述播放端。
上述多画面视频数据处理方法、装置、计算机设备和存储介质,根据播放端的播放参数信息对视频数据进行处理,对视频进行画面的拼接,可大大降低分发带宽的要求,降低分发协议的复杂性,可充分满足分权分域、多用户场景的需求,并且能够使得播放端的配置要求更低,使得播放端仅需满足一路播放能力即可实现多画面监测。
附图说明
图1为一个实施例中多画面视频数据处理方法的应用场景示意图;
图2为一个实施例中多画面视频数据处理方法的流程示意图;
图3为一个实施例中多画面视频数据处理装置的结构框图;
图4为一个实施例中计算机设备的内部结构图;
图5为一个实施例中多画面视频数据处理装置的功能模块图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
实施例一
本申请提供的多画面视频数据处理方法,可以应用于如图1所示的应用环境中。其中,终端102通过网络与服务器104通过网络进行通信。其中,终端102可以但不限于是各种个人计算机、服务器、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备,本实施例中,终端为播放端。服务器104可以用独立的服务器或者是多个服务器组成的服务器集群来实现。服务器104接收播放端的播放参数信息;获取第一视频数据;据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;对多个所述第二视频数据进行拼接,得到第三视频数据;将所述第三视频数据发送至所述播放端。
实施例二
本实施例中,如图2所示,提供了一种多画面视频数据处理方法,其包括:
步骤210,接收播放端的播放参数信息。
本实施例中,该播放端为播放视频的终端。该播放参数信息为播放端上播放的需求信息,即播放端上的播放配置信息,用于表示播放端上播放视频的各种参数。一个实施例中,所述播放参数信息包括播放分辨率、画面数量、画面序列信息、音频配置信息、音轨信息、视频格式、音频格式和视频源信息。其中,播放分辨率为单个播放画面的分辨率,画面数量为播放端的显示屏上同时进行多画面显示时的画面的数量,画面序列信息为播放端上各画面播放不同视频的顺序或者序列,音频配置信息记录了播放端上播放音频的声道,音轨信息记录了播放端上播放音频的音轨方式,比如,单音轨或者多音轨。视频格式为播放端所支持的视频播放格式,音频格式为播放端所支持的音频播放格式,视频源信息为视频流媒体的来源的信息,记录了视频的来源的识别标识,比如,视频源为监测点视频,通过该视频源信息能够确定视频的来源。
本实施例中,服务器作为视频数据的集中流媒体平台服务器,用于对视频数据进行处理和拼接,并且发送至播放终端,因此,服务器接收播放端的播放参数信息,根据该播放参数进行视频数据的处理和拼接。
步骤220,获取第一视频数据。
具体地,该第一视频数据为视频源的视频数据,为原始的视频数据。一个实施例中,根据播放参数信息中的视频源信息,从视频源获取第一视频数据。本实施例中,从一个视频源获取一第一视频数据,多个视频源获取对应的多个第一视频数据,该第一视频数据的数量和来源根据该视频源信息确定。
步骤230,根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据。
本步骤中,根据播放参数信息对第一视频数据进行处理,使得获得的第二视频数据与能够适配终端上的播放,比如,得到适配终端的播放格式的第二视频数据,比如,得到适配终端的分辨率的第二视频数据。本实施例中,每一第一视频数据处理后,得到一第二视频数据。
步骤240,对多个所述第二视频数据进行拼接,得到第三视频数据。
本实施例中,由于播放端的播放参数信息中记录的视频源信息中对应的视频源可能有多个,而多个视频源的视频将在播放端上进行多画面的同时播放,因此,需要对第二视频数据进行拼接,拼接为一路的多画面的视频数据,即第三视频数据。
步骤250,将所述第三视频数据发送至所述播放端。
本步骤中,由于原有的多个第二视频数据被拼接为一路的多画面的第三视频数据,使得服务器向播放端发送的第三视频数据能够以单路的方式发送,并且使得播放端无需对多个视频源的视频数据进行解码和编码,有效降低了播放端上的硬件配置的要求,并且降低了对带宽的需求。
上述实施例中,根据播放端的播放参数信息对视频数据进行处理,对视频进行画面的拼接,使得拼接后的多画面视频数据能够以一路视频数据的方式发送至播放端,可大大降低分发带宽的要求,降低分发协议的复杂性,可充分满足分权分域、多用户场景的需求,并且能够使得播放端的配置要求更低,使得播放端仅需满足一路播放能力即可实现多画面监测。
在其中一个实施例中,所述根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据的步骤之前还包括:根据所述播放参数信息,对所述第一视频数据进行解码,获得解码后的第一画面图像数据和第一音频数据;所述根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据的步骤包括:根据所述播放参数信息,对所述第一画面图像数据进行处理,得到与所述播放参数信息匹配的第二画面图像数据;根据所述播放参数信息,对所述第一音频数据进行处理,得到与所述播放参数信息匹配的第二音频数据。
本实施例中,视频数据包括画面图像数据和音频数据,该画面图像数据用于显示视频画面,音频数据用于播放音频。第一视频数据解码后得到第一画面图像数据和第一音频数据,每一第一视频数据解码后得到一第一画面图像数据和一第一音频数据。通过对第一视频数据解码得到画面图像数据和第一音频数据,使得能够分别对画面图像数据和音频数据分开进行处理,形成与播放端的视频播放需求匹配的视频数据,即第二画面图像数据,并形成于播放端的音频播放需求匹配的音频数据,即第二音频数据。
在其中一个实施例中,所述对多个所述第二视频数据进行拼接,得到第三视频数据的步骤包括:对多个所述第二画面图像数据进行拼接,得到多画面图像数据;对多个所述第二音频数据进行拼接,得到音频合并数据;对所述多画面图像数据以及所述音频合并数据进行编码,得到编码后的所述第三视频数据。
本实施例中,根据所述播放参数信息中的画面序列信息,对多个所述第二画面图像数据进行拼接,得到多画面图像数据。具体地,画面序列信息记录了播放端上多画面播放的各画面的排布顺序,即多画面播放的宫格划分顺序,本实施例中,服务器基于该画面序列信息记录的各画面的排布顺序,将多个第二画面图像数据进行拼接,得到多画面图像数据,该多画面图像数据为多画面显示对应的视频数据,可以在一个显示屏上同时显示多个画面。
此外,本实施例中,还根据所述播放参数信息中的音轨信息,对多个所述第二音频数据进行拼接,得到音频合并数据。该音轨信息记录了播放端上所需播放的音轨,本实施例中,对第二音频数据的拼接,可以是从多个音轨中选择一个音轨输出,也可以是将多个音轨拼接成一个音轨输出,从而将多路第二音频数据合并,得到音频合并数据,该音频合并数据为单路的音频数据。
随后,本步骤中,将拼接得到的多画面图像数据和音频数据进行编码,得到第三视频数据。本实施例中,根据播放参数信息记录的视频格式对多画面图像数据进行编码,根据播放参数信息记录的音频格式对音频数据进行编码,得到与播放端的视频格式和音频格式相适配的第三视频数据。从而使得播放端无需对视频数据进行转码,有效降低了播放端的配置需求。
在其中一个实施例中,根据所述播放参数信息,对所述第一画面图像数据进行处理,得到与所述播放参数信息匹配的第二画面图像数据的步骤包括:根据所述播放参数信息中的播放分辨率,对所述第一画面图像数据进行处理,得到与所述播放分辨率匹配的第二画面图像数据。
本实施例中,根据所述播放参数信息中的播放分辨率,对所述第一画面图像数据进行画面的缩小或者放大处理,以使得获得的第二画面图像数据的画面适配播放端上多画面显示中的其中一个画面的分辨率。此外,播放参数信息中还包括了画面序列信息,这样,根据该画面序列信息,还能够确定每一画面的所在的位置以及分辨率,这样,对不同的第一画面图像数据进行处理,还能够得到多个不同分辨率的第一画面图像数据,使得在多画面显示时,不同的宫格内的画面可以具有不同的分辨率。
在其中一个实施例中,所述根据所述播放参数信息,对所述第一音频数据进行处理,得到与所述播放参数信息匹配的第二音频数据的步骤包括:根据所述播放参数信息的音频配置信息,对所述第一音频数据进行处理,得到与所述音频配置信息匹配的第二音频数据。
具体地,该音频配置信息记录了音频的采样率、音量调节、噪音过滤等信息,本实施例中,根据音频配置信息对第一音频数据进行处理,得到与所述音频配置信息匹配的第二音频数据。
在其中一个实施例中,所述播放参数信息包括播放分辨率、画面数量、画面序列信息、音频配置信息、音轨信息、视频格式、音频格式和视频源信息的一种或多种。
本实施例中,播放参数信息也可以称为播放端的配置信息,该为播放端的配置信息包括播放端的各播放画面的分辨率、所支持解码的视频格式、所支持解码的音频格式、播放环境信息以及接入下行带宽信息。
一个实施例中,所述接收播放端的播放参数信息的过程为:
播放端采集播放端自身的播放配置信息,包括分辨率、所支持解码的视频格式、所支持解码的音频格式、播放环境信息以及接入下行带宽信息;播放端与集中流媒体平台服务器建立通信,向所述服务器发送播放端的分辨率、所支持解码的视频格式、所支持解码的音频格式、播放环境信息以及接入下行带宽信息;集中流媒体平台服务器根据播放端的分辨率、所支持解码的视频格式、所支持解码的音频格式、播放环境信息以及接入下行带宽信息等播放参数信息,根据转码效率和性能选择并将选择的结果返回给播放端;播放端向集中流媒体平台服务器发送多画面配置请求,该多画面配置请求携带了播放端上需要播放的画面宫格结构以及每个宫格内播放的监测点信息;流媒体平台服务器根据播放参数信息查找对应的监测点视频,获取第一视频数据,随后依次进行解码、处理、拼接和编码,实现对视频的处理和拼接,以适配播放端。
实施例三
相较于传统的音视频分发平台仅包含采集、转码、分发三个功能,本实施例中,重新构建转码子***,针对多画面监听监看进行平台侧的能力适配,提供平台侧解码复用、高速流水线处理及多画面动态编排的接口和能力。重新构建的转码子***结构如图5所示。
构建的转码子***流程包含6个部分,包括解码池Dp、画面处理池Vp、音频处理池Ap、画面拼接池Mv、音频拼接池Ma、编码池Ep。其中,解码池也可以称为解码模块,画面处理池也可以称为画面处理模块,音频处理池也可以称为音频处理模块,画面拼接池也可以称为画面拼接模块,音频拼接池也可以称为音频拼接模块,编码池也可以称为编码模块。
解码池Dp是由若干个解码单元组成的,一个解码单元可实现一路媒体流的解码,并输出解码后的原始图像序列和音频波形内容。解码池基于播放请求的去重后的视频源列表,从采集汇聚服务点拉取这些媒体流量进行解码,生成音频波形Pa和画面序列Pv。
画面处理池Vp的主要功能是按照客户端播放协商的结果对某路视频流的画面进行缩放处理,得到适合客户端该内容播放的分辨率的画面序列,并将该序列输出至拼接池Mv种对应的处理节点。
音频处理池Ap为可选组件,为每一个被选中的输入采集媒体流中的音频数据分配一个处理节点,实现对音频的多声道合并,将双声道、环绕声转换为单声道音频。Ap处理后的音频数据输出至音频拼接池Ma中对应的处理节点。
画面拼接池Mv为每一个播放客户端分配一个节点,实现将来自于多个采集点的画面序列按客户端需要的顺序拼接为一路合并为多画面图像的序列,画面拼接节点的输出为编码池Ep。
音频拼接池为每一个播放客户端分配一个节点,实现对多路音频数据的合并操作,合并支持多音轨方式合并或选择单路音频通过的方式,输出的音频内容将作为编码池Ep的输入。
编码池Ep为每一个播放客户端分配一个节点,按照客户端兼容的方式对输入的音视频流编码,并将编码生成的媒体数据注入到分发子***中。
播放端和平台可通过建立如下统一的流程进行播放:1)播放端采集自身的硬件信息,包括当前的输出分辨率、支持解码的视频格式、支持解码的音频格式,同时采集播放环境信息,包括接入下行带宽信息;2)播放器与集中流媒体平台建立信令通道,设置自身支持的传输格式、视频/音频编码格式、接入带宽信息;
3)流媒体平台根据播放器的信息,根据转码效率和性能选择并将选择的结果返回给播放端;4)播放端传输多画面配置请求,将需要播放的画面宫格结构以及每个宫格内播放的监测点信息发送到流媒体平台;5)流媒体平台根据配置信息查找对应的监测点视频,分配对应的Dp、Vp、Ap、Mv、Ma几Ep单元,并在完成后向播放端返回就绪信息;6)播放端在接收到就绪信息后,即可从对应的分发地址拉取到拼接后的画面进行播放呈现。
以下是各功能模块的详细作用:
1、解码池Dp
解码池包含若干个解码单元,可通过专用芯片或GPU加速硬件大规模实现和部署,解码池在分配解码单元是可通过被解码对象控制全局唯一性,确保不会对采集到的视频流进行重复解码。解码后的视频帧和音频数据,直接输出到对应的画面和音频处理单元。
2、画面处理池Vp
画面处理池包含若干画面处理单元,可通过DSP或GPU加速硬件实现加速处理和大规模部署。画面处理单元接收来自解码单元的输出视频帧,并按照每一个需要显示该画面的宫格大小进行缩放预处理,预处理后的视频帧,传输给对应的画面拼接单元。
3、音频处理池Ap
音频处理池包含若干音频处理单元,可通过DSP或硬件加速手段实现加速处理和大规模部署。音频处理单元接收来自解码单元输出的音频数据,并按照需求或配置进行音频预处理,包括采样率、音量调节、噪音过滤等。本部分的功能模块可按照实际部署需求进行可选开发或配置。
4、画面拼接池Mv
画面拼接池包含若干画面拼接单元,可通过DSP(Digital Signal Processing,数字信号处理)或GPU(Graphics Processing Unit,图形处理器)加速硬件实现大规模部署。画面拼接单元可将来自于多个画面处理单元的输出,按照客户端的宫格划分顺序,拼接为多画面图像,并将拼接后的图像帧实时传送到编码单元输入。
5、音频拼接池Ma
音频拼接池包含若干音频拼接单元。音频拼接单元对多路输入的音频数据进行处理,可支持选路输出、拼接多音轨输出两种方式,合并多路音频数据,并将合并后的数据流传送到编码单元输入。
6、编码池Ep
编码池包含若干编码单元。编码单元可通过专用芯片或GPU加速硬件实现大规模部署。编码单元将来自于音频/视频拼接单元的输出合并为一路媒体流,按照播放客户端的需求,输出指定格式的多画面音视频流量,并通过分发平台,将合并后的媒体流传输到对应的多画面客户端上进行播放呈现。
本实施例,具有以下优点:
1)在平台端实现画面拼接,并使用单路视频流进行分发,可大大降低分发带宽、分发协议的复杂性,可充分满足分权分域、多用户场景的需求。
2)兼容性好,播放端配置要求低。拼接后的画面可按照客户端需求进行编码,可满足近乎所有的监测播放环境,且播放端仅需满足一路播放能力即可实现多画面监测。
3)网络适应性好。播放端可根据实时下行带宽随时与平台协商编码码率,实现自适应码率分发。
4)支持动态灵活配置。转码子***的模块化实现方式,可将相同请求的模块单元充分复用,在极限条件下可大大提高转码子***的处理性能。
应该理解的是,虽然图2的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
实施例四
本实施例中,如图3所示,提供一种多画面视频数据处理装置,包括:
播放参数接收模块310,用于接收播放端的播放参数信息;
第一视频数据获取模块320,用于获取第一视频数据;
第二视频数据处理获得模块330,用于根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;
第三视频数据拼接获得模块340,用于对多个所述第二视频数据进行拼接,得到第三视频数据;
视频数据发送模块350,用于将所述第三视频数据发送至所述播放端。
在一个实施例中,多画面视频数据处理装置还包括:
解码模块,用于根据所述播放参数信息,对所述第一视频数据进行解码,获得解码后的第一画面图像数据和第一音频数据;
所述第二视频数据处理获得模块包括:
第二画面图像数据获得单元,用于根据所述播放参数信息,对所述第一画面图像数据进行处理,得到与所述播放参数信息匹配的第二画面图像数据;
第二音频数据获得单元,用于根据所述播放参数信息,对所述第一音频数据进行处理,得到与所述播放参数信息匹配的第二音频数据。
在一个实施例中,所述第三视频数据拼接获得模块包括:
多画面图像数据拼接单元,用于对多个所述第二画面图像数据进行拼接,得到多画面图像数据;
音频合并数据拼接单元,用于对多个所述第二音频数据进行拼接,得到音频合并数据;
编码单元,用于对所述多画面图像数据以及所述音频合并数据进行编码,得到编码后的所述第三视频数据。
在一个实施例中,第二画面图像数据获得单元还用于根据所述播放参数信息中的播放分辨率,对所述第一画面图像数据进行处理,得到与所述播放分辨率匹配的第二画面图像数据。
在一个实施例中,第二音频数据获得单元还用于根据所述播放参数信息的音频配置信息,对所述第一音频数据进行处理,得到与所述音频配置信息匹配的第二音频数据。
在一个实施例中,所述多画面图像数据拼接单元还用于根据所述播放参数信息中的画面序列信息,对多个所述第二画面图像数据进行拼接,得到多画面图像数据;
所述音频合并数据拼接单元还用于根据所述播放参数信息中的音轨信息,对多个所述第二音频数据进行拼接,得到音频合并数据。
在一个实施例中,所述播放参数信息包括播放分辨率、画面数量、画面序列信息、音频配置信息、音轨信息、视频格式、音频格式和视频源信息的一种或多种。
关于多画面视频数据处理装置的具体限定可以参见上文中对于多画面视频数据处理方法的限定,在此不再赘述。上述多画面视频数据处理装置中的各个单元可全部或部分通过软件、硬件及其组合来实现。上述各单元可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个单元对应的操作。
实施例五
本实施例中,提供了计算机设备。其内部结构图可以如图4所示。该计算机设备包括通过***总线连接的处理器、存储器、网络接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作***和计算机程序,且该非易失性存储介质部署有数据库,该数据库用于存储视频数据。该内存储器为非易失性存储介质中的操作***和计算机程序的运行提供环境。该计算机设备的网络接口用于与部署了应用软件的其他计算机设备通信。该计算机程序被处理器执行时以实现一种多画面视频数据处理方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图4中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,该存储器存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
接收播放端的播放参数信息;
获取第一视频数据;
根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;
对多个所述第二视频数据进行拼接,得到第三视频数据;
将所述第三视频数据发送至所述播放端。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
根据所述播放参数信息,对所述第一视频数据进行解码,获得解码后的第一画面图像数据和第一音频数据;
根据所述播放参数信息,对所述第一画面图像数据进行处理,得到与所述播放参数信息匹配的第二画面图像数据;
根据所述播放参数信息,对所述第一音频数据进行处理,得到与所述播放参数信息匹配的第二音频数据。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:对多个所述第二画面图像数据进行拼接,得到多画面图像数据;
对多个所述第二音频数据进行拼接,得到音频合并数据;
对所述多画面图像数据以及所述音频合并数据进行编码,得到编码后的所述第三视频数据。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
根据所述播放参数信息中的播放分辨率,对所述第一画面图像数据进行处理,得到与所述播放分辨率匹配的第二画面图像数据。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
根据所述播放参数信息的音频配置信息,对所述第一音频数据进行处理,得到与所述音频配置信息匹配的第二音频数据。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
根据所述播放参数信息中的画面序列信息,对多个所述第二画面图像数据进行拼接,得到多画面图像数据;
根据所述播放参数信息中的音轨信息,对多个所述第二音频数据进行拼接,得到音频合并数据。
在一个实施例中,所述播放参数信息包括播放分辨率、画面数量、画面序列信息、音频配置信息、音轨信息、视频格式、音频格式和视频源信息的一种或多种。
实施例六
本实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
接收播放端的播放参数信息;
获取第一视频数据;
根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;
对多个所述第二视频数据进行拼接,得到第三视频数据;
将所述第三视频数据发送至所述播放端。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
根据所述播放参数信息,对所述第一视频数据进行解码,获得解码后的第一画面图像数据和第一音频数据;
根据所述播放参数信息,对所述第一画面图像数据进行处理,得到与所述播放参数信息匹配的第二画面图像数据;
根据所述播放参数信息,对所述第一音频数据进行处理,得到与所述播放参数信息匹配的第二音频数据。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
对多个所述第二画面图像数据进行拼接,得到多画面图像数据;
对多个所述第二音频数据进行拼接,得到音频合并数据;
对所述多画面图像数据以及所述音频合并数据进行编码,得到编码后的所述第三视频数据。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
根据所述播放参数信息中的播放分辨率,对所述第一画面图像数据进行处理,得到与所述播放分辨率匹配的第二画面图像数据。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
根据所述播放参数信息的音频配置信息,对所述第一音频数据进行处理,得到与所述音频配置信息匹配的第二音频数据。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
根据所述播放参数信息中的画面序列信息,对多个所述第二画面图像数据进行拼接,得到多画面图像数据;
根据所述播放参数信息中的音轨信息,对多个所述第二音频数据进行拼接,得到音频合并数据。
在一个实施例中,所述播放参数信息包括播放分辨率、画面数量、画面序列信息、音频配置信息、音轨信息、视频格式、音频格式和视频源信息的一种或多种。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种多画面视频数据处理方法,其特征在于,包括:
接收播放端的播放参数信息;
获取第一视频数据;
根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;
对多个所述第二视频数据进行拼接,得到第三视频数据;
将所述第三视频数据发送至所述播放端。
2.根据权利要求1所述的方法,其特征在于,所述根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据的步骤之前还包括:
根据所述播放参数信息,对所述第一视频数据进行解码,获得解码后的第一画面图像数据和第一音频数据;
所述根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据的步骤包括:
根据所述播放参数信息,对所述第一画面图像数据进行处理,得到与所述播放参数信息匹配的第二画面图像数据;
根据所述播放参数信息,对所述第一音频数据进行处理,得到与所述播放参数信息匹配的第二音频数据。
3.根据权利要求2所述的方法,其特征在于,所述对多个所述第二视频数据进行拼接,得到第三视频数据的步骤包括:
对多个所述第二画面图像数据进行拼接,得到多画面图像数据;
对多个所述第二音频数据进行拼接,得到音频合并数据;
对所述多画面图像数据以及所述音频合并数据进行编码,得到编码后的所述第三视频数据。
4.根据权利要求2所述的方法,其特征在于,根据所述播放参数信息,对所述第一画面图像数据进行处理,得到与所述播放参数信息匹配的第二画面图像数据的步骤包括:
根据所述播放参数信息中的播放分辨率,对所述第一画面图像数据进行处理,得到与所述播放分辨率匹配的第二画面图像数据。
5.根据权利要求2所述的方法,其特征在于,所述根据所述播放参数信息,对所述第一音频数据进行处理,得到与所述播放参数信息匹配的第二音频数据的步骤包括:
根据所述播放参数信息的音频配置信息,对所述第一音频数据进行处理,得到与所述音频配置信息匹配的第二音频数据。
6.根据权利要求1所述的方法,其特征在于,所述对多个所述第二画面图像数据进行拼接,得到多画面图像数据的步骤包括:
根据所述播放参数信息中的画面序列信息,对多个所述第二画面图像数据进行拼接,得到多画面图像数据;
所述对多个所述第二音频数据进行拼接,得到音频合并数据的步骤包括:
根据所述播放参数信息中的音轨信息,对多个所述第二音频数据进行拼接,得到音频合并数据。
7.根据权利要求1所述的方法,其特征在于,所述播放参数信息包括播放分辨率、画面数量、画面序列信息、音频配置信息、音轨信息、视频格式、音频格式和视频源信息的一种或多种。
8.一种多画面视频数据处理装置,其特征在于,包括:
播放参数接收模块,用于接收播放端的播放参数信息;
第一视频数据获取模块,用于获取第一视频数据;
第二视频数据处理获得模块,用于根据所述播放参数信息,对所述第一视频数据进行处理,得到与所述播放端的所述播放参数信息匹配的第二视频数据;
第三视频数据拼接获得模块,用于对多个所述第二视频数据进行拼接,得到第三视频数据;
视频数据发送模块,用于将所述第三视频数据发送至所述播放端。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110379476.0A CN113301295A (zh) | 2021-04-08 | 2021-04-08 | 多画面视频数据处理方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110379476.0A CN113301295A (zh) | 2021-04-08 | 2021-04-08 | 多画面视频数据处理方法、装置、计算机设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113301295A true CN113301295A (zh) | 2021-08-24 |
Family
ID=77319528
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110379476.0A Pending CN113301295A (zh) | 2021-04-08 | 2021-04-08 | 多画面视频数据处理方法、装置、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113301295A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114286194A (zh) * | 2021-12-08 | 2022-04-05 | 北京金山云网络技术有限公司 | 即时通信视频的处理方法、装置、电子设备及存储介质 |
CN114339271A (zh) * | 2021-12-06 | 2022-04-12 | 杭州当虹科技股份有限公司 | 基于多机位的慢直播架构及方法 |
CN115334355A (zh) * | 2022-10-17 | 2022-11-11 | 广州市保伦电子有限公司 | 一种web播放器的多画面模式切换方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106131666A (zh) * | 2016-07-18 | 2016-11-16 | 杭州当虹科技有限公司 | 一种基于多音轨视频合成技术的机顶盒视频导航*** |
CN108134918A (zh) * | 2018-01-30 | 2018-06-08 | 苏州科达科技股份有限公司 | 视频处理方法、装置及多点视频处理单元、会议设备 |
CN108762707A (zh) * | 2018-05-29 | 2018-11-06 | 西安万像电子科技有限公司 | 多媒体信息采集的自适应方法、装置和*** |
CN110691260A (zh) * | 2019-10-21 | 2020-01-14 | 北京东方广视科技股份有限公司 | Iptv多分屏编码播放控制方法及装置 |
CN112073648A (zh) * | 2020-08-12 | 2020-12-11 | 深圳市捷视飞通科技股份有限公司 | 视频多画面合成方法、装置、计算机设备和存储介质 |
-
2021
- 2021-04-08 CN CN202110379476.0A patent/CN113301295A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106131666A (zh) * | 2016-07-18 | 2016-11-16 | 杭州当虹科技有限公司 | 一种基于多音轨视频合成技术的机顶盒视频导航*** |
CN108134918A (zh) * | 2018-01-30 | 2018-06-08 | 苏州科达科技股份有限公司 | 视频处理方法、装置及多点视频处理单元、会议设备 |
CN108762707A (zh) * | 2018-05-29 | 2018-11-06 | 西安万像电子科技有限公司 | 多媒体信息采集的自适应方法、装置和*** |
CN110691260A (zh) * | 2019-10-21 | 2020-01-14 | 北京东方广视科技股份有限公司 | Iptv多分屏编码播放控制方法及装置 |
CN112073648A (zh) * | 2020-08-12 | 2020-12-11 | 深圳市捷视飞通科技股份有限公司 | 视频多画面合成方法、装置、计算机设备和存储介质 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114339271A (zh) * | 2021-12-06 | 2022-04-12 | 杭州当虹科技股份有限公司 | 基于多机位的慢直播架构及方法 |
CN114286194A (zh) * | 2021-12-08 | 2022-04-05 | 北京金山云网络技术有限公司 | 即时通信视频的处理方法、装置、电子设备及存储介质 |
CN114286194B (zh) * | 2021-12-08 | 2024-05-03 | 北京金山云网络技术有限公司 | 即时通信视频的处理方法、装置、电子设备及存储介质 |
CN115334355A (zh) * | 2022-10-17 | 2022-11-11 | 广州市保伦电子有限公司 | 一种web播放器的多画面模式切换方法及装置 |
CN115334355B (zh) * | 2022-10-17 | 2023-02-24 | 广州市保伦电子有限公司 | 一种web播放器的多画面模式切换方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113301295A (zh) | 多画面视频数据处理方法、装置、计算机设备和存储介质 | |
US10856029B2 (en) | Providing low and high quality streams | |
US10187668B2 (en) | Method, system and server for live streaming audio-video file | |
WO2019205870A1 (zh) | 视频流处理方法、装置、计算机设备及存储介质 | |
US7865833B2 (en) | Data processing apparatus, data processing server, data processing system, method of controlling data processing apparatus, method of controlling data processing server, computer program, and computer readable storage medium | |
KR20090126176A (ko) | 정보 처리 장치 및 방법과, 프로그램 | |
CN103327361B (zh) | 实时视频通讯回放数据流的获取方法、装置及*** | |
KR20090125236A (ko) | 정보 처리 장치 및 방법 | |
CN112584087B (zh) | 视频会议录制方法、电子装置和存储介质 | |
CN111182322B (zh) | 一种导播控制方法、装置、电子设备和存储介质 | |
US11895352B2 (en) | System and method for operating a transmission network | |
CN111147362B (zh) | 多人即时通讯方法、***、装置及电子设备 | |
KR20190065838A (ko) | 타임 슬라이스 영상을 생성하는 서버, 방법 및 사용자 단말 | |
CN111147860A (zh) | 一种视频数据的解码方法及装置 | |
CN111818383B (zh) | 视频数据的生成方法、***、装置、电子设备及存储介质 | |
US11431770B2 (en) | Method, system, apparatus, and electronic device for managing data streams in a multi-user instant messaging system | |
KR20110059429A (ko) | 아이폰을 위한 분산 미디어 스트리밍 방법과 장치 및 그 시스템 | |
CN114466145B (zh) | 视频处理方法、装置、设备和存储介质 | |
US20220377407A1 (en) | Distributed network recording system with true audio to video frame synchronization | |
KR102268167B1 (ko) | 영상 제공 시스템 | |
US10397590B2 (en) | System and method for enabling seek in a video recording | |
JP2005293431A (ja) | マルチメディアデータ統合装置、マルチメディアデータ統合方法およびマルチメディアデータ統合プログラム | |
Murthy et al. | Dynamic video conferencing with fully secured encryption algorithms | |
JP2006115001A (ja) | 映像送信装置および映像受信装置 | |
US10887636B2 (en) | AV server system and AV server |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210824 |