CN111093108B - 音画同步判断方法、装置、终端及计算机可读存储介质 - Google Patents

Abstract

本公开提供了一种音画同步判断方法、装置、终端及计算机可读存储介质，属于音视频处理技术领域。所述方法包括：获取从服务器接收到的第一多媒体数据的目标视频帧对应的第一音频数据，确定第一音频数据的第一指纹信息，将第一指纹信息与至少一个第二指纹信息进行比较，若第一指纹信息与任一个第二指纹信息相同，则确定第一多媒体数据音画同步。由于指纹具有唯一性，可以作为音频数据的标识，通过上述方法，提取音频数据的指纹，并根据指纹来对音画同步进行判断，无需人工观察，可以提高音画同步判断效率，而且可以避免人工判断带来的误差，提高判定正确率。

Description

音画同步判断方法、装置、终端及计算机可读存储介质

技术领域

本公开涉及音视频处理技术领域，特别涉及一种音画同步判断方法、装置、终端及计算机可读存储介质。

背景技术

随着计算机技术的不断发展，依托于计算机的休闲娱乐行业也蓬勃发展，直播行业越来越被普通大众所认知，从最开始的游戏直播，到娱乐直播、户外直播等，揭开了直播门类的大幕。在一场音视频直播过程中，声音播放和画面显示的同步，也即是，音画同步，是非常重要的，如果出现声音与画面不同步的异常情况，会严重影响用户体验，观众可能会误以为主播是在假唱，给主播的声誉造成严重影响。目前对声音与画面是否同步进行判断，主要是通过人工方法来进行判断的，由人工根据播放的声音和画面，自行对声音与画面是否同步进行判断，由于人工判断需要一定时间来进行观察，导致音画同步的判断效率低，而且，依靠人工进行判断存在很大的主观性，很容易导致判断出现误差，音画同步的判断正确率低。

发明内容

本公开实施例提供了一种音画同步判断方法、装置、终端及计算机可读存储介质，可以解决相关技术中音画同步的判断效率低、判断正确率低的问题。

该技术方案如下：

一方面，提供了一种音画同步判断方法，该方法包括：

基于从服务器接收到的第一多媒体数据，获取该第一多媒体数据中目标视频帧对应的第一音频数据；

基于该第一音频数据，确定该第一音频数据的第一指纹信息；

将该第一指纹信息与至少一个第二指纹信息进行比较，一个第二指纹信息用于表示该服务器所接收到第二多媒体数据中该目标视频帧对应的第二音频数据，该第二多媒体数据与该第一多媒体数据对应于同一在线播放过程；

若该第一指纹信息与任一个该第二指纹信息相同，则确定该第一多媒体数据音画同步。

在一种可能的实现方式中，该将该第一指纹信息与至少一个第二指纹信息进行比较之前，该方法还包括：

获取承载该目标视频帧的报文，从获取到的报文中，获取至少一个第二指纹信息。

在一种可能的实现方式中，该至少一个第二指纹信息包括：

该第二多媒体数据中与该目标视频帧具有相同时间戳的第二音频数据的指纹信息，以及，该第二多媒体数据中与该目标视频帧的时间戳间隔小于目标时长的第二音频数据的指纹信息。

在一种可能的实现方式中，该基于该第一音频数据，确定该第一音频数据的第一指纹信息之前，该方法还包括：

对该第一音频数据进行降采样处理。

在一种可能的实现方式中，该将该第一指纹信息与至少一个第二指纹信息进行比较之后，该方法还包括：

若该第一指纹信息与该至少一个第二指纹信息均不相同，则确定该第一多媒体数据音画不同步。

一方面，提供了一种音画同步判断方法，该方法包括：

在在线播放过程中，获取第二多媒体数据中目标视频帧对应的至少一个第二音频数据；

基于该至少一个第二音频数据，确定至少一个第二指纹信息；

将该至少一个第二指纹信息添加至承载该目标视频帧的报文中；

将该报文发送至服务器。

在一种可能的实现方式中，该基于该至少一个第二音频数据，确定至少一个第二指纹信息之前，该方法还包括：

对该至少一个第二音频数据进行降采样处理。

一方面，提供了一种音画同步判断装置，该装置包括：

数据获取模块，用于基于从服务器接收到的第一多媒体数据，获取该第一多媒体数据中目标视频帧对应的第一音频数据；

指纹信息确定模块，用于基于该第一音频数据，确定该第一音频数据的第一指纹信息；

比较模块，用于将该第一指纹信息与至少一个第二指纹信息进行比较，一个第二指纹信息用于表示该服务器所接收到第二多媒体数据中该目标视频帧对应的第二音频数据，该第二多媒体数据与该第一多媒体数据对应于同一在线播放过程；

确定模块，用于若该第一指纹信息与任一个该第二指纹信息相同，则确定该第一多媒体数据音画同步。

在一种可能的实现方式中，该装置还包括：

报文获取模块，用于获取承载该目标视频帧的报文；

指纹信息获取模块，用于从获取到的报文中，获取至少一个第二指纹信息。

在一种可能的实现方式中，该装置还包括：

降采样处理模块，用于对该第一音频数据进行降采样处理。

在一种可能的实现方式中，该确定模块，还用于若该第一指纹信息与该至少一个第二指纹信息均不相同，则确定该第一多媒体数据音画不同步。

一方面，提供了一种音画同步判断装置，该装置包括：

数据获取模块，用于在在线播放过程中，获取第二多媒体数据中目标视频帧对应的至少一个第二音频数据；

指纹信息确定模块，用于基于该至少一个第二音频数据，确定至少一个第二指纹信息；

添加模块，用于将该至少一个第二指纹信息添加至承载该目标视频帧的报文中；

发送模块，用于将该报文发送至服务器。

在一种可能的实现方式中，该装置还包括：

降采样处理模块，用于对该至少一个第二音频数据进行降采样处理。

一方面，提供了一种终端，该终端包括一个或多个处理器和一个或多个存储器，该一个或多个存储器中存储有至少一条程序代码，该程序代码由该一个或多个处理器加载并执行以实现该音画同步判断方法所执行的操作。

一方面，提供了一种计算机可读存储介质，该计算机可读存储介质中存储有至少一条程序代码，该程序代码由处理器加载并执行以实现该音画同步判断方法所执行的操作。

通过获取从服务器接收到的第一多媒体数据的目标视频帧对应的第一音频数据，确定第一音频数据的第一指纹信息，将第一指纹信息与至少一个第二指纹信息进行比较，若第一指纹信息与任一个第二指纹信息相同，则确定第一多媒体数据音画同步。由于指纹具有唯一性，可以作为音频数据的标识，通过机器方法，提取音频数据的指纹，并根据指纹来对音画同步进行判断，无需人工观察，可以提高音画同步判断效率，而且可以避免人工判断带来的误差，提高判定正确率。

附图说明

为了更清楚地说明本公开实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本公开实施例提供的一种音画同步判断方法的实施环境示意图；

图2是本公开实施例提供的一种音画同步判断方法的流程图；

图3是本公开实施例提供的一种音画同步判断方法的流程图；

图4是本公开实施例提供的一种音画同步判断方法的流程图；

图5是本公开实施例提供的一种对主播端多媒体数据的处理方法的示意图；

图6是本公开实施例提供的一种对用户端多媒体数据的处理方法的示意图；

图7是本公开实施例提供的一种音画同步判断装置的结构图；

图8是本公开实施例提供的一种音画同步判断装置的结构图；

图9是本公开实施例提供的一种终端的结构示意图；

图10是本公开实施例提供的一种服务器的结构示意图。

具体实施方式

为使本公开的目的、技术方案和优点更加清楚，下面将结合附图对本公开实施方式作进一步地详细描述。

视频数据的视频帧可以分为I帧(I frame)、P帧(P frame)和B帧(B frame)，其中，I帧又称为内部画面(Intra Picture)、帧内编码帧，是关键帧，通常是视频序列中的第一个帧，是一种自带全部信息的独立帧，保留了一幅完整的画面，因而解码时无需参考其他图像便可独立进行解码；P帧又称为前向预测画面(Predicted Picture)，保留了这一帧和前一帧的差别，解码之前需要用之前缓存的画面叠加上本帧定义的差别，生成最终的画面，再进行解码；B帧又称为双向预测画面(Bi-predictive Picture)，保留了本帧与前后帧之间的差别，解码B帧，不仅要取得之前缓存的画面，还要取得后一帧的画面，通过前后画面与本帧数据叠加取得最终的画面，再进行解码。

音频的指纹：是指这段音频的特征值，可以将这段音频与其他音频数据区分开来。

图1是本公开实施例提供的一种音画同步判断方法的实施环境示意图，参见图1，该实施环境包括：第一终端101、服务器102和第二终端103。

第一终端101可以为智能手机、游戏主机、台式计算机、平板电脑、手提电脑、台式计算机、MP3播放器(Moving Picture Experts Group Audio Layer III，动态影像专家压缩标准音频层面3)、MP4播放器(Moving Picture Experts Group Audio Layer IV，动态影像专家压缩标准音频层面4)和膝上型便携计算机等设备中的至少一种。该第一终端101可以为观众终端，该第一终端101上可以安装并运行有相关应用程序，例如，直播软件。该第一终端101可以通过有线网络或无线网络与服务器102相连，来接收服务器102发送的多媒体数据。该第一终端101还可以计算接收到的音频数据的指纹，进而对声音与画面是否同步进行判断。

服务器102为一台服务器、多台服务器、云计算平台和虚拟化中心中的至少一种。服务器102可以通过无线网络或有线网络与第一终端102和第二终端103相连，接收第二终端103发送的多媒体数据，以及将该多媒体数据发送给第一终端101，服务器102还可以根据接收到的多媒体数据计算音频数据的指纹，并将指纹添加至多媒体数据的报文中。当然，应用程序的后台服务器102还可以包括其他功能服务器，以便提供更全面且多样化的服务。

第二终端103可以为智能手机、游戏主机、台式计算机、平板电脑、手提电脑、台式计算机、MP3播放器、MP4播放器和膝上型便携计算机等设备中的至少一种。该第二终端103可以为主播终端，该第二终端103上可以安装并运行有相关应用程序，例如，直播软件、推流软件等。该第二终端103可以通过摄像头组件对视频数据进行采集，通过麦克风组件对音频数据进行采集，进而将得到用于传输多媒体数据。该第二终端103可以通过有线网络或无线网络与服务器102相连，来向服务器102发送多媒体数据。在进行多媒体数据的发送前，第二终端103可以计算音频数据的指纹，并将音频数据、音频数据的指纹和视频数据分别封装在报文中，进而将报文封装在数据包中，通过数据包来进行音频数据和视频数据的传输。

本领域技术人员可以知晓，上述第一终端101和第二终端103的数量可以更多或更少。比如上述第一终端和第二终端均可以仅为几个，或者上述第一终端和第二终端均为几十个或几百个，或者更多数量，本公开实施例对第一终端和第二终端的数量和设备类型不加以限定。在一些可能的实现方式中，第一终端和第二终端可以为同一终端，例如，主播和观众可以在同一终端上登录不同的客户端，主播可以在该终端的第一客户端上进行直播，观众可以在该终端的第二客户端上观看直播。

图2是本公开实施例提供的一种音画同步判断方法的流程图，参见图2，应用于第一终端，例如，观众终端，该方法包括：

201、基于从服务器接收到的第一多媒体数据，获取该第一多媒体数据中目标视频帧对应的第一音频数据。

202、基于该第一音频数据，确定该第一音频数据的第一指纹信息。

203、将该第一指纹信息与至少一个第二指纹信息进行比较，一个第二指纹信息用于表示该服务器所接收到第二多媒体数据中该目标视频帧对应的第二音频数据，该第二多媒体数据与该第一多媒体数据对应于同一在线播放过程。

204、若该第一指纹信息与任一个该第二指纹信息相同，则确定该第一多媒体数据音画同步。

上述方案通过获取从服务器接收到的第一多媒体数据的目标视频帧对应的第一音频数据，确定第一音频数据的第一指纹信息，将第一指纹信息与至少一个第二指纹信息进行比较，若第一指纹信息与任一个第二指纹信息相同，则确定第一多媒体数据音画同步。由于指纹具有唯一性，可以作为音频数据的标识，通过机器方法，提取音频数据的指纹，并根据指纹来对音画同步进行判断，无需人工观察，可以提高音画同步判断效率，而且可以避免人工判断带来的误差，提高判定正确率。

在一种可能的实现方式中，该将该第一指纹信息与至少一个第二指纹信息进行比较之前，该方法还包括：

获取承载该目标视频帧的报文，从获取到的报文中，获取至少一个第二指纹信息。

在一种可能的实现方式中，该至少一个第二指纹信息包括：

该第二多媒体数据中与该目标视频帧具有相同时间戳的第二音频数据的指纹信息，以及，该第二多媒体数据中与该目标视频帧的时间戳间隔小于目标时长的第二音频数据的指纹信息。

在一种可能的实现方式中，该基于该第一音频数据，确定该第一音频数据的第一指纹信息之前，该方法还包括：

对该第一音频数据进行降采样处理。

在一种可能的实现方式中，该将该第一指纹信息与至少一个第二指纹信息进行比较之后，该方法还包括：

若该第一指纹信息与该至少一个第二指纹信息均不相同，则确定该第一多媒体数据音画不同步。

图3是本公开实施例提供的一种音画同步判断方法的流程图，参见图3，应用于第二终端，例如，主播终端，该方法包括：

301、在在线播放过程中，获取第二多媒体数据中目标视频帧对应的至少一个第二音频数据。

302、基于该至少一个第二音频数据，确定至少一个第二指纹信息。

303、将该至少一个第二指纹信息添加至承载该目标视频帧的报文中。

304、将该报文发送至服务器。

上述方案通过获取第二多媒体数据的目标视频帧对应的至少一个第二音频数据，确定至少一个第二指纹信息，将该至少一个第二指纹信息添加至承载该目标视频帧的报文中，并将该报文发送至服务器。由于指纹具有唯一性，可以作为音频数据的标识，通过机器方法，提取音频数据的指纹，并将指纹添加至承载多媒体数据的报文中，将报文发送给服务器，进而由服务器发送给第一终端，第一终端根据指纹来对音画同步进行判断，无需人工观察，可以提高音画同步判断效率，而且可以避免人工判断带来的误差，提高判定正确率。

在一种可能的实现方式中，该基于该至少一个第二音频数据，确定至少一个第二指纹信息之前，该方法还包括：

对该至少一个第二音频数据进行降采样处理。

图4是本公开实施例提供的一种音画同步判断方法的流程图，该方法以第一终端、服务器以及第二终端之间的交互为例进行说明，参见图4，该方法包括：

401、在在线播放过程中，第二终端基于接收到的操作指令，获取第二多媒体数据。

需要说明的是，该第二终端可以为主播终端。

在一种可能的实现方式中，主播可以在第二终端上的相关应用程序，例如，直播软件中触发直播指令时，当第二终端检测到该直播指令时，可以通过摄像头组件来对视频数据进行采集，通过麦克风组件来对音频数据进行采集，第二终端还可以根据获取到各个视频数据和音频数据的时间，为获取到的各个视频数据和音频数据分别打上对应的时间戳，该视频数据和音频数据即可以作为第二多媒体数据。

其中，该摄像头组件和音频电路可以内置于第二终端中，还可以为与该第二终端相连的外置组件，本公开实施例对此不加以限定。

402、第二终端获取第二多媒体数据中目标视频帧对应的至少一个第二音频数据。

需要说明的是，第二终端可以将获取到的任一视频帧作为目标视频帧，得到唯一的目标视频帧，还可以每隔固定帧数，确定一个目标视频帧，得到多个目标视频帧。此外，在进行目标视频帧的选择时，由于I帧携带的信息最为完整，因此可以以I帧作为目标视频帧，来进行数据的获取，可选地，第二终端还可以将其他视频帧作为目标视频帧，本公开实施例对此不加以限定。

在一种可能的实现方式中，第二终端可以将获取到的第一个视频帧作为目标视频帧，根据该视频帧的时间戳，在音频队列中查询与该目标视频帧的时间戳时间间隔最近的至少一个第二音频数据。例如，当第二终端以I帧作为目标视频帧时，可以根据I帧的时间戳，在获取到的第二多媒体数据中查询与时间戳的时间间隔最近的4个第二音频数据，可选地，第二终端还获取的目标视频帧对应的第二音频数据的数量可以更多或更少，本公开实施例对目标视频帧对应的第二音频数据的数量不加以限定。

在另一种可能的实现方式中，第二终端还可以根据第一个目标视频帧的位置，每隔固定帧数，确定一个目标视频帧，进而基于确定的多个目标视频帧，来进行每个目标视频帧对应的至少一个第二音频数据的获取，本公开实施例对间隔的固定帧数不加以限定。

403、第二终端对该至少一个第二音频数据进行降采样处理。

在一种可能的实现方式中，第二终端将至少一个第二音频数据逐个通过低通滤波器，对低通滤波器输出的音频数据进行采样，例如，可以对低通滤波器输出的音频数据进行M倍采样，也即是，每个M-1点抽取一点，其中，M为大于等于1的正整数，本公开实施例对M的具体取值不加以限定。

需要说明的是，低通滤波器可以去除第二音频信号中的高频成分，防止发生混叠，经过降采样处理，可以降低数据量大小，为后续处理过程提供方便。

404、第二终端基于降采样处理后的至少一个第二音频数据，确定至少一个第二指纹信息。

需要说明的是，指纹可以作为一段音频的唯一标识符，表示该音频独一无二的数字特征。

在一种可能的实现方式中，第二终端逐个对降采样处理后的至少一个第二音频数据进行加窗处理，对加窗后的音频数据做快速傅里叶变换，划分频谱带，取每一频谱带中的峰值信号作为该频谱带的签名，以此来构造每个第二音频数据的指纹信息，作为第二指纹信息。

其中，第二终端对降采样处理后的第二音频数据进行加窗处理时可以采用汉宁窗，可选地，还可以选择其他滑动窗口来对音频数据进行加窗处理，本公开实施例对此不加以限定。

405、第二终端将该至少一个第二指纹信息添加至承载该目标视频帧的报文中。

需要说明的是，报文是网络传输的单位，传输过程中会通过添加一些信息段，不断地封装成分组、包、帧来传输。报文中可以预先设置有预留字段，来进行指纹信息的存储。

在一种可能的实现方式中，第二终端可以对该第二多媒体数据进行编码，将该第二多媒体数据封装在报文中，将至少一个第二指纹信息添加到目标视频帧对应的自定义报文的预留字段中，以便后续进行传输。

参见图5，图5是本公开实施例提供的一种对主播端多媒体数据的处理方法的示意图，该图以计算与I帧距离最近的一个第二音频数据的指纹信息，作为第二指纹信息，并将其打包到视频I帧的报文中为例进行说明，可以直观地展示出上述步骤403至步骤405，第二终端可以根据各个视频帧和音频帧的时间戳，查找到音频队列中与I帧距离最近的音频数据，对该音频数据进行降采样处理，再计算出该音频数据的指纹，将该音频数据的指纹添加到I帧的报文中，以便在后续进行音画同步判断时使用。

需要说明的是，第二终端在将至少一个第二指纹信息添加到目标视频帧对应的自定义报文中时，可以将每个指纹对应的第二音频数据的时间戳信息也添加至报文的预留字段中。

406、第二终端将该报文发送至服务器。

在一种可能的实现方式中，第二终端可以通过安装在第二终端上的推流软件，将封装好的第二多媒体数据以报文的形式发送至服务器集群中距离第二终端最近的服务器。

407、服务器对接收到的报文中的第二多媒体数据进行处理，得到第一多媒体数据，将承载第一多媒体数据的报文发送至第一终端。

需要说明的是，该第一终端可以为观众终端，观众可以在第一终端上对第二终端上的主播进行选择，触发第二终端上的主播对应的观看直播按钮，来观看第二终端上的主播的直播，第一终端可以根据用户的触发操作，向服务器发送多媒体数据获取请求，服务器响应于该多媒体数据获取请求，向第一终端发送承载第一多媒体数据的报文。

在一种可能的实现方式中，服务器在接收到第二终端发送的第二多媒体数据后，可以对该第二多媒体数据进行解码，当服务器集群中的任一服务器接收到第一终端的多媒体数据获取请求时，可以根据第一终端发送的音视频获取请求中携带的多媒体数据标识符，从距离第二终端最近的服务器获取解码后的第二多媒体数据，对该解码后的多媒体数据进行编码，得到第一多媒体数据，并将该第一多媒体数据封装到报文中，将承载该第一多媒体数据的报文发送给第一终端。

408、第一终端基于接收到的第一多媒体数据，获取该第一多媒体数据中目标视频帧对应的第一音频数据，该第一多媒体数据和该第二多媒体数据对应于同一在线播放过程。

在一种可能的实现方式中，第一终端在接收到服务器发送的承载第一多媒体数据的报文后，可以对该第一多媒体数据的报文进行解码，从而获取到第一多媒体数据，该第一多媒体数据和该第二多媒体数据对应于同一在线播放过程。第一终端可以对接收到的第一多媒体数据中的各个视频帧进行检测，当检测到某个视频帧的报文的预留字段中包括指纹信息时，可以确定该视频帧即为目标视频帧。第一终端还可以为接收到各个视频和音频打上对应的时间戳，基于目标视频帧的时间戳，获取与该时间戳表示的时间时间间隔最小的第一音频数据，也即是，目标视频帧对应的第一音频数据。

409、第一终端对该第一音频数据进行降采样处理。

在一种可能的实现方式中，第一终端将该第一音频数据通过低通滤波器，对低通滤波器输出的音频数据进行采样，例如，可以对低通滤波器输出的音频数据进行N倍采样，也即是，每个N-1点抽取一点，其中，N为大于等于1的正整数，本公开实施例对N的具体取值不加以限定。

需要说明的是，低通滤波器可以去除第一音频信号中的高频成分，防止发生混叠，经过降采样处理，可以降低数据量大小，为后续处理过程提供方便。

410、第一终端基于该降采样处理后的第一音频数据，确定该第一音频数据的第一指纹信息。

在一种可能的实现方式中，第一终端对降采样处理后的第一音频数据进行加窗处理，对加窗后的音频数据做快速傅里叶变换，划分频谱带，取每一频谱带中的峰值信号作为该频谱带的签名，以此来构造每个第一音频数据的指纹信息，作为第二指纹信息。

其中，第一终端对降采样处理后的第一音频数据进行加窗处理时可以采用汉宁窗，可选地，还可以选择其他滑动窗口来对音频数据进行加窗处理，本公开实施例对此不加以限定。

411、第一终端获取承载该目标视频帧的报文，从获取到的报文中，获取至少一个第二指纹信息。

在一种可能的实现方式中，第一终端可以对承载该第二多媒体数据的报文进行解密，获取目标视频帧对应的解密后的报文，从解密后的报文的预留字段中，提取该至少一个第二指纹信息。

需要说明的是，第一终端在从报文中获取到至少一个第二指纹信息的同时，也可以获取到各个第二指纹信息对应的第二音频数据的时间戳信息。

412、第一终端将该第一指纹信息与至少一个第二指纹信息进行比较，一个第二指纹信息用于表示该服务器所接收到第二多媒体，数据中该目标视频帧对应的第二音频数据。

在一种可能的实现方式中，第一终端可以将该第一指纹信息与该至少一个第二指纹信息中的任一个第二指纹信息进行比较，以确定音画同步情况。

在另一种可能的实现方式中，第一终端可以根据获取到的各个第二指纹信息的时间戳信息，结合该第一指纹信息对应的第一音频数据的时间戳表示的时间，按照各个第二指纹信息的时间戳信息表示的时间距离第一指纹信息对应的时间戳信息表示的时间的时间间隔从小到大的顺序，对各个第二指纹信息进行排序，按照排序结果，将各个第二指纹信息与该第一指纹信息进行比较，以确定音画同步情况。本公开实施例对具体采用哪种方式不加以限定。

413、若该第一指纹信息与任一个该第二指纹信息相同，则第一终端确定该第一多媒体数据音画同步，若该第一指纹信息与该至少一个第二指纹信息均不相同，则第一终端确定该第一多媒体数据音画不同步。

需要说明的是，将第一指纹信息与获取到的至少一个第二指纹信息进行比较，当第一指纹信息与其中一个第二指纹信息相同时，即可以确定该第一多媒体数据音画同步，而当第一指纹信息与至少一个第二指纹信息均不相同时，可以确定该第一多媒体数据音画不同步。将第一指纹信息与多个第二指纹信息进行比较，允许音画同步存在一定的微小误差，例如，可以将第一指纹信息与距离最近的4个第二指纹信息进行比较，由于仅与距离最近的4个第二指纹信息进行比较，使得人眼无法准确识别出该微小误差，仍可以保证用户观看视频时的体验效果。

在其他可能的实现方式中，第一终端还可以在步骤408中获取该第一多媒体数据的目标视频帧对应的多个第一音频数据，对多个第一音频数据进行与上述步骤409至步骤412类似的处理过程，进而进行音画同步的判断，当多个第一指纹信息中有一个第一指纹信息，与至少一个第二指纹信息中的任一个第二指纹信息相同，则可以确定音画同步，当多个第一指纹信息与至少一个第二指纹信息均不相同，则可以确定音画不同步。

参见图6，图6是本公开实施例提供的一种对用户端多媒体数据的处理方法的示意图，该图以将第一指纹信息与距离最近的一个第二指纹信息进行比较为例进行说明，可以直观地展示出上述步骤409至步骤412，第一终端可以识别出音频队列中与I帧距离最近的音频数据包，对该音频数据包进行降采样处理，从而计算出该数据包对应的第一指纹信息，并从视频队列中的I帧的报文中提取出第二指纹信息，将第一指纹信息与第二指纹信息进行比较，当二者相同时，可以确定该第一多媒体数据音画同步，当二者不相同时，可以确定该第一多媒体数据音画不同步。

需要说明的是，上述过程仅以直播过程为例进行说明，在其他可能的实现方式中，该方案还可以应用于其他在线播放过程中，本公开实施例对此不加以限定。

通过上述方案，在在线播放过程中，主播端可以以目标视频帧为参考点，把距离它最近(或相近几个)的音频包降采样后计算出音频的指纹，并把计算出的指纹放在目标视频帧后的自定义报文内。用户端通过目标视频帧找到距离它最近(或相近几个)音频包，通过和主播端相同的做法，并计算出音频的指纹，并比较计算出的指纹与目标视频帧带过来的自定义报文是否相同，从而对音画同步情况进行判断。由于指纹具有唯一性，可以作为音频数据的标识，通过机器方法，提取音频数据的指纹，并将包括指纹的多媒体数据发送给服务器，并由服务器发送给第一终端，第一终端根据指纹来对音画同步进行判断，无需人工观察，可以提高音画同步判断效率，而且可以避免人工判断带来的误差，提高判定正确率。

上述所有可选技术方案，可以采用任意结合形成本公开的可选实施例，在此不再一一赘述。

图7是本公开实施例提供的一种音画同步判断装置的结构图，参见图7，该装置包括：

数据获取模块701，用于基于从服务器接收到的第一多媒体数据，获取该第一多媒体数据中目标视频帧对应的第一音频数据；

指纹信息确定模块702，用于基于该第一音频数据，确定该第一音频数据的第一指纹信息；

比较模块703，用于将该第一指纹信息与至少一个第二指纹信息进行比较，一个第二指纹信息用于表示该服务器所接收到第二多媒体数据中该目标视频帧对应的第二音频数据，该第二多媒体数据与该第一多媒体数据对应于同一在线播放过程；

确定模块704，用于若该第一指纹信息与任一个该第二指纹信息相同，则确定该第一多媒体数据音画同步。

在一种可能的实现方式中，该装置还包括：

报文获取模块，用于获取承载该目标视频帧的报文；

指纹信息获取模块，用于从获取到的报文中，获取至少一个第二指纹信息。

在一种可能的实现方式中，该装置还包括：

降采样处理模块，用于对该第一音频数据进行降采样处理。

在一种可能的实现方式中，该确定模块704，还用于若该第一指纹信息与该至少一个第二指纹信息均不相同，则确定该第一多媒体数据音画不同步。

上述装置通过获取从服务器接收到的第一多媒体数据的目标视频帧对应的第一音频数据，确定第一音频数据的第一指纹信息，将第一指纹信息与至少一个第二指纹信息进行比较，若第一指纹信息与任一个第二指纹信息相同，则确定第一多媒体数据音画同步。由于指纹具有唯一性，可以作为音频数据的标识，通过机器方法，提取音频数据的指纹，并根据指纹来对音画同步进行判断，无需人工观察，可以提高音画同步判断效率，而且可以避免人工判断带来的误差，提高判定正确率。

需要说明的是：上述实施例提供的音画同步判断装置在进行音画同步的判断时，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将终端的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的音画同步判断装置与音画同步判断方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。

图8是本公开实施例提供的一种音画同步判断装置的结构图，参见图8，该装置包括：

数据获取模块801，用于在在线播放过程中，获取第二多媒体数据中目标视频帧对应的至少一个第二音频数据；

指纹信息确定模块802，用于基于该至少一个第二音频数据，确定至少一个第二指纹信息；

添加模块803，用于将该至少一个第二指纹信息添加至承载该目标视频帧的报文中；

发送模块804，用于将该报文发送至服务器。

上述装置通过获取第二多媒体数据的目标视频帧对应的至少一个第二音频数据，确定至少一个第二指纹信息，将该至少一个第二指纹信息添加至承载该目标视频帧的报文中，并将该报文发送至服务器。由于指纹具有唯一性，可以作为音频数据的标识，通过机器方法，提取音频数据的指纹，并将指纹添加至承载多媒体数据的报文中，将报文发送给服务器，进而由服务器发送给第一终端，第一终端根据指纹来对音画同步进行判断，无需人工观察，可以提高音画同步判断效率，而且可以避免人工判断带来的误差，提高判定正确率。

在一种可能的实现方式中，该装置还包括：

降采样处理模块，用于对该至少一个第二音频数据进行降采样处理。

需要说明的是：上述实施例提供的音画同步判断装置在进行音画同步的判断时，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将终端的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的音画同步判断装置与音画同步判断方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。

图9是本公开实施例提供的一种终端的结构示意图。该终端900可以是：智能手机、平板电脑、MP3播放器、MP4播放器、笔记本电脑或台式电脑。终端900还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。

通常，终端900包括有：一个或多个处理器901和一个或多个存储器902。

处理器901可以包括一个或多个处理核心，比如4核心处理器、8核心处理器等。处理器901可以采用DSP(Digital Signal Processing，数字信号处理)、FPGA(Field－Programmable Gate Array，现场可编程门阵列)、PLA(Programmable Logic Array，可编程逻辑阵列)中的至少一种硬件形式来实现。处理器901也可以包括主处理器和协处理器，主处理器是用于对在唤醒状态下的数据进行处理的处理器，也称CPU(Central ProcessingUnit，中央处理器)；协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中，处理器901可以在集成有GPU(Graphics Processing Unit，图像处理器)，GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中，处理器901还可以包括AI(Artificial Intelligence，人工智能)处理器，该AI处理器用于处理有关机器学习的计算操作。

存储器902可以包括一个或多个计算机可读存储介质，该计算机可读存储介质可以是非暂态的。存储器902还可包括高速随机存取存储器，以及非易失性存储器，比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中，存储器902中的非暂态的计算机可读存储介质用于存储至少一个程序代码，该至少一个程序代码用于被处理器901所执行以实现本公开中方法实施例提供的音画同步判断方法。

在一些实施例中，终端900还可选包括有：***设备接口903和至少一个***设备。处理器901、存储器902和***设备接口903之间可以通过总线或信号线相连。各个***设备可以通过总线、信号线或电路板与***设备接口903相连。具体地，***设备包括：射频电路904、显示屏905、摄像头906、音频电路907、定位组件908和电源909中的至少一种。

***设备接口903可被用于将I/O(Input/Output，输入/输出)相关的至少一个***设备连接到处理器901和存储器902。在一些实施例中，处理器901、存储器902和***设备接口903被集成在同一芯片或电路板上；在一些其他实施例中，处理器901、存储器902和***设备接口903中的任意一个或两个可以在单独的芯片或电路板上实现，本实施例对此不加以限定。

射频电路904用于接收和发射RF(Radio Frequency，射频)信号，也称电磁信号。射频电路904通过电磁信号与通信网络以及其他通信设备进行通信。射频电路904将电信号转换为电磁信号进行发送，或者，将接收到的电磁信号转换为电信号。可选地，射频电路904包括：天线***、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路904可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于：城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity，无线保真)网络。在一些实施例中，射频电路904还可以包括NFC(Near Field Communication，近距离无线通信)有关的电路，本公开对此不加以限定。

显示屏905用于显示UI(User Interface，用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏905是触摸显示屏时，显示屏905还具有采集在显示屏905的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器901进行处理。此时，显示屏905还可以用于提供虚拟按钮和/或虚拟键盘，也称软按钮和/或软键盘。在一些实施例中，显示屏905可以为一个，设置终端900的前面板；在另一些实施例中，显示屏905可以为至少两个，分别设置在终端900的不同表面或呈折叠设计；在再一些实施例中，显示屏905可以是柔性显示屏，设置在终端900的弯曲表面上或折叠面上。甚至，显示屏905还可以设置成非矩形的不规则图形，也即异形屏。显示屏905可以采用LCD(LiquidCrystal Display，液晶显示屏)、OLED(Organic Light-Emitting Diode，有机发光二极管)等材质制备。

摄像头组件906用于采集图像或视频。可选地，摄像头组件906包括前置摄像头和后置摄像头。通常，前置摄像头设置在终端的前面板，后置摄像头设置在终端的背面。在一些实施例中，后置摄像头为至少两个，分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种，以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality，虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中，摄像头组件906还可以包括闪光灯。闪光灯可以是单色温闪光灯，也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合，可以用于不同色温下的光线补偿。

音频电路907可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波，并将声波转换为电信号输入至处理器901进行处理，或者输入至射频电路904以实现语音通信。出于立体声采集或降噪的目的，麦克风可以为多个，分别设置在终端900的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器901或射频电路904的电信号转换为声波。扬声器可以是传统的薄膜扬声器，也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时，不仅可以将电信号转换为人类可听见的声波，也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中，音频电路907还可以包括耳机插孔。

定位组件908用于定位终端900的当前地理位置，以实现导航或LBS(LocationBased Service，基于位置的服务)。定位组件908可以是基于美国的GPS(GlobalPositioning System，全球定位***)、中国的北斗***、俄罗斯的格雷纳斯***或欧盟的伽利略***的定位组件。

电源909用于为终端900中的各个组件进行供电。电源909可以是交流电、直流电、一次性电池或可充电电池。当电源909包括可充电电池时，该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。

在一些实施例中，终端900还包括有一个或多个传感器910。该一个或多个传感器910包括但不限于：加速度传感器911、陀螺仪传感器912、压力传感器913、指纹传感器914、光学传感器915以及接近传感器916。

加速度传感器911可以检测以终端900建立的坐标系的三个坐标轴上的加速度大小。比如，加速度传感器911可以用于检测重力加速度在三个坐标轴上的分量。处理器901可以根据加速度传感器911采集的重力加速度信号，控制显示屏905以横向视图或纵向视图进行用户界面的显示。加速度传感器911还可以用于游戏或者用户的运动数据的采集。

陀螺仪传感器912可以检测终端900的机体方向及转动角度，陀螺仪传感器912可以与加速度传感器911协同采集用户对终端900的3D动作。处理器901根据陀螺仪传感器912采集的数据，可以实现如下功能：动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。

压力传感器913可以设置在终端900的侧边框和/或显示屏905的下层。当压力传感器913设置在终端900的侧边框时，可以检测用户对终端900的握持信号，由处理器901根据压力传感器913采集的握持信号进行左右手识别或快捷操作。当压力传感器913设置在显示屏905的下层时，由处理器901根据用户对显示屏905的压力操作，实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。

指纹传感器914用于采集用户的指纹，由处理器901根据指纹传感器914采集到的指纹识别用户的身份，或者，由指纹传感器914根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时，由处理器901授权该用户执行相关的敏感操作，该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器914可以被设置终端900的正面、背面或侧面。当终端900上设置有物理按键或厂商Logo时，指纹传感器914可以与物理按键或厂商Logo集成在一起。

光学传感器915用于采集环境光强度。在一个实施例中，处理器901可以根据光学传感器915采集的环境光强度，控制显示屏905的显示亮度。具体地，当环境光强度较高时，调高显示屏905的显示亮度；当环境光强度较低时，调低显示屏905的显示亮度。在另一个实施例中，处理器901还可以根据光学传感器915采集的环境光强度，动态调整摄像头组件906的拍摄参数。

接近传感器916，也称距离传感器，通常设置在终端900的前面板。接近传感器916用于采集用户与终端900的正面之间的距离。在一个实施例中，当接近传感器916检测到用户与终端900的正面之间的距离逐渐变小时，由处理器901控制显示屏905从亮屏状态切换为息屏状态；当接近传感器916检测到用户与终端900的正面之间的距离逐渐变大时，由处理器901控制显示屏905从息屏状态切换为亮屏状态。

本领域技术人员可以理解，图9中示出的结构并不构成对终端900的限定，可以包括比图示更多或更少的组件，或者组合某些组件，或者采用不同的组件布置。

图10是本公开实施例提供的一种服务器的结构示意图，该服务器1000可因配置或性能不同而产生比较大的差异，可以包括一个或多个处理器(Central Processing Units，CPU)1001和一个或多个的存储器1002，其中，该一个或多个存储器1002中存储有至少一条程序代码，该至少一条程序代码由该一个或多个处理器1001加载并执行以实现上述各个方法实施例提供的方法。当然，该服务器1000还可以具有有线或无线网络接口、键盘以及输入输出接口等部件，以便进行输入输出，该服务器1000还可以包括其他用于实现设备功能的部件，在此不做赘述。

在示例性实施例中，还提供了一种计算机可读存储介质，例如包括程序代码的存储器，上述程序代码可由处理器执行以完成上述实施例中的音画同步判断方法。例如，该计算机可读存储介质可以是只读存储器(Read-Only Memory，ROM)、随机存取存储器(RandomAccess Memory，RAM)、只读光盘(Compact Disc Read-Only Memory，CD-ROM)、磁带、软盘和光数据存储设备等。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来程序代码相关的硬件完成，该程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

上述仅为本公开的可选实施例，并不用以限制本公开，凡在本公开的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本公开的保护范围之内。

Claims (15)

1.一种音画同步判断方法，其特征在于，所述方法包括：

基于从服务器接收到的第一多媒体数据，获取所述第一多媒体数据中目标视频帧对应的第一音频数据；

基于所述第一音频数据，确定所述第一音频数据的第一指纹信息；

将所述第一指纹信息与至少一个第二指纹信息进行比较，一个第二指纹信息用于表示所述服务器所接收到第二多媒体数据中所述目标视频帧对应的第二音频数据，所述第二多媒体数据与所述第一多媒体数据对应于同一在线播放过程；

若所述第一指纹信息与任一个所述第二指纹信息相同，则确定所述第一多媒体数据音画同步。

2.根据权利要求1所述的方法，其特征在于，所述将所述第一指纹信息与至少一个第二指纹信息进行比较之前，所述方法还包括：

获取承载所述目标视频帧的报文，从获取到的报文中，获取至少一个第二指纹信息。

3.根据权利要求1所述的方法，其特征在于，所述至少一个第二指纹信息包括：

所述第二多媒体数据中与所述目标视频帧具有相同时间戳的第二音频数据的指纹信息，以及，所述第二多媒体数据中与所述目标视频帧的时间戳间隔小于目标时长的第二音频数据的指纹信息。

4.根据权利要求1所述的方法，其特征在于，所述基于所述第一音频数据，确定所述第一音频数据的第一指纹信息之前，所述方法还包括：

对所述第一音频数据进行降采样处理。

5.根据权利要求1所述的方法，其特征在于，所述将所述第一指纹信息与至少一个第二指纹信息进行比较之后，所述方法还包括：

若所述第一指纹信息与所述至少一个第二指纹信息均不相同，则确定所述第一多媒体数据音画不同步。

6.一种音画同步判断方法，其特征在于，所述方法包括：

在在线播放过程中，获取第二多媒体数据中目标视频帧对应的至少一个第二音频数据；

基于所述至少一个第二音频数据，确定至少一个第二指纹信息；

将所述至少一个第二指纹信息添加至承载所述目标视频帧的报文中；

将所述报文发送至服务器，所述报文用于所述服务器将第一指纹信息与至少一个第二指纹信息进行比较，若所述第一指纹信息与任一个所述第二指纹信息相同，则确定第一多媒体数据音画同步，所述第一指纹信息是所述第一多媒体数据的目标视频帧对应的第一音频数据确定的指纹信息。

7.根据权利要求6所述的方法，其特征在于，所述基于所述至少一个第二音频数据，确定至少一个第二指纹信息之前，所述方法还包括：

对所述至少一个第二音频数据进行降采样处理。

8.一种音画同步判断装置，其特征在于，所述装置包括：

数据获取模块，用于基于从服务器接收到的第一多媒体数据，获取所述第一多媒体数据中目标视频帧对应的第一音频数据；

指纹信息确定模块，用于基于所述第一音频数据，确定所述第一音频数据的第一指纹信息；

比较模块，用于将所述第一指纹信息与至少一个第二指纹信息进行比较，一个第二指纹信息用于表示所述服务器所接收到第二多媒体数据中所述目标视频帧对应的第二音频数据，所述第二多媒体数据与所述第一多媒体数据对应于同一在线播放过程；

确定模块，用于若所述第一指纹信息与任一个所述第二指纹信息相同，则确定所述第一多媒体数据音画同步。

9.根据权利要求8所述的装置，其特征在于，所述装置还包括：

报文获取模块，用于获取承载所述目标视频帧的报文；

指纹信息获取模块，用于从获取到的报文中，获取至少一个第二指纹信息。

10.根据权利要求8所述的装置，其特征在于，所述装置还包括：

降采样处理模块，用于对所述第一音频数据进行降采样处理。

11.根据权利要求8所述的装置，其特征在于，所述确定模块，还用于若所述第一指纹信息与所述至少一个第二指纹信息均不相同，则确定所述第一多媒体数据音画不同步。

12.一种音画同步判断装置，其特征在于，所述装置包括：

数据获取模块，用于在在线播放过程中，获取第二多媒体数据中目标视频帧对应的至少一个第二音频数据；

指纹信息确定模块，用于基于所述至少一个第二音频数据，确定至少一个第二指纹信息；

添加模块，用于将所述至少一个第二指纹信息添加至承载所述目标视频帧的报文中；

发送模块，用于将所述报文发送至服务器，所述报文用于所述服务器将第一指纹信息与至少一个第二指纹信息进行比较，若所述第一指纹信息与任一个所述第二指纹信息相同，则确定第一多媒体数据音画同步，所述第一指纹信息是所述第一多媒体数据的目标视频帧对应的第一音频数据确定的指纹信息。

13.根据权利要求12所述的装置，其特征在于，所述装置还包括：

降采样处理模块，用于对所述至少一个第二音频数据进行降采样处理。

14.一种终端，其特征在于，所述终端包括一个或多个处理器和一个或多个存储器，所述一个或多个存储器中存储有至少一条程序代码，所述程序代码由所述一个或多个处理器加载并执行以实现如权利要求1至权利要求5任一项所述的音画同步判断方法所执行的操作；或如权利要求6至权利要求7任一项所述的音画同步判断方法所执行的操作。

15.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有至少一条程序代码，所述程序代码由处理器加载并执行以实现如权利要求1至权利要求5任一项所述的音画同步判断方法所执行的操作；或如权利要求6至权利要求7任一项所述的音画同步判断方法所执行的操作。

Images