CN110008102A - 一种基于智能视频应用的服务器性能测试方法和*** - Google Patents

Abstract

本发明提供了一种基于智能视频应用的服务器性能测试方法，包括以下步骤：对多路视频进行硬解码处理，以确定可以在满足帧率要求的情况下解码的视频路数范围；以及开启多进程以同时运行解码及智能视频处理深度学习算法，并依次输入所述范围内的视频路数，以确定在满足帧率、处理延迟的情况下可以同时解码的最大视频路数。本发明将视频解码和AI算法同时压入GPU，以得到AI服务器在安防智能视频应用领域应用的整体性能及处理能力。

Description

一种基于智能视频应用的服务器性能测试方法和***

技术领域

本发明总体上涉及视频监控领域，并且更具体地，涉及一种基于智能视频应用的服务器性能测试方法和***。

背景技术

安防是个很大的范畴，笼统而言包括监控、消防、门禁等。目前来讲，视频监控部分特别是数字监控还是有很大的潜力。在视频监控领域，服务器需求、市场发展比较火热，众多AI初创公司都选择该领域作为新机会，未来安防的大部分技术爆发及创新将集中于此领域。视频监控领域涉及的场景众多，比如安检中的违禁物体识别、人脸识别、车牌识别、行为分析、视频结构化等等。

传统的视频安防监控***利用视频技术探测、监视设防区域并实时显示、记录线程图像的电子***和网络，***的前端一般利用摄像机、高清摄像头，传输方式可采用同轴电缆或光纤传输，***的终端设备一般是显示、记录、控制、通信设备等。终端设备一般是传统的X86服务器或者相应的嵌入式设备，会简单的对前端传输的数据保存或者处理，但限于计算能力和算法的水平，传统视频监控一直处于滞后监控或者模糊监控，无法达到精准、智能的要求。

在终端设备中处理采用的服务器之前全部采用的是CPU架构的服务器，如图1所示，其性能测试方法一般包括：CPU评估，针对的是计算能力；内存评估，针对的是延时和速率；IO评估，针对的是读写能力；还有类似网络带宽、集群高可用等的其它评估方法。上述步骤针对的是传统的视频处理步骤，在利用CPU为主的计算核心时，该检测步骤往往是有效的。但随着GPU设备的出现，许多计算尤其是矩阵相关运算都移植到 GPU端，新一代的由深度学习算法引领的人工智能浪潮的特点即是异构计算带来的***计算能力，因此如何评价AI服务器的性能才是最需关注的点，一般的对GPU进行测试的项包括：gpu-burn、NVqual。上述的这些测试项目主要针对的是GPU运行的稳定性及数学运算能力，而在智能视频应用中视频的转解码工作、抽帧处理、深度学习算法处理能力都需要在 AI服务器异构计算设备中进行评估。

因此，随着异构计算设备的出现、视频硬解码能力的提高、深度学习算法的出现及不断发展，上述的针对传统设备的性能测试方法已不能涵盖服务器在视频监控领域所关注的指标参数。

发明内容

鉴于此，本发明实施例的目的在于解决视频安防监控***中的在异构计算设备AI服务器上如何测试视频硬解码及深度学习并发计算能力、以及如何衡量应用于智能视频领域的服务器性能的问题，以满足当前的智能视频应用的测试需求。

基于上述目的，本发明实施例的一方面提供了一种基于智能视频应用的服务器性能测试方法，包括以下步骤：

对多路视频进行硬解码处理，以确定可以在满足帧率要求的情况下解码的视频路数范围；以及

开启多进程以同时运行解码及智能视频处理深度学习算法，并依次输入所述范围内的视频路数，以确定在满足帧率、处理延迟的情况下可以同时解码的最大视频路数。

在一些实施方式中，对多路视频进行硬解码处理，以确定可以在满足帧率要求的情况下解码的视频路数范围包括：利用视频处理软件实现在 GPU上对所述多路视频进行硬解码处理。

在一些实施方式中，对多路视频进行硬解码处理，以确定可以在满足帧率要求的情况下解码的视频路数范围还包括：在对所述多路视频进行硬解码处理的过程中，基于并行计算库来控制多个进程的并发执行。

在一些实施方式中，所述智能视频处理深度学习算法包括依赖 TensorFlow深度学习框架的FaceNet工程，以进行人脸识别检测。

在一些实施方式中，开启多进程以同时运行解码及智能视频处理深度学习算法，并依次输入所述范围内的视频路数，以确定在满足帧率、处理延迟的情况下可以同时解码的最大视频路数包括：基于并行计算库控制多个进程的并发执行以同时执行视频的解码与人脸识别。

在一些实施方式中，开启多进程以同时运行解码及智能视频处理深度学习算法，并依次输入所述范围内的视频路数，以确定在满足帧率、处理延迟的情况下可以同时解码的最大视频路数还包括：利用多任务卷积神经网络先对解码得到图像帧做人脸检测，然后将检测得到的人脸的图像放入轻量化卷积神经网络中做识别，最后按照传入的所述人脸数目以及得到结果的延迟来获得可以同时解码的最大视频路数。

在一些实施方式中，开启多进程以同时运行解码及智能视频处理深度学习算法，并依次输入所述范围内的视频路数，以确定在满足帧率、处理延迟的情况下可以同时解码的最大视频路数还包括：将所述视频路数与所述人脸数目做匹配，按照每一帧图像1～3张人脸、每一路视频每秒钟抽取3帧的图像进行测试。

本发明实施例的另一方面提供了一种基于智能视频应用的服务器性能测试***，包括：

至少一个处理器；以及

存储器，所述存储器存储有可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时执行如权利要求1-7任意一项所述的方法。

在一些实施方式中，所述***部署在搭载Linux***的平台上。

在一些实施方式中，所述平台为异构计算平台。

本发明具有以下有益技术效果：本发明实施例提供的一种基于智能视频应用的服务器性能测试方法和***是在与客户合作及自身项目中提炼出来的，它可以衡量GPU在业界标准的1080P视频上的解码能力，针对智能视频场景中现阶段常用的深度学习应用提供了一种测试思路，即将视频解码和AI算法同时压入GPU得到AI服务器在该领域应用的整体性能及处理能力。该方法易于使用及扩展，稍具***基础的工程师都可以轻松完成视频的解码及智能视频应用的测试。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的实施例。

图1是现有技术中采用CPU架构的服务器性能测试方法示意图；

图2是根据本发明实施例的一种基于智能视频应用的服务器性能测试方法的流程图。

具体实施方式

以下描述了本公开的实施例。然而，应该理解，所公开的实施例仅仅是示例，并且其他实施例可以采取各种替代形式。附图不一定按比例绘制；某些功能可能被夸大或最小化以显示特定部件的细节。因此，本文公开的具体结构和功能细节不应被解释为限制性的，而仅仅是作为用于教导本领域技术人员以各种方式使用本发明的代表性基础。如本领域普通技术人员将理解的，参考任何一个附图所示出和描述的各种特征可以与一个或多个其他附图中所示的特征组合以产生没有明确示出或描述的实施例。所示特征的组合为典型应用提供了代表性实施例。然而，与本公开的教导相一致的特征的各种组合和修改对于某些特定应用或实施方式可能是期望的。

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明实施例进一步详细说明。

对终端设备的计算性能的检测衡量，一般包括CPU核心或嵌入式计算核心的处理能力、视频解码能力等。随着异构计算设备的出现、视频硬解码能力的提高、深度学习算法的出现及不断发展，针对传统设备的性能测试方法已不能涵盖服务器在视频监控领域所关注的指标参数。于是，综合研究方向，收集前期的客户需求和项目有效经验，针对上述深度学习场景的特殊需求，提出一种基于智能视频应用的服务器性能测试方法，该方法针对安防领域的智能视频应用，根据其一整套流程中涉及服务器性能的相关算法实现剥离并封装成测试方案。

本发明的实施例一方面提出了一种基于智能视频应用的服务器性能测试方法，如图2所示，包括以下步骤：

步骤201：对多路视频进行硬解码处理，以确定可以在满足帧率要求的情况下解码的视频路数范围；以及

步骤203：开启多进程以同时运行解码及智能视频处理深度学习算法，并依次输入所述范围内的视频路数，以确定在满足帧率、处理延迟的情况下可以同时解码的最大视频路数。

在计算机上播放的视频文件都是经过压缩的，因为这样有利于节约存储空间，所以在播放时就需要一个解压缩的过程。在以前这项工作都是由 CPU来完成的，对于普通分辨率的文件，绝大多数的CPU都可以胜任。但当视频发展到1080P分辨率之后，数据解压缩的工作量比以前翻了数倍，这使得CPU很难完成该任务。随着技术的发展，人们发现显卡的GPU/VPU 要比CPU更适合这类大数据量、低难度的重复工作。视频解码工作从处理器那里分离出来，交给显卡去做，这就叫做“硬解码”。即，视频的硬解码是指视频的处理过程主要在GPU设备上完成，其硬解码性能比较好。在根据本发明的一个实施例中，首先利用视频处理软件实现在GPU上对所述多路视频进行硬解码处理，例如利用ffmpeg和NVIDIA4CODEC SDK对1080P分辨率的摄像机视频进行硬解码。ffmpeg是一套可以用来记录、转换数字音频、视频，并能将其转化为流的开源计算机程序；NVIDIA CODEC SDK是基于GPU的硬件编码器，其包括一整套API、示例和文档，用于在Windows和Linux上进行硬件加速视频编码和解码。应当理解，可用于对视频进行硬解码的其他视频处理软件也能够用于本发明。

基于目前***环境复杂，机器平台种类多样，根据本发明的优选实施例将选择较为通用的ubuntu***及AGX-2平台，GPU型号为Tesla P4，其中，采用的基础软件框架为cuda9.2、GPU driver version 410.72、ffmpeg 4.1、Tensorflow 1.9，当然符合本发明的其他软件框架也是可能的。其中，视频的详细信息如表1所示。

表1

将上述视频在***中利用ffmpeg结合NVIDIA GPU做硬解码，对多路视频进行解码处理。根据本发明的一个实施例，在多路视频的解码过程中，通过相应的程序调用并行计算库中的函数来控制多个进程的并发执行，以保证GPU同时做解码处理，其中，该并行计算库可以包括MPI(Message Passing Interface，信息传递接口)、OpenMPI、PyMPI等。最终测试得到的结果如表2所示：

表2

从表2中可以看出，在满足帧率为30fps效率时，其测试最大并发视频路数在15～18路。

然后，在第一步得出的视频路数范围的基础上，进行视频的硬解码以及基于深度学习算法的智能视频处理并发测试。在根据本发明的一个实施例中，基于深度学习算法的智能视频处理为人脸识别应用。当然应当理解，智能视频处理也可以涉及安检中的违禁物体识别、人脸识别、车牌识别、行为分析、视频结构化等等中的任何一种或多种。该实施例中，在上述的基础环境中部署FaceNet工程，FaceNet工程是根据谷歌论文《FaceNet:AUnified Embedding for Face Recognition and Clustering》完成，目前工程的代码是开源的，依赖的深度学习框架是TensorFlow深度学习框架。此项测试中，利用多任务卷积神经网络(MTCNN网络)先对解码得到图像帧做人脸检测，然后将检测得到的人脸图像放入轻量化卷积神经网络(例如 squeezenet网络等)中做识别，当然符合本发明的其他深度学习框架和网络也是可能的。测试完成后，按照传入人脸的数目以及得到结果的延迟来获得可同时解码的最大视频路数。在一个实施例中，所述测试中利用MPI 多进程运行管理机制同时执行视频的解码与人脸识别，并将视频路数与人脸数目做匹配，按照每一帧图像1～3张人脸、每一路视频每秒钟抽取3帧左右图像进行测试。整个环节的测试结果如表3所示。

表3

业界认为的满足流畅性的解码帧率在30fps左右，0.36s的延迟满足工业界人脸实时识别的需求，整套流程测试完毕后可得到该款AI服务器和 P4GPU最多可以做到16路1080P视频的解码及智能视频的人脸识别。

在技术上可行的情况下，以上针对不同实施例所列举的技术特征可以相互组合，或者改变、添加以及省略等等，从而形成本发明范围内的另外实施例。

从上述实施例可以看出，本发明实施例提供的一种基于智能视频应用的服务器性能测试方法针对安防智能视频场景中现阶段常用的深度学***台的应用效率。

本发明实施例的又一方面提出了一种基于智能视频应用的服务器性能测试***的一个实施例。所述基于智能视频应用的服务器性能测试***包括至少一个处理器和存储器，存储器存储有可在处理器上运行的计算机程序，处理器执行程序时执行上述任意一种方法。在根据本发明的实施例中，上述方法的整体架构为：视频解码、基于深度学习算法的智能视频处理(在上述实施例中为人脸识别)。于是该***中存储的计算机程序架构为并发调用视频解码程序和智能视频处理程序，即基于MPI的主程序将上述视频解码程序和智能视频处理程序用多进程并发调用来执行。调用程序如下所示，其中python后面的py文件为主程序的位置和名称。

int main(int argc,char**argv)

{

MPI_Init(&argc,&argv)；

int num_procs；

MPI_Comm_size(MPI_COMM_WORLD,&num_procs)；

int num_rank；

MPI_Comm_rank(MPI_COMM_WORLD,&num_rank)；

if(num_rank<＝(num_procs-1))

{

printf("this is thread％d,processing ffmpeg.\n",num_rank)；

sleep(8)；

system("CUDA_VISIBLE_DEVICES＝1python./ffmpeg_image.py")；

}

//if(num_rank＝＝(num_procs-1))

//{

//printf("this is thread％d,processing facenet.\n",num_rank)；

//system("CUDA_VISIBLE_DEVICES＝1

python./real_time_face_recognize.py")；

//}

MPI_Barrier(MPI_COMM_WORLD)；

printf("Hellow,world！％dth of totalTaskNum＝％d\n",num_rank, num_procs)；

MPI_Finalize()；

return 0；

}

应当理解，本发明实施例公开的保护范围不应限定为上述实施例中所述的某种特定类型的平台、设备和软件架构。本发明可以较为方便的扩展到不同平台、***及其它硬件设备，目前深度学***台上进行拓展。AI深度学***台的应用效率。

最后需要说明的是，本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关硬件来完成，所述的程序可存储于计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(ROM)或随机存储记忆体(RAM)等。

此外，本发明实施例公开的保护范围不应限定为某种特定类型的装置、设备。本领域技术人员还将明白的是，结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性，已经就各种示意性组件、方块、模块、电路和步骤的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个***的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现所述的功能，但是这种实现决定不应被解释为导致脱离本发明实施例公开的范围。

在一个或多个示例性设计中，所述功能可以在硬件、软件、固件或其任意组合中实现。如果在软件中实现，则可以将所述功能作为一个或多个指令或代码存储在计算机可读介质上或通过计算机可读介质来传送。计算机可读介质包括计算机存储介质和通信介质，该通信介质包括有助于将计算机程序从一个位置传送到另一个位置的任何介质。存储介质可以是能够被通用或专用计算机访问的任何可用介质。作为例子而非限制性的，该计算机可读介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储设备、磁盘存储设备或其它磁性存储设备，或者是可以用于携带或存储形式为指令或数据结构的所需程序代码并且能够被通用或专用计算机或者通用或专用处理器访问的任何其它介质。此外，任何连接都可以适当地称为计算机可读介质。例如，如果使用同轴线缆、光纤线缆、双绞线、数字用户线路(DSL)或诸如红外线、无线电和微波的无线技术来从网站、服务器或其它远程源发送软件，则上述同轴线缆、光纤线缆、双绞线、DSL 或诸如红外线、无线电和微波的无线技术均包括在介质的定义。如这里所使用的，磁盘和光盘包括压缩盘(CD)、激光盘、光盘、数字多功能盘(DVD)、软盘、蓝光盘，其中磁盘通常磁性地再现数据，而光盘利用激光光学地再现数据。上述内容的组合也应当包括在计算机可读介质的范围内。

以上是本发明公开的示例性实施例，但是应当注意，在不背离权利要求限定的本发明实施例公开的范围的前提下，可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外，尽管本发明实施例公开的元素可以以个体形式描述或要求，但除非明确限制为单数，也可以理解为多个。

应当理解的是，在本文中使用的，除非上下文清楚地支持例外情况，单数形式“一个”旨在也包括复数形式。还应当理解的是，在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。

上述本发明实施例公开实施例序号仅仅为了描述，不代表实施例的优劣。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器、磁盘或光盘等。

上述优选实施例是实施方式的可能示例，并且仅仅为了清楚理解本发明的原理而提出。所属领域的普通技术人员应当理解：以上任何实施例的讨论仅为示例性的，并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子；在本发明实施例的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，并存在如上所述的本发明实施例的不同方面的许多其它变化，为了简明它们没有在细节中提供。因此，凡在本发明实施例的精神和原则之内，所做的任何省略、修改、等同替换、改进等，均应包含在本发明实施例的保护范围之内。

Claims (10)

1.一种基于智能视频应用的服务器性能测试方法，其特征在于，包括以下步骤：

对多路视频进行硬解码处理，以确定可以在满足帧率要求的情况下解码的视频路数范围；以及

开启多进程以同时运行解码及智能视频处理深度学习算法，并依次输入所述范围内的视频路数，以确定在满足帧率、处理延迟的情况下可以同时解码的最大视频路数。

2.根据权利要求1所述的方法，其特征在于，对多路视频进行硬解码处理，以确定可以在满足帧率要求的情况下解码的视频路数范围包括：利用视频处理软件实现在GPU上对所述多路视频进行硬解码处理。

3.根据权利要求1所述的方法，其特征在于，对多路视频进行硬解码处理，以确定可以在满足帧率要求的情况下解码的视频路数范围还包括：在对所述多路视频进行硬解码处理的过程中，基于并行计算库来控制多个进程的并发执行。

4.根据权利要求1所述的方法，其特征在于，所述智能视频处理深度学习算法包括依赖TensorFlow深度学习框架的FaceNet工程，以进行人脸识别检测。

5.根据权利要求4所述的方法，其特征在于，开启多进程以同时运行解码及智能视频处理深度学习算法，并依次输入所述范围内的视频路数，以确定在满足帧率、处理延迟的情况下可以同时解码的最大视频路数包括：基于并行计算库控制多个进程的并发执行以同时执行视频的解码与人脸识别。

6.根据权利要求5所述的方法，其特征在于，开启多进程以同时运行解码及智能视频处理深度学习算法，并依次输入所述范围内的视频路数，以确定在满足帧率、处理延迟的情况下可以同时解码的最大视频路数还包括：利用多任务卷积神经网络先对解码得到图像帧做人脸检测，然后将检测得到的人脸的图像放入轻量化卷积神经网络中做识别，最后按照传入的所述人脸数目以及得到结果的延迟来获得可以同时解码的最大视频路数。

7.根据权利要求6所述的方法，其特征在于，开启多进程以同时运行解码及智能视频处理深度学习算法，并依次输入所述范围内的视频路数，以确定在满足帧率、处理延迟的情况下可以同时解码的最大视频路数还包括：将所述视频路数与所述人脸数目做匹配，按照每一帧图像1～3张人脸、每一路视频每秒钟抽取3帧的图像进行测试。

8.一种基于智能视频应用的服务器性能测试***，其特征在于，包括：

至少一个处理器；以及

存储器，所述存储器存储有可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时执行如权利要求1-7任意一项所述的方法。

9.根据权利要求8所述的***，其特征在于，所述***部署在搭载Linux***的平台上。

10.根据权利要求9所述的***，其特征在于，所述平台为异构计算平台。