CN115103215A - 直播的质检方法、***、Web服务器及存储介质 - Google Patents

直播的质检方法、***、Web服务器及存储介质 Download PDF

Info

Publication number
CN115103215A
CN115103215A CN202210682583.5A CN202210682583A CN115103215A CN 115103215 A CN115103215 A CN 115103215A CN 202210682583 A CN202210682583 A CN 202210682583A CN 115103215 A CN115103215 A CN 115103215A
Authority
CN
China
Prior art keywords
data stream
live
live broadcast
monitor
quality inspection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210682583.5A
Other languages
English (en)
Other versions
CN115103215B (zh
Inventor
李皓鸣
陈礼和
郑海伦
柳畅
徐晓冬
朱德泉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Merchants Bank Co Ltd
Original Assignee
China Merchants Bank Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Merchants Bank Co Ltd filed Critical China Merchants Bank Co Ltd
Priority to CN202210682583.5A priority Critical patent/CN115103215B/zh
Publication of CN115103215A publication Critical patent/CN115103215A/zh
Application granted granted Critical
Publication of CN115103215B publication Critical patent/CN115103215B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35Clustering; Classification
    • G06F16/353Clustering; Classification into predefined classes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

本发明公开了一种直播的质检方法、***、Web服务器及存储介质。该方法包括:获取直播数据流;通过异步帧分发队列将所述直播数据流分发至对应的监测器;通过所述直播数据流对应的监测器监测所述直播数据流;若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。本发明提出了一种灵活的直播质检方法,实现了直播质检的多线程并行,提高了直播质检的亲和度。

Description

直播的质检方法、***、Web服务器及存储介质
技术领域
本发明涉及音视频处理技术领域,尤其涉及一种直播的质检方法、***、Web服务器及存储介质。
背景技术
当前音视频处理领域,涌现了一大批诸如huffyuv、WebRTC(Web Real-TimeCommunication,网页即时通信)、live555等音视频实现库。作为该领域开发技术的佼佼者,FFmpeg(Fast Forward Mpeg,快进Mpeg)凭借着活跃的社区氛围,健全的协议支持,强大的功能覆盖,灵活的开发入口,成为音视频开发者的首选。借助FFmpeg提供的丰富命令指令及有向无环图模型设计,开发人员可以将业务需求以封装、编解码、滤波等基础操作为节点,拆解为DAG(DirectedAcyclic Graph,有向无环图);音视频数据由DAG入口输入,并由出度为0的节点输出处理结果,以此实现直播质检。该方式的工作环境只需安装FFmpeg即可,开发人员只需要将需求转换为一条shell指令即可。但是该方式存在灵活性不足的缺点,开发人员只能采用FFmpeg提供的一些基础构件,高阶自定义逻辑不易接入;在业务复杂度稍高时,需求拆解繁琐,指令拼接不便。
发明内容
本发明实施例的主要目的在于提供一种直播的质检方法、***、Web服务器及存储介质,提出了一种灵活的直播质检方法,实现了直播质检的多线程并行,提高了质检效率。
为实现上述目的,本发明实施例提供一种直播的质检方法,所述直播的质检方法包括:
获取直播数据流;
通过异步帧分发队列将所述直播数据流分发至对应的监测器;
通过所述直播数据流对应的监测器监测所述直播数据流;
若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。
可选地,所述通过异步帧分发队列将所述直播数据流分发至对应的监测器的步骤包括:
若所述直播数据流只含视帧信息,则通过所述异步帧分发队列将所述直播数据流分发至视帧监测器;
若所述直播数据流只含音帧信息,则通过所述异步帧分发队列将所述直播数据流分发至音帧监测器;
若所述直播数据流包含视帧信息、音帧信息,则通过所述异步帧分发队列将所述直播数据流分发至复合监测器。
可选地,所述获取直播数据流的步骤之前包括:
判断所述直播数据流对应的直播是否准时开播;
若所述直播数据流对应的直播未准时开播,则判断所述直播数据流对应的直播是否为旷播;
若所述直播数据流对应的直播不是旷播,则确定所述直播数据流对应的直播为迟播,并将所述直播数据流对应的直播迟播的信息输出。
可选地,所述通过所述直播数据流对应的监测器监测所述直播数据流的步骤之后包括:
判断所述直播数据流是否连续;
若所述直播数据流连续,则持续监测所述直播数据流;
若监测到所述直播数据流停止,则停止监测所述直播数据流。
可选地,所述获取直播数据流的步骤之后包括:
读取所述直播数据流的评论,得到第一评论集;
若所述第一评论集包含预设信息,则检测所述直播数据流,得到预设数据,并获取所述预设数据的场景信息;
将所述预设数据及其场景信息输出。
可选地,所述读取所述直播数据流的评论,得到第一评论集的步骤之后包括:
对所述第一评论集进行分类,得到分类结果;
根据所述分类结果对所述第一评论集对应的用户赋予标签,以根据所述标签确定所述第一评论集对应的用户的处置策略。
可选地,所述通过异步帧分发队列将所述直播数据流分发至对应的监测器的步骤之前包括:
对所述直播数据流进行解码,得到解码信息;
若所述直播数据流携带解码信息,则通过所述异步帧分发队列将所述直播数据流分发至复合监测器。
此外,为实现上述目的,本发明还提供一种直播的质检***,所述***包括:
获取模块,用于获取直播数据流;
分发模块,用于通过异步帧分发队列将所述直播数据流分发至对应的监测器;
监测模块,用于通过所述直播数据流对应的监测器监测所述直播数据流;
输出模块,用于若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。
此外,为实现上述目的,本发明还提供一种Web服务器,所述Web服务器包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的直播的质检方法,所述直播的质检的程序被所述处理器执行时实现如上所述的直播的质检方法的步骤。
此外,为实现上述目的,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有直播的质检的程序,所述直播的质检的程序被处理器执行时实现如上所述的直播的质检方法的步骤。
本发明实施例提出的直播的质检方法、***、Web服务器及存储介质,获取直播数据流;通过异步帧分发队列将所述直播数据流分发至对应的监测器;通过所述直播数据流对应的监测器监测所述直播数据流;若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。本发明通过异步帧分发队列将直播数据流分发至对应的监测器,以通过不同的监测器监测不同类型的直播数据流,以此实现直播质检的多线程并行,当监测器监测到直播数据流有异常数据时,输出异常数据,以使用户知晓直播的异常情况,及时进行调整,保障直播的正常运行。本发明提出了一种灵活的直播质检方法,实现了直播质检的多线程并行,提高了质检效率。
附图说明
图1为本发明直播的质检方法在Web服务器上的部署示意图;
图2为本发明直播的质检方法第一实施例的流程示意图;
图3为本发明直播的质检方法检测生命周期的示意图;
图4为本发明直播的质检方法直播评论分析的第一示意图;
图5为本发明直播的质检方法直播评论分析的第二示意图;
图6为本发明直播的质检方法第四实施例的流程示意图;
图7为本发明直播的质检***的功能模块示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明实施例的主要解决方案是:获取直播数据流;通过异步帧分发队列将所述直播数据流分发至对应的监测器;通过所述直播数据流对应的监测器监测所述直播数据流;若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。
本发明实施例涉及的技术术语:
鲁棒性:鲁棒是Robust的音译,也就是健壮和强壮的意思。它也表示在异常和危险情况下***生存的能力。比如说,计算机软件在输入错误、磁盘故障、网络过载或有意攻击情况下,能否不死机、不崩溃,就是该软件的鲁棒性。所谓“鲁棒性”,也是指控制***在一定(结构,大小)的参数摄动下,维持其它某些性能的特性。根据对性能的不同定义,可分为稳定鲁棒性和性能鲁棒性。以闭环***的鲁棒性作为目标设计得到的固定控制器称为鲁棒控制器。
JavaCV:JavaCV是一款基于JavaCPP调用方式(JNI的一层封装),由多种开源计算机视觉库组成的包装库,封装了包含FFmpeg、OpenCV、tensorflow、caffe、tesseract、libdc1394、OpenKinect、videoInput和ARToolKitPlus等在内的计算机视觉领域的常用库和实用程序类。
huffyuv:huffyuv是一个无损视频压缩编码方法,由Ben Rudiak-Gould发明,用于替代无压缩的YCbCr作为采集格式。
WebRTC:(Web Real-Time Communication,网页即时通信),是一个支持网页浏览器进行实时语音对话或视频对话的API。
live555:是一个为流媒体提供解决方案的跨平台的C++开源项目,它实现了对标准流媒体传输协议如RTP/RTCP、RTSP、SIP等的支持。live555实现了对多种音视频编码格式的音视频数据的流化、接收和处理等支持,包括MPEG、H.263+、DV、JPEG视频和多种音频编码。同时由于良好的设计,Live555非常容易扩展对其他格式的支持。live555已经被用于多款播放器的流媒体播放功能的实现,如VLC(VideoLan)、MPlayer。
FFmpeg:(Fast Forward Mpeg,快进Mpeg)FFmpeg是一套可以用来记录、转换数字音频、视频,并能将其转化为流的开源计算机程序。采用LGPL或GPL许可证。它提供了录制、转换以及流化音视频的完整解决方案。它包含了非常先进的音频/视频编解码库libavcodec,为了保证高可移植性和编解码质量,libavcodec里很多code都是从头开发的。FFmpeg在Linux平台下开发,但它同样也可以在其它操作***环境中编译运行,包括Windows、Mac OS X等。
DAG:(DirectedAcyclic Graph,有向无环图),是图论中的一种图结构,由有限个顶点及“有向边”组成,从任意顶点出发,经过若干条有向边,都无法回到出发顶点。
shell:在计算机科学中,shell俗称壳(用来区别于核),是指“为使用者提供操作界面”的软件(command interpreter,命令解析器)。它类似于DOS下的COMMAND.COM和后来的cmd.exe。它接收用户命令,然后调用相应的应用程序。
API:(Application Programming Interface,应用程序接口),API之主要目的是提供应用程序与开发人员以访问一组例程的能力,而又无需访问源码,或理解内部工作机制的细节。提供API所定义的功能的软件称作此API的实现。API是一种接口,故而是一种抽象。
ASR:(Automatic Speech Recognition,自动语音识别技术),是一种将人的语音转换为文本的技术。
直播质检的检测效果依赖于音视频领域的技术选型。当前在音视频处理领域,各厂家提出的音视频协议多种多样,涌现了一大批诸如huffyuv、WebRTC、live555等音视频实现库,随着音视频硬件的发展与普及,各种方案不断更新换代。而作为该领域开发技术的佼佼者,FFmpeg活跃的社区氛围,健全的协议支持,强大的功能覆盖,灵活的开发入口,成为音视频开发者的首选。在直播质检领域,FFmpeg凭借强大的音视频处理能力成为业界直播质检的中流砥柱。目前,针对直播质检的解决方案主要有以下三类:
(1)基于WebRTC工具开发
WebRTC集成音视频采集、编解码、传输、展示等全线功能,并被纳入H5标准,受到广大开发者的青睐。但该技术也存在着传输质量不稳定、协议兼容不全面、等明显的不足,有待进一步完善与发展。
(2)基于FFmpeg指令集开发
借助FFmpeg提供的丰富命令行指令及有向无环图模型设计,开发人员可以将业务需求以封装、编解码、滤波等基础操作为节点,拆解为DAG。音视频数据由DAG入口输入,并由出度为0的节点输出处理结果。该方式工作环境只需安装FFmpeg即可;开发简便,开发人员只需要将需求转换为一条shell指令即可。但是该方式也存在明显的缺点:首先灵活性不足,开发人员只能采用FFmpeg提供的一些基础构件,高阶自定义逻辑不易接入;在业务复杂度稍高时,需求拆解繁琐,指令拼接不便;音视频数据流在DAG中流动相对黑盒,不易掌控,与外部***交互不便。
(3)基于FFmpeg API的开发
为了更加灵活地处理音视频数据,一部分开发者选择了通过FFmpeg原生API的方式进行开发。该技术方案赋予了开发者极大的开发自由度,但是由于原生的API过于零散,需要开发者关注的技术细节多,开发成本高,项目周期长。另外一些音视频高级开发者,在原生FFmpeg的基础上,通过进一步的封装,以开源类库的方式提供高阶API Wrapper。降低开发者的开发门槛,加速业务价值的实现。比较典型的方案是融入计算机视觉生态的Python Wrapper,该方案为音视频应用场景带来了更大的想象空间。但由于直播质检对高性能的需求,借助Python Wrapper会牺牲一部分性能指标。同时,目前大多数企业服务都是架构在Java服务上,在环境设备、服务运维上,借助Java Wrapper的方案更符合企业的发展方向。
本发明提供一种较灵活的直播质检方法,实现了直播质检的多线程并行,提高了质检效率。
具体地,参照图1,图1是本发明直播的质检方法在Web服务器上的部署示意图,本发明直播的质检方法以软件包形式部署于Web服务器上,并提供前端页面。用户可以通过具有数据处理能力的智能移动终端、固定终端设备访问以使用。
在本实施例中,该直播质检方案部署至少包括展示输出模块110、API输出120、直播质检模块130。
直播质检模块130实现了直播质检的核心算法、逻辑;展示输出模块110为基于现代浏览器的Web页面。API输出模块120会向外部暴露直播质检数据,供外部进行自定义的数据展示或二次开发。
其中,直播质检模块130被执行时实现以下步骤:
获取直播数据流;
通过异步帧分发队列将所述直播数据流分发至对应的监测器;
通过所述直播数据流对应的监测器监测所述直播数据流;
若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。
进一步地,直播质检模块130被执行时还实现以下步骤:
若所述直播数据流只含视帧信息,则通过所述异步帧分发队列将所述直播数据流分发至视帧监测器;
若所述直播数据流只含音帧信息,则通过所述异步帧分发队列将所述直播数据流分发至音帧监测器;
若所述直播数据流包含视帧信息、音帧信息,则通过所述异步帧分发队列将所述直播数据流分发至复合监测器。
进一步地,直播质检模块130被执行时还实现以下步骤:
判断所述直播数据流对应的直播是否准时开播;
若所述直播数据流对应的直播未准时开播,则判断所述直播数据流对应的直播是否为旷播;
若所述直播数据流对应的直播不是旷播,则确定所述直播数据流对应的直播为迟播,并将所述直播数据流对应的直播迟播的信息输出。
进一步地,直播质检模块130被执行时还实现以下步骤:
判断所述直播数据流是否连续;
若所述直播数据流连续,则持续监测所述直播数据流;
若监测到所述直播数据流停止,则停止监测所述直播数据流。
进一步地,直播质检模块130被执行时还实现以下步骤:
读取所述直播数据流的评论,得到第一评论集;
若所述第一评论集包含预设信息,则检测所述直播数据流,得到预设数据,并获取所述预设数据的场景信息;
将所述预设数据及其场景信息输出。
进一步地,直播质检模块130被执行时还实现以下步骤:
对所述第一评论集进行分类,得到分类结果;
根据所述分类结果对所述第一评论集对应的用户赋予标签,以根据所述标签确定所述第一评论集对应的用户的处置策略。
进一步地,直播质检模块130被执行时还实现以下步骤:
对所述直播数据流进行解码,得到解码信息;
若所述直播数据流携带解码信息,则通过所述异步帧分发队列将所述直播数据流分发至复合监测器。
本实施例通过上述方案,通过获取直播数据流;通过异步帧分发队列将所述直播数据流分发至对应的监测器;通过所述直播数据流对应的监测器监测所述直播数据流;若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。本发明提出了一种灵活的直播质检方法,实现了直播质检的多线程并行,提高了直播质检的亲和度。
基于上述Web服务器架构但不限于上述架构,提出本发明方法实施例。
参照图2,图2为本发明直播的质检方法第一实施例的流程示意图。所述直播的质检方法包括:
步骤S101,获取直播数据流。
本实施例方法的执行主体可以是一种具有数据处理能力的智能移动终端、固定Web服务器,本实施例方法以软件包形式部署于Web服务器上,并提供前端页面。本实施例基于JavaCV作为技术方案基石,通过运用FFmpeg、OpenCV等底层库进行业务逻辑的高阶自定义,可以实现对直播多模态内容的实时质检。相较于C、Python Wrapper的方式,本实施例方案对企业服务器开发有着更好的亲和度,可以充分利用Java生态服务的能力来拓展音视频场景边界。
本实施例方案提出了一种灵活的直播质检方法,应用于直播的质检***,直播的质检***以软件包形式部署于Web服务器上,在主播创建直播任务后,直播的质检***会为该直播任务分配监测资源并创建监测器,监测器包括黑屏监测器、模糊监测器、静场监测器、亮度监测器、二维码监测器、图像审核监测器、花屏监测器、凝固监测器、静音监测器、语音审核监测器,该直播的质检***集成了实时ASR、图像审核、文本分析等高阶算法;直播的质检***可根据实时ASR分析直播的音频信号,根据图像审核算法分析直播的视频图像,根据文本分析算法分析直播的评论文字。在主播开播后,获取主播的直播数据流,以对直播数据流进行分析、审核,保障直播的顺利进行。
其中,步骤S101之前包括:
步骤A1,判断所述直播数据流对应的直播是否准时开播。
步骤A2,若所述直播数据流对应的直播未准时开播,则判断所述直播数据流对应的直播是否为旷播。
步骤A3,若所述直播数据流对应的直播不是旷播,则确定所述直播数据流对应的直播为迟播,并将所述直播数据流对应的直播迟播的信息输出。
在本实施例中,在主播创建直播任务后,直播的质检***会为该直播任务分配监测资源并创建监测器,通过监测器对主播的直播任务进行开播监测。首先,根据直播数据流的开始时间判断直播数据流对应的直播是否准时开播,其中,直播的预设开始时间在创建直播任务时已经设置完毕,若直播数据流的开始时间满足预设开始时间,则确定直播数据流对应的直播准时开播,并将直播数据流对应的直播准时开播的信息输出,以供运营人员知晓直播情况。若直播数据流的开始时间不满足预设开始时间,则确定直播数据流对应的直播未准时开播。
进一步地,判断直播数据流对应的直播是否为迟播,若直播数据流在预设时间内未开始,则确定直播数据流对应的直播为迟播,并将迟播的信息通过即时通讯模块、数据展示模块输出,以供运营人员知晓直播情况,对相应的直播主播进行关注。若直播间迟播后,在预设迟播容忍时间内仍未开播,则确定直播数据流对应的直播为旷播,并将旷播信息通过即时通讯模块、数据展示模块输出,以供运营人员知晓直播情况,对相应的直播主播进行管控;其中,预设迟播容忍时间可根据实际情况进行设置。
步骤S102,通过异步帧分发队列将所述直播数据流分发至对应的监测器。
步骤S103,通过所述直播数据流对应的监测器监测所述直播数据流。
在本实施例中,通过异步帧分发队列将直播数据流分发至直播数据流对应的监测器抽象层;再由各监测器抽象层对应的分发队列将监测器获取的直播数据流分发至直播数据流对应的监测器,以通过直播数据流对应的监测器监测直播数据流。
由于异步帧分发队列具有可对多种类型的信息同时进行分发的特性,由此,通过异步帧分发队列分发直播数据流,提高了直播数据流的分发效率;通过直播数据流对应的监测器监测直播数据流,保证了监测过程的单一性、准确性,提高了监测效率。
其中,步骤S102之前包括:
步骤B1,对所述直播数据流进行解码,得到解码信息。
在本实施例中,通过监测器抽象层进行直播数据流的帧的解封装与解码,得到解码信息,并将直播数据流包含的音帧信息、视帧信息写入异步帧分发队列,以通过异步帧分发队列将直播数据流分发至各自对应的监测器。
其中,步骤S103之后包括:
步骤C1,判断所述直播数据流是否连续。
步骤C2,若所述直播数据流连续,则持续监测所述直播数据流。
步骤C3,若监测到所述直播数据流停止,则停止监测所述直播数据流。
在本实施例中,直播的质检***对直播数据流进行监测后,判断直播数据流是否连续,若直播数据流不连续,即推流中断,则检出断流异常,并将直播数据流推流中断的信息输出,以供运营人员根据推流中断信息对直播进行调整。若调整后直播恢复了推流,则数据展示模块将断流异常从当前异常中移入历史异常,表示断流恢复。若监测到直播数据流停止,即推流停止,则停止监测直播数据流,结束监测,直播数据流对应的直播结束。
步骤S104,若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。
在本实施例中,若直播数据流对应的监测器监测到直播数据流有异常数据,则输出异常数据,以供运营人员和/或主播知晓直播故障,及时根据异常数据对应的问题进行调整。若直播数据流对应的监测器监测到直播数据流无异常情况,则将直播数据流发放至资源回收层,通过资源回收层的资源回收组件进行统一回收释放,降低运行压力。
需要说明的是,对于各类异常,直播数据流对应的监测器不止报告监测到的异常数据、异常数据的异常类型,还包含该异常发生的时间、持续的时长、即时直播截图等。为增加异常场景检出的灵活性与鲁棒性,各场景的研判指标、持续时长阈值皆可灵活配置。同时,直播数据流对应的监测器维护了异常从开始到结束的完整生命周期,以黑场持续4帧检出的设置为例,生命周期如图3所示。其中0表示正常;1表示黑场异常监测到;2表示黑场异常监测到,但是没有达到用户配置帧数(或时长)阈值,其中,用户配置帧数(或时长)阈值可根据用户需求进行设置,以增强场景检出的鲁棒性;3表示恰好达到用户配置帧数阈值;4表示已超出用户配置帧数;5表示场景已经结束,目前已恢复正常。所有异常数据的相关信息诸如时间截图等都会知会观察者组件,以通过观察者组件将异常数据的相关信息输出至运营人员和/或主播;其中,在直播质检任务初始化前,通过注入自定义观察者组件,可方便追踪异常的全部流程并进行处理。可以理解的是,当异常画面/音频播放的时长满足用户配置帧数(或时长)阈值,则代表当前直播片段出现异常;通过对观察者组件进行自定义观察者组件可外接组件,可以实现***功能上良好的拓展性,以此提高直播的质检***的亲和度。
本实施例通过上述方案,通过获取直播数据流;通过异步帧分发队列将所述直播数据流分发至对应的监测器;通过所述直播数据流对应的监测器监测所述直播数据流;若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。本发明提出了一种灵活的直播质检方法,通过异步帧分发队列分发直播数据流,提高了直播数据流的分发效率;通过直播数据流对应的监测器监测直播数据流,保证了监测过程的单一性、准确性,提高了监测效率;通过观察者组件外接组件,提高了直播质检的亲和度。
基于上述图2所示的实施例,提出本发明直播的质检方法的第二实施例。在本实施例中,步骤S102:通过异步帧分发队列将所述直播数据流分发至对应的监测器包括:
步骤S1021,若所述直播数据流只含视帧信息,则通过所述异步帧分发队列将所述直播数据流分发至视帧监测器。
步骤S1022,若所述直播数据流只含音帧信息,则通过所述异步帧分发队列将所述直播数据流分发至音帧监测器。
步骤S1023,若所述直播数据流包含视帧信息、音帧信息,则通过所述异步帧分发队列将所述直播数据流分发至复合监测器。
作为一种实施方式,在本实施例中,由于直播数据流包含的信息不一定相同,因此,为了提高监测器的监测效率,根据直播数据流包含的信息的类型,通过异步帧分发队列将直播数据流分发至对应的监测器。
具体地,通过监测器抽象层进行直播数据流的帧的解封装与解码,得到解码信息,并将直播数据流包含的音帧信息、视帧信息写入异步帧分发队列,以通过异步帧分发队列将各模态数据流分发至各自对应的监测器。
直播数据流中的视帧信息通过异步帧分发队列分发至视帧监测器抽象层,视帧监测器抽象层对直播数据流进行消费,进一步解码为图像并通过图像分发队列将视帧像素信息分发至各视帧监测器,其中,视帧监测器包括黑屏监测器、模糊监测器、静场监测器、亮度监测器、二维码监测器、图像审核监测器;图像分发队列为异步帧分发队列。各视帧监测器内置了不同的计算机视觉、图像审核算法研判直播数据流是否检出异常,检测结果由观察者组件捕获,并将相应的检测结果报送质检人员和/或运营人员和/或主播。例如,视帧监测器通过计算机视觉、图像审核算法研判直播数据流是否出现静场、模糊、亮度、黑屏、内容违规的情况,并将检测结果报送质检人员和/或运营人员和/或主播。
需要说明的是,为提升直播的质检***的***性能,所有分发只拷贝引用,而不拷贝内存数据,并使用并发组件对潜在的图像数据并发访问场景进行管理,以此大幅提高内存利用率。
直播数据流中的音帧信息,通过异步帧分发队列分发至音帧监测器抽象层,音帧监测器抽象层对直播数据流进行消费,进一步解码为音频并通过音帧分发队列将音帧采样信息分发至各音帧监测器,其中,音帧监测器包括静音监测器、语音审核监测器;音帧分发队列为异步帧分发队列。各音帧监测器内置了计算机听觉、实时ASR、语音审核算法研判直播数据流是否检出异常,检测结果由观察者组件捕获,并将相应的检测结果报送质检人员和/或运营人员和/或主播。例如,音帧监测器通过实时ASR算法研判直播数据流是否出现静音、主播发言违规的情况,并将检测结果报送质检人员和/或运营人员和/或主播。
需要说明的是,为提升直播的质检***的***性能,所有分发只拷贝引用,而不拷贝内存数据,并使用并发组件对潜在的音频数据并发访问场景进行管理,以此大幅提高内存利用率。
针对需要综合分析音频视频,及一些解码信息下的场景由复合监测器抽象层进行,复合监测器抽象层对直播数据流进行消费,进一步解码并通过复合帧分发队列将复合监测器抽象层获取的直播数据流的视帧像素信息、视帧解码信息(码率、编码方式、帧率、关键帧等)、音帧采样信息、音帧解码信息(采样率、声道数等)分发至各复合监测器,其中,复合监测器包括花屏监测器、凝固监测器;复合帧分发队列为异步帧分发队列。复合监测器通过计算机视觉、计算机听觉、自然语言处理、音视频编解码、图像审核、语音审核等算法研判直播数据流是否检出异常,得到检测结果,并将相应的检测结果报送质检人员和/或运营人员和/或主播。例如,复合监测器通过计算机视觉、计算机听觉算法研判直播数据流是否出现凝固情况;通过监测直播中是否存在码率骤降、GoP拉长等研判直播数据流是否出现花屏情况,并将检测结果报送质检人员和/或运营人员和/或主播。只要不能单纯的凭借只有视帧、只有音帧进行判断的监测器,都需要分发至复合监测器进行接入处理。
需要说明的是,为提升直播的质检***的***性能,所有分发只拷贝引用,而不拷贝内存数据,并使用并发组件对潜在的数据并发访问场景进行管理,以此大幅提高内存利用率,在单位时间内允许***承载更多的质检任务。
其中,步骤S102包括:
步骤D1,若所述直播数据流携带解码信息,则通过所述异步帧分发队列将所述直播数据流分发至复合监测器。
若直播数据流携带解码信息,则通过异步帧分发队列将直播数据流分发至复合监测器抽象层,复合监测器抽象层对直播数据流进行消费,进一步通过复合帧分发队列将复合监测器抽象层获取的直播数据流的视帧信息、音帧信息分发至复合监测器,其中,复合监测器包括花屏监测器;复合帧分发队列为异步帧分发队列。复合监测器通过图像审核算法、实时ASR算法研判直播数据流是否检出异常,得到检测结果,并将相应的检测结果报送质检人员和/或运营人员和/或主播。
需要说明的是,为提升直播的质检***的***性能,所有分发只拷贝引用,而不拷贝内存数据,以此大幅提高内存利用率。复合监测器不仅可以处理声帧和视帧复合的直播数据流,还可以处理解码时的信息,比如码率、编码方式等。花屏监测器在监测过程中会监测是否存在突然地码率降低。因此,只要不能单纯的凭借只有视帧、只有音帧进行判断的监测器,都需要分发至复合监测器进行接入处理。
相比基于WebRTC等其他音视频处理工具的解决方案,本实施例基于FFmpeg的直播的质检***可以支持更多的直播、音视频协议类型,且封装性较好,对推流端和客户端无侵入。相比于FFmpeg命令型、API及其他Wrapper,本实施例所采用JavaCV技术在保有编程灵活性的基础上,同时提供了更加方便易用的高阶API。同时本实施例与当今大多数服务器基于Java的生态十分亲和,基于Java的强大云生态,本实施例的技术便于扩展及与其他***融合,例如:直播的质检***的各监测器,如黑屏监测器、模糊检测器、花屏监测器、静音监测器,均可方便快捷的接入监测体系中。
基于上述图2所示的实施例,提出本发明直播的质检方法第三实施例。
在本实施例中,步骤S101:获取直播数据流之后包括:
步骤S105,读取所述直播数据流的评论,得到第一评论集。
步骤S106,若所述第一评论集包含预设信息,则检测所述直播数据流,得到预设数据,并获取所述预设数据的场景信息。
步骤S107,将所述预设数据及其场景信息输出。
在本实施例中,为了提高直播观众的体验,直播的质检***通过评论分析组件根据文本分析算法实时读取直播数据流的用户的弹幕评论,得到第一评论集。若在达到预设阈值时检测到预设信息,则根据预设信息检测直播数据流,得到预设数据,并获取预设数据的场景信息,最后,将预设数据及其场景信息反馈到质检人员和/或直播主播处,指导直播调整。同时,弹幕评论分析数据将助力于用户打标及商机发现。如图4、图5所示。例如,预设时间内多位用户反馈直播黑屏无画面,则检测黑屏场景,并将黑屏场景的相关场景信息输出至质检人员和/或直播主播处,指导直播调整。可以理解的是,预设信息为异常信息,预设数据为预设信息对应的数据,预设阈值、预设时间可根据实际情况进行设置,本实施例对此不作具体地限制。
其中,步骤S105之后包括:
步骤E1,对所述第一评论集进行分类,得到分类结果;
步骤E2,根据所述分类结果对所述第一评论集对应的用户赋予标签,以根据所述标签确定所述第一评论集对应的用户的处置策略。
在本实施例中,借助自然语言处理算法、业务规则等策略,筛除第一评论集中的无效灌水评论,得到第二评论集,并对质量相关反馈进行统计分析,将第二评论集的观众弹幕自动划归至“违规、灌水、喜悦、抱怨、商机”五大类别,作为分类结果;最后,根据分类结果对第二评论集对应的用户赋予标签,以根据标签确定第二评论集对应的用户的处置策略。例如,用户的标签为违规,则限制该用户发言;用户的标签为商机,则为该用户推送相应的商业信息;以此提高用户观看直播的体验。
本实施例通过上述方案,通过获取直播数据流;通过异步帧分发队列将所述直播数据流分发至对应的监测器;通过所述直播数据流对应的监测器监测所述直播数据流;若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。本发明实时对直播数据流携带的弹幕进行读取分析,并根据分析结果采取相应的处置策略,以此提高用户观看直播的体验,提高主播直播的价值。
参照图6,图6为本发明直播的质检方法第四实施例的示意图。所述直播的质检方法包括:
首先,主播创建直播任务后,通过监测器抽象层获取直播数据源进行帧的解封装与解码,并将直播数据源的音帧、视帧信息写入异步帧分发队列。异步帧分发队列将获取的音帧、视帧信息分发至下属视帧监测器抽象层、复合监测器抽象层、音帧监测器抽象层进行消费,并进一步通过视帧监测器抽象层、复合监测器抽象层、音帧监测器抽象层的下属异步分发队列将数据引用分发至各具体监测器;其中,视帧监测器抽象层的下属异步分发队列包括图像分发队列,图像分发队列下属包括黑屏监测器、模糊监测器;复合监测器抽象层的下属异步分发队列包括复合帧分发队列,复合帧分发队列下属包括花屏监测器;音帧监测器抽象层的下属异步分发队列包括音频分发队列,音频分发队列下属包括静音监测器。各监测器根据消费到的数据,通过算法研判是否检出异常,报送质检人员。为提升***性能,所有分发只拷贝引用,而不拷贝内存数据,以此提高内存利用率。将审核过的直播数据源的帧交由资源回收层的资源回收组件进行统一回收释放。
本实施例的直播的质检方法基于JavaCV作为技术方案基石,通过运用FFmpeg、OpenCV等底层库进行业务逻辑的高阶自定义,可以实现对直播多模态内容的实时质检。相较于C、Python Wrapper的方式,本实施例的方案对企业服务器开发有着更好的亲和度,基于JavaCV开发的组件可快速应用及集成至已有业务服务中,可以充分利用Java生态服务的能力来拓展音视频场景边界。
参照图7,图7为本发明直播的质检***的功能模块示意图。直播的质检***包括:
获取模块10,用于获取直播数据流;
分发模块20,用于通过异步帧分发队列将所述直播数据流分发至对应的监测器;
监测模块30,用于通过所述直播数据流对应的监测器监测所述直播数据流;
输出模块40,用于若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。
本实施例实现直播的质检的原理及实施过程,请参照上述各实施例,在此不再赘述。
此外,本发明实施例还提出一种Web服务器,所述Web服务器包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的直播的质检程序,所述直播的质检程序被所述处理器执行时实现如上所述的直播的质检方法的步骤。
由于本直播的质检程序被处理器执行时,采用了前述所有实施例的全部技术方案,因此至少具有前述所有实施例的全部技术方案所带来的所有有益效果,在此不再一一赘述。
此外,本发明实施例还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有直播的质检程序,所述直播的质检程序被处理器执行时实现如上所述的直播的质检方法的步骤。
由于本直播的质检程序被处理器执行时,采用了前述所有实施例的全部技术方案,因此至少具有前述所有实施例的全部技术方案所带来的所有有益效果,在此不再一一赘述。
相比现有技术,本发明提供的一种直播的质检方法、***、Web服务器及存储介质,通过获取直播数据流;通过异步帧分发队列将所述直播数据流分发至对应的监测器;通过所述直播数据流对应的监测器监测所述直播数据流;若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。本发明提出了一种灵活的直播质检方法,实现了直播质检的多线程并行,提高了直播质检的亲和度。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者方法不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者方法所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者方法中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台Web服务器(可以是手机,计算机,服务器,被控终端,或者网络设备等)执行本发明每个实施例的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种直播的质检方法,其特征在于,所述方法包括如下步骤:
获取直播数据流;
通过异步帧分发队列将所述直播数据流分发至对应的监测器;
通过所述直播数据流对应的监测器监测所述直播数据流;
若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。
2.根据权利要求1所述的直播的质检方法,其特征在于,所述通过异步帧分发队列将所述直播数据流分发至对应的监测器的步骤包括:
若所述直播数据流只含视帧信息,则通过所述异步帧分发队列将所述直播数据流分发至视帧监测器;
若所述直播数据流只含音帧信息,则通过所述异步帧分发队列将所述直播数据流分发至音帧监测器;
若所述直播数据流包含视帧信息、音帧信息,则通过所述异步帧分发队列将所述直播数据流分发至复合监测器。
3.根据权利要求1所述的直播的质检方法,其特征在于,所述获取直播数据流的步骤之前包括:
判断所述直播数据流对应的直播是否准时开播;
若所述直播数据流对应的直播未准时开播,则判断所述直播数据流对应的直播是否为旷播;
若所述直播数据流对应的直播不是旷播,则确定所述直播数据流对应的直播为迟播,并将所述直播数据流对应的直播迟播的信息输出。
4.根据权利要求1所述的直播的质检方法,其特征在于,所述通过所述直播数据流对应的监测器监测所述直播数据流的步骤之后包括:
判断所述直播数据流是否连续;
若所述直播数据流连续,则持续监测所述直播数据流;
若监测到所述直播数据流停止,则停止监测所述直播数据流。
5.根据权利要求1所述的直播的质检方法,其特征在于,所述获取直播数据流的步骤之后包括:
读取所述直播数据流的评论,得到第一评论集;
若所述第一评论集包含预设信息,则检测所述直播数据流,得到预设数据,并获取所述预设数据的场景信息;
将所述预设数据及其场景信息输出。
6.根据权利要求5所述的直播的质检方法,其特征在于,所述读取所述直播数据流的评论,得到第一评论集的步骤之后包括:
对所述第一评论集进行分类,得到分类结果;
根据所述分类结果对所述第一评论集对应的用户赋予标签,以根据所述标签确定所述第一评论集对应的用户的处置策略。
7.根据权利要求1所述的直播的质检方法,其特征在于,所述通过异步帧分发队列将所述直播数据流分发至对应的监测器的步骤之前包括:
对所述直播数据流进行解码,得到解码信息;
所述通过异步帧分发队列将所述直播数据流分发至对应的监测器的步骤包括:
若所述直播数据流携带解码信息,则通过所述异步帧分发队列将所述直播数据流分发至复合监测器。
8.一种直播的质检***,其特征在于,包括:
获取模块,用于获取直播数据流;
分发模块,用于通过异步帧分发队列将所述直播数据流分发至对应的监测器;
监测模块,用于通过所述直播数据流对应的监测器监测所述直播数据流;
输出模块,用于若所述直播数据流对应的监测器监测到所述直播数据流有异常数据,则输出所述异常数据。
9.一种Web服务器,其特征在于,所述Web服务器包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的直播的质检方法,所述直播的质检的程序被所述处理器执行时实现如权利要求1-7中任一项所述的直播的质检方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有直播的质检的程序,所述直播的质检的程序被处理器执行时实现如权利要求1-7中任一项所述的直播的质检方法的步骤。
CN202210682583.5A 2022-06-16 2022-06-16 直播的质检方法、***、Web服务器及存储介质 Active CN115103215B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210682583.5A CN115103215B (zh) 2022-06-16 2022-06-16 直播的质检方法、***、Web服务器及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210682583.5A CN115103215B (zh) 2022-06-16 2022-06-16 直播的质检方法、***、Web服务器及存储介质

Publications (2)

Publication Number Publication Date
CN115103215A true CN115103215A (zh) 2022-09-23
CN115103215B CN115103215B (zh) 2024-05-28

Family

ID=83291015

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210682583.5A Active CN115103215B (zh) 2022-06-16 2022-06-16 直播的质检方法、***、Web服务器及存储介质

Country Status (1)

Country Link
CN (1) CN115103215B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116128453A (zh) * 2023-02-18 2023-05-16 广州市点易资讯科技有限公司 一种线上课程巡检方法、***、设备及介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106878769A (zh) * 2017-02-23 2017-06-20 北京潘达互娱科技有限公司 直播视频质量监测方法和装置
WO2019019370A1 (zh) * 2017-07-24 2019-01-31 平安科技(深圳)有限公司 一种音视频的直播处理方法、存储介质和一种移动终端
CN110769268A (zh) * 2019-11-07 2020-02-07 网易(杭州)网络有限公司 数据流监测方法及装置
CN112399194A (zh) * 2021-01-20 2021-02-23 腾讯科技(深圳)有限公司 一种直播数据处理方法、装置、计算机及可读存储介质
WO2021036876A1 (zh) * 2019-08-30 2021-03-04 北京字节跳动网络技术有限公司 直播辅助数据的提供方法、装置、设备及可读介质
CN113810762A (zh) * 2021-09-17 2021-12-17 长沙理工大学 一种针对视频直播中背景音乐侵权行为的监测方法
CN113923483A (zh) * 2021-09-30 2022-01-11 北京金山云网络技术有限公司 直播异常的处理方法和装置、电子设备和存储介质
CN114339284A (zh) * 2021-12-27 2022-04-12 北京京东拓先科技有限公司 直播延迟的监控方法、设备、存储介质及程序产品
CN114500879A (zh) * 2022-02-09 2022-05-13 腾讯科技(深圳)有限公司 视频数据处理方法、装置、设备及存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106878769A (zh) * 2017-02-23 2017-06-20 北京潘达互娱科技有限公司 直播视频质量监测方法和装置
WO2019019370A1 (zh) * 2017-07-24 2019-01-31 平安科技(深圳)有限公司 一种音视频的直播处理方法、存储介质和一种移动终端
WO2021036876A1 (zh) * 2019-08-30 2021-03-04 北京字节跳动网络技术有限公司 直播辅助数据的提供方法、装置、设备及可读介质
CN110769268A (zh) * 2019-11-07 2020-02-07 网易(杭州)网络有限公司 数据流监测方法及装置
CN112399194A (zh) * 2021-01-20 2021-02-23 腾讯科技(深圳)有限公司 一种直播数据处理方法、装置、计算机及可读存储介质
CN113810762A (zh) * 2021-09-17 2021-12-17 长沙理工大学 一种针对视频直播中背景音乐侵权行为的监测方法
CN113923483A (zh) * 2021-09-30 2022-01-11 北京金山云网络技术有限公司 直播异常的处理方法和装置、电子设备和存储介质
CN114339284A (zh) * 2021-12-27 2022-04-12 北京京东拓先科技有限公司 直播延迟的监控方法、设备、存储介质及程序产品
CN114500879A (zh) * 2022-02-09 2022-05-13 腾讯科技(深圳)有限公司 视频数据处理方法、装置、设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
席文强: "基于FFmpeg的高清实时直播***设计与实现", 《智能交通与信息***工程》, 31 December 2017 (2017-12-31) *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116128453A (zh) * 2023-02-18 2023-05-16 广州市点易资讯科技有限公司 一种线上课程巡检方法、***、设备及介质
CN116128453B (zh) * 2023-02-18 2024-05-03 广州市点易资讯科技有限公司 一种线上课程巡检方法、***、设备及介质

Also Published As

Publication number Publication date
CN115103215B (zh) 2024-05-28

Similar Documents

Publication Publication Date Title
US20210235153A1 (en) Video processing method, electronic device, and computer-readable medium
US9930308B2 (en) Platform-agnostic video player for mobile computing devices and desktop computers
US7730047B2 (en) Analysis of media content via extensible object
US8170123B1 (en) Media acceleration for virtual computing services
CN101505365B (zh) 一种基于网络电视机顶盒的实时视频监控***的实现方法
CN111107391A (zh) 一种基于分布式的web无插件视频直播方法
US9609338B2 (en) Layered video encoding and decoding
CN104333808A (zh) 用于Android及Linux智能电视机上的通用播放器
CN105430408A (zh) 一种基于Intel、AMD和Nvidia三平台的H264硬件解码***
CN115103215B (zh) 直播的质检方法、***、Web服务器及存储介质
US20080124041A1 (en) Adding video effects for video enabled applications
CN103517135A (zh) 一种连续播放mp4格式视频文件的方法、***及电视
CN115955557A (zh) 卡顿分析方法及其装置
US20070239780A1 (en) Simultaneous capture and analysis of media content
CN115134617A (zh) 直播质检***、方法、Web服务器及存储介质
US9026983B2 (en) Flexible and scalable software system architecture for implementing multimedia applications
CN113542765B (zh) 一种媒体数据跳变续播方法及显示设备
EP1505501A1 (en) Demultiplexer application programming interface
US10547878B2 (en) Hybrid transmission protocol
US20210350515A1 (en) System and method to detect macroblocking in images
Black et al. A compendium of robust data structures
CN102722376B (zh) 基于视频监控绘图的二次编解码方法及其装置
CN114598895B (zh) 音视频处理方法、装置、设备及计算机可读存储介质
EP2819012B1 (en) Automated compression of data
US20220398216A1 (en) Appliances and methods to provide robust computational services in addition to a/v encoding, for example at edge of mesh networks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant