CN116033184A - 视频的检测方法、装置、设备及可读存储介质 - Google Patents
视频的检测方法、装置、设备及可读存储介质 Download PDFInfo
- Publication number
- CN116033184A CN116033184A CN202211693406.3A CN202211693406A CN116033184A CN 116033184 A CN116033184 A CN 116033184A CN 202211693406 A CN202211693406 A CN 202211693406A CN 116033184 A CN116033184 A CN 116033184A
- Authority
- CN
- China
- Prior art keywords
- video
- processing
- engine
- abnormal
- detection result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 136
- 238000003860 storage Methods 0.000 title claims abstract description 18
- 238000012545 processing Methods 0.000 claims abstract description 146
- 238000000034 method Methods 0.000 claims abstract description 71
- 230000002159 abnormal effect Effects 0.000 claims abstract description 68
- 230000008569 process Effects 0.000 claims description 32
- 238000004422 calculation algorithm Methods 0.000 claims description 17
- 238000007781 pre-processing Methods 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 11
- 238000000605 extraction Methods 0.000 claims description 11
- 230000004044 response Effects 0.000 claims description 7
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 12
- 238000004458 analytical method Methods 0.000 description 9
- 238000012549 training Methods 0.000 description 9
- 238000012544 monitoring process Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
Abstract
本申请提供一种视频的检测方法、装置、设备及可读存储介质。该方法包括：获取待检测的第一视频的视频特征；通过多个视频引擎对视频特征进行处理，以确定第一视频的视频类型；通过预设模型对视频特征和视频类型进行处理，得到第一视频的视频检测结果，视频检测结果用于指示第一视频是否为异常视频；响应于视频检测结果指示第一视频为异常视频，对第一视频进行溯源处理以及拦截处理。不仅提高了视频检测的准确度，还便于对异常视频及时进行溯源处理和拦截处理。
Description
技术领域
本申请涉及计算机技术领域，尤其涉及一种视频的检测方法、装置、设备及可读存储介质。
背景技术
随着互联网技术以及各种视频应用程序的迅速发展，越来越多的人们在工作、学习、社交以及休闲娱乐中，选择通过网络视频获取和传播信息。然而，网络视频的质量参差不齐，在海量的网络视频中可能包括一些异常视频。因此，在面对海量的网络视频，如何有效快速在海量的网络视频中检测出异常视频变得优为重要。
在相关技术中，可以通过对网络视频的图像内容进行检测识别，以判断该网络视频是否为异常视频。然而，在上述过程中，一方面由于网络视频存在视频内容噪声大且口语化等特点，使得网络视频中的异常内容具有一定的隐蔽性，导致对视频检测的准确度较低；另一方面，现有技术中主要从互联网数据监控***中获取网络视频，而互联网数据监控***大多局限在特定的网络形态中，难以对社交工具中的网络视频进行监控，使得网络视频的来源具有局限性，且无法清晰获知网络视频传播的源头、传播路径和传播特点，导致监管部门无法及时对异常视频进行溯源处理和拦截处理。
发明内容
本申请提供一种视频的检测方法、装置、设备及可读存储介质，用以提高视频检测的准确度，以及对异常视频及时进行溯源处理和拦截处理。
第一方面，本申请提供一种视频的检测方法，包括：
获取待检测的第一视频的视频特征；
通过多个视频引擎对所述视频特征进行处理，以确定所述第一视频的视频类型；
通过预设模型对所述视频特征和所述视频类型进行处理，得到所述第一视频的视频检测结果，所述视频检测结果用于指示所述第一视频是否为异常视频；
响应于所述视频检测结果指示所述第一视频为所述异常视频，对所述第一视频进行溯源处理以及拦截处理。
在一种可能的实施方式中，通过多个视频引擎对所述视频特征进行处理，以确定所述第一视频的视频类型，包括：
通过所述多个视频引擎对所述视频特征进行处理，得到每个视频引擎输出的视频概率，所述视频概率为所述第一视频为所述视频引擎对应的视频类型的概率；
根据每个视频引擎输出的视频概率，确定所述第一视频的视频类型。
在一种可能的实施方式中，根据每个视频引擎输出的视频概率，确定所述第一视频的视频类型，包括：
根据每个视频引擎输出的视频概率，在所述多个视频引擎中确定目标视频引擎，所述目标视频引擎输出的视频概率最高；
将所述目标视频引擎对应的视频类型，确定为所述第一视频的视频类型。
在一种可能的实施方式中，对所述第一视频进行溯源处理以及拦截处理，包括：
获取所述第一视频的检测规则；
通过算法引擎和所述检测规则对所述第一视频进行处理，得到所述第一视频的视频信息，所述视频信息包括所述第一视频中的异常内容、所述第一视频的发布地址、所述第一视频的发布者信息；
根据所述视频信息，对所述第一视频进行溯源处理以及拦截处理。
在一种可能的实施方式中，通过算法引擎和所述检测规则对所述第一视频进行处理，得到所述第一视频的视频信息，包括：
获取所述第一视频对应的数据流量；
将所述数据流量与所述检测规则进行匹配处理，以在所述数据流量中确定所述视频信息。
在一种可能的实施方式中，获取待检测的第一视频的视频特征，包括：
对所述第一视频进行预处理，所述预处理包括如下至少一种：旋转处理、调音处理、变调处理或加噪处理；
对预处理后的第一视频进行语音谱图转化处理、谱图增强、以及特征提取处理，得到所述第一视频的视频特征。
在一种可能的实施方式中，所述方法还包括：
响应于所述视频检测结果指示所述第一视频为异常视频，将所述第一视频存储至第一视频库，所述第一视频库用于存储异常视频。
在一种可能的实施方式中，所述方法还包括：
响应于所述视频检测结果指示所述第一视频为正常视频，将所述第一视频存储至第二视频库，所述第二视频库用于存储正常视频。
第二方面，本申请提供一种视频的检测装置，包括：获取模块、确定模块和处理模块，其中，
所述获取模块用于，获取待检测的第一视频的视频特征；
所述确定模块用于，通过多个视频引擎对所述视频特征进行处理，以确定所述第一视频的视频类型；
所述处理模块用于，通过预设模型对所述视频特征和所述视频类型进行处理，得到所述第一视频的视频检测结果，所述视频检测结果用于指示所述第一视频是否为异常视频；
所述处理模块还用于，响应于所述视频检测结果指示所述第一视频为所述异常视频，对所述第一视频进行溯源处理以及拦截处理。
在一种可能的实施方式中，所述确定模块具体用于：
通过所述多个视频引擎对所述视频特征进行处理，得到每个视频引擎输出的视频概率，所述视频概率为所述第一视频为所述视频引擎对应的视频类型的概率；
根据每个视频引擎输出的视频概率，确定所述第一视频的视频类型。
在一种可能的实施方式中，所述确定模块具体用于：
根据每个视频引擎输出的视频概率，在所述多个视频引擎中确定目标视频引擎，所述目标视频引擎输出的视频概率最高；
将所述目标视频引擎对应的视频类型，确定为所述第一视频的视频类型。
在一种可能的实施方式中，所述处理模块具体用于：
获取所述第一视频的检测规则；
通过算法引擎和所述检测规则对所述第一视频进行处理，得到所述第一视频的视频信息，所述视频信息包括所述第一视频中的异常内容、所述第一视频的发布地址、所述第一视频的发布者信息；
根据所述视频信息，对所述第一视频进行溯源处理以及拦截处理。
在一种可能的实施方式中，所述处理模块具体用于：
获取所述第一视频对应的数据流量；
将所述数据流量与所述检测规则进行匹配处理，以在所述数据流量中确定所述视频信息。
在一种可能的实施方式中，所述获取模块具体用于：
对所述第一视频进行预处理，所述预处理包括如下至少一种：旋转处理、调音处理、变调处理或加噪处理；
对预处理后的第一视频进行语音谱图转化处理、谱图增强、以及特征提取处理，得到所述第一视频的视频特征。
在一种可能的实施方式中，所述视频的检测装置还包括存储模块，其中，
所述存储模块具体用于，响应于所述视频检测结果指示所述第一视频为异常视频，将所述第一视频存储至第一视频库，所述第一视频库用于存储异常视频。
在一种可能的实施方式中，所述存储模块具体用于：
响应于所述视频检测结果指示所述第一视频为正常视频，将所述第一视频存储至第二视频库，所述第二视频库用于存储正常视频。
第三方面，本申请提供一种视频的检测设备，包括：处理器和存储器；
所述存储器用于，存储计算机程序；
所述处理器用于，执行所述存储器中存储的计算机程序，实现如第一方面任一项所述的方法。
第四方面，本申请提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当所述计算机执行指令被处理器执行时用于实现如第一方面任一项所述的方法。
第五方面，本申请提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时，实现如第一方面任一项所述的方法。
本申请提供一种视频的检测方法、装置、设备及可读存储介质，可以获取待检测的第一视频的视频特征；并通过多个视频引擎对视频特征进行处理，以确定第一视频的视频类型；以及通过预设模型对视频特征和视频类型进行处理，得到第一视频的视频检测结果；响应于视频检测结果指示第一视频为异常视频，对第一视频进行溯源处理以及拦截处理。在上述过程中，本申请不仅提高了视频检测的准确度，还便于对异常视频及时进行溯源处理和拦截处理。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的应用场景的示意图；
图2为本申请实施例提供的一种视频的检测方法的流程示意图；
图3为本申请实施例提供的一种视频的检测方法的流程示意图；
图4为本申请实施例提供的一种视频的检测方法示意图；
图5为本申请实施例提供的视频的检测装置的结构示意图；
图6为本申请实施例提供的视频的检测装置的结构示意图；
图7为本申请实施例提供一种视频的检测设备的结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
图1为本申请实施例提供的应用场景的示意图。请参见图1，包括视频的检测设备101，视频的检测设备101中设置有多个视频引擎和预测模型。视频的检测设备101可以用于视频检测场景中，具体应用过程如下：通过视频的检测设备101对待检测的第一视频进行处理以获取第一视频的视频特征，再通过多个视频引擎和预测模型对第一视频的视频特征进行处理，获得第一视频的检测结果，第一视频检测结果可以为正常视频或异常视频。响应于第一视频为异常视频，视频的检测设备101还可以用于对第一视频进行溯源处理和拦截处理。
在相关技术中，可以通过对网络视频的图像内容进行检测识别，以判断该网络视频是否为异常视频。然而，在上述过程中，一方面由于网络视频存在视频内容噪声大且口语化等特点，使得网络视频中的异常内容具有一定的隐蔽性，导致对视频检测的准确度较低；另一方面，现有技术中主要从互联网数据监控***中获取网络视频，而互联网数据监控***大多局限在特定的网络形态中，难以对社交工具中的网络视频进行监控，使得网络视频的来源具有局限性，且无法清晰获知网络视频传播的源头、传播路径和传播特点，导致监管部门无法及时对异常视频进行溯源处理和拦截处理。
在本申请实施例中，可以获取待检测的第一视频的视频特征；并通过多个视频引擎对视频特征进行处理，以确定第一视频的视频类型；以及通过预设模型对视频特征和视频类型进行处理，得到第一视频的视频检测结果；响应于视频检测结果指示第一视频为异常视频，对第一视频进行溯源处理以及拦截处理。在上述过程中，本申请不仅提高了视频检测的准确度，还便于对异常视频及时进行溯源处理和拦截处理。
下面，通过具体实施例对本申请所示的技术方案进行详细说明。需要说明的是，下面几个实施例可以单独存在，也可以相互结合，对于相同或相似的内容，在不同的实施例中不再重复说明。
图2为本申请实施例提供的一种视频的检测方法的流程示意图。请参见图2，该方法可以包括：
S201、获取待检测的第一视频的视频特征。
本申请实施例的执行主体可以为视频的检测设备，也可以为设置在视频的检测设备中视频的检测装置。视频的检测装置可以通过软件实现，也可以通过软件和硬件的结合实现。视频的检测装置可以为视频的检测设备中的处理器。为了便于理解，在下文中，以执行主体为视频的检测设备为例进行说明。
可选的，视频的检测设备中可以设置有视频监测***，可以通过视频监测***在互联网、新闻媒体、视频应用和社交网站等多网络平台上对视频进行采集，将采集到的视频确定为待检测的第一视频。上述待检测的第一视频，可以为用户上传至互联网或用户之间相互传播的视频，也可以为用户从网络获取的视频。
视频特征可以包括音频特征、图像特征和文本特征。
可选的，可以通过如下方式获取待检测的第一视频的视频特征：对第一视频进行预处理，预处理包括如下至少一种：旋转处理、调音处理、变调处理或加噪处理；对预处理后的第一视频进行语音谱图转化处理、谱图增强、以及特征提取处理，得到第一视频的视频特征。
可以通过如下方式对第一视频进行特征提取处理：通过高阶插值法对待检测的第一视频按预设比例放大，再对待检测的第一视频进行灰度处理、以及采用高斯滤波器对待检测的第一视频进行平滑滤波处理；采用边缘提取算法提取灰度处理和平滑滤波处理后的第一视频上的边缘特征，并获得第一视频对应的边缘二值化图；可以将第一视频分成多个视频区域，将多个视频区域保存到第一视频对应的视频区域集合中，对视频区域集合中的每一个视频区域进行特征提取，并按预设筛选条件，对视频区域集合进行筛选，获得视频候选区域。在对视频区域集合中各个视频域进行特征提取后，还可以通过预先训练好的分类器对各个视频区域进行分类，分成含有文本区域的视频区域和其它视频区域，可以对其它视频区域进行筛选以获得含有文本区域的视频区域。
S202、通过多个视频引擎对视频特征进行处理，以确定第一视频的视频类型。
可选的，多个视频引擎可以包括涉政视频引擎、涉黄视频引擎、违禁视频引擎和广告视频引擎等。
可以通过如下方式确定第一视频的视频类型：通过多个视频引擎对视频特征进行处理，得到每个视频引擎输出的视频概率，视频概率为第一视频为视频引擎对应的视频类型的概率；根据每个视频引擎输出的视频概率，确定第一视频的视频类型。
每个视频引擎可以对应于一种视频类型，每个视频引擎中可以存储有该视频类型对应的样本特征库，该样本特征库中包括有多个样本视频特征。针对于多个视频引擎中的任意一个视频引擎，可以将该第一视频的视频特征与这个视频引擎中的样本视频特征进行相似度匹配，并根据相似度确定每个视频引擎输出的视频概率。
S203、通过预设模型对视频特征和视频类型进行处理，得到第一视频的视频检测结果。
视频检测结果用于指示第一视频是否为异常视频。
可选的，可以采用机器深度学习、视频聚类、行为识别、MD5库等算法来构建预测模型，其中机器深度学习算法可以包括词向量模型、混合声学模型和端到端的声学模型等。
可选的，预测模型可以为OCR算法模型，该OCR算法模型可以采用深度学习的卷积神经网络算法，对视频中的异常内容的检测识别。异常内容可以包括一些异常文字信息和异常图像信息，例如，异常文字信息可以包括违规文字和敏感文字等，异常图像可以包括人物图像和标志图像等。
可选的，在对预测模型进行训练时，可以通过对预测模型做一系列随机改变，来产生相似但又不同的训练视频样本，从而扩大训练数据集的规模。在通过训练视频样本对预测模型进行训练的过程中，若预测模型的偏差达到预设条件，则会该训练视频样本作为误差样本，重新加入预测模型的训练数据集，在线重新启动预测模型训练过程，实现预测模型的修正。
可选的，在通过预测模型对第一视频进行检测的过程中，可以将第一视频中的音频提取出来，搭配语音识别和敏感声音检测技术对第一视频中的音频进行语音识别、关键词检索识别和语义识别处理，以及结合关键帧抽取技术对第一视频中的图像帧进行检测识别，以实现对第一视频的视频内容进行全面检测分析，该预测模型具有较强的泛化能力。可选的，在进行语音识别的过程中，可以通过对低质语音增强处理、自然口语化处理以及结合声学模型等方式，对音频中的异常音频信息进行检测识别。
可选的，预测模型还可以用于录音音频数据和直播视频数据的检测分析。
S204、响应于视频检测结果指示第一视频为异常视频，对第一视频进行溯源处理以及拦截处理。
可选的，异常视频可以为包含违规信息的视频。
可选的，可以采用如下方式对第一视频进行溯源处理以及拦截处理：获取第一视频的检测规则；通过算法引擎和检测规则对第一视频进行处理，得到第一视频的视频信息，视频信息包括第一视频中的异常内容、第一视频的发布地址、第一视频的发布者信息；根据视频信息，对第一视频进行溯源处理以及拦截处理。
可选的，第一视频中的异常内容可以包括异常文本、异常图像和异常音频；第一视频的发布地址可以为网络平台的地址，例如，第一视频的发布地址可以为网站地址或视频应用程序的网页地址；第一视频的发布者信息可以包括发布者的姓名、手机号码、邮箱、籍贯、年龄、职业、家庭住址、互联网IP地址等信息。
可选的，可以利用算法引擎中规则的入侵方法、以及检测规则对第一视频进行处理，以得到第一视频的视频信息。
本申请提供一种视频的检测方法，可以获取待检测的第一视频的视频特征；并通过多个视频引擎对视频特征进行处理，以确定第一视频的视频类型；以及通过预设模型对视频特征和视频类型进行处理，得到第一视频的视频检测结果；响应于视频检测结果指示第一视频为异常视频，对第一视频进行溯源处理以及拦截处理。在上述过程中，本申请不仅提高了视频检测的准确度，还便于对异常视频及时进行溯源处理和拦截处理。
下面，结合图3，对本申请实施例提供的视频的检测方法进行详细说明。
图3为本申请实施例提供的一种视频的检测方法的流程示意图。请参见图3，该方法可以包括：
S301、对第一视频进行预处理。
预处理可以包括如下至少一种：旋转处理、调音处理、变调处理或加噪处理。
可选的，对第一视频的预处理还可以包括频预处理，频预处理可以包括如下至少一种：流媒体缓存、音频分割、统一格式、降噪处理。
S302、对预处理后的第一视频进行语音谱图转化处理、谱图增强、以及特征提取处理，得到第一视频的视频特征。
S303、通过多个视频引擎对视频特征进行处理，得到每个视频引擎输出的视频概率。
视频概率为第一视频为视频引擎对应的视频类型的概率。
需要说明的是，S303的执行过程可以参照S202的执行过程，此处不再详细进行赘述。
S304、根据每个视频引擎输出的视频概率，在多个视频引擎中确定目标视频引擎。
目标视频引擎输出的视频概率最高。
假设有4个视频引擎，分别为视频引擎1～视频引擎4，按照每个视频引擎输出的视频概率从大到小依次对这4个视频引擎排序为：视频引擎2＞视频引擎1＞视频引擎4＞视频引擎3，可以看到视频引擎2输出的视频概率最高，那么，可以将视频引擎2确定为目标视频引擎。
S305、将目标视频引擎对应的视频类型，确定为第一视频的视频类型。
视频引擎和视频类型之间具有对应关系，例如，视频引擎和视频类型之间的对应关系可以如下表所示：
表1
| 视频引擎 | 视频类型 |
| 视频引擎1 | 视频类型1 |
| 视频引擎2 | 视频类型2 |
| …… | …… |
假设目标视频引擎为表1中的视频引擎2，那么第一视频对应的视频类型为视频类型2。
S306、通过预设模型对视频特征和视频类型进行处理，得到第一视频的视频检测结果。
视频检测结果用于指示第一视频是否为异常视频。
响应于视频检测结果指示第一视频为异常视频，将第一视频存储至第一视频库，第一视频库用于存储异常视频。响应于视频检测结果指示第一视频为正常视频，将第一视频存储至第二视频库，第二视频库用于存储正常视频。
可选的，在对异常视频进行存储时，可以按照级别对异常视频进行分类存储。例如，可以按照高危、中危和低危的级别对异常视频进行分类存储。
S307、获取第一视频的检测规则。
可选的，可以基于对第一视频中异常信息的审核规则来确定检测规则。
S308、通过算法引擎和检测规则对第一视频进行处理，得到第一视频的视频信息。
视频信息包括第一视频中的异常内容、第一视频的发布地址、第一视频的发布者信息。
可选的，可以通过如下方式得到第一视频的视频信息：获取第一视频对应的数据流量；将数据流量与检测规则进行匹配处理，以在数据流量中确定视频信息。
S309、根据视频信息，对第一视频进行溯源处理以及拦截处理。
可选的，在对第一视频进行溯源处理时，可以对第一视频的视频信息中重要信息进行分类和标注，以便于对同类型第一视频的筛选和分析。例如，可以在第一视频的视频信息中筛选出影响力大且亟需处理的重要信息，过滤掉无用、过时、影响力小的信息。在溯源处理过程中，借助海量数据实时处理技术，从多个维度对第一视频进行溯源，以尽快查找到与第一视频相关的关联视频、以及关联视频对应的视频信息，通过对第一视频的视频信息和关联视频的视频信息进行比对，实现对第一视频的溯源处理。
可选的，在对第一视频进行溯源处理的过程中，可以对网络流量进行粗拼装，包括提取第一视频相关的关联视频、对关联视频进行编解码和视频内容分析处理、以及返回第一视频的溯源处理结果。由于解码和视频内容分析处理的计算量都很大，需要进行相应的硬件加速，其中，解码可以采用解码卡之类的专用硬件加速单元，视频内容分析处理可以采用人工智能(Artificial Intelligence，AI)加速卡算法优化软硬件同时加速，视频内容分析处理可以对第一视频和关联视频进行压力匹配、目标识别和场景检测等处理。
本申请提供一种视频的检测方法，可以获取待检测的第一视频的视频特征；并通过多个视频引擎对视频特征进行处理，以确定第一视频的视频类型；以及通过预设模型对视频特征和视频类型进行处理，得到第一视频的视频检测结果；响应于视频检测结果指示第一视频为异常视频，对第一视频进行溯源处理以及拦截处理。在上述过程中，本申请不仅提高了视频检测的准确度，还便于对异常视频及时进行溯源处理和拦截处理。
图4为本申请实施例提供的一种视频的检测方法示意图。请参见图4，该方法包括：
S401、采集待检测的第一视频。
S402、对待检测的第一视频进行预处理。
S403、对预处理后的第一视频进行特征提取处理，获取第一视频的视频特征。
S404、通过多个视频引擎对视频特征进行处理，以确定第一视频的视频类型。
可选的，可以将第一视频通过应用程序编程接口(Application ProgrammingInterface，API)上传到关键词检索服务器上，通过关键词检索服务器的API网关对第一视频进行分类处理之后，再通过后续的业务网关将第一视频分发处理至多个视频引擎中。
S405、通过预设模型判断第一视频的视频检测结果。
可选的，在得到第一视频的视频检测结果后，需要根据视频检测结果对第一视频进行分类处理。可以通过训练随机森林模型作为分类器，来执行第一视频的分类处理。在分类处理过程中，通过采用双重数据增强策略可提升第一视频分类处理的分类精度。
若第一视频的视频检测结果指示第一视频为异常视频，则执行S406～S410；若第一视频的视频检测结果指示第一视频为正常视频，则执行S411～S413。
S406、通过算法引擎对第一视频进行处理。
可选的，可以先获取第一视频的检测规则，再通过算法引擎和检测规则，对第一视频进行处理，以得到第一视频的视频信息。
S407、对第一视频进行深度分析和人工审核处理。
可选的，在得到第一视频的视频信息后，可以对第一视频的视频信息进行深度分析、以及人工审核处理，以找到第一视频的视频信息中重要信息，便于后续对第一视频进行溯源处理。
S408、对第一视频进行行为溯源处理。
可选的，可以根据第一视频的视频信息中重要信息对第一视频进行溯源处理，以获得第一视频相关的关联视频。
S409、对第一视频及关联视频进行封堵拦截处理。
需要说明的是，S408～S409的执行过程可以参照S309的执行过程，此处不再重复进行说明。
S410、将第一视频及关联视频存储于第一视频库。
可选的，第一视频库可以包括视频内容库和视频图像库。
S411、对第一视频进行数据聚合分类处理。
S412、将第一视频存储到第二视频库。
可选的，第二视频库可以包括视频内容库和视频图像库。
S413、提供第一视频对应的视频服务。
可选的，当确定第一视频为正常视频后，可以基于原有的网站和视频应用程序提供第一视频对应的视频服务。
本申请提供一种视频的检测方法，可以获取待检测的第一视频的视频特征；并通过多个视频引擎对视频特征进行处理，以确定第一视频的视频类型；以及通过预设模型对视频特征和视频类型进行处理，得到第一视频的视频检测结果；响应于视频检测结果指示第一视频为异常视频，对第一视频进行溯源处理以及拦截处理。在上述过程中，本申请不仅提高了视频检测的准确度，还便于对异常视频及时进行溯源处理和拦截处理。
图5为本申请实施例提供的视频的检测装置的结构示意图。请参见图5，该视频的检测装置10包括获取模块11、确定模块12和处理模块13，其中，
所述获取模块11用于，获取待检测的第一视频的视频特征；
所述确定模块12用于，通过多个视频引擎对所述视频特征进行处理，以确定所述第一视频的视频类型；
所述处理模块13用于，通过预设模型对所述视频特征和所述视频类型进行处理，得到所述第一视频的视频检测结果，所述视频检测结果用于指示所述第一视频是否为异常视频；
所述处理模块13还用于，响应于所述视频检测结果指示所述第一视频为所述异常视频，对所述第一视频进行溯源处理以及拦截处理。
本申请实施例提供的视频的检测装置可以执行上述方法实施例所示的技术方案，其实现原理以及有益效果类似，此处不再进行赘述。
在一种可能的实施方式中，所述确定模块12具体用于：
通过所述多个视频引擎对所述视频特征进行处理，得到每个视频引擎输出的视频概率，所述视频概率为所述第一视频为所述视频引擎对应的视频类型的概率；
根据每个视频引擎输出的视频概率，确定所述第一视频的视频类型。
在一种可能的实施方式中，所述确定模块12具体用于：
根据每个视频引擎输出的视频概率，在所述多个视频引擎中确定目标视频引擎，所述目标视频引擎输出的视频概率最高；
将所述目标视频引擎对应的视频类型，确定为所述第一视频的视频类型。
在一种可能的实施方式中，所述处理模块13具体用于：
获取所述第一视频的检测规则；
通过算法引擎和所述检测规则对所述第一视频进行处理，得到所述第一视频的视频信息，所述视频信息包括所述第一视频中的异常内容、所述第一视频的发布地址、所述第一视频的发布者信息；
根据所述视频信息，对所述第一视频进行溯源处理以及拦截处理。
在一种可能的实施方式中，所述处理模块13具体用于：
获取所述第一视频对应的数据流量；
将所述数据流量与所述检测规则进行匹配处理，以在所述数据流量中确定所述视频信息。
在一种可能的实施方式中，所述获取模块11具体用于：
对所述第一视频进行预处理，所述预处理包括如下至少一种：旋转处理、调音处理、变调处理或加噪处理；
对预处理后的第一视频进行语音谱图转化处理、谱图增强、以及特征提取处理，得到所述第一视频的视频特征。
图6为本申请实施例提供的视频的检测装置的结构示意图。请参见图6，该视频的检测装置10还包括存储模块14，其中，
所述存储模块14具体用于，响应于所述视频检测结果指示所述第一视频为异常视频，将所述第一视频存储至第一视频库，所述第一视频库用于存储异常视频。
在一种可能的实施方式中，所述存储模块14具体用于，响应于所述视频检测结果指示所述第一视频为正常视频，将所述第一视频存储至第二视频库，所述第二视频库用于存储正常视频。
本申请实施例提供的视频的检测装置可以执行上述方法实施例所示的技术方案，其实现原理以及有益效果类似，此处不再进行赘述。
图7为本申请实施例提供一种视频的检测设备的结构示意图。请参见图7，该视频的检测设备20可以包括处理器21和存储器22。示例性地，处理器21、存储器22，各部分之间通过总线23相互连接。
所述存储器22存储计算机执行指令；
所述处理器21执行所述存储器22存储的计算机执行指令，使得所述处理器21执行如上述方法实施例所示的视频的检测方法。
实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一可读取存储器中。该程序在执行时，执行包括上述各方法实施例的步骤；而前述的存储器(存储介质)包括：只读存储器(英文：read-only memory，缩写：ROM)、RAM、快闪存储器、硬盘、固态硬盘、磁带(英文：magnetic tape)、软盘(英文：floppydisk)、光盘(英文：optical disc)及其任意组合。
本申请实施例提供的视频的检测设备可以执行上述方法实施例所示的技术方案，其实现原理以及有益效果类似，此处不再进行赘述。
本申请实施例提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当所述计算机执行指令被处理器执行时用于实现上述方法实施例所述的视频的检测方法。
本申请实施例还可提供一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时，可实现上述方法实施例所示的视频的检测方法。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然，本领域的技术人员可以对本申请实施例进行各种改动和变型而不脱离本申请的精神和范围。这样，倘若本申请实施例的这些修改和变型属于本申请权利要求及其等同技术的范围之内，则本申请也意图包含这些改动和变型在内。
在本申请中，术语“包括”及其变形可以指非限制性的包括；术语“或”及其变形可以指“和/或”。本申请中术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。本申请中，“多个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
Claims (11)
1.一种视频的检测方法，其特征在于，包括：
获取待检测的第一视频的视频特征；
通过多个视频引擎对所述视频特征进行处理，以确定所述第一视频的视频类型；
通过预设模型对所述视频特征和所述视频类型进行处理，得到所述第一视频的视频检测结果，所述视频检测结果用于指示所述第一视频是否为异常视频；
响应于所述视频检测结果指示所述第一视频为所述异常视频，对所述第一视频进行溯源处理以及拦截处理。
2.根据权利要求1所述的方法，其特征在于，通过多个视频引擎对所述视频特征进行处理，以确定所述第一视频的视频类型，包括：
通过所述多个视频引擎对所述视频特征进行处理，得到每个视频引擎输出的视频概率，所述视频概率为所述第一视频为所述视频引擎对应的视频类型的概率；
根据每个视频引擎输出的视频概率，确定所述第一视频的视频类型。
3.根据权利要求2所述的方法，其特征在于，根据每个视频引擎输出的视频概率，确定所述第一视频的视频类型，包括：
根据每个视频引擎输出的视频概率，在所述多个视频引擎中确定目标视频引擎，所述目标视频引擎输出的视频概率最高；
将所述目标视频引擎对应的视频类型，确定为所述第一视频的视频类型。
4.根据权利要求1-3任一项所述的方法，其特征在于，对所述第一视频进行溯源处理以及拦截处理，包括：
获取所述第一视频的检测规则；
通过算法引擎和所述检测规则对所述第一视频进行处理，得到所述第一视频的视频信息，所述视频信息包括所述第一视频中的异常内容、所述第一视频的发布地址、所述第一视频的发布者信息；
根据所述视频信息，对所述第一视频进行溯源处理以及拦截处理。
5.根据权利要求4所述的方法，其特征在于，通过算法引擎和所述检测规则对所述第一视频进行处理，得到所述第一视频的视频信息，包括：
获取所述第一视频对应的数据流量；
将所述数据流量与所述检测规则进行匹配处理，以在所述数据流量中确定所述视频信息。
6.根据权利要求1-3任一项所述的方法，其特征在于，获取待检测的第一视频的视频特征，包括：
对所述第一视频进行预处理，所述预处理包括如下至少一种：旋转处理、调音处理、变调处理或加噪处理；
对预处理后的第一视频进行语音谱图转化处理、谱图增强、以及特征提取处理，得到所述第一视频的视频特征。
7.根据权利要求1-3任一项所述的方法，其特征在于，所述方法还包括：
响应于所述视频检测结果指示所述第一视频为异常视频，将所述第一视频存储至第一视频库，所述第一视频库用于存储异常视频。
8.根据权利要求1-3任一项所述的方法，其特征在于，所述方法还包括：
响应于所述视频检测结果指示所述第一视频为正常视频，将所述第一视频存储至第二视频库，所述第二视频库用于存储正常视频。
9.一种视频的检测装置，其特征在于，包括：获取模块、确定模块和处理模块，其中，
所述获取模块用于，获取待检测的第一视频的视频特征；
所述确定模块用于，通过多个视频引擎对所述视频特征进行处理，以确定所述第一视频的视频类型；
所述处理模块用于，通过预设模型对所述视频特征和所述视频类型进行处理，得到所述第一视频的视频检测结果，所述视频检测结果用于指示所述第一视频是否为异常视频；
所述处理模块还用于，响应于所述视频检测结果指示所述第一视频为所述异常视频，对所述第一视频进行溯源处理以及拦截处理。
10.一种视频的检测设备，其特征在于，包括：处理器和存储器；
所述存储器用于，存储计算机程序；
所述处理器用于，执行所述存储器中存储的计算机程序，实现如权利要求1至8中任一项所述的方法。
11.一种计算机可读存储介质，其特征在于，其中，所述计算机可读存储介质中存储有计算机执行指令，当所述计算机执行指令被处理器执行时用于实现权利要求1至8任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211693406.3A CN116033184B (zh) | 2022-12-28 | 2022-12-28 | 视频的检测方法、装置、设备及可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211693406.3A CN116033184B (zh) | 2022-12-28 | 2022-12-28 | 视频的检测方法、装置、设备及可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116033184A true CN116033184A (zh) | 2023-04-28 |
| CN116033184B CN116033184B (zh) | 2024-07-23 |
Family
ID=86090755
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211693406.3A Active CN116033184B (zh) | 2022-12-28 | 2022-12-28 | 视频的检测方法、装置、设备及可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116033184B (zh) |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107529068A (zh) * | 2016-06-21 | 2017-12-29 | 北京新岸线网络技术有限公司 | 视频内容鉴别方法及*** |
| US20190221090A1 (en) * | 2018-01-12 | 2019-07-18 | Qognify Ltd. | System and method for dynamically ordering video channels according to rank of abnormal detection |
| CN110222846A (zh) * | 2019-05-13 | 2019-09-10 | 中国科学院计算技术研究所 | 一种面向互联网终端的信息安防方法及信息安防*** |
| CN110852231A (zh) * | 2019-11-04 | 2020-02-28 | 云目未来科技(北京)有限公司 | 违规视频检测方法、装置以及存储介质 |
| CN111723784A (zh) * | 2020-07-30 | 2020-09-29 | 腾讯科技（深圳）有限公司 | 一种风险视频识别方法、装置和电子设备 |
| CN114661950A (zh) * | 2022-05-26 | 2022-06-24 | 飞狐信息技术（天津）有限公司 | 视频推荐方法及装置 |
| CN114821401A (zh) * | 2022-04-07 | 2022-07-29 | 腾讯科技（深圳）有限公司 | 视频审核方法、装置、设备、存储介质及程序产品 |
| CN114996489A (zh) * | 2022-05-27 | 2022-09-02 | 中国联合网络通信集团有限公司 | 新闻数据的违规检测方法、装置、设备及存储介质 |
| CN115205766A (zh) * | 2022-09-16 | 2022-10-18 | 北京吉道尔科技有限公司 | 基于区块链的网络安全异常视频大数据检测方法及*** |
-
2022
- 2022-12-28 CN CN202211693406.3A patent/CN116033184B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107529068A (zh) * | 2016-06-21 | 2017-12-29 | 北京新岸线网络技术有限公司 | 视频内容鉴别方法及*** |
| US20190221090A1 (en) * | 2018-01-12 | 2019-07-18 | Qognify Ltd. | System and method for dynamically ordering video channels according to rank of abnormal detection |
| CN110222846A (zh) * | 2019-05-13 | 2019-09-10 | 中国科学院计算技术研究所 | 一种面向互联网终端的信息安防方法及信息安防*** |
| CN110852231A (zh) * | 2019-11-04 | 2020-02-28 | 云目未来科技(北京)有限公司 | 违规视频检测方法、装置以及存储介质 |
| CN111723784A (zh) * | 2020-07-30 | 2020-09-29 | 腾讯科技（深圳）有限公司 | 一种风险视频识别方法、装置和电子设备 |
| CN114821401A (zh) * | 2022-04-07 | 2022-07-29 | 腾讯科技（深圳）有限公司 | 视频审核方法、装置、设备、存储介质及程序产品 |
| CN114661950A (zh) * | 2022-05-26 | 2022-06-24 | 飞狐信息技术（天津）有限公司 | 视频推荐方法及装置 |
| CN114996489A (zh) * | 2022-05-27 | 2022-09-02 | 中国联合网络通信集团有限公司 | 新闻数据的违规检测方法、装置、设备及存储介质 |
| CN115205766A (zh) * | 2022-09-16 | 2022-10-18 | 北京吉道尔科技有限公司 | 基于区块链的网络安全异常视频大数据检测方法及*** |
Non-Patent Citations (1)
| Title |
|---|
| 史双雷: "敏感图像识别算法研究与***实现", 《CNKI优秀硕士学位论文全文库》, 15 April 2022 (2022-04-15) * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116033184B (zh) | 2024-07-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111382623B (zh) | 一种直播审核的方法、装置、服务器和存储介质 | |
| CN107204960B (zh) | 网页识别方法及装置、服务器 | |
| CN111818198B (zh) | 域名检测方法、域名检测装置和设备以及介质 | |
| CN113450147B (zh) | 基于决策树的产品匹配方法、装置、设备及存储介质 | |
| CN111428466B (zh) | 法律文书解析方法及装置 | |
| CN112541476A (zh) | 一种基于语义特征提取的恶意网页识别方法 | |
| CN117409419A (zh) | 图像检测方法、设备及存储介质 | |
| CN110991246A (zh) | 一种视频检测方法及*** | |
| CN114445768A (zh) | 目标识别方法、装置、电子设备及存储介质 | |
| Barozzi et al. | Filtering images extracted from social media in the response phase of emergency events | |
| CN116150651A (zh) | 基于ai的深度合成检测方法和*** | |
| CN114238402A (zh) | 告警数据处理方法、装置、存储介质以及电子设备 | |
| CN116033184B (zh) | 视频的检测方法、装置、设备及可读存储介质 | |
| CN112199388A (zh) | 陌电识别方法、装置、电子设备及存储介质 | |
| CN113704400B (zh) | 虚假新闻识别方法、装置、设备及芯片 | |
| CN116723005A (zh) | 多态隐藏下的恶意代码隐式情报追踪方法及*** | |
| CN110598115A (zh) | 一种基于人工智能多引擎的敏感网页识别方法及*** | |
| CN115688107A (zh) | 一种涉诈app检测***和方法 | |
| CN113033500B (zh) | 动作片段检测方法、模型训练方法及装置 | |
| CN116232644A (zh) | 基于ai的网络诈骗行为分析方法和*** | |
| CN113225343B (zh) | 一种基于身份特征信息的风险网站识别方法及*** | |
| CN114218569A (zh) | 数据分析方法、装置、设备、介质和产品 | |
| CN114417860A (zh) | 一种信息检测方法、装置及设备 | |
| CN112597498A (zh) | 一种webshell的检测方法、***、装置及可读存储介质 | |
| CN114189585A (zh) | 骚扰电话异常检测方法、装置及计算设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant |