CN111163332A - 视频色情度检测方法、终端及介质 - Google Patents
视频色情度检测方法、终端及介质 Download PDFInfo
- Publication number
- CN111163332A CN111163332A CN202010018646.8A CN202010018646A CN111163332A CN 111163332 A CN111163332 A CN 111163332A CN 202010018646 A CN202010018646 A CN 202010018646A CN 111163332 A CN111163332 A CN 111163332A
- Authority
- CN
- China
- Prior art keywords
- video
- yellow
- detected
- image
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 45
- 238000000034 method Methods 0.000 claims abstract description 46
- 238000013145 classification model Methods 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 9
- 238000004422 calculation algorithm Methods 0.000 claims description 8
- 238000013528 artificial neural network Methods 0.000 claims description 6
- 238000012549 training Methods 0.000 claims description 6
- 230000008451 emotion Effects 0.000 abstract description 3
- 238000005516 engineering process Methods 0.000 description 9
- 230000011218 segmentation Effects 0.000 description 8
- 238000000605 extraction Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 239000012634 fragment Substances 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000000969 carrier Substances 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000036548 skin texture Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000011426 transformation method Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明提供的视频色情度检测方法、终端及介质，该方法根据历史鉴别数据构建AI鉴黄模型；获取任务流中待检测视频；利用所述AI鉴黄模型检测所述待检测视频是否涉黄；如果不是，执行所述任务流；如果是，检测是否需要终止任务流，如果需要，终止该任务流，如果不需要，执行所述任务流。该方法利用AI鉴黄模型逐一对视频帧进行鉴别，最后将所有鉴别结果进行汇总，检测待检测视频的色情度，提高了网络淫秽社***鉴别的准确性。
Description
技术领域
本发明属于计算机技术领域，具体涉及一种视频色情度检测方法、终端及介质。
背景技术
在互联网高速发展的信息时代，良好和不良的信息充斥在网络中，于是网络淫秽色情信息伴随着网络的诞生而诞生。网络淫秽色情信息通过各种载体传播到世界的各个角落，直接或者间接危害着网民。由于有了网络这一便捷的载体，淫秽色情信息在各类法律、法规以及措施的围追堵截下，依旧在夹缝中继续生存，并且有愈演愈烈的趋势，所以对淫秽色情信息的鉴别迫在眉睫。
当前信息***的时代，网络上发布的信息众多，想要在信息海洋中依靠人工来鉴别淫秽色情信息收效甚微。因此必须应用相关信息挖掘和鉴别技术来进行筛选和鉴别，辅之人工鉴别。
而目前还不存在能够百分之百把网络的淫秽色情信息全部鉴别出来的技术，并且随着传播的渠道和方法不停的改变和更新，技术更新往往跟不上传播方式的更新。并且由于技术手段都是通过算法来进行实现，远远不如人脑的鉴别率高，并且无法回避错判和漏判的问题，最终还是要靠人工进行判断，人力成本高。
目前网络淫秽社***的鉴别技术主要包括关键帧技术。关键帧技术是最原始的一种色情鉴别技术。该技术对视频进行随机的帧截取，然后鉴别截图是否为色情图像，一段视频设置多个检测点，并且检测点布满整个视频，不会单独分布于某个时间段内，这样有效防止色***中的***段单独分布于某个时间内导致无法检出***段，该技术关键还是取决于色情图像的鉴别技术，目前关键帧技术的提取采用的是定时时间窗的方式，即每隔多长时间取一次，索取的视频帧都平均分配再视频各个时间点上，如果时间窗口过长则容易造成关键帧丢失，如果时间窗过短就会造成视频帧的提取过多，导致视频帧提取次数过长，给图片色情度度等级确定产生较多干扰因素。
发明内容
针对现有技术中的缺陷，本发明提供一种视频色情度检测方法、终端及介质，提高了网络淫秽社***鉴别的准确性。
第一方面，一种视频色情度检测方法，包括以下步骤：
根据历史鉴别数据构建AI鉴黄模型；
获取任务流中待检测视频；
利用所述AI鉴黄模型检测所述待检测视频是否涉黄；如果不是，执行所述任务流；如果是，检测是否需要终止任务流，如果需要，终止该任务流，如果不需要，执行所述任务流。
优选地，所述根据历史鉴别数据构建AI鉴黄模型具体包括：
设置模型结构；
使用深度神经网络按照所述模型结构搭建AI鉴黄模型；
使用所述历史鉴别数据训练搭建好的AI鉴黄模型。
优选地，所述利用所述AI鉴黄模型检测所述待检测视频是否涉黄具体包括：
从所述待检测视频中截取若干个视频帧；
利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；
根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄。
优选地，当所述模型结构为回归模型时，所述利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄具体包括：
利用所述AI鉴黄模型对每个视频帧对应的图像进行打分；
定义该待检测视频中所有视频帧最高的得分为该待检测视频的得分，以获得待检测视频的置信度；
根据待检测视频的置信度以及预设的置信等级获得待检测视频的涉黄等级。
优选地，当所述模型结构为分类模型时，所述利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄具体包括：
利用所述AI鉴黄模型对每个视频帧对应的图像进行分类，分为涉黄和不涉黄两类；
当该待检测视频中所有视频帧对应的图像全部为不涉黄时，定义待检测视频不涉黄；否则定义待检测视频涉黄。
优选地，AI鉴黄模型对每个视频帧对应的图像的鉴定方法包括：
当所述图像为彩色图像时，通过检测图像中的肤色和纹理来判断该图像是否涉黄；
当所述图像为黑白图像时，检测图像中是否存在预设的敏感部位，如果存在，定义该图像涉黄。
优选地，当所述模型结构为分类模型和回归模型时，所述利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄具体包括：
利用回归模型对每个视频帧对应的图像进行打分；
利用分类模型对每个视频帧对应的图像进行分类；
根据预设的加权规则、利用待检测视频中所有视频帧的得分和类别计算加权分数；
根据所述加权分数对待检测视频进行分类，分为涉黄和不涉黄两类。
优选地，所述从所述待检测视频中截取若干个视频帧具体包括：
当从所述待检测视频中截取到一个视频帧时，利用感知哈希算法计算当前视频帧的图像与之前截取到的图像的相似度；
当该相似度高于预设的阈值时，丢弃当前视频帧的图像。
第二方面，一种终端，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行第一方面所述的方法。
第三方面，一种计算机可读存储介质，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行第一方面所述的方法。
由上述技术方案可知，本发明提供的视频色情度检测方法、终端及介质，利用AI鉴黄模型逐一对视频帧进行鉴别，最后将所有鉴别结果进行汇总，检测待检测视频的色情度。该方法还利用opencv固定间隔读取视频帧，利用感知哈希去重复帧，根据设定的等级区间决定待检测视频的色情度等级，提高了网络淫秽社***鉴别的准确性。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍。在所有附图中，类似的元件或部分一般由类似的附图标记标识。附图中，各元件或部分并不一定按照实际的比例绘制。
图1为本发明实施例一提供的视频色情度检测方法的流程图。
图2为本发明实施例一提供的AI鉴黄模型构建方法的流程图。
图3为本发明实施例二提供的AI鉴黄模型检测方法的流程图。
图4为本发明实施例二提供的回归模型检测方法的流程图。
图5为本发明实施例二提供的分类模型检测方法的流程图。
图6为本发明实施例三提供的两种AI鉴黄模型检测方法的流程图。
图7为本发明实施例三提供的视频帧截取方法的流程图。
图8为本发明实施例四提供的终端的模块框图。
具体实施方式
下面将结合附图对本发明技术方案的实施例进行详细的描述。以下实施例仅用于更加清楚地说明本发明的技术方案，因此只作为示例，而不能以此来限制本发明的保护范围。需要注意的是，除非另有说明，本申请使用的技术术语或者科学术语应当为本发明所属领域技术人员所理解的通常意义。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
实施例一：
一种视频色情度检测方法，参见图1，包括以下步骤：
根据历史鉴别数据构建AI鉴黄模型；
获取任务流中待检测视频；
利用所述AI鉴黄模型检测所述待检测视频是否涉黄；如果不是，执行所述任务流；如果是，检测是否需要终止任务流，如果需要，终止该任务流，如果不需要，执行所述任务流。
具体地，该方法首先使用历史鉴别数据(即历史图像以及对该图像是否涉黄的判断结果)训练AI鉴黄模型，并通过训练好的AI鉴黄模型对新的待检测视频进行涉黄鉴定。如果待检测视频不涉黄(即不包含淫秽色情信息)，执行所述任务流，对待检测视频进行后续的转码、加水印或截图等操作。如果待检测视频涉黄(即包含淫秽色情信息)、且需要终止任务流时，终止该任务流。否则执行所述任务流，对待检测视频进行后续的转码、加水印或截图等操作。
该方法在实际应用中，当根据AI鉴黄模型无法准确判断出待检测视频是否涉黄时，需要将此待检测视频标记出来，由人工进行鉴别。该方法利用AI鉴黄模型逐一对视频帧进行鉴别，最后将所有鉴别结果进行汇总，检测待检测视频的色情度，提高了网络淫秽社***鉴别的准确性。
参见图2，所述根据历史鉴别数据构建AI鉴黄模型具体包括：
设置模型结构；
使用深度神经网络按照所述模型结构搭建AI鉴黄模型；
使用所述历史鉴别数据训练搭建好的AI鉴黄模型。
具体地，模型结构可以根据用户自身业务的需求进行设置。历史鉴别数据可以使用开源的数据集获得，或者是用户自己收集更适合自身业务的数据。由于AI鉴黄模型可以被保存为多种类型的文件格式，所以该方法在保存搭建好的AI鉴黄模型时，需要根据自身业务流程选取与业务最适合的文件格式进行保存，使得AI鉴黄模型能够更好地集成到业务中。
该方法在构建AI鉴黄模型时，首先设计模型结构，然后使用深度神经网络按照设计的模型结构搭建AI鉴黄模型，最后使用大量的历史鉴别数据训练搭建好的AI鉴黄模型。
其中，该方法在图像识别过程中，可以采用以下网络模型：卷积神经网络以及图像语义分割算法。
卷积神经网络是由多种算法层组成的神经网络，通过对这些层的计算，可以实现海量图像数据的降维，最终使其达到识别图像的目的。对于传送的图像来说，要想判断出该图像是否涉黄，需要完成三个步骤：首先需要选择一个合适尺寸的卷积核(也可看作过滤器)来对图像进行卷积操作，过滤掉各个小区域，由此可以在现实训练中获得过滤掉的小区域的特征值。其次是池化(也就是下采样)，将原始图像不断缩小到一个很小的尺寸，得到一个特征图，降低数据维度。最后是上采样(反卷积)，其和卷积相像，运算的方法都为相乘和相加，上采样目的是为了放大还原图像。这样就可以实现自动清除掉涉黄图像的效果和目的。
图像语义分割算法就像PS抠图一样，需要尽可能地贴合每个物体的边框，由此在完成对图像像素级的理解后，给图像中各个像素点进行标注标签和分类。所以对于网络上的发送传播的涉黄图像，需要对该图像进行语义分割，完成图像的分割、标注和理解。图像语义分割的实现主要包括阈值法、像素聚类法和图像边缘分割法，在涉黄图像的分割上，利用这些方法可以获取前后背景、图像纹信息和边缘信息，最终得到预期的分割结果。最后利用统计法、结构法、神经网络法、模板匹配法和集合变换法进行图像识别。
实施例二：
实施例二在实施例一的基础上，增加了以下内容：
参见图3，所述利用所述AI鉴黄模型检测所述待检测视频是否涉黄具体包括：
从所述待检测视频中截取若干个视频帧；
利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；
根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄。
具体地，AI鉴黄模型使用时，首先从所述待检测视频中截取(可以是随机截取或者是按照固定间隔截取)若干个视频帧，然后使用AI鉴黄模型判断每帧图像是否涉黄，根据截取的所有视频帧的帧检测结果来判断待检测视频是否涉黄。该方法实现利用AI鉴黄模型依次对每张视频帧进行鉴别的作用。
模型结构可以分为两类：分类模型和回归模型，这两种模型在实际使用中是有区别的。
1、回归模型。
参见图4，当所述模型结构为回归模型时，所述利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄具体包括：
利用所述AI鉴黄模型对每个视频帧对应的图像进行打分；
定义该待检测视频中所有视频帧最高的得分为该待检测视频的得分，以获得待检测视频的置信度；
根据待检测视频的置信度以及预设的置信等级获得待检测视频的涉黄等级。
具体地，如果模型结构是回归模型，则AI鉴黄模型会对每张图像打分，得分越高，说明图像涉黄的可能性越大，即图像涉黄的置信度越高。当AI鉴黄模型对每张图像都打分后，将所有图像中最高的得分定义为整个待检测视频的得分，即待检测视频涉黄的置信度，最后按照预设的置信区间确定待检测视频的涉黄等级。其中置信区间的选取需要通过实验获得，实验中通过设置不同的置信区间进行分级，根据分级结果统计不同置信区间的分级情况，选择分级情况最佳的置信区间来确定视频的涉黄等级。
2、分类模型。
参见图5，当所述模型结构为分类模型时，所述利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄具体包括：
利用所述AI鉴黄模型对每个视频帧对应的图像进行分类，分为涉黄和不涉黄两类；
当该待检测视频中所有视频帧对应的图像全部为不涉黄时，定义待检测视频不涉黄；否则定义待检测视频涉黄。
具体地，如果模型结构为分类模型，则AI鉴黄模型会直接对每张图像进行分类，分为涉黄和不涉黄两类。如果所有截取的视频帧都没有涉黄的图像，则此待检测视频不涉黄；如果至少有一个截取的视频帧涉黄，则此待检测视频涉黄。
本发明实施例所提供的方法，为简要描述，实施例部分未提及之处，可参考前述方法实施例中相应内容。
实施例三：
实施例三在其他实施例的基础上，增加以下内容：
AI鉴黄模型对每个视频帧对应的图像的鉴定方法包括：
当所述图像为彩色图像时，通过检测图像中的肤色和纹理来判断该图像是否涉黄；
当所述图像为黑白图像时，检测图像中是否存在预设的敏感部位，如果存在，定义该图像涉黄。
具体地，涉黄图像鉴别还需依赖肤色鉴别和纹理鉴别。肤色和纹理的检测方法是利用光流上下文直方图来训练识别器，对待检测的视频每一帧图像进行截取，然后对截取的图像进行光流特征提取，将提取的特征点按照大小、方向分布在一个同心圆当中，然后再根据光流特征点去计算光流直方图，当上述两种检测均报告待检视频为色***时，可以大概率认定该视频为色***。
由于图像又分为彩色图像的和黑白(或灰度)图像，对于黑白(或灰度)图像而言，由于没有彩色，所以肤色检测就失去了效用。且对于漫画这种画出来的人物也没有皮肤的纹理，所以纹理鉴别也失效了。
所以在对图像进行涉黄鉴定时，首先需要对图像的颜色进行分析，利用RGB颜色模型或者HSV颜色模型进行判别。如果是彩色图像，通过监测图像中的肤色和纹理来鉴定该图像是否涉黄。如果是黑白(或灰度)图像，通过敏感部位检测判断是否涉黄，如果出现了敏感部位，则将交由人工进行审核，也可以用多项样本训练模型，提高鉴别效率。
参见图6，当所述模型结构为分类模型和回归模型时，所述利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄具体包括：
利用回归模型对每个视频帧对应的图像进行打分；
利用分类模型对每个视频帧对应的图像进行分类；
根据预设的加权规则、利用待检测视频中所有视频帧的得分和类别计算加权分数；
根据所述加权分数对待检测视频进行分类，分为涉黄和不涉黄两类。
具体地，该方法在对待检测视频进行分类时，如果同时使用了回归模型和分类模型，则每个视频帧图像分别通过这两种模型得到对应的类别和得分。当分析完所有的视频帧后，综合所有图像的类别和得分计算加权分数，将该加权分数作为待检测视频的涉黄置信度得分，最后依据该加权分数对视频进行分类。
参见图7，所述从所述待检测视频中截取若干个视频帧具体包括：
当从所述待检测视频中截取到一个视频帧时，利用感知哈希算法计算当前视频帧的图像与之前截取到的图像的相似度；
当该相似度高于预设的阈值时，丢弃当前视频帧的图像。
具体地，该方法每次在截取到视频帧时，根据感知哈希算法计算当前视频帧图像与之前截取到的图像的相似度，如果视频帧图像与之前图像的相似度高于阈值，说明当前视频帧图像截取到了相似图像，则丢弃到当前截取到的视频帧；如果相似度低于阈值，则说明没有截取到相似图像，保存当前视频帧的图像。
本发明实施例所提供的方法，为简要描述，实施例部分未提及之处，可参考前述方法实施例中相应内容。
实施例四：
一种终端，参见图8，包括处理器801、输入设备802、输出设备803和存储器804，所述处理器801、输入设备802、输出设备803和存储器804通过总线805相互连接，其中，所述存储器804用于存储计算机程序，所述计算机程序包括程序指令，所述处理器801被配置用于调用所述程序指令，执行上述的方法。
应当理解，在本发明实施例中，所称处理器801可以是中央处理单元(CentralProcessing Unit，CPU)，该处理器还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
输入设备802可以包括触控板、指纹采传感器(用于采集用户的指纹信息和指纹的方向信息)、麦克风等，输出设备803可以包括显示器(LCD等)、扬声器等。
该存储器804可以包括只读存储器和随机存取存储器，并向处理器801提供指令和数据。存储器804的一部分还可以包括非易失性随机存取存储器。例如，存储器804还可以存储设备类型的信息。
本发明实施例所提供的终端，为简要描述，实施例部分未提及之处，可参考前述方法实施例中相应内容。
实施例五：
一种计算机可读存储介质，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行上述的方法。
所述计算机可读存储介质可以是前述任一实施例所述的终端的内部存储单元，例如终端的硬盘或内存。所述计算机可读存储介质也可以是所述终端的外部存储设备，例如所述终端上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(SecureDigital,SD)卡，闪存卡(Flash Card)等。进一步地，所述计算机可读存储介质还可以既包括所述终端的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述终端所需的其他程序和数据。所述计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
本发明实施例所提供的介质，为简要描述，实施例部分未提及之处，可参考前述方法实施例中相应内容。
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围，其均应涵盖在本发明的权利要求和说明书的范围当中。
Claims (10)
1.一种视频色情度检测方法，其特征在于，包括以下步骤：
根据历史鉴别数据构建AI鉴黄模型；
获取任务流中待检测视频；
利用所述AI鉴黄模型检测所述待检测视频是否涉黄；如果不是，执行所述任务流；如果是，检测是否需要终止任务流，如果需要，终止该任务流，如果不需要，执行所述任务流。
2.根据权利要求1所述视频色情度检测方法，其特征在于，所述根据历史鉴别数据构建AI鉴黄模型具体包括：
设置模型结构；
使用深度神经网络按照所述模型结构搭建AI鉴黄模型；
使用所述历史鉴别数据训练搭建好的AI鉴黄模型。
3.根据权利要求2所述视频色情度检测方法，其特征在于，所述利用所述AI鉴黄模型检测所述待检测视频是否涉黄具体包括：
从所述待检测视频中截取若干个视频帧；
利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；
根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄。
4.根据权利要求3所述视频色情度检测方法，其特征在于，当所述模型结构为回归模型时，所述利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄具体包括：
利用所述AI鉴黄模型对每个视频帧对应的图像进行打分；
定义该待检测视频中所有视频帧最高的得分为该待检测视频的得分，以获得待检测视频的置信度；
根据待检测视频的置信度以及预设的置信等级获得待检测视频的涉黄等级。
5.根据权利要求3所述视频色情度检测方法，其特征在于，当所述模型结构为分类模型时，所述利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄具体包括：
利用所述AI鉴黄模型对每个视频帧对应的图像进行分类，分为涉黄和不涉黄两类；
当该待检测视频中所有视频帧对应的图像全部为不涉黄时，定义待检测视频不涉黄；否则定义待检测视频涉黄。
6.根据权利要求5所述视频色情度检测方法，其特征在于，AI鉴黄模型对每个视频帧对应的图像的鉴定方法包括：
当所述图像为彩色图像时，通过检测图像中的肤色和纹理来判断该图像是否涉黄；
当所述图像为黑白图像时，检测图像中是否存在预设的敏感部位，如果存在，定义该图像涉黄。
7.根据权利要求5所述视频色情度检测方法，其特征在于，
当所述模型结构为分类模型和回归模型时，所述利用所述AI鉴黄模型检测每个视频帧对应的图像是否涉黄，以获得帧检测结果；根据该待检测视频中所有视频帧的帧检测结果判断该待检测视频是否涉黄具体包括：
利用回归模型对每个视频帧对应的图像进行打分；
利用分类模型对每个视频帧对应的图像进行分类；
根据预设的加权规则、利用待检测视频中所有视频帧的得分和类别计算加权分数；
根据所述加权分数对待检测视频进行分类，分为涉黄和不涉黄两类。
8.根据权利要求3所述视频色情度检测方法，其特征在于，所述从所述待检测视频中截取若干个视频帧具体包括：
当从所述待检测视频中截取到一个视频帧时，利用感知哈希算法计算当前视频帧的图像与之前截取到的图像的相似度；
当该相似度高于预设的阈值时，丢弃当前视频帧的图像。
9.一种终端，其特征在于，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行如权利要求1-8任一项所述的方法。
10.一种计算机可读存储介质，其特征在于，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行如权利要求1-8任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010018646.8A CN111163332A (zh) | 2020-01-08 | 2020-01-08 | 视频色情度检测方法、终端及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010018646.8A CN111163332A (zh) | 2020-01-08 | 2020-01-08 | 视频色情度检测方法、终端及介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111163332A true CN111163332A (zh) | 2020-05-15 |
Family
ID=70562076
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010018646.8A Pending CN111163332A (zh) | 2020-01-08 | 2020-01-08 | 视频色情度检测方法、终端及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111163332A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112905842A (zh) * | 2021-03-05 | 2021-06-04 | 北京睿芯高通量科技有限公司 | 一种视频安全检测一体化的***及方法 |
| WO2023274058A1 (en) * | 2021-06-28 | 2023-01-05 | International Business Machines Corporation | Privacy-protecting multi-pass street-view photo-stitch |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102184419A (zh) * | 2011-04-13 | 2011-09-14 | 深圳市迈科龙影像技术有限公司 | 基于敏感部位检测的色情图像识别方法 |
| CN104837031A (zh) * | 2015-04-08 | 2015-08-12 | 中国科学院信息工程研究所 | 一种高速自适应提取视频关键帧的方法 |
| WO2017113691A1 (zh) * | 2015-12-29 | 2017-07-06 | 乐视控股（北京）有限公司 | 视频特征识别方法和装置 |
| CN109145979A (zh) * | 2018-08-15 | 2019-01-04 | 上海嵩恒网络科技股份有限公司 | 敏感图像鉴定方法及终端*** |
| CN109522822A (zh) * | 2018-10-30 | 2019-03-26 | 北京奇虎科技有限公司 | 一种视频检测方法及装置 |
| CN109670423A (zh) * | 2018-12-05 | 2019-04-23 | 依通（北京）科技有限公司 | 一种基于深度学习的图像识别***、方法及介质 |
| CN109740670A (zh) * | 2019-01-02 | 2019-05-10 | 京东方科技集团股份有限公司 | 视频分类的方法及装置 |
-
2020
- 2020-01-08 CN CN202010018646.8A patent/CN111163332A/zh active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102184419A (zh) * | 2011-04-13 | 2011-09-14 | 深圳市迈科龙影像技术有限公司 | 基于敏感部位检测的色情图像识别方法 |
| CN104837031A (zh) * | 2015-04-08 | 2015-08-12 | 中国科学院信息工程研究所 | 一种高速自适应提取视频关键帧的方法 |
| WO2017113691A1 (zh) * | 2015-12-29 | 2017-07-06 | 乐视控股（北京）有限公司 | 视频特征识别方法和装置 |
| CN109145979A (zh) * | 2018-08-15 | 2019-01-04 | 上海嵩恒网络科技股份有限公司 | 敏感图像鉴定方法及终端*** |
| CN109522822A (zh) * | 2018-10-30 | 2019-03-26 | 北京奇虎科技有限公司 | 一种视频检测方法及装置 |
| CN109670423A (zh) * | 2018-12-05 | 2019-04-23 | 依通（北京）科技有限公司 | 一种基于深度学习的图像识别***、方法及介质 |
| CN109740670A (zh) * | 2019-01-02 | 2019-05-10 | 京东方科技集团股份有限公司 | 视频分类的方法及装置 |
Non-Patent Citations (1)
| Title |
|---|
| 毛安寅等: "基于肤色和行为的色***检测", 《计算机工程与应用》 * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112905842A (zh) * | 2021-03-05 | 2021-06-04 | 北京睿芯高通量科技有限公司 | 一种视频安全检测一体化的***及方法 |
| CN112905842B (zh) * | 2021-03-05 | 2024-03-15 | 北京中科通量科技有限公司 | 一种视频安全检测一体化的***及方法 |
| WO2023274058A1 (en) * | 2021-06-28 | 2023-01-05 | International Business Machines Corporation | Privacy-protecting multi-pass street-view photo-stitch |
| US11558550B1 (en) | 2021-06-28 | 2023-01-17 | International Business Machines Corporation | Privacy-protecting multi-pass street-view photo-stitch |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107423690B (zh) | 一种人脸识别方法及装置 | |
| CN110334706B (zh) | 一种图像目标识别方法及装置 | |
| CN110020592B (zh) | 物体检测模型训练方法、装置、计算机设备及存储介质 | |
| CN112381775B (zh) | 一种图像篡改检测方法、终端设备及存储介质 | |
| WO2021139324A1 (zh) | 图像识别方法、装置、计算机可读存储介质及电子设备 | |
| US20190392202A1 (en) | Expression recognition method, apparatus, electronic device, and storage medium | |
| WO2022033150A1 (zh) | 图像识别方法、装置、电子设备及存储介质 | |
| CN107944427B (zh) | 动态人脸识别方法及计算机可读存储介质 | |
| WO2019114036A1 (zh) | 人脸检测方法及装置、计算机装置和计算机可读存储介质 | |
| US7657086B2 (en) | Method and apparatus for automatic eyeglasses detection using a nose ridge mask | |
| CN110851835A (zh) | 图像模型检测方法、装置、电子设备及存储介质 | |
| CN108491866B (zh) | ***鉴定方法、电子装置及可读存储介质 | |
| CN110287791B (zh) | 一种用于人脸图片的筛选方法和*** | |
| CN109815797B (zh) | 活体检测方法和装置 | |
| CN111583180B (zh) | 一种图像的篡改识别方法、装置、计算机设备及存储介质 | |
| CN110929635B (zh) | 基于信任机制下面部交并比的假脸视频检测方法及*** | |
| CN111079816A (zh) | 图像的审核方法、装置和服务器 | |
| CN111986183A (zh) | 一种染色体散型图像自动分割识别***及装置 | |
| CN111178146A (zh) | 基于人脸特征识别主播的方法及装置 | |
| CN111163332A (zh) | 视频色情度检测方法、终端及介质 | |
| CN111881775B (zh) | 一种人脸实时识别方法和装置 | |
| CN114067186A (zh) | 一种行人检测方法、装置、电子设备及存储介质 | |
| CN113870196A (zh) | 一种基于锚点切图的图像处理方法、装置、设备和介质 | |
| CN116152191A (zh) | 基于深度学习的显示屏裂纹缺陷检测方法、装置及设备 | |
| CN115830686A (zh) | 基于特征融合的生物识别方法、***、装置及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200515 |
|
| RJ01 | Rejection of invention patent application after publication |