CN114329075B - 一种确定播放页面的方法及装置 - Google Patents

Abstract

本发明提供了一种确定播放页面的方法及装置，获取第一待审核视频；将第一待审核视频输入第一处理器链进行处理得到第二待审核视频；调用第二处理器链从预设维度确定第二待审核视频中是否包含敏感内容；在确定第二待审核视频包含敏感内容的情况下，标记第二待审核视频应用严肃模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理得到第三待审核视频；在确定第二待审核视频不包含敏感内容的情况下，标记第二待审核视频应用正常模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理得到第三待审核视频；将第三待审核视频输出至审核***。不需要审核人员对视频进行人工审查，降低审查成本和提高审查效率。

Description

一种确定播放页面的方法及装置

技术领域

本发明涉及数据处理技术领域，具体涉及一种确定播放页面的方法及装置。

背景技术

随着互联网的发展，视频成为最主要的信息传递方式之一。视频在上传到视频网站时需要进行敏感内容的审查，根据审查结果确定应用哪一类型的播放页面来播放视频；包含敏感内容的视频需要通过严肃模板对应的播放页面进行播放，严肃模板对应的播放页面仅提供视频播放器功能（不提供视频推荐列表功能、评论功能、弹幕功能和广告功能）；不包含敏感内容的视频需要通过正常模板对应的播放页面进行播放，正常模板对应的播放页面可以提供视频播放器功能、视频推荐列表功能、评论功能、弹幕功能和广告功能等。

目前确定播放页面的类型的方式为：审核人员人工对视频的内容进行审查，如果视频中包含敏感内容则标记应用严肃模板对应的播放页面，反之则应用正常模板对应的播放页面。但是由于视频数量较多，人工审查需要耗费大量的人力和时间，审查成本较高和审查效率较低。

发明内容

有鉴于此，本发明实施例提供一种确定播放页面的方法及装置，以解决现有确定播放页面的类型的方式存在的审查成本较高和审查效率较低等问题。

为实现上述目的，本发明实施例提供如下技术方案：

本发明实施例第一方面公开一种确定播放页面的方法，所述方法包括：

从业务***中获取第一待审核视频；

将所述第一待审核视频输入第一处理器链进行处理，以得到第二待审核视频；

调用第二处理器链从预设维度确定所述第二待审核视频中是否包含敏感内容，所述预设维度为：文字内容维度、语音内容维度和/或图像内容维度；

在确定所述第二待审核视频包含敏感内容的情况下，标记所述第二待审核视频应用严肃模板对应的播放页面，将标记后的所述第二待审核视频输入第三处理器链进行处理以得到第三待审核视频，其中，所述严肃模板对应的播放页面包括视频播放器功能；

在确定所述第二待审核视频不包含敏感内容的情况下，标记所述第二待审核视频应用正常模板对应的播放页面，将标记后的所述第二待审核视频输入第三处理器链进行处理以得到第三待审核视频，其中，所述正常模板对应的播放页面包括：视频播放器功能和其它功能；

将所述第三待审核视频输出至审核***。

优选的，第二处理器链包含：敏感内容检测处理器；

调用第二处理器链从预设维度确定所述第二待审核视频中是否包含敏感内容，包括：

调用敏感内容检测处理器检测所述第二待审核视频中的文字内容；

若第二待审核视频中的文字内容命中预设的敏感关键词，确定所述第二待审核视频包含敏感内容；

若第二待审核视频中的文字内容未命中所述敏感关键词，调用所述敏感内容检测处理器，将所述第二待审核视频中的语音内容转换为文本并对所述文本进行检测；

若所述文本命中所述敏感关键词，确定所述第二待审核视频包含敏感内容；

若所述文本未命中所述敏感关键词，调用所述敏感内容检测处理器对所述第二待审核视频的图像内容进行检测；

若所述第二待审核视频的图像内容命中预设的敏感图像，确定所述第二待审核视频包含敏感内容；

若所述第二待审核视频的图像内容未命中所述敏感图像，确定所述第二待审核视频不包含敏感内容。

优选的，第二处理器链包含：关键词检测处理器、语音识别处理器和人脸识别处理器；

调用第二处理器链从预设维度确定所述第二待审核视频中是否包含敏感内容，包括：

调用关键词检测处理器检测所述第二待审核视频中的文字内容；

若第二待审核视频中的文字内容命中预设的敏感关键词，确定所述第二待审核视频包含敏感内容；

若第二待审核视频中的文字内容未命中所述敏感关键词，调用语音识别处理器，将所述第二待审核视频中的语音内容转换为文本并对所述文本进行检测；

若所述文本命中所述敏感关键词，确定所述第二待审核视频包含敏感内容；

若所述文本未命中所述敏感关键词，调用人脸识别处理器对所述第二待审核视频的图像内容进行检测；

若所述第二待审核视频的图像内容命中预设的敏感图像，确定所述第二待审核视频包含敏感内容；

若所述第二待审核视频的图像内容未命中所述敏感图像，确定所述第二待审核视频不包含敏感内容。

优选的，所述第一处理器链包含：联系方式过滤器、高亮处理器和MD5检测处理器。

优选的，所述第三处理器链包含：免审检测处理器、用户标签检测处理器、基因检测处理器、产品策略处理器、发送消息处理器和保存数据库处理器。

本发明实施例第二方面公开一种确定播放页面的装置，所述装置包括：

获取单元，用于从业务***中获取第一待审核视频；

输入单元，用于将所述第一待审核视频输入第一处理器链进行处理，以得到第二待审核视频；

调用单元，用于调用第二处理器链从预设维度确定所述第二待审核视频中是否包含敏感内容，所述预设维度为：文字内容维度、语音内容维度和/或图像内容维度；

第一标记单元，用于在确定所述第二待审核视频包含敏感内容的情况下，标记所述第二待审核视频应用严肃模板对应的播放页面，将标记后的所述第二待审核视频输入第三处理器链进行处理以得到第三待审核视频，其中，所述严肃模板对应的播放页面包括视频播放器功能；

第二标记单元，用于在确定所述第二待审核视频不包含敏感内容的情况下，标记所述第二待审核视频应用正常模板对应的播放页面，将标记后的所述第二待审核视频输入第三处理器链进行处理以得到第三待审核视频，其中，所述正常模板对应的播放页面包括：视频播放器功能和其它功能；

输出单元，用于将所述第三待审核视频输出至审核***。

优选的，第二处理器链包含：敏感内容检测处理器；所述调用单元包括：

第一调用模块，用于调用敏感内容检测处理器检测所述第二待审核视频中的文字内容；若第二待审核视频中的文字内容命中预设的敏感关键词，确定所述第二待审核视频包含敏感内容；若第二待审核视频中的文字内容未命中所述敏感关键词，执行第二调用模块；

所述第二调用模块，用于调用所述敏感内容检测处理器，将所述第二待审核视频中的语音内容转换为文本并对所述文本进行检测；若所述文本命中所述敏感关键词，确定所述第二待审核视频包含敏感内容；若所述文本未命中所述敏感关键词，执行第三调用模块；

所述第三调用模块，用于调用所述敏感内容检测处理器对所述第二待审核视频的图像内容进行检测；若所述第二待审核视频的图像内容命中预设的敏感图像，确定所述第二待审核视频包含敏感内容；若所述第二待审核视频的图像内容未命中所述敏感图像，确定所述第二待审核视频不包含敏感内容。

优选的，第二处理器链包含：关键词检测处理器、语音识别处理器和人脸识别处理器；所述调用单元包括：

第四调用模块，用于调用关键词检测处理器检测所述第二待审核视频中的文字内容；若第二待审核视频中的文字内容命中预设的敏感关键词，确定所述第二待审核视频包含敏感内容；若第二待审核视频中的文字内容未命中所述敏感关键词，执行第五调用模块；

所述第五调用模块，用于调用语音识别处理器，将所述第二待审核视频中的语音内容转换为文本并对所述文本进行检测；若所述文本命中所述敏感关键词，确定所述第二待审核视频包含敏感内容；若所述文本未命中所述敏感关键词，执行第六调用模块；

所述第六调用模块，用于调用人脸识别处理器对所述第二待审核视频的图像内容进行检测；若所述第二待审核视频的图像内容命中预设的敏感图像，确定所述第二待审核视频包含敏感内容；若所述第二待审核视频的图像内容未命中所述敏感图像，确定所述第二待审核视频不包含敏感内容。

优选的，所述第一处理器链包含：联系方式过滤器、高亮处理器和MD5检测处理器。

优选的，所述第三处理器链包含：免审检测处理器、用户标签检测处理器、基因检测处理器、产品策略处理器、发送消息处理器和保存数据库处理器。

基于上述本发明实施例提供的一种确定播放页面的方法及装置，该方法为：从业务***中获取第一待审核视频；将第一待审核视频输入第一处理器链进行处理，以得到第二待审核视频；调用第二处理器链从预设维度确定第二待审核视频中是否包含敏感内容；在确定第二待审核视频包含敏感内容的情况下，标记第二待审核视频应用严肃模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频；在确定第二待审核视频不包含敏感内容的情况下，标记第二待审核视频应用正常模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频；将第三待审核视频输出至审核***。通过调用第二处理器链从不同预设维度来检测视频中是否存在敏感内容，不需要审核人员对视频进行人工审查，降低审查成本和提高审查效率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本发明实施例提供的一种确定播放页面的方法的流程图；

图2为本发明实施例提供的一种确定播放页面的方法的另一流程图；

图3为本发明实施例提供的一种确定播放页面的装置的结构框图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

在本申请中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

由背景技术可知，视频在上传到视频网站时需要进行敏感内容的审查，根据审查结果确定应用哪一类型的播放页面来播放视频。目前通常由审核人员人工对视频的内容进行审查，如果视频中包含敏感内容则标记应用严肃模板对应的播放页面，反之则应用正常模板对应的播放页面。但是由于视频数量较多，人工审查需要耗费大量的人力和时间，审查成本较高和审查效率较低。

因此，本发明实施例提供一种确定播放页面的方法及装置，从业务***中获取第一待审核视频，将第一待审核视频输入第一处理器链进行处理，以得到第二待审核视频。调用第二处理器链从不同预设维度来检测视频中是否存在敏感内容。确定第二待审核视频包含敏感内容的情况下，标记第二待审核视频应用严肃模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频。确定第二待审核视频不包含敏感内容的情况下，标记第二待审核视频应用正常模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频。将第三待审核视频输出至审核***。不需要审核人员对视频进行人工审查，以降低审查成本和提高审查效率。

需要说明的是，对于业务***中的待审核视频（也就是需要审核的视频），待审核视频在进入审核***之前，该待审核视频需要经过进审链（由一系列的处理器构成）的处理，进审链即为待审核视频从业务***进入审核***需经过的链路，进审链可以认为是责任链模式的具体实现。前述提及的进审链具体可以划分为本方案中所提及的第一处理器链、第二处理器链和第三处理器链；发明人经研究发现，可以在进审链处理待审核视频的过程中，利用进审链的处理器检测待审核视频中是否包含敏感内容；即在待审核视频的进审过程中检测敏感内容，不需要审核人员进行人工审查，以降低审查成本和提高审查效率。具体如何检测待审核视频中是否包含敏感内容，详见以下各个实施例中的解释说明。

参见图1，示出了本发明实施例提供的一种确定播放页面的方法的流程图，该方法包括：

步骤S101：从业务***中获取第一待审核视频。

在具体实现步骤S101的过程中，从业务***（或者说视频***）中获取第一待审核视频，该第一待审核视频即为业务***中需要进行审核的视频。

步骤S102：将第一待审核视频输入第一处理器链进行处理，以得到第二待审核视频。

在具体实现步骤S102的过程中，将第一待审核视频输入第一处理器链，该第一待审核视频顺序经过第一处理器链的各个处理器处理后，可得到第二待审核视频。

一些实施例中，第一处理器链包含：联系方式过滤器、高亮处理器和MD5检测处理器。将第一待审核视频输入第一处理器链，第一待审核视频顺序经过联系方式过滤器、高亮处理器和MD5检测处理器处理后即可得到第二待审核视频，具体而言：第一待审核视频先被联系方式过滤器处理，联系方式过滤器将处理后的第一待审核视频传递给高亮处理器进行处理，高亮处理器将处理后的第一待审核视频传递给MD5检测处理器进行处理后得到第二待审核视频。

步骤S103：调用第二处理器链从预设维度确定第二待审核视频中是否包含敏感内容。

需要说明的是，预设维度为：文字内容维度、语音内容维度和/或图像内容维度。

在具体实现步骤S103的过程中，调用第二处理器链，从不同的预设维度确定第二待审核视频中是否包含敏感内容。

具体而言，可先从文字内容维度确定第二待审核视频中是否包含敏感内容，如果从文字内容维度确定第二待审核视频中包含敏感内容，执行步骤S104；如果从文字内容维度未能确定第二待审核视频中包含敏感内容，接着从语音内容维度确定第二待审核视频中是否包含敏感内容，如果从语音内容维度确定第二待审核视频中包含敏感内容，执行步骤S104；如果从语音内容维度也未能确定第二待审核视频中包含敏感内容（此时文字内容维度未能确定第二待审核视频中包含敏感内容），接着从图像内容维度确定第二待审核视频中是否包含敏感内容，如果从图像内容维度确定第二待审核视频中包含敏感内容，执行步骤S104；如果从图像内容维度也未能确定第二待审核视频中包含敏感内容（此时文字内容维度和语音内容维度都未能确定第二待审核视频中包含敏感内容），此时可确定第二待审核视频中不包含敏感内容，执行步骤S105。

需要说明的是，敏感内容可以是涉及指定内容的信息，敏感内容可根据实际需求进行定义，在本发明实施例中不对敏感内容进行限定。

一些实施例中，第二处理器链中可以仅包含一个处理器，由该处理器从不同的预设维度确定第二待审核视频中是否包含敏感内容；第二处理器链中也可以包含多个处理器，每个处理器用于从相应的预设维度确定第二待审核视频中是否包含敏感内容，即一个处理器用于从一个预设维度确定第二待审核视频中是否包含敏感内容。以下分别解释说明如何从不同的预设维度确定第二待审核视频中是否包含敏感内容。

第二处理器链仅包含敏感内容检测处理器的情况下（第二处理器链中仅包含一个处理器的情况），关于如何从不同的预设维度确定第二待审核视频中是否包含敏感内容的说明：

调用敏感内容检测处理器检测第二待审核视频中的文字内容（从文字内容维度检测）；可以理解的是，文字内容可以是第二待审核视频的标题、简介和标签等；具体而言，对第二待审核视频中的文字内容进行关键词检测。

若第二待审核视频中的文字内容命中预设的敏感关键词（涉及敏感内容的关键词），确定第二待审核视频包含敏感内容，执行步骤S104，此时不再需要从语音内容维度和图像内容维度确定第二待审核视频中是否包含敏感内容。

若第二待审核视频中的文字内容未命中敏感关键词，调用敏感内容检测处理器，将第二待审核视频中的语音内容转换为文本并对该文本进行检测（从语音内容维度检测）；具体而言，检测由语音内容转换得到的文本是否命中预设的敏感关键词。

若由第二待审核视频的语音内容转换成得到的文本命中敏感关键词，确定第二待审核视频包含敏感内容，执行步骤S104，此时不再需要从图像内容确定第二待审核视频中是否包含敏感内容。

若由第二待审核视频的语音内容转换得到的文本未命中敏感关键词，调用敏感内容检测处理器对第二待审核视频的图像内容进行检测（从图像内容维度检测）；具体而言，利用人脸识别模型对第二待审核视频的图像内容进行检测，检测该图像内容中是否命中预设的敏感图像。需要说明的是，人脸识别模型预先基于人脸识别算法和样本数据训练神经网络模型训练得到；敏感图像可以是指定人物的人脸图像。

若第二待审核视频的图像内容命中预设的敏感图像，确定第二待审核视频包含敏感内容，执行步骤S104。

若第二待审核视频的图像内容未命中敏感图像，确定第二待审核视频不包含敏感内容，执行步骤S105。也就是说，若第二待审核视频中的文字内容未命中敏感关键词，及若由第二待审核视频的语音内容转换得到的文本未命中敏感关键词，及若第二待审核视频的图像内容未命中敏感图像，此时可确定第二待审核视频不包含敏感内容。

以上内容是利用敏感内容检测处理器从不同的预设维度确定第二待审核视频中是否包含敏感内容的说明（第二处理器链中仅包含一个处理器的情况）。

第二处理器链仅包含关键词检测处理器、语音识别处理器和人脸识别处理器的情况下（第二处理器链包含多个处理器的情况），关于如何从不同的预设维度确定第二待审核视频中是否包含敏感内容的说明：

调用关键词检测处理器检测第二待审核视频中的文字内容。

若第二待审核视频中的文字内容命中预设的敏感关键词，确定第二待审核视频包含敏感内容，此时跳过语音识别处理器和人脸识别处理器的处理，执行步骤S104。

若第二待审核视频中的文字内容未命中敏感关键词，调用语音识别处理器，将第二待审核视频中的语音内容转换为文本并对文本进行检测。

若文本命中敏感关键词，确定第二待审核视频包含敏感内容，此时跳过人脸识别处理器的处理，执行步骤S104。

若文本未命中所述敏感关键词，调用人脸识别处理器对第二待审核视频的图像内容进行检测。

若第二待审核视频的图像内容命中预设的敏感图像，确定第二待审核视频包含敏感内容，执行步骤S104。

若第二待审核视频的图像内容未命中所述敏感图像，确定第二待审核视频不包含敏感内容，执行步骤S105。也就是说，若通过关键词检测处理器确定第二待审核视频中的文字内容未命中敏感关键词，及若通过语音识别处理器确定第二待审核视频中的语音内容未命中敏感关键词，及若通过人脸识别处理器确定第二待审核视频的图像内容未命中敏感图像，此时可确定第二待审核视频不包含敏感内容。

以上内容是依序利用关键词检测处理器、语音识别处理器和人脸识别处理器从不同的预设维度确定第二待审核视频中是否包含敏感内容的说明（第二处理器链中包含多个处理器的情况）。

步骤S104：在确定第二待审核视频包含敏感内容的情况下，标记第二待审核视频应用严肃模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频。执行步骤S106。

需要说明的是，严肃模板对应的播放页面包括视频播放器功能；也就是说，严肃模板对应的播放页面仅提供视频播放器功能（不提供视频推荐列表功能、评论功能、弹幕功能和广告功能）。

在具体实现步骤S104的过程中，在确定第二待审核视频包含敏感内容的情况下，标记第二待审核视频应用严肃模板对应的播放页面，即确定第二待审核视频所应用的播放页面为严肃模板对应的播放页面。

可以理解的是，具体可以通过设置第二待审核视频的指定属性值，以标记第二待审核视频应用严肃模板对应的播放页面；例如：可以将第二待审核视频的指定属性值设置为TRUE，以标记第二待审核视频应用严肃模板对应的播放页面。

标记第二待审核视频应用严肃模板对应的播放页面之后，将标记后的第二待审核视频输入第三处理器链，该标记后的第二待审核视频顺序经过第三处理器链的各个处理器处理后，可得到第三待审核视频；得到第三待审核视频后执行步骤S106。

一些实施例中，第三处理器链包含：免审检测处理器、用户标签检测处理器、基因检测处理器、产品策略处理器、发送消息处理器和保存数据库处理器。将标记后的第二待审核视频输入第三处理器链，该标记后的第二待审核视频顺序经过免审检测处理器、用户标签检测处理器、基因检测处理器、产品策略处理器、发送消息处理器和保存数据库处理器的处理后可得到第三待审核视频，标记后的第二待审核视频顺序经过第三处理器链的各个处理器的具体过程，可参见上述步骤S102中关于第一待审核视频输入第一处理器链进行处理的内容，在此不再赘述。

步骤S105：在确定第二待审核视频不包含敏感内容的情况下，标记第二待审核视频应用正常模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频。执行步骤S106。

需要说明的是，正常模板对应的播放页面包括：视频播放器功能和其它功能，其它功能可以是视频推荐列表功能、评论功能、弹幕功能和广告功能等；也就是说，正常模板对应的播放页面可以提供视频播放器功能、视频推荐列表功能、评论功能、弹幕功能和广告功能等。

在具体实现步骤S105的过程中，在确定第二待审核视频不包含敏感内容的情况下，标记第二待审核视频应用正常模板对应的播放页面，即确定第二待审核视频所应用的播放页面为正常模板对应的播放页面。

可以理解的是，具体可以通过设置第二待审核视频的指定属性值，以标记第二待审核视频应用正常模板对应的播放页面；例如：可以将第二待审核视频的指定属性值设置为FALSE，以标记第二待审核视频应用正常模板对应的播放页面。

标记第二待审核视频应用正常模板对应的播放页面之后，将标记后的第二待审核视频输入第三处理器链，该标记后的第二待审核视频顺序经过第三处理器链的各个处理器处理后，可得到第三待审核视频；得到第三待审核视频后执行步骤S106。关于第三处理器链的相关内容，可参见上述步骤S104的说明，在此不再赘述。

步骤S106：将第三待审核视频输出至审核***。

由上述步骤S104和步骤S105的内容可知，第三待审核视频为经过第三处理器链处理后的第二待审核视频（已经完成标记）；也就是第三待审核视频标记应用严肃模板对应的播放页面或者标记应用正常模板对应的播放页面。

在具体实现步骤S106的过程中，将第三待审核视频输出至审核***中，由审核***继续对第三待审核视频进行其它方面的审核，例如：审核第三待审核视频中的其它违规内容，其中，其它违规内容为除了上述步骤中提及的敏感内容以外的违规内容。

一些实施例中，审核***至少包含机器审核和人工审核两种审核方式，第三待审核视频通过审核***的审核之后，将审核通过的第三待审核视频返回业务***以待播放。

一些实施例中，业务***接收到由审核***返回的通过审核的第三待审核视频之后，业务***可以将通过审核的第三待审核视频进行展示以便于用户观看。具体而言，用户可以从搜索引擎、视频推荐页和剧集列表等多个入口寻找到通过审核的第三待审核视频。在检测到用户点击播放通过审核的第三待审核视频时，如果该第三待审核视频标记应用严肃模板对应的播放页面，则通过严肃模板对应的播放页面来播放该第三待审核视频；如果该第三待审核视频标记应用正常模板对应的播放页面，则通过正常模板对应的播放页面来播放该第三待审核视频。

在本发明实施例中，从业务***中获取第一待审核视频，将第一待审核视频输入第一处理器链进行处理，以得到第二待审核视频。调用第二处理器链从不同预设维度来检测视频中是否存在敏感内容。确定第二待审核视频包含敏感内容的情况下，标记第二待审核视频应用严肃模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频。确定第二待审核视频不包含敏感内容的情况下，标记第二待审核视频应用正常模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频。将第三待审核视频输出至审核***。不需要审核人员对视频进行人工审查，降低审查成本和提高审查效率。

为更好解释说明上述本发明实施例图1中第一处理器链、第二处理器链和第三处理器链的处理过程，通过图2示出的一种确定播放页面的方法的另一流程图进行举例说明，图2所给出的示例中，第二处理器链包含多个处理器，图2包括以下步骤：

步骤S201：从业务***获取第一待审核视频。

步骤S202：将第一待审核视频输入第一处理器链处理，以得到第二待审核视频。

步骤S203：调用关键词检测处理器检测第二待审核视频中是否包含敏感内容。若调用关键词检测处理器检测到第二待审核视频中包含敏感内容，标记第二待审核视频应用严肃模板对应的播放页面，执行步骤S206；若调用关键词检测处理器没有检测到第二待审核视频中包含敏感内容，执行步骤S204。

步骤S204：调用语音识别处理器检测第二待审核视频中是否包含敏感内容。若调用语音识别处理器检测到第二待审核视频中包含敏感内容，标记第二待审核视频应用严肃模板对应的播放页面，执行步骤S206；若调用语音识别处理器没有检测到第二待审核视频中包含敏感内容，执行步骤S205。

步骤S205：调用人脸识别处理器检测第二待审核视频中是否包含敏感内容。若调用人脸识别处理器检测到第二待审核视频中包含敏感内容，标记第二待审核视频应用严肃模板对应的播放页面，执行步骤S206；若调用人脸识别处理器没有检测到第二待审核视频中包含敏感内容，标记第二待审核视频应用正常模板对应的播放页面，执行步骤S206。

步骤S206：将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频。

步骤S207：将第三待审核视频输出至审核***。

优选的，第三待审核视频通过审核***的审核之后，将通过审核的第三待审核视频返回业务***。

需要说明的是，步骤S201至步骤S207的执行原理，可以参见上述本发明实施例图1中的内容，在此不再赘述。

与上述本发明实施例提供的一种确定播放页面的方法相对应，参见图3，本发明实施例还提供了一种确定播放页面的装置的结构框图，该装置包括：获取单元301、输入单元302、调用单元303、第一标记单元304、第二标记单元305和输出单元306；

获取单元301，用于从业务***中获取第一待审核视频。

输入单元302，用于将第一待审核视频输入第一处理器链进行处理，以得到第二待审核视频。

一些实施例中，第一处理器链包含：联系方式过滤器、高亮处理器和MD5检测处理器。

调用单元303，用于调用第二处理器链从预设维度确定第二待审核视频中是否包含敏感内容，预设维度为：文字内容维度、语音内容维度和/或图像内容维度。

第一标记单元304，用于在确定第二待审核视频包含敏感内容的情况下，标记第二待审核视频应用严肃模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频，其中，严肃模板对应的播放页面包括视频播放器功能。

第二标记单元305，用于在确定第二待审核视频不包含敏感内容的情况下，标记第二待审核视频应用正常模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频，其中，正常模板对应的播放页面包括：视频播放器功能和其它功能；

一些实施例中，第三处理器链包含：免审检测处理器、用户标签检测处理器、基因检测处理器、产品策略处理器、发送消息处理器和保存数据库处理器。

输出单元306，用于将第三待审核视频输出至审核***。

在本发明实施例中，从业务***中获取第一待审核视频，将第一待审核视频输入第一处理器链进行处理，以得到第二待审核视频。调用第二处理器链从不同预设维度来检测视频中是否存在敏感内容。确定第二待审核视频包含敏感内容的情况下，标记第二待审核视频应用严肃模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频。确定第二待审核视频不包含敏感内容的情况下，标记第二待审核视频应用正常模板对应的播放页面，将标记后的第二待审核视频输入第三处理器链进行处理以得到第三待审核视频。将第三待审核视频输出至审核***。不需要审核人员对视频进行人工审查，降低审查成本和提高审查效率。

优选的，结合图3示出的内容，第二处理器链包含：敏感内容检测处理器；调用单元303包括：第一调用模块、第二调用模块和第三调用模块；各个模块的执行原理如下：

第一调用模块，用于调用敏感内容检测处理器检测第二待审核视频中的文字内容；若第二待审核视频中的文字内容命中预设的敏感关键词，确定第二待审核视频包含敏感内容；若第二待审核视频中的文字内容未命中敏感关键词，执行第二调用模块。

第二调用模块，用于调用敏感内容检测处理器，将第二待审核视频中的语音内容转换为文本并对文本进行检测；若文本命中所述敏感关键词，确定第二待审核视频包含敏感内容；若文本未命中所述敏感关键词，执行第三调用模块。

第三调用模块，用于调用敏感内容检测处理器对第二待审核视频的图像内容进行检测；若第二待审核视频的图像内容命中预设的敏感图像，确定第二待审核视频包含敏感内容；若第二待审核视频的图像内容未命中敏感图像，确定第二待审核视频不包含敏感内容。

优选的，结合图3示出的内容，第二处理器链包含：关键词检测处理器、语音识别处理器和人脸识别处理器；调用单元303包括：第四调用模块、第五调用模块和第六调用模块；各个模块的执行原理如下：

第四调用模块，用于调用关键词检测处理器检测第二待审核视频中的文字内容；若第二待审核视频中的文字内容命中预设的敏感关键词，确定第二待审核视频包含敏感内容；若第二待审核视频中的文字内容未命中敏感关键词，执行第五调用模块。

第五调用模块，用于调用语音识别处理器，将第二待审核视频中的语音内容转换为文本并对所述文本进行检测；若文本命中所述敏感关键词，确定第二待审核视频包含敏感内容；若文本未命中所述敏感关键词，执行第六调用模块。

第六调用模块，用于调用人脸识别处理器对第二待审核视频的图像内容进行检测；若第二待审核视频的图像内容命中预设的敏感图像，确定第二待审核视频包含敏感内容；若第二待审核视频的图像内容未命中敏感图像，确定第二待审核视频不包含敏感内容。

综上所述，本发明实施例提供一种确定播放页面的方法及装置，在进审链处理待审核视频的过程中，利用进审链的处理器检测待审核视频中是否包含敏感内容，不需要审核人员进行人工审查，降低审查成本和提高审查效率。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于***或***实施例而言，由于其基本相似于方法实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。以上所描述的***及***实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种确定播放页面的方法，其特征在于，所述方法包括：

从业务***中获取第一待审核视频；

将所述第一待审核视频输入第一处理器链进行处理，以得到第二待审核视频；

调用第二处理器链从预设维度确定所述第二待审核视频中是否包含敏感内容，所述预设维度为：文字内容维度、语音内容维度和/或图像内容维度；

在确定所述第二待审核视频包含敏感内容的情况下，标记所述第二待审核视频应用严肃模板对应的播放页面，将标记后的所述第二待审核视频输入第三处理器链进行处理以得到第三待审核视频，其中，所述严肃模板对应的播放页面包括视频播放器功能；

在确定所述第二待审核视频不包含敏感内容的情况下，标记所述第二待审核视频应用正常模板对应的播放页面，将标记后的所述第二待审核视频输入第三处理器链进行处理以得到第三待审核视频，其中，所述正常模板对应的播放页面包括：视频播放器功能和其它功能；

将所述第三待审核视频输出至审核***。

2.根据权利要求1所述的方法，其特征在于，第二处理器链包含：敏感内容检测处理器；

调用第二处理器链从预设维度确定所述第二待审核视频中是否包含敏感内容，包括：

调用敏感内容检测处理器检测所述第二待审核视频中的文字内容；

若第二待审核视频中的文字内容命中预设的敏感关键词，确定所述第二待审核视频包含敏感内容；

若第二待审核视频中的文字内容未命中所述敏感关键词，调用所述敏感内容检测处理器，将所述第二待审核视频中的语音内容转换为文本并对所述文本进行检测；

若所述文本命中所述敏感关键词，确定所述第二待审核视频包含敏感内容；

若所述文本未命中所述敏感关键词，调用所述敏感内容检测处理器对所述第二待审核视频的图像内容进行检测；

若所述第二待审核视频的图像内容命中预设的敏感图像，确定所述第二待审核视频包含敏感内容；

若所述第二待审核视频的图像内容未命中所述敏感图像，确定所述第二待审核视频不包含敏感内容。

3.根据权利要求1所述的方法，其特征在于，第二处理器链包含：关键词检测处理器、语音识别处理器和人脸识别处理器；

调用第二处理器链从预设维度确定所述第二待审核视频中是否包含敏感内容，包括：

调用关键词检测处理器检测所述第二待审核视频中的文字内容；

若第二待审核视频中的文字内容命中预设的敏感关键词，确定所述第二待审核视频包含敏感内容；

若第二待审核视频中的文字内容未命中所述敏感关键词，调用语音识别处理器，将所述第二待审核视频中的语音内容转换为文本并对所述文本进行检测；

若所述文本命中所述敏感关键词，确定所述第二待审核视频包含敏感内容；

若所述文本未命中所述敏感关键词，调用人脸识别处理器对所述第二待审核视频的图像内容进行检测；

若所述第二待审核视频的图像内容命中预设的敏感图像，确定所述第二待审核视频包含敏感内容；

若所述第二待审核视频的图像内容未命中所述敏感图像，确定所述第二待审核视频不包含敏感内容。

4.根据权利要求1-3任一所述的方法，其特征在于，所述第一处理器链包含：联系方式过滤器、高亮处理器和MD5检测处理器。

5.根据权利要求1-3任一所述的方法，其特征在于，所述第三处理器链包含：免审检测处理器、用户标签检测处理器、基因检测处理器、产品策略处理器、发送消息处理器和保存数据库处理器。

6.一种确定播放页面的装置，其特征在于，所述装置包括：

获取单元，用于从业务***中获取第一待审核视频；

输入单元，用于将所述第一待审核视频输入第一处理器链进行处理，以得到第二待审核视频；

调用单元，用于调用第二处理器链从预设维度确定所述第二待审核视频中是否包含敏感内容，所述预设维度为：文字内容维度、语音内容维度和/或图像内容维度；

第一标记单元，用于在确定所述第二待审核视频包含敏感内容的情况下，标记所述第二待审核视频应用严肃模板对应的播放页面，将标记后的所述第二待审核视频输入第三处理器链进行处理以得到第三待审核视频，其中，所述严肃模板对应的播放页面包括视频播放器功能；

第二标记单元，用于在确定所述第二待审核视频不包含敏感内容的情况下，标记所述第二待审核视频应用正常模板对应的播放页面，将标记后的所述第二待审核视频输入第三处理器链进行处理以得到第三待审核视频，其中，所述正常模板对应的播放页面包括：视频播放器功能和其它功能；

输出单元，用于将所述第三待审核视频输出至审核***。

7.根据权利要求6所述的装置，其特征在于，第二处理器链包含：敏感内容检测处理器；所述调用单元包括：

第一调用模块，用于调用敏感内容检测处理器检测所述第二待审核视频中的文字内容；若第二待审核视频中的文字内容命中预设的敏感关键词，确定所述第二待审核视频包含敏感内容；若第二待审核视频中的文字内容未命中所述敏感关键词，执行第二调用模块；

所述第二调用模块，用于调用所述敏感内容检测处理器，将所述第二待审核视频中的语音内容转换为文本并对所述文本进行检测；若所述文本命中所述敏感关键词，确定所述第二待审核视频包含敏感内容；若所述文本未命中所述敏感关键词，执行第三调用模块；

所述第三调用模块，用于调用所述敏感内容检测处理器对所述第二待审核视频的图像内容进行检测；若所述第二待审核视频的图像内容命中预设的敏感图像，确定所述第二待审核视频包含敏感内容；若所述第二待审核视频的图像内容未命中所述敏感图像，确定所述第二待审核视频不包含敏感内容。

8.根据权利要求6所述的装置，其特征在于，第二处理器链包含：关键词检测处理器、语音识别处理器和人脸识别处理器；所述调用单元包括：

第四调用模块，用于调用关键词检测处理器检测所述第二待审核视频中的文字内容；若第二待审核视频中的文字内容命中预设的敏感关键词，确定所述第二待审核视频包含敏感内容；若第二待审核视频中的文字内容未命中所述敏感关键词，执行第五调用模块；

所述第五调用模块，用于调用语音识别处理器，将所述第二待审核视频中的语音内容转换为文本并对所述文本进行检测；若所述文本命中所述敏感关键词，确定所述第二待审核视频包含敏感内容；若所述文本未命中所述敏感关键词，执行第六调用模块；

所述第六调用模块，用于调用人脸识别处理器对所述第二待审核视频的图像内容进行检测；若所述第二待审核视频的图像内容命中预设的敏感图像，确定所述第二待审核视频包含敏感内容；若所述第二待审核视频的图像内容未命中所述敏感图像，确定所述第二待审核视频不包含敏感内容。

9.根据权利要求6-8任一所述的装置，其特征在于，所述第一处理器链包含：联系方式过滤器、高亮处理器和MD5检测处理器。

10.根据权利要求6-8任一所述的装置，其特征在于，所述第三处理器链包含：免审检测处理器、用户标签检测处理器、基因检测处理器、产品策略处理器、发送消息处理器和保存数据库处理器。

Images