CN111460103A - 一种信息检测方法、装置、电子设备和存储介质 - Google Patents

Abstract

本发明实施例提供了一种信息检测方法、装置、电子设备和存储介质，应用于服务器，所述方法包括：确定第一客户端发送的待检测信息；确定一个或多个第二客户端；将所述待检测信息发送至所述第二客户端；所述第二客户用于针对所述待检测信息进行特征检测，以及生成检测数据；所述特征检测为判断所述待检测信息中是否包含预设屏蔽信息；接收所述检测数据；基于所述检测数据，确定检测结果。本发明实施例可以实现降低服务器的运行压力，有效防止服务器在对大量待检测信息进行特征检测时，出现宕机或者过载的情况。

Description

一种信息检测方法、装置、电子设备和存储介质

技术领域

本发明涉及信息技术领域，特别是涉及一种信息检测方法和一种信息检测装置、电子设备、存储介质。

背景技术

在大型多人在线游戏中，社交是一个很重要的部分，社交***可以增强游戏体验和用户黏度。为了防止少部分恶意玩家辱骂他人、破坏游戏环境，需要对玩家的发言进行屏蔽词检测。

屏蔽词检测***可以部署在玩家客户端上，为了避免玩家客户端被破解使得无法进行屏蔽词检测，当玩家进行发言时，一般是在玩家客户端进行屏蔽词检测后，在服务器上再进行一次屏蔽词检测以确保安全。如果要在服务器上进行屏蔽词检测，它的算力消耗还与在线玩家单位时间的发言数量成正比，服务器的性能会受到屏蔽词检测***的性能瓶颈影响。

如图1，示出了现有技术的一种屏蔽词检测流程。目前，在服务器中一般是通过将不同***(例如：社交***、屏蔽词检测相同)部署在不同的进程上，避免屏蔽词检测***占用其他***资源。由社交***发送玩家发言的文本至屏蔽词检测***，屏蔽词***返回社交***检测结果。但是，当大量的玩家发言时，部分玩家发送来的消息将会通过超时逻辑来处理审核而非直接发送至屏蔽词检测***进行，这会降低他们的游戏体验。同时，社交***可能会堆积大量的待检测文本，间接的加重了服务器的压力，并可能造成卡顿，严重影响所有在线玩家的游戏体验。

发明内容

鉴于上述问题，提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种信息检测方法和相应的一种信息检测装置、电子设备、存储介质。

为了解决上述问题，本发明实施例公开了一种信息检测方法，应用于服务器，所述方法包括：

确定第一客户端发送的待检测信息；

确定一个或多个第二客户端；

将所述待检测信息发送至所述第二客户端；所述第二客户用于针对所述待检测信息进行特征检测，以及生成检测数据；所述特征检测为判断所述待检测信息中是否包含预设屏蔽信息；

接收所述检测数据；

基于所述检测数据，确定检测结果。

可选地，所述检测数据包括肯定信息和否定信息中的一种；所述基于所述检测数据，确定检测结果包括：

确定肯定信息的第一数量以及否定信息的第二数量；

依据所述第一数量和第二数量的大小关系，确定所述检测结果。

可选地，所述依据所述第一数量和第二数量的大小关系，确定所述检测结果包括：

当所述第一数量大于所述第二数量时，确定检测结果为合法信息；

当所述第一数量小于或等于第二数量时，确定检测结果为非法信息。

可选地，在所述依据所述第一数量和第二数量的大小关系，确定所述检测结果之前，还包括：

判断所述第一数量以及所述第二数量中的至少一个是否大于预设第一数量阈值；

若所述第一数量以及所述第二数量都不大于预设第一数量阈值，则返回所述确定肯定信息的第一数量以及否定信息的第二数量。

可选地，所述接收所述检测数据包括：

确定接收时长；所述接收时长为当前时间与发送所述待检测信息的时间的差值；

当所述接收时长到达预设时长时，确定接收到的所述检测数据的第三数量；

若所述第三数量小于预设第二数量阈值，则按照预设规则生成检测结果。

可选地，所述检测数据通过如下方法生成：

当所述待检测信息包含所述屏蔽信息时，生成否定信息；

当所述待检测信息不包含所述屏蔽信息时，生成肯定信息。

可选地，所述服务器部署有社交***和屏蔽词***检测***；所述确定第一客户端发送的待检测信息的步骤，包括：

所述社交***获取所述第一客户端发送的社交数据；

所述社交***生成包含所述社交数据的检测请求；

所述屏蔽词***接收所述检测请求，以及确定所述检测请求中的社交数据为待检测信息。

本发明实施例还公开了另一种信息检测方法，应用于第二客户端，所述第二客户端由服务器确定；所述服务器用于确定第一客户端发送的待检测信息；所述服务器还用于将所述待检测信息发送至所述第二客户端；所述方法包括：

针对所述待检测信息进行特征检测；

生成检测数据；

将所述检测数据发送至所述服务器；所述服务器还用于基于所述检测数据，确定检测结果。

本发明实施例还公开了一种信息检测装置，应用于服务器，所述装置包括：

信息接收模块，用于确定第一客户端发送的待检测信息；

确定模块，用于确定一个或多个第二客户端；

信息发送模块，用于将所述待检测信息发送至所述第二客户端；所述第二客户用于针对所述待检测信息进行特征检测，以及生成检测数据；

数据接收模块，用于接收所述检测数据；

结果模块，用于基于所述检测数据，确定检测结果。

可选地，所述检测数据包括肯定信息和否定信息中的一种；所述结果模块包括：

个数确定子模块，用于确定肯定信息的第一数量以及否定信息的第二数量；

关系子模块，用于依据所述第一数量和第二数量的大小关系，确定所述检测结果。

可选地，所述关系子模块包括：

合法单元，用于当所述第一数量大于所述第二数量时，确定检测结果为合法信息；

非法单元，用于当所述第一数量小于或等于第二数量时，确定检测结果为非法信息。

可选地，结果模块还包括：

判断子模块，用于判断所述第一数量以及所述第二数量中的至少一个是否大于预设第一数量阈值；

返回子模块，用于若所述第一数量以及所述第二数量都不大于预设第一数量阈值，则返回所述确定肯定信息的第一数量以及否定信息的第二数量。

可选地，所述数据接收模块包括：

接收时长子模块，用于确定接收时长；所述接收时长为当前时间与发送所述待检测信息的时间的差值；

时长子模块，用于当所述接收时长到达预设时长时，确定接收到的所述检测数据的第三数量；

本地生成模块，用于若所述第三数量小于预设第二数量阈值，则按照预设规则生成检测结果。

可选地，所述第二客户端包括如下模块：

否定模块，用于当所述待检测信息包含所述屏蔽信息时，生成否定信息；

肯定模块，用于当所述待检测信息不包含所述屏蔽信息时，生成肯定信息。

可选地，所述服务器部署有社交***和屏蔽词***检测***；所述信息接收模块，用于调用所述社交***获取所述第一客户端发送的社交数据；

所述信息接收模块，还用于调用所述社交***生成包含所述社交数据的检测请求；

所述信息接收模块，还用于调用所述屏蔽词***接收所述检测请求，以及确定所述检测请求中的社交数据为待检测信息。

本发明实施例还公开了另一种信息检测装置，应用于第二客户端，所述第二客户端由服务器确定；所述服务器用于确定第一客户端发送的待检测信息；所述服务器还用于将所述待检测信息发送至所述第二客户端；所述装置包括：

检测模块，用于针对所述待检测信息进行特征检测；

生成模块，用于生成检测数据；

数据发送模块，用于将所述检测数据发送至所述服务器；所述服务器还用于基于所述检测数据，确定检测结果。

本发明实施例还公开了一种电子设备，包括处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如上所述的信息检测方法的步骤。

本发明实施例还公开了一种计算机可读存储介质，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如上所述的信息检测方法的步骤。

本发明实施例包括以下优点：服务器可以在接收到第一客户端发送的待检测信息后，将待检测信息发送至第二客户端。第二客户端可以对待检测信息进行特征检测，判断待检测信息中是否包含屏蔽信息，生成相应的检测数据，并将检测数据发送至服务器。服务器能够基于接收到的检测数据，生成检测结果，从而避免了采用服务器对待检测信息进行特征检测，降低了服务器的运行压力，有效防止服务器在对大量待检测信息进行特征检测时，出现宕机或者过载的情况。同时，避免了第一客户端在被破解的情况下，发送包含屏蔽信息的社交数据至服务器。

附图说明

图1是现有技术的一种屏蔽词检测流程；

图2是本发明的一种信息检测方法实施例一的步骤流程图；

图3是本发明的一种信息检测方法流程示意图；

图4是本发明的一种信息检测方法实施例二的步骤流程图；

图5是本发明的一种信息检测装置实施例一的结构框图；

图6是本发明的一种信息检测装置实施例二的结构框图。

具体实施方式

为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。

参照图2，示出了本发明的一种信息检测方法实施例一的步骤流程图，本发明实施例可以应用于服务器，具体可以包括如下步骤：

步骤201，确定第一客户端发送的待检测信息；

服务器可以与多个客户端连接通信，客户端可以提供社交功能，用户通过客户端的社交功能与其他用户进行通讯。客户端可以向服务器发送社交数据，例如：字符信息、图像信息等。服务器将发送社交数据的客户端定义为第一客户端，并确定接收到的社交数据为待检测信息。

步骤202，确定一个或多个第二客户端；

服务器可以确定除第一客户端(即发送社交数据)以外的一个或多个客户端为第二客户端。

需要说明的是，第二客户端是针对发送社交数据的第一客户端而言，而非指定的客户端。例如：若存在客户端1、客户端2、客户端3，当客户端1发送社交数据时，可以从客户端2、客户端3中确定第二客户端；而当客户端2发送社交数据时，则可以从客户端1、客户端3中确定第二客户端。

在实际应用中，服务器可以获取除第一客户端以外的部分客户端的设备状态(例如：性能状态、负载状态等)，并根据状态信息确定第二客户端。例如：选择负载状态为低负载的客户端为第二客户端。从而避免由于第二客户端进行特征检测导致第二客户端所处设备无法正常运行的情况。

步骤203，将所述待检测信息发送至所述第二客户端；所述第二客户用于针对所述待检测信息进行特征检测，以及生成检测数据；所述特征检测为判断所述待检测信息中是否包含预设屏蔽信息；

服务器将待检测信息发送至确定的第二客户端，第二客户端可以在接收到待检测信息时，针对待检测信息进行特征检测(例如：字符特征检测、图像特征检测)，判断待检测信息中是否包含特征信息，并生成相应的检测数据。其中，屏蔽信息可以包括但不限于需要屏蔽的字符信息、需要屏蔽的图像信息等。

步骤204，接收所述检测数据；

服务器可以接收第二客户端返回的检测数据。

步骤205，基于所述检测数据，确定检测结果。

由于不同客户端针对同一待检测信息生成的检测数据可能不同，服务器可以基于多个接收到的检测数据，确定检测结果。其中检测结果用以表征待检测信息中是否包含屏蔽信息。

在本发明实施例中，服务器可以在接收到第一客户端发送的待检测信息后，将待检测信息发送至第二客户端。第二客户端可以对待检测信息进行特征检测，判断待检测信息中是否包含屏蔽信息，生成相应的检测数据，并将检测数据发送至服务器。服务器能够基于接收到的检测数据，生成检测结果，从而避免了采用服务器对待检测信息进行特征检测，降低了服务器的运行压力，有效防止服务器在对大量待检测信息进行特征检测时，出现宕机或者过载的情况。同时，避免了第一客户端在被破解的情况下，发送包含屏蔽信息的社交数据至服务器。

在本发明的一种可选实施例中，所述服务器部署有社交***和屏蔽词***检测***；步骤201可以包括：

所述社交***获取所述第一客户端发送的社交数据；所述社交***生成包含所述社交数据的检测请求；

所述屏蔽词***接收所述检测请求，以及确定所述检测请求中的社交数据为待检测信息。

服务器的社交***和屏蔽词***可以部署在不同的线程中，以避免社交***和屏蔽词***中的任一个发生错误或者过载时，影响另一个的运行。

服务器中的社交***用于收发客户端的社交数据，社交***可以针对每一个社交数据生成对应的检测请求，屏蔽词***在接收到检测请求后，确定待检测信息，并由屏蔽词***执行上述步骤202-205。

在本发明的一种可选实施例中，所述检测数据包括肯定信息和否定信息中的一种；所述检测数据通过如下方法生成：当所述待检测信息包含所述屏蔽信息时，生成否定信息；当所述待检测信息不包含所述屏蔽信息时，生成肯定信息。

第二客户端可以预先设置有包含屏蔽信息的数据库，并通过该数据库进行特征检测，判断待检测信息是否包含与该数据库中任一屏蔽信息。具体的，第二客户端在对待检测信息进行特征检测，确定待检测信息中包含屏蔽信息时，则生成否定信息，并生成包含否定信息的检测数据。相似的，第二客户端在对待检测信息进行特征检测，确定待检测信息中不包含屏蔽信息时，则生成肯定信息，并生成包含肯定信息的检测数据。

在本发明的一种可选实施例中，步骤204可以包括：确定接收时长；所述接收时长为当前时间与发送所述待检测信息的时间的差值；当所述接收时长到达预设时长时，确定接收到的所述检测数据的第三数量；若所述第三数量小于预设第二数量阈值，则按照预设规则生成检测结果。

服务器可以在将待检测信息发送至第二客户端之后，确定第二客户端的接收时长，当所述接收时长到达预设时长时，确定接收到的检测数据的第三数量，若所述第三数量小于预设第二数量阈值，服务器按照预设规则生成检测结果，使得服务器在长时间无法接收到满足第二数量阈值的检测数据时，依然能够生成相应的检测结果。其中，预设规则为服务器判断待检测信息中是否包含本地屏蔽信息库的任一屏蔽信息。

例如：预设时长为0.5秒，第二数量阈值为1个。服务器在发送待检测信息至第二客户端后，判断接收时长是否达到0.5秒。如果达到0.5秒后，服务器没有接收到检测数据，则服务器调用本地设置的屏蔽信息库对待检测信息进行特征检测，并生成相应的检测结果。其中，屏蔽信息库中包含一个或多个屏蔽信息。当服务器确定待检测信息中包含屏蔽信息时，则生成检测结果为非法信息；当服务器确定待检测信息中不包含屏蔽信息时，则生成检测结果为合法信息。

在本发明的一种可选实施例中，步骤205可以包括：

子步骤S11，确定肯定信息的第一数量以及否定信息的第二数量；

子步骤S12，依据所述第一数量和第二数量的大小关系，确定所述检测结果。

服务器可以确定获取到的肯定信息的检测数据的个数为第一数量，确定获取到的否定信息的检测数据的个数为第二数量。根据第一数量和第二数量的大小关系，确定检测结果。

在本发明的一种可选实施例中，在子步骤S12之前，步骤105可以还包括：

子步骤S13，判断所述第一数量以及所述第二数量中的至少一个是否大于预设第一数量阈值；

子步骤S14，若所述第一数量以及所述第二数量都不大于预设第一数量阈值，则返回所述确定肯定信息的第一数量以及否定信息的第二数量。

服务器可以设置有第一数量阈值，当第一数量或第二数量中的至少一个大于第一个个数阈值时，才执行子步骤S12，避免肯定信息或者否定信息的个数过少，使得检测结果的准确性和可靠性过低。

例如：在接收到的肯定信息或者否定信息超过3个时，才执行子步骤S12，否则返回子步骤S11。

在本发明的一种可选实施例中，所述S12包括：

子步骤S121，当所述第一数量大于所述第二数量时，确定检测结果为合法信息；

子步骤S122，当所述第一数量小于或等于第二数量时，确定检测结果为非法信息。

当服务器获取到的肯定信息的个数大于否定信息的个数时，确定检测结果为合法信息，即确定待检测信息为合法信息，待检测信息不包含屏蔽信息；当服务器获取到的肯定信息的个数小于或等于否定信息的个数时，确定检测结果为非法信息，即确定待检测信息为非法信息，待检测信息包含屏蔽信息。

当服务器确定检测结果为合法信息时，服务器将所述待检测信息发送至与其连接的客户端；当服务器确定检查结果为非法信息时，服务器则屏蔽该待检测信息，并向该待检测信息对应的第一客户端发送提示消息。其中，服务器屏蔽待检测信息具体可以不发送待检测信息至于其连接的客户端，或者在提出待检测信息中的屏蔽信息后发送至于其连接的客户端。

以下，以一个示例对本发明实施例作进一步说明。

参照图3，示出了本发明的一种信息检测方法流程示意图，服务器与客户端A、客户端B、客户端C、客户端D、客户端E、客户端F通信连接。

服务器上的社交***等收到客户端A(以下简称客A)(第一客户端)发来的消息(社交数据)后，向屏蔽词检测***发起文本审核任务(检测请求)；在服务器确定客B、客C、客D、客E和客F为第二客户端后，屏蔽词检测***将收到的文本转发给客B、客C、客D、客E和客F，让第二客户端来进行屏蔽词检测；第二客户端在收到服务器传来的文本后，第二客户端用本地的屏蔽词库进行检测，并将结果(检测数据)发回给服务器上的屏蔽词检测***；最后，屏蔽词检测***根据我们设置的规则综合处理客户端发来的检测结果得到审核结果(检测结果)，并将其发回给审核任务的发起方(社交***等)。

参照图4，示出了本发明的一种信息检测方法实施例二的步骤流程图，本发明实施例可以应用于第二客户端，所述第二客户端由服务器确定；所述服务器用于确定第一客户端发送的待检测信息；所述服务器还用于将所述待检测信息发送至所述第二客户端；本发明实施例具体可以包括如下步骤：

步骤401，针对所述待检测信息进行特征检测；

步骤402，生成检测数据；

步骤403，将所述检测数据发送至所述服务器；所述服务器还用于基于所述检测数据，确定检测结果。

需要说明的是，对于方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明实施例并不受所描述的动作顺序的限制，因为依据本发明实施例，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作并不一定是本发明实施例所必须的。

参照图5，示出了本发明的一种信息检测装置实施例一的结构框图，本发明实施例可以应用于服务器，具体可以包括如下模块：

信息接收模块501，用于确定第一客户端发送的待检测信息；

确定模块502，用于确定一个或多个第二客户端；

信息发送模块503，用于将所述待检测信息发送至所述第二客户端；所述第二客户用于针对所述待检测信息进行特征检测，以及生成检测数据；

数据接收模块504，用于接收所述检测数据；

结果模块505，用于基于所述检测数据，确定检测结果。

在本发明的一种可选实施例中，所述检测数据包括肯定信息和否定信息中的一种；所述结果模块505包括：

个数确定子模块，用于确定肯定信息的第一数量以及否定信息的第二数量；

关系子模块，用于依据所述第一数量和第二数量的大小关系，确定所述检测结果。

在本发明的一种可选实施例中，所述关系子模块包括：

合法单元，用于当所述第一数量大于所述第二数量时，确定检测结果为合法信息；

非法单元，用于当所述第一数量小于或等于第二数量时，确定检测结果为非法信息。

在本发明的一种可选实施例中，结果模块505还包括：

判断子模块，用于判断所述第一数量以及所述第二数量中的至少一个是否大于预设第一数量阈值；

返回子模块，用于若所述第一数量以及所述第二数量都不大于预设第一数量阈值，则返回所述确定肯定信息的第一数量以及否定信息的第二数量。

在本发明的一种可选实施例中，所述数据接收模块504包括：

接收时长子模块，用于确定接收时长；所述接收时长为当前时间与发送所述待检测信息的时间的差值；

时长子模块，用于当所述接收时长到达预设时长时，确定接收到的所述检测数据的第三数量；

本地生成子模块，用于若所述第三数量小于预设第二数量阈值，则按照预设规则生成检测结果。

在本发明的一种可选实施例中，所述第二客户端包括如下模块：

否定模块，用于当所述待检测信息包含所述屏蔽信息时，生成否定信息；

肯定模块，用于当所述待检测信息不包含所述屏蔽信息时，生成肯定信息。

在本发明的一种可选实施例中，所述服务器部署有社交***和屏蔽词***检测***；所述信息接收模块501，用于调用所述社交***获取所述第一客户端发送的社交数据；所述信息接收模块501，还用于调用所述社交***生成包含所述社交数据的检测请求；所述信息接收模块501，还用于调用所述屏蔽词***接收所述检测请求，以及确定所述检测请求中的社交数据为待检测信息。

参照图6，示出了本发明的一种信息检测装置实施例二的结构框图，应用于第二客户端，所述第二客户端由服务器确定；所述服务器用于确定第一客户端发送的待检测信息；所述服务器还用于将所述待检测信息发送至所述第二客户端；所述装置包括：

检测模块601，用于针对所述待检测信息进行特征检测；

生成模块602，用于生成检测数据；

数据发送模块603，用于将所述检测数据发送至所述服务器；所述服务器还用于基于所述检测数据，确定检测结果。

对于装置实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本发明实施例还公开了一种电子设备，包括处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如上所述的信息检测方法的步骤。

本发明实施例还公开了一种计算机可读存储介质，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如上所述的信息检测方法的步骤。

本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。

本领域内的技术人员应明白，本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此，本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明实施例是参照根据本发明实施例的方法、终端设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上，使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本发明实施例的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。

以上对本发明所提供的一种信息检测方法、装置、电子设备和存储介质，进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (12)

1.一种信息检测方法，其特征在于，应用于服务器，所述方法包括：

确定第一客户端发送的待检测信息；

确定一个或多个第二客户端；

将所述待检测信息发送至所述第二客户端；所述第二客户用于针对所述待检测信息进行特征检测，以及生成检测数据；所述特征检测为判断所述待检测信息中是否包含预设屏蔽信息；

接收所述检测数据；

基于所述检测数据，确定检测结果。

2.根据权利要求1所述的方法，其特征在于，所述检测数据包括肯定信息和否定信息中的一种；所述基于所述检测数据，确定检测结果包括：

确定肯定信息的第一数量以及否定信息的第二数量；

依据所述第一数量和第二数量的大小关系，确定所述检测结果。

3.根据权利要求2所述的方法，其特征在于，所述依据所述第一数量和第二数量的大小关系，确定所述检测结果包括：

当所述第一数量大于所述第二数量时，确定检测结果为合法信息；

当所述第一数量小于或等于第二数量时，确定检测结果为非法信息。

4.根据权利要求2或3所述的方法，其特征在于，在所述依据所述第一数量和第二数量的大小关系，确定所述检测结果之前，还包括：

判断所述第一数量以及所述第二数量中的至少一个是否大于预设第一数量阈值；

若所述第一数量以及所述第二数量都不大于预设第一数量阈值，则返回所述确定肯定信息的第一数量以及否定信息的第二数量。

5.根据权利要求1所述的方法，其特征在于，所述接收所述检测数据包括：

确定接收时长；所述接收时长为当前时间与发送所述待检测信息的时间的差值；

当所述接收时长到达预设时长时，确定接收到的所述检测数据的第三数量；

若所述第三数量小于预设第二数量阈值，则按照预设规则生成检测结果。

6.根据权利要求2或3所述的方法，其特征在于，所述检测数据通过如下方法生成：

当所述待检测信息包含所述屏蔽信息时，生成否定信息；

当所述待检测信息不包含所述屏蔽信息时，生成肯定信息。

7.根据权利要求1或2或3所述的方法，其特征在于，所述服务器部署有社交***和屏蔽词***检测***；所述确定第一客户端发送的待检测信息的步骤，包括：

所述社交***获取所述第一客户端发送的社交数据；

所述社交***生成包含所述社交数据的检测请求；

所述屏蔽词***接收所述检测请求，以及确定所述检测请求中的社交数据为待检测信息。

8.一种信息检测方法，其特征在于，应用于第二客户端，所述第二客户端由服务器确定；所述服务器用于确定第一客户端发送的待检测信息；所述服务器还用于将所述待检测信息发送至所述第二客户端；所述方法包括：

针对所述待检测信息进行特征检测；

生成检测数据；

将所述检测数据发送至所述服务器；所述服务器还用于基于所述检测数据，确定检测结果。

9.一种信息检测装置，其特征在于，应用于服务器，所述装置包括：

信息接收模块，用于确定第一客户端发送的待检测信息；

确定模块，用于确定一个或多个第二客户端；

信息发送模块，用于将所述待检测信息发送至所述第二客户端；所述第二客户用于针对所述待检测信息进行特征检测，以及生成检测数据；

数据接收模块，用于接收所述检测数据；

结果模块，用于基于所述检测数据，确定检测结果。

10.一种信息检测装置，其特征在于，应用于第二客户端，所述第二客户端由服务器确定；所述服务器用于确定第一客户端发送的待检测信息；所述服务器还用于将所述待检测信息发送至所述第二客户端；所述装置包括：

检测模块，用于针对所述待检测信息进行特征检测；

生成模块，用于生成检测数据；

数据发送模块，用于将所述检测数据发送至所述服务器；所述服务器还用于基于所述检测数据，确定检测结果。

11.一种电子设备，其特征在于，包括处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至8中任一项所述的信息检测方法的步骤。

12.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的信息检测方法的步骤。

Images