CN112395541A - 数据内容验证方法、装置、***、存储介质及计算设备 - Google Patents

Abstract

本申请公开一种数据内容验证方法、装置、***、存储介质及计算设备，该方法应用于服务器端，包括：接收用户通过前端界面输入的数据内容；调用服务接口获取在所述服务器端预先设置的业务规则；根据所述业务规则对所述数据内容进行验证，以在验证通过时允许所述数据内容存入所述服务器端。本申请解决现有技术中前端数据内容验证存在漏洞的技术问题。

Description

数据内容验证方法、装置、***、存储介质及计算设备

技术领域

本申请涉及数据安全技术领域，具体而言，涉及一种数据内容验证方法、装置、***、存储介质及计算设备。

背景技术

在网页、网站或者客户端中，通常会向用户提供文本框、文本域、输入框等输入功能界面，允许用户通过这些输入功能界面输入数据内容，随后可将用户输入的数据内容存入数据库中并发布于网页、网站或者客户端。有时这些功能界面会被恶意的用来输入不良内容或非法内容。以网站为例，在现有的网站的开发与维护过程中，发现社区类型的网站、类似于论坛的网站、与用户存在多样化交互的网站都存在上述安全漏洞，因而现有技术中通常引入前端技术，即通过前端逻辑对用户通过文本框、文本域、输入框等功能输入的内容进行检验，检验后便可直接入库或发布。

然而，在经过前端技术判断后直接入库的数据流程存在被部分懂技术、骇客等非法用户通过技术手段绕过前端判断，直接传输一些非法内（广告、无意义、涉黄、涉政、辱骂等未经校验入库的非法内容），若出现这种情况，网站漏洞被识别发现，通过技术实现高并发、大批量的不良内容输入网站，就会出现网站服务器cpu、Nginx请求分发服务被大量占用，网站出现卡慢现象，会给网站正常用户带来不良体验，大量负面非法内容引起用户不适，对网站的专业度影响极大、给公司形象造成负面影响，严重情况可能导致网站ip、域名被封，危害极大。

针对上述现有技术中前端数据内容验证存在漏洞的技术问题，目前尚未提出有效的解决方案。

发明内容

本申请实施例提供了一种数据内容验证方法、装置、***、存储介质及计算设备，以至少解决现有技术中前端数据内容验证存在漏洞的技术问题。

根据本申请实施例的一个方面，提供了一种数据内容验证方法，应用于服务器端，该方法包括：接收用户通过前端界面输入的数据内容；调用服务接口获取在服务器端预先设置的业务规则；根据业务规则对数据内容进行验证，以在验证通过时允许数据内容存入服务器端。

在上述任一实施例的基础上，调用服务接口获取在服务器端预先设置的业务规则包括：对数据内容进行分析，确定数据内容对应的业务场景；获取业务场景对应的业务规则，其中，在服务器端针对不同业务场景预先设置有不同的业务规则。

在上述任一实施例的基础上，针对不同业务场景预先设置不同的业务规则包括：确定每一业务场景下的多个敏感项；确定每一业务场景对应的验证等级；根据验证等级对多个敏感项进行逻辑组合，以得到每一业务场景对应的业务规则。

在上述任一实施例的基础上，根据业务规则对数据内容进行验证包括：对数据内容进行预处理，其中预处理包括拆分、切割、组合中的至少一种；对比预处理后的数据内容与多个敏感项的逻辑组合；当预处理后的数据内容命中任一敏感项的逻辑组合时，向前端发送表征验证不通过的返回值。

在上述任一实施例的基础上，在调用服务接口获取在服务器端预先设置的业务规则之前，方法还包括：获取用户状态、用户输入状态和/或用户输入环境，其中用户输入状态包括用户输入频率、用户输入次数、用户输入总数、用户输入速度、用户提交验证次数、用户输入数据内容重复度中的至少一种，用户输入环境包括用户ip，用户session中的至少一种；对用户状态、用户输入状态和/或用户输入环境进行预验证；在预验证不通过的情况下，向前端发送表征验证不通过的返回值。

在上述任一实施例的基础上，在接收用户通过前端界面输入的数据内容之前，方法还包括：调用在前端设置的检验接口，对用户通过前端界面输入的数据内容进行前置检验；在前置检验通过的情况下，前端将数据内容发送给服务器端。

根据本申请实施例的另一个方面，提供了一种数据内容验证装置，应用于服务器端，该装置包括：接收模块，用于接收用户通过前端界面输入的数据内容；调用模块，用于调用服务接口获取在服务器端预先设置的业务规则；验证模块，用于根据业务规则对数据内容进行验证，以在验证通过时允许数据内容存入服务器端。

在上述任一实施例的基础上，调用模块还包括：分析单元，用于对数据内容进行分析，确定数据内容对应的业务场景；获取单元，用于获取业务场景对应的业务规则，其中，在服务器端针对不同业务场景预先设置有不同的业务规则。

在上述任一实施例的基础上，该装置还包括：设置模块，用于针对不同业务场景预先设置不同的业务规则。其中，设置模块包括：敏感项确定单元，用于确定每一业务场景下的多个敏感项；等级确定单元，用于确定每一业务场景对应的验证等级；组合单元，用于根据验证等级对多个敏感项进行逻辑组合，以得到每一业务场景对应的业务规则。

在上述任一实施例的基础上，验证模块包括：预处理单元，用于对数据内容进行预处理，其中预处理包括拆分、切割、组合中的至少一种；对比单元，用于对比预处理后的数据内容与多个敏感项的逻辑组合；结果确定单元，用于当预处理后的数据内容命中任一敏感项的逻辑组合时，向前端发送表征验证不通过的返回值。

在上述任一实施例的基础上，该装置还包括：获取模块，用于获取用户状态、用户输入状态和/或用户输入环境，其中用户输入状态包括用户输入频率、用户输入次数、用户输入总数、用户输入速度、用户提交验证次数、用户输入数据内容重复度中的至少一种，用户输入环境包括用户ip，用户session中的至少一种；预验证模块，用于对用户状态、用户输入状态和/或用户输入环境进行预验证；结果确定单元，还用于在预验证不通过的情况下，向前端发送表征验证不通过的返回值。

在上述任一实施例的基础上，该装置还包括：前端调用在前端设置的检验接口，对用户通过前端界面输入的数据内容进行前置检验；在前置检验通过的情况下，前端将数据内容发送给服务器端。

根据本申请实施例的另一个方面，提供了一种数据内容验证***，包括服务器端及前端，其中，在前端提供用于用户输入内容的界面，并由前端将数据内容发送至服务器端；服务器端在接收到数据内容后，调用服务接口获取在服务器端预先设置的业务规则，根据业务规则对数据内容进行验证，以在验证通过时允许数据内容存入服务器端。

在上述任一实施例的基础上，调用服务接口获取在服务器端预先设置的业务规则包括：对数据内容进行分析，确定数据内容对应的业务场景；获取业务场景对应的业务规则，其中，在服务器端针对不同业务场景预先设置有不同的业务规则。

在上述任一实施例的基础上，针对不同业务场景预先设置不同的业务规则包括：确定每一业务场景下的多个敏感项；确定每一业务场景对应的验证等级；根据验证等级对多个敏感项进行逻辑组合，以得到每一业务场景对应的业务规则。

在上述任一实施例的基础上，根据业务规则对数据内容进行验证包括：对数据内容进行预处理，其中预处理包括拆分、切割、组合中的至少一种；对比预处理后的数据内容与多个敏感项的逻辑组合；当预处理后的数据内容命中任一敏感项的逻辑组合时，向前端发送表征验证不通过的返回值。

在上述任一实施例的基础上，在调用服务接口获取在服务器端预先设置的业务规则之前，方法还包括：获取用户输入状态和/或用户输入环境，其中用户输入状态包括用户输入频率、用户输入次数、用户输入总数、用户输入速度、用户提交验证次数、用户输入数据内容重复度中的至少一种，用户输入环境包括用户ip，用户session中的至少一种；对用户输入状态和/或用户输入环境进行预验证；在预验证不通过的情况下，向前端发送表征验证不通过的返回值。

在上述任一实施例的基础上，在接收用户通过前端界面输入的数据内容之前，方法还包括：调用在前端设置的检验接口，对用户通过前端界面输入的数据内容进行前置检验；在前置检验通过的情况下，前端将数据内容发送给服务器端。

根据本申请实施例的另一个方面，提供了一种存储介质，存储介质包括存储的程序，其中，在程序运行时控制存储介质所在设备执行上述任一实施例的方法。

根据本申请实施例的另一个方面，提供了一种计算设备，包括处理器，处理器用于运行程序，其中，程序运行时执行上述任一实施例的方法。

在本申请实施例中，通过在前端提供用于用户输入内容的界面，并由前端将数据内容发送至服务器端；服务器端在接收到数据内容后，调用服务接口获取在服务器端预先设置的业务规则，根据业务规则对数据内容进行验证，以在验证通过时允许数据内容存入服务器端，实现了在服务器端进行数据内容验证的技术效果，进而解决了有技术中前端数据内容验证存在漏洞的技术问题。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1是根据本申请实施例的一种用于实现数据内容验证方法的计算机终端（或移动设备）的硬件结构框图；

图2是根据本申请实施例的一种数据内容验证方法的流程图；

图3是根据本申请实施例的又一种数据内容验证方法的流程图；

图4是根据本申请实施例的另一种数据内容验证方法的框架实验示意图；

图5a-5e是根据本申请实施例的一种数据内容验证的效果示意图；

图6是根据本申请实施例的一种数据内容验证装置的结构示意图；以及

图7是根据本申请实施例的一种数据内容验证***的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例1

根据本申请实施例，还提供了一种数据内容验证方法实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机***中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

本申请实施例一所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。图1示出了一种用于实现数据内容验证方法的计算机终端（或移动设备）的硬件结构框图。如图1所示，计算机终端10（或移动设备10）可以包括一个或多个（图中采用102a、102b，……，102n来示出）处理器102（处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置）、用于存储数据的存储器104、以及用于通信功能的传输装置106。除此以外，还可以包括：显示器、输入/输出接口（I/O接口）、通用串行总线（USB）端口（可以作为I/O接口的端口中的一个端口被包括）、网络接口、电源和/或相机。本领域普通技术人员可以理解，图1所示的结构仅为示意，其并不对上述电子装置的结构造成限定。例如，计算机终端10还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。

应当注意到的是上述一个或多个处理器102和/或其他数据处理电路在本文中通常可以被称为“数据处理电路”。该数据处理电路可以全部或部分的体现为软件、硬件、固件或其他任意组合。此外，数据处理电路可为单个独立的处理模块，或全部或部分的结合到计算机终端10（或移动设备）中的其他元件中的任意一个内。如本申请实施例中所涉及到的，该数据处理电路作为一种处理器控制（例如与接口连接的可变电阻终端路径的选择）。

存储器104可用于存储应用软件的软件程序以及模块，如本申请实施例中的产品激活确定方法对应的程序指令/数据存储装置，处理器102通过运行存储在存储器104内的软件程序以及模块，从而执行各种功能应用以及数据处理，即实现上述的数据内容验证方法。存储器104可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器104可进一步包括相对于处理器102远程设置的存储器，这些远程存储器可以通过网络连接至计算机终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机终端10的通信供应商提供的无线网络。在一个实例中，传输装置106包括一个网络适配器（Network Interface Controller，NIC），其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输装置106可以为射频（Radio Frequency，RF）模块，其用于通过无线方式与互联网进行通讯。

显示器可以例如触摸屏式的液晶显示器（LCD），该液晶显示器可使得用户能够与计算机终端10（或移动设备）的用户界面进行交互。

此处，需要说明的是，在一些可选实施例中，上述图1所示的计算机设备（或移动设备）可以包括硬件元件（包括电路）、软件元件（包括存储在计算机可读介质上的计算机代码）、或硬件元件和软件元件两者的结合。应当指出的是，图1仅为特定具体实例的一个实例，并且旨在示出可存在于上述计算机设备（或移动设备）中的部件的类型。

本申请在上述运行环境下运行如图2所示的一种数据内容验证方法。图2是根据本申请实施例的数据内容验证方法的流程图，该方法应用于服务器端，服务器可基于图1所述的计算机终端实现。

参见图2所示，数据内容验证方法可以包括：

步骤S202：接收用户通过前端界面输入的数据内容；

在一种可选的方案中，前端的界面提供用户交互接口，例如用户交互界面即UI界面，且其中提供了文本输入框等输入控件，以供用户输入数据内容。用户前端的界面可以是网络页面，也可以是软件客户端页面，本申请不限制用户端的范围，前端只用于表示其与服务器端形成对应。用户例如可以在网站发布内容时打开该前端界面，随后可以在前端点击提交按钮控件或者发布按钮控件，以触发数据内容的验证流程。在一种具体方式中，仍然引入前端验证，用户点击按钮控件时触发前端验证流程，只有通过前端验证的数据内容才会被发送至服务器，在另一种具体方式中，未引入前端验证，此时用户点击按钮控件时将数据内容发送至服务器。

步骤S204：调用服务接口获取在服务器端预先设置的业务规则；

在一种可选的方案中，服务接口可基于restful API接口实现。通过该接口，实现用户数据内容的接收和/或业务规则的调用。实施该步骤时，需要预先在服务器端配置业务规则。业务规则限定了数据内容能够被验证通过的条件，例如可以是数据内容的长度、重复率、是否包含敏感项，或者是在包含敏感项情况下所允许的敏感程度。

步骤S206：根据业务规则对数据内容进行验证，以在验证通过时允许数据内容存入服务器端。

在一种可选的方案中，可以提取数据内容的特征项，例如数据内容的长度、重复率、数据内容中的关键词等，然后根据业务规则对该数据内容的特征项进行验证，以确定数据内容的安全性。在验证不通过时，可以向用户终端返回验证失败的提示或者原因，以便于用户修改数据内容并再次提交验证，直至数据内容符合业务要求。数据内容存入服务器端后，以网站为例，服务器端可将该数据内容在网络页面上显示，如此，用户可实现数据内容的发布。

在本申请实施例中，通过在前端提供用于用户输入内容的界面，并由前端将数据内容发送至服务器端；服务器端在接收到数据内容后，调用服务接口获取在服务器端预先设置的业务规则，根据业务规则对数据内容进行验证，以在验证通过时允许数据内容存入服务器端，实现了在服务器端进行数据内容验证的技术效果，进而解决了现有技术中前端数据内容验证存在漏洞的技术问题。

可选地，步骤S204：调用服务接口获取在服务器端预先设置的业务规则包括：

步骤S2042：对数据内容进行分析，确定数据内容对应的业务场景；

在一种可选的方案中，对数据内容进行分析，例如综合语义分析或拆分关键词分析，由此确定数据内容所述的业务场景。业务场景可以根据网站业务模块划分，例如提问场景、答疑场景、经验分享场景、招聘场景、广告场景、灌水场景等，又例如涉赌场景、涉毒场景、涉黄场景等。

在一种可选的方案中，在对数据内容进行分析，确定数据内容对应的业务场景之前，方法还包括：

获取服务器端历史数据内容；确定该每一历史数据内容的标签；将历史数据内容作为神经网络模型的输入，将该历史数据内容的标签作为神经网络模型的输出，对该神经网络模型进行训练，以得到训练好的神经网络模型。此时，对数据内容进行分析，确定数据内容对应的业务场景包括：将接收到的数据内容输入神经网络模型，获取该神经网络模型的输出，由此确定业务场景。通过历史数据内容及其对应的准确的业务场景来训练神经网络模型，并根据神经网络模型来预测用户输入的数据内容的业务场景，可以提高业务场景的确认准确度。

在一种可选的方案中，对数据内容进行分析，确定数据内容对应的业务场景包括：对该数据内容进行语义分析，确定数据内容对应的第一业务场景；提取数据内容中的重复词和/或关键词，根据该重复词和/或关键词，确定数据内容对应的第二业务场景；当第一业务场景和第二业务场景一致时，将该一致的业务场景确定为数据内容对应的业务场景；当第一业务场景和第二业务场景不一致时，获取针对每一业务场景预设的敏感项，统计该数据内容对每一业务场景预设的敏感项的命中率，将命中率最高的业务场景确定为第三业务场景，将第一业务场景和第二业务场景中与第三业务场景一致的业务场景确定为该数据内容对应的业务场景，若第一业务场景、第二业务场景和第三业务场景均不一致时，为每一业务场景分配对应的权重，将三个业务场景加权组合，确定最终的业务场景。通过上述多级判断的方式，可以提高业务场景的确认准确度。

步骤S2044：获取业务场景对应的业务规则，其中，在服务器端针对不同业务场景预先设置有不同的业务规则。

在一种可选的方案中，服务器端存储了业务场景标识及对应的业务标识，该对应关系可以存储于数据库中，例如以Key-Value键值对的形式存储，也可存储于服务器配置文件中。通过上述手段，针对不同的业务场景，可以提取不同的业务规则，通过类似定制的业务规则对数据内容进行验证，可以提高数据内容验证的精确度。

在上述任一实施例的基础上，在步骤S2044之前，该方法还包括：步骤S203：针对不同业务场景预先设置不同的业务规则。其中，步骤S203进一步包括：

步骤S2032：确定每一业务场景下的多个敏感项；

在一种可选的方案中，预先针对每一业务场景设置不同的敏感项，敏感项例如敏感词。同样以“推荐”一词为例，当在用户答疑场景时，可能会出现“推荐使用**方案可以提高准确率”这一说法，此时该说法并不应当被验证为非法；而在广告场景下，可能会出现“推荐使用**产品”、“推荐好友使用”等说法，而该说法具备明确的推广嫌疑，对于拒绝广告的社区规则，可将说法设置为验证非法。因此，通过针对不同业务场景设置不同的敏感项，使得即便数据内容命中了同一敏感项如推荐、使用，也会最终出现不同的验证结果，提高了验证方***性。

步骤S2034：确定每一业务场景对应的验证等级；

在一种可选的方案中，不同业务场景可以设置不同的验证等级，对于疑似非法内容，可以设置最高验证等级，兼具考虑了验证方案的灵活性和准确性。

步骤S2036：根据验证等级对多个敏感项进行逻辑组合，以得到每一业务场景对应的业务规则。

在一种可选的方案中，例如将敏感项确定为赌，正规，平台，娱乐，赚等敏感词，对于正常使用场景，可以设置该敏感项的逻辑关系为“与”，即同时命中具备“与”逻辑关系的敏感项才会被验证为非法，对于色情、暴恐、广告、灌水等业务场景，可以设置该所有敏感项的逻辑关系为“或”，或者设置部分敏感项的逻辑关系为“或”，这就使得只要命中具备“或”逻辑关系的任一敏感项就会被验证为非法。通过针对不同的数据内容确定不同的业务场景，从而调用不同的业务规则，实现了数据内容的精确验证，避免出现漏网之鱼。

可选地，步骤S206：根据业务规则对数据内容进行验证包括：

步骤S2062：对数据内容进行预处理，其中预处理包括拆分、切割、组合中的至少一种；

在一种可选的方案中，通过PHP中函数mb_strlen()、mb_substr()、array_values()等实现数据拆分、切割、组合等。

步骤S2064：对比预处理后的数据内容与多个敏感项的逻辑组合；

在一种可选的方案中，多个敏感项的逻辑组合包括多个敏感项的与逻辑和多个敏感项的或逻辑。针对多个敏感项的与逻辑，只有同时命中具备与逻辑的多个敏感项的数据内容，才确定为预处理后的数据内容命中任一敏感项的逻辑组合。针对多个敏感项的或逻辑，只要命中任一具备或逻辑的敏感项的数据内容，就确定为预处理后的数据内容命中任一敏感项的逻辑组合。

步骤S2066：当预处理后的数据内容命中任一敏感项的逻辑组合时，向前端发送表征验证不通过的返回值。

在一种可选的方案中，针对验证不通过的数据内容，返回具体的不通过原因标记标签，针对验证通过的数据内容，存储入数据库并允许发布。

通过上述步骤S2062-S2066，针对数据内容进行预处理，判断数据内容是否命中了不同的业务场景中的敏感项的逻辑组合，来得到数据内容的验证结果，可以提高验证效率。

可选地，在验证不通过时，除了向用户返回表征用户不通过的返回值时，还可以生成具体的不通过提示，例如命中了哪些敏感项的逻辑组合。还可以在用户前端设置复核控件，允许用户申诉。针对错误识别的数据内容，可以生成可优化算法或将其加入放行名单，提高了用户体验。

可选地，在步骤S204：调用服务接口获取在服务器端预先设置的业务规则之前，方法还包括：

步骤S2012：获取用户状态、用户输入状态和/或用户输入环境，

在一种可选的方案中，用户状态例如用户注册时间、用户注册id、用户注册地、用户信用、用户登录情况、用户提交数据内容历史验证情况中的至少一种。用户输入状态包括用户输入频率、用户输入次数、用户输入总数、用户输入速度、用户提交验证次数、用户输入数据内容重复度中的至少一种，用户输入环境包括用户ip，用户session中的至少一种；

步骤S2014：对用户状态、用户输入状态和/或用户输入环境进行预验证；

在一种可选的方案中，服务器端可以通过判断用户状态，完成初期用户合法性验证。随后，通过用户输入状态例如是否输入内容频率、重复等完成输入状态合理性验证。再随后，通过判断用户输入环境，例如判断用户ip、session中存的数据，完成输入环境安全性验证。经过上述三个预验证之后，可以再进行数据内容的内容合法性验证。

步骤S2016：在预验证不通过的情况下，向前端发送表征验证不通过的返回值。

在一种可选的方案中，通过采用了过滤ip、限制输入内容频率、限制重复内容、限制发布内容总数、采用算法分词过滤非法内容等；极大的限制了非法内容的灌入，本功能可以准确识别内容为广告、辱骂、涉黄、无意义等，同时可以在后台配置限制名单库、放行名单库实现个性化配置。

可选地，在步骤S202：接收用户通过前端界面输入的数据内容之前，方法还包括：

步骤S200：调用在前端设置的检验接口，对用户通过前端界面输入的数据内容进行前置检验；在前置检验通过的情况下，前端将数据内容发送给服务器端。

在一种可选的方案中，1） 用户通过前端输入内容模块传递数据，前端采用js、ajax与服务端接口技术经过简单判断后提交初始化数据到服务器端。

图3是根据本申请实施例的又一种数据内容验证方法的流程图；如图3所示，

前端提供用户界面，以供用户输入数据内容。用户点击提交或验证等控件后，触发前端验证流程，例如通过js、ajax与服务端接口技术经过简单判断后，在验证通过时提交初始化数据到服务器端，在验证不通过时在前端界面显示验证失败信息，还可向用户提供失败的提示，以供用户修改数据内容。

服务器接收前端验证通过的数据内容，并获取该数据内容对应的用户状态、用户输入状态和用户输入环境。对用户状态、用户输入状态和/或用户输入环境进行二次验证。通过判断用户状态，完成初期用户合法性验证。随后，通过用户输入状态例如是否输入内容频率、重复等完成输入状态合理性验证。再随后，通过判断用户输入环境，例如判断用户ip、session中存的数据，完成输入环境安全性验证。经过上述三个预验证之后，可以再进行数据内容的内容合法性验证。在验证通过时调用服务接口进行进一步验证，在验证不通过时向前端发送表征验证不通过的返回值，以在前端界面显示验证失败信息，还可向用户提供失败的提示，以供用户修改数据内容。

通过调用服务接口获取数据内容，确定数据内容对应的业务场景。后台配置中预先存储了多个业务场景和业务规则的对应关系，服务接口根据当前数据内容的业务场景，从该对应关系中获取对应的业务规则，调用该业务规则对数据内容进行验证。验证的方法如前所述，此处不再赘述。例如，输入的内容通过PHP中函数mb_strlen()、mb_substr()、array_values()等实现数据拆分、切割、组合等与数据库中敏感项进行比对、验证、标记，最后结果返回。在验证通过时将数据内容存入数据库，并允许用户发布，在验证不通过时向前端发送表征验证不通过的返回值，以在前端界面显示验证失败信息，还可向用户提供失败的提示，以供用户修改数据内容。用户可再次提交数据内容，再次进入前端验证流程。即对被验证的内容的返回值进行判断，根据被标记的标签进行匹配，返回前端提示用户对应内容不合法等，后端记录本数据内容，用于智能分析、统计。

如此，本方案经历了前端验证、用户状态、用户输入状态和用户输入环境的预验证，业务规则验证这三重验证手段，提高了数据内容的验证准确度。

本申请技术方案主要应用在各网站平台与用户存在交互的模块中，区别其他产品的技术开发语言、接口易用性、易扩展性、文档全面、配置简单、适合多数据源过滤、费用低服务配额高。首先，其他产品大部分使用JAVA语言，语言学***台安全提供有力保障。

图4是根据本申请实施例的另一种数据内容验证方法的框架实验示意图；如图4所示，该框架包括后台管理配置部分、智能机器分析部分、接口服务提供验证部分；

其中，后台管理配置部分，用户可以根据实际需求，根据购买的配额权限等配置限制名单、放行名单、限制级别、识别类型；可以查看识别数据统计报表等；智能机器人分析输入内容并且标记内容级别；获取输入内容根据后台管理配置部分规则验证，验证内容的类型，不通过返回具体标记标签并推送到智能分析部分；通过内容并且发布出去。

管理员后台配置内容安全的所需规则与等级，不同应用场景可以设置场景id配置不同的规则，支持多样化配置，多业务配置；指定主要识别敏感内容，生成指定限制内容规则，在各场景中直接使用服务接口调用对应业务场景规则；规则设置完成后在网站不同场景模块中引入服务接口，传入对应配置参数即可达到分别识别，精确识别；返回识别内容的标记标签根据标签进行判断，未通过的具体提示用户，同时会把识别结果推入只能机器人分析；后台报表功能可查询周期内被过滤掉的内容频率，错误识别的可优化算法或加入放行名单，没有识别出来的优化算法或加入限制名单等；过滤的内容生成统计报表，可视化统计，界面化操作、体验度高，易用性强。

本申请技术方案中安全过滤功能的目的是为小微企业、论坛类型网站平台中与用户存在多样化交互的模块提供一种验证用户输入内容安全的服务；本功能可在后台定制化配置，各版块多样化选择，可选择限制的验证过滤级别，可自由配置限制名单、放行名单；经过验证的不安全内容会通过智能机器人服务器分析标记，提升校验准确度、降低误判结果返回；后台管理控制台可个性化定制报表，报表通过简单操作实现查询不安全敏感词记录等。

现有技术中实现内容过滤、脱敏多使用的技术是JAVA技术，使用上存在文档较少、技术接口难以复用，入门难度高，使用费用成本高等问题，对小微企业、小网站、新手开发门槛高；本申请技术方案采用PHP的web开发技术，结合多种数据库服务，对输入内容的检索、拆分、组合等分词技术，验证过滤目前社区类型网站中存在非法用户输入，对输入内容***、输入频率动态不固定，增强校验等级，降低或根治网站的广告遍地、灌水内容；对现有过滤产品实现功能补充、优化升级；降低服务功能的接入难度、完善技术对接文档、降低使用成本。

本申请技术方案可以使用在CJT 社区、会计家园社区、会计家园app、会乐问小程序、好生意小程序、好会计小程序等多平台，对用户输入的文本内容、上传图片、音频媒体文件的检校脱敏、过滤处理。鉴于现有技术中对外开发的网站等平台，与用户交互行为模块中存在用户输入内容多样性、复杂性、不安全性，使用简单的前端校验规则治标不治本，很难完全根治，在这个问题的基础上，本申请技术方案采用PHP7.4.0结合MySql、Redis、MongoDB数据库服务技术，经过产品初期的需求调研、需求讨论、原型设计、开发完成、测试通过的流程，全新的内容数据脱敏功能全新上线，它可以高速、高并发、高精度的为各种用户输入的内容进行安全识别、验证、标记，有效的为各软件平台提供安全服务，达到净化网络、提高网站内容质量、吸引用户流量、提高用户体验度，最后实现用户相关的增长。

图5是根据本申请实施例的一种数据内容验证的效果示意图；图5a所示为管理后台针对多个数据内容进行验证的结果示意图，可使用该结果进行统计分析，以便于后续更精确的识别。图5b所示为管理后台统计的一段时间内多个敏感项的命中结果。图5c所示为前端用户提交数据内容后的前端界面。图5d所示为管理后台针对敏感项及其逻辑组合的设置界面示意。图5e所示为管理后台针对不同业务场景的业务规则设置示意。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的数据内容验证方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质（如ROM/RAM、磁碟、光盘）中，包括若干指令用以使得一台终端设备（可以是手机，计算机，服务器，或者网络设备等）执行本申请各个实施例的方法。

实施例2

根据本申请实施例，还提供了一种用于实施上述数据内容验证方法的数据内容验证装置，该装置以软件或硬件方式实现于服务器端，服务器可基于图1所述的计算机终端实现。

如图6所示，该数据内容验证装置600包括：接收模块6002，调用模块6004以及验证模块6006。其中：

接收模块6002，用于接收用户通过前端界面输入的数据内容；

调用模块6004，用于调用服务接口获取在服务器端预先设置的业务规则；

验证模块6006，用于根据业务规则对数据内容进行验证，以在验证通过时允许数据内容存入服务器端。

此处，需要说明的是，上述接收模块6002，调用模块6004以及验证模块6006对应于实施例1中的步骤S202至步骤S206，上述三个模块与对应的步骤所实现的实例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在实施例1提供的计算机终端10中。

可选地，调用模块6004还包括：

分析单元，用于对数据内容进行分析，确定数据内容对应的业务场景；

获取单元，用于获取业务场景对应的业务规则，其中，在服务器端针对不同业务场景预先设置有不同的业务规则。

此处，需要说明的是，上述分析单元以及获取单元对应于实施例1中的步骤S2042至步骤S2044，上述两个模块与对应的步骤所实现的实例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在实施例1提供的计算机终端10中。

可选地，该装置还包括：设置模块，用于针对不同业务场景预先设置不同的业务规则。

其中，设置模块包括：敏感项确定单元、等级确定单元以及组合单元。

敏感项确定单元，用于确定每一业务场景下的多个敏感项；

等级确定单元，用于确定每一业务场景对应的验证等级；

组合单元，用于根据验证等级对多个敏感项进行逻辑组合，以得到每一业务场景对应的业务规则。

此处，需要说明的是，上述敏感项确定单元、等级确定单元以及组合单元对应于实施例1中的步骤S2032至步骤S2036，上述三个模块与对应的步骤所实现的实例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在实施例1提供的计算机终端10中。

可选地，验证模块包括：预处理单元、对比单元以及结果确定单元。

预处理单元，用于对数据内容进行预处理，其中预处理包括拆分、切割、组合中的至少一种；

对比单元，用于对比预处理后的数据内容与多个敏感项的逻辑组合；

结果确定单元，用于当预处理后的数据内容命中任一敏感项的逻辑组合时，向前端发送表征验证不通过的返回值。

此处，需要说明的是，上述预处理单元、对比单元以及结果确定单元对应于实施例1中的步骤S2062至步骤S2066，上述三个模块与对应的步骤所实现的实例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在实施例1提供的计算机终端10中。

可选地，该装置还包括：获取模块、预验证模块以及结果确定单元。

获取模块，用于获取用户状态、用户输入状态和/或用户输入环境，其中用户输入状态包括用户输入频率、用户输入次数、用户输入总数、用户输入速度、用户提交验证次数、用户输入数据内容重复度中的至少一种，用户输入环境包括用户ip，用户session中的至少一种；

预验证模块，用于对用户状态、用户输入状态和/或用户输入环境进行预验证；

结果确定单元，还用于在预验证不通过的情况下，向前端发送表征验证不通过的返回值。

此处，需要说明的是，上述获取模块、预验证模块以及结果确定单元对应于实施例1中的步骤S2012至步骤S2016，上述三个模块与对应的步骤所实现的实例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在实施例1提供的计算机终端10中。

在上述任一实施例的基础上，该装置还包括：前端调用在前端设置的检验接口，对用户通过前端界面输入的数据内容进行前置检验；在前置检验通过的情况下，前端将数据内容发送给服务器端。

此处，需要说明的是，上述功能单元对应于实施例1中的步骤S200，上述功能模块与对应的步骤所实现的实例和应用场景相同，但不限于上述实施例1所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在实施例1提供的计算机终端10中。

实施例3

本申请的实施例可以提供一种计算设备，该计算设备可以是计算机终端群中的任意一个计算机终端设备。可选地，在本实施例中，上述计算设备也可以替换为移动终端等终端设备。

可选地，在本实施例中，上述计算设备可以位于计算机网络的多个网络设备中的至少一个网络设备。

可选地，在本实施例中，上述计算设备包括一个或多个处理器、存储器、以及传输装置。其中，存储器可用于存储软件程序以及模块，如本申请实施例中的数据内容验证方法和装置对应的程序指令/模块。处理器通过运行存储在存储器内的软件程序以及模块，从而执行各种功能应用以及数据处理，即实现上述的数据内容验证方法。

可选地，存储器可包括高速随机存储器，还可以包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器可进一步包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至计算设备120。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

在本实施例中，上述计算设备中的处理器运行存储的程序代码时可以执行以下方法步骤：接收用户通过前端界面输入的数据内容；调用服务接口获取在服务器端预先设置的业务规则；根据业务规则对数据内容进行验证，以在验证通过时允许数据内容存入服务器端。

进一步地，在本实施例中，上述计算设备中的处理器运行存储的程序代码时可以执行实施例1中所列举的任一方法步骤，囿于篇幅不再赘述。

实施例4

本申请的实施例还提供了一种存储介质。可选地，在本实施例中，上述存储介质可以用于保存上述数据内容验证方法所执行的程序代码。

可选地，在本实施例中，上述存储介质可以位于计算机网络中计算机终端群中的任意一个计算机终端中，或者位于移动终端群中的任意一个移动终端中。

可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：接收用户通过前端界面输入的数据内容；调用服务接口获取在服务器端预先设置的业务规则；根据业务规则对数据内容进行验证，以在验证通过时允许数据内容存入服务器端。

进一步地，在本实施例中，存储介质被设置为存储用于执行实施例1中所列举的任一方法步骤的程序代码，囿于篇幅不再赘述。

实施例7

根据本申请实施例，还提供了一种产品激活***，该***可执行实施例1或2所提供的数据内容验证方法，如图7所示，该***包括：用户前端及服务器。

可选地，用户前端包括处理器、存储器、I/O接口、交互接口及通信接口，服务器包括处理器、存储器、I/O接口、通信接口及数据库，其中，

在前端提供用于用户输入内容的界面，并由前端将数据内容发送至服务器端；

服务器端在接收到数据内容后，调用服务接口获取在服务器端预先设置的业务规则，根据业务规则对数据内容进行验证，以在验证通过时允许数据内容存入服务器端。

可选地，调用服务接口获取在服务器端预先设置的业务规则包括：对数据内容进行分析，确定数据内容对应的业务场景；获取业务场景对应的业务规则，其中，在服务器端针对不同业务场景预先设置有不同的业务规则。

可选地，针对不同业务场景预先设置不同的业务规则包括：确定每一业务场景下的多个敏感项；确定每一业务场景对应的验证等级；根据验证等级对多个敏感项进行逻辑组合，以得到每一业务场景对应的业务规则。

可选地，根据业务规则对数据内容进行验证包括：对数据内容进行预处理，其中预处理包括拆分、切割、组合中的至少一种；对比预处理后的数据内容与多个敏感项的逻辑组合；当预处理后的数据内容命中任一敏感项的逻辑组合时，向前端发送表征验证不通过的返回值。

可选地，在调用服务接口获取在服务器端预先设置的业务规则之前，方法还包括：获取用户输入状态和/或用户输入环境，其中用户输入状态包括用户输入频率、用户输入次数、用户输入总数、用户输入速度、用户提交验证次数、用户输入数据内容重复度中的至少一种，用户输入环境包括用户ip，用户session中的至少一种；对用户输入状态和/或用户输入环境进行预验证；在预验证不通过的情况下，向前端发送表征验证不通过的返回值。

可选地，在接收用户通过前端界面输入的数据内容之前，方法还包括：调用在前端设置的检验接口，对用户通过前端界面输入的数据内容进行前置检验；在前置检验通过的情况下，前端将数据内容发送给服务器端。

上述本申请实施例序号仅仅为了描述，不代表实施例的优劣。

在本申请的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可为个人计算机、服务器或者网络设备等）执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅是本申请的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本申请的保护范围。

Claims (10)

1.一种数据内容验证方法，其特征在于，应用于服务器端，该方法包括：

接收用户通过前端界面输入的数据内容；

调用服务接口获取在所述服务器端预先设置的业务规则；

根据所述业务规则对所述数据内容进行验证，以在验证通过时允许所述数据内容存入所述服务器端。

2.根据权利要求1所述的方法，其特征在于，调用服务接口获取在所述服务器端预先设置的业务规则包括：

对所述数据内容进行分析，确定所述数据内容对应的业务场景；

获取所述业务场景对应的业务规则，其中，在所述服务器端针对不同业务场景预先设置有不同的业务规则。

3.根据权利要求2所述的方法，其特征在于，针对不同业务场景预先设置不同的业务规则包括：

确定每一业务场景下的多个敏感项；

确定每一业务场景对应的验证等级；

根据所述验证等级对所述多个敏感项进行逻辑组合，以得到每一业务场景对应的业务规则。

4.根据权利要求3所述的方法，其特征在于，根据所述业务规则对所述数据内容进行验证包括：

对所述数据内容进行预处理，其中所述预处理包括拆分、切割、组合中的至少一种；

对比预处理后的数据内容与多个敏感项的逻辑组合；

当预处理后的数据内容命中任一敏感项的逻辑组合时，向前端发送表征验证不通过的返回值。

5.根据权利要求1-4任一项所述的方法，其特征在于，在调用服务接口获取在所述服务器端预先设置的业务规则之前，所述方法还包括：

获取用户状态、用户输入状态和/或用户输入环境，其中所述用户输入状态包括用户输入频率、用户输入次数、用户输入总数、用户输入速度、用户提交验证次数、用户输入数据内容重复度中的至少一种，所述用户输入环境包括用户ip，用户session中的至少一种；

对所述用户状态、用户输入状态和/或用户输入环境进行预验证；

在所述预验证不通过的情况下，向前端发送表征验证不通过的返回值。

6.根据权利要求1-4任一项所述的方法，其特征在于，在接收用户通过前端界面输入的数据内容之前，所述方法还包括：

调用在前端设置的检验接口，对用户通过前端界面输入的数据内容进行前置检验；

在所述前置检验通过的情况下，前端将所述数据内容发送给所述服务器端。

7.一种数据内容验证装置，其特征在于，应用于服务器端，该装置包括：

接口模块，用于接收用户通过前端界面输入的数据内容；

调用模块，用于调用服务接口获取在所述服务器端预先设置的业务规则；

验证模块，用于根据所述业务规则对所述数据内容进行验证，以在验证通过时允许所述数据内容存入所述服务器端。

8.一种数据内容验证***，其特征在于，包括服务器端及前端，其中，

在前端提供用于用户输入内容的界面，并由前端将所述数据内容发送至所述服务器端；

服务器端在接收到所述数据内容后，调用服务接口获取在所述服务器端预先设置的业务规则，根据所述业务规则对所述数据内容进行验证，以在验证通过时允许所述数据内容存入所述服务器端。

9.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行如权利要求1-6任一项所述的方法。

10.一种计算设备，包括处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行如权利要求1-6任一项所述的方法。

Images