CN114598699A - 文件内容审核方法、装置及电子设备 - Google Patents

文件内容审核方法、装置及电子设备 Download PDF

Info

Publication number
CN114598699A
CN114598699A CN202011435689.2A CN202011435689A CN114598699A CN 114598699 A CN114598699 A CN 114598699A CN 202011435689 A CN202011435689 A CN 202011435689A CN 114598699 A CN114598699 A CN 114598699A
Authority
CN
China
Prior art keywords
characteristic information
check
content
content characteristic
node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011435689.2A
Other languages
English (en)
Other versions
CN114598699B (zh
Inventor
张乃光
沈阳
王磊
郭沛宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Research Institute Of Radio And Television Science State Administration Of Radio And Television
Original Assignee
Research Institute Of Radio And Television Science State Administration Of Radio And Television
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Research Institute Of Radio And Television Science State Administration Of Radio And Television filed Critical Research Institute Of Radio And Television Science State Administration Of Radio And Television
Publication of CN114598699A publication Critical patent/CN114598699A/zh
Application granted granted Critical
Publication of CN114598699B publication Critical patent/CN114598699B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/08—Network architectures or network communication protocols for network security for authentication of entities
    • H04L63/0823—Network architectures or network communication protocols for network security for authentication of entities using certificates
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/08—Network architectures or network communication protocols for network security for authentication of entities
    • H04L63/0869—Network architectures or network communication protocols for network security for authentication of entities for achieving mutual authentication
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Information Transfer Between Computers (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Storage Device Security (AREA)

Abstract

本申请公开一种文件内容审核方法、装置及电子设备，该方法应用于区块链网络，区块链网络包括审核节点、计算节点和校验节点，该方法包括：第一审核节点在接收到文件的情况下，提取文件的内容特征信息，并广播查询消息；其中，查询消息中至少携带内容特征信息；第一计算节点接收查询消息，并对内容特征信息进行匹配，获得目标内容特征信息，并广播检验消息；其中，检验消息中至少携带内容特征信息和目标内容特征信息；第一校验节点接收校验消息，并根据设定校验项，对目标内容特征信息和内容特征信息进行检验，获得校验结果；以及，第一校验节点在校验结果表示目标内容特征信息和内容特征信息通过校验项的情况下，确定文件的内容为违规内容。

Description

文件内容审核方法、装置及电子设备
技术领域
本公开涉及分布式技术领域，更具体的，涉及一种文件内容审核方法、文件内容审核装置及电子设备。
背景技术
目前，在广播电视和网络视听领域，由于各广播电视和网络视听机构发现的违规内容在内容语义一致的情况下也会存在内容编码格式、内容风格等方面的区别，导致广播电视和网络视听机构会存在重复审核违规内容的情况，在此，迫切需要行业各方共同建立内容审核的可信共享机制，实现违规内容审核的行业共治，降低审核成本，提高违规内容的审核效率。
发明内容
本公开实施例的一个目的是提供一种文件内容审核的新的技术方案。
根据本公开的第一方面，提供一种文件内容审核方法，应用于区块链网络，所述区块链网络包括审核节点、计算节点和校验节点，其包括：
第一审核节点在接收到所述文件的情况下，提取所述文件的内容特征信息，并广播查询消息；其中，所述查询消息中至少携带所述内容特征信息；
所述第一计算节点接收所述查询消息，并对所述内容特征信息进行匹配，获得目标内容特征信息，并广播校验消息；其中，所述校验消息中至少携带所述内容特征信息和所述目标内容特征信息；
第一校验节点接收所述校验消息，并根据设定校验项，对所述目标内容特征信息和所述内容特征信息进行检验，获得校验结果；以及，
所述第一校验节点在所述校验结果表示所述目标内容特征信息和所述内容特征信息通过所述校验项的情况下，确定所述文件的内容为违规内容。
可选地，所述区块链网络还包括管理节点，
所述第一审核节点在接收到所述文件的情况下，提取所述文件的内容特征信息，并广播查询消息，包括：
获取通过所述管理节点所配置的特征提取算法和第一广播地址；
基于所述特征提取算法，提取所述文件的内容特征信息；
通过所述第一广播地址广播查询消息。
可选地，所述第一计算节点接收所述查询消息，并对所述内容特征信息进行匹配，获得目标内容特征信息，并广播检验消息，包括：
获取通过所述管理节点所配置的特征匹配算法和第二广播地址；
基于所述特征匹配算法，计算所述内容特征信息和所述第一计算节点本地所存储的内容特征信息的相似度；
根据每个所述相似度的降序排序次序，从所述第一计算节点本地所存储的内容特征信息中获得所述目标内容特征信息；
通过所述第二广播地址广播所述校验消息。
可选地，所述设定校验项包括关于所述目标内容特征信息和所述内容特征信息是否可信的校验项。
可选地，所述第一校验节点接收所述校验消息，并根据设定校验项，对所述目标内容特征信息和所述内容特征信息进行检验，获得校验结果，包括：
所述第一校验节点在接收到所述检验消息的情况下，针对所述目标内容特征数据和所述内容特征数据执行所述校验项；
所述第一校验节点在所述目标内容特征和所述内容特征通过所述校验项的情况下，向所述区块链网络的其他校验节点发起校验请求，以由所述其他校验节点对所述目标特征信息和所述特征信息执行所述校验项；其中，所述校验请求中至少携带所述内容特征信息和所述目标内容特征信息；
所述第一校验节点在接收到至少两个所述其他校验节点响应于所述校验请求返回的校验通过消息的情况下，获得所述目标内容特征信息和所述内容特征信息通过所述校验项的校验结果。
可选地，所述方法还包括：
所述第一校验节点在所述校验结果表示所述目标内容特征信息和所述内容特征信息未通过所述校验项的情况下，由所述第一审核节点审核所述文件的内容是否符合设定要求，获得内容审核结果。
可选地，所述方法还包括：
所述第一审核节点获取所述管理节点所配置的第三广播地址；以及，
所述第一审核节点通过所述第三广播地址广播所述内容审核结果。
可选地，在所述广播所述查询消息之前，还包括：
所述第一审核节点获取通过所述管理节点所配置的所述第一审核节点的数字证书；
所述第一审核节点利用所述数字证书对所述查询消息进行数字标识后，再广播所述查询消息。
根据本公开的第二方面，还提供一种文件内容审核装置，应用于区块链网络，所述区块链网络包括审核节点、计算节点和校验节点，其包括：
审核模块，用于第一审核节点在接收到所述文件的情况下，提取所述文件的内容特征信息，并广播查询消息；其中，所述查询消息中至少携带所述内容特征信息；
匹配模块，用于所述第一计算节点接收所述查询消息，并对所述内容特征信息进行匹配，获得目标内容特征信息，并广播校验消息；其中，所述校验消息中至少携带所述内容特征信息和所述目标内容特征信息；
校验模块，用于第一校验节点接收所述校验消息，并根据设定校验项，对所述目标内容特征信息和所述内容特征信息进行检验，获得校验结果；以及，
确定模块，用于所述第一校验节点在所述校验结果表示所述目标内容特征信息和所述内容特征信息通过所述校验项的情况下，确定所述文件的内容为违规内容。
根据本公开的第三方面，还提供一种电子设备，其包括本公开第二方面所述的文件内容审核装置；或者，包括存储器和处理器，所述存储器用于存储可执行的指令；所述处理器用于根据所述指令的控制进行操作以执行如本公开第一方面中所述的方法。
本公开的一个有益效果在于，根据本公开实施例的方法、装置和电子设备，其区块链网络中包括审核节点、校验节点和计算节点，在审核节点广播携带有文件的内容特征信息的查询消息后，计算节点会查找与该内容特征信息匹配的目标内容特征信息，并进一步由校验节点对该目标内容特征信息和内容特征信息进行校验，以在校验通过的情况下，才确定该文件的内容为违规内容，即，通过智能化分布式的审核网络实现各审核节点审核发现的违规内容信息的共享，避免各审核节点重复审核违规内容，降低审核成本。
附图说明
被结合在说明书中并构成说明书的一部分的附图示出了本公开的实施例，并且连同其说明一起用于解释本公开的原理。
图1是根据本公开实施例的电子设备的硬件结构示意图；
图2是根据本公开实施例的文件内容审核方法的流程示意图；
图3是根据本公开实施例的区块链网络的原理框图；
图4是根据本公开实施例的文件内容审核装置的原理框图；
图5是根据本公开实施例的电子设备的原理框图；
图6是根据本公开实施例的电子设备的硬件结构示意图。
具体实施方式
现在将参照附图来详细描述本公开的各种示例性实施例。应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。
在这里示出和讨论的所有例子中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它例子可以具有不同的值。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
<硬件配置>
图1示出了可用于实现本公开的实施例的电子设备1000的硬件配置。
该电子设备1000可以是区块链网络中的节点，例如可以是区块链网络中的管理节点，也可以是区块链网络中的审核节点、校验节点和计算节点。另外，该节点通常为服务器。其中，服务器可以是虚拟机或物理机。
如图1所示，电子设备1000可以包括处理器1100、存储器1200、接口装置1300、通信装置1400、显示装置1500、输入装置1600、扬声器1700、麦克风1800，等等。其中，处理器1100可以是中央处理器CPU、微处理器MCU等。存储器1200例如包括ROM(只读存储器)、RAM(随机存取存储器)、诸如硬盘的非易失性存储器等。接口装置1300例如包括USB接口、耳机接口等。通信装置1400例如能够进行有线或无线通信。显示装置1500例如是液晶显示屏、触摸显示屏等。输入装置1600例如可以包括触摸屏、键盘等。用户可以通过扬声器1700和麦克风1800输入/输出语音信息。
尽管在图1中对电子设备1000均示出了多个装置，但是，本公开可以仅涉及其中的部分装置，例如，电子设备1000只涉及存储器1200和处理器1100。
应用于本公开的实施例中，电子设备1000的存储器1200用于存储指令，该指令用于控制处理器1100执行本公开实施例提供的方法。
在上述描述中，技术人员可以根据本公开所公开方案设计指令。指令如何控制处理器进行操作，这是本领域公知，故在此不再详细描述。
在本公开实施例中，区块链网络中可以包括若干个节点，其中，若干节点中包括有管理节点、至少一个审核节点、多个校验管理节点和至少一个计算节点，其中，该管理节点用于管理区块链网络中的其他节点，该审核节点通常部署在审核机构，例如，可以是在一个审核机构部署一个审核节点。
<方法实施例>
本实施例提供了一种文件内容审核方法，应用于区块链网络。
本实施例中，区块链网络中包括管理节点、至少一个审核节点、多个校验节点和至少一个计算节点。另外，本实施例提供的区块链网络可以如图3所示，包括管理节点、审核节点1、三个校验节点，例如校验节点1、校验节点2和校验节点3、以及三个计算节点，例如计算节点1、计算节点2和计算节点3，当然，本实施例中的区块链网络中还可以包括其他数量的审核节点、校验节点和计算节点。
图2是根据本公开实施例的文件内容审核方法的流程示意图，如图2所示，该方法可以包括如下步骤S2100～S2400：
步骤S2100，第一审核节点在接收到文件的情况下，提取文件的内容特征信息，并广播查询消息。
第一审核节点可以为图3中的审核节点1，即，该审核节点1可以部署在审核机构A，即，由该审核机构A完成文件内容的审核工作。
文件通常为媒体文件，该媒体文件例如但不限于包括视频文件、图片文件和音频文件。
文件的内容特征信息是用以表示文件的内容特征的信息。
查询消息中至少携带文件的内容特征信息。
本实施例中，本步骤S2100中第一审核节点在接收到文件的情况下，提取文件的内容特征信息，并广播查询消息可以进一步包括如下步骤S2110～S2120：
步骤S2110，获取通过管理节点所配置的特征提取算法和第一广播地址。
本步骤S2110中，通常是由管理节点配置审核节点所需的特征提取算法列表，以及，审核结果查询广播地址(第一广播地址)，审核节点在接收到文件后，可以从特征提取列表中选择所需的特征提取算法。
示例性地，管理节点配置审核节点1所需的特征提取算法列表中存在三个特征提取算法，审核节点1可以从该三个特征提取算法中选择一个特征提取算法用于提取文件的内容特征信息。
步骤S2120，基于特征提取算法，提取文件的内容特征信息。
步骤S2130，通过第一广播地址广播查询消息。
本步骤S2130中，获得文件的内容特征信息后，便可通过第一广播地址将携带有该内容特征信息的查询消息广播至区块链网络。
查询消息中可以携带文件的内容特征信息，还可以携带文件的文件基本信息，当然，还可以携带其他信息例如用于提取文件的内容特征信息的特征提取算法等。
本实施例中，在执行步骤S2130通过第一广播地址广播查询消息之前，第一审核节点还会获取通过管理节点所配置的第一审核节点的数字证书，并利用数字证书对查询消息进行数字标识后，再广播查询消息。
数字证书为区块链网络通讯中标志通讯各方身份信息的一个数字认证，可以在区块链网络上用数字证书来识别对方的身份。
第一审核节点的数字证书可以由管理节点提前配置，以利用该数字证书实现审核各方的身份认证和互信。
在此，该查询消息可以携带经过数字标识后的文件的内容特征信息，还可以携带经过数字标识后的文件基本信息，当然，还可以携带其他信息，例如经过数字标识后的用于提取文件的内容特征信息的特征提取算法。
在第一审核节点在接收到文件的情况下，提取文件的内容特征信息，并广播查询消息之后，进入：
步骤S2200，第一计算节点接收查询消息，并对内容特征信息进行匹配，获得目标内容特征信息，并广播校验消息。
第一计算节点可以为多个计算节点中的任意一个计算节点，例如可以是图3中的计算节点1、也可以是图3所示的计算节点2，还可以是图3所示的计算节点3，即，各个计算节点都需要对内容特征信息进行匹配，获得匹配于内容特征信息的目标内容特征信息。
本实施例中，本步骤S2200中第一计算节点接收查询消息，并对内容特征信息进行匹配，获得目标内容特征信息，并广播校验消息可以进一步包括如下步骤S2210～S2240：
步骤S2210，获取通过管理节点所配置的特征匹配算法和第二广播地址。
本步骤S2210中，通常是由管理节点配置计算节点所需的特征匹配算法列表，以及，校验广播地址(第二广播地址)，计算节点在接收到查询消息后，可以从特征提取列表中选择所需的特征匹配算法。
该第一广播地址和第二广播地址可以是相同的地址，也可以是不同的地址。
示例性地，管理节点配置计算节点1所需的特征匹配算法列表中存在三个特征匹配算法，计算节点1可以从该三个特征匹配算法中选择一个特征匹配算法用于计算内容特征信息和计算节点1本地所存储的内容特征信息的相似度。
管理节点配置计算节点2所需的特征匹配算法列表中存在三个特征匹配算法，计算节点2可以从该三个特征匹配算法中选择一个特征匹配算法用于计算内容特征信息和计算节点2本地所存储的内容特征信息的相似度。
管理节点配置计算节点3所需的特征匹配算法列表中存在三个特征匹配算法，计算节点3可以从该三个特征匹配算法中选择一个特征匹配算法用于计算内容特征信息和计算节点3本地所存储的内容特征信息的相似度。
可以理解的是，计算节点1、计算节点2和计算节点3所选择的特征匹配算法可以相同，也可以不同。
可以理解的是，计算节点1本地所存储的内容特征信息、计算节点2本地所存储的内容特征信息和计算节点本地所存储的内容特征信息可以相同，也可以不同。
步骤S2220，基于特征匹配算法，计算内容特征信息和第一计算节点本地所存储的内容特征信息的相似度。
继续上述步骤S2210的示例，计算节点1可以计算内容特征信息和该计算节点1本地所存储的内容特征信息的相似度。计算节点2可以计算内容特征信息和该计算节点2本地所存储的内容特征信息的相似度。计算节点3可以计算内容特征信息和该计算节点3本地所存储的内容特征信息的相似度。
步骤S2230，根据每个相似度的降序排序次序，从第一计算节点本地所存储的内容特征信息中获得目标内容特征信息。
本步骤S2230中，可以是将与内容特征信息的相似度超过预设数值的第一计算节点本地所存储的内容特征信息作为目标内容特征信息。也就是说，获得的目标特征信息可以是一个，也可以是多个。
继续上述步骤S2220的示例，计算节点1、计算节点2和计算节点3所获得的目标内容特征信息可以相同，也可以不同。
该预设数值可以是根据实际应用场景和实际需求设置的数值。
步骤S2240，通过第二广播地址广播校验消息。
校验消息中至少携带内容特征信息和目标内容特征信息。
继续上述步骤S2230的示例，计算节点1可以通过第二广播地址广播校验消息，计算节点2可以通过第二广播地址广播校验消息，以及，计算节点3可以通过第二广播地址广播校验消息。
在第一计算节点接收查询消息，并对内容特征信息进行匹配，获得目标内容特征信息，并广播校验消息之后，进入：
步骤S2300，第一校验节点接收校验消息，并根据设定校验项，对所述目标内容特征信息和所述内容特征信息进行检验，获得校验结果。
设定校验项可以包括关于目标内容特征信息和内容特征信息是否可信的校验项。
本实施例中，本步骤S2300中第一校验节点接收校验消息，并根据设定校验项，对目标内容特征信息和内容特征信息进行检验，获得校验结果可以进一步包括如下步骤S2310～S2330：
步骤S2310，第一校验节点在接收到检验消息的情况下，针对目标内容特征数据和内容特征数据执行校验项。
示例性地，校验节点1在接收到校验消息的情况下，会针对校验消息中的目标内容特征信息和内容特征信息执行校验项，即，校验目标内容特征信息和内容特征信息是否可信，在校验通过的情况下，执行步骤S2330。
步骤S2320，第一校验节点在目标内容特征和内容特征通过校验项的情况下，向区块链网络的其他校验节点发起校验请求，以由其他校验节点对目标内容特征信息和内容特征信息执行校验项。
校验请求中至少携带内容特征信息和目标内容特征信息。
示例性地，校验节点1在目标内容特征信息和内容特征信息可信的情况下，会在区块链网络中发起校验请求。例如校验节点2在接收到校验请求后，也会针对校验消息中的目标内容特征信息和内容特征信息执行校验项，即，校验目标内容特征信息和内容特征信息是否可信，在校验通过的情况下，向校验节点1返回校验通过消息。
又例如校验节点3在接收到校验请求后，也会针对校验消息中的目标内容特征信息和内容特征信息执行校验项，即，校验目标内容特征信息和内容特征信息是否可信，在校验通过的情况下，向校验节点1返回校验通过消息。
步骤S2230，第一校验节点在接收到至少两个其他校验节点响应于校验请求返回的校验通过消息的情况下，获得目标内容特征信息和内容特征信息通过校验项的校验结果。
示例性地，校验节点1在接收到校验节点2和校验节点3所返回的校验通过消息的情况下，则认为通过设定校验项。
在第一校验节点接收校验消息，并根据设定校验项，对目标内容特征信息和所述内容特征信息进行检验，获得校验结果之后，进入：
步骤S2400，第一校验节点在校验结果表示目标内容特征信息和内容特征信息通过校验项的情况下，确定文件的内容为违规内容，并将违规内容保存至区块链网络中。
违规内容为不符合设定要求的内容，即，违规内容为审核机构需要剔除的内容，也可以理解为是为审核机构所列出的黑名单中的内容。
本实施例中，其在校验节点对目标内容特征信息和内容特征信息进行校验后，校验通过后才确定文件的内容为违规内容，以确保存储至区块链网络中的数据是可信的。
根据本公开实施例的方法，其区块链网络中包括审核节点、校验节点和计算节点，在审核节点广播携带有文件的内容特征信息的查询消息后，计算节点会查找与该内容特征信息匹配的目标内容特征信息，并进一步由校验节点对该目标内容特征信息和内容特征信息进行校验，以在校验通过的情况下，才确定该文件的内容为违规内容，即，通过智能化分布式的审核网络实现各审核节点审核发现的违规内容信息的共享，避免各审核节点重复审核违规内容，降低审核成本。
在一个实施例中，第一校验节点在校验结果表示目标内容特征信息和内容特征信息未通过校验项的情况下，该文件内容审核方法还包括:由第一审核节点审核文件的内容是否符合设定要求，获得内容审核结果。
设定要求可以是满足违规内容的要求。
示例性地，校验节点1在校验结果表示目标内容特征信息和内容特征信息未通过校验项的情况下，会通知审核节点1，该审核节点1在接收到表示目标内容特征信息和内容特征信息未通过校验项的通知消息后，会对该文件的内容进行审核，进而获得内容审核结果，该内容审核结果可以为该文件的内容为违规内容和该文件的内容不是违规内容中的其中一个。
本实施例中，在获得内容审核结果之后还包括：第一审核节点获取管理节点所配置的第三广播地址；以及，第一审核节点通过第三广播地址广播内容审核结果。
通常是由管理节点配置审核节点所需的审核结果上传广播地址(第三广播地址)。该第三广播地址和第一广播地址、第二广播地址可以相同，也可以不同。
接下来示出一个例子的文件内容审核方法，参照图3，该文件内容审核方法可以包括如下步骤：
步骤S1，审核节点1的审核结果查询模块提取文件的内容特征信息，并利用审核节点1的数字证书对内容特征信息和文件基本信息进行数字标识，并通过审核结果查询广播地址广播查询消息。
步骤S2，计算节点1、计算节点2和计算节点3接收到查询消息后，按照特征匹配算法将内容特征信息和计算节点本地所存储的内容特征信息进行匹配计算。
步骤S3，计算节点1、计算节点2和计算节点3中任意一个计算节点在得到匹配的目标内容特征信息后，通过校验广播地址广播校验消息，该校验消息中携带内容特征信息和目标内容特征信息。
步骤S4，校验节点1在接收到校验消息后，对内容特征信息和目标内容特征信息进行本地校验。
步骤S5，校验节点1在校验通过后发送校验请求。
步骤S6，校验节点2在接收到校验请求后，对内容特征信息和目标内容特征信息进行本地校验。
步骤S7，校验节点2在校验通过后返回校验通过的消息。
步骤S8，校验节点3在接收到校验请求后，对内容特征信息和目标内容特征信息进行本地校验。
步骤S9，校验节点3在校验通过的情况下，返回校验通过的消息，以及，校验节点1在接收到校验节点2和校验节点3返回的校验通过消息的情况下，将验证结果写入区块链网络。
步骤S10，校验节点1通过区块链网络通知审核结果查询模块文件的内容为违规内容，完成一次审核结果查询。
<装置实施例>
在本实施例中，还提供一种文件内容审核装置4000，应用于区块链网络，区块链网络包括审核节点、计算节点和校验节点，如图4所示，文件内容审核装置4000包括审核模块4100、匹配模块4200、校验模块4300和确定模块4400，用于实施本实施例中提供的文件内容审核方法，该文件内容审核装置4000的各模块可以由软件实现，也可以由硬件实现，在此不做限定。
审核模块4100，用于第一审核节点在接收到所述文件的情况下，提取所述文件的内容特征信息，并广播查询消息；其中，所述查询消息中至少携带所述内容特征信息。
匹配模块4200，用于所述第一计算节点接收所述查询消息，并对所述内容特征信息进行匹配，获得目标内容特征信息，并广播检验消息；其中，所述检验消息中至少携带所述内容特征信息和所述目标内容特征信息。
校验模块，用于第一校验节点接收所述校验消息，并根据设定校验项，对所述目标内容特征信息和所述内容特征信息进行检验，获得校验结果。
确定模块，用于所述第一校验节点在所述校验结果表示所述目标内容特征信息和所述内容特征信息通过所述校验项的情况下，确定所述文件的内容为违规内容。
在一个实施例中，该区块链网络还包括管理节点，该审核模块4100，具体用于获取通过所述管理节点所配置的特征提取算法和第一广播地址；基于所述特征提取算法，提取所述文件的内容特征信息；通过所述第一广播地址广播查询消息。
在一个实施例中，该匹配模块4200，具体用于获取通过所述管理节点所配置的特征匹配算法和第二广播地址；基于所述特征匹配算法，计算所述内容特征信息和所述第一计算节点本地所存储的内容特征信息的相似度；根据每个所述相似度的降序排序次序，从所述第一计算节点本地所存储的内容特征信息中获得所述目标内容特征信息；通过所述第二广播地址广播所述校验消息。
在一个实施例中，所述设定校验项包括关于所述目标内容特征信息和所述内容特征信息是否可信的校验项。
在一个实施例中，该校验模块4300，具体用于所述第一校验节点在接收到所述检验消息的情况下，针对所述目标内容特征数据和所述内容特征数据执行所述校验项；所述第一校验节点在所述目标内容特征和所述内容特征通过所述校验项的情况下，向所述区块链网络的其他校验节点发起校验请求，以由所述其他校验节点对所述目标特征信息和所述特征信息执行所述校验项；所述第一校验节点在接收到至少两个所述其他校验节点响应于所述校验请求返回的校验通过消息的情况下，获得所述目标内容特征信息和所述内容特征信息通过所述校验项的校验结果。
所述校验请求中至少携带所述内容特征信息和所述目标内容特征信息；
在一个实施例中，该审核模块4100，还用于所述第一校验节点在所述校验结果表示所述目标内容特征信息和所述内容特征信息未通过所述校验项的情况下，由所述第一审核节点审核所述文件的内容是否符合设定要求，获得内容审核结果。
在一个实施例中，该审核模块4100，还用于所述第一审核节点获取所述管理节点所配置的第三广播地址；以及，所述第一审核节点通过所述第三广播地址广播所述内容审核结果。
在一个实施例中，审核模块4100，还用于所述第一审核节点获取通过所述管理节点所配置的所述第一审核节点的数字证书；所述第一审核节点利用所述数字证书对所述查询消息进行数字标识后，再广播所述查询消息。
可以理解的是，以上的审核模块4100可以实现审核节点的功能，以上的匹配模块4200可以实现计算节点的功能，以上的校验模块4300和存储模块4400可以实现校验节点的功能。
<设备实施例>
与上述方法实施例相对应，在本实施例中，还提供一种电子设备，如图5所示，其可以包括根据本公开任意实施例的文件内容审核装置4000，用于实施本公开任意实施例的文件内容审核方法。
如图6所示，该电子设备5000还可以包括处理器5200和存储器5100，该存储器5100用于存储可执行的指令；该处理器5200用于根据指令的控制运行电子设备以执行根据本公开任意实施例的文件内容审核方法。
以上装置5000的各个模块可以由处理器5200运行该指令以执行根据本公开任意实施例的方法来实现。
本公开可以是***、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(***)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是，通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。
以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本公开的范围由所附权利要求来限定。

Claims (10)

1.一种文件内容审核方法，应用于区块链网络，所述区块链网络包括审核节点、计算节点和校验节点，所述方法包括：
第一审核节点在接收到所述文件的情况下，提取所述文件的内容特征信息，并广播查询消息；其中，所述查询消息中至少携带所述内容特征信息；
所述第一计算节点接收所述查询消息，并对所述内容特征信息进行匹配，获得目标内容特征信息，并广播校验消息；其中，所述校验消息中至少携带所述内容特征信息和所述目标内容特征信息；
第一校验节点接收所述校验消息，并根据设定校验项，对所述目标内容特征信息和所述内容特征信息进行检验，获得校验结果；以及，
所述第一校验节点在所述校验结果表示所述目标内容特征信息和所述内容特征信息通过所述校验项的情况下，确定所述文件的内容为违规内容。
2.根据权利要求1所述的方法，其中，所述区块链网络还包括管理节点，
所述第一审核节点在接收到所述文件的情况下，提取所述文件的内容特征信息，并广播查询消息，包括：
获取通过所述管理节点所配置的特征提取算法和第一广播地址；
基于所述特征提取算法，提取所述文件的内容特征信息；
通过所述第一广播地址广播查询消息。
3.根据权利要求2所述的方法，其中，所述第一计算节点接收所述查询消息，并对所述内容特征信息进行匹配，获得目标内容特征信息，并广播检验消息，包括：
获取通过所述管理节点所配置的特征匹配算法和第二广播地址；
基于所述特征匹配算法，计算所述内容特征信息和所述第一计算节点本地所存储的内容特征信息的相似度；
根据每个所述相似度的降序排序次序，从所述第一计算节点本地所存储的内容特征信息中获得所述目标内容特征信息；
通过所述第二广播地址广播所述校验消息。
4.根据权利要求2所述的方法，其中，所述设定校验项包括关于所述目标内容特征信息和所述内容特征信息是否可信的校验项。
5.根据权利要求4所述的方法，其中，所述第一校验节点接收所述校验消息，并根据设定校验项，对所述目标内容特征信息和所述内容特征信息进行检验，获得校验结果，包括：
所述第一校验节点在接收到所述检验消息的情况下，针对所述目标内容特征数据和所述内容特征数据执行所述校验项；
所述第一校验节点在所述目标内容特征和所述内容特征通过所述校验项的情况下，向所述区块链网络的其他校验节点发起校验请求，以由所述其他校验节点对所述目标特征信息和所述特征信息执行所述校验项；其中，所述校验请求中至少携带所述内容特征信息和所述目标内容特征信息；
所述第一校验节点在接收到至少两个所述其他校验节点响应于所述校验请求返回的校验通过消息的情况下，获得所述目标内容特征信息和所述内容特征信息通过所述校验项的校验结果。
6.根据权利要求1所述的方法，其中，所述方法还包括：
所述第一校验节点在所述校验结果表示所述目标内容特征信息和所述内容特征信息未通过所述校验项的情况下，由所述第一审核节点审核所述文件的内容是否符合设定要求，获得内容审核结果。
7.根据权利要求6所述的方法，其中，所述方法还包括：
所述第一审核节点获取所述管理节点所配置的第三广播地址；以及，
所述第一审核节点通过所述第三广播地址广播所述内容审核结果。
8.根据权利要求2所述的方法，其中，在所述广播所述查询消息之前，还包括：
所述第一审核节点获取通过所述管理节点所配置的所述第一审核节点的数字证书；
所述第一审核节点利用所述数字证书对所述查询消息进行数字标识后，再广播所述查询消息。
9.一种文件内容审核装置，应用于区块链网络，所述区块链网络包括审核节点、计算节点和校验节点，所述装置包括：
审核模块，用于第一审核节点在接收到所述文件的情况下，提取所述文件的内容特征信息，并广播查询消息；其中，所述查询消息中至少携带所述内容特征信息；
匹配模块，用于所述第一计算节点接收所述查询消息，并对所述内容特征信息进行匹配，获得目标内容特征信息，并广播校验消息；其中，所述校验消息中至少携带所述内容特征信息和所述目标内容特征信息；
校验模块，用于第一校验节点接收所述校验消息，并根据设定校验项，对所述目标内容特征信息和所述内容特征信息进行检验，获得校验结果；以及，
确定模块，用于所述第一校验节点在所述校验结果表示所述目标内容特征信息和所述内容特征信息通过所述校验项的情况下，确定所述文件的内容为违规内容。
10.一种电子设备，其特征在于，包括：
如权利要求9所述的文件内容审核装置；或者，
处理器和存储器，所述存储器用于存储指令，所述指令用于控制所述处理器执行根据权利要求1至8中任一项所述的方法。
CN202011435689.2A 2020-12-07 2020-12-10 文件内容审核方法、装置及电子设备 Active CN114598699B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202011417449X 2020-12-07
CN202011417449 2020-12-07

Publications (2)

Publication Number Publication Date
CN114598699A true CN114598699A (zh) 2022-06-07
CN114598699B CN114598699B (zh) 2023-07-28

Family

ID=81813603

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011435689.2A Active CN114598699B (zh) 2020-12-07 2020-12-10 文件内容审核方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN114598699B (zh)

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101446970A (zh) * 2008-12-15 2009-06-03 腾讯科技（深圳）有限公司 一种对用户发布的文本内容审核处理的方法及其装置
CN101540907A (zh) * 2009-04-28 2009-09-23 无锡天脉聚源传媒科技有限公司 互联网视频安全审查的方法
CN108280628A (zh) * 2018-02-01 2018-07-13 泰康保险集团股份有限公司 基于区块链技术的核赔方法、装置、介质及电子设备
CN110109888A (zh) * 2019-04-04 2019-08-09 深圳市元征科技股份有限公司 一种文件处理方法及装置
CN110321734A (zh) * 2019-07-11 2019-10-11 政采云有限公司 一种文件校验方法及装置
CN110457946A (zh) * 2018-12-05 2019-11-15 腾讯科技（深圳）有限公司 数字资产生成方法、装置、电子设备及存储介质
CN110675153A (zh) * 2019-10-10 2020-01-10 北京京东振世信息技术有限公司 基于区块链的数据校验方法及装置、存储介质及电子设备
CN110705998A (zh) * 2019-09-02 2020-01-17 深圳壹账通智能科技有限公司 基于区块链的信息审核方法及装置、电子设备、存储介质
US20200034343A1 (en) * 2018-07-24 2020-01-30 Innoplexus Ag System and method for identifyingt duplicate document submission on a publishing platform
CN110910138A (zh) * 2019-12-04 2020-03-24 中科扶云(杭州)科技有限公司 一种区块链数据监管方法、装置
WO2020073828A1 (zh) * 2018-10-10 2020-04-16 腾讯科技（深圳）有限公司 审计结果数据存储、查询方法、审计项存储方法及装置
US20200304559A1 (en) * 2019-03-18 2020-09-24 Red Hat, Inc. Methods and system for auditing batch jobs using blockchain
CN111767422A (zh) * 2020-06-30 2020-10-13 平安国际智慧城市科技股份有限公司 一种数据审核方法、装置、终端及存储介质
CN111797217A (zh) * 2020-06-29 2020-10-20 中国平安财产保险股份有限公司 基于faq匹配模型的信息查询方法、及其相关设备

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101446970A (zh) * 2008-12-15 2009-06-03 腾讯科技（深圳）有限公司 一种对用户发布的文本内容审核处理的方法及其装置
CN101540907A (zh) * 2009-04-28 2009-09-23 无锡天脉聚源传媒科技有限公司 互联网视频安全审查的方法
CN108280628A (zh) * 2018-02-01 2018-07-13 泰康保险集团股份有限公司 基于区块链技术的核赔方法、装置、介质及电子设备
US20200034343A1 (en) * 2018-07-24 2020-01-30 Innoplexus Ag System and method for identifyingt duplicate document submission on a publishing platform
WO2020073828A1 (zh) * 2018-10-10 2020-04-16 腾讯科技（深圳）有限公司 审计结果数据存储、查询方法、审计项存储方法及装置
CN110457946A (zh) * 2018-12-05 2019-11-15 腾讯科技（深圳）有限公司 数字资产生成方法、装置、电子设备及存储介质
US20200304559A1 (en) * 2019-03-18 2020-09-24 Red Hat, Inc. Methods and system for auditing batch jobs using blockchain
CN110109888A (zh) * 2019-04-04 2019-08-09 深圳市元征科技股份有限公司 一种文件处理方法及装置
CN110321734A (zh) * 2019-07-11 2019-10-11 政采云有限公司 一种文件校验方法及装置
CN110705998A (zh) * 2019-09-02 2020-01-17 深圳壹账通智能科技有限公司 基于区块链的信息审核方法及装置、电子设备、存储介质
CN110675153A (zh) * 2019-10-10 2020-01-10 北京京东振世信息技术有限公司 基于区块链的数据校验方法及装置、存储介质及电子设备
CN110910138A (zh) * 2019-12-04 2020-03-24 中科扶云(杭州)科技有限公司 一种区块链数据监管方法、装置
CN111797217A (zh) * 2020-06-29 2020-10-20 中国平安财产保险股份有限公司 基于faq匹配模型的信息查询方法、及其相关设备
CN111767422A (zh) * 2020-06-30 2020-10-13 平安国际智慧城市科技股份有限公司 一种数据审核方法、装置、终端及存储介质

Also Published As

Publication number Publication date
CN114598699B (zh) 2023-07-28

Similar Documents

Publication Publication Date Title
US11516427B2 (en) Portable recording device for real-time multimedia streams
US9973521B2 (en) System and method for field extraction of data contained within a log stream
US10360402B2 (en) Intercepting sensitive data using hashed candidates
US10834289B2 (en) Detection of steganography on the perimeter
CN104468531A (zh) 敏感数据的授权方法、装置和***
US11392671B2 (en) Delivery management server and delivery management method for delivering updated application
CN110960856B (zh) 一种游戏数据管理***、管理方法及存储介质
CN113011864A (zh) 一种二维码生成和核验方法、装置、设备和可读介质
CN113656713B (zh) 一种网络资源处理方法、装置及***
WO2018113576A1 (zh) 一种用户端验票的方法、***及智能设备
CN110324343B (zh) 一种资讯监播方法、装置、电子设备及存储介质
CN111027065B (zh) 一种勒索病毒识别方法、装置、电子设备及存储介质
CN106599637B (zh) 一种在验证界面输入验证码的方法和装置
CN114598699B (zh) 文件内容审核方法、装置及电子设备
CN110930163B (zh) 一种房源委托业务的实现方法、***及存储介质
CN110865818B (zh) 应用关联域名的检测方法、装置及电子设备
CN108734491B (zh) 评估多媒体数据的版权价值的方法及装置
CN107547437B (zh) 应用识别方法及装置
CN111050209A (zh) 多媒体资源播放方法及装置
US20150106303A1 (en) Finite state machine forming
CN114598693B (zh) 文件内容审核方法、装置及电子设备
US20210151081A1 (en) Authenticating digital recordings
US10728254B2 (en) Management system, communication system, and management method
CN110647757A (zh) 基于智能合约的数据处理方法及相关装置
KR20180053898A (ko) 연예 정보 제공 장치 및 그 동작 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant