CN107832925A - 互联网内容风险评价方法、装置及服务器 - Google Patents
互联网内容风险评价方法、装置及服务器 Download PDFInfo
- Publication number
- CN107832925A CN107832925A CN201710986845.6A CN201710986845A CN107832925A CN 107832925 A CN107832925 A CN 107832925A CN 201710986845 A CN201710986845 A CN 201710986845A CN 107832925 A CN107832925 A CN 107832925A
- Authority
- CN
- China
- Prior art keywords
- risk
- content
- internet content
- internet
- score value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000012795 verification Methods 0.000 claims description 23
- 238000012502 risk assessment Methods 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 8
- 238000012552 review Methods 0.000 abstract description 5
- 238000012545 processing Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 238000012550 audit Methods 0.000 description 7
- 238000007689 inspection Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000006855 networking Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000001934 delay Effects 0.000 description 2
- 238000012417 linear regression Methods 0.000 description 2
- 238000000540 analysis of variance Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012954 risk control Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0635—Risk analysis of enterprise or organisation activities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/01—Social networking
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Theoretical Computer Science (AREA)
- Economics (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Marketing (AREA)
- Entrepreneurship & Innovation (AREA)
- General Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Primary Health Care (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Development Economics (AREA)
- Educational Administration (AREA)
- General Engineering & Computer Science (AREA)
- Game Theory and Decision Science (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本说明书实施例提供了一种互联网内容风险评价方法，通过对多个风险识别模型输出的多个风险分值进行计算，得到互联网内容的综合风险分值。基于综合风险分值选取出高危风险内容进行优先审核，可减少危险内容外露滞留时间。
Description
技术领域
本说明书实施例涉及互联网技术领域，尤其涉及一种互联网内容风险评价方法、装置及服务器。
背景技术
按照国家有关规定、公司企业相关制度要求，互联网企业须对所发布的内容进行检查和处理，检查的内容主要包含文字、图像、音频、视频(直播)等。互联网内容庞大，为了提高处理效率，对互联网内容进行风险评价是必不可少的。
发明内容
本说明书实施例提供及一种互联网内容风险评价方法、装置及服务器。
第一方面，本说明书实施例提供一种互联网内容风险评价方法，包括：对获取的互联网内容进行类别判断；将互联网内容输入到对应类别的多个风险识别模型中，得到多个风险识别模型分别输出的多个风险分值；根据多个风险分值，计算出所述互联网内容的综合风险分值。
第二方面，本说明书实施例提供一种互联网内容风险评价装置，包括：类别判断单元，用于对获取的互联网内容进行类别判断；风险识别单元，用于将互联网内容输入到对应类别的多个风险识别模型中，得到多个风险识别模型分别输出的多个风险分值；风险综合单元，根据多个风险分值，计算出所述互联网内容的综合风险分值。
第三方面，本说明书实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述任一项所述互联网内容风险评价方法的步骤。
第四方面，本说明书实施例提供一种服务器，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述任一项所述互联网内容风险评价方法的步骤。
本说明书实施例有益效果如下：
现有的审核模式是将需要人工审核的内容简单地按时间顺序(倒序)排列审核。该审核模式造成的后果是：没有按风险程度高低进行排序审核，可能导致风险程度较高的内容延后处理，使得该高风险内容外露滞留的时间较长。极端情况下，由于新的风险内容持续产生，使得历史高风险内容一直得不到处理，导致风险持续扩散。本说明书实施例提供的互联网内容风险评价方法，根据各个风险模型给出的风险值进行加权处理得到综合风险分值，通过该综合风险分值可以较好的体现互联网内容本身的风险性；然后基于综合风险分值选取出高危风险内容进行优先审核，从而减少危险内容外露滞留时间。采用本说明书实施例后，高风险内容排序靠前的概率增大，从而被优先审核的几率增大，在满足召回指标的情况下可减少标黑工作量，提高效率。
附图说明
图1为本说明书实施例的互联网内容风险评价应用场景示意图；
图2为本说明书实施例第一方面提供的互联网内容风险评价方法流程图；
图3为本说明书实施例第一方面提供的互联网内容风险评价方法中综合风险分值计算原理示意图；
图4为本说明书实施例第一方面提供的互联网内容风险评价方法示例流程图；
图5为本说明书实施例第二方面提供的互联网内容风险评价装置机构示意图；
图6为本说明书实施例第四方面提供的用于互联网内容风险评价的服务器结构示意图。
具体实施方式
为了更好的理解上述技术方案，下面通过附图以及具体实施例对本说明书实施例的技术方案做详细的说明，应当理解本说明书实施例以及实施例中的具体特征是对本说明书实施例技术方案的详细的说明，而不是对本说明书技术方案的限定，在不冲突的情况下，本说明书实施例以及实施例中的技术特征可以相互组合。
图1为本说明书实施例的互联网内容风险评价应用场景示意图。用户在客户端10操作，比如发布、转发各类帖子、评论等互联网内容；客户端10将互联网内容发送给网站或APP的业务服务器20；业务服务器20将互联网内容提供给安全管控服务器30进行安全性管理；安全管控服务器30对互联网内容进行内容识别、风险控制、审核及质检等操作。
第一方面，本说明书实施例提供一种互联网内容风险评价方法，请参考图2，包括：
S201：对获取的互联网内容进行类别判断。
通过分析互联网内容的数据，确定互联网内容的类别为视频(直播)、音频、图片或文本。确定互联网内容的类别是为了后续将该互联网内容输入到对应类别的风险识别模型中。
S202：将互联网内容输入到对应类别的多个风险识别模型中，得到多个风险识别模型分别输出的多个风险分值。
如前所述，互联网内容的类别包括视频、音频、图片和文本等。预先为各类内容训练出多个风险识别模型。比如，针对图片类别的内容，可以预先设置***识别模型、涉政图片识别模型、非法广告(例如二维码)图片识别模型等等。可以采用线性模型训练各个模型，例如线性回归模型、方差分析模型等；当然也可以采用其他算法(例如深度学习等)训练识别模型。
S203：根据多个风险分值，计算出所述互联网内容的综合风险分值。
参见图3，为一个可选方式中综合风险分值计算原理示意图。互联网内容输入到其类别对应的多个识别模型中(模型1、模型2、…、模型10)；每个模型输出得到风险值X1、X1、…、X 10；根据这十个风险值利用一定算法得到综合风险分值。
在一种可选方式中，为多个风险识别模型分别设置风险权重；对多个风险分值分别根据对应的风险权重进行加权计算，得到综合风险分值。仍如图3的例子，假设为模型1、模型2、…、模型10设置的权重分别为b1、b2、…、b10，则在计算综合风险分值时，将各风险值与其对应的权重加权计算。
假设对于图片类别的互联网内容，有N个风险模型，其对应的模型分数分别表示为Xi，则：
其中，Xresult代表综合风险分值；参数a是调节参数，可根据大量样本训练得到；bi是Xi对应的风险权重，是预先根据大量样本为各个模型设置的。
参见图4，为互联网内容风险评价方法一个示例的流程图。该示例中，
S401:业务服务器将互联网内容输入给内容识别模块；
S402:内容识别模块进行识别后将各模型的风险分值提供给综合风险分值计算模块；
S403:综合风险分值计算模块计算出综合风险分值；并依据综合风险分值选取送审内容至审核平台；
S404:审核平台进行内容审核；
S405:审核平台将审核结果返回至业务服务器；
S406：审核平台可抽样送检至质检平台；
S407：质检平台将质检结果返回给业务服务器。
在一个可选方式中，在计算出所述综合风险分值之后，还包括：根据预置的风险分最低阈值，确定综合风险分值大于所述风险分最低阈值的互联网内容为高危风险内容。在向互联网内容审核平台发送待审的互联网内容时，优先从所述高危风险内容中提取待审内容。可以理解，通过综合风险分计算出得分较高的互联网内容是风险性较高的内容，为了避免其在互联网上外露或外露时间过长，需要对其进行优先检查或过滤等处理。本说明书实施例中，不同于按照时间顺序检查互联网内容，而是基于内容本身进行风险判断，将高危风险内容优先发送至审核平台进行审核，可降低高风险内容外露时间。
假设随机取一百万的历史审核数据(其中被标记为黑的量为166673)，按照本说明书实施例所得的风险分倒序排列后，审核量和标黑量的关系如下表1所示。
表1
| 审核量 | 审核比例 | 标黑量 | 标黑占总黑比例 |
| 300000 | 30％ | 105003 | 63％ |
| 400000 | 40％ | 123338 | 74％ |
| 500000 | 50％ | 135005 | 81％ |
| 600000 | 60％ | 141672 | 85％ |
| 700000 | 70％ | 148338 | 89％ |
| 800000 | 80％ | 158339 | 95％ |
| 900000 | 90％ | 165006 | 99％ |
| 1000000 | 100％ | 166673 | 100％ |
其中内容标黑是指，经过内容安全审核，被判定为有问题的内容，需要业务进行删除等处理操作。
由上述数据可以看出，前30％的审核任务覆盖了63％的内容风险，可以有效降低高风险内容的外露时间。
在一个可选方式中，可根据危险内容召回指标确定待审数目；在从高危风险内容中选取待审内容时，随机或按照综合风险分值从高至低，选取该待审数目的风险内容，发送给互联网内容审核平台。例如上述表1的例子。假设对召回的要求为90％，则审核量70％即可基本完成任务(审核量70％时，标黑占总黑比例为89％，接近90％)，也即节省了近30％的审核量。
现有的审核模式是将需要人工审核的内容简单地按时间顺序(倒序)排列审核。该审核模式造成的后果是：没有按风险程度高低进行排序审核，可能导致风险程度较高的内容延后处理，使得该高风险内容外露滞留的时间较长。极端情况下，由于新的风险内容持续产生，使得历史高风险内容一直得不到处理，导致风险持续扩散。本说明书实施例提供的互联网内容风险评价方法，根据各个风险模型给出的风险值进行加权处理得到综合风险分值，通过该综合风险分值可以较好的体现互联网内容本身的风险性；然后基于综合风险分值选取出高危风险内容进行优先审核，从而减少危险内容外露滞留时间。采用本说明书实施例后，高风险内容排序靠前的概率增大，从而被优先审核的几率增大，在满足召回指标的情况下可减少标黑工作量，提高效率。
第二方面，基于同一发明构思，本说明书实施例提供一种互联网内容风险评价装置，请参考图5，包括：
类别判断单元501，用于对获取的互联网内容进行类别判断；
风险识别单元502，用于将互联网内容输入到对应类别的多个风险识别模型中，得到多个风险识别模型分别输出的多个风险分值；
风险综合单元503，根据多个风险分值，计算出所述互联网内容的综合风险分值。
在一种可选方式中，所述风险综合单元503具体用于：对多个风险分值分别根据对应的风险权重进行加权计算，得到所述综合风险分值；其中所述风险权重是预先为各个风险识别模型设置的。
在一种可选方式中，所述类别判断单元501具体用于：分析互联网内容的数据，确定所述互联网内容的类别为视频、音频、图片、和/或，文本。
在一种可选方式中，还包括：高危内容确定单元504，用于根据预置的风险分最低阈值，确定综合风险分值大于所述风险分最低阈值的互联网内容为高危风险内容。
在一种可选方式中，还包括：待审内容确定单元505，用于在向互联网内容审核平台发送待审的互联网内容时，优先从所述高危风险内容中提取待审内容。
在一种可选方式中，还包括：待审数目确定单元506，用于根据危险内容召回指标，确定待审数目；所述待审内容确定单元505，从所述高危风险内容中，随机或按照综合风险分值从高至低，选取所述待审数目的风险内容，发送给所述互联网内容审核平台。
第三方面，基于与前述实施例中互联网内容风险评价的发明构思，本发明还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现前文所述互联网内容风险评价的方法的任一方法的步骤。
第四方面，基于与前述实施例中互联网内容风险评价方法同样的发明构思，本发明还提供一种服务器，如图6所示，包括存储器604、处理器602及存储在存储器604上并可在处理器602上运行的计算机程序，所述处理器602执行所述程序时实现前文所述互联网内容风险评价方法的任一方法的步骤。
其中，在图6中，总线架构(用总线600来代表)，总线600可以包括任意数量的互联的总线和桥，总线600将包括由处理器602代表的一个或多个处理器和存储器604代表的存储器的各种电路链接在一起。总线600还可以将诸如***设备、稳压器和功率管理电路等之类的各种其他电路链接在一起，这些都是本领域所公知的，因此，本文不再对其进行进一步描述。总线接口606在总线600和接收器601和发送器603之间提供接口。接收器601和发送器603可以是同一个元件，即收发机，提供用于在传输介质上与各种其他装置通信的单元。处理器602负责管理总线600和通常的处理，而存储器604可以被用于存储处理器602在执行操作时所使用的数据。
本说明书是参照根据本说明书实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的设备。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令设备的制造品，该指令设备实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本说明书的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本说明书范围的所有变更和修改。
显然，本领域的技术人员可以对本说明书进行各种改动和变型而不脱离本说明书的精神和范围。这样，倘若本说明书的这些修改和变型属于本说明书权利要求及其等同技术的范围之内，则本说明书也意图包含这些改动和变型在内。
Claims (14)
1.一种互联网内容风险评价方法，其特征在于，包括：
对获取的互联网内容进行类别判断；
将互联网内容输入到对应类别的多个风险识别模型中，得到多个风险识别模型分别输出的多个风险分值；
根据多个风险分值，计算出所述互联网内容的综合风险分值。
2.根据权利要求1所述的方法，其特征在于，还包括：
为所述多个风险识别模型分别设置风险权重；
对多个风险分值分别根据对应的风险权重进行加权计算，得到所述综合风险分值。
3.根据权利要求1所述的方法，其特征在于，所述对获取的互联网内容进行类别区分包括：
分析互联网内容的数据，确定所述互联网内容的类别为视频、音频、图片、和/或，文本。
4.根据权利要求1-3任一项所述的方法，其特征在于，在计算出所述综合风险分值之后，还包括：
根据预置的风险分最低阈值，确定综合风险分值大于所述风险分最低阈值的互联网内容为高危风险内容。
5.根据权利要求4所述的方法，其特征在于，还包括：
在向互联网内容审核平台发送待审的互联网内容时，优先从所述高危风险内容中提取待审内容。
6.根据权利要求5所述的方法，其特征在于，还包括：
根据危险内容召回指标，确定待审数目；
从所述高危风险内容中，随机或按照综合风险分值从高至低，选取所述待审数目的风险内容，发送给所述互联网内容审核平台。
7.一种互联网内容风险评价装置，其特征在于，包括：
类别判断单元，用于对获取的互联网内容进行类别判断；
风险识别单元，用于将互联网内容输入到对应类别的多个风险识别模型中，得到多个风险识别模型分别输出的多个风险分值；
风险综合单元，根据多个风险分值，计算出所述互联网内容的综合风险分值。
8.根据权利要求7所述的装置，其特征在于，所述风险综合单元具体用于：对多个风险分值分别根据对应的风险权重进行加权计算，得到所述综合风险分值；其中所述风险权重是预先为各个风险识别模型设置的。
9.根据权利要求7所述的装置，其特征在于，所述类别判断单元具体用于：分析互联网内容的数据，确定所述互联网内容的类别为视频、音频、图片、和/或，文本。
10.根据权利要求7-9任一项所述的装置，其特征在于，还包括：
高危内容确定单元，用于根据预置的风险分最低阈值，确定综合风险分值大于所述风险分最低阈值的互联网内容为高危风险内容。
11.根据权利要求10所述的装置，其特征在于，还包括：
待审内容确定单元，用于在向互联网内容审核平台发送待审的互联网内容时，优先从所述高危风险内容中提取待审内容。
12.根据权利要求6所述的装置，其特征在于，还包括：待审数目确定单元，用于根据危险内容召回指标，确定待审数目；
所述待审内容确定单元，从所述高危风险内容中，随机或按照综合风险分值从高至低，选取所述待审数目的风险内容，发送给所述互联网内容审核平台。
13.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现权利要求1-6任一项所述方法的步骤。
14.一种服务器，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1-6任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710986845.6A CN107832925A (zh) | 2017-10-20 | 2017-10-20 | 互联网内容风险评价方法、装置及服务器 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710986845.6A CN107832925A (zh) | 2017-10-20 | 2017-10-20 | 互联网内容风险评价方法、装置及服务器 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN107832925A true CN107832925A (zh) | 2018-03-23 |
Family
ID=61648709
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710986845.6A Pending CN107832925A (zh) | 2017-10-20 | 2017-10-20 | 互联网内容风险评价方法、装置及服务器 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107832925A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108960782A (zh) * | 2018-07-10 | 2018-12-07 | 北京木瓜移动科技股份有限公司 | 内容审核方法以及装置 |
| CN112181636A (zh) * | 2020-09-02 | 2021-01-05 | 深圳市欢太科技有限公司 | 互联网内容的识别方法及装置、终端及可读存储介质 |
| US11443310B2 (en) * | 2017-12-19 | 2022-09-13 | Paypal, Inc. | Encryption based shared architecture for content classification |
Citations (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20050119900A1 (en) * | 2002-06-12 | 2005-06-02 | Eder Jeff S. | Purchasing optimization system |
| CN101136090A (zh) * | 2007-09-29 | 2008-03-05 | 南京大学 | 一种工业园区环境风险识别的方法 |
| CN101166159A (zh) * | 2006-10-18 | 2008-04-23 | 阿里巴巴公司 | 一种确定垃圾信息的方法及*** |
| CN101540017A (zh) * | 2009-04-28 | 2009-09-23 | 黑龙江工程学院 | 基于字节级n元文法的特征提取方法及垃圾邮件过滤器 |
| CN101819637A (zh) * | 2010-04-02 | 2010-09-01 | 南京邮电大学 | 利用图片的局部不变特征检测图像型垃圾邮件的方法 |
| CN101819638A (zh) * | 2010-04-12 | 2010-09-01 | 中国科学院计算技术研究所 | 色情检测模型建立方法和色情检测方法 |
| CN102012985A (zh) * | 2010-11-19 | 2011-04-13 | 国网电力科学研究院 | 一种基于数据挖掘的敏感数据动态识别方法 |
| CN102332028A (zh) * | 2011-10-15 | 2012-01-25 | 西安交通大学 | 一种面向网页的不良Web内容识别方法 |
| CN102547794A (zh) * | 2012-01-12 | 2012-07-04 | 郑州金惠计算机***工程有限公司 | Wap手机传媒色情图像、视频及不良内容的识别监管平台 |
| CN103294813A (zh) * | 2013-06-07 | 2013-09-11 | 北京捷成世纪科技股份有限公司 | 一种敏感图片搜索方法和装置 |
| CN103577430A (zh) * | 2012-07-26 | 2014-02-12 | 深圳市世纪光速信息技术有限公司 | 一种信息识别的方法和服务器 |
| CN103685307A (zh) * | 2013-12-25 | 2014-03-26 | 北京奇虎科技有限公司 | 基于特征库检测钓鱼欺诈网页的方法及***、客户端、服务器 |
| CN104954350A (zh) * | 2014-03-31 | 2015-09-30 | 腾讯科技（深圳）有限公司 | 账号信息保护方法和*** |
| CN105654057A (zh) * | 2015-12-31 | 2016-06-08 | 中国建设银行股份有限公司 | 基于图片内容的图片审核***及图片审核方法 |
| CN105894369A (zh) * | 2015-01-04 | 2016-08-24 | 必普(上海)金融信息服务有限公司 | 一种对互联网金融网贷平台的风险评估模型 |
-
2017
- 2017-10-20 CN CN201710986845.6A patent/CN107832925A/zh active Pending
Patent Citations (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20050119900A1 (en) * | 2002-06-12 | 2005-06-02 | Eder Jeff S. | Purchasing optimization system |
| CN101166159A (zh) * | 2006-10-18 | 2008-04-23 | 阿里巴巴公司 | 一种确定垃圾信息的方法及*** |
| CN101136090A (zh) * | 2007-09-29 | 2008-03-05 | 南京大学 | 一种工业园区环境风险识别的方法 |
| CN101540017A (zh) * | 2009-04-28 | 2009-09-23 | 黑龙江工程学院 | 基于字节级n元文法的特征提取方法及垃圾邮件过滤器 |
| CN101819637A (zh) * | 2010-04-02 | 2010-09-01 | 南京邮电大学 | 利用图片的局部不变特征检测图像型垃圾邮件的方法 |
| CN101819638A (zh) * | 2010-04-12 | 2010-09-01 | 中国科学院计算技术研究所 | 色情检测模型建立方法和色情检测方法 |
| CN102012985A (zh) * | 2010-11-19 | 2011-04-13 | 国网电力科学研究院 | 一种基于数据挖掘的敏感数据动态识别方法 |
| CN102332028A (zh) * | 2011-10-15 | 2012-01-25 | 西安交通大学 | 一种面向网页的不良Web内容识别方法 |
| CN102547794A (zh) * | 2012-01-12 | 2012-07-04 | 郑州金惠计算机***工程有限公司 | Wap手机传媒色情图像、视频及不良内容的识别监管平台 |
| CN103577430A (zh) * | 2012-07-26 | 2014-02-12 | 深圳市世纪光速信息技术有限公司 | 一种信息识别的方法和服务器 |
| CN103294813A (zh) * | 2013-06-07 | 2013-09-11 | 北京捷成世纪科技股份有限公司 | 一种敏感图片搜索方法和装置 |
| CN103685307A (zh) * | 2013-12-25 | 2014-03-26 | 北京奇虎科技有限公司 | 基于特征库检测钓鱼欺诈网页的方法及***、客户端、服务器 |
| CN104954350A (zh) * | 2014-03-31 | 2015-09-30 | 腾讯科技（深圳）有限公司 | 账号信息保护方法和*** |
| CN105894369A (zh) * | 2015-01-04 | 2016-08-24 | 必普(上海)金融信息服务有限公司 | 一种对互联网金融网贷平台的风险评估模型 |
| CN105654057A (zh) * | 2015-12-31 | 2016-06-08 | 中国建设银行股份有限公司 | 基于图片内容的图片审核***及图片审核方法 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11443310B2 (en) * | 2017-12-19 | 2022-09-13 | Paypal, Inc. | Encryption based shared architecture for content classification |
| CN108960782A (zh) * | 2018-07-10 | 2018-12-07 | 北京木瓜移动科技股份有限公司 | 内容审核方法以及装置 |
| CN112181636A (zh) * | 2020-09-02 | 2021-01-05 | 深圳市欢太科技有限公司 | 互联网内容的识别方法及装置、终端及可读存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109922032B (zh) | 用于确定登录账户的风险的方法、装置、设备及存储介质 | |
| CN107153971B (zh) | 用于识别app推广中设备作弊的方法及装置 | |
| CN109598095B (zh) | 评分卡模型的建立方法、装置、计算机设备和存储介质 | |
| TWI698808B (zh) | 模型測試的方法及裝置 | |
| CN110222880B (zh) | 业务风险的确定方法、模型训练方法和数据处理方法 | |
| CN109684047A (zh) | 事件处理方法、装置、设备和计算机存储介质 | |
| CN106611291A (zh) | 信息推送方法和装置 | |
| CN113543178A (zh) | 基于用户感知的业务优化方法、装置、设备及存储介质 | |
| CN107230090B (zh) | 一种净推荐值nps分类方法及装置 | |
| CN107832925A (zh) | 互联网内容风险评价方法、装置及服务器 | |
| CN112102263A (zh) | 缺陷检测模型生成***、方法、装置和计算机设备 | |
| CN109461068A (zh) | 欺诈行为的判断方法、装置、设备及计算机可读存储介质 | |
| CN111160783A (zh) | 数字资产价值的评价方法、***及电子设备 | |
| CN110912874A (zh) | 有效识别机器访问行为的方法及*** | |
| CN112734046A (zh) | 模型训练及数据检测方法、装置、设备及介质 | |
| CN111860568B (zh) | 数据样本的均衡分布方法、装置及存储介质 | |
| CN110457895A (zh) | 一种pc应用程序违规内容监测方法及装置 | |
| US20160371712A1 (en) | Method and Score Management Node For Supporting Service Evaluation | |
| CN111784360B (zh) | 一种基于网络链接回溯的反欺诈预测方法及*** | |
| CN112380759B (zh) | 基于深度学习和CoxPH模型的智能电表寿命预测方法 | |
| CN111309706A (zh) | 模型训练方法、装置、可读存储介质及电子设备 | |
| CN111404835A (zh) | 流量控制方法、装置、设备及存储介质 | |
| CN116385045A (zh) | 一种用于收寄附加服务的数据处理方法、装置和设备 | |
| CN110401626A (zh) | 一种黑客攻击分级检测方法及装置 | |
| CN110427971A (zh) | 用户及ip的识别方法、装置、服务器和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20200928 Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands Applicant after: Advanced innovation technology Co.,Ltd. Address before: A four-storey 847 mailbox in Grand Cayman Capital Building, British Cayman Islands Applicant before: Alibaba Group Holding Ltd. Effective date of registration: 20200928 Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands Applicant after: Innovative advanced technology Co.,Ltd. Address before: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands Applicant before: Advanced innovation technology Co.,Ltd. |
|
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180323 |