CN108574623B - 一种恶意用户确定及阻止垃圾信息的方法及装置 - Google Patents

Abstract

本发明涉及融合通信领域，尤其涉及一种恶意用户确定及阻止垃圾信息的方法及装置，用户终端向服务器发送垃圾信息的举报请求，服务器对举报请求进行分析处理，分别计算每个举报用户的信用值，并分别计算每个被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户；当接收到用户终端发送的信息发送请求时，根据确定出的恶意用户和疑似恶意用户，对用户终端发送的信息发送请求进行相应处理，这样，综合考虑举报用户的信用值和多方面因素，对被举报用户进行恶意级别评估，确定出的恶意用户更加准确、可靠，进而可以根据确定出的恶意用户和疑似恶意用户，有效可靠地阻止垃圾信息，适用范围也比较广。

Description

一种恶意用户确定及阻止垃圾信息的方法及装置

技术领域

本发明涉及融合通信领域，尤其涉及一种恶意用户确定及阻止垃圾信息的方法及装置。

背景技术

随着通信业务的不断发展，目前，大量的垃圾电话、垃圾短信、垃圾邮件、垃圾资讯或其它信息，都对用户造成很大的影响和干扰。

例如，现有技术中，阻止垃圾电话的方法，主要有以下两种：1)在通信网络中部署被叫陷阱网络，采集可疑的语音信息，从采集信息中提取特征行为,将特征行为数据发送至中心服务器，中心服务器对各个被叫陷阱网络中的特征样本进行分析，得到主叫终端发起垃圾电话的概率，根据中心服务器上的终端用户的发起概率对终端的主叫请求做相应的滤除。2)终端监听并记录接收到的被叫请求，并根据终端用户的确认，将主叫用户的身份标识作为举报信息发送给***，服务器从接收到的举报请求中提取主叫用户信息，当用户被举报超过设置的门限值时将该用户设置为垃圾电话用户，当***接收到被标记用户的主叫请求时将拒绝转发该呼叫请求。

但是，这两种方法仅适用于单一的通话服务网络，也仅对垃圾电话进行了处理，而没有考虑垃圾短信以及其他垃圾资讯的问题。并且，第一种方法，依赖于被叫陷阱网络，当部署方式不合理时采集的数据样本有效性就会下降，并且当垃圾电话发送策略改变时，需要相应的改变被叫陷阱网络的部署方式，同时语音信息样本的分析方式也要进行相应的更新，后续的***维护成本过高，部署的不确定性太强；而第二种方法，仅根据用户举报数量门限这一单一标准判断被举报用户是否为垃圾电话用户，可能会有用户因为恶意举报或少数用户的重复举报而被错判为垃圾电话用户，而影响用户的对通信网络的正常使用。

由此可见，现有技术中，阻止垃圾电话的方法，并不能有效地应用于融合通信中，解决对任何垃圾信息的拦截的问题，并且，现有技术中的方法，对发送垃圾信息用户的分析和评估准确性、可靠性也比较低，降低了业务服务质量。

发明内容

本发明实施例提供一种恶意用户确定及阻止垃圾信息的方法及装置，以解决现有技术中不能有效、可靠地评估恶意用户，进而有效地阻止垃圾信息的问题。

本发明实施例提供的具体技术方案如下：

一种恶意用户确定方法，包括：

分别接收用户终端发送的举报请求，其中，每个举报请求中至少包括：举报用户标识、被举报用户标识、举报原因和举报用户的地域位置；每个举报请求对应一个举报用户；

按照设定周期，分别计算每个举报用户的信用值，并根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别；

根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户。

本发明实施例中，分别接收用户终端发送的举报请求，其中，每个举报请求中至少包括：举报用户标识、被举报用户标识、举报原因和举报用户的地域位置；每个举报请求对应一个举报用户；按照设定周期，分别计算每个举报用户的信用值，并根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别；根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户，这样，综合考虑举报用户的信用值和多方面因素，对被举报用户进行恶意级别评估，可以根据举报用户的信用值，对举报请求进行过滤，减少不可信的举报请求的影响，并且，可以在更短的时间内，将恶意用户找到并作出有效处理，确定出的恶意用户更加准确、可靠。

较佳的，分别计算每个举报用户的信用值，具体包括：

按照设定周期，分别确定每个举报用户被举报的次数；

根据每个举报用户的预设的初始信用值、预设的不可信指数、预设的可信指数和每个举报用户被举报的次数，分别计算每个举报用户的信用值。

较佳的，根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别，具体包括：

分别确定每个被举报用户的被举报次数；

分别根据每个被举报用户对应的举报用户的地域位置，计算每个被举报用户对应的举报用户的地域分布指数；

分别根据每个被举报用户的举报原因，计算每个被举报用户的举报原因分布指数；

分别根据每个被举报用户的被举报次数、地域分布指数、举报原因分布指数和举报用户的信用值，计算每个被举报用户的恶意值；

分别根据每个被举报用户的恶意值和预设的恶意门限值，计算每个被举报用户的恶意级别。

较佳的，根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户，具体包括：

分别判断被举报用户的恶意级别的取值是否大于1，若是，则确定所述被举报用户为恶意用户，否则，确定所述被举报用户为疑似恶意用户。

一种阻止垃圾信息的方法，应用于上述任意一项的恶意用户确定方法，包括：

服务器当接收到用户终端发送的信息发送请求时，根据确定出的恶意用户和疑似恶意用户，判断所述用户终端对应的用户是否为恶意用户或疑似恶意用户；

若确定所述用户为恶意用户，则判定所述信息发送请求中的信息为垃圾信息，阻止所述垃圾信息的发送；

若确定所述用户为疑似恶意用户，则同时转发所述信息发送请求中的信息和所述用户的恶意级别。

本发明实施例中，服务器当接收到用户终端发送的信息发送请求时，根据确定出的恶意用户和疑似恶意用户，判断所述用户终端对应的用户是否为恶意用户或疑似恶意用户；若确定所述用户为恶意用户，则判定所述信息发送请求中的信息为垃圾信息，阻止所述垃圾信息的发送；若确定所述用户为疑似恶意用户，则同时转发所述信息发送请求中的信息和所述用户的恶意级别，这样，根据上述恶意用户确定方法，确定出的恶意用户和疑似恶意用户，判断是否为垃圾信息，进而可以有效地阻止垃圾信息，并且，对于疑似恶意用户，同时也发送其恶意级别，可以给用户提供更多的参考信息，使用户便于判断是否为垃圾信息，适用范围也比较广。

一种恶意用户确定装置，包括：

接收单元，用于分别接收用户终端发送的举报请求，其中，每个举报请求中至少包括：举报用户标识、被举报用户标识、举报原因和举报用户的地域位置；每个举报请求对应一个举报用户；

计算单元，用于按照设定周期，分别计算每个举报用户的信用值，并根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别；

确定单元，用于根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户。

本发明实施例中，分别接收用户终端发送的举报请求，其中，每个举报请求中至少包括：举报用户标识、被举报用户标识、举报原因和举报用户的地域位置；每个举报请求对应一个举报用户；按照设定周期，分别计算每个举报用户的信用值，并根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别；根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户，这样，综合考虑举报用户的信用值和多方面因素，对被举报用户进行恶意级别评估，可以根据举报用户的信用值，对举报请求进行过滤，减少不可信的举报请求的影响，并且，可以在更短的时间内，将恶意用户找到并作出有效处理，确定出的恶意用户更加准确、可靠。

较佳的，分别计算每个举报用户的信用值时，计算单元具体用于：

按照设定周期，分别确定每个举报用户被举报的次数；

根据每个举报用户的预设的初始信用值、预设的不可信指数、预设的可信指数和每个举报用户被举报的次数，分别计算每个举报用户的信用值。

较佳的，根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别时，计算单元具体用于：

分别确定每个被举报用户的被举报次数；

分别根据每个被举报用户对应的举报用户的地域位置，计算每个被举报用户对应的举报用户的地域分布指数；

分别根据每个被举报用户的举报原因，计算每个被举报用户的举报原因分布指数；

分别根据每个被举报用户的被举报次数、地域分布指数、举报原因分布指数和举报用户的信用值，计算每个被举报用户的恶意值；

分别根据每个被举报用户的恶意值和预设的恶意门限值，计算每个被举报用户的恶意级别。

较佳的，根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户时，确定单元具体用于：

分别判断被举报用户的恶意级别的取值是否大于1，若是，则确定所述被举报用户为恶意用户，否则，确定所述被举报用户为疑似恶意用户。

一种阻止垃圾信息的装置，应用于上述任意一项所述的恶意用户确定装置，包括：

判断单元，用于当接收到用户终端发送的信息发送请求时，根据确定出的恶意用户和疑似恶意用户，判断所述用户终端对应的用户是否为恶意用户或疑似恶意用户；

处理单元，用于若确定所述用户为恶意用户，则判定所述信息发送请求中的信息为垃圾信息，阻止所述垃圾信息的发送；或，若确定所述用户为疑似恶意用户，则同时转发所述信息发送请求中的信息和所述用户的恶意级别。

本发明实施例中，服务器当接收到用户终端发送的信息发送请求时，根据确定出的恶意用户和疑似恶意用户，判断所述用户终端对应的用户是否为恶意用户或疑似恶意用户；若确定所述用户为恶意用户，则判定所述信息发送请求中的信息为垃圾信息，阻止所述垃圾信息的发送；若确定所述用户为疑似恶意用户，则同时转发所述信息发送请求中的信息和所述用户的恶意级别，这样，根据上述恶意用户确定方法，确定出的恶意用户和疑似恶意用户，判断是否为垃圾信息，进而可以有效地阻止垃圾信息，并且，对于疑似恶意用户，同时也发送其恶意级别，可以给用户提供更多的参考信息，使用户便于判断是否为垃圾信息，适用范围也比较广。

附图说明

图1为本发明实施例中，恶意用户确定方法流程图；

图2为本发明实施例中，阻止垃圾信息的装置流程图；

图3为本发明实施例中，用户终端发送举报请求方法的流程图；

图4为本发明实施例中，服务器处理举报请求方法的流程图；

图5为本发明实施例中，服务器处理发送端的信息发送请求方法的流程图；

图6为本发明实施例中，恶意用户确定装置结构示意图；

图7为本发明实施例中，阻止垃圾信息的装置结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，并不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

为了解决现有技术中不能有效、可靠地评估恶意用户，进而有效地阻止垃圾信息的问题，本发明实施例中，用户终端向服务器发送垃圾信息的举报请求，服务器对举报请求进行分析处理，分别计算每个举报用户的信用值，并分别计算每个被举报用户的恶意值和恶意级别，确定出恶意用户和疑似恶意用户，将恶意用户发送的信息作为垃圾信息，阻止恶意用户发送的信息。

下面通过具体实施例对本发明方案进行详细描述，当然，本发明并不限于以下实施例。

参阅图1所示，本发明实施例中，恶意用户确定方法的具体流程如下：

步骤100：分别接收用户终端发送的举报请求，其中，每个举报请求中至少包括：举报用户标识、被举报用户标识、举报原因和举报用户的地域位置；每个举报请求对应一个举报用户。

其中，上述用户终端是一种可使用融合通信***提供的全部或部分功能的通信工具，融合通信***的终端可以为用户提供举报功能模块。

具体地：分别接收用户终端通过预设的举报模块发送的举报请求。

也就是说，用户终端接收到信息时，若认为该信息为垃圾信息，可以调用用户终端中预设的举报模板，向服务器发送举报请求，服务器可以接收到多个用户终端发送的举报请求。并且，举报请求中至少包括：举报用户标识、被举报用户标识、举报原因、举报用户的地域位置，当然，举报请求中的信息并不进行限制，也还可以包括其它信息，本发明实施例中并不进行限制，例如举报时间等，以使得服务器对被举报用户判断是否为恶意用户更为准确和有效。

其中，本发明实施例中，垃圾信息，可以为垃圾电话、垃圾短信、垃圾邮件、垃圾资讯等，本发明实施例中，并不进行限制，都可以应用本发明实施例中提供的恶意用户确定方法、阻止垃圾信息的方法。

例如，用户终端A接收到用户终端B的骚扰电话，A认为是垃圾电话，使用举报功能，对B进行举报，向服务器发送举报请求，将B的标识、A的标识、举报原因、A的地域位置、举报时间等信息上报给服务器。

进一步地，执行步骤100后，服务器还可以向用户终端发送举报成功回应消息，表示服务器已成功接收到该用户终端发送的举报请求。

步骤110：按照设定周期，分别计算每个举报用户的信用值，并根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别。

本发明实施例中，步骤110实际是对被举报用户进行评估，恶意级别表示发送垃圾信息的可能性，恶意用户则表示垃圾信息用户，本发明实施例的目的就是为了能准确可靠地确定出恶意用户，进而阻止恶意用户发送的信息。

执行步骤110时，具体包括：

首先，按照设定周期，分别计算每个举报用户的信用值。

具体地：1)按照设定周期，分别确定每个举报用户被举报的次数。

2)根据每个举报用户的预设的初始信用值、预设的不可信指数、预设的可信指数和每个举报用户被举报的次数，分别计算每个举报用户的信用值。

例如，根据举报用户标识，分别确定每个举报用户，例如对于举报用户u的信用值的计算公式为：

其中，T_n-1,u为上次(第n-1次)恶意用户级别评估时举报用户u被举报的次数；

T_n,u为本次(第n次)恶意用户级别评估时举报用户u被举报的次数；

C₀为每个举报用户的初始信用值，为常量，且每个举报用户都相同；

C_n为第n次举报用户信用评估后，举报用户的信用值；

θ为不可信指数，取值范围为0≤θ≤1，当举报用户u是被举报过的用户时，下次计算信用值时乘以θ；

为可信指数，取值范围为

当举报用户u举报的用户被确定为恶意用户时，信用值乘以

m为举报用户u举报的用户被确定为恶意用户的次数。

下面详细介绍下，计算举报用户的信用值的具体步骤：

第一步：为每个举报用户设置初始化信用值C_n＝C₀。

第二步：在本次恶意用户级别评估开始时，进入举报用户信用评估阶段。

第三步：对于举报用户u，其信用值为

第四步：当一个被举报用户被评估为恶意用户时，举报该用户的每个举报用户的信用值更新为

因此，一个举报用户的信用值在每次恶意用户滤除之后的值为

m为举报用户u在这段时间举报的用户被确定为恶意用户的次数。

这样，考虑举报用户的信用值，当信用值较高的用户举报时，可以在较短的时间内锁定恶意用户，并将其标记。而信用值较低的用户提供的数据往往可信度较低，可以将此类无效信息滤除掉，或者使其对分析结果的影响较小。

然后，根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别。

具体地：1)分别确定每个被举报用户的被举报次数。

2)分别根据每个被举报用户对应的举报用户的地域位置，计算每个被举报用户对应的举报用户的地域分布指数。

3)分别根据每个被举报用户的举报原因，计算每个被举报用户的举报原因分布指数。

4)分别根据每个被举报用户的被举报次数、地域分布指数、举报原因分布指数和举报用户的信用值，计算每个被举报用户的恶意值。

5)分别根据每个被举报用户的恶意值和预设的恶意门限值，计算每个被举报用户的恶意级别。

其中，例如，根据被举报用户标识，分别确定每个被举报用户，对于被举报用户p的恶意值计算公式为：

其中，T_n-1,p为上次(第n-1次)恶意用户级别评估时用户p被举报的次数；

T_n,p为本次(第n次)恶意用户级别评估时用户p被举报的次数；

G_n为被举报用户p在第n次恶意用户级别评估中得到的恶意值；

G₀为被举报用户p的恶意门限值，为一常量；

R为被举报用户p对应的举报用户的地域分布指数，地域越广，该值越大；

I为被举报用户p的举报原因分布指数，取值范围为I≥1，举报原因越单一，该值越大；

C_i,n为被举报用户p的第i的举报用户的第n次恶意用户级别评估时计算得到的信用值；

q为被举报用户p对应的举报用户的数目。

下面详细介绍下，计算被举报用户的恶意级别的具体步骤：

第一步：确定被举报用户p的T_n-1,p和T_n,p。

第二步：计算被举报用户p对应的举报用户的地域分布指数R和举报原因I。

第三步：计算被举报用户p的恶意值，计算方式为：

第四步：计算被举报用户p的恶意级别，具体为：计算G_n/G₀的比值，该比值即为被举报用户的恶意级别的取值。

这样，对于恶意用户的级别的评估，需要考虑的因素至少包括被举报次数、举报用户的信用值、举报用户的地域分布范围、举报原因等，提高了对恶意用户判断的准确性，进而提高了对垃圾信息的过滤的有效性。

本发明实施例中，每隔一定时间，服务器可以根据举报请求中的举报时间，对最新的举报请求进行分析处理，更新举报用户的信用值，并计算被举报用户的恶意级别，这样，可以根据举报用户的信用值，对举报请求进行过滤，减少不可信的举报请求的影响，并且，考虑举报用户的信用值和多方面因素，可以在更短的时间内，准确有效得将恶意用户找到并作出有效处理，适用范围也比较广，在评估过程中，通过各个参数的调整，可以使得整个垃圾信息阻止***运行也更加稳定。

步骤120：根据所述每个被举报用户的恶意级别，从所述每个被举报用户中确定出恶意用户和疑似恶意用户。

具体为：分别判断所述每个被举报用户的恶意级别的取值是否不小于1，若是，则确定所述被举报用户为恶意用户，否则，确定所述被举报用户为疑似恶意用户。

也就是说，比较每个被举报用户的G_n/G₀的取值与1的大小，当该比值小于1时，该被举报用户确定为疑似恶意用户，当该比值不小于1时，该被举报用户确定为恶意用户。

进一步地，将疑似恶意用户添加在预设的疑似恶意用户列表中，并记录该疑似恶意用户的该比值的取值；将恶意用户添加在预设的恶意用户列表中；以及，保存恶意用户列表和疑似恶意用户列表。

基于以上实施例，参阅图2所示，本发明实施例中，阻止垃圾信息的方法具体流程如下：

步骤200：服务器当接收到用户终端发送的信息发送请求时，根据确定出的恶意用户和疑似恶意用户，判断所述用户终端对应的用户是否为恶意用户或疑似恶意用户。

步骤210：若确定所述用户为恶意用户，则判定所述信息发送请求中的信息为垃圾信息，阻止所述垃圾信息的发送。

步骤220：若确定所述用户为疑似恶意用户，则同时转发所述信息发送请求中的信息和所述用户的恶意级别。

本发明实施例中，阻止垃圾信息的方法应用于上述恶意用户确定方法，根据恶意用户确定方法，服务器对举报请求进行分析处理，确定出恶意用户和疑似恶意用户，并进行保存，进而当接收到用户终端主动的信息发送请求时，进行判断，确定是否为垃圾信息，达到阻止垃圾信息的目的。

值得说明的是，本发明实施例中，恶意用户表示发送垃圾信息的用户，如果某个用户被标记为恶意用户，则该用户发送的任何信息都会认为是垃圾信息，进而进行屏蔽和过滤，阻止恶意用户的信息的发送。疑似恶意用户表示可能会发送垃圾信息的用户，如果某用户被标记为疑似恶意用户，则该用户发送的信息可能是垃圾信息、也可能不是垃圾信息，服务器仍会转发该信息到接收端，并将该用户的恶意级别也同时转发给接收端，接收端的用户可以获知发送端(即发送信息发送请求的用户终端)的用户的恶意级别，由接收端的用户再进行判断，若接收端的用户认为是垃圾信息，则可以进行举报。

当然，本发明实施例中，恶意用户确定方法，并不仅限于适用于阻止垃圾信息的应用场景，对于任何存在举报处理，对举报人的信用值和被举报人的恶意级别计算的场景都适用。

下面采用几个具体的应用场景对上述实施例作出进一步详细说明。

具体参阅图3所示，为本发明实施例中，用户终端发送举报请求方法的流程图。

步骤300：用户终端接收到信息。

其中，该信息可以为电话、短信、图文、邮件、视频等信息。

步骤301：判断是否调用举报模块，若是，则执行步骤302，否则，则执行步骤304。

步骤302：向服务器发送举报请求。

其中，举报请求中至少包括举报用户标识、被举报用户标识、举报原因、举报用户的地域位置和举报时间等。

步骤303：接收服务器发送的举报成功回应消息。

步骤304：结束。

具体参阅图4所示，为本发明实施例中，服务器处理举报请求方法的流程图。

步骤400：服务器按照设定周期，处理最新的举报请求，分别计算每个举报用户的信用值，并分别计算每个被举报用户的恶意级别。

步骤401：分别判断每个被举报用户是否为恶意用户，若是，则执行步骤402，否则，则执行步骤403。

步骤402：将被举报用户添加到恶意用户列表中。

步骤403：分别判断每个被举报用户是否为疑似恶意用户，若是，则执行步骤404，否则，则执行步骤405。

步骤404：将被举报用户添加到疑似恶意用户列表中。

405：结束。

具体参阅图5所示，为本发明实施例中，服务器处理发送端的信息发送请求方法的流程图。

步骤500：服务器接收到发送端主动发送的信息发送请求。

步骤501：判断该发送端的用户是否记录在恶意用户列表中，若是，则执行步骤502，否则，则执行步骤503。

步骤502：拒绝转发该发送端的信息发送请求。

步骤503：判断该发送端的用户是否记录在疑似恶意用户列表中，若是，则执行步骤504，否则，则执行步骤505。

步骤504：将该发送端的用户的信息发送请求中添加疑似恶意用户的恶意级别。

步骤505：转发该发送端的信息发送请求至接收端。

这时，转发给接收端的信息包括，信息发送请求中的信息和疑似恶意用户的恶意级别。

步骤506：结束。

基于上述实施例，参阅图6所示，本发明实施例中，恶意用户确定装置，具体包括：

接收单元60，用于分别接收用户终端发送的举报请求，其中，每个举报请求中至少包括：举报用户标识、被举报用户标识、举报原因和举报用户的地域位置；每个举报请求对应一个举报用户；

计算单元61，用于按照设定周期，分别计算每个举报用户的信用值，并根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别；

确定单元62，用于根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户。

较佳的，分别计算每个举报用户的信用值时，计算单元61具体用于：

按照设定周期，分别确定每个举报用户被举报的次数；

根据每个举报用户的预设的初始信用值、预设的不可信指数、预设的可信指数和每个举报用户被举报的次数，分别计算每个举报用户的信用值。

较佳的，根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别时，计算单元61具体用于：

分别确定每个被举报用户的被举报次数；

分别根据每个被举报用户对应的举报用户的地域位置，计算每个被举报用户对应的举报用户的地域分布指数；

分别根据每个被举报用户的举报原因，计算每个被举报用户的举报原因分布指数；

分别根据每个被举报用户的被举报次数、地域分布指数、举报原因分布指数和举报用户的信用值，计算每个被举报用户的恶意值；

分别根据每个被举报用户的恶意值和预设的恶意门限值，计算每个被举报用户的恶意级别。

较佳的，根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户时，确定单元62具体用于：

分别判断被举报用户的恶意级别的取值是否大于1，若是，则确定所述被举报用户为恶意用户，否则，确定所述被举报用户为疑似恶意用户。

基于上述实施例，参阅图7所示，本发明实施例中，阻止垃圾信息的装置，应用于上述任意一项所述的恶意用户确定装置，包括：

判断单元70，用于当接收到用户终端发送的信息发送请求时，根据确定出的恶意用户和疑似恶意用户，判断所述用户终端对应的用户是否为恶意用户或疑似恶意用户；

处理单元71，用于若确定所述用户为恶意用户，则判定所述信息发送请求中的信息为垃圾信息，阻止所述垃圾信息的发送；或，若确定所述用户为疑似恶意用户，则同时转发所述信息发送请求中的信息和所述用户的恶意级别。

综上所述，本发明实施例中，分别接收用户终端发送的举报请求，其中，每个举报请求中至少包括：举报用户标识、被举报用户标识、举报原因和举报用户的地域位置；每个举报请求对应一个举报用户；按照设定周期，分别计算每个举报用户的信用值，并根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别；根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户，这样，综合考虑举报用户的信用值和多方面因素，对被举报用户进行恶意级别评估，可以根据举报用户的信用值，对举报请求进行过滤，减少不可信的举报请求的影响，并且，可以在更短的时间内，将恶意用户找到并作出有效处理，确定出的恶意用户更加准确、可靠，进而可以根据确定出的恶意用户和疑似恶意用户，有效地阻止垃圾信息，适用范围也比较广。

本领域内的技术人员应明白，本发明的实施例可提供为方法、***、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本发明的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。

显然，本领域的技术人员可以对本发明实施例进行各种改动和变型而不脱离本发明实施例的精神和范围。这样，倘若本发明实施例的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (6)

1.一种恶意用户确定方法，其特征在于，包括：

分别接收用户终端发送的举报请求，其中，每个举报请求中至少包括：举报用户标识、被举报用户标识、举报原因和举报用户的地域位置；每个举报请求对应一个举报用户；

按照设定周期，分别计算每个举报用户的信用值，并根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别，其中，分别计算每个举报用户的信用值，具体包括：按照设定周期，分别确定每个举报用户被举报的次数；根据每个举报用户的预设的初始信用值、预设的不可信指数、预设的可信指数和每个举报用户被举报的次数，分别计算每个举报用户的信用值，其中，所述恶意级别表示发送垃圾信息的可能性，所述恶意用户表示垃圾信息用户，其中，根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别，具体包括：分别确定每个被举报用户的被举报次数；分别根据每个被举报用户对应的举报用户的地域位置，计算每个被举报用户对应的举报用户的地域分布指数；分别根据每个被举报用户的举报原因，计算每个被举报用户的举报原因分布指数；分别根据每个被举报用户的被举报次数、地域分布指数、举报原因分布指数和举报用户的信用值，计算每个被举报用户的恶意值；分别根据每个被举报用户的恶意值和预设的恶意门限值，计算每个被举报用户的恶意级别；

根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户。

2.如权利要求1所述的方法，其特征在于，根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户，具体包括：

分别判断被举报用户的恶意级别的取值是否大于1，若是，则确定所述被举报用户为恶意用户，否则，确定所述被举报用户为疑似恶意用户。

3.一种阻止垃圾信息的方法，应用于上述权利要求1或2所述的方法，其特征在于，包括：

服务器当接收到用户终端发送的信息发送请求时，根据确定出的恶意用户和疑似恶意用户，判断所述用户终端对应的用户是否为恶意用户或疑似恶意用户；

若确定所述用户为恶意用户，则判定所述信息发送请求中的信息为垃圾信息，阻止所述垃圾信息的发送；

若确定所述用户为疑似恶意用户，则同时转发所述信息发送请求中的信息和所述用户的恶意级别。

4.一种恶意用户确定装置，其特征在于，包括：

接收单元，用于分别接收用户终端发送的举报请求，其中，每个举报请求中至少包括：举报用户标识、被举报用户标识、举报原因和举报用户的地域位置；每个举报请求对应一个举报用户；

计算单元，用于按照设定周期，分别计算每个举报用户的信用值，并根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别，其中，分别计算每个举报用户的信用值时，计算单元具体用于：按照设定周期，分别确定每个举报用户被举报的次数；根据每个举报用户的预设的初始信用值、预设的不可信指数、预设的可信指数和每个举报用户被举报的次数，分别计算每个举报用户的信用值，其中，所述恶意级别表示发送垃圾信息的可能性，所述恶意用户表示垃圾信息用户，其中，根据所述每个举报用户的信用值、举报原因和举报用户地域位置，分别计算对应的被举报用户的恶意级别时，计算单元具体用于：分别确定每个被举报用户的被举报次数；分别根据每个被举报用户对应的举报用户的地域位置，计算每个被举报用户对应的举报用户的地域分布指数；分别根据每个被举报用户的举报原因，计算每个被举报用户的举报原因分布指数；分别根据每个被举报用户的被举报次数、地域分布指数、举报原因分布指数和举报用户的信用值，计算每个被举报用户的恶意值；分别根据每个被举报用户的恶意值和预设的恶意门限值，计算每个被举报用户的恶意级别；

确定单元，用于根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户。

5.如权利要求4所述的装置，其特征在于，根据被举报用户的恶意级别，从被举报用户中确定出恶意用户和疑似恶意用户时，确定单元具体用于：

分别判断被举报用户的恶意级别的取值是否大于1，若是，则确定所述被举报用户为恶意用户，否则，确定所述被举报用户为疑似恶意用户。

6.一种阻止垃圾信息的装置，应用于上述权利要求4或5所述的装置，其特征在于，包括：

判断单元，用于当接收到用户终端发送的信息发送请求时，根据确定出的恶意用户和疑似恶意用户，判断所述用户终端对应的用户是否为恶意用户或疑似恶意用户；

处理单元，用于若确定所述用户为恶意用户，则判定所述信息发送请求中的信息为垃圾信息，阻止所述垃圾信息的发送；或，若确定所述用户为疑似恶意用户，则同时转发所述信息发送请求中的信息和所述用户的恶意级别。

Images