CN105323144A - 即时通讯中消息异常提示方法和*** - Google Patents

Abstract

一种即时通讯中消息异常提示方法，包括：根据***异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，获取疑似异常帐号；根据所述疑似异常帐号的异常类型获取第一异常提示信息；将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示。本发明还提供一种即时通讯中消息异常提示***。本发明方案通过异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，确定出疑似异常帐号，并获得第一异常提示信息。在将疑似异常帐号发送的消息内容发送至目的客户端时，向目的客户端提示第一异常提示信息，从而实现根据不同异常类型提示目的客户端，针对性较强，避免了单纯关键字匹配导致的误提示。

Description

即时通讯中消息异常提示方法和***

技术领域

本发明涉及互联网通信技术，特别是涉及一种即时通讯中消息异常提示方法和***。

背景技术

随着互联网的发展，即时通讯也得到了迅速的发展。即时通讯(InstantMessenger，简称IM)，是一种基于互联网的即时交流消息的业务。即时通讯不仅可以实现两个人的及时交流，为了实现多人之间的及时交流，即时通讯推出了多人聊天交流服务，例如群，群主在创建群以后，可以邀请朋友或者有共同兴趣爱好的人到一个群里面聊天。在群内除了聊天，还可以共享图片、视频、网址等。

用户通过即时通讯进行交流时，有些用户帐号被盗取或中病毒时，该用户帐号发生异常。这些异常用户发送一些恶意消息，会给其他用户带来错误诱导，造成隐私、财产等方面的损失。

为了提示其他用户，目前采用的技术手段，主要是将对话框中接收到的消息内容与预存的关键词进行匹配，匹配时触发相应的提示信息，在用户消息内容后显示该提示信息，从而实现对用户的提示。然而，采用关键字匹配会出现场景的误判，用户正常的交流行为也可能触发提示信息，从而导致误提示。

发明内容

基于此，有必要针对利用即时通讯交流过程中误提示的问题，提供一种即时通讯中消息异常提示方法和***。

一种即时通讯中消息异常提示方法，包括：

根据***异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，获取疑似异常帐号；

根据所述疑似异常帐号的异常类型获取第一异常提示信息；

将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示。

一种即时通讯中消息异常提示***，包括：

疑似异常帐号获取模块，用于根据***异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，获取疑似异常帐号；

第一异常提示信息获取模块，用于根据所述疑似异常帐号的异常类型获取第一异常提示信息；

第一提示模块，用于将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示。

上述即时通讯中消息异常提示方法和***，通过异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，从而可以确定出疑似异常帐号，进一步根据疑似异常帐号的异常类型获得第一异常提示信息。在将疑似异常帐号发送的消息内容发送至目的客户端时，向目的客户端提示第一异常提示信息，从而实现根据不同异常类型提示目的客户端，针对性较强，避免了单纯关键字匹配导致的误提示，进而提高了目的客户端用户的安全性，同时提高用户体验。

附图说明

图1为本发明即时通讯中消息异常提示方法实施例的流程示意图；

图2为本发明即时通讯中消息异常提示方法应用实例的流程示意图；

图3为本发明应用实例的对话框示意图；

图4为本发明即时通讯中消息异常提示***实施例的结构示意图；

图5为基于本发明方案提供的终端的部分结构框图。

具体实施方式

为使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步的详细说明。应当理解，此处所描述的具体实施方式仅仅用以解释本发明，并不限定本发明的保护范围。

如图1所示，为本发明即时通讯中消息异常提示方法实施例的流程示意图，包括步骤：

步骤S101：根据***异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，获取疑似异常帐号；

上述步骤限定了检测用户帐号的条件，可以是在用户帐号登录即时通讯客户端的时候进行异常检测。也可以是在用户帐号登录即时通讯客户端后，进行第一次发送消息内容的时候进行异常检测。其中，疑似异常帐号可以是疑似异常的用户帐号。这里提及的***异常检测流程可以是预先设定的检测流程。具体检测流程有很多种，可以根据不同的场景进行设定。本方案举其中两种进行说明。

在其中一个实施例中，可以通过历史登录信息对用户帐号进行检测，步骤S101具体可以包括：

获取登录即时通讯的客户端的用户帐号对应的历史登录信息；

根据所述用户帐号对应的历史登录信息检测用户帐号当前登录行为是否为异常登录行为；

若是，则将异常登录行为的用户帐号确定为疑似异常帐号，其中，所述异常类型为登录异常类型。

该实施例是通过历史登录信息来对当前登录行为进行检测，即该应用场景为异常登录场景。历史登录信息可以包括历史登录位置信息、历史登录时间、历史登录频率、历史登录密码输入错误次数、历史登录设备的设备信息。

比如，可以计算最近一段时间内该用户帐号登录位置，标记为常用登录位置信息。获取用户帐号当前登录位置信息，判断当前登录位置信息是否为常用登录位置信息，若否，则认为当前登录行为为异常登录行为，该用户帐号为疑似异常帐号。

又如，可以获取该用户帐号历史登录时间，计算获得该用户帐号登录时间范围。获取用户帐号当前登录时间，判断当前登录时间是否在计算得到的登录时间范围内，若否，则认为当前登录行为可能为异常登录行为，该用户帐号为疑似异常帐号。举例，某用户习惯登录时间是白天，结果当前登录时间为凌晨三点，则此次登录会被认为是异常登录行为。

又如，可以同时判断当前登录的登录信息是否满足历史登录位置信息、是否在历史登录时间范围内、是否满足历史登录频率、是否小于历史登录密码输入错误次数中的至少两种情况，当同时满足时，可以认为是正常的登录行为，否则为异常登录行为。

在另一个实施例中，还可以通过用户发送历史消息的时间来判断用户帐号是否发生异常。步骤S101具体可以包括：

获取登录即时通讯的客户端的用户帐号向其他目的客户端群发消息的历史时间；

计算各历史时间之间的时间差以及历史时间与当前发送时间的时间差，若存在时间差小于设定阈值，则将该用户帐号确定为疑似异常帐号，其中，所述异常类型为群发异常消息类型。

本实施例的应用场景是群发异常消息。当用户帐号发生异常时，该用户帐号往往不止向一个目的客户端发送消息，而是向不同目的客户端发消息内容。其中，这里提及的目的客户端是指目的用户帐号所登录的客户端，即接收消息内容的客户端。这里提及的群发可以是分别向不同用户帐号所在客户端发送了消息内容，由于正常发送消息间隔时间大于设定阈值(比如3s)，而异常发送时往往小于设定阈值，此时可以理解为是群发异常内容。不仅需要计算历史时间之间的时间差，还需要计算当前发送时间与历史时间的时间差，然后判断各个时间差与设定阈值的大小，从而确定出是否疑似异常。比如，当用户帐号中病毒时，往往会无故向不同好友发送垃圾消息或木马网址。

另外，还可以先统计在一定时间段内，该用户帐号是否曾向不同目的用户帐号发送了消息，且目的用户帐号个数超过第二阈值，再判断当前发送消息内容是否和历史发送消息内容相同，如果是，则判断该用户帐号为疑似异常帐号。

步骤S102：根据所述疑似异常帐号的异常类型获取第一异常提示信息；

这里的异常类型是根据用户帐号的异常场景决定的，如上述实施例中提及的登录异常类型、群发异常消息类型等。其中，可以事先存储与异常类型一一对应的第一异常提示信息，因此可以根据异常类型获得第一异常提示信息。比如，当异常类型为登录异常类型时，第一异常提示信息可以设置为“安全提示：对方目前为异常登录，请提高警惕”。

第一异常提示信息的表现形式可以有很多种，可以是上述例子中提及的文字信息，也可以是图片信息、语音信息或视频信息等。

步骤S103：将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示。

这里提及的目的客户端可以是目的用户帐号所登录的客户端，疑似异常帐号发送的消息内容可以是疑似异常帐号所在客户端发送的消息内容。本步骤目的是为了在将消息内容发送给目的客户端时提示该目的客户端。目的客户端进行提示的方式，可以是显示提示、语音提示或视频提示。为了和消息内容区分，显示提示又可以是高亮显示或突出显示。比如，用某种设定的颜色突出显示第一异常提示信息。作为提示信息的显示位置，也可以根据实际场景进行设置。比如，可以直接在目的客户端的对话框的消息内容下进行提示。例如提示方式为显示时，将第一异常提示信息作为消息尾巴显示在消息内容后。也可以单独生成一个弹出窗口提示该第一异常提示信息。其中，消息尾巴可以是即时通讯聊天过程中，和用户消息内容一起出现的***提醒，区别于用户发送的消息内容。

本发明方案通过异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，从而可以确定出疑似异常帐号，进一步根据疑似异常帐号的异常类型获得第一异常提示信息。在将疑似异常帐号发送的消息内容发送至目的客户端时，向目的客户端提示第一异常提示信息，从而实现根据不同异常类型提示目的客户端，针对性较强，避免了单纯关键字匹配导致的误提示，进而提高了目的客户端用户的安全性，同时提高用户体验。

为了更进一步提高提示的可靠性，在其中一个实施例中，还对疑似异常帐号发送的消息内容进行关键字匹配，从而判断是否异常。即本发明方案还包括：

对所述疑似异常帐号发送的消息内容进行关键字匹配，获取第二异常提示信息；

将所述第二异常提示信息发送至目的客户端进行提示。

在本实施例中，可以预存一些关键字，每个关键字或多个关键字对应一条第二异常提示信息。在检测到异常用户发送消息内容时，将消息内容与关键字进行匹配，根据匹配的关键字查找相应的第二异常提示信息，然后将第二提示信息发送到目的客户端进行提示。目的客户端进行提示的方式，可以是显示提示、语音提示或视频提示。为了和消息内容区分，显示提示又可以是高亮显示或突出显示。比如，用某种设定的颜色突出显示第二异常提示信息。对于提示信息的显示位置，可以根据实际场景进行设置。比如，可以直接在目的客户端的对话框的消息内容下进行提示。也可以单独生成一个弹出窗口提示该第二异常提示信息。

另外，当疑似异常帐号发送的消息内容与关键字不匹配时，则可以向目的客户端只发送第一异常提示信息进行提示。

在其中一个实施例中，当疑似异常帐号发送的消息内容匹配关键字时，则同时存在第一异常提示信息和第二异常提示信息。第一异常提示信息和第二异常提示信息可以是分成两条信息进行提示。两条信息提示的方式以及提示的位置可以以不同的形式。所述第一异常提示信息和所述第二异常提示信息可以是文字信息、图片信息、语音信息、视频信息。其中，第一异常提示信息与异常类型有关，第二异常提示信息与关键字有关。

在另一个实施例中，为了提高用户查看效率，当疑似异常帐号发送的消息内容匹配关键字时，也可以将第一异常提示信息和第二异常提示信息合在一块生成一条强提示类信息进行提示。所述第一异常提示信息和所述第二异常提示信息可以是文字信息、图片信息、语音信息或视频信息。其中，第一异常提示信息与异常类型有关，第二异常提示信息与关键字有关。即当疑似异常帐号发送的消息内容与关键字不匹配时，则根据第一异常提示信息生成弱提示类信息进行提示，当疑似异常帐号发送的消息内容匹配关键字时，将第一异常提示信息和第二异常提示信息合并生成一条强提示类信息进行提示。

在其中一个实施例中，还对一些肯定是异常的用户帐号进行打击，以便提高用户的安全性。因此，本发明还包括：

根据设定的异常判断策略判断疑似异常帐号为异常帐号时，将该异常帐号冻结，其中，所述设定的异常判断策略记录着多种冻结帐号的情况，每种情况记录着对应的判定条件。

本实施例是为了在明确帐号异常的情况下对异常帐号进行打击。可以预先设定异常判断策略。比如符合预设的关键字，以及该关键字出现次数超过设定阈值次数，且该疑似异常帐号的异常类型也符合设定的异常类型，则可以肯定该用户帐号为异常帐号，然后进行针对性的打击。或者，接收到用户的举报信息，对举报内容核实成功后，则认为疑似异常帐号为确定的异常帐号。比如，核实用户是否在即时通讯客户端上传了非法图片、文字等行为。还可以在当前疑似异常的基础上，根据一些行为特征判断是否为异常帐号。

另外，还可以对该用户进行提示，即还包括：将冻结用户帐号的提示信息发送至所述异常帐号登录的客户端上进行提示。

在进行异常提示的时候，为了提高用户体验，方便用户查看，可以设置一定的频率控制策略，按照一定策略来提示用户，避免每次发送新的消息内容时都提示用户，给其他用户带来困扰。比如：

在其中一个实施例中，所述将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示之后，还包括：

检测疑似异常帐号发送消息内容的次数，超过设定次数后，停止发送所述第一异常提示信息。

本实施例是根据发送消息内容的频次来决定是否发送第一异常提示信息。先持续发送异常提示信息，在达到设定频次时停止发送。这里提及的疑似异常帐号发送消息内容可以是广义上的消息内容，即包括了疑似异常帐号后续发送的可能不同内容的消息内容。举例说明，检测用户帐号为疑似异常帐号时，则会产生第一异常提示信息，并将第一异常提示信息发送至目的客户端进行提示。在疑似异常帐号发送不同消息内容时，仍可以持续将第一异常提示信息进行提示。在检测到疑似异常帐号发送消息内容的次数大于设定次数后，可以认为目的客户端的用户已经知道疑似异常帐号的情况了，因此可以停止发送第一异常提示信息。

当然，本实施例是自动停止发送第一异常提示信息。也可以弹出一个提示框询问是否停止第一异常提示信息的提示，根据用户指令决定是否停止发送第一异常提示信息，从而实现手动停止。

在另一个实施例中，可以根据设定时间来决定是否提示第一异常提示信息。比如，在检测到用户帐号为疑似异常帐号时，可以设定一个间隔时间段，每过一个时间段将第一异常提示信息发送至目的客户端进行提示。也可以是设定固定时间，每到达这个固定时间时，则将第一异常提示信息发送至目的客户端进行提示。具体的，所述将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示步骤包括：

将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端，并将所述第一异常提示信息提示在第一次发送的消息内容后；

疑似异常帐号发送第一次消息内容后，获取疑似异常帐号发送消息内容的时间，当所述时间为设定时间时，将所述第一异常提示信息发送至目的客户端，并将所述第一异常提示信息提示在该次发送的消息内容后。

本实施例则不是持续发送异常提示信息，而是要达到设定时间时才发送异常提示信息。

同理可知，针对第二异常提示信息的发送也适用上述提及的方式。即：

在其中一个实施例中，将所述第二异常提示信息发送至目的客户端进行提示之后，还包括：检测疑似异常帐号发送消息内容的次数，超过设定次数后，停止发送所述第二异常提示信息。

在另一个实施例中，将所述第二异常提示信息发送至目的客户端进行提示包括：将所述第二异常提示信息发送至目的客户端，并将所述第二异常提示信息提示在第一次发送的消息内容后；

疑似异常帐号发送第一次消息内容后，获取疑似异常帐号发送消息内容的时间，当所述时间为设定时间时，将所述第二异常提示信息发送至目的客户端，并将所述第二异常提示信息提示在该次发送的消息内容后。

以上实施方式中的各种技术特征可以任意进行组合，只要特征之间的组合不存在冲突或矛盾，但是限于篇幅，未进行一一描述，因此上述实施方式中的各种技术特征的任意进行组合也属于本说明书公开的范围。

本方案举其中一个应用实例进行说明，如图2所示，为本发明即时通讯中消息异常提示方法其中一个应用实例的流程示意图，包括：

步骤S201：判断会话是否结束，若否，进入步骤S202，若是，则结束。

步骤S202：检测用户帐号是否疑似异常，若否，返回步骤S201，若是，进入步骤S203；具体检测方式可以采用上文描述方式。

步骤S203：判断疑似异常的用户帐号发送的消息内容是否与预存关键字匹配，若否，则进入步骤S204，若是，则进入步骤S205；

步骤S204：根据疑似异常的用户帐号的异常类型，获取第一异常提示信息，根据第一异常提示信息生成弱提示类信息，将弱提示类信息发送至目的客户端，并用灰色进行突出显示，并返回步骤S201；

步骤S205：根据疑似异常的用户帐号的异常类型和匹配的关键字，获取第二异常提示信息，根据第一异常提示信息和第二异常提示信息合并生成强提示类信息(即强提示类信息包括第一异常提示信息和第二异常提示信息)，将强提示类信息发送至目的客户端，并用红色进行突出显示，并返回步骤S201。

如图3所示，为本发明应用实例的对话框示意图。当检测到用户A为疑似异常用户时，检测到用户A发送的第一条消息内容“hi”中不匹配预存关键字，根据第一异常提示信息“对方当前不在常用地区登录”生成弱提示类信息(比如弱消息尾巴)“安全提示：对方当前不在常用地区登录，请注意警惕，勿轻信汇款、中过奖等信息”进行提示。当检测到用户A发送的第二条消息内容“你能借我钱么”中与预存关键字“借”和“钱”匹配时，根据第一异常提示信息“对方当前不在常用地区登录”和第二异常提示信息“如果有涉及财产的操作，请一定要先核实好友身份”合并生成强提示类信息(比如强消息尾巴)“安全警示：对方当前不在常用地登录，如果有涉及财产的操作，请一定要先核实好友身份。如有异常，请立即举报”，并将强提示类信息进行提示。

基于上述即时通讯中消息异常提示方法，本发明还提供了一种即时通讯中消息异常提示***，如图4所示，为本发明即时通讯中消息异常提示***实施例的结构示意图，包括疑似异常帐号获取模块410、第一异常提示信息获取模块420和第一提示模块430。

疑似异常帐号获取模块410，用于根据***异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，获取疑似异常帐号；

疑似异常帐号获取模块410限定了检测用户帐号的条件，可以是在用户帐号登录即时通讯客户端的时候进行异常检测。也可以是在用户帐号登录即时通讯客户端后，进行第一次发送消息内容的时候进行异常检测。这里提及的***异常检测流程可以是预先设定的检测流程。具体检测流程有很多种，可以根据不同的场景进行设定。本方案举其中两种进行说明。

在其中一个实施例中，可以通过历史登录信息对用户帐号进行检测，

所述疑似异常帐号获取模块，包括：

历史登录信息获取模块，用于获取登录即时通讯的客户端的用户帐号对应的历史登录信息；

异常登录行为检测模块，用于根据所述用户帐号对应的历史登录信息检测用户帐号当前登录行为是否为异常登录行为；

第一疑似异常帐号确定模块，用于将异常登录行为的用户帐号确定为疑似异常帐号，其中，所述异常类型为登录异常类型。

该实施例是通过历史登录信息来对当前登录行为进行检测，即该应用场景为异常登录场景。历史登录信息可以包括历史登录位置信息、历史登录时间、历史登录频率、历史登录密码输入错误次数、历史登录设备的设备信息。

比如，历史登录信息获取模块可以计算最近一段时间内该用户帐号登录位置，标记为常用登录位置信息。异常登录行为检测模块获取用户帐号当前登录位置信息，判断当前登录位置信息是否为常用登录位置信息，若否，则第一疑似异常帐号确定模块认为当前登录行为为异常登录行为，该用户帐号为疑似异常帐号。

又如，历史登录信息获取模块可以获取该用户帐号历史登录时间，计算获得该用户帐号登录时间范围。异常登录行为检测模块获取用户帐号当前登录时间，判断当前登录时间是否在计算得到的登录时间范围内，若否，则第一疑似异常帐号确定模块认为当前登录行为可能为异常登录行为，该用户帐号为疑似异常帐号。举例，某用户习惯登录时间是白天，结果当前登录时间为凌晨三点，则此次登录会被认为是异常登录行为。

又如，异常登录行为检测模块可以同时判断当前登录的登录信息是否满足历史登录位置信息、是否在历史登录时间范围内、是否满足历史登录频率、是否小于历史登录密码输入错误次数中的至少两种情况，当同时满足时，可以认为是正常的登录行为，否则为异常登录行为。

在另一个实施例中，还可以通过用户发送的历史消息的时间来判断用户帐号是否发生异常。所述疑似异常帐号获取模块，包括：

历史时间获取模块，用于获取登录即时通讯的客户端的用户帐号向其他目的客户端群发消息的历史时间；

第二疑似异常帐号确定模块，用于计算各历史时间之间的时间差以及历史时间与当前发送时间的时间差，若存在时间差小于设定阈值，则将该用户帐号确定为疑似异常帐号，其中，所述异常类型为群发异常消息类型。

本实施例的应用场景是群发异常消息。当用户帐号发生异常时，该用户帐号往往不止向一个目的客户端发送消息，而是向不同目的客户端发消息内容。其中，这里提及的目的客户端是指目的用户帐号所登录的客户端，即接收消息内容的客户端。这里提及的群发可以是分别向不同用户帐号所在客户端发送了消息内容，由于正常发送消息间隔时间大于设定阈值(比如3s)，而异常发送时往往小于设定阈值，此时可以理解为是群发异常内容。不仅需要计算历史时间之间的时间差，还需要计算当前发送时间与历史时间的时间差，然后判断时间差与设定阈值的大小，从而确定出是否疑似异常。比如，当用户帐号中病毒时，往往会无故向不同好友发送垃圾消息或木马网址。

另外，还可以包括第三疑似异常帐号确定模块，用于先统计在一定时间段内，该用户帐号是否曾向不同目的用户帐号发送了消息，且目的用户帐号个数超过第二阈值，再判断当前发送消息内容是否和历史发送消息内容相同，如果是，则判断该用户帐号为疑似异常帐号。

第一异常提示信息获取模块420，用于根据所述疑似异常帐号的异常类型获取第一异常提示信息；

这里的异常类型是根据用户帐号的异常场景决定的，如上述实施例中提及的登录异常类型、群发异常消息类型等。其中，第一异常提示信息获取模块420可以事先存储与异常类型一一对应的第一异常提示信息，因此可以根据异常类型获得第一异常提示信息。

第一异常提示信息的表现形式可以有很多种，可以是文字信息，也可以是图片信息、语音信息或视频信息等。

第一提示模块430，用于将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示。

这里提及的目的客户端可以是目的用户帐号所登录的客户端，疑似异常帐号发送的消息内容可以是疑似异常帐号所在客户端发送的消息内容。第一提示模块430是为了在将消息内容发送给目的客户端时提示该目的客户端。目的客户端进行提示的方式，可以是显示提示、语音提示或视频提示。为了和消息内容区分，显示提示又可以是高亮显示或突出显示。比如，用某种设定的颜色突出显示第一异常提示信息。作为提示信息的显示位置，可以根据实际场景进行设置。比如，可以直接在目的客户端的对话框的消息内容下进行提示。例如提示方式为显示时，将第一异常提示信息作为消息尾巴显示在消息内容后。也可以单独生成一个弹出窗口提示该第一异常提示信息。

本发明方案疑似异常帐号获取模块410通过异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，从而可以确定出疑似异常帐号，进一步第一异常提示信息获取模块420根据疑似异常帐号的异常类型获得第一异常提示信息。第一提示模块430在将疑似异常帐号发送的消息内容发送至目的客户端时，向目的客户端提示第一异常提示信息，从而实现根据不同异常类型提示目的客户端，针对性较强，避免了单纯关键字匹配导致的误提示，进而提高了目的客户端用户的安全性，同时提高用户体验。

为了更进一步提高提示的可靠性，在其中一个实施例中，还对疑似异常帐号发送的消息内容进行关键字匹配，从而判断是否异常。即本发明方案还包括：

第二异常提示信息获取模块，用于对所述疑似异常帐号发送的消息内容进行关键字匹配，获取第二异常提示信息；

第二提示模块，用于将所述第二异常提示信息发送至目的客户端进行提示。

在本实施例中，可以预存一些关键字，每个关键字或多个关键字对应一条第二异常提示信息。在检测到疑似异常发送消息内容时，将消息内容与关键字进行匹配，根据匹配的关键字查找相应的第二异常提示信息，然后将第二提示信息发送到目的客户端进行提示。目的客户端进行提示的方式，可以是显示提示、语音提示或视频提示。为了和消息内容区分，显示提示又可以是高亮显示或突出显示。比如，用某种设定的颜色突出显示第二异常提示信息。对于提示信息的显示位置，可以根据实际场景进行设置。比如，可以直接在目的客户端的对话框的消息内容下进行提示。也可以单独生成一个弹出窗口提示该第二异常提示信息。

当同时存在第一异常提示信息和第二异常提示信息时，所述第一异常提示信息和所述第二异常提示信息可以是文字信息、图片信息、语音信息、视频信息。

另外，当疑似异常帐号发送的消息内容与关键字不匹配时，第二提示模块不发送提示信息，第一提示模块向目的客户端发送第一异常提示信息进行提示。

在其中一个实施例中，还对一些肯定是异常的用户帐号进行打击，以便提高用户的安全性。因此，本发明还包括：

用户帐号冻结模块，用于根据设定的异常判断策略判断疑似异常帐号为异常帐号时，将该异常帐号冻结，其中，所述设定的异常判断策略记录着多种冻结帐号的情况，每种情况记录着对应的判定条件。

本实施例是为了用户帐号冻结模块在明确帐号异常的情况下对异常帐号进行打击。可以预先设定异常判断策略。比如符合预设的关键字，以及该关键字出现次数超过设定阈值次数，且该疑似异常帐号的异常类型也符合设定的异常类型，则可以肯定该用户帐号为异常帐号。然后进行针对性的打击。

另外，还可以对该用户进行提示，即还包括第三提示模块，用于将冻结用户帐号的提示信息发送至所述异常帐号登录的客户端上进行提示。

在进行异常提示的时候，为了提高用户体验，方便用户查看，可以设置一定的频率控制策略，按照一定策略来提示用户，避免每次发送新的消息内容时都提示用户，给其他用户带来困扰。比如：

在其中一个实施例中，还包括：

控制发送模块，用于检测疑似异常帐号发送消息内容的次数，超过设定次数后，停止发送所述第一异常提示信息。

在另一个实施例中，可以根据设定时间来决定是否提示第一异常提示信息。即所述第一提示模块包括：

发送模块，用于将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端；

第一子提示模块，用于将所述第一异常提示信息提示在第一次发送的消息内容后；

第二子提示模块，用于当疑似异常帐号发送第一次消息内容后，获取疑似异常帐号发送消息内容的时间，当所述时间为设定时间时，将所述第一异常提示信息发送至目的客户端，并将所述第一异常提示信息提示在该次发送的消息内容后。

以上实施方式中的各种技术特征可以任意进行组合，只要特征之间的组合不存在冲突或矛盾，但是限于篇幅，未进行一一描述，因此上述实施方式中的各种技术特征的任意进行组合也属于本说明书公开的范围。

本领域普通技术人员可以理解的是，实现上述本发明实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-OnlyMemory，ROM)或随机存储记忆体(RandomAccessMemory，RAM)等。因此，根据上述本发明实施例方案，本发明还提供一种包含计算机可读程序的存储介质，当该存储介质中的计算机可读程序执行时，可以实现上述任何一种方式中的本发明的即时通讯中消息异常提示方法。

如上所述的本发明实施例的方法，可以以软件的形式安装于相应的机器设备上，并在该软件运行时通过控制相关的处理设备来完成上述的即时通讯中消息异常提示方法的过程。相应地，上述即时通讯中消息异常提示***可以是设置安装在相应的终端设备上，也可以是相应的终端设备本身，这里的终端设备可以是手机、平板电脑、PDA(PersonalDigitalAssistant，个人数字助理)、车载电脑等任意终端设备。

据此，基于上述本发明的方案，本发明还提供一种终端设备，该终端设备可以是手机、平板电脑、PDA(PersonalDigitalAssistant，个人数字助理)、车载电脑等任意一种终端设备。

据此，以下以其中一种终端设备为例，图5中示出了该终端设备的部分结构框图。参考图5，该终端设备包括：存储器510、输入单元520、显示单元530、处理器540、通信模块550等部件。本领域技术人员可以理解，图5中示出的结构，仅仅是与本发明实施例方案相关的部分结构的框图，并不构成对应用在本发明方案中的终端设备的限定，具体的终端设备可以包括比图示中更多或更少的部件，或者组合某些部件，或者不同的部件布置。

下面结合图5对该终端设备的各个构成部件进行具体的介绍。

存储器510可用于存储软件程序以及模块，处理器540通过运行存储在存储器510的软件程序以及模块，从而执行与该终端设备相关的各种功能应用以及数据处理。存储器510可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据终端设备的使用所创建的数据等。此外，存储器510可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

输入单元520可用于接收输入的数字、字符或者其他信息，以及产生与终端设备的用户设置以及功能控制有关的键信号输入。具体在本发明实施例的方案中，可以通过该输入单元520来获取疑似异常帐号、疑似异常帐号发送的消息内容等。

具体地，以终端设备为计算机为例，该输入单元520可包括触控面板以及其他输入设备。触控面板，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板上或在触控面板附近的操作)，并根据预先设定的程式驱动相应的连接装置。可选的，触控面板可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器540，并能接收处理器540发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板。除了触控面板，输入单元520还可以包括其他输入设备。具体地，其他输入设备可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。

显示单元530可用于显示由用户输入的信息或提供给用户的信息以及各种菜单。显示单元530可包括显示面板，可选的，可以采用液晶显示器(LiquidCrystalDisplay，LCD)、有机发光二极管(OrganicLight-EmittingDiode,OLED)等形式来配置显示面板。

终端设备通过通信模块550可以实现与服务器之间的通信，该通信模块550可以采用任何可能的方式实现，例如WiFi模块、蓝牙通信、光纤通信等等，通过通信模块550实现了终端设备与其他设备之间的通信，从而可以使得终端设备能够向其他设备发送相关信息，并接收由其他设备返回的相关信息。

处理器540是终端设备的控制中心，利用各种接口和线路连接整个终端设备的各个部分，通过运行或执行存储在存储器510内的软件程序和/或模块，以及调用存储在存储器510内的数据，执行终端设备的各种功能和数据处理，从而对终端设备进行整体监控。可选的，处理器540可包括一个或多个处理单元。

以上所述实施例仅表达了本发明的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对本发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应以所附权利要求为准。

Claims (22)

1.一种即时通讯中消息异常提示方法，其特征在于，包括：

根据***异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，获取疑似异常帐号；

根据所述疑似异常帐号的异常类型获取第一异常提示信息；

将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示。

2.根据权利要求1所述的即时通讯中消息异常提示方法，其特征在于，还包括：

对所述疑似异常帐号发送的消息内容进行关键字匹配，获取第二异常提示信息；

将所述第二异常提示信息发送至目的客户端进行提示。

3.根据权利要求2所述的即时通讯中消息异常提示方法，其特征在于，还包括：

根据设定的异常判断策略判断疑似异常帐号为异常帐号时，将该异常帐号冻结，其中，所述设定的异常判断策略记录着多种冻结帐号的情况，每种情况记录着对应的判定条件。

4.根据权利要求3所述的即时通讯中消息异常提示方法，其特征在于，还包括：将冻结用户帐号的提示信息发送至所述异常帐号登录的客户端上进行提示。

5.根据权利要求1所述的即时通讯中消息异常提示方法，其特征在于，所述将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示之后，还包括：

检测疑似异常帐号发送消息内容的次数，超过设定次数后，停止发送所述第一异常提示信息。

6.根据权利要求1所述的即时通讯中消息异常提示方法，其特征在于，

所述将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示步骤包括：

将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端，并将所述第一异常提示信息提示在第一次发送的消息内容后；

疑似异常帐号发送第一次消息内容后，获取疑似异常帐号发送消息内容的时间，当所述时间为设定时间时，将所述第一异常提示信息发送至目的客户端，并将所述第一异常提示信息提示在该次发送的消息内容后。

7.根据权利要求1至6任意一项所述的即时通讯中消息异常提示方法，其特征在于，所述根据***异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，获取疑似异常帐号步骤，包括：

获取登录即时通讯的客户端的用户帐号对应的历史登录信息；

根据所述用户帐号对应的历史登录信息检测用户帐号当前登录行为是否为异常登录行为；

若是，则将异常登录行为的用户帐号确定为疑似异常帐号，其中，所述异常类型为登录异常类型。

8.根据权利要求7所述的即时通讯中消息异常提示方法，其特征在于，所述历史登录信息包括历史登录位置信息、历史登录时间、历史登录频率、历史登录密码输入错误次数、历史登录设备的设备信息。

9.根据权利要求1至6任意一项所述的即时通讯中消息异常提示方法，其特征在于，所述根据***异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，获取疑似异常帐号步骤，包括：

获取登录即时通讯的客户端的用户帐号向其他目的客户端群发消息的历史时间；

计算各历史时间之间的时间差以及历史时间与当前发送时间的时间差，若存在时间差小于设定阈值，则将该用户帐号确定为疑似异常帐号，其中，所述异常类型为群发异常消息类型。

10.根据权利要求1至6任意一项所述的即时通讯中消息异常提示方法，其特征在于，所述第一异常提示信息包括文字信息、图片信息、语音信息、视频信息；

或

所述第一异常提示信息和所述第二异常提示信息包括文字信息、图片信息、语音信息、视频信息。

11.根据权利要求1至6任意一项所述的即时通讯中消息异常提示方法，其特征在于，所述目的客户端进行提示的方式包括高亮显示、突出显示、语音提示或视频提示。

12.一种即时通讯中消息异常提示***，其特征在于，包括：

疑似异常帐号获取模块，用于根据***异常检测流程对登录即时通讯的客户端的用户帐号进行异常检测，获取疑似异常帐号；

第一异常提示信息获取模块，用于根据所述疑似异常帐号的异常类型获取第一异常提示信息；

第一提示模块，用于将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端进行提示。

13.根据权利要求12所述的即时通讯中消息异常提示***，其特征在于，还包括：

第二异常提示信息获取模块，用于对所述疑似异常帐号发送的消息内容进行关键字匹配，获取第二异常提示信息；

第二提示模块，用于将所述第二异常提示信息发送至目的客户端进行提示。

14.根据权利要求13所述的即时通讯中消息异常提示***，其特征在于，还包括：

用户帐号冻结模块，用于根据设定的异常判断策略判断疑似异常帐号为异常帐号时，将该异常帐号冻结，其中，所述设定的异常判断策略记录着多种冻结帐号的情况，每种情况记录着对应的判定条件。

15.根据权利要求14所述的即时通讯中消息异常提示***，其特征在于，还包括第三提示模块，用于将冻结用户帐号的提示信息发送至所述异常帐号登录的客户端上进行提示。

16.根据权利要求12所述的即时通讯中消息异常提示***，其特征在于，还包括：

控制发送模块，用于检测疑似异常帐号发送消息内容的次数，超过设定次数后，停止发送所述第一异常提示信息。

17.根据权利要求12所述的即时通讯中消息异常提示***，其特征在于，

所述第一提示模块包括：

发送模块，用于将所述疑似异常帐号发送的消息内容和所述第一异常提示信息发送至目的客户端；

第一子提示模块，用于将所述第一异常提示信息提示在第一次发送的消息内容后；

第二子提示模块，用于当疑似异常帐号发送第一次消息内容后，获取疑似异常帐号发送消息内容的时间，当所述时间为设定时间时，将所述第一异常提示信息发送至目的客户端，并将所述第一异常提示信息提示在该次发送的消息内容后。

18.根据权利要求12至17任意一项所述的即时通讯中消息异常提示***，其特征在于，所述疑似异常帐号获取模块，包括：

历史登录信息获取模块，用于获取登录即时通讯的客户端的用户帐号对应的历史登录信息；

异常登录行为检测模块，用于根据所述用户帐号对应的历史登录信息检测用户帐号当前登录行为是否为异常登录行为；

第一疑似异常帐号确定模块，用于将异常登录行为的用户帐号确定为疑似异常帐号，其中，所述异常类型为登录异常类型。

19.根据权利要求18所述的即时通讯中消息异常提示***，其特征在于，所述历史登录信息包括历史登录位置信息、历史登录时间、历史登录频率、历史登录密码输入错误次数、历史登录设备的设备信息。

20.根据权利要求12至17任意一项所述的即时通讯中消息异常提示***，其特征在于，所述疑似异常帐号获取模块，包括：

历史时间获取模块，用于获取登录即时通讯的客户端的用户帐号向其他目的客户端群发消息的历史时间；

第二疑似异常帐号确定模块，用于计算各历史时间之间的时间差以及历史时间与当前发送时间的时间差，若存在时间差小于设定阈值，则将该用户帐号确定为疑似异常帐号，其中，所述异常类型为群发异常消息类型。

21.根据权利要求12至17任意一项所述的即时通讯中消息异常提示***，其特征在于，所述第一异常提示信息包括文字信息、图片信息、语音信息、视频信息；

或

所述第一异常提示信息和所述第二异常提示信息包括文字信息、图片信息、语音信息、视频信息。

22.根据权利要求12至17任意一项所述的即时通讯中消息异常提示***，其特征在于，所述目的客户端进行提示的方式包括高亮显示、突出显示、语音提示或视频提示。