CN110932960A - 一种基于社交软件的防欺诈方法、服务器和*** - Google Patents
一种基于社交软件的防欺诈方法、服务器和*** Download PDFInfo
- Publication number
- CN110932960A CN110932960A CN201911065981.7A CN201911065981A CN110932960A CN 110932960 A CN110932960 A CN 110932960A CN 201911065981 A CN201911065981 A CN 201911065981A CN 110932960 A CN110932960 A CN 110932960A
- Authority
- CN
- China
- Prior art keywords
- content
- abnormal
- initiator
- server
- identity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 230000002265 prevention Effects 0.000 title claims abstract description 35
- 230000002159 abnormal effect Effects 0.000 claims abstract description 216
- 239000003999 initiator Substances 0.000 claims abstract description 127
- 230000015654 memory Effects 0.000 claims description 16
- 238000012795 verification Methods 0.000 claims description 16
- 230000006399 behavior Effects 0.000 claims description 11
- 230000002547 anomalous effect Effects 0.000 claims description 9
- 230000000977 initiatory effect Effects 0.000 claims description 9
- 230000008014 freezing Effects 0.000 claims description 4
- 238000007710 freezing Methods 0.000 claims description 4
- 239000000126 substance Substances 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 8
- 238000010295 mobile communication Methods 0.000 description 8
- 238000004590 computer program Methods 0.000 description 7
- 238000001514 detection method Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 241000700605 Viruses Species 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
- H04L51/52—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail for supporting social networking services
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification techniques
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification techniques
- G10L17/22—Interactive procedures; Man-machine interfaces
- G10L17/24—Interactive procedures; Man-machine interfaces the user being prompted to utter a password or a predefined phrase
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
- H04L51/04—Real-time or near real-time messaging, e.g. instant messaging [IM]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
- H04L9/32—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials
- H04L9/3226—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials using a predetermined code, e.g. password, passphrase or PIN
- H04L9/3231—Biological data, e.g. fingerprint, voice or retina
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Acoustics & Sound (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Security & Cryptography (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biodiversity & Conservation Biology (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明涉及互联网技术领域，公开了一种基于社交软件的防欺诈方法、服务器和***。方法包括：检测聊天内容是否异常；如果聊天内容异常，则启动识别模式，验证异常内容发起者的身份；当异常内容发起者的身份异常，则执行安全措施，由此能够及时且有效的防止欺诈。
Description
技术领域
本发明涉及互联网技术领域，特别是涉及一种基于社交软件的防欺诈方法、服务器和***。
背景技术
随着互联网技术的发展，越来越多的人开始使用即时通讯(Instant Messaging：IM)，即时通讯是一种基于互联网的即时交流消息的业务。
用户通过即时通讯进行交流时，有些用户账号存在被盗或者中病毒导致用户账号异常。这些异常用户常常会发送一些恶意消息给其他用户，会给其他用户带来困扰或者损失。
传统技术是通过智能识别关键字来实时检测即时通讯软件中出现的敏感词汇，并发送提示信息给用户，但仅通过只言片语无法准确判断出异常用户的身份，智能识别关键字在防欺诈方面未有明显效果。
发明内容
基于此，有必要针对上述技术问题，提供一种基于社交软件的防欺诈方法、服务器和***，能够及时且有效的防欺诈。
第一方面，本发明实施例提供了一种基于社交软件的防欺诈方法，应用于服务器，所述方法包括：
检测聊天内容是否异常；
如果所述聊天内容异常，则启动识别模式，验证异常内容发起者的身份；
当所述异常内容发起者的身份异常，则执行安全措施。
在一些实施例中，所述检测聊天内容是否异常，包括：
当所述聊天内容包括敏感信息时，则确定聊天内容异常；和/或，
当所述聊天内容不符合聊天内容发起者的行为标签时，则确定聊天内容异常。
在一些实施例中，所述如果所述聊天内容异常，则启动识别模式，验证异常内容发送者的身份，包括：
如果聊天内容异常，则询问异常内容发起者的对方是否启动识别模式；
如果异常内容发起者的对方确认启动识别模式，则对所述异常内容发起者启动识别模式。
在一些实施例中，所述对所述异常内容发起者启动识别模式，包括：
发送指定内容至异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入；
接收异常内容发起者录入的语音，并根据所述语音验证异常内容发起者的身份。
在一些实施例中，所述对所述异常内容发起者启动识别模式，包括：
发送指定内容至异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入；
获取验证异常内容发起者的身份的验证结果。
在一些实施例中，所述根据所述语音验证异常内容发起者的身份，包括：
识别所述语音的文本内容，并计算所述语音的文本内容与所述指定内容的匹配度，得到第一匹配度；
识别所述语音的声纹特征，并计算所述声纹特征与预设声纹特征的匹配度，得到第二匹配度；
若所述第一匹配度达到第一预设阈值，同时第二匹配度也达到第二预设阈值，则确定所述异常内容发起者的身份正常；
否则，确定所述异常内容发起者的身份异常。
在一些实施例中，所述方法还包括：
如果在预设时长内，所述异常内容发起者未完成所述指定内容的语音录入，则确定异常内容发起者身份异常。
在一些实施例中，所述当异常内容发起者的身份异常，则执行安全措施，包括：
当异常内容发起者的身份异常，则冻结所述异常内容发起者的账号。
第二方面，本发明实施例还提供了一种基于社交软件的防欺诈装置，所述装置包括：
检测模块，用于检测聊天内容是否异常；
识别模块，用于如果所述聊天内容异常，则启动识别模式，验证异常内容发起者的身份；
执行模块，用于当所述异常内容发起者的身份异常，则执行安全措施。
在一些实施例中，所述检测模块具体用于：
当所述聊天内容包括敏感信息时，则确定聊天内容异常；和/或，
当所述聊天内容不符合聊天内容发起者的行为标签，则确定聊天内容异常。
在一些实施例中，所述识别模块具体用于：
如果聊天内容异常，则询问异常内容发起者的对方是否启动识别模式；
如果异常内容发起者的对方确认启动识别模式，则对所述异常内容发起者启动识别模式。
发送指定内容至异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入；
接收异常内容发起者录入的语音，并根据所述语音验证异常内容发起者的身份。
发送指定内容至异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入；
获取验证异常内容发起者身份的验证结果；
识别所述语音的文本内容，并计算所述语音的文本内容与所述指定内容的匹配度，得到第一匹配度；
识别所述语音的声纹特征，并计算所述声纹特征与预设声纹特征的匹配度，得到第二匹配度；
若所述第一匹配度达到第一预设阈值，同时第二匹配度也达到第二预设阈值，则确定所述异常内容发起者的身份正常；
否则，确定所述异常内容发起者的身份异常。
在一些实施例中，所述执行模块具体用于：
当异常内容发起者的身份异常，则冻结所述异常内容发起者的账号。
第三方面，本发明实施例还提供了一种服务器，包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述基于社交软件的防欺诈方法。
第四方面，本发明实施例还提供了一种基于社交软件的防欺诈***，所述***包括上述所述的服务器和至少两个终端，每一所述终端通信连接所述服务器，所述服务器用于接收所述终端的聊天内容，并对所述聊天内容进行检测。
第五方面，本发明实施例还提供了一种非易失性计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，当所述计算机可执行指令被服务器所执行时，使所述服务器执行基于社交软件的防欺诈方法。
第六方面，本发明实施例还提供了一种计算机程序产品，所述计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被服务器执行时，使所述服务器执行如上所述的基于社交软件的防欺诈方法。
与现有技术相比，本发明的有益效果是：区别于现有技术的情况，本发明实施例中的基于社交软件的防欺诈方法，服务器检测即时通讯软件的聊天界面中的聊天内容是否异常，如果所述聊天内容异常，则启动识别模式，验证异常内容发起者的身份，当所述异常内容发起者的身份异常，则执行安全措施，由此能够及时且有效的防止欺诈。
附图说明
一个或多个实施例通过与之对应的附图中的图片进行示例性说明，这些示例性说明并不构成对实施例的限定，附图中具有相同参考数字标号的元件表示为类似的元件，除非有特别申明，附图中的图不构成比例限制。
图1是本发明基于社交软件的防欺诈方法应用场景示意图；
图2是本发明基于社交软件的防欺诈方法的一个实施例的流程图；
图3是本发明基于社交软件的防欺诈方法的一个实施例中检测聊天内容是否异常的流程图；
图4是本发明基于社交软件的防欺诈方法的一个实施例中启动识别模式的流程图；
图5是本发明基于社交软件的防欺诈方法的一个实施例中服务器执行的启动识别模式的具体流程图；
图6是本发明基于社交软件的防欺诈方法的一个实施例中终端执行启动识别模式的具体流程图；
图7是本发明基于社交软件的防欺诈方法的一个实施例中验证异常内容发起者身份的流程图；
图8是本发明基于社交软件的防欺诈方法的一个实施例中聊天内容包含敏感信的示意图；
图9是本发明基于社交软件的防欺诈方法的一个实施例中验证失败的示意图；
图10是本发明基于社交软件的防欺诈方法的一个实施例中验证成功的示意图；
图11是本发明基于社交软件的防欺诈方法的一个实施例中聊天内容不符合聊天内容发起者的行为标签的示意图；
图12是本发明基于社交软件的防欺诈方法的一个具体实施例的流程图；
图13是本发明基于社交软件的防欺诈装置的一个实施例的结构示意图；
图14是本发明提供的服务器的硬件结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
需要说明的是，如果不冲突，本发明实施例中的各个特征可以相互结合，均在本发明的保护范围之内。另外，虽然在装置示意图中进行了功能模块划分，在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于装置中的模块划分，或流程图中的顺序执行所示出或描述的步骤。再者，本发明所采用的“第一”、“第二”、“第三”等字样并不对数据和执行次序进行限定，仅是对功能和作用基本相同的相同项或相似项进行区分。
本发明提供的基于社交软件的防欺诈方法适用于图1所述的应用场景，在本实施例中，所述应用场景为基于社交软件的防欺诈***，包括服务器和多个终端，图1示例性的示出了服务器10，终端A1、终端A2、终端A3，终端B1、终端B2、终端B3，其中，所述终端A1、终端A2、终端A3作为用户A终端，终端B1、终端B2、终端B3作为用户B终端，在实际的网络环境中还包括更多的终端。其中，用户A终端和用户B终端通过网络通信连接所述服务器10，例如：通过局域网、广域网、无线网、全球移动通讯***(Global System of Mobilecommunication，GSM)、第三代移动通信网络、***移动通信网络和第五代移动通信网络等方式通信连接所述服务器10。所述服务器10用于接收所述用户A终端和所述用户B终端发送的聊天内容，并对所述聊天内容进行检测，从而确定聊天内容是否异常，当聊天内容异常时，所述服务器10则启动识别模式，验证异常内容发起者的身份，若异常内容发起者的身份异常，服务器则执行安全措施。
其中，所述终端可以是例如是智能手机、平板电脑、个人电脑及手提电脑等。服务器可以是一台服务器，例如机架式服务器、刀片式服务器、塔式服务器或者机柜式服务器等，也可以是由若干台服务器组成的服务器集群，或者是一个云计算服务中心。
需要说明的是，本申请实施例提供的方法还可以进一步的拓展到其他合适的应用环境中，而不限于图1所示的应用环境。在实际的应用过程中，该应用环境还可以包括更多或者更少的终端和服务器。
如图2所示，本发明实施例提供了一种基于社交软件的防欺诈方法，应用于服务器，所述方法包括：
步骤202，检测聊天内容是否异常。
在本发明实施例中，用户可通过第三方应用程序进行聊天，第三方应用程序可以为即时通讯应用平台或者其他应用平台，其中，即时通讯平台可以包括微信、QQ以及小程序等。具体地，在即时通讯聊天环境下，存在至少一个用户A和用户B，服务器定期对用户A和用户B的聊天窗口的聊天内容进行智能检测，其中，包括检测双方聊天的文本信息或者语音信息等，从而确定聊天内容是否异常。需要说明的是，可以预先设置一个检测周期，例如5分钟，服务器则每隔5分钟对用户A和用户B的聊天内容进行检测，检测周期可根据实际情况自行设置。也可以实时对聊天内容进行检测。
步骤204，如果所述聊天内容异常，则启动识别模式，验证异常内容发起者的身份。
在本发明实施例中，识别模式包括语音识别和声纹识别两种，其中，声纹识别作为生物识别技术的一种，也称为说话人识别，根据待识别语音的声纹特征可以知道该语音所对应的说话人。服务器每隔预设周期对用户A和用户B的聊天内容进行检测，当聊天内容即聊天的文本信息或聊天的语音信息出现异常时，服务器则启动识别模式从而来验证异常内容发起者的身份。
步骤206，当所述异常内容发起者的身份异常，则执行安全措施。
在本发明实施例中，安全措施，即针对异常内容发起者而采取的保障安全的举措。具体地，用户A通过即时通讯平台和用户B进行聊天，服务器接收用户A和用户B的聊天内容并定期检测，当服务器检测到所述异常内容发起者用户B的身份异常时，服务器则立即执行安全措施，从而保证用户A的安全。
在本发明实施例中，服务器定期检测聊天内容是否异常，当所述聊天内容异常时，服务器则启动识别模式从而验证异常内容发起者的身份，当所述异常内容发起者的身份异常时，服务器则立即执行安全措施，从而能够及时且有效的防欺诈。
在一些实施例中，如图3所示，所述检测聊天内容是否异常，包括：
步骤302，当所述聊天内容包括敏感信息时，则确定聊天内容异常。
具体地，服务器对用户的聊天内容进行实时或者不定时智能检测，从而发现敏感信息，或者基于规则匹配来发现聊天内容包含的敏感信息，亦或者通过确定有穷自动机算法(Deterministic Finite Automaton，DFA)查找聊天内容包含的敏感信息，其中，所述敏感信息可以为敏感关键字，例如，钱、密码等关键字。和/或,
步骤304，当所述聊天内容不符合聊天内容发起者的行为标签时，则确定聊天内容异常。
在本发明实施例中，服务器的数据库中预先存储有用户的身份信息及其对应的标签。其中，用户的身份信息用来标识该用户身份的字符串，其可以为一串数字编号，也可以为数字与字母的组合等，不同的用户身份信息不同其对应的标签也不同。例如，用户A的身份信息对应的标签为成熟、稳重、商务人士等，当用户A在聊天的过程中，出现与其标签不符合的交流行为时，服务器则确定用户A的聊天内容异常。需要说明的是，上述步骤302和步骤304只是为了便于说明本申请而定义的，是相对概念，并不用于表示先后顺序。
可以理解的是，在其他一些实施例中，可以将用户的画像打上标签，并一并存储在数据库中。当用户出现与其画像标签不符的行为时，服务器则确定用户的聊天内容异常。
在一些实施例中，如图4所示，所述如果所述聊天内容异常，则启动识别模式，验证异常内容发起者的身份，包括：
步骤402，如果聊天内容异常，则询问异常内容发起者的对方是否启动识别模式。
在本发明实施例中，服务器检测到聊天内容出现敏感信息或者用户出现与其标签不符合的交流行为时，服务器则会发送提示信息即是否启动识别模式，从而发送身份核实信息至对方用户并在对方用户的聊天界面上高亮显示检测到的敏感信息。
步骤404，如果异常内容发起者的对方确认启动识别模式，则对所述异常内容发起者启动识别模式。
当异常内容发起者的对方即用户A接收到***发出的提示信息后，可以选择启动识别模式或者忽略此次提示，如果用户A选择启动识别模式，则对异常内容发起者B启动识别模式。
在一些实施例中，如图5所示，所述对所述异常内容发起者启动识别模式，包括：
步骤502，发送指定内容至异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入。
在本发明实施例中，指定内容可以为指定的文本信息或者视频信息，服务器的数据库中预先存储了绑定好的用户账号信息及其对应的声纹信息。具体地，当异常内容发起者的对方选择启动识别模式后，服务器会推送指定内容列表给异常内容发起者的对方，以供异常内容发起者的对方选择指定内容进行验证，当异常内容发起者的对方选择好指定内容并上报给服务器后，服务器则将选择好的指定内容发送给异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入。
步骤504，接收异常内容发起者录入的语音，并根据所述语音验证异常内容发起者的身份。
具体地，在本发明实施例中，服务器对录入的语音进行验证，由于服务器的数据库中预先存储有用户的账号及其对应的声纹特征，因此，当服务器接收到异常内容发起者录入的语音后，与账号绑定的声纹特征进行比对，从而可验证异常内容发起者的身份。
在其他一些实施例中，还可以通过异常内容发起者的终端对录入的语音进行验证，如图6所示，所述对所述异常内容发起者启动识别模式，还包括：
步骤602，发送指定内容至异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入。
步骤604，获取验证异常内容发起者的身份的验证结果。
在本发明实施例中，异常内容发起者可以利用终端上录制音频的麦克风录入指定内容，并利用终端上预先设置的声音识别模型对声音信号进行验证，得到验证结果，然后服务器获取异常内容发起者的身份的验证结果并将其发送给异常内容发起者的对方，从而可以根据验证结果确定异常内容发起者是否本人。
在一些实施例中，如图7所示，所述根据所述语音验证异常内容发起者的身份，包括：
步骤702，识别所述语音的文本内容，并计算所述语音的文本内容与所述指定内容的匹配度，得到第一匹配度。
在本发明实施例中，所述指定内容为异常内容发起者的对方选择的内容或者服务器随机发送的内容，指定内容里包含了特定的信息。当异常内容发起者将录入语音发送给服务器后，服务器对该录入语音进行识别。具体地，服务器首先识别该语音的文本内容，并计算语音的文本内容与指定内容的匹配度，得到第一匹配度。
步骤704，识别所述语音的声纹特征，并计算所述声纹特征与预设声纹特征的匹配度，得到第二匹配度。
预设声纹特征可事先获取并存储在服务器的数据库中。当语音的文本内容识别结束后，服务器将识别语音的声纹特征，采用算法来提取语音数据中包含的声纹特征，并计算声纹特征与数据库中预先存储的预设声纹特征的匹配度，从而得到第二匹配度。需要说明的是，识别语音的文本内容和识别语音的声纹特征，无先后顺序，可以先识别语音文本内容，再识别语音的声纹特征，或者先识别语音的声纹特征，再识别语音文本内容，或者两者同时进行识别，无需拘泥于本实施例中的限定。
步骤706，若所述第一匹配度达到第一预设阈值，同时第二匹配度也达到第二预设阈值，则确定所述异常内容发起者的身份正常。
在本发明实施例中，所述第一预设阈值和第二预设阈值可预先进行设置，第一预设阈值和第二预设阈值可以相同也可以不同，具体地，确定异常内容发起者的身份正常，需同时满足两个条件。示例性的，若语音的文本内容与指定内容的匹配度为80％，即第一匹配度为80％，第一预设阈值为70％，则认为第一匹配度达到第一预设阈值；或者，第一匹配度为70％，第一预设阈值为70％，也认为第一匹配度达到第一预设阈值。若声纹特征与预设声纹特征的匹配度为75％，即第二匹配度为75％，第二预设阈值为75％，则认为第二匹配度达到预设阈值，或者，第二匹配度为87％，第二预设阈值为75％，也认为第二匹配度达到第二预设阈值。只有当第一匹配度达到第一预设阈值，同时第二匹配度达到第二预设阈值时，则认为所述异常内容发起者的身份正常，可进行聊天。
步骤708，否则，确定所述异常内容发起者的身份异常。
若第一匹配度未达到第一预设阈值，同时第二匹配度也未达到第二预设阈值，则确认异常内容发起者身份异常；或者，第一匹配度达到第一预设阈值，但第二匹配度未达到第二预设阈值，则确认异常内容发起者身份异常；或者，第一匹配度未达到第一预设阈值，但第二匹配度达到了第二预设阈值，则确认异常内容发起者身份异常。当异常内容发起者的身份异常时，则确定不是本人，服务器则会对异常内容发起者的账号进行冻结。
在其他一些实施例中，如果异常内容发起者未在预设时长内，完成指定内容的语音录入，则确定异常内容发起者身份异常，服务器将对其账号进行冻结处理。
便于理解本发明，下面将进行举例说明；
请一并参阅图8至10，图8至图10为聊天内容包含敏感信息时的具体实施例；
请参阅图8，异常内容发起者为用户B,异常内容发起者的对方为用户A。用户A和用户B通过即时通讯平台进行聊天，服务器实时或不定时的对用户A和用户B的聊天内容进行智能检测，当服务器发现用户B发送的文本信息或在语音信息中携带有敏感关键字，例如，钱。此时，服务器则会向用户A发送提示信息，提示信息具体可以是，“***检测到用户B异常，是否启动身份核实”等信息，并且将检测到的敏感关键字高亮显示呈现给用户A。
接着，如果用户A选择启动身份核实后，服务器将指定内容列表发送给用户A，用户A可选择指定内容对用户B进行验证，或者服务器随机发送指定内容至用户B进行验证。具体地，当用户A选择好指定内容即文本信息(希望是美好的，也许是人间至善，而美好的事物永不消逝)上报给服务器后，服务器则将文本信息发送给用户B，并在用户B的聊天界面显示需要进行语音录入的文本信息，其中，所述指定内容携带有预设时间，例如60S等。用户B需在预设时间60S内完成指定内容的录入。
请参阅图9，当用户B在预设时间内完成指定内容的录入后，将其发送给服务器，服务器首先识别所述录入语音的文本内容，并计算所述语音的文本内容与所述指定内容的匹配度，从而得到第一匹配度，若第一匹配度未达到第一预设阈值，则确定用户B的身份异常，服务器将发出提示信息给用户A,其中，提示信息可以为“用户B可能被盗号，***已处理”等提示信息。同时服务器还会推送验证失败信息即申诉提示给用户B,并迫使用户B退出登录，由此可杜绝非实时人声的情况发生。
如果所述用户B的录入语音的第一匹配度达到第一预设阈值，则利用算法来获取语音数据中包含的声纹特征，并计算所述声纹特征与预设声纹特征的匹配度，从而得到第二匹配度，若第二匹配度达到第二预设阈值，请参阅图10，服务器分别向用户A和用户B发送声纹验证成功的提示信息，用户A和用户B收到提示信息后则可继续进行聊天对话。若用户B的第二匹配度未达到第二预设阈值，则确定异常内容发起者身份异常，服务器则会对异常内容发起者的账号进行冻结。
请参阅图11，图11为聊天内容不符合聊天内容发起者的行为标签的具体实施例；
同样的，聊天内容发起者为用户B,聊天内容发起者的对方为用户A。服务器的数据库中预先存储有用户的身份信息及其对应的标签，或者数据库中预先存储有用户的画像及其对应的标签。用户B身份信息或者图像信息对应的标签为成熟、稳重、商务人士等，当用户B在聊天的过程中，出现与其标签不符合的交流行为时，服务器则确定用户B的聊天内容异常，并将检测到的异常内容高亮显示呈现给用户A。当用户A选择启动识别模式后，则返回执行步骤502，请参照图12，图12是实现上述方法的具体流程示意图。
需要说明的是，在上述各个实施例中，上述各步骤之间并不必然存在一定的先后顺序，本领域普通技术人员，根据本发明实施例的描述可以理解，不同实施例中，上述各步骤可以有不同的执行顺序，亦即，可以并行执行，亦可以交换执行等等。
相应的，本发明实施例还提供了一种基于社交软件的防欺诈装置1300，如图13所示，包括：
检测模块1302，用于检测聊天内容是否异常；
识别模块1304，用于如果所述聊天内容异常，则启动识别模式，验证异常内容发起者的身份；
执行模块1306，用于当所述异常内容发起者的身份异常，则执行安全措施。
本发明实施例提供的基于社交软件的防欺诈装置，通过检测模块实时或者不定时的检测用户聊天界面的聊天内容是否异常，当所述聊天内容异常时，识别模块则启动识别模式，验证异常内容发起者的身份，当所述异常内容发起者的身份异常，执行模块则执行安全措施，由此能够及时且有效的防止欺诈。
可选的，在装置的某些实施例中，所述检测模块1302具体用于：
当所述聊天内容包括敏感信息时，则确定聊天内容异常；和/或，
当所述聊天内容不符合聊天内容发起者的行为标签，则确定聊天内容异常。
可选的，在装置的某些实施例中，所述识别模块1304具体用于：
如果聊天内容异常，则询问异常内容发起者的对方是否启动识别模式；
如果异常内容发起者的对方确认启动识别模式，则对所述异常内容发起者启动识别模式。
发送指定内容至异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入；
接收异常内容发起者录入的语音，并根据所述语音验证异常内容发起者的身份。
发送指定内容至异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入；
获取验证异常内容发起者身份的验证结果；
识别所述语音是否符合指定内容，如果所述语音不符合指定内容，则确定异常内容发起者的身份异常；
识别所述语音的文本内容，并计算所述语音的文本内容与所述指定内容的匹配度，得到第一匹配度；
识别所述语音的声纹特征，并计算所述声纹特征与预设声纹特征的匹配度，得到第二匹配度；
若所述第一匹配度达到第一预设阈值，同时第二匹配度也达到第二预设阈值，则确定所述异常内容发起者的身份正常；
否则，确定所述异常内容发起者的身份异常。
可选的，在装置的某些实施例中，所述执行模块1306具体用于：
当异常内容发起者的身份异常，则冻结所述异常内容发起者的账号。
需要说明的是，上述基于社交软件的防欺诈装置可执行本发明实施例所提供的基于社交软件的防欺诈方法，具备执行方法相应的功能模块和有益效果，未在基于社交软件的防欺诈装置实施例中详尽描述的技术细节，可参考本发明实施例提供的基于社交软件的防欺诈方法。
图14是本发明实施例提供的服务器的硬件结构示意图，如图14所示，该服务器10包括：
一个或多个处理器102以及存储器104，图14中以一个处理器102为例。
处理器102和存储器104可以通过总线或者其他方式连接，图14中以通过总线连接为例。
存储器104作为一种非易失性计算机可读存储介质，可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块，如本发明实施例中的基于社交软件的防欺诈方法对应的程序指令/模块(例如，附图13所示的检测模块1302、识别模块1304和执行模块1306)。处理器102通过运行存储在存储器104中的非易失性软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例的基于社交软件的防欺诈方法。
存储器104可以包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需要的应用程序；存储数据区可存储根据基于社交软件的防欺诈装置使用所创建的数据等。此外，存储器104可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中，存储器104可选包括相对于处理器102远程设置的存储器，这些远程存储器可以通过网络连接至有基于社交软件的防欺诈装置。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
所述一个或者多个模块存储在所述存储器104中，当被所述一个或者多个服务器10执行时，执行上述任意方法实施例中的基于社交软件的防欺诈方法，例如，执行以上描述的图2中的方法步骤202至步骤206、图3中的方法步骤302至步骤304、图4中的方法步骤402至步骤404、图5中的方法步骤502至步骤504、图6中的方法步骤602至步骤604、图7中的方法步骤702至步骤708；实现图13中的模块1302至1306的功能。
本发明实施例的终端以多种形式存在，包括但不限于:
(1)移动通信设备:这类设备的特点是具备移动通信功能，并且以提供话音、数据通信为主要目标。这类终端包括:智能手机(例如iPhone)、多媒体手机、功能性手机，以及低端手机等。
(2)超移动个人计算机设备:这类设备属于个人计算机的范畴，有计算和处理功能，一般也具备移动上网特性。这类终端包括:PDA、MID和UMPC设备等，例如iPad。
(3)便携式娱乐设备:这类设备可以显示和播放多媒体内容。该类设备包括:音频、视频播放器(例如iPod)，掌上游戏机，电子书，以及智能玩具和便携式车载导航设备。
本发明实施例的服务器以多种形式存在，包括但不限于:
(1)塔式服务器
一般的塔式服务器机箱和我们常用的PC机箱差不多，而大型的塔式机箱就要粗大很多，总的来说外形尺寸没有固定标准。
(2)机架式服务器
机架式服务器是由于满足企业的密集部署，形成的以19英寸机架作为标准宽度的服务器类型，高度则从1U到数U。将服务器放置到机架上，并不仅仅有利于日常的维护及管理，也可能避免意想不到的故障。首先，放置服务器不占用过多空间。机架服务器整齐地排放在机架中，不会浪费空间。其次，连接线等也能够整齐地收放到机架里。电源线和LAN线等全都能在机柜中布好线，可以减少堆积在地面上的连接线，从而防止脚踢掉电线等事故的发生。规定的尺寸是服务器的宽(48.26cm＝19英寸)与高(4.445cm的倍数)。由于宽为19英寸，所以有时也将满足这一规定的机架称为“19英寸机架”。
(3)刀片式服务器
刀片服务器是一种HAHD(High Availability High Density，高可用高密度)的低成本服务器平台，是专门为特殊应用行业和高密度计算机环境设计的，其中每一块“刀片”实际上就是一块***母板，类似于一个个独立的服务器。在这种模式下，每一个母板运行自己的***，服务于指定的不同用户群，相互之间没有关联。不过可以使用***软件将这些母板集合成一个服务器集群。在集群模式下，所有的母板可以连接起来提供高速的网络环境，可以共享资源，为相同的用户群服务。
(4)云服务器
云服务器(Elastic Compute Service,ECS)是一种简单高效、安全可靠、处理能力可弹性伸缩的计算服务。其管理方式比物理服务器更简单高效，用户无需提前购买硬件，即可迅速创建或释放任意多台云服务器。云服务器的分布式存储用于将大量服务器整合为一台超级计算机，提供大量的数据存储和处理服务。分布式文件***、分布式数据库允许访问共同存储资源，实现应用数据文件的IO共享。虚拟机可以突破单个物理机的限制，动态的资源调整与分配消除服务器及存储设备的单点故障,实现高可用性。
本发明实施例提供了一种计算机程序产品，包括存储在非易失性计算机可读存储介质上的计算程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时时，使所述计算机执行：图2中的方法步骤202至步骤206、图3中的方法步骤302至步骤304、图4中的方法步骤402至步骤404、图5中的方法步骤502至步骤504、图6中的方法步骤602至步骤604、图7中的方法步骤702至步骤708。
上述产品可执行本发明实施例所提供的方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本发明实施例所提供的方法。
以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
通过以上的实施方式的描述，本领域普通技术人员可以清楚地了解到各实施方式可借助软件加通用硬件平台的方式来实现，当然也可以通过硬件。本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random Access Memory,RAM)等。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；在本发明的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，步骤可以以任意顺序实现，并存在如上所述的本发明的不同方面的许多其它变化，为了简明，它们没有在细节中提供；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (11)
1.一种基于社交软件的防欺诈方法，应用于服务器，其特征在于，所述方法包括：
检测聊天内容是否异常；
如果所述聊天内容异常，则启动识别模式，验证异常内容发起者的身份；
当所述异常内容发起者的身份异常，则执行安全措施。
2.根据权利要求1所述的方法，其特征在于，所述检测聊天内容是否异常，包括：
当所述聊天内容包括敏感信息时，则确定聊天内容异常；和/或，
当所述聊天内容不符合聊天内容发起者的行为标签时，则确定聊天内容异常。
3.根据权利要求1或2所述的方法，其特征在于，所述如果所述聊天内容异常，则启动识别模式，验证异常内容发起者的身份，包括：
如果聊天内容异常，则询问异常内容发起者的对方是否启动识别模式；
如果异常内容发起者的对方确认启动识别模式，则对所述异常内容发起者启动识别模式。
4.根据权利要求3所述的方法，其特征在于，所述对所述异常内容发起者启动识别模式，包括：
发送指定内容至异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入；
接收异常内容发起者录入的语音，并根据所述语音验证异常内容发起者的身份。
5.根据权利要求3所述的方法，其特征在于，所述对所述异常内容发起者启动识别模式，包括：
发送指定内容至异常内容发起者，以使所述异常内容发起者在预设时长内完成所述指定内容的语音录入；
获取验证异常内容发起者身份的验证结果。
6.根据权利要求4所述的方法，其特征在于，所述根据所述语音验证异常内容发起者的身份，包括：
识别所述语音的文本内容，并计算所述语音的文本内容与所述指定内容的匹配度，得到第一匹配度；
识别所述语音的声纹特征，并计算所述声纹特征与预设声纹特征的匹配度，得到第二匹配度；
若所述第一匹配度达到第一预设阈值，同时第二匹配度也达到第二预设阈值，则确定所述异常内容发起者的身份正常；
否则，确定所述异常内容发起者的身份异常。
7.根据权利要求6所述的方法，其特征在于，所述方法还包括：
如果在预设时长内，所述异常内容发起者未完成所述指定内容的语音录入，则确定异常内容发起者身份异常。
8.根据权利要求1或2所述的方法，其特征在于，所述当异常内容发起者的身份异常，则执行安全措施，包括：
当异常内容发起者的身份异常，则冻结所述异常内容发起者的账号。
9.一种服务器，其特征在于，包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8任一项所述的方法。
10.一种基于社交软件的防欺诈***，其特征在于，所述***包括权利要求9所述的服务器和至少两个终端，每一所述终端通信连接所述服务器，所述服务器用于接收所述终端的聊天内容，并对所述聊天内容进行检测。
11.一种非易失性计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机可执行指令，当所述计算机可执行指令被服务器所执行时，使所述服务器执行如权利要求1-8任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911065981.7A CN110932960A (zh) | 2019-11-04 | 2019-11-04 | 一种基于社交软件的防欺诈方法、服务器和*** |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911065981.7A CN110932960A (zh) | 2019-11-04 | 2019-11-04 | 一种基于社交软件的防欺诈方法、服务器和*** |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN110932960A true CN110932960A (zh) | 2020-03-27 |
Family
ID=69850213
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911065981.7A Pending CN110932960A (zh) | 2019-11-04 | 2019-11-04 | 一种基于社交软件的防欺诈方法、服务器和*** |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110932960A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111601000A (zh) * | 2020-05-14 | 2020-08-28 | 支付宝(杭州)信息技术有限公司 | 通信网络诈骗的识别方法、装置和电子设备 |
| CN111739547A (zh) * | 2020-07-24 | 2020-10-02 | 深圳市声扬科技有限公司 | 语音匹配方法、装置、计算机设备和存储介质 |
| CN113822062A (zh) * | 2021-09-22 | 2021-12-21 | 未鲲(上海)科技服务有限公司 | 文本数据处理方法、装置、设备及可读存储介质 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140270154A1 (en) * | 2013-03-15 | 2014-09-18 | Genesys Telecommunications Laboratories, Inc. | System and method for encrypting and recording media for a contact center |
| CN104392353A (zh) * | 2014-10-08 | 2015-03-04 | 无锡指网生物识别科技有限公司 | 语音识别终端的支付方法及*** |
| CN106161183A (zh) * | 2015-03-30 | 2016-11-23 | 重庆邮电大学 | 消息交互方法和社交服务器及通信*** |
| CN106572049A (zh) * | 2015-10-09 | 2017-04-19 | 腾讯科技（深圳）有限公司 | 一种身份验证方法及装置 |
| CN107508834A (zh) * | 2017-09-25 | 2017-12-22 | 联想(北京)有限公司 | 一种信息验证方法及电子设备 |
| CN109218269A (zh) * | 2017-07-05 | 2019-01-15 | 阿里巴巴集团控股有限公司 | 身份认证的方法、装置、设备及数据处理方法 |
-
2019
- 2019-11-04 CN CN201911065981.7A patent/CN110932960A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140270154A1 (en) * | 2013-03-15 | 2014-09-18 | Genesys Telecommunications Laboratories, Inc. | System and method for encrypting and recording media for a contact center |
| CN104392353A (zh) * | 2014-10-08 | 2015-03-04 | 无锡指网生物识别科技有限公司 | 语音识别终端的支付方法及*** |
| CN106161183A (zh) * | 2015-03-30 | 2016-11-23 | 重庆邮电大学 | 消息交互方法和社交服务器及通信*** |
| CN106572049A (zh) * | 2015-10-09 | 2017-04-19 | 腾讯科技（深圳）有限公司 | 一种身份验证方法及装置 |
| CN109218269A (zh) * | 2017-07-05 | 2019-01-15 | 阿里巴巴集团控股有限公司 | 身份认证的方法、装置、设备及数据处理方法 |
| CN107508834A (zh) * | 2017-09-25 | 2017-12-22 | 联想(北京)有限公司 | 一种信息验证方法及电子设备 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111601000A (zh) * | 2020-05-14 | 2020-08-28 | 支付宝(杭州)信息技术有限公司 | 通信网络诈骗的识别方法、装置和电子设备 |
| CN111739547A (zh) * | 2020-07-24 | 2020-10-02 | 深圳市声扬科技有限公司 | 语音匹配方法、装置、计算机设备和存储介质 |
| CN113822062A (zh) * | 2021-09-22 | 2021-12-21 | 未鲲(上海)科技服务有限公司 | 文本数据处理方法、装置、设备及可读存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9763100B2 (en) | Instant messaging message processing method and device and storage medium | |
| CN104468249B (zh) | 一种账号异常的检测方法及装置 | |
| CN103532797B (zh) | 一种用户登录异常监测方法和装置 | |
| CN110932960A (zh) | 一种基于社交软件的防欺诈方法、服务器和*** | |
| CN105591743B (zh) | 通过用户终端的设备运行特征进行身份鉴权的方法及装置 | |
| CN108810831A (zh) | 短信验证码的推送方法、电子装置及可读存储介质 | |
| CN109698809B (zh) | 一种账号异常登录的识别方法及装置 | |
| CN110048879B (zh) | 微服务注册方法、装置、电子设备和计算机可读存储介质 | |
| CN104426885A (zh) | 异常账号提供方法及装置 | |
| CN104253714A (zh) | 监控方法、***、浏览器及服务器 | |
| CN104639521A (zh) | 一种应用安全验证方法、应用服务器、应用客户端及*** | |
| CN113412607B (zh) | 内容推送方法、装置、移动终端及存储介质 | |
| CN114327803A (zh) | 区块链访问机器学习模型的方法、装置、设备和介质 | |
| CN109495378A (zh) | 检测异常帐号的方法、装置、服务器及存储介质 | |
| CN104092653A (zh) | 一种数据处理的方法和*** | |
| CN115038062A (zh) | 一种蓝牙认证方法、装置及设备 | |
| CN110248211B (zh) | 直播间消息限流方法、装置、电子设备及存储介质 | |
| WO2016037489A1 (zh) | Rcs垃圾消息的监控方法、装置及*** | |
| CN113242301A (zh) | 真实服务器的选定方法、装置、计算机设备及存储介质 | |
| CN106127034B (zh) | 一种防止***被恶意关闭的方法、装置及电子设备 | |
| CN110858132B (zh) | 一种打印设备的配置安全检测方法及装置 | |
| CN105635048B (zh) | 业务请求的处理方法及装置 | |
| CN109818915B (zh) | 一种信息处理方法及装置、服务器及可读存储介质 | |
| CN109450770A (zh) | 服务执行方法、装置、计算机设备及存储介质 | |
| CN115242608A (zh) | 告警信息的生成方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200327 |
|
| RJ01 | Rejection of invention patent application after publication |