CN111198762A - 一种支持高并发的服务器集群***及控制方法、控制装置 - Google Patents

一种支持高并发的服务器集群***及控制方法、控制装置 Download PDF

Info

Publication number
CN111198762A
CN111198762A CN201911290315.3A CN201911290315A CN111198762A CN 111198762 A CN111198762 A CN 111198762A CN 201911290315 A CN201911290315 A CN 201911290315A CN 111198762 A CN111198762 A CN 111198762A
Authority
CN
China
Prior art keywords
proxy server
server
master
slave
client
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911290315.3A
Other languages
English (en)
Inventor
苏绥绥
常富洋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Qiyu Information Technology Co Ltd
Original Assignee
Beijing Qiyu Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Qiyu Information Technology Co Ltd filed Critical Beijing Qiyu Information Technology Co Ltd
Priority to CN201911290315.3A priority Critical patent/CN111198762A/zh
Publication of CN111198762A publication Critical patent/CN111198762A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/079—Root cause analysis, i.e. error or fault diagnosis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/54—Interprogram communication
    • G06F9/547—Remote procedure calls [RPC]; Web services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/54—Indexing scheme relating to G06F9/54
    • G06F2209/541—Client-server

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Quality & Reliability (AREA)
  • Hardware Redundancy (AREA)

Abstract

本发明公开了一种支持高并发的服务器集群***及控制方法、控制装置和计算机可读介质，其中***包括：多个媒体服务器，用于处理客户端发送的请求；主代理服务器，与多个媒体服务器连接，对多个媒体服务器进行负载均衡控制，根据多个媒体服务器的负载状态将客户端发送的请求转发到多个媒体服务器中的一个；从代理服务器，与多个媒体服务器连接，作为主代理服务器的备用服务器；切换路由，与主代理服务器和从代理服务器连接，对主代理服务器和从代理服务器进行健康检测，将接收到的客户端发送的请求转发给主代理服务器或从代理服务器。本发明对媒体服务器的负载均衡进行控制，使得服务器集群支持高并发，通过切换路由保证***的稳定性。

Description

一种支持高并发的服务器集群***及控制方法、控制装置
技术领域
本发明涉及通信技术领域，具体而言，涉及一种支持高并发的服务器集群***及控制方法、控制装置。
背景技术
在互联网通信领域，媒体服务器担任着重要的角色，提供在IP网络上实现各种业务所需的媒体资源功能。
而随着移动通信技术的发展，移动终端的接入数量激增，同时在线终端数量越来越多，导致对媒体服务器的要求越来越高，目前的服务器集群对高并发的支持并不理想，媒体服务器之间的负载不平衡，在发生高并发的时候某些媒体服务器可能超负荷运转，出现宕机的情况，影响用户体验的问题。
发明内容
本发明旨在解决现有服务器集群对高并发支持不太理想，媒体服务器之间负载不均衡的问题。
为了解决上述技术问题，本发明第一方面提出一种支持高并发的服务器集群***，包括：
多个媒体服务器，用于处理客户端发送的请求；
主代理服务器，与所述多个媒体服务器连接，对所述多个媒体服务器进行负载均衡控制，根据所述多个媒体服务器的负载状态将所述客户端发送的请求转发到所述多个媒体服务器中的一个；
从代理服务器，与所述多个媒体服务器连接，作为主代理服务器的备用服务器；
切换路由，与所述主代理服务器和所述从代理服务器连接，对所述主代理服务器和所述从代理服务器进行健康检测，将接收到的所述客户端发送的请求转发给所述主代理服务器或所述从代理服务器。
根据本发明的一种优选实施方式，对所述主代理服务器和所述从代理服务器进行健康检测具体为：切换路由持续性地向所述主代理服务器和所述从代理服务器发送健康检测消息，判断所述主代理服务器和所述从代理服务器是否在规定时间内返回健康检测应答消息，如果未返回所述健康检测应答消息则确定该代理服务器健康状态异常。
根据本发明的一种优选实施方式，所述健康检测采用心跳协议进行检测。
根据本发明的一种优选实施方式，将接收到的所述客户端发送的请求转发给所述主代理服务器或所述从代理服务器具体为：当所述主代理服务器健康状态正常时，所述切换路由将所述客户端发送的请求转发给所述主代理服务器，当所述主代理服务器健康状态异常时，将所述客户端发送的请求转发给所述从代理服务器。
根据本发明的一种优选实施方式，在所述切换路由中设置所述主代理服务器和所述从代理服务器的优先级，当所述主代理服务器健康状态正常时，所述主代理服务器的优先级高于所述从代理服务器，当所述主代理服务器健康状态异常时，降低所述主代理服务器的优先级，提高所述从代理服务器的优先级。
根据本发明的一种优选实施方式，所述从代理服务器为多个。
根据本发明的一种优选实施方式，所述主代理服务器和所述从代理服务器为虚拟服务器。
本发明的第二方面提出一种支持高并发的服务器集群***的控制方法，方法包括：
接收客户端发送的请求；
对主代理服务器和从代理服务器进行健康状态检测，根据所述健康状态转发所述客户端发送的请求；
所述主代理服务器或从代理服务器根据媒体服务器的负载状态将所述客户端发送的请求转发给媒体服务器中的一个。
根据本发明的一种优选实施方式，所述对主代理服务器和从代理服务器进行健康状态检测具体为：
持续性地向所述主代理服务器和所述从代理服务器发送健康检测消息，判断所述主代理服务器和所述从代理服务器是否在规定时间内返回健康检测应答消息，如果未返回所述健康检测应答消息则确定该代理服务器健康状态异常。
根据本发明的一种优选实施方式，所述健康检测采用心跳协议进行检测。
根据本发明的一种优选实施方式，根据所述健康状态转发所述客户端发送的请求具体为：
当所述主代理服务器健康状态正常时，将所述客户端发送的请求转发给所述主代理服务器，当所述主代理服务器健康状态异常时，将所述客户端发送的请求转发给所述从代理服务器。
根据本发明的一种优选实施方式，设置所述主代理服务器和所述从代理服务器的优先级，当所述主代理服务器健康状态正常时，所述主代理服务器的优先级高于所述从代理服务器，当所述主代理服务器健康状态异常时，降低所述主代理服务器的优先级，提高所述从代理服务器的优先级。
根据本发明的一种优选实施方式，所述从代理服务器为多个。
根据本发明的一种优选实施方式，所述主代理服务器和所述从代理服务器为虚拟服务器。
本发明的第三方面提供一种支持高并发的服务器集群***的控制装置，装置包括：
接收模块，用于接收客户端发送的请求；
转发模块，用于对主代理服务器和从代理服务器进行健康状态检测，根据所述健康状态转发所述客户端发送的请求；
负载均衡模块，所述主代理服务器或从代理服务器根据媒体服务器的负载状态将所述客户端发送的请求转发给媒体服务器中的一个。
根据本发明的一种优选实施方式，所述对主代理服务器和从代理服务器进行健康状态检测具体为：
持续性地向所述主代理服务器和所述从代理服务器发送健康检测消息，判断所述主代理服务器和所述从代理服务器是否在规定时间内返回健康检测应答消息，如果未返回所述健康检测应答消息则确定该代理服务器健康状态异常。
根据本发明的一种优选实施方式，所述健康检测采用心跳协议进行检测。
根据本发明的一种优选实施方式，根据所述健康状态转发所述客户端发送的请求具体为：
当所述主代理服务器健康状态正常时，将所述客户端发送的请求转发给所述主代理服务器，当所述主代理服务器健康状态异常时，将所述客户端发送的请求转发给所述从代理服务器。
根据本发明的一种优选实施方式，设置所述主代理服务器和所述从代理服务器的优先级，当所述主代理服务器健康状态正常时，所述主代理服务器的优先级高于所述从代理服务器，当所述主代理服务器健康状态异常时，降低所述主代理服务器的优先级，提高所述从代理服务器的优先级。
根据本发明的一种优选实施方式，所述从代理服务器为多个。
根据本发明的一种优选实施方式，所述主代理服务器和所述从代理服务器为虚拟服务器。
本发明的第四方面提供一种计算机可读介质，用于存储计算机可读程序，所述计算机可读程序用于执行所述的支持高并发的服务器集群***的控制方法。
采用该技术方案，通过代理服务器对媒体服务器的负载均衡进行控制，使得服务器集群支持高并发，通过切换路由控制代理服务器的切换保证***的稳定性。
附图说明
为了使本发明所解决的技术问题、采用的技术手段及取得的技术效果更加清楚，下面将参照附图详细描述本发明的具体实施例。但需声明的是，下面描述的附图仅仅是本发明的示例性实施例的附图，对于本领域的技术人员来讲，在不付出创造性劳动的前提下，可以根据这些附图获得其他实施例的附图。
图1是本发明实施例中一种支持高并发的服务器集群***的结构示意图；
图2是本发明实施例中一种支持高并发的服务器集群***的流程示意图；
图3是本发明实施例中从第三方平台异步获取用户属性信息的装置的结构示意图；
图4是本发明实施例中从第三方平台异步获取用户属性信息的***的结构框架示意图；
图5是根据一示例性实施例示出的一种电子设备的框图。
图6是本发明实施例中计算机可读存储介质的结构示意图。
具体实施方式
现在将参考附图来更加全面地描述本发明的示例性实施例，虽然各示例性实施例能够以多种具体的方式实施，但不应理解为本发明仅限于在此阐述的实施例。相反，提供这些示例性实施例是为了使本发明的内容更加完整，更加便于将发明构思全面地传达给本领域的技术人员。
在符合本发明的技术构思的前提下，在某个特定的实施例中描述的结构、性能、效果或者其他特征可以以任何合适的方式结合到一个或更多其他的实施例中。
在对于具体实施例的介绍过程中，对结构、性能、效果或者其他特征的细节描述是为了使本领域的技术人员对实施例能够充分理解。但是，并不排除本领域技术人员可以在特定情况下，以不含有上述结构、性能、效果或者其他特征的技术方案来实施本发明。
附图中的流程图仅是一种示例性的流程演示，不代表本发明的方案中必须包括流程图中的所有的内容、操作和步骤，也不代表必须按照图中所显示的的顺序执行。例如，流程图中有的操作/步骤可以分解，有的操作/ 步骤可以合并或部分合并，等等，在不脱离本发明的发明主旨的情况下，流程图中显示的执行顺序可以根据实际情况改变。
附图中的框图一般表示的是功能实体，并不一定必然与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理单元装置和/或微控制器装置中实现这些功能实体。
各附图中相同的附图标记表示相同或类似的元件、组件或部分，因而下文中可能省略了对相同或类似的元件、组件或部分的重复描述。还应理解，虽然本文中可能使用第一、第二、第三等表示编号的定语来描述各种器件、元件、组件或部分，但是这些器件、元件、组件或部分不应受这些定语的限制。也就是说，这些定语仅是用来将一者与另一者区分。例如，第一器件亦可称为第二器件，但不偏离本发明实质的技术方案。此外，术语“和/或”、“及/或”是指包括所列出项目中的任一个或多个的所有组合。
图1是本发明一种支持高并发的服务器集群***的结构示意图，如图 1所示，本发明的服务器集群***100包括：
多个媒体服务器101，用于处理客户端105发送的请求。
媒体服务器支持多种通讯技术标准，包括SIP,H.323,IAX2以及 GoogleTalk等协议，可以方便的与sipX，OpenPBX，Bayonne，YATE或者Asterisk等交换机***进行对接，可以为音频、视频、文字或任何其他形式的媒体，提供路由和互连通信协议。
媒体服务器101在处理通话过程中的媒体交换(主要为语音流交换)，并具有以下功能：
支持DTMF信号的采集与解码：按照控制设备发来的相关操作参数的规定，从DTMF话机上接收DTMF信号，封装在信令中传输给控制设备；
录音通知的发送：按照控制设备的要求，用规定的语音向用户播放规定的录音通知；
不同编码算法之间的转换：支持G.711、G.722、G.722、G.726、G.729 等多种语音编解码算法，并可实现编解码算法之间的转换；
自动语音合成：将若干语音元素或字段级连起来构成一条完整的语音提示通知(固定的或可变的)；
动态语音播放与录制：如音乐保持，Follow-me语音服务等；
音信号的产生与发送：可以提供拨号音、忙音、回铃音、等待音和空号音等基本信号音；
资源维护与管理：以本地、远程两种方式，提供对媒体资源以及设备本身的维护、管理，如数据配置、故障管理。
主代理服务器102，与所述多个媒体服务器101连接，对所述多个媒体服务器101进行负载均衡控制，根据所述多个媒体服务器101的负载状态将所述客户端105发送的请求转发到所述多个媒体服务器101中的一个。
在本实施方式中，主代理服务器102用于对多个媒体服务器101进行负载均衡控制，避免媒体服务器101中的某个由于负载过大发生故障，从而对整个***造成数据流量的损失。通过主代理服务器或从代理服务器对媒体服务器进行负载均衡控制，使得服务器集群能够支持高并发业务。
在本实施方式中，主代理服务器102定期获取多个媒体服务器101的负载状态，根据媒体服务器101的负载状态赋予优先权值，负载越小优先权值越高。主代理服务器102优先向优先权值高的媒体服务器转发客户端 105发送的请求。
从代理服务器103，与所述多个媒体服务器101连接，作为主代理服务器102的备用服务器。
在本实施方式中，为了提高***的安全性，避免主代理服务器102出现故障，无法对多个媒体服务器101进行负载均衡控制，设置从代理服务器103，如果主代理服务器102出现故障时，则由从代理服务器103执行对多个媒体服务器101的负载控制。
在上述技术方案的基础上，进一步地，所述从代理服务器103为多个。
切换路由104，与所述主代理服务器102和所述从代理服务器103连接，对所述主代理服务器102和所述从代理服务器103进行健康检测，将接收到的所述客户端105发送的请求转发给所述主代理服务器102或所述从代理服务器103。
在上述技术方案的基础上，进一步地，对所述主代理服务器102和所述从代理服务器103进行健康检测具体为：切换路由104持续性地向所述主代理服务器102和所述从代理服务器103发送健康检测消息，判断所述主代理服务器102和所述从代理服务器103是否在规定时间内返回健康检测应答消息，如果未返回所述健康检测应答消息则确定该代理服务器健康状态异常。
在本实施方式中，切换路由104定期向主代理服务器102和从代理服务器103发送健康检测消息，主代理服务器102和从代理服务器103收到健康检测消息后向切换路由104返回健康检测应答消息，健康检测应答消息包括工作时长，处理器、内存、硬盘使用情况，入站流量，出站流量等信息。切换路由104根据健康检测应答消息判断主代理服务器102和从代理服务器103的健康状态。如果在规定时间内没有返回健康检测应答消息，说明健康状态异常。
在其他实施方式中，为了保证***的稳定性，可以分别设置工作时长，处理器、内存、硬盘使用情况，入站流量，出站流量等指标的阈值，当超过阈值后，代理服务器的健康状态容易出现异常，切换路由104提前判定响应的代理服务器的健康状态为健康状态异常。
在上述技术方案的基础上，进一步地，所述健康检测采用心跳协议进行检测。
切换路由104还可以采用心跳协议检测主代理服务器102和从代理服务器103的健康状态。切换路由104与主代理服务器102和从代理服务器 103保持心跳，如果连续多个心跳包未收到响应说明健康状态异常。
在上述技术方案的基础上，进一步地，将接收到的所述客户端105发送的请求转发给所述主代理服务器102或所述从代理服务器103具体为：当所述主代理服务器102健康状态正常时，所述切换路由104将所述客户端105发送的请求转发给所述主代理服务器102，当所述主代理服务器102 健康状态异常时，将所述客户端105发送的请求转发给所述从代理服务器 103。
在本实施方式中，当主代理服务器102的健康状态被确定为健康状态异常时，切换路由104将客户端105发送的请求转发给从代理服务器103。如果从代理服务器103为多个，则将客户端105发送的请求转发给健康状态正常的从代理服务器103中的一个。
在上述技术方案的基础上，进一步地，在所述切换路由104中设置所述主代理服务器102和所述从代理服务器103的优先级，当所述主代理服务器102健康状态正常时，所述主代理服务器102的优先级高于所述从代理服务器103，当所述主代理服务器102健康状态异常时，降低所述主代理服务器102的优先级，提高所述从代理服务器103的优先级。
在本实施方式中，预先在切换路由104中设置主代理服务器102的优先级为9，从代理服务器103的优先级为6。当主代理服务器102的健康状态异常时，将主代理服务器102的优先级调整为5，将从代理服务器103 的优先级调整为9。切换路由104在接收到客户端105发送的请求后将请求转发给优先级高的主代理服务器102或从代理服务器103。
在上述技术方案的基础上，进一步地，所述主代理服务器102和所述从代理服务器103为虚拟服务器。
在本实施方式中，为了降低维护成本和硬件资源，主代理服务器102 和从代理服务器103采用虚拟服务器。在其他实施方式中，为了提高***整体的安全性和稳定性，也可以采用云服务器。
如图2所示，在本实施例中还提供了一种支持高并发的服务器集群***的控制方法，方法包括：
S201，接收客户端发送的请求。
S202，对主代理服务器和从代理服务器进行健康状态检测，根据所述健康状态转发所述客户端发送的请求。
在上述技术方案的基础上，进一步地，所述对主代理服务器和从代理服务器进行健康状态检测具体为：持续性地向所述主代理服务器和所述从代理服务器发送健康检测消息，判断所述主代理服务器和所述从代理服务器是否在规定时间内返回健康检测应答消息，如果未返回所述健康检测应答消息则确定该代理服务器健康状态异常。
在本实施方式中，切换路由定期向主代理服务器和从代理服务器发送健康检测消息，主代理服务器和从代理服务器收到健康检测消息后向切换路由返回健康检测应答消息，健康检测应答消息包括工作时长，处理器、内存、硬盘使用情况，入站流量，出站流量等信息。切换路由根据健康检测应答消息判断主代理服务器和从代理服务器的健康状态。如果在规定时间内没有返回健康检测应答消息，说明健康状态异常。
在其他实施方式中，为了保证***的稳定性，可以分别设置工作时长，处理器、内存、硬盘使用情况，入站流量，出站流量等指标的阈值，当超过阈值后，代理服务器的健康状态容易出现异常，切换路由提前判定响应的代理服务器的健康状态为健康状态异常。
在上述技术方案的基础上，进一步地，所述健康检测采用心跳协议进行检测。
在上述技术方案的基础上，进一步地，根据所述健康状态转发所述客户端发送的请求具体为：当所述主代理服务器健康状态正常时，将所述客户端发送的请求转发给所述主代理服务器，当所述主代理服务器健康状态异常时，将所述客户端发送的请求转发给所述从代理服务器。
在上述技术方案的基础上，进一步地，设置所述主代理服务器和所述从代理服务器的优先级，当所述主代理服务器健康状态正常时，所述主代理服务器的优先级高于所述从代理服务器，当所述主代理服务器健康状态异常时，降低所述主代理服务器的优先级，提高所述从代理服务器的优先级。
在上述技术方案的基础上，进一步地，所述从代理服务器为多个。
在上述技术方案的基础上，进一步地，所述主代理服务器和所述从代理服务器为虚拟服务器。
S203，所述主代理服务器或从代理服务器根据媒体服务器的负载状态将所述客户端发送的请求转发给媒体服务器中的一个。
在本实施方式中，主代理服务器用于对多个媒体服务器进行负载均衡控制，避免媒体服务器中的某个由于负载过大发生故障，从而对整个***造成数据流量的损失。
在本实施方式中，主代理服务器定期获取多个媒体服务器的负载状态，根据媒体服务器的负载状态赋予优先权值，负载越小优先权值越高。主代理服务器优先向优先权值高的媒体服务器转发客户端发送的请求。
在本实施方式中，为了提高***的安全性，避免主代理服务器出现故障，无法对多个媒体服务器进行负载均衡控制，设置从代理服务器，如果主代理服务器出现故障时，则由从代理服务器执行对多个媒体服务器的负载控制。
实施例一：
下面通过一个实施例对上述方法进行进一步解释，如图3所示，方法包括：
S301，客户端发送请求到切换路由；
S302，切换路由预设主代理服务器优先级为9，从代理服务器的优先级为6，判断主代理服务器和从代理服务器的健康状态，如果主代理服务器的健康状态正常则执行步骤S303，如果主代理服务器的健康状态异常则执行步骤S304；
S303，主代理服务器的优先级不变，切换路由将客户端发送的请求转发至主代理服务器，主代理服务器获取媒体服务器的负载状态，将客户端发送的请求发送到负载最轻的媒体服务器；
S304，主代理服务器的优先级调整为5，从代理服务器的优先级调整为9，切换路由将客户端发送的请求转发至从代理服务器，从代理服务器获取媒体服务器的负载状态，将客户端发送的请求发送到负载最轻的媒体服务器；
S305，媒体服务器处理客户端发送的请求。
如图4所示，在本实施例中还提供了一种支持高并发的服务器集群***的控制装置400，包括：
接收模块401，用于接收客户端发送的请求。
转发模块402，用于对主代理服务器和从代理服务器进行健康状态检测，根据所述健康状态转发所述客户端发送的请求。
在上述技术方案的基础上，进一步地，所述对主代理服务器和从代理服务器进行健康状态检测具体为：持续性地向所述主代理服务器和所述从代理服务器发送健康检测消息，判断所述主代理服务器和所述从代理服务器是否在规定时间内返回健康检测应答消息，如果未返回所述健康检测应答消息则确定该代理服务器健康状态异常。
在本实施方式中，切换路由定期向主代理服务器和从代理服务器发送健康检测消息，主代理服务器和从代理服务器收到健康检测消息后向切换路由返回健康检测应答消息，健康检测应答消息包括工作时长，处理器、内存、硬盘使用情况，入站流量，出站流量等信息。切换路由根据健康检测应答消息判断主代理服务器和从代理服务器的健康状态。如果在规定时间内没有返回健康检测应答消息，说明健康状态异常。
在其他实施方式中，为了保证***的稳定性，可以分别设置工作时长，处理器、内存、硬盘使用情况，入站流量，出站流量等指标的阈值，当超过阈值后，代理服务器的健康状态容易出现异常，切换路由提前判定响应的代理服务器的健康状态为健康状态异常。
在上述技术方案的基础上，进一步地，所述健康检测采用心跳协议进行检测。
在上述技术方案的基础上，进一步地，根据所述健康状态转发所述客户端发送的请求具体为：当所述主代理服务器健康状态正常时，将所述客户端发送的请求转发给所述主代理服务器，当所述主代理服务器健康状态异常时，将所述客户端发送的请求转发给所述从代理服务器。
在上述技术方案的基础上，进一步地，设置所述主代理服务器和所述从代理服务器的优先级，当所述主代理服务器健康状态正常时，所述主代理服务器的优先级高于所述从代理服务器，当所述主代理服务器健康状态异常时，降低所述主代理服务器的优先级，提高所述从代理服务器的优先级。
在上述技术方案的基础上，进一步地，所述从代理服务器为多个。
在上述技术方案的基础上，进一步地，所述主代理服务器和所述从代理服务器为虚拟服务器。
负载均衡模块403，所述主代理服务器或从代理服务器根据媒体服务器的负载状态将所述客户端发送的请求转发给媒体服务器中的一个。
在本实施方式中，主代理服务器用于对多个媒体服务器进行负载均衡控制，避免媒体服务器中的某个由于负载过大发生故障，从而对整个***造成数据流量的损失。
在本实施方式中，主代理服务器定期获取多个媒体服务器的负载状态，根据媒体服务器的负载状态赋予优先权值，负载越小优先权值越高。主代理服务器优先向优先权值高的媒体服务器转发客户端发送的请求。
在本实施方式中，为了提高***的安全性，避免主代理服务器出现故障，无法对多个媒体服务器进行负载均衡控制，设置从代理服务器，如果主代理服务器出现故障时，则由从代理服务器执行对多个媒体服务器的负载控制。
如图5所示，本发明的一个实施例中还公开一种支持高并发的服务器集群的控制***，图5显示的支持高并发的服务器集群的控制***仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
支持高并发的服务器集群的控制***500，包括存储单元520，用于存储计算机可执行程序；处理单元510，用于读取所述存储单元中的计算机可执行程序，以执行本发明各种实施方式的步骤。
在本实施方式中支持高并发的服务器集群的控制***500还包括，连接不同***组件(包括存储单元520和处理单元510)的总线530、显示单元540等。
其中，所述存储单元520存储有计算机可读程序，其可以是源程序或都只读程序的代码。所述程序可以被处理单元510执行，使得所述处理单元510执行本发明各种实施方式的步骤。例如，所述处理单元510可以执行如图2所示的步骤。
所述存储单元520可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)5201和/或高速缓存存储单元5202，还可以进一步包括只读存储单元(ROM)5203。所述存储单元520还可以包括具有一组(至少一个)程序模块5205的程序/实用工具5204，这样的程序模块5205 包括但不限于：操作***、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线530可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
支持高并发的服务器集群的控制***500也可以与一个或多个外部设备570(例如键盘、显示器、网络设备、蓝牙设备等)通信，使得用户能经由这些外部设备570通过输入/输出(I/O)接口550进行与处理单元510 进行交互，还可以通过网络适配器560与一个或者多个网络(例如局域网 (LAN)，广域网(WAN)和/或公共网络，例如因特网)进行。网络适配器560可以通过总线530与支持高并发的服务器集群的控制***500的其它模块通信。应当明白，尽管图中未示出，支持高并发的服务器集群的控制***500中可使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储***等。
图6是本发明的一个计算机可读介质实施例的示意图。如图6所示，所述计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储单元(RAM)、只读存储单元(ROM)、可擦式可编程只读存储单元(EPROM或闪存)、光纤、便携式紧凑盘只读存储单元(CD-ROM)、光存储单元件、磁存储单元件、或者上述的任意合适的组合。当所述计算机程序被一个或多个数据处理设备执行时，使得该计算机可读介质能够实现本发明的上述方法，即：
S201，接收客户端发送的请求；
S202，对主代理服务器和从代理服务器进行健康状态检测，根据所述健康状态转发所述客户端发送的请求；
S203，所述主代理服务器或从代理服务器根据媒体服务器的负载状态将所述客户端发送的请求转发给媒体服务器中的一个。
通过以上的实施方式的描述，本领域的技术人员易于理解，本发明描述的示例性实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个计算机可读的存储介质(可以是 CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台数据处理设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如 Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上所述，本发明可以执行计算机程序的方法、装置、电子设备或计算机可读介质来实现。可以在实践中使用微处理单元或者数字信号处理单元(DSP)等通用数据处理设备来实现本发明的一些或者全部功能。
以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，本发明不与任何特定计算机、虚拟装置或者电子设备固有相关，各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种支持高并发的服务器集群***，其特征在于，***包括：
多个媒体服务器，用于处理客户端发送的请求；
主代理服务器，与所述多个媒体服务器连接，对所述多个媒体服务器进行负载均衡控制，根据所述多个媒体服务器的负载状态将所述客户端发送的请求转发到所述多个媒体服务器中的一个；
从代理服务器，与所述多个媒体服务器连接，作为主代理服务器的备用服务器；
切换路由，与所述主代理服务器和所述从代理服务器连接，对所述主代理服务器和所述从代理服务器进行健康检测，将接收到的所述客户端发送的请求转发给所述主代理服务器或所述从代理服务器。
2.如权利要求1所述的支持高并发的服务器集群***，其特征在于，对所述主代理服务器和所述从代理服务器进行健康检测具体为：切换路由持续性地向所述主代理服务器和所述从代理服务器发送健康检测消息，判断所述主代理服务器和所述从代理服务器是否在规定时间内返回健康检测应答消息，如果未返回所述健康检测应答消息则确定该代理服务器健康状态异常。
3.如权利要求1-2任一所述的支持高并发的服务器集群***，其特征在于，所述健康检测采用心跳协议进行检测。
4.如权利要求1-3任一所述的支持高并发的服务器集群***，其特征在于，将接收到的所述客户端发送的请求转发给所述主代理服务器或所述从代理服务器具体为：当所述主代理服务器健康状态正常时，所述切换路由将所述客户端发送的请求转发给所述主代理服务器，当所述主代理服务器健康状态异常时，将所述客户端发送的请求转发给所述从代理服务器。
5.如权利要求1-4中任一所述的支持高并发的服务器集群***，其特征在于，在所述切换路由中设置所述主代理服务器和所述从代理服务器的优先级，当所述主代理服务器健康状态正常时，所述主代理服务器的优先级高于所述从代理服务器，当所述主代理服务器健康状态异常时，降低所述主代理服务器的优先级，提高所述从代理服务器的优先级。
6.如权利要去1-5中任一所述的支持高并发的服务器集群***，其特征在于，所述从代理服务器为多个。
7.如权利要求1-6中任一权利要求所述的支持高并发的服务器集群***，其特征在于，所述主代理服务器和所述从代理服务器为虚拟服务器。
8.一种支持高并发的服务器集群的控制方法，其特征在于，方法包括：
接收客户端发送的请求；
对主代理服务器和从代理服务器进行健康状态检测，根据所述健康状态转发所述客户端发送的请求；
所述主代理服务器或从代理服务器根据媒体服务器的负载状态将所述客户端发送的请求转发给媒体服务器中的一个。
9.一种支持高并发的服务器集群的控制装置，其特征在于，装置包括：
接收模块，用于接收客户端发送的请求；
转发模块，用于对主代理服务器和从代理服务器进行健康状态检测，根据所述健康状态转发所述客户端发送的请求；
负载均衡模块，所述主代理服务器或从代理服务器根据媒体服务器的负载状态将所述客户端发送的请求转发给媒体服务器中的一个。
10.一种计算机可读介质，用于存储计算机可读程序，其特征在于，所述计算机可读程序用于执行权利要求1至7中任一项所述的支持高并发的服务器集群***的控制方法。
CN201911290315.3A 2019-12-16 2019-12-16 一种支持高并发的服务器集群***及控制方法、控制装置 Pending CN111198762A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911290315.3A CN111198762A (zh) 2019-12-16 2019-12-16 一种支持高并发的服务器集群***及控制方法、控制装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911290315.3A CN111198762A (zh) 2019-12-16 2019-12-16 一种支持高并发的服务器集群***及控制方法、控制装置

Publications (1)

Publication Number Publication Date
CN111198762A true CN111198762A (zh) 2020-05-26

Family

ID=70746531

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911290315.3A Pending CN111198762A (zh) 2019-12-16 2019-12-16 一种支持高并发的服务器集群***及控制方法、控制装置

Country Status (1)

Country Link
CN (1) CN111198762A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112883097A (zh) * 2021-03-12 2021-06-01 北京格瑞拉科技有限公司 基于服务器的数据处理方法、服务器集群及服务***
CN115361277A (zh) * 2022-07-08 2022-11-18 天津车之家软件有限公司 通用集群***部署方法、装置、设备及介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101001365A (zh) * 2007-01-19 2007-07-18 北京华纬讯电信技术有限公司 实现视频业务中媒体流均衡调度的方法
CN107018159A (zh) * 2016-01-27 2017-08-04 五八同城信息技术有限公司 业务请求处理方法及装置、和业务请求方法及装置
CN108234191A (zh) * 2017-05-31 2018-06-29 深圳市创梦天地科技有限公司 云计算平台的管理方法和装置
CN108322502A (zh) * 2017-12-22 2018-07-24 杭州大搜车汽车服务有限公司 用于均衡服务器负载的方法、网关***和存储介质
CN110177028A (zh) * 2019-05-30 2019-08-27 北京字节跳动网络技术有限公司 分布式健康检查方法及装置
CN110417842A (zh) * 2018-04-28 2019-11-05 北京京东尚科信息技术有限公司 用于网关服务器的故障处理方法和装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101001365A (zh) * 2007-01-19 2007-07-18 北京华纬讯电信技术有限公司 实现视频业务中媒体流均衡调度的方法
CN107018159A (zh) * 2016-01-27 2017-08-04 五八同城信息技术有限公司 业务请求处理方法及装置、和业务请求方法及装置
CN108234191A (zh) * 2017-05-31 2018-06-29 深圳市创梦天地科技有限公司 云计算平台的管理方法和装置
CN108322502A (zh) * 2017-12-22 2018-07-24 杭州大搜车汽车服务有限公司 用于均衡服务器负载的方法、网关***和存储介质
CN110417842A (zh) * 2018-04-28 2019-11-05 北京京东尚科信息技术有限公司 用于网关服务器的故障处理方法和装置
CN110177028A (zh) * 2019-05-30 2019-08-27 北京字节跳动网络技术有限公司 分布式健康检查方法及装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112883097A (zh) * 2021-03-12 2021-06-01 北京格瑞拉科技有限公司 基于服务器的数据处理方法、服务器集群及服务***
CN112883097B (zh) * 2021-03-12 2024-02-20 北京格瑞拉科技有限公司 基于服务器的数据处理方法、服务器集群及服务***
CN115361277A (zh) * 2022-07-08 2022-11-18 天津车之家软件有限公司 通用集群***部署方法、装置、设备及介质
CN115361277B (zh) * 2022-07-08 2023-06-20 天津车之家软件有限公司 通用集群***部署方法、装置、设备及介质

Similar Documents

Publication Publication Date Title
US10547530B2 (en) Fault tolerant distributed mobile architecture
EP3577952B1 (en) Method and system for selection of an access and mobility management function in an access network environment
EP3068157B1 (en) Network management
US11003516B2 (en) Geographical redundancy and dynamic scaling for virtual network functions
CN111357257B (zh) 用于对媒体服务器实例进行负载均衡的***和方法
US9872148B2 (en) Adaptive mobile wireless call rescue
CN109542659A (zh) 应用多活方法、设备、数据中心集群及可读存储介质
CN110839084A (zh) 会话管理方法、装置、设备和介质
US20150180909A1 (en) Communication system, communication method, and call control server
US9992343B2 (en) Text translation of an audio recording during recording capture
CN111198762A (zh) 一种支持高并发的服务器集群***及控制方法、控制装置
WO2024104395A1 (zh) 通信服务***、通信服务的实现方法、设备及存储介质
US20220247811A1 (en) Balance of load
CN108513320B (zh) 一种编解码协商的方法及装置
CN105376761B (zh) 建立通话连接的方法、装置和通话***
EP3107231B1 (en) Data processing method and device
CN114301789B (zh) 数据传输方法及装置、存储介质、电子设备
JP7334785B2 (ja) 運用管理装置、システム、方法及びプログラム
CN111246030B (zh) 一种号码有效性判断的方法、装置和***
CN112671883A (zh) 多功能消息通知***设计方法
CN111147366A (zh) 一种自动线路切换的方法、装置和***
US9083807B2 (en) System for connecting two client entities
CN110764932A (zh) 数据处理方法、***、介质和计算设备
CN113596079B (zh) 网络***、回源容灾方法及设备
JP6782665B2 (ja) 通信システム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination