CN112202918B - 长连接通信的负载调度方法、装置、设备及存储介质 - Google Patents

Abstract

本发明涉及长连接通信领域，公开了一种长连接通信的负载调度方法、装置、设备及存储介质，所述负载调度方法包括：接收客户端发送的建立长连接的请求；接收所有长连接服务器定时上报的状态信息；根据所有长连接服务器的状态信息返回至少一台长连接服务器的地址发送至所述客户端；调度所述客户端与选取的长连接服务器建立长连接。本发明的负载调度方法，在接收客户端发送的建立长连接的请求后，响应的是返回至少一台长连接服务器的连接地址，这样客户端就可以选择连接的长连接服务器，避免了客户端采用固定方式接入长连接服务器，导致建立长连接后稳定性差的问题，并且可以通过对长连接服务器进行横向扩展，突破了客户端连接数量上限的瓶颈。

Description

长连接通信的负载调度方法、装置、设备及存储介质

技术领域

本发明涉及长连接负载均衡领域，尤其涉及一种长连接通信的负载调度方法、装置、设备及存储介质。

背景技术

长连接，是指在一个连接上可以连续发送多个数据包，其多用于操作频繁、点对点、且连接数不多的通讯场景之下，例如手机推送服务，就是事先建立一条手机客户端与服务器的连接链路，当有消息需要发送到手机时，直接通过此链路发送即可。

由于不同运营商或者同一运营商在不同地区所采用的网关策略存在差异性，而目前客户端无论在何种网络环境下，均只采用一种固定的接入方式与服务器建立长连接，无法保证长连接的稳定性。

发明内容

本发明的主要目的在于解决的是客户端只采用一种固定的接入方式与服务器建立长连接，无法保证长连接稳定性的技术问题。

本发明第一方面提供了一种长连接通信的负载调度方法，其中，所述负载调度方法包括步骤：

接收客户端发送的建立长连接的请求；

接收所有长连接服务器定时上报的状态信息；

根据所有长连接服务器的状态信息返回至少一台长连接服务器的地址发送至所述客户端；

调度所述客户端与选取的长连接服务器建立长连接。

可选的，在本发明第一方面的第一种实现方式中，所述接收所有长连接服务器定时上报的状态信息具体包括：

预设一数据库，并在所述数据库中建立状态信息表；

接收长连接服务器以心跳包的形式上报的状态信息，所述状态信息包括长连接服务器的IP信息及长连接服务器的负载信息；

根据接收到的所述长连接服务器的IP信息将所述长连接服务器的负载信息写入所述状态信息表的对应位置。

可选的，在本发明第一方面的第二种实现方式中，所述步骤根据所有长连接服务器的状态信息返回至少一台长连接服务器的连接地址发送至所述客户端具体包括：

剔除不符合预设条件的长连接服务器，并对剩余的长连接服务器进行排序；

选择排序靠前的至少一台长连接服务器的连接地址发送至所述客户端。

可选的，在本发明第一方面的第三种实现方式中，所述步骤调度所述客户端与选取的长连接服务器建立长连接具体包括：

获取排序靠前的至少一台长连接服务器的运营商信息；

选取与所述客户端的运营商相同的其中一台长连接服务器建立长连接。

可选的，在本发明第一方面的第四种实现方式中，所述剔除不符合预设条件的长连接服务器具体包括：

剔除已经不服务的长连接服务器；

剔除cpu和内存负载超过阈值的长连接服务器；

剔除客户端连接数已经超过最大支持连接数的长连接服务器。

可选的，在本发明第一方面的第五种实现方式中，所述对剩余的长连接服务器进行排序具体包括：

获取剩余的长连接服务器的网络连接质量；

按照网络连接质量由高到低依次对剩余的长连接服务器进行排序。

可选的，在本发明第一方面的第六种实现方式中，所述获取剩余的长连接服务器的网络连接质量具体包括：

接收所述客户端发送的长连接服务器的网络质量信息；

根据所述客户端发送的长连接服务器的网络质量信息得到剩余的长连接服务器的网络连接质量。

本发明第二方面提供了一种调度装置，其中，所述调度装置包括：

接收模块，用于接收客户端发送的建立长连接的请求；

收集模块，接收所有长连接服务器定时上报的状态信息；

处理模块，根据所有长连接服务器的状态信息返回至少一台长连接服务器的连接地址发送至所述客户端；

调度模块，用于调度所述客户端与选取的长连接服务器建立长连接。

本发明第三方面提供了一种调度设备，其中，所述调度设备包括：存储器和至少一个处理器，所述存储器中存储有指令，所述存储器和所述至少一个处理器通过线路互连；

所述至少一个处理器调用所述存储器中的所述指令，以使得所述调度设备执行如上述任一项所述的负载调度方法。

本发明的第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如上述任一项所述的负载调度方法。

附图说明

图1为本发明长连接通信的负载调度方法的第一个实施例示意图；

图2为本发明长连接通信的负载调度方法的第二个实施例示意图；

图3为本发明长连接通信的负载调度方法的第三个实施例示意图；

图4为本发明长连接通信的负载调度***的一个实施例示意图；

图5为本发明长连接通信的负载调度方法的一种示例性的通讯过程图；

图6为本发明长连接通信的调度装置的一个实施例示意图；

图7为本发明长连接通信的调度设备的一个实施例示意图。

具体实施方式

本发明实施例提供了一种长连接通信的负载调度方法、装置、设备及存储介质。

本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等（如果存在）是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外，术语“包括”或“具有”及其任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

为便于理解，下面对本发明实施例的具体流程进行描述，需要说明的是实施本发明以下方法的执行主体包括硬件和软件，本发明技术方案在此不限定，以下以执行主体为调度服务器为例进行说明，请参阅图1，本发明实施例中长连接通信的负载调度方法的一个实施例包括：

101、接收客户端发送的建立长连接的请求；

在本实施例中，客户端发送的请求的内容包括设备的标识(物理地址，设备标识，认证参数等)和待选的长连服务器的连接质量(主要是网络延时)，其中，设备的标识主要用于后续查询调度服务器的缓存中是否存储有客户端的身份信息，若调度服务器的缓存中存储有客户端的身份信息，则判定长连接服务器与客户端建立了长连接。

102、接收所有长连接服务器定时上报的状态信息；

本实施例中，长连接服务器会定时上报长连接服务器状态(包括支持的最大连接数，当前的连接数，服务器处理器使用状态，服务器内存使用状态，服务器所在的机房，服务器运营商，服务器地址)到调度服务器，这样长连接服务器就有了所有长连接服务器的服务器状态，在另一种场景中，当长连接服务器状态异常，比如连接数超过了支持的最大连接数，服务器内存使用过高，或者服务器死机时候，调度服务器能很快感知到，这样调度服务器还可以很快将后续的连接调度到其它长连接服务器。

103、根据所有长连接服务器的状态信息返回至少一台长连接服务器的连接地址发送至所述客户端。

具体来说，伴随着互联网技术的不断发展，长连接服务器面对的访问数量大大增加并且更加不可预知。在网络中，如果仅使用一个长连接服务器对客户端提供服务，那么，长连接服务器的处理能力和输入输出能力必然会成为提供服务的瓶颈，在负载均衡技术中，调度服务器在接收到客户端的访问请求时，必须选择为客户端提供服务的长连接服务器，而在目前，随着用户对业务服务质量要求的不断提升，用户在通过客户端发出访问请求后，在很短的时间内便可接收到服务器响应的报文。这样，则要求负载均衡设备在选择服务器时，必须考虑服务器当前的负载情况，必须考虑所选服务器是否能够在最短时间内响应客户端。

本实施例中，调度服务器可以根据所有长连接服务器的状态，筛选得到适合与客户端连接的长连接服务器，返回至少一台长连接服务器的连接地址至客户端，这样就可以保证客户端与长连接服务器连接后的稳定性是较佳的。

104、调度所述客户端与选取的长连接服务器建立长连接。

在本实施例中，客户端收到调度服务器的响应后，可以在调度服务器返回的长连接服务器的连接地址中随机选取一个长连接服务器建立长连接，当然也可以按照预设的选取规则选择一个长连接服务器建立长连接。

本发明的长连接通信的负载调度方法，在接收客户端发送的建立长连接的请求后，得到的响应是返回至少一台长连接服务器的连接地址，这样客户端就可以选择连接的长连接服务器，这样一方面避免了客户端采用固定的接入长连接服务器，稳定性差的问题，另一方面本发明负载调度方法可以支持长连接服务器的横向扩展，可以通过增加长连接服务器来实现***并发能力的提升，从而有效的解决长连接服务器中所存在的客户端连接数量上限和容易发生单点故障的问题。

在一种可选的实施方式中，所述接收所有长连接服务器定时上报的状态信息具体包括：

预设一数据库，并在所述数据库中建立状态信息表；

接收长连接服务器以心跳包的形式上报的状态信息，所述状态信息包括长连接服务器的IP信息及长连接服务器的负载信息；

根据接收到的所述长连接服务器的IP信息将所述长连接服务器的负载信息写入所述状态信息表的对应位置。

在本实施例中，通过调度服务器周期性地发送记录有长连接服务器的IP信息和负载信息的心跳包至数据库，数据库将心跳包的相关数据对应写入状态信息表中，这样便可通过数据库中状态信息表掌握每个服务器的负载信息，建立长连接时，周期性从数据库中获取状态信息表，并进行统计分析，便可得到每个服务器经过统计分析得到的负载情况，作为合理调度客户端与长连接服务器连接的参考依据。

在一种可选的实施方式中，可以依据预设工作模式选择对应的长连接服务器与客户端建立连接，能够实现根据实际需要灵活地选择合适的工作模式进行设定，设定后的调度服务器将依据设定的工作模式分配长连接服务器的IP地址供客户端连接，当然本发明技术方案不局限于上述一种固定的分配方式。

参见图2，在一种可选的实施方式中，本发明长连接通信的负载调度方法的步骤103的一个实施例具体包括：

301、剔除不符合预设条件的长连接服务器，并对剩余的长连接服务器进行排序；

302、选择排序靠前的至少一台长连接服务器的连接地址发送至所述客户端。

在一种可选的实施方式中，本发明长连接通信的负载调度方法的步骤301中“剔除不符合预设条件的长连接服务器”的一个实施例具体包括：

剔除已经不服务的长连接服务器；

剔除cpu和内存负载超过阈值的长连接服务器；

剔除客户端连接数已经超过最大支持连接数的长连接服务器。

在一种可选的实施方式中，本发明长连接通信的负载调度方法的“对剩余的长连接服务器进行排序”的一个实施例具体包括：

获取剩余的长连接服务器的网络连接质量；

本实施例中，获取长连接服务器网络质量的方法包括通过客户端向长连接服务器发送报文，接收长连接服务器返回的报文，根据长连接服务器返回的报文计算网络丢包率和/或网络延时。

按照网络连接质量由高到低依次对剩余的长连接服务器进行排序。

本实施例中，排序之前还包括对长连接服务器的网络连接质量进行分级处理，比如按照网络延时的长短分为高中低三级，排序的过程中只对网络延时低的长连接服务器进行排序，这样可以进一步减少排序的工作量，从而提高排序的速度。

参见图3，在一种可选的实施方式中，本发明长连接通信的负载调度方法的步骤104的一个实施例具体包括：

401、获取排序靠前的至少一台长连接服务器的运营商信息；

本实施例中，由于排序操作后返回的长连接服务器均是网络连接质量较好的长连接服务器，客户端可以随机选择与其中的一台长连接服务器建立长连接，为了更好的通信，还可以考虑客户端和长连接服务器的运营商。

402、选取与所述客户端的运营商相同的其中一台长连接服务器建立长连接。

本实施例中，由于在有比较多的待选长连接服务器时候优先了选择同运营商的服务器，这样客户端和长连接服务器之间具有更好的兼容性，从而可以充分的发挥客户端和长连接服务器之间的通信性能。

在一种可选的实施方式中，本发明长连接通信的负载调度方法的“获取剩余的长连接服务器的网络连接质量”步骤的一个实施例具体包括：

接收所述客户端发送的长连接服务器的网络质量信息；

本实施例中，客户端将报文发送至各个长连接服务器，并在将报文发送至各个长连接服务器时，启动计时器，在收到任意一个长连接服务器返回的 响应报文时，获取对应于该长连接服务器的计时器的当前值，分别将针对各个长连接服务器所获取的计时器的当前值确定为各个长连接服务器的当前响应时间，从而得到长连接服务器的网络质量信息。

根据所述客户端发送的长连接服务器的网络质量信息得到剩余的长连接服务器的网络连接质量。

本实施例中，当调度服务器接收到一个客户端的访问请求报文时，能够选择当前响应时间最短的服务器为客户端服务，而由于服务器对报文的响应时间能够最为准确地反映服务器当前的业务负荷情况，因此，本发明能够保证调度服务器所选的服务器能够在最快时间内响应客户端，即保证客户端在最短的时间内便可接收到服务器响应的报文，从而大大提高了业务服务质量。

在一种可选的实施方式中，本发明技术方案中以调度服务器为执行主体时，对客户端采提供的而服务采用短连接的方式，这是因为采取短连接可以短时间处理很多的调度请求，不会成为限制调度服务器调度性能的瓶颈。

在一种可选的实施方式中，本发明技术方案中以调度服务器为执行主体时，调度服务器还可以代替客户端与长连接服务器建立长连接，客户端底层对断开长连接作相应处理，让上层应用认为长连接一直存在，保持长连接使用的逻辑；客户端需要重新发起与长连接服务器通讯，首先客户端底层找到已经断开的长连接，然后所述客户端与调度服务器重新关联，同时调度服务器修改长连接记录中的连接状态为连接，客户端与长连接服务器的通讯重新建立。

图4为本发明负载调度方法对应的调度***的示意图，所述调度***包括客户端、调度服务器和长连接服务器，其中，长连接服务器以集群的方式部署，一台调度服务器可以设置成至少管理50台以上的长连接服务器，调度服务器在其中的一台或多台长连接服务器出现故障时，能够将客户端自动快速切换到其他未发生故障的长连接服务器上，参见图5，客户端与调度服务器短连接通信后，向调度服务器发送请求长连接服务器地址的指令，调度服务器接收到客户端发送的请求长连接服务器地址的指令后，返回至少一台长连接服务器的连接地址至客户端，客户端接收到调度服务器返回的至少一台长连接服务器的连接地址后，根据实际情况选择其中的一台长连接服务器的连接地址，并根据选择的长连接服务器的连接地址与对应的长连接服务器建立长连接。

本发明主要用于解决长连接服务中连接数量上限和单点故障的问题。本发明支持横向扩展，可以通过增加长连接服务器来实现***总并发能力的提升（增加相同的服务器，扩充整个长连接服务的并发承载能力，在解决了单台服务器可以部署多个节点之后，***的并发性能提升了许多，但是单台服务器可以承载的并发量依然有上限。随着业务的发展，服务器总会有负载达到上限的一天。所以本发明需要添加架构修改模块，使***可以横向扩展，增加相同的服务器，就可以扩充整个长连接服务的并发承载能力。在这种方法，客户端会随机的选择一个服务器地址进行连接，如此就将客户端连接的负载平均的分散在了几个服务器上）。本发明在实现负载均衡和调度时候考虑了客户端和长连接服务器双方的情况，不仅能实现负载均衡，还能更好的让客户端连接到质量最优的长连接服务器。

上面对本发明实施例中长连接通信的负载调度方法进行了描述，下面对本发明实施例中长连接通信的调度装置进行描述，请参阅图6，本发明实施例中长连接通信的调度装置一个实施例包括：

接收模块700，用于接收客户端发送的建立长连接的请求；

收集模块701，接收所有长连接服务器定时上报的状态信息；

处理模块702，根据所有长连接服务器的状态信息返回至少一台长连接服务器的连接地址发送至所述客户端；

调度模块703，用于调度所述客户端与选取的长连接服务器建立长连接。

在一种可选的实施方式中，所述调度装置还包括：

设置模块，预设一数据库，并在所述数据库中建立状态信息表；

第一接收模块，接收长连接服务器以心跳包的形式上报的状态信息，所述状态信息包括长连接服务器的IP信息及长连接服务器的负载信息；

写入模块，根据接收到的所述长连接服务器的IP信息将所述长连接服务器的负载信息写入所述状态信息表的对应位置。

在一种可选的实施方式中，所述调度模块703还可以用于获取排序靠前的至少一台长连接服务器的运营商信息；选取与所述客户端的运营商相同的其中一台长连接服务器建立长连接。

在一种可选的实施方式中，所述处理模块702还可以用于剔除不符合预设条件的长连接服务器，并对剩余的长连接服务器进行排序；选择排序靠前的至少一台长连接服务器的连接地址发送至所述客户端。

在一种可选的实施方式中，所述处理模块702还可以用于剔除已经不服务的长连接服务器；剔除cpu和内存负载超过阈值的长连接服务器；剔除客户端连接数已经超过最大支持连接数的长连接服务器

在一种可选的实施方式中，所述处理模块702还可以用于获取剩余的长连接服务器的网络连接质量；按照网络连接质量由高到低依次对剩余的长连接服务器进行排序。

在一种可选的实施方式中，所述处理模块702还可以用于接收所述客户端发送的长连接服务器的网络质量信息；根据所述客户端发送的长连接服务器的网络质量信息得到剩余的长连接服务器的网络连接质量。

图7是本发明实施例提供的一种长连接通信的调度设备的结构示意图，该长连接通信的调度设备可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上处理器704（central processing units，CPU）（例如，一个或一个以上处理器）和存储器705，一个或一个以上存储应用程序或数据的存储介质706（例如一个或一个以上海量存储设备）。其中，存储器705和存储介质706可以是短暂存储或持久存储。存储在存储介质706的程序可以包括一个或一个以上模块（图示没标出），每个模块可以包括对长连接通信的调度设备中的一系列指令操作。更进一步地，处理器704可以设置为与存储介质通信，在长连接通信的调度设备上执行存储介质706中的一系列指令操作。

长连接通信的调度设备还可以包括一个或一个以上电源707，一个或一个以上有线或无线网络接口708，一个或一个以上输入输出接口709，和/或，一个或一个以上操作***，例如Windows Serve，Mac OS X，Unix，Linux，FreeBSD等等。本领域技术人员可以理解，图7示出的长连接通信的调度设备结构并不构成对长连接通信的调度设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

本发明还提供一种计算机可读存储介质，该计算机可读存储介质可以为非易失性计算机可读存储介质，该计算机可读存储介质也可以为易失性计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在计算机上运行时，使得计算机执行所述长连接通信的调度方法的步骤。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的***或装置、单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器（read-only memory，ROM）、随机存取存储器（random access memory，RAM）、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (5)

1.一种长连接通信的负载调度方法，其特征在于，所述负载调度方法包括步骤：

接收客户端发送的建立长连接的请求；

预设一数据库，并在所述数据库中建立状态信息表；

接收长连接服务器以心跳包的形式上报的状态信息，所述状态信息包括长连接服务器的IP信息及长连接服务器的负载信息；

根据接收到的所述长连接服务器的IP信息将所述长连接服务器的负载信息写入所述状态信息表的对应位置；

剔除不符合预设条件的长连接服务器，并接收所述客户端发送的长连接服务器的网络质量信息；

根据所述客户端发送的长连接服务器的网络质量信息得到剩余的长连接服务器的网络连接质量；

按照网络连接质量由高到低依次对剩余的长连接服务器进行排序；

获取排序靠前的至少一台长连接服务器的运营商信息；

选取与所述客户端的运营商相同的其中一台长连接服务器建立长连接。

2.根据权利要求1所述的负载调度方法，其特征在于，所述剔除不符合预设条件的长连接服务器具体包括：

剔除已经不服务的长连接服务器；

剔除cpu和内存负载超过阈值的长连接服务器；

剔除客户端连接数已经超过最大支持连接数的长连接服务器。

3.一种调度装置，其特征在于，所述调度装置包括：

接收模块，用于接收客户端发送的建立长连接的请求；

收集模块，用于预设一数据库，并在所述数据库中建立状态信息表；

还用于接收长连接服务器以心跳包的形式上报的状态信息，所述状态信息包括长连接服务器的IP信息及长连接服务器的负载信息；

还用于根据接收到的所述长连接服务器的IP信息将所述长连接服务器的负载信息写入所述状态信息表的对应位置；

处理模块，用于剔除不符合预设条件的长连接服务器，并接收所述客户端发送的长连接服务器的网络质量信息；

还用于根据所述客户端发送的长连接服务器的网络质量信息得到剩余的长连接服务器的网络连接质量；

还用于按照网络连接质量由高到低依次对剩余的长连接服务器进行排序；

还用于获取排序靠前的至少一台长连接服务器的运营商信息；

调度模块，用于选取与所述客户端的运营商相同的其中一台长连接服务器建立长连接。

4.一种调度设备，其特征在于，所述调度设备包括：存储器和至少一个处理器，所述存储器中存储有指令，所述存储器和所述至少一个处理器通过线路互连；所述至少一个处理器调用所述存储器中的所述指令，以使得所述调度设备执行如权利要求1-2中任一项所述的负载调度方法。

5.一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-2中任一项所述的负载调度方法。