CN103067359A - 一种基于连接复用的提高服务器并发处理能力的***及方法 - Google Patents
一种基于连接复用的提高服务器并发处理能力的***及方法 Download PDFInfo
- Publication number
- CN103067359A CN103067359A CN2012105443331A CN201210544333A CN103067359A CN 103067359 A CN103067359 A CN 103067359A CN 2012105443331 A CN2012105443331 A CN 2012105443331A CN 201210544333 A CN201210544333 A CN 201210544333A CN 103067359 A CN103067359 A CN 103067359A
- Authority
- CN
- China
- Prior art keywords
- connection
- client
- server
- connection manager
- access request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Computer And Data Communications (AREA)
Abstract
本发明涉及一种基于连接复用的提高服务器并发处理能力的***及方法，包括负载均衡器为发送访问请求的客户端选择连接管理器，并建立相应客户端与连接管理器之间的透明连接；并将访问请求转发给连接管理器；每个连接管理器为其对应的客户端编号，并将携带有客户端编号的访问请求传送给服务器；服务器对携带有客户端编号的访问请求进行鉴权，并向相应的连接管理器发送反馈信息；连接管理器将反馈信息发送给相应的客户端；本发明通过增设负载均衡器和连接管理器将大量客户端发起的连至服务器的长连接汇总为少数长连接，从而使服务器能够处于较为稳定的网络环境并专注于业务逻辑处理，大大提高了单台服务器所能够承受的并发客户端的数目。
Description
技术领域
本发明涉及通信领域，尤其涉及一种基于连接复用的提高服务器并发处理能力的***及方法。
背景技术
对于客户端与服务器之间采用长连接方式的***，比如即时消息实现***，所述即时消息服务器可以实现包括用户权限管理、消息路由、离线消息存储发送、好友名片及分组管理、好友在线状态、输入状态、关键字过滤、文件传输、聊天室、安全等功能。每台即时消息客户端上线时，都需要与即时消息服务器保持长连接，但数据流量确很少，瓶颈主要在即时消息服务器支持的并发连接的客户端的数目，单台即时消息服务器处理并发连接数一般只有数千量级，只能支持几万用户。
因此，急需寻找一种提高服务器并发处理能力的技术方案。
发明内容
本发明所要解决的技术问题是针对现有技术的不足，提供一种基于连接复用的能大大提高服务器并发处理能力的***及方法。
本发明解决上述技术问题的技术方案如下：一种基于连接复用的提高服务器并发处理能力的***，包括一个以上的客户端、一个负载均衡器、一个以上的连接管理器和一个服务器；
所述客户端用于向负载均衡器发送访问请求；
所述负载均衡器用于根据预定原则为客户端选择连接管理器，建立相应客户端与连接管理器之间的透明连接，并将访问请求传送给相应的连接管理器；
所述连接管理器用于为其对应的客户端编号，将携带有客户端编号的访问请求传送给服务器；并将服务器发送的反馈信息发送给对应的客户端；
所述服务器对接收的访问请求进行鉴权，并向相应的连接管理器发送反馈信息。
在上述技术方案的基础上，本发明还可以做如下改进。
进一步，所述负载均衡器还用于预先对连接管理器进行配置。
进一步，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。
进一步，所述连接管理器还用于预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息。
进一步，所述服务器还用于预先设置客户端的访问权限和连接管理器的连接权限。
本发明解决上述技术问题的另一技术方案如下：一种基于连接复用的提高服务器并发处理能力的方法，包括如下步骤：
所述负载均衡器实时检测是否有来自客户端的访问请求；
所述负载均衡器根据预定原则为发送访问请求的客户端选择连接管理器，并建立相应客户端与连接管理器之间的透明连接；
所述负载均衡器将访问请求转发给连接管理器；
所述每个连接管理器为其对应的客户端编号，并将携带有客户端编号的访问请求传送给服务器；
所述服务器对携带有客户端编号的访问请求进行鉴权，并向相应的连接管理器发送反馈信息；
所述连接管理器根据反馈信息中携带的客户端编号将反馈信息发送给相应的客户端。
在上述技术方案的基础上，本发明还可以做如下改进。
进一步，上述技术方案还包括所述负载均衡器预先对所有连接管理器进行配置。
进一步，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。
进一步，上述技术方案还包括所述连接管理器预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息。
进一步，上述技术方案还包括所述服务器预先设置客户端的访问权限和连接管理器的连接权限。
本发明的有益效果是：本发明增设了负载均衡器和连接管理器，负载均衡器负责为连接管理器分配客户端，连接管理器的作用就是将外部大量客户端发起的连至服务器的长连接汇总为少数连至服务器的长连接，从而使服务器能够处于较为稳定的网络环境并专注于业务逻辑处理；本发明大大提高了单台服务器所能够承受的并发客户端的数目。
附图说明
图1为本发明所述一种基于连接复用的提高服务器并发处理能力的***框图；
图2为本发明一种基于连接复用的提高服务器并发处理能力的方法流程图；
具体实施方式
以下结合附图对本发明的原理和特征进行描述，所举实例只用于解释本发明，并非用于限定本发明的范围。
如图1所示，一种基于连接复用的提高服务器并发处理能力的***，包括一个以上的客户端、一个负载均衡器、一个以上的连接管理器和一个服务器；
所述客户端用于向负载均衡器发送访问请求；
所述负载均衡器用于根据预定原则为客户端选择连接管理器，建立相应客户端与连接管理器之间的透明连接，并将访问请求传送给相应的连接管理器；
其中，透明连接即负载均衡器对访问请求不做任何处理，只是简单的转发；
所述连接管理器用于为其对应的客户端编号，将携带有客户端编号的访问请求传送给服务器；并将服务器发送的反馈信息发送给对应的客户端；
所述服务器对接收的访问请求进行鉴权，并向相应的连接管理器发送反馈信息。
其中，所述负载均衡器还用于预先对连接管理器进行配置；主要配置包括：连接管理器IP地址、端口，负载均衡方式：最少连接方式、加权最小连接方式等等。
其中，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。
其中，所述连接管理器还用于预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息。
其中，所述服务器还用于预先设置客户端的访问权限和连接管理器的连接权限。
如图2所示，一种基于连接复用的提高服务器并发处理能力的方法，包括如下步骤：
所述负载均衡器实时检测是否有来自客户端的访问请求；
所述负载均衡器根据预定原则为发送访问请求的客户端选择连接管理器，并建立相应客户端与连接管理器之间的透明连接；
所述负载均衡器将访问请求转发给连接管理器；
所述每个连接管理器为其对应的客户端编号，并将携带有客户端编号的访问请求传送给服务器；
所述服务器对携带有客户端编号的访问请求进行鉴权，并向相应的连接管理器发送反馈信息；
所述连接管理器根据反馈信息中携带的客户端编号将反馈信息发送给相应的客户端。
其中，上述技术方案还包括所述负载均衡器预先对所有连接管理器进行配置。
其中，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。
其中，上述技术方案还包括所述连接管理器预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息；
其中，上述技术方案还包括所述服务器预先设置客户端的访问权限和连接管理器的连接权限。
本发明通过连接管理器预先与服务器建立并保持少数几个长连接；当客户端需要与服务器通信时，通过负载均衡器把客户端的连接请求定向到连接管理器；然后通过连接管理器与服务器之间的长连接将访问请求传送给服务器；这样使服务器能够处于较为稳定的网络环境并专注于业务逻辑处理，从而大大提高了单台服务器所能够承受的并发客户端的数目，本发明所述***中单台服务器最多可以支持30万用户。
以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于连接复用的提高服务器并发处理能力的***，其特征在于，包括一个以上的客户端、一个负载均衡器、一个以上的连接管理器和一个服务器；
所述客户端用于向负载均衡器发送访问请求；
所述负载均衡器用于根据预定原则为客户端选择连接管理器，建立相应客户端与连接管理器之间的透明连接，并将访问请求传送给相应的连接管理器；
所述连接管理器用于为其对应的客户端编号，将携带有客户端编号的访问请求传送给服务器；并将服务器发送的反馈信息发送给对应的客户端；
所述服务器对接收的访问请求进行鉴权，并向相应的连接管理器发送反馈信息。
2.根据权利要求1所述一种提高服务器并发处理能力的***，其特征在于，所述负载均衡器还用于预先对连接管理器进行配置。
3.根据权利要求1或2所述一种基于连接复用的提高服务器并发处理能力的***，其特征在于，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。
4.根据权利要求1所述一种基于连接复用的提高服务器并发处理能力的***，其特征在于，所述连接管理器还用于预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息。
5.根据权利要求1所述一种基于连接复用的提高服务器并发处理能力的***，其特征在于，所述服务器还用于预先设置客户端的访问权限和连接管理器的连接权限。
6.一种基于连接复用的提高服务器并发处理能力的方法，其特征在于，包括如下步骤：
所述负载均衡器实时检测是否有来自客户端的访问请求；
所述负载均衡器根据预定原则为发送访问请求的客户端选择连接管理器，并建立相应客户端与连接管理器之间的透明连接；
所述负载均衡器将访问请求转发给连接管理器；
所述每个连接管理器为其对应的客户端编号，并将携带有客户端编号的访问请求传送给服务器；
所述服务器对携带有客户端编号的访问请求进行鉴权，并向相应的连接管理器发送反馈信息；
所述连接管理器根据反馈信息中携带的客户端编号将反馈信息发送给相应的客户端。
7.根据权利要求6所述一种提高服务器并发处理能力的方法，其特征在于，还包括所述负载均衡器预先对所有连接管理器进行配置。
8.根据权利要求6或7所述一种提高服务器并发处理能力的方法，其特征在于，所述负载均衡器为客户端选择连接管理器所根据的预定原则包括连接管理器的配置原则、当前状态和负载情况。
9.根据权利要求6所述一种提高服务器并发处理能力的方法，其特征在于，还包括所述连接管理器预先建立并保持与服务器之间的一个或一个以上的长连接，并通过长连接发送携带有客户端编号的访问请求和接收携带有客户端编号的反馈信息。
10.根据权利要求6所述一种提高服务器并发处理能力的方法，其特征在于，还包括所述服务器预先设置客户端的访问权限和连接管理器的连接权限。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN2012105443331A CN103067359A (zh) | 2012-12-14 | 2012-12-14 | 一种基于连接复用的提高服务器并发处理能力的***及方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN2012105443331A CN103067359A (zh) | 2012-12-14 | 2012-12-14 | 一种基于连接复用的提高服务器并发处理能力的***及方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN103067359A true CN103067359A (zh) | 2013-04-24 |
Family
ID=48109821
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN2012105443331A Pending CN103067359A (zh) | 2012-12-14 | 2012-12-14 | 一种基于连接复用的提高服务器并发处理能力的***及方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN103067359A (zh) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104009938A (zh) * | 2014-06-17 | 2014-08-27 | 合一网络技术(北京)有限公司 | 基于路由层面的长连接的方法和*** |
| CN105553986A (zh) * | 2015-12-18 | 2016-05-04 | 中国科学院信息工程研究所 | 一种基于udp的多寻址有限实时节点通信方法 |
| CN107483327A (zh) * | 2017-09-05 | 2017-12-15 | 江苏电力信息技术有限公司 | 一种基于长连接服务独立化的即时通讯方法 |
| CN108401080A (zh) * | 2017-02-07 | 2018-08-14 | 北京京东尚科信息技术有限公司 | 坐席控制方法以及*** |
| WO2019038684A1 (en) * | 2017-08-25 | 2019-02-28 | International Business Machines Corporation | SERVER REQUEST MANAGEMENT |
| CN111025350A (zh) * | 2018-10-10 | 2020-04-17 | 千寻位置网络有限公司 | 定位解算的控制方法及装置、终端设备及定位*** |
| CN116600016A (zh) * | 2023-07-19 | 2023-08-15 | 苏州浪潮智能科技有限公司 | 站点调用方法及装置、存储介质及电子装置 |
| WO2024032094A1 (zh) * | 2022-08-12 | 2024-02-15 | 深圳市星卡软件技术开发有限公司 | 即时通讯***及方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1553724A (zh) * | 2003-06-03 | 2004-12-08 | 华为技术有限公司 | 提高多媒体消息***处理多媒体消息性能的方法及*** |
| CN1960521A (zh) * | 2006-11-30 | 2007-05-09 | 华为技术有限公司 | 增大多媒体消息业务***容量的方法及*** |
| US20080235382A1 (en) * | 2007-01-22 | 2008-09-25 | The Regents Of The University Of Colorado | Fault tolerant tcp splice systems and methods |
| US8732709B2 (en) * | 2008-02-05 | 2014-05-20 | Red Hat, Inc. | Transaction management in a web service messaging environment |
-
2012
- 2012-12-14 CN CN2012105443331A patent/CN103067359A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1553724A (zh) * | 2003-06-03 | 2004-12-08 | 华为技术有限公司 | 提高多媒体消息***处理多媒体消息性能的方法及*** |
| CN1960521A (zh) * | 2006-11-30 | 2007-05-09 | 华为技术有限公司 | 增大多媒体消息业务***容量的方法及*** |
| US20080235382A1 (en) * | 2007-01-22 | 2008-09-25 | The Regents Of The University Of Colorado | Fault tolerant tcp splice systems and methods |
| US8732709B2 (en) * | 2008-02-05 | 2014-05-20 | Red Hat, Inc. | Transaction management in a web service messaging environment |
Cited By (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104009938B (zh) * | 2014-06-17 | 2016-08-17 | 合一网络技术(北京)有限公司 | 基于路由层面的长连接的方法和*** |
| CN104009938A (zh) * | 2014-06-17 | 2014-08-27 | 合一网络技术(北京)有限公司 | 基于路由层面的长连接的方法和*** |
| CN105553986B (zh) * | 2015-12-18 | 2018-12-28 | 中国科学院信息工程研究所 | 一种基于udp的多寻址有限实时节点通信方法 |
| CN105553986A (zh) * | 2015-12-18 | 2016-05-04 | 中国科学院信息工程研究所 | 一种基于udp的多寻址有限实时节点通信方法 |
| CN108401080A (zh) * | 2017-02-07 | 2018-08-14 | 北京京东尚科信息技术有限公司 | 坐席控制方法以及*** |
| US10749983B2 (en) | 2017-08-25 | 2020-08-18 | International Business Machines Corporation | Server request management |
| WO2019038684A1 (en) * | 2017-08-25 | 2019-02-28 | International Business Machines Corporation | SERVER REQUEST MANAGEMENT |
| GB2579330A (en) * | 2017-08-25 | 2020-06-17 | Ibm | Server request management |
| US10834230B2 (en) | 2017-08-25 | 2020-11-10 | International Business Machines Corporation | Server request management |
| GB2579330B (en) * | 2017-08-25 | 2020-11-11 | Ibm | Server request management |
| CN107483327A (zh) * | 2017-09-05 | 2017-12-15 | 江苏电力信息技术有限公司 | 一种基于长连接服务独立化的即时通讯方法 |
| CN111025350A (zh) * | 2018-10-10 | 2020-04-17 | 千寻位置网络有限公司 | 定位解算的控制方法及装置、终端设备及定位*** |
| CN111025350B (zh) * | 2018-10-10 | 2022-02-08 | 千寻位置网络有限公司 | 定位解算的控制方法及装置、终端设备及定位*** |
| WO2024032094A1 (zh) * | 2022-08-12 | 2024-02-15 | 深圳市星卡软件技术开发有限公司 | 即时通讯***及方法 |
| CN116600016A (zh) * | 2023-07-19 | 2023-08-15 | 苏州浪潮智能科技有限公司 | 站点调用方法及装置、存储介质及电子装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN103067359A (zh) | 一种基于连接复用的提高服务器并发处理能力的***及方法 | |
| CN101335709B (zh) | 在流量分析服务器之间实现负载分担的方法和分流设备 | |
| CN103312605B (zh) | 一种网关设备身份设置的方法及管理网关设备 | |
| CN101009662B (zh) | 基于负载均衡技术的报文处理方法、***及设备 | |
| CN103095568B (zh) | 机架式交换设备实现堆叠的***及方法 | |
| CN104243608B (zh) | 一种通信方法、云管理服务器及虚拟交换机 | |
| CN102647355A (zh) | Lacp协商处理方法、中继节点及*** | |
| CN103095732A (zh) | 信息推送***和信息推送方法 | |
| CN108881354A (zh) | 一种推送信息存储方法、装置、服务器和计算机存储介质 | |
| CN104065759A (zh) | 一种提高nat地址池资源利用效率的方法及装置 | |
| CN103731482A (zh) | 一种集群负载均衡***及其实现方法 | |
| CN109391661A (zh) | 物联网终端的区块链组网方法和*** | |
| CN107645540A (zh) | web应用***的负载均衡方法 | |
| CN104363278A (zh) | 一种海量终端通信接入*** | |
| CN103685357A (zh) | 一种账号多开消息处理方法及*** | |
| CN105743746A (zh) | 一种智能家电的管理方法、管理设备及管理*** | |
| CN105262753A (zh) | 一种基于sdn虚拟交换机的安全策略的***及方法 | |
| CN104852859A (zh) | 一种聚合接口业务处理方法和设备 | |
| US20170149821A1 (en) | Method And System For Protection From DDoS Attack For CDN Server Group | |
| CN102870381A (zh) | 一种pcie交换***、装置及交换方法 | |
| CN103051738B (zh) | 一种dhcp地址分配方法和*** | |
| CN102916898A (zh) | 一种多链路出口的应用保持方法及装置 | |
| CN103944886A (zh) | 一种端口安全的实现方法及*** | |
| CN102647346A (zh) | 一种对报文分流的方法及*** | |
| CN107682265B (zh) | 支付***的报文路由方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C12 | Rejection of a patent application after its publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20130424 |