CN113923249A - 一种高性能网络长连接建立方法及装置 - Google Patents
一种高性能网络长连接建立方法及装置 Download PDFInfo
- Publication number
- CN113923249A CN113923249A CN202111186958.0A CN202111186958A CN113923249A CN 113923249 A CN113923249 A CN 113923249A CN 202111186958 A CN202111186958 A CN 202111186958A CN 113923249 A CN113923249 A CN 113923249A
- Authority
- CN
- China
- Prior art keywords
- client
- long connection
- tracker
- establishing
- standard interface
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 178
- 238000012544 monitoring process Methods 0.000 claims abstract description 30
- 239000000872 buffer Substances 0.000 claims description 48
- 230000007246 mechanism Effects 0.000 claims description 37
- 238000012545 processing Methods 0.000 claims description 30
- 238000004590 computer program Methods 0.000 claims description 15
- 230000006378 damage Effects 0.000 claims description 15
- 238000003860 storage Methods 0.000 claims description 11
- 239000011800 void material Substances 0.000 claims description 9
- 238000004891 communication Methods 0.000 abstract description 21
- 238000010586 diagram Methods 0.000 description 18
- 230000006870 function Effects 0.000 description 16
- 238000012549 training Methods 0.000 description 13
- 230000002159 abnormal effect Effects 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000009826 distribution Methods 0.000 description 4
- 238000004806 packaging method and process Methods 0.000 description 4
- 230000000903 blocking effect Effects 0.000 description 3
- 238000011084 recovery Methods 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000004064 recycling Methods 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- BQCADISMDOOEFD-UHFFFAOYSA-N Silver Chemical compound [Ag] BQCADISMDOOEFD-UHFFFAOYSA-N 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 229910052709 silver Inorganic materials 0.000 description 1
- 239000004332 silver Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/14—Session management
- H04L67/141—Setup of application sessions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/16—Implementation or adaptation of Internet protocol [IP], of transmission control protocol [TCP] or of user datagram protocol [UDP]
- H04L69/161—Implementation details of TCP/IP or UDP/IP stack architecture; Specification of modified or new header fields
- H04L69/162—Implementation details of TCP/IP or UDP/IP stack architecture; Specification of modified or new header fields involving adaptations of sockets based mechanisms
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Computer And Data Communications (AREA)
Abstract
本申请提供一种高性能网络长连接建立方法及装置,涉及通讯领域,也可用于金融领域,所述方法包括:根据客户端的长连接建立请求与所述客户端建立长连接;根据所述客户端的类型从预先创建的追踪器中选择对应的追踪器,并利用选择的追踪器监控所述长连接的状态;所述状态包括创建、断开及运行;利用预先构建的***器将所述状态对应的消息发送至所述客户端。本申请能够提供一种开放式通用化的高性能网络长连接引擎,以快速构建高可用的长连接服务。
Description
技术领域
本申请涉及通讯领域,可以用于金融领域,具体是一种高性能网络长连接建立方法及装置。
背景技术
在即时通信、数据监控等涉及到客户端需要实时共享服务端数据的领域,定时轮询和长连接是两种常用的技术方案,由于定时轮询存在数据共享延迟高,客户端资源消耗高等缺点,长连接的技术方案更受开发者青睐,现有的基于Java语言的长连接技术使用Websocket协议实现,提供了基础的长连接服务端点生命周期管理API,开发者可通过封装基础API,实现对长连接服务端点的创建、使用和销毁,配合客户端的封装实现,可支撑常规的服务端与客户端数据共享需求。现有技术存在如下问题:
1)无法统一管理服务端点
现有的技术仅提供了针对单个连接的创建、使用、回收等能力,无法直接实现对全部在线连接的统一查看及调度。
2)高并发场景下消息延迟、丢失问题明显
现有的技术基于同步机制实现,没有消息缓冲机制,高并发场景下容易造成消息延迟、阻塞、甚至丢失等情况。
3)单个应用无法支撑多种场景
现有的技术针对连接创建、消息处理等重要节点仅能实现一套逻辑,无法支撑多种长连接业务并存的情况。
4)无法兼容多种异常情况
现有技术没有提供对断网、断电、客户端暴力操作等异常情况的保护机制。一旦发生上述情况,可能造成服务端内存空转,引发***崩溃。
发明内容
针对现有技术中的问题,本申请提供一种高性能网络长连接建立方法及装置,能够提供一种开放式通用化的高性能网络长连接引擎,以快速构建高可用的长连接服务。
为解决上述技术问题,本申请提供以下技术方案:
第一方面,本申请提供一种高性能网络长连接建立方法,包括:
根据客户端的长连接建立请求与所述客户端建立长连接;
根据所述客户端的类型从预先创建的追踪器中选择对应的追踪器,并利用选择的追踪器监控所述长连接的状态;所述状态包括创建、断开及运行;
利用预先构建的***器将所述状态对应的消息发送至所述客户端。
进一步地,所述客户端包括资源客户端,预先构建资源客户端追踪器的步骤,包括:
利用EnumWsType枚举类建立所述资源客户端追踪器的长连接类型;
利用IWsProcessor接口中的方法建立所述资源客户端追踪器的标准接口;
根据所述资源客户端追踪器的长连接类型及所述资源客户端追踪器的标准接口建立所述资源客户端追踪器。
进一步地,所述IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,所述利用IWsProcessor接口中的方法建立所述资源客户端追踪器的标准接口,包括:
利用所述whenAddedToPool方法建立所述资源客户端追踪器对应的长连接初始化后的业务逻辑标准接口;
利用所述whenRemovedFromPool方法建立所述资源客户端追踪器对应的长连接销毁后的业务逻辑标准接口;
利用所述whenReceivedUpMsg方法建立所述资源客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口。
进一步地,所述客户端包括业务客户端,预先构建业务客户端追踪器的步骤,包括:
利用EnumWsType枚举类建立所述业务客户端追踪器的长连接类型;
利用IWsProcessor接口中的方法建立所述业务客户端追踪器的标准接口;
根据所述业务客户端追踪器的长连接类型及所述业务客户端追踪器的标准接口建立所述业务客户端追踪器。
进一步地,所述IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,所述利用IWsProcessor接口中的方法建立所述业务客户端追踪器的标准接口,包括:
利用所述whenAddedToPool方法建立所述业务客户端追踪器对应的长连接初始化后的业务逻辑标准接口;
利用所述whenRemovedFromPool方法建立所述业务客户端追踪器对应的长连接销毁后的业务逻辑标准接口;
利用所述whenReceivedUpMsg方法建立所述业务客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口。
进一步地,所述根据客户端的长连接建立请求与所述客户端建立长连接,包括:
利用void put方法与所述客户端建立长连接;
绑定所述长连接的唯一标识uuid与长连接对象wsObj之间的关系;
根据所述长连接的长链接类型绑定匹配的追踪器。
进一步地,所述利用预先构建的***器将所述状态对应的消息发送至所述客户端,包括:
确定待发送的消息是否发生拥堵,如是,将所述待发送的消息放入所述***器的环形缓冲区中;
利用预支内存机制及无锁并发机制,将所述环形缓冲区中待发送的消息发送至所述客户端。
进一步地,所述的高性能网络长连接建立方法,还包括:
利用预先构建的连接池中的心跳机制监控所述长连接的全生命周期状态。
第二方面,本申请提供一种高性能网络长连接建立装置,包括:
连接建立单元,用于根据客户端的长连接建立请求与所述客户端建立长连接;
状态监控单元,用于根据所述客户端的类型从预先创建的追踪器中选择对应的追踪器,并利用选择的追踪器监控所述长连接的状态;所述状态包括创建、断开及运行;
消息发送单元,用于利用预先构建的***器将所述状态对应的消息发送至所述客户端。
进一步地,所述客户端包括资源客户端,包括:
连接类型确定单元,用于利用EnumWsType枚举类建立所述资源客户端追踪器的长连接类型;
标准接口确定单元,用于利用IWsProcessor接口中的方法建立所述资源客户端追踪器的标准接口;
追踪器建立单元,用于根据所述资源客户端追踪器的长连接类型及所述资源客户端追踪器的标准接口建立所述资源客户端追踪器。
进一步地,所述IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,所述标准接口确定单元,包括:
第一标准接口确定模块,用于利用所述whenAddedToPool方法建立所述资源客户端追踪器对应的长连接初始化后的业务逻辑标准接口;
第二标准接口确定模块,用于利用所述whenRemovedFromPool方法建立所述资源客户端追踪器对应的长连接销毁后的业务逻辑标准接口;
第三标准接口确定模块,用于利用所述whenReceivedUpMsg方法建立所述资源客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口。
进一步地,所述客户端包括业务客户端,包括:
连接类型确定单元,用于利用EnumWsType枚举类建立所述业务客户端追踪器的长连接类型;
标准接口确定单元,用于利用IWsProcessor接口中的方法建立所述业务客户端追踪器的标准接口;
追踪器建立单元,用于根据所述业务客户端追踪器的长连接类型及所述业务客户端追踪器的标准接口建立所述业务客户端追踪器。
进一步地,所述IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,所述标准接口确定单元,包括:
第一标准接口确定模块,用于利用所述whenAddedToPool方法建立所述业务客户端追踪器对应的长连接初始化后的业务逻辑标准接口;
第二标准接口确定模块,用于利用所述whenRemovedFromPool方法建立所述业务客户端追踪器对应的长连接销毁后的业务逻辑标准接口;
第三标准接口确定模块,用于利用所述whenReceivedUpMsg方法建立所述业务客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口。
进一步地,所述的高性能网络长连接建立装置,所述连接建立单元,包括:
连接建立模块,用于利用void put方法与所述客户端建立长连接;
关系绑定模块,用于绑定所述长连接的唯一标识uuid与长连接对象wsObj之间的关系;
追踪器匹配模块,用于根据所述长连接的长链接类型绑定匹配的追踪器。
进一步地,所述消息发送单元,包括:
消息缓冲模块,用于确定待发送的消息是否发生拥堵,如是,将所述待发送的消息放入所述***器的环形缓冲区中;
消息发送模块,用于利用预支内存机制及无锁并发机制,将所述环形缓冲区中待发送的消息发送至所述客户端。
进一步地,所述的高性能网络长连接建立装置,还包括:
心跳监控单元,用于利用预先构建的连接池中的心跳机制监控所述长连接的全生命周期状态。
第三方面,本申请提供一种电子设备包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现所述高性能网络长连接建立方法的步骤。
第四方面,本申请提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现所述高性能网络长连接建立方法的步骤。
针对现有技术中的问题,本申请提供的高性能网络长连接建立方法及装置,能够通过构建连接池、***器及追踪器,提供一种开放式通用化的高性能网络长连接引擎,保证服务端点的统一管理、消息分发的高并发性,从而实现多种长连接场景的并行处理,能够针对断电、断网、客户端暴力操作等多种异常情况提供保护机制,接入简单,服务稳定。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例中高性能网络长连接建立方法的流程图;
图2为本申请实施例中构建资源客户端追踪器的步骤流程图;
图3为本申请实施例中建立资源客户端追踪器的标准接口的流程图;
图4为本申请实施例中构建业务客户端追踪器的步骤流程图;
图5为本申请实施例中建立业务客户端追踪器的标准接口的流程图;
图6为本申请实施例中建立长连接的流程图;
图7为本申请实施例中消息发送至客户端的流程图;
图8为本申请实施例中高性能网络长连接建立装置的结构图之一;
图9为本申请实施例中高性能网络长连接建立装置的结构图之二;
图10为本申请实施例中标准接口确定单元的结构图之一;
图11为本申请实施例中高性能网络长连接建立装置的结构图之三;
图12为本申请实施例中标准接口确定单元的结构图之二;
图13为本申请实施例中连接建立单元的结构图;
图14为本申请实施例中消息发送单元的结构图;
图15为本申请实施例中的电子设备的结构示意图;
图16为本申请实施例的应用场景示意图之一;
图17为本申请实施例的应用场景示意图之二。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,本申请提供的高性能网络长连接建立方法及装置,可用于金融领域,也可用于除金融领域之外的任意领域,本申请提供的高性能网络长连接建立方法及装置的应用领域不做限定。
在即时通信及数据监控等领域,客户端可能需要实时共享服务端的数据。为此,客户端可以使用定时轮询或长连接这两种技术方法实现。由于定时轮询存在数据共享延迟高,客户端资源消耗高等缺点,长连接技术方案更受开发者的青睐。现有的基于Java语言的长连接技术使用Websocket协议实现,可以提供基础的长连接服务端点生命周期管理API,开发者可通过封装基础API实现对长连接服务端点的创建、使用及销毁,配合客户端实现封装,支撑常规的服务端与客户端数据共享需求。
但现有技术目前仅提供有针对单个连接的创建、使用及回收的方法,而无法实现对全部在线连接进行统一的查看与调度。由于现有技术基于同步机制实现,没有设立消息缓冲机制,因此在高并发场景下容易造成消息延迟、阻塞、甚至丢失等情况。且对连接的创建及消息处理等重要节点仅能实现单一连接逻辑,无法支撑多长连接业务并存,也无法兼容多种异常情况,对断网、断电、客户端暴力操作等异常情况没有完备的保护机制。一旦发生上述情况,可能造成服务端内存空转,引发***崩溃。
基于现有技术所存在的问题,本申请提供一种高性能网络长连接建立方法,参见图1。该方法能够提供一种开放式通用化的高性能网络长连接引擎,以快速构建高可用的长连接服务,具体包括:
S101:根据客户端的长连接建立请求与客户端建立长连接;
S102:根据客户端的类型从预先创建的追踪器中选择对应的追踪器,并利用选择的追踪器监控长连接的状态;状态包括创建、断开及运行;
S103:利用预先构建的***器将状态对应的消息发送至客户端。
可以理解的是,本申请所提供方法至少可以应用于如下场景:
第一种是多个业务客户端需要通过服务器实现彼此之间的通讯。这种场景可以存在于电子商务平台中,业务客户端可以是一个顾客手持设备1(例如手机),还可以是一个商家台式设备2(例如PC机)。上述两者需要通过服务器3实现彼此之间的通讯。该通讯以长连接的形式进行,参见图16。
第二种是一个资源客户端5向一个业务客户端4提供资源服务。这种场景往往存在进行的大量计算以及信息交互。例如,该业务客户端4可以是一家需要完成大量数据计算的金融机构,该资源客户端5可以是一家拥有较强算力的数据计算中心。在这种场景下,金融机构可以向数据计算中心发起计算服务请求。在此过程中,服务器6需要帮助两者建立起长连接,以使数据计算中心能够向金融机构提供稳定的计算服务,参见图17。
需要说明的是,上述场景仅是为了理解本申请所述的方案,本申请所述方案的应用场景不仅限于此。
本申请所述方法的执行主体可以是服务器。当服务器收到客户端发送的长连接建立请求时,会与客户端建立长连接。具体是通过本申请方法所提供的连接池实现的,详见下文阐述。各客户端均与服务器端建立起长连接,也就相当于各客户端彼此实现了长连接连通。本申请所述方法中的客户端的类型至少涉及业务客户端及资源客户端。由于不同类型的客户端对应有不同类型的追踪器,因此需要根据客户端的类型从预先创建的追踪器中选择对应的追踪器,并利用选择的追踪器监控长连接的状态;这些状态至少包括创建、断开及运行。
需要说明的是,追踪器是一段定向跟踪服务端点生命周期(创建、通信、回收)的程序,可以基于端点类别进行定向跟踪,一个追踪器对应一种端点类别,开发者可通过实现追踪器接口创建不同的追踪器实现类,以实现单个应用支撑多个长连接场景的情况。上述服务端点可以是客户端,但本申请不以此为限。
最后,本申请所述的方法利用预先构建的***器将状态对应的消息发送至客户端,以使客户端能够实时知晓当前的长连接状态。一实施例中,客户端还可以根据当前的长连接状态决定是否继续服务过程,服务器也可以根据客户端后续的断开请求,实现长连接的断开,完成计费。
从上述描述可知,本申请提供的高性能网络长连接建立方法及装置,能够通过构建连接池、***器及追踪器,提供一种开放式通用化的高性能网络长连接引擎,保证服务端点的统一管理、消息分发的高并发性,从而实现多种长连接场景的并行处理,能够针对断电、断网、客户端暴力操作等多种异常情况提供保护机制,接入简单,服务稳定。
一实施例中,参见图2,客户端包括资源客户端,预先构建资源客户端追踪器的步骤,包括:
S201:利用EnumWsType枚举类建立资源客户端追踪器的长连接类型;
S202:利用IWsProcessor接口中的方法建立资源客户端追踪器的标准接口;
S203:根据资源客户端追踪器的长连接类型及资源客户端追踪器的标准接口建立资源客户端追踪器。
可以理解的是,资源客户端追踪器的作用在于追踪资源客户端的连接状态,这些连接状态包括但不限于建立连接、断开连接及保持连接。
一实施例中,参见图3,IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,利用IWsProcessor接口中的方法建立资源客户端追踪器的标准接口,包括:利用whenAddedToPool方法建立资源客户端追踪器对应的长连接初始化后的业务逻辑标准接口(S301);利用whenRemovedFromPool方法建立资源客户端追踪器对应的长连接销毁后的业务逻辑标准接口(S302);利用whenReceivedUpMsg方法建立资源客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口(S303)。
具体地,可以通过如下步骤建立:
①连接类别枚举
使用EnumWsType枚举类扩展连接类型,如:客户类型、客服类型等。
②追踪器标准接口
可通过实现IWsProcessor接口自定义追踪器,IWsProcessor接口提供三个方法:
whenAddedToPool(WsockServer wsObj):当连接对象加入到连接池的时候触发,开发者可在此方法实现连接初始化后的业务逻辑。
whenRemovedFromPool(WsockServer wsObj):当连接对象销毁的时候触发,开发者可在此方法实现连接销毁后的业务逻辑。
whenReceivedUpMsg(WsockServer wsObj,JSONObject upJson):服务收到上行消息时触发,开发者可在此方法实现上行消息处理的业务逻辑。
从上述描述可知,本申请提供的高性能网络长连接建立方法能够预先构建资源客户端追踪器。
一实施例中,参见图4,客户端包括业务客户端,预先构建业务客户端追踪器的步骤,包括:
S401:利用EnumWsType枚举类建立业务客户端追踪器的长连接类型;
S402:利用IWsProcessor接口中的方法建立业务客户端追踪器的标准接口;
S403:根据业务客户端追踪器的长连接类型及业务客户端追踪器的标准接口建立业务客户端追踪器。
可以理解的是,资源客户端追踪器的作用在于追踪资源客户端的连接状态,这些连接状态包括但不限于建立连接、断开连接及保持连接。
一实施例中,参见图5,IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,利用IWsProcessor接口中的方法建立业务客户端追踪器的标准接口,包括:利用whenAddedToPool方法建立业务客户端追踪器对应的长连接初始化后的业务逻辑标准接口(S501);利用whenRemovedFromPool方法建立业务客户端追踪器对应的长连接销毁后的业务逻辑标准接口(S502);利用whenReceivedUpMsg方法建立业务客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口(S503)。
建立业务客户端追踪器的具体步骤与建立资源客户端追踪器的具体步骤相同,在此不再赘述。
从上述描述可知,本申请提供的高性能网络长连接建立方法能够预先构建业务客户端追踪器。
一实施例中,参见图6,根据客户端的长连接建立请求与客户端建立长连接,包括:
S601:利用void put方法与客户端建立长连接;
S602:绑定长连接的唯一标识uuid与长连接对象wsObj之间的关系;
S603:根据长连接的长链接类型绑定匹配的追踪器。
可以理解的是,本申请提供的高性能网络长连接建立方法建立了一个连接池(WsockServerPool),并通过该连接池实现与客户端建立长连接。连接池负责统一管理长连接服务端点的生命周期,可实现大规模连接场景下对服务端点的优雅创建、使用以及回收,并通过心跳、自检等机制保障池内服务端点的高利用率。
其中,连接池基于单例模式实现,使用双端检锁机制保证线程安全,初始化时加载所有连接类型及对应的追踪器,初始化完成后打开就绪开关,可对外提供服务。连接池的功能包括但不限于:
①创建连接
使用void put(String uuid,WsockServer wsObj)方法创建连接,绑定连接的唯一标识uuid与连接对象wsObj的关系,并根据连接类型绑定其匹配的追踪器。
②销毁连接
使用void remove(String uuid)方法销毁连接,根据连接的唯一标识uuid找到连接对象wsObj,将其从内存中清除。
③广播消息
使用int broadcastMsgToAll(WsMsg msg)方法可实现将消息发送至所有在线客户端,此方法返回接收到该条消息的客户端数量。
④定向消息
使用int broadcastMsg(WsMsg msg,List<String>uuidList)方法可实现针对部分在线客户端的定向消息,此方法返回接收到该条消息的客户端数量。
⑤单播消息
使用int broadcastMsg(WsMsg msg,String wsType,String wsOid)方法可实现定向单播消息,通过连接类型wsType与连接标识wsOid唯一定为一个客户端。
⑥上行消息
使用void processUpMsg(WsockServer wsObj,JSONObject msgObj)处理客户端上行消息,针对不同的连接对象wsObj和消息内容msgObj进行不同的处理。
需要说明的是,连接池还提供心跳机制,以监控长连接的全生命周期状态。一实施例中,连接池每隔5秒向所有客户端发送心跳消息,并要求客户端立即响应,如果客户端连续30秒没有响应心跳消息,则认为客户端已下线,此时连接池自动回收该客户端对应的服务端点。
从上述描述可知,本申请提供的高性能网络长连接建立方法能够根据客户端的长连接建立请求与客户端建立长连接。
一实施例中,参见图7,利用预先构建的***器将状态对应的消息发送至客户端,包括:
S701:确定待发送的消息是否发生拥堵,如是,将待发送的消息放入***器的环形缓冲区中;
S702:利用预支内存机制及无锁并发机制,将环形缓冲区中待发送的消息发送至客户端。
可以理解的是,***器可以作为长连接服务端点的消息分发中心,其基于环形缓冲区、预支内存以及无锁并发等特性实现,可大幅降低高并发场景下消息延迟、消息丢失等问题的发生概率。
本申请中的***器用于利用自身特性实现对客户端的消息发送,这些特性包括但不限于:具有环形缓冲区、具有预支内存机制、具有无锁并发机制。利用以上机制,可以实现当并发消息过多造成网络拥堵时,能够有序发送消息至客户端,并不会造成大量时延,具体如下:
①环形缓冲区
本申请基于数组实现环形缓冲区,环形缓冲区通过一个数字标识其下一个可用元素,往缓冲区中放数据仅需通过数字标识,找到可用元素位置即可。已经被消费的缓冲区元素不会被立即销毁,如果一旦某个元素的使用结果为失败,那么我们可以通过失败元素位置与当前可用元素位置找到缓冲区中的失败元素段,并重新消费这些元素,被消费过的元素一直保存直至被新元素替换,开发者可根据自己的业务特征设置合理的缓冲区大小。
②预支内存
由于环形缓冲区基于数组实现,我们可以预先支取内存分配给缓冲区,保持缓冲区元素永久有效,这就意味着几乎不会触发垃圾收集。也不用像链表一样每增加一条数据就要创建对象,删除时还要销毁对象。
③无锁并发
假定缓冲区的长度是bufferSize,我们设置两个指针:head指向的是下一次读的位置,而tail指向的是下一次写的位置。由于这里是环形缓冲区,这里就有一个问题,怎样判断缓冲区是满或者空,这里采用的规则是,缓冲区的最后一个单元不存储数据。所以,如果head==tail,那么说明buffer为空。如果head==tail+1(mod bufferSize),那么说明buffer满了。
怎样以无锁的方式进行线程安全的缓冲区的读写操作,基本原理是这样的:在进行读操作的时候,我们只修改head的值,而在写操作的时候我们只修改tail的值。在写操作时,我们在写入内容到缓冲区之后才修改tail的值;而在进行读操作的时候,我们会读取tail的值并将其赋值给copyTail,赋值操作是原子操作。所以在读到copyTail之后,从head到copyTail之间一定是有数据可以读的,不会出现数据没有写入就进行读操作的情况。同样的,读操作完成之后,才会修改head的数值;而在写操作之前会读取head的值判断是否有空间可以用来写数据。所以,这时候tail到head-1之间一定是有空间可以写数据的,而不会出现一个位置的数据还没有读出就被写操作覆盖的情况。
从上述描述可知,本申请提供的高性能网络长连接建立方法能够利用预先构建的***器将状态对应的消息发送至客户端。
本案例是由工银科技承建的一个“人工智能算法训练平台”,该平台为算法开发者提供算力资源、软件环境等算法训练所需的基础设施。其中,算力资源按使用时长计费,***需要监控算力资源的运行状态,当开发者选定算力资源并开机后,每正常运行半个小时进行一次扣费操作;另一方面,***也需监控开发者账号的在线状态,如果开发者在开启算力资源并且没有关闭的情况下,由于断网、断电或者误操作导致开发者账号下线,此时,***需要及时帮其关机,以免产生额外的费用及资源浪费;此外,如果在训练过程中发生开发者余额不足的情况,***需要及时通知开发者进行充值。最后,如果训练结束,***需通知开发者训练完成情况并自动关闭算力资源。
为了更好地说明本申请所述技术方案的可行性,现举一实施例加以说明,也就是如何使用本本申请所述方法对应的“开放式高性能长连接引擎”实现监控服务。
开发者上线后,开发者WEB***与监控服务建立长连接;算力资源开机后算力资源与监控服务建立长连接。
①定义追踪器
本案例中涉及两种长连接客户端:开发者WEB***、算力资源。需对应定义两个追踪器。
a.开发者WEB***追踪器
负责监控开发者上线、离线、上行消息。当开发者上线后,将其长连接服务端点放入连接池;当开发者离线后,需关闭其正在使用的算力资源并将其服务端点从连接池中移除。当监控到开发者余额不足时,将发送下行消息至WEB客户端,提醒开发者进行充值;当训练完成后,将发送下行消息至WEB客户端,通知开发者训练结果。
b.算力资源追踪器
负责监控算力资源上线、离线、上行消息。当算力资源开机后,将其长连接服务端点放入连接池,并开始计费;当算力资源关机时,将其服务端点从连接池中移除,并停止计费;当训练完成后,算力资源可发送上行消息至监控服务,监控服务通知开发者WEB客户端训练完成情况,并关闭算力资源。
②连接池管理
连接池通过心跳机制与开发者WEB***、算力资源保持健康连接。如果开发者WEB***或者算力资源在30秒内没有及时回复心跳消息,连接池会认为其已断开连接,将其对应的服务端点从连接池中移除并进行相应的业务操作。
另外,连接池会将开发者WEB***的服务端点与该开发者对应的算力资源服务端点建立逻辑关系,当开发者下线后,监控服务可及时找到该开发者开启的算力资源,可以快速将其关闭,避免资源浪费;在对某个算例资源进行计费操作时,如果发现开发者余额不足,可及时找到该开发者对应的服务端点并向其发送单播消息,通知其进行充值。当某算力资源训练结束后,可及时通知其对应的开发者训练结果信息。
③***器保证高性能
本案例中,涉及到以下消息交互场景:
a.广播心跳消息
b.单播训练结果消息
c.单播余额不足消息
d.单播关机指令消息
在每一个服务端点建立时,会为其创建一个1024长度的环形缓冲区,此缓冲区直接预占内存,不进行资源回收,当有上述消息需要发送时,监控服务先将消息放入对应服务端点的环形缓冲区中,等待***器进行消息发送,***器快速且匀速的从环形缓冲区中获取待发消息执行发送操作,并通过无所并发机制保证环形缓冲区的线程安全。当短时间内有大量需要发送的消息时,由于环形缓冲区已预支内存,减免了大量开辟内存的操作,保证程序执行快速高效。此外,环形缓冲区的put操作采用异步机制实现,不会出现服务端点消息阻塞的情况,***器基于环形缓冲区实现消息的削峰填谷。
综上所述,本申请所述技术方案的有益效果包括:
1)统一管理服务端点
本申请提供的连接池,可以统一管理长连接服务端点,可实现对全部服务端点的广播消息、部分服务端点定向消息、单个服务端点的单播消息,功能强大。
2)优化并发消息延迟与消息丢失
本申请采用环形缓冲区实现***器,通过预支内存、无锁并发等技术有效降低高并发场景下,消息延迟与消息丢失的情况发生概率。
3)单个应用可支持多种场景
本申请提供的追踪器,可根据开发者需求自行实现,一个应用中可实现多个追踪器,每个追踪器可对应一种连接类型,每种类型连接的创建、销毁、接收上行消息等生命周期节点的业务逻辑可在其对应的追踪器中实现。
4)兼容多种异常情况
本申请中的连接池提供了统一的心跳机制,通过心跳机制可快速识别由于断网、断电、客户端暴力操作等引起的异常连接,如果确认连接发生异常,则立即将其销毁,以保证内存资源的高利用率。
基于同一发明构思,本申请实施例还提供了一种高性能网络长连接建立装置,可以用于实现上述实施例所描述的方法,如下面的实施例所述。由于高性能网络长连接建立装置解决问题的原理与高性能网络长连接建立方法相似,因此高性能网络长连接建立装置的实施可以参见基于软件性能基准确定方法的实施,重复之处不再赘述。以下所使用的,术语“单元”或者“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的***较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
一实施例中,参见图8,为了能够提供一种开放式通用化的高性能网络长连接引擎,以快速构建高可用的长连接服务,本申请提供一种高性能网络长连接建立装置,包括:连接建立单元801、状态监控单元802及消息发送单元803。
连接建立单元801,用于根据客户端的长连接建立请求与所述客户端建立长连接;
状态监控单元802,用于根据所述客户端的类型从预先创建的追踪器中选择对应的追踪器,并利用选择的追踪器监控所述长连接的状态;所述状态包括创建、断开及运行;
消息发送单元803,用于利用预先构建的***器将所述状态对应的消息发送至所述客户端。
一实施例中,参见图9,所述客户端包括资源客户端,包括:连接类型确定单元901、标准接口确定单元902及追踪器建立单元903。
连接类型确定单元901,用于利用EnumWsType枚举类建立所述资源客户端追踪器的长连接类型;
标准接口确定单元902,用于利用IWsProcessor接口中的方法建立所述资源客户端追踪器的标准接口;
追踪器建立单元903,用于根据所述资源客户端追踪器的长连接类型及所述资源客户端追踪器的标准接口建立所述资源客户端追踪器。
一实施例中,参见图10,所述IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,所述标准接口确定单元902,包括:
第一标准接口确定模块1001,用于利用所述whenAddedToPool方法建立所述资源客户端追踪器对应的长连接初始化后的业务逻辑标准接口;
第二标准接口确定模块1002,用于利用所述whenRemovedFromPool方法建立所述资源客户端追踪器对应的长连接销毁后的业务逻辑标准接口;
第三标准接口确定模块1003,用于利用所述whenReceivedUpMsg方法建立所述资源客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口。
一实施例中,参见图11,所述客户端包括业务客户端,包括:
连接类型确定单元1101,用于利用EnumWsType枚举类建立所述业务客户端追踪器的长连接类型;
标准接口确定单元1102,用于利用IWsProcessor接口中的方法建立所述业务客户端追踪器的标准接口;
追踪器建立单元1103,用于根据所述业务客户端追踪器的长连接类型及所述业务客户端追踪器的标准接口建立所述业务客户端追踪器。
一实施例中,参见图12,所述IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,所述标准接口确定单元902,包括:
第一标准接口确定模块1201,用于利用所述whenAddedToPool方法建立所述业务客户端追踪器对应的长连接初始化后的业务逻辑标准接口;
第二标准接口确定模块1202,用于利用所述whenRemovedFromPool方法建立所述业务客户端追踪器对应的长连接销毁后的业务逻辑标准接口;
第三标准接口确定模块1203,用于利用所述whenReceivedUpMsg方法建立所述业务客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口。
一实施例中,参见图13,所述的高性能网络长连接建立装置,所述连接建立单元,包括:连接建立模块1301、关系绑定模块1302及追踪器匹配模块1303。
连接建立模块1301,用于利用void put方法与所述客户端建立长连接;
关系绑定模块1302,用于绑定所述长连接的唯一标识uuid与长连接对象wsObj之间的关系;
追踪器匹配模块1303,用于根据所述长连接的长链接类型绑定匹配的追踪器。
一实施例中,参见图14,所述消息发送单元803,包括:
消息缓冲模块1401,用于确定待发送的消息是否发生拥堵,如是,将所述待发送的消息放入所述***器的环形缓冲区中;
消息发送模块1402,用于利用预支内存机制及无锁并发机制,将所述环形缓冲区中待发送的消息发送至所述客户端。
一实施例中,所述的高性能网络长连接建立装置,还包括:
心跳监控单元,用于利用预先构建的连接池中的心跳机制监控所述长连接的全生命周期状态。
从硬件层面来说,为了能够提供一种开放式通用化的高性能网络长连接引擎,以快速构建高可用的长连接服务,本申请提供一种用于实现所述高性能网络长连接建立方法中的全部或部分内容的电子设备的实施例,所述电子设备具体包含有如下内容:
处理器(Processor)、存储器(Memory)、通讯接口(Communications Interface)和总线;其中,所述处理器、存储器、通讯接口通过所述总线完成相互间的通讯;所述通讯接口用于实现所述高性能网络长连接建立装置与核心业务***、用户终端以及相关数据库等相关设备之间的信息传输;该逻辑控制器可以是台式计算机、平板电脑及移动终端等,本实施例不限于此。在本实施例中,该逻辑控制器可以参照实施例中的高性能网络长连接建立方法的实施例,以及高性能网络长连接建立装置的实施例进行实施,其内容被合并于此,重复之处不再赘述。
可以理解的是,所述用户终端可以包括智能手机、平板电子设备、网络机顶盒、便携式计算机、台式电脑、个人数字助理(PDA)、车载设备、智能穿戴设备等。其中,所述智能穿戴设备可以包括智能眼镜、智能手表、智能手环等。
在实际应用中,高性能网络长连接建立方法的部分可以在如上述内容所述的电子设备侧执行,也可以所有的操作都在所述客户端设备中完成。具体可以根据所述客户端设备的处理能力,以及用户使用场景的限制等进行选择。本申请对此不作限定。若所有的操作都在所述客户端设备中完成,所述客户端设备还可以包括处理器。
上述的客户端设备可以具有通讯模块(即通讯单元),可以与远程的服务器进行通讯连接,实现与所述服务器的数据传输。所述服务器可以包括任务调度中心一侧的服务器,其他的实施场景中也可以包括中间平台的服务器,例如与任务调度中心服务器有通讯链接的第三方服务器平台的服务器。所述的服务器可以包括单台计算机设备,也可以包括多个服务器组成的服务器集群,或者分布式装置的服务器结构。
图15为本申请实施例的电子设备9600的***构成的示意框图。如图15所示,该电子设备9600可以包括中央处理器9100和存储器9140;存储器9140耦合到中央处理器9100。值得注意的是,该图15是示例性的;还可以使用其他类型的结构,来补充或代替该结构,以实现电信功能或其他功能。
一实施例中,高性能网络长连接建立方法功能可以被集成到中央处理器9100中。其中,中央处理器9100可以被配置为进行如下控制:
S101:根据客户端的长连接建立请求与客户端建立长连接;
S102:根据客户端的类型从预先创建的追踪器中选择对应的追踪器,并利用选择的追踪器监控长连接的状态;状态包括创建、断开及运行;
S103:利用预先构建的***器将状态对应的消息发送至客户端。
从上述描述可知,本申请提供的高性能网络长连接建立方法及装置,能够通过构建连接池、***器及追踪器,提供一种开放式通用化的高性能网络长连接引擎,保证服务端点的统一管理、消息分发的高并发性,从而实现多种长连接场景的并行处理,能够针对断电、断网、客户端暴力操作等多种异常情况提供保护机制,接入简单,服务稳定。
在另一个实施方式中,高性能网络长连接建立装置可以与中央处理器9100分开配置,例如可以将数据复合传输装置高性能网络长连接建立装置配置为与中央处理器9100连接的芯片,通过中央处理器的控制来实现高性能网络长连接建立方法的功能。
如图15所示,该电子设备9600还可以包括:通讯模块9110、输入单元9120、音频处理器9130、显示器9160、电源9170。值得注意的是,电子设备9600也并不是必须要包括图15中所示的所有部件;此外,电子设备9600还可以包括图15中没有示出的部件,可以参考现有技术。
如图15所示,中央处理器9100有时也称为控制器或操作控件,可以包括微处理器或其他处理器装置和/或逻辑装置,该中央处理器9100接收输入并控制电子设备9600的各个部件的操作。
其中,存储器9140,例如可以是缓存器、闪存、硬驱、可移动介质、易失性存储器、非易失性存储器或其它合适装置中的一种或更多种。可储存上述与失败有关的信息,此外还可存储执行有关信息的程序。并且中央处理器9100可执行该存储器9140存储的该程序,以实现信息存储或处理等。
输入单元9120向中央处理器9100提供输入。该输入单元9120例如为按键或触摸输入装置。电源9170用于向电子设备9600提供电力。显示器9160用于进行图像和文字等显示对象的显示。该显示器例如可为LCD显示器,但并不限于此。
该存储器9140可以是固态存储器,例如,只读存储器(ROM)、随机存取存储器(RAM)、SIM卡等。还可以是这样的存储器,其即使在断电时也保存信息,可被选择性地擦除且设有更多数据,该存储器的示例有时被称为EPROM等。存储器9140还可以是某种其它类型的装置。存储器9140包括缓冲存储器9141(有时被称为缓冲器)。存储器9140可以包括应用/功能存储部9142,该应用/功能存储部9142用于存储应用程序和功能程序或用于通过中央处理器9100执行电子设备9600的操作的流程。
存储器9140还可以包括数据存储部9143,该数据存储部9143用于存储数据,例如联系人、数字数据、图片、声音和/或任何其他由电子设备使用的数据。存储器9140的驱动程序存储部9144可以包括电子设备的用于通讯功能和/或用于执行电子设备的其他功能(如消息传送应用、通讯录应用等)的各种驱动程序。
通讯模块9110即为经由天线9111发送和接收信号的发送机/接收机9110。通讯模块(发送机/接收机)9110耦合到中央处理器9100,以提供输入信号和接收输出信号,这可以和常规移动通讯终端的情况相同。
基于不同的通讯技术,在同一电子设备中,可以设置有多个通讯模块9110,如蜂窝网络模块、蓝牙模块和/或无线局域网模块等。通讯模块(发送机/接收机)9110还经由音频处理器9130耦合到扬声器9131和麦克风9132,以经由扬声器9131提供音频输出,并接收来自麦克风9132的音频输入,从而实现通常的电信功能。音频处理器9130可以包括任何合适的缓冲器、解码器、放大器等。另外,音频处理器9130还耦合到中央处理器9100,从而使得可以通过麦克风9132能够在本机上录音,且使得可以通过扬声器9131来播放本机上存储的声音。
本申请的实施例还提供能够实现上述实施例中的执行主体为服务器或客户端的高性能网络长连接建立方法中全部步骤的一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述实施例中的执行主体为服务器或客户端的高性能网络长连接建立方法的全部步骤,例如,所述处理器执行所述计算机程序时实现下述步骤:
S101:根据客户端的长连接建立请求与客户端建立长连接;
S102:根据客户端的类型从预先创建的追踪器中选择对应的追踪器,并利用选择的追踪器监控长连接的状态;状态包括创建、断开及运行;
S103:利用预先构建的***器将状态对应的消息发送至客户端。
从上述描述可知,本申请提供的高性能网络长连接建立方法及装置,能够通过构建连接池、***器及追踪器,提供一种开放式通用化的高性能网络长连接引擎,保证服务端点的统一管理、消息分发的高并发性,从而实现多种长连接场景的并行处理,能够针对断电、断网、客户端暴力操作等多种异常情况提供保护机制,接入简单,服务稳定。
本领域内的技术人员应明白,本发明的实施例可提供为方法、装置、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(装置)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
本发明中应用了具体实施例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (18)
1.一种高性能网络长连接建立方法,其特征在于,包括:
根据客户端的长连接建立请求与所述客户端建立长连接;
根据所述客户端的类型从预先创建的追踪器中选择对应的追踪器,并利用选择的追踪器监控所述长连接的状态;所述状态包括创建、断开及运行;
利用预先构建的***器将所述状态对应的消息发送至所述客户端。
2.根据权利要求1所述的高性能网络长连接建立方法,其特征在于,所述客户端包括资源客户端,预先构建资源客户端追踪器的步骤,包括:
利用EnumWsType枚举类建立所述资源客户端追踪器的长连接类型;
利用IWsProcessor接口中的方法建立所述资源客户端追踪器的标准接口;
根据所述资源客户端追踪器的长连接类型及所述资源客户端追踪器的标准接口建立所述资源客户端追踪器。
3.根据权利要求2所述的高性能网络长连接建立方法,其特征在于,所述IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,所述利用IWsProcessor接口中的方法建立所述资源客户端追踪器的标准接口,包括:
利用所述whenAddedToPool方法建立所述资源客户端追踪器对应的长连接初始化后的业务逻辑标准接口;
利用所述whenRemovedFromPool方法建立所述资源客户端追踪器对应的长连接销毁后的业务逻辑标准接口;
利用所述whenReceivedUpMsg方法建立所述资源客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口。
4.根据权利要求1所述的高性能网络长连接建立方法,其特征在于,所述客户端包括业务客户端,预先构建业务客户端追踪器的步骤,包括:
利用EnumWsType枚举类建立所述业务客户端追踪器的长连接类型;
利用IWsProcessor接口中的方法建立所述业务客户端追踪器的标准接口;
根据所述业务客户端追踪器的长连接类型及所述业务客户端追踪器的标准接口建立所述业务客户端追踪器。
5.根据权利要求4所述的高性能网络长连接建立方法,其特征在于,所述IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,所述利用IWsProcessor接口中的方法建立所述业务客户端追踪器的标准接口,包括:
利用所述whenAddedToPool方法建立所述业务客户端追踪器对应的长连接初始化后的业务逻辑标准接口;
利用所述whenRemovedFromPool方法建立所述业务客户端追踪器对应的长连接销毁后的业务逻辑标准接口;
利用所述whenReceivedUpMsg方法建立所述业务客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口。
6.根据权利要求1所述的高性能网络长连接建立方法,其特征在于,所述根据客户端的长连接建立请求与所述客户端建立长连接,包括:
利用void put方法与所述客户端建立长连接;
绑定所述长连接的唯一标识uuid与长连接对象wsObj之间的关系;
根据所述长连接的长链接类型绑定匹配的追踪器。
7.根据权利要求1所述的高性能网络长连接建立方法,其特征在于,所述利用预先构建的***器将所述状态对应的消息发送至所述客户端,包括:
确定待发送的消息是否发生拥堵,如是,将所述待发送的消息放入所述***器的环形缓冲区中;
利用预支内存机制及无锁并发机制,将所述环形缓冲区中待发送的消息发送至所述客户端。
8.根据权利要求1所述的高性能网络长连接建立方法,其特征在于,还包括:
利用预先构建的连接池中的心跳机制监控所述长连接的全生命周期状态。
9.一种高性能网络长连接建立装置,其特征在于,包括:
连接建立单元,用于根据客户端的长连接建立请求与所述客户端建立长连接;
状态监控单元,用于根据所述客户端的类型从预先创建的追踪器中选择对应的追踪器,并利用选择的追踪器监控所述长连接的状态;所述状态包括创建、断开及运行;
消息发送单元,用于利用预先构建的***器将所述状态对应的消息发送至所述客户端。
10.根据权利要求9所述的高性能网络长连接建立装置,其特征在于,所述客户端包括资源客户端,包括:
连接类型确定单元,用于利用EnumWsType枚举类建立所述资源客户端追踪器的长连接类型;
标准接口确定单元,用于利用IWsProcessor接口中的方法建立所述资源客户端追踪器的标准接口;
追踪器建立单元,用于根据所述资源客户端追踪器的长连接类型及所述资源客户端追踪器的标准接口建立所述资源客户端追踪器。
11.根据权利要求10所述的高性能网络长连接建立装置,其特征在于,所述IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,所述标准接口确定单元,包括:
第一标准接口确定模块,用于利用所述whenAddedToPool方法建立所述资源客户端追踪器对应的长连接初始化后的业务逻辑标准接口;
第二标准接口确定模块,用于利用所述whenRemovedFromPool方法建立所述资源客户端追踪器对应的长连接销毁后的业务逻辑标准接口;
第三标准接口确定模块,用于利用所述whenReceivedUpMsg方法建立所述资源客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口。
12.根据权利要求9所述的高性能网络长连接建立装置,其特征在于,所述客户端包括业务客户端,包括:
连接类型确定单元,用于利用EnumWsType枚举类建立所述业务客户端追踪器的长连接类型;
标准接口确定单元,用于利用IWsProcessor接口中的方法建立所述业务客户端追踪器的标准接口;
追踪器建立单元,用于根据所述业务客户端追踪器的长连接类型及所述业务客户端追踪器的标准接口建立所述业务客户端追踪器。
13.根据权利要求12所述的高性能网络长连接建立装置,其特征在于,所述IWsProcessor接口中的方法包括whenAddedToPool方法、whenRemovedFromPool方法及whenReceivedUpMsg方法,所述标准接口确定单元,包括:
第一标准接口确定模块,用于利用所述whenAddedToPool方法建立所述业务客户端追踪器对应的长连接初始化后的业务逻辑标准接口;
第二标准接口确定模块,用于利用所述whenRemovedFromPool方法建立所述业务客户端追踪器对应的长连接销毁后的业务逻辑标准接口;
第三标准接口确定模块,用于利用所述whenReceivedUpMsg方法建立所述业务客户端追踪器对应的长连接中上行消息处理的业务逻辑标准接口。
14.根据权利要求9所述的高性能网络长连接建立装置,其特征在于,所述连接建立单元,包括:
连接建立模块,用于利用void put方法与所述客户端建立长连接;
关系绑定模块,用于绑定所述长连接的唯一标识uuid与长连接对象wsObj之间的关系;
追踪器匹配模块,用于根据所述长连接的长链接类型绑定匹配的追踪器。
15.根据权利要求9所述的高性能网络长连接建立装置,其特征在于,所述消息发送单元,包括:
消息缓冲模块,用于确定待发送的消息是否发生拥堵,如是,将所述待发送的消息放入所述***器的环形缓冲区中;
消息发送模块,用于利用预支内存机制及无锁并发机制,将所述环形缓冲区中待发送的消息发送至所述客户端。
16.根据权利要求9所述的高性能网络长连接建立装置,其特征在于,还包括:
心跳监控单元,用于利用预先构建的连接池中的心跳机制监控所述长连接的全生命周期状态。
17.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至8任一项所述的高性能网络长连接建立方法的步骤。
18.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至8任一项所述的高性能网络长连接建立方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111186958.0A CN113923249A (zh) | 2021-10-12 | 2021-10-12 | 一种高性能网络长连接建立方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111186958.0A CN113923249A (zh) | 2021-10-12 | 2021-10-12 | 一种高性能网络长连接建立方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113923249A true CN113923249A (zh) | 2022-01-11 |
Family
ID=79239427
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111186958.0A Pending CN113923249A (zh) | 2021-10-12 | 2021-10-12 | 一种高性能网络长连接建立方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113923249A (zh) |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102932352A (zh) * | 2012-11-02 | 2013-02-13 | 北京奇虎科技有限公司 | 和客户端进行通信的方法以及服务器 |
CN103618741A (zh) * | 2013-12-09 | 2014-03-05 | 惠州华阳通用电子有限公司 | 一种tcp长连接通信***及方法 |
CN105763634A (zh) * | 2016-04-14 | 2016-07-13 | 北京思特奇信息技术股份有限公司 | 一种基于tcp长连接的服务实现方法和装置 |
CN107135279A (zh) * | 2017-07-07 | 2017-09-05 | 网宿科技股份有限公司 | 一种处理长连接建立请求的方法和装置 |
CN108243222A (zh) * | 2016-12-26 | 2018-07-03 | 航天信息股份有限公司 | 服务器网络架构方法及装置 |
CN109660584A (zh) * | 2017-10-12 | 2019-04-19 | 阿里巴巴集团控股有限公司 | 一种客户端与服务器建立长连接的方法及通信方法与通信*** |
CN110351366A (zh) * | 2019-07-12 | 2019-10-18 | 西安雷迪信息技术有限公司 | 一种互联网应用的服务调度方法、***及计算机可读存储介质 |
CN110430238A (zh) * | 2019-07-05 | 2019-11-08 | 中国平安财产保险股份有限公司 | 长连接管理方法、装置、设备及计算机可读存储介质 |
CN111447185A (zh) * | 2020-03-10 | 2020-07-24 | 平安科技(深圳)有限公司 | 一种推送信息的处理方法及相关设备 |
CN112118266A (zh) * | 2020-09-24 | 2020-12-22 | 焦点科技股份有限公司 | 一种HTTP与WebSocket协同的分布式状态同步方法 |
CN112383617A (zh) * | 2020-11-12 | 2021-02-19 | 百度在线网络技术(北京)有限公司 | 进行长连接的方法、装置、终端设备以及介质 |
CN113301299A (zh) * | 2021-05-06 | 2021-08-24 | 厦门市思芯微科技有限公司 | 一种多通道视频传输方法、***、终端以及存储介质 |
CN113472846A (zh) * | 2021-05-28 | 2021-10-01 | 乐融致新电子科技(天津)有限公司 | 消息处理方法、装置、设备和计算机可读存储介质 |
-
2021
- 2021-10-12 CN CN202111186958.0A patent/CN113923249A/zh active Pending
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102932352A (zh) * | 2012-11-02 | 2013-02-13 | 北京奇虎科技有限公司 | 和客户端进行通信的方法以及服务器 |
CN103618741A (zh) * | 2013-12-09 | 2014-03-05 | 惠州华阳通用电子有限公司 | 一种tcp长连接通信***及方法 |
CN105763634A (zh) * | 2016-04-14 | 2016-07-13 | 北京思特奇信息技术股份有限公司 | 一种基于tcp长连接的服务实现方法和装置 |
CN108243222A (zh) * | 2016-12-26 | 2018-07-03 | 航天信息股份有限公司 | 服务器网络架构方法及装置 |
CN107135279A (zh) * | 2017-07-07 | 2017-09-05 | 网宿科技股份有限公司 | 一种处理长连接建立请求的方法和装置 |
CN109660584A (zh) * | 2017-10-12 | 2019-04-19 | 阿里巴巴集团控股有限公司 | 一种客户端与服务器建立长连接的方法及通信方法与通信*** |
CN110430238A (zh) * | 2019-07-05 | 2019-11-08 | 中国平安财产保险股份有限公司 | 长连接管理方法、装置、设备及计算机可读存储介质 |
CN110351366A (zh) * | 2019-07-12 | 2019-10-18 | 西安雷迪信息技术有限公司 | 一种互联网应用的服务调度方法、***及计算机可读存储介质 |
CN111447185A (zh) * | 2020-03-10 | 2020-07-24 | 平安科技(深圳)有限公司 | 一种推送信息的处理方法及相关设备 |
CN112118266A (zh) * | 2020-09-24 | 2020-12-22 | 焦点科技股份有限公司 | 一种HTTP与WebSocket协同的分布式状态同步方法 |
CN112383617A (zh) * | 2020-11-12 | 2021-02-19 | 百度在线网络技术(北京)有限公司 | 进行长连接的方法、装置、终端设备以及介质 |
CN113301299A (zh) * | 2021-05-06 | 2021-08-24 | 厦门市思芯微科技有限公司 | 一种多通道视频传输方法、***、终端以及存储介质 |
CN113472846A (zh) * | 2021-05-28 | 2021-10-01 | 乐融致新电子科技(天津)有限公司 | 消息处理方法、装置、设备和计算机可读存储介质 |
Non-Patent Citations (1)
Title |
---|
翟成彤: "基于长连接的分布式消息推送***设计与实现", 中国优秀硕士学位论文全文数据库 信息科技辑, 5 June 2019 (2019-06-05) * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108449410B (zh) | 一种云平台中消息管理方法、***及相关装置 | |
EP3547715B1 (en) | Method and apparatus for reducing continuous-wakeup delay of bluetooth loudspeaker, and bluetooth loudspeaker | |
CN111031058A (zh) | 基于WebSocket的分布式服务器集***互方法及装置 | |
CN109376197B (zh) | 一种数据同步方法、服务器及计算机存储介质 | |
CN103209439A (zh) | 一种数据流量监控的方法、装置和设备 | |
CN110505275A (zh) | 数据传输方法、***、服务器及计算机可读存储介质 | |
CN112463535A (zh) | 多集群异常处理方法及装置 | |
CN111445331A (zh) | 交易撮合方法及装置 | |
CN105142184A (zh) | 一种流量控制方法及电子设备 | |
CN111510493B (zh) | 分布式数据传输方法及装置 | |
CN102708063B (zh) | 磁盘空间管理方法及装置 | |
CN111666167A (zh) | 一种对输入事件读取处理优化方法、非易失性存储器及终端设备 | |
WO2024067529A1 (zh) | 基于rdma的建连方法、装置、设备及存储介质 | |
CN113971098A (zh) | 一种RabbitMQ消费管理方法及*** | |
CN110381150B (zh) | 区块链上的数据处理方法、装置、电子设备及存储介质 | |
CN111338905A (zh) | 应用节点数据处理方法及装置 | |
CN113923249A (zh) | 一种高性能网络长连接建立方法及装置 | |
CN107241788A (zh) | 可穿戴设备的功耗控制方法及装置 | |
US9647966B2 (en) | Device, method and non-transitory computer readable storage medium for performing instant message communication | |
CN115914375A (zh) | 分布式消息平台容灾处理方法及装置 | |
CN104486215A (zh) | 一种消息发送方法及设备 | |
CN114697339A (zh) | 集中式架构下的负载均衡方法及装置 | |
CN111698337B (zh) | 建立通信连接的方法、装置及设备 | |
CN114996053A (zh) | 一种远程卷复制传输方法、***、装置及存储介质 | |
CN110928944B (zh) | 一种数据处理方法及其装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |