CN115883655B - 服务请求处理方法、装置、电子设备及存储介质 - Google Patents

服务请求处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN115883655B
CN115883655B CN202211562193.0A CN202211562193A CN115883655B CN 115883655 B CN115883655 B CN 115883655B CN 202211562193 A CN202211562193 A CN 202211562193A CN 115883655 B CN115883655 B CN 115883655B
Authority
CN
China
Prior art keywords
service request
configuration information
service
control plane
proxy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211562193.0A
Other languages
English (en)
Other versions
CN115883655A (zh
Inventor
王绍坤
黄明亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yusur Technology Co ltd
Original Assignee
Yusur Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yusur Technology Co ltd filed Critical Yusur Technology Co ltd
Priority to CN202211562193.0A priority Critical patent/CN115883655B/zh
Publication of CN115883655A publication Critical patent/CN115883655A/zh
Application granted granted Critical
Publication of CN115883655B publication Critical patent/CN115883655B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开涉及一种服务请求处理方法、装置、电子设备及存储介质。本公开通过获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息,以使所述数据处理器中的多个代理实例基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。相较于现有技术,本公开由于将多个服务请求配置给多个代理实例,以使多个代理实例对服务请求并行处理,可以处理高并发的服务请求,解决了现有集中式代理有限的处理器、内存、最大连接数等资源难以承载高并发的服务请求的问题,并且多个代理实例可以并行地处理服务请求,进而可以提高服务请求处理速度,提升服务请求处理效率,提升用户体验。

Description

服务请求处理方法、装置、电子设备及存储介质
技术领域
本公开涉及数据处理领域,尤其涉及一种服务请求处理方法、装置、电子设备及存储介质。
背景技术
数据处理器(Data Processing Unit,DPU)是以数据为中心、I/O密集型、采用软件定义技术路线支撑基础设施资源层虚拟化,具备提升计算***效率、降低整体***的总拥有成本,并提高数据处理效能、降低其他计算芯片性能损耗的新一代计算芯片。
服务网格(Service Mesh)是云服务中的一个基础设施层,专注于实现微服务间服务请求的可靠传递,并在其基础上提供服务发现、负载均衡、请求路由和规则配置等流量控制层面操作。当前DPU上的服务网格通常使用集中式代理,在DPU上部署集中式代理能够为云服务器节点上的应用服务提供所需的服务治理与业务解耦、基于配置的流量控制等功能。
但是,集中式代理有限的处理器、内存、最大连接数等资源难以承载高并发的服务请求,当云服务器节点部署的应用服务规模逐渐增大时,不但无法满足服务网格的功能,甚至连基本的服务请求和业务流量转发也无法完成,影响用户体验。
发明内容
为了解决上述技术问题,本公开提供了一种服务请求处理方法、装置、电子设备及存储介质,以处理高并发的服务请求,提高用户体验。
第一方面,本公开实施例提供一种服务请求处理方法,应用于云服务器节点,在每个云服务器节点上分别部署控制面代理,所述方法包括:
获取至少一个服务请求;
基于所述控制面代理从服务网格控制面获取配置信息;
分别向数据处理器中的多个代理实例下发所述配置信息,以使所述数据处理器中的多个代理实例基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
在一些实施例中,所述配置信息包括如下至少一种:
所述至少一个服务请求中的每个服务请求的属性信息、用户对所述至少一个服务请求中的每个服务请求的配置信息、服务网格的配置信息。
在一些实施例中,所述基于所述控制面代理从服务网格控制面获取配置信息,包括:
通过所述控制面代理与服务网格控制面进行同步;
从所述服务网格控制面获取配置信息。
第二方面,本公开实施例提供一种服务请求处理方法,应用于数据处理器,在所述数据处理器的片上***中部署多个代理实例,所述方法包括:
基于所述多个代理实例接收云服务器节点发送的配置信息;所述云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息;
基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
在一些实施例中,所述基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理,包括:
根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系;
从所述对应关系中确定与所述至少一个服务请求中的每个服务请求对应的目标代理实例;
基于所述至少一个服务请求中的每个服务请求对应的目标代理实例对所述每个服务请求进行处理。
在一些实施例中,所述基于所述至少一个服务请求中的每个服务请求对应的目标代理实例对所述每个服务请求进行处理,包括:
对于所述至少一个服务请求中的每个服务请求,将该服务请求与该服务请求对应的所述目标代理实例建立连接;
调用与该服务请求连接的所述目标代理实例对该服务请求进行处理。
第三方面,本公开实施例提供一种服务请求处理装置,应用于云服务器节点,在每个云服务器节点上分别部署控制面代理,包括:
第一获取模块,用于获取至少一个服务请求;
第二获取模块,用于基于所述控制面代理从服务网格控制面获取配置信息;
下发模块,用于分别向数据处理器中的多个代理实例下发所述配置信息,以使所述数据处理器中的多个代理实例基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
第四方面,本公开实施例提供一种服务请求处理装置,应用于数据处理器,在所述数据处理器的片上***中部署多个代理实例,包括:
接收模块,用于基于所述多个代理实例接收云服务器节点发送的配置信息;所述云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息;
处理模块,用于基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
第五方面,本公开实施例提供一种电子设备,包括:
存储器;
处理器;以及
计算机程序;
其中,所述计算机程序存储在所述存储器中,并被配置为由所述处理器执行以实现如第一方面或第二方面所述的方法。
第六方面,本公开实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行以实现如第一方面或第二方面所述的方法。
第七方面,本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序或指令,该计算机程序或指令被处理器执行时实现如第一方面或第二方面所述的方法。
本公开实施例提供的服务请求处理方法、装置、电子设备及存储介质,通过获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息,以使所述数据处理器中的多个代理实例基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。相较于现有技术中服务请求都需要通过集中式代理进行处理,本公开由于将多个服务请求配置给多个代理实例,以使多个代理实例对服务请求并行处理,可以处理高并发的服务请求,能够满足所有服务请求、流量转发和网格控制层面需求,解决了现有集中式代理有限的处理器、内存、最大连接数等资源难以承载高并发的服务请求的问题,并且多个代理实例可以并行地处理服务请求,进而可以提高服务请求处理速度,提升服务请求处理效率,提升用户体验。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的服务请求处理方法流程图;
图2为本公开实施例提供的基于多实例代理对服务请求进行处理的流程示意图;
图3为本公开实施例提供的服务请求处理方法流程图;
图4为本公开另一实施例提供的服务请求处理方法流程图;
图5为本公开实施例提供的服务请求处理装置的结构示意图;
图6为本公开实施例提供的服务请求处理装置的结构示意图;
图7为本公开实施例提供的电子设备的结构示意图。
具体实施方式
为了能够更清楚地理解本公开的上述目的、特征和优点,下面将对本公开的方案进行进一步描述。需要说明的是,在不冲突的情况下,本公开的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本公开,但本公开还可以采用其他不同于在此描述的方式来实施;显然,说明书中的实施例只是本公开的一部分实施例,而不是全部的实施例。
数据处理器(Data Processing Unit,DPU)是以数据为中心、I/O密集型、采用软件定义技术路线支撑基础设施资源层虚拟化,具备提升计算***效率、降低整体***的总拥有成本,并提高数据处理效能、降低其他计算芯片性能损耗的新一代计算芯片。
服务网格(Service Mesh)是云服务中的一个基础设施层,专注于实现微服务间服务请求的可靠传递,并在其基础上提供服务发现、负载均衡、请求路由和规则配置等流量控制层面操作。当前DPU上的服务网格通常使用集中式代理,在DPU上部署集中式代理能够为云服务器节点上的应用服务提供所需的服务治理与业务解耦、基于配置的流量控制等功能。
但是,集中式代理有限的处理器、内存、最大连接数等资源难以承载高并发的服务请求,当云服务器节点部署的应用服务规模逐渐增大时,不但无法满足服务网格的功能,甚至连基本的服务请求和业务流量转发也无法完成,影响用户体验。
针对该问题,本公开实施例提供了一种服务请求处理方法,下面结合具体的实施例对该方法进行介绍。
图1为本公开实施例提供的服务请求处理方法流程图,应用于云服务器节点,在每个云服务器节点上分别部署控制面代理,该方法可以应用于处理高并发服务请求的场景,可以处理高并发的服务请求,提高服务请求处理速度,提升服务请求处理效率,提高用户体验。可以理解的是,本公开实施例提供的服务请求处理方法还可以应用在其他场景中。
下面对图1所示的的服务请求处理方法进行介绍,该方法包括如下几个步骤:
S101、获取至少一个服务请求。
在一些可选的实施方式中,云服务器节点获取至少一个服务请求。具体的,客户端向云服务器节点发送至少一个服务请求,云服务器节点接收客户端发送的至少一个服务请求。云服务器节点可以有多个,在每个云服务器节点上分别部署控制面代理,如图2所示,以两个云服务器节点为例,每个云服务器节点上部署了一个服务网格控制平面agent(控制面代理),云服务器节点中有多个服务容器(Service Pod),云服务器节点可以从服务容器中获取多个服务请求。
S102、基于所述控制面代理从服务网格控制面获取配置信息。
在获取到至少一个服务请求之后,云服务器节点可以通过所述控制面代理从服务网格控制面获取配置信息。
如图2所示,服务网格控制平面可以获取***架构(例如Kubernetes)管理的全量服务应用节点信息、用户配置信息及服务网格配置信息等配置信息,进一步,云服务器节点中的控制面代理可以从服务网格控制平面获取配置信息。
在一些实施例中,所述配置信息包括如下至少一种:所述至少一个服务请求中的每个服务请求的属性信息、用户对所述至少一个服务请求中的每个服务请求的配置信息、服务网格的配置信息。
可选的,所述至少一个服务请求中的每个服务请求的属性信息包括每个服务请求的网际互连协议(Internet Protocol,IP)、物理地址(Media Access Control,MAC)、端口号、通信协议等。用户对所述至少一个服务请求中的每个服务请求的配置信息,例如用户为每个服务请求分配流量权重。服务网格的配置信息包括服务容器与代理实例之间的对应关系,即每个服务容器中的服务请求通过哪个代理实例来处理。
在一些实施例中,S102包括但不限于S1021、S1022:
S1021、通过所述控制面代理与服务网格控制面进行同步。
在获取配置信息之后,云服务节点通过所述控制面代理与服务网格控制面进行同步。
S1022、从所述服务网格控制面获取配置信息。
在通过所述控制面代理与服务网格控制面进行同步之后,进一步,云服务节点可以从所述服务网格控制面获取配置信息。
S103、分别向数据处理器中的多个代理实例下发所述配置信息,以使所述数据处理器中的多个代理实例基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
如图2所示,在云服务器节点获取到配置信息之后,云服务器节点中的控制面代理将所述配置信息发送给数据处理器中的多个代理实例,所述数据处理器中的多个代理实例接收所述配置信息并基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
在一些实施例中,每个代理实例基于各自所建立的连接与服务请求组成云原生服务网格单元,一个云服务器节点上的多个云原生服务网格单元共同组成云原生服务网格。云原生服务网格可以为各服务容器提供服务发现、负载均衡、请求路由和规则配置等服务。云原生服务网格在处理外部的服务请求或应答、跨云服务器节点间服务请求时,可以通过DPU实现流量加速。
本公开实施例通过获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息,以使所述数据处理器中的多个代理实例基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。相较于现有技术中服务请求都需要通过集中式代理进行处理,本公开由于将多个服务请求配置给多个代理实例,以使多个代理实例对服务请求并行处理,可以处理高并发的服务请求,能够满足所有服务请求、流量转发和网格控制层面需求,解决了现有集中式代理有限的处理器、内存、最大连接数等资源难以承载高并发的服务请求的问题,并且多个代理实例可以并行地处理服务请求,进而可以提高服务请求处理速度,提升服务请求处理效率,提升用户体验。
图3为本公开实施例提供的服务请求处理方法流程图,应用于数据处理器,在所述数据处理器的片上***中部署多个代理实例,如图3所示,该方法包括如下几个步骤:
S301、基于所述多个代理实例接收云服务器节点发送的配置信息;所述云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息。
本实施例中,在所述数据处理器的片上***中部署多个代理实例,片上***是部署在DPU上的操作***。云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息。进一步,数据处理器中的多个代理实例可以接收云服务器节点发送的配置信息。
S302、基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
在接收到云服务器节点发送的配置信息之后,数据处理器根据所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。具体的,数据处理器可以基于所述配置信息对多个代理实例进行配置,进而通过多个代理实例对所述至少一个服务请求中的每个服务请求进行处理。
在一些实施例中,S302包括但不限于S3021、S3022、S3023:
S3021、根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系。
在接收到云服务器节点发送的配置信息之后,数据处理器可以根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系。一个代理实例可以对一个服务请求进行处理,也可以对多个服务请求进行处理,在此不做限定。也就是说,代理实例与服务请求之间可以是一对一的关系,也可以是一对多的关系。
S3022、从所述对应关系中确定与所述至少一个服务请求中的每个服务请求对应的目标代理实例。
得到对应关系之后,数据处理器可以从所述对应关系中确定出与每个服务请求对应的目标代理实例。
S3023、基于所述至少一个服务请求中的每个服务请求对应的目标代理实例对所述每个服务请求进行处理。
进一步,数据处理器通过所述至少一个服务请求中的每个服务请求对应的目标代理实例对所述每个服务请求进行处理。
本公开实施例通过基于所述多个代理实例接收云服务器节点发送的配置信息。其中,所述云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息。进一步,基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。相较于现有技术中服务请求都需要通过集中式代理进行处理,本公开由于将多个服务请求配置给多个代理实例,以使多个代理实例对服务请求并行处理,可以处理高并发的服务请求,能够满足所有服务请求、流量转发和网格控制层面需求,解决了现有集中式代理有限的处理器、内存、最大连接数等资源难以承载高并发的服务请求的问题,并且多个代理实例可以并行地处理服务请求,进而可以提高服务请求处理速度,提升服务请求处理效率,提升用户体验。
图4为本公开另一实施例提供的服务请求处理方法流程图,如图4所示,该方法包括如下几个步骤:
S401、基于所述多个代理实例接收云服务器节点发送的配置信息;所述云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息。
具体的,S401和S301的实现过程和原理一致,此处不再赘述。
S402、根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系。
在接收到云服务器节点发送的配置信息之后,数据处理器可以根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系。一个代理实例可以对一个服务请求进行处理,也可以对多个服务请求进行处理,在此不做限定。也就是说,代理实例与服务请求之间可以是一对一的关系,也可以是一对多的关系。
S403、从所述对应关系中确定与所述至少一个服务请求中的每个服务请求对应的目标代理实例。
得到对应关系之后,数据处理器可以从所述对应关系中确定出与每个服务请求对应的目标代理实例。
S404、对于所述至少一个服务请求中的每个服务请求,将该服务请求与该服务请求对应的所述目标代理实例建立连接。
在确定出与每个服务请求对应的目标代理实例之后,数据处理器将每个服务请求与其对应的目标代理实例建立会话连接。如图2所示,每个Envoy代理即目标代理实例与云服务器节点上对应的的服务请求建立传输控制协议(Transmission Control Protocol,TCP)会话,使每一个Envoy代理在合理的流量承载范围内工作,从而承载高并发的服务请求。
S405、调用与该服务请求连接的所述目标代理实例对该服务请求进行处理。
在服务请求与目标代理实例建立连接之后,数据处理器可以调用与该服务请求连接的所述目标代理实例对该服务请求进行处理。将多个服务请求配置给多个代理实例,以使多个代理实例对服务请求并行处理,解决了现有集中式代理有限的处理器、内存、最大连接数等资源难以承载高并发的服务请求的问题,多个代理实例可以并行地处理服务请求,进而可以提高服务请求处理速度,提升服务请求处理效率。
本公开实施例通过基于所述多个代理实例接收云服务器节点发送的配置信息。所述云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息。进一步,根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系,从所述对应关系中确定与所述至少一个服务请求中的每个服务请求对应的目标代理实例。对于所述至少一个服务请求中的每个服务请求,将该服务请求与该服务请求对应的所述目标代理实例建立连接。进而调用与该服务请求连接的所述目标代理实例对该服务请求进行处理。相较于现有技术,本公开实施例由于将多个服务请求配置给多个代理实例,以使多个代理实例对服务请求并行处理,可以处理高并发的服务请求,能够满足所有服务请求、流量转发和网格控制层面需求,解决了现有集中式代理有限的处理器、内存、最大连接数等资源难以承载高并发的服务请求的问题,并且多个代理实例可以并行地处理服务请求,进而可以提高服务请求处理速度,提升服务请求处理效率,提升用户体验。
图5为本公开实施例提供的服务请求处理装置的结构示意图。该服务请求处理装置可以是如上实施例的云服务器节点,或者服务请求处理装置可以是该云服务器节点中的部件或组件。本公开实施例提供的服务请求处理装置可以执行服务请求处理方法实施例提供的处理流程,如图5所示,服务请求处理装置50包括:第一获取模块51、第二获取模块52、下发模块53;其中,第一获取模块51用于获取至少一个服务请求;第二获取模块52用于基于所述控制面代理从服务网格控制面获取配置信息;下发模块53用于分别向数据处理器中的多个代理实例下发所述配置信息,以使所述数据处理器中的多个代理实例基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
可选的,所述配置信息包括如下至少一种:所述至少一个服务请求中的每个服务请求的属性信息、用户对所述至少一个服务请求中的每个服务请求的配置信息、服务网格的配置信息。
可选的,所述第二获取模块52基于所述控制面代理从服务网格控制面获取配置信息时,具体用于:通过所述控制面代理与服务网格控制面进行同步;从所述服务网格控制面获取配置信息。
图5所示实施例的服务请求处理装置可用于执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
图6为本公开实施例提供的服务请求处理装置的结构示意图。该服务请求处理装置可以是如上实施例的数据处理器,或者服务请求处理装置可以是该数据处理器中的部件或组件。本公开实施例提供的服务请求处理装置可以执行服务请求处理方法实施例提供的处理流程,如图6所示,服务请求处理装置60包括:接收模块61、处理模块62;其中,接收模块61用于基于所述多个代理实例接收云服务器节点发送的配置信息;所述云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息;处理模块62用于基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
可选的,所述处理模块62基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理时,具体用于:根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系;从所述对应关系中确定与所述至少一个服务请求中的每个服务请求对应的目标代理实例;基于所述至少一个服务请求中的每个服务请求对应的目标代理实例对所述每个服务请求进行处理。
可选的,所述处理模块62基于所述至少一个服务请求中的每个服务请求对应的目标代理实例对所述每个服务请求进行处理时,具体用于:对于所述至少一个服务请求中的每个服务请求,将该服务请求与该服务请求对应的所述目标代理实例建立连接;调用与该服务请求连接的所述目标代理实例对该服务请求进行处理。
图6所示实施例的服务请求处理装置可用于执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
图7为本公开实施例提供的电子设备的结构示意图。该电子设备可以是云服务器节点或数据处理器。本公开实施例提供的电子设备可以执行服务请求处理方法实施例提供的处理流程,如图7所示,电子设备70包括:存储器71、处理器72、计算机程序和通讯接口73;其中,计算机程序存储在存储器71中,并被配置为由处理器72执行如上所述的服务请求处理方法。
另外,本公开实施例还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行以实现上述实施例所述的服务请求处理方法。
此外,本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序或指令,该计算机程序或指令被处理器执行时实现如上所述的服务请求处理方法。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
获取至少一个服务请求;
基于所述控制面代理从服务网格控制面获取配置信息;
分别向数据处理器中的多个代理实例下发所述配置信息,以使所述数据处理器中的多个代理实例基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
或上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
基于所述多个代理实例接收云服务器节点发送的配置信息;所述云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息;
基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理。
另外,该电子设备还可以执行如上所述的服务请求处理方法中的其他步骤。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上***(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本公开的具体实施方式,使本领域技术人员能够理解或实现本公开。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本公开的精神或范围的情况下,在其它实施例中实现。因此,本公开将不会被限制于本文所述的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (7)

1.一种服务请求处理方法,其特征在于,应用于云服务器节点,在每个云服务器节点上分别部署控制面代理,所述方法包括:
获取至少一个服务请求;
基于所述控制面代理从服务网格控制面获取配置信息;
分别向数据处理器中的多个代理实例下发所述配置信息,以使所述数据处理器中的多个代理实例基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理;
所述基于所述控制面代理从服务网格控制面获取配置信息,包括:
通过所述控制面代理与服务网格控制面进行同步;
从所述服务网格控制面获取配置信息;
根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系;
从所述对应关系中确定与所述至少一个服务请求中的每个服务请求对应的目标代理实例。
2.根据权利要求1所述的方法,其特征在于,所述配置信息包括如下至少一种:
所述至少一个服务请求中的每个服务请求的属性信息、用户对所述至少一个服务请求中的每个服务请求的配置信息、服务网格的配置信息。
3.一种服务请求处理方法,其特征在于,应用于数据处理器,在所述数据处理器的片上***中部署多个代理实例,所述方法包括:
基于所述多个代理实例接收云服务器节点发送的配置信息;所述云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息;
基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理;
所述基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理,包括:
根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系;
从所述对应关系中确定与所述至少一个服务请求中的每个服务请求对应的目标代理实例;
对于所述至少一个服务请求中的每个服务请求,将该服务请求与该服务请求对应的所述目标代理实例建立连接;
调用与该服务请求连接的所述目标代理实例对该服务请求进行处理。
4.一种服务请求处理装置,其特征在于,应用于云服务器节点,在每个云服务器节点上分别部署控制面代理,包括:
第一获取模块,用于获取至少一个服务请求;
第二获取模块,用于基于所述控制面代理从服务网格控制面获取配置信息;
下发模块,用于分别向数据处理器中的多个代理实例下发所述配置信息,以使所述数据处理器中的多个代理实例基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理;
所述第二获取模块基于所述控制面代理从服务网格控制面获取所述配置信息时,具体用于:
通过所述控制面代理与服务网格控制面进行同步;
从所述服务网格控制面获取所述配置信息;
根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系;
从所述对应关系中确定与所述至少一个服务请求中的每个服务请求对应的目标代理实例。
5.一种服务请求处理装置,其特征在于,应用于数据处理器,在所述数据处理器的片上***中部署多个代理实例,包括:
接收模块,用于基于所述多个代理实例接收云服务器节点发送的配置信息;所述云服务器节点用于获取至少一个服务请求,基于控制面代理从服务网格控制面获取配置信息,分别向数据处理器中的多个代理实例下发所述配置信息;
处理模块,用于基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理;
所述处理模块基于所述配置信息对所述至少一个服务请求中的每个服务请求进行处理时,具体用于:
根据所述配置信息得到所述至少一个服务请求中的每个服务请求与所述多个代理实例之间的对应关系;
从所述对应关系中确定与所述至少一个服务请求中的每个服务请求对应的目标代理实例;
对于所述至少一个服务请求中的每个服务请求,将该服务请求与该服务请求对应的所述目标代理实例建立连接;
调用与该服务请求连接的所述目标代理实例对该服务请求进行处理。
6.一种电子设备,其特征在于,包括:
存储器;
处理器;以及
计算机程序;
其中,所述计算机程序存储在所述存储器中,并被配置为由所述处理器执行以实现如权利要求1-3中任一所述的方法。
7.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-3中任一项所述的方法。
CN202211562193.0A 2022-12-07 2022-12-07 服务请求处理方法、装置、电子设备及存储介质 Active CN115883655B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211562193.0A CN115883655B (zh) 2022-12-07 2022-12-07 服务请求处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211562193.0A CN115883655B (zh) 2022-12-07 2022-12-07 服务请求处理方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN115883655A CN115883655A (zh) 2023-03-31
CN115883655B true CN115883655B (zh) 2024-06-07

Family

ID=85766312

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211562193.0A Active CN115883655B (zh) 2022-12-07 2022-12-07 服务请求处理方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN115883655B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117061338B (zh) * 2023-08-16 2024-06-07 中科驭数(北京)科技有限公司 基于多网卡的服务网格数据处理方法、装置及***
CN117176819A (zh) * 2023-09-27 2023-12-05 中科驭数(北京)科技有限公司 一种服务网络按服务卸载的方法及装置
CN117395141B (zh) * 2023-12-07 2024-05-24 江苏征途技术股份有限公司 一种简化站房智能辅助与人工智能可视化网关配置的方法

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103581283A (zh) * 2012-07-26 2014-02-12 国际商业机器公司 用于控制支持中心的方法和***
CN107911390A (zh) * 2017-12-14 2018-04-13 浪潮软件股份有限公司 处理服务请求的方法、代理服务器、应用服务器和***
CN108234223A (zh) * 2018-04-19 2018-06-29 郑州云海信息技术有限公司 一种数据中心综合管理***的安全服务设计方法
EP3382555A1 (en) * 2017-03-30 2018-10-03 Wipro Limited System and method for management of services in a cloud environment
CN108847990A (zh) * 2013-03-29 2018-11-20 思杰***有限公司 提供移动设备管理功能
CN111917870A (zh) * 2020-07-30 2020-11-10 广州津虹网络传媒有限公司 请求处理方法、***、装置、电子设备及存储介质
CN112000365A (zh) * 2020-08-24 2020-11-27 百度时代网络技术(北京)有限公司 基于微服务架构的服务网格配置方法、装置、设备和介质
CN112395070A (zh) * 2019-08-12 2021-02-23 阿里巴巴集团控股有限公司 数据处理***及方法
CN112738284A (zh) * 2021-04-01 2021-04-30 腾讯科技(深圳)有限公司 服务集成中的数据传输方法、装置、设备及存储介质
CN113726843A (zh) * 2021-07-13 2021-11-30 阿里巴巴新加坡控股有限公司 边缘云***、数据传输方法、设备及存储介质
CN113765988A (zh) * 2021-02-26 2021-12-07 北京沃东天骏信息技术有限公司 信息处理方法、装置、电子设备及存储介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018063332A1 (en) * 2016-09-30 2018-04-05 Intel Corporation Geographic service classification and routing
US20220116445A1 (en) * 2021-04-12 2022-04-14 Miltiadis Filippou Disintermediated attestation in a mec service mesh framework
CN115834708A (zh) * 2022-11-23 2023-03-21 中科驭数(北京)科技有限公司 负载均衡方法、装置、设备及计算机可读存储介质

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103581283A (zh) * 2012-07-26 2014-02-12 国际商业机器公司 用于控制支持中心的方法和***
CN108847990A (zh) * 2013-03-29 2018-11-20 思杰***有限公司 提供移动设备管理功能
EP3382555A1 (en) * 2017-03-30 2018-10-03 Wipro Limited System and method for management of services in a cloud environment
CN107911390A (zh) * 2017-12-14 2018-04-13 浪潮软件股份有限公司 处理服务请求的方法、代理服务器、应用服务器和***
CN108234223A (zh) * 2018-04-19 2018-06-29 郑州云海信息技术有限公司 一种数据中心综合管理***的安全服务设计方法
CN112395070A (zh) * 2019-08-12 2021-02-23 阿里巴巴集团控股有限公司 数据处理***及方法
CN111917870A (zh) * 2020-07-30 2020-11-10 广州津虹网络传媒有限公司 请求处理方法、***、装置、电子设备及存储介质
CN112000365A (zh) * 2020-08-24 2020-11-27 百度时代网络技术(北京)有限公司 基于微服务架构的服务网格配置方法、装置、设备和介质
CN113765988A (zh) * 2021-02-26 2021-12-07 北京沃东天骏信息技术有限公司 信息处理方法、装置、电子设备及存储介质
CN112738284A (zh) * 2021-04-01 2021-04-30 腾讯科技(深圳)有限公司 服务集成中的数据传输方法、装置、设备及存储介质
CN113726843A (zh) * 2021-07-13 2021-11-30 阿里巴巴新加坡控股有限公司 边缘云***、数据传输方法、设备及存储介质

Also Published As

Publication number Publication date
CN115883655A (zh) 2023-03-31

Similar Documents

Publication Publication Date Title
CN115883655B (zh) 服务请求处理方法、装置、电子设备及存储介质
CN109561171B (zh) 虚拟私有云服务的配置方法和装置
CN112910692B (zh) 基于微服务网关的服务网格流量控制方法、***和介质
US20170026306A1 (en) Systems and methods for autonomous resource discovery, management, and stitching
US10917358B1 (en) Cloud service for cross-cloud operations
CN107210924B (zh) 用于配置通信***的方法和设备
CN115834708A (zh) 负载均衡方法、装置、设备及计算机可读存储介质
CN113938533B (zh) 应用间的通信方法、装置、电子设备及计算机可读介质
US11010189B2 (en) Multi-cloud operating method, operation managing device, and storage medium
JP2019525604A (ja) ネットワーク機能nf管理方法及びnf管理装置
CN112968965B (zh) Nfv网络节点的元数据服务方法、服务器及存储介质
CN109104368B (zh) 一种请求连接方法、装置、服务器及计算机可读存储介质
US20230137879A1 (en) In-flight incremental processing
CN115686875A (zh) 用于在多个进程之间传输数据的方法、设备和程序产品
CN114301914A (zh) 一种云边协同方法、装置及存储介质
CN116232884A (zh) 代理实例管理方法、装置、电子设备及存储介质
CN116886496A (zh) 基于dpu的数据处理方法、装置、设备及可读存储介质
CN113342457A (zh) 基于Eureka服务注册与发现的Kubernetes调度方法
CN111049915A (zh) 一种容器云下消息队列代理网格及方法
CN115499432A (zh) 家庭终端算力资源管理***及算力资源调度方法
US11683400B1 (en) Communication protocol for Knative Eventing's Kafka components
CN107491551B (zh) 一种分布式文件***实现客户端访问的方法及装置
TWI571077B (zh) 整合網路裝置及其服務整合方法
CN116954822A (zh) 容器编排***和容器编排***的使用方法
WO2022228121A1 (zh) 提供服务的方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant