CN115994022B - 算法服务的调用方法、装置、电子设备和存储介质 - Google Patents

算法服务的调用方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN115994022B
CN115994022B CN202310272460.9A CN202310272460A CN115994022B CN 115994022 B CN115994022 B CN 115994022B CN 202310272460 A CN202310272460 A CN 202310272460A CN 115994022 B CN115994022 B CN 115994022B
Authority
CN
China
Prior art keywords
platform
algorithm
resource
service flow
execution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310272460.9A
Other languages
English (en)
Other versions
CN115994022A (zh
Inventor
苑辰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202310272460.9A priority Critical patent/CN115994022B/zh
Publication of CN115994022A publication Critical patent/CN115994022A/zh
Application granted granted Critical
Publication of CN115994022B publication Critical patent/CN115994022B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Stored Programmes (AREA)

Abstract

本公开提供了算法服务的调用方法、装置、电子设备和存储介质,涉及人工智能技术领域,尤其涉及云计算、人工智能基础设施技术。具体实现方案为:接收来自应用平台的服务请求;根据服务请求,在与至少一个算法服务流程分别对应的至少一个调度器中,确定目标调度器;根据目标调度器对应的算法服务流程,调用目标调度器连接的算法平台以及资源平台,得到算法服务流程的执行结果;向应用平台发送算法服务流程的执行结果。本公开可以提升智能化应用的业务效率。

Description

算法服务的调用方法、装置、电子设备和存储介质
技术领域
本公开涉及人工智能技术领域,尤其涉及云计算、人工智能基础设施技术。
背景技术
近年来,信息化技术日新月异。互联网、人工智能、5G(5th Generation MobileCommunication Technology,第五代移动通信技术)等技术,为诸如智慧城市、自动驾驶、物联网等领域的智能化应用的开发提供了支持。一般来说,智能化应用需要对接各类平台***,才得以完成一个综合场景业务。
发明内容
本公开提供了一种算法服务的调用方法、装置、电子设备和存储介质。
根据本公开的一方面,提供了一种算法服务的调用方法,包括:
接收来自应用平台的服务请求;
根据服务请求,在与至少一个算法服务流程分别对应的至少一个调度器中,确定目标调度器;
根据目标调度器对应的算法服务流程,调用目标调度器连接的算法平台以及资源平台,得到算法服务流程的执行结果;
向应用平台发送算法服务流程的执行结果。
根据本公开的另一方面,提供了一种算法服务的调用装置,包括:
第一接收模块,用于接收来自应用平台的服务请求;
调度器确定模块,用于根据服务请求,在与至少一个算法服务流程分别对应的至少一个调度器中,确定目标调度器;
执行模块,用于根据目标调度器对应的算法服务流程,调用目标调度器连接的算法平台以及资源平台,得到算法服务流程的执行结果;
第一发送模块,用于向应用平台发送算法服务流程的执行结果。
根据本公开的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与该至少一个处理器通信连接的存储器;其中,
该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行本公开实施例中任一的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,该计算机指令用于使该计算机执行根据本公开实施例中任一的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现根据本公开实施例中任一的方法。
本公开实施例的技术方案,预先通过编排至少一个算法服务流程以及接入算法平台以及资源平台,配置至少一个调度器。如此,应用平台可以通过发起针对目标调度器的服务请求,实现调用对应的算法平台以及资源平台,得到算法服务流程的执行结果,无需对接各类平台***即可完成综合场景业务。通过高效利用算法以及算法资源,提升了业务效率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是本公开一实施例提供的算法服务的调用方法的流程示意图;
图2是本公开一应用示例中调度器的实现流程的示意图;
图3是本公开实施例算法服务的调用方法的一个示例性的应用场景的示意图;
图4是本公开一实施例提供的算法服务的调用装置的示意性框图;
图5是本公开另一实施例提供的算法服务的调用装置的示意性框图;
图6是用来实施本公开的实施例的电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。本文中术语“第一”、“第二”表示指代多个类似的技术用语并对其进行区分,并不是限定顺序的意思,或者限定只有两个的意思,例如,第一特征和第二特征,是指代有两类/两个特征,第一特征可以为一个或多个,第二特征也可以为一个或多个。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
图1示出了本公开一实施例提供的算法服务的调用方法的流程示意图。该方法可以基于总线实现,其中,总线可以指用于提供不同平台统一适配与对接的服务模块,该总线也可以称为智慧总线。示例性地,该总线可以集成在终端、服务器、服务器集群或其他处理设备中。在本公开实施例中,在总线上部署有至少一个调度器,不同的调度器可以对应于不同的算法服务流程,总线可以接收和处理针对任一调度器的调用请求。如图1所示,该方法可以包括:
S110、接收来自应用平台的服务请求。
S120、根据服务请求,在与至少一个算法服务流程分别对应的至少一个调度器中,确定目标调度器。
S130、根据目标调度器对应的算法服务流程,调用目标调度器连接的算法平台以及资源平台,得到算法服务流程的执行结果。
S140、向应用平台发送算法服务流程的执行结果。
示例性地,应用平台可以包括用于基于智能算法实现具体场景下的业务功能的服务器、服务器集群等。例如,应用平台可以是导航服务平台、智慧城市中的交通管理平台、智慧医疗平台等。
示例性地,算法平台可以包括用于提供算法服务的服务器、服务器集群等。资源平台可以包括用于提供算法资源服务的服务器、服务器集群等。其中,算法资源可以包括数据、算力等,即资源平台可以包括数据平台、算力平台等。实际应用中,应用平台中的一些业务功能,可以通过调用算法平台提供的算法以及资源平台提供的算法资源实现。以导航服务平台为例,可以调用算法平台提供的路径规划算法以及电子地图的数据,通过基于电子地图的数据执行路径规划算法,实现导航业务。
在本公开实施例中,应用平台可以向总线发送服务请求。其中,该服务请求用于请求总线调用算法平台以及资源平台,通过执行算法得到执行结果,以使应用平台可以利用执行结果实现综合场景业务。
可选地,可以预先编排算法服务流程,例如针对不同的算法编排不同的算法服务流程。再基于算法服务服务流程配置对应的调度器。示例性地,算法服务流程可以指执行算法所需完成的流程,算法服务流程可以包括多个执行节点。调度器可以用于连接各执行节点对应的平台。例如,算法服务流程可以包括获取数据的执行节点,以及基于该数据执行算法的节点,对应的调度器可以连接用于提供数据的数据平台以及用于执行算法的算法平台。
如此,当应用平台需要获取某个算法服务流程的执行结果时,可以向总线发起针对该算法服务流程所对应的调度器(即目标调度器)的调用请求,以使总线调用相关的算法平台和资源平台执行算法服务流程。可选地,该服务请求中可以携带针对目标调度器或者针对某个算法服务流程的指示信息,以使总线可以基于该指示信息确定目标调度器。
示例性地,可以针对算法服务流程中的各执行节点,依次向对应的平台发送调用请求,以使对应的平台处理该执行节点,并返回该执行节点的处理结果。在所有执行节点处理完毕之后,得到算法服务流程的执行结果,并向应用平台发送该执行结果。
可以看到,根据上述算法服务的调用方法,预先通过编排至少一个算法服务流程以及接入算法平台以及资源平台,配置至少一个调度器。如此,应用平台可以通过发起针对目标调度器的服务请求,实现调用对应的算法平台以及资源平台,得到算法服务流程的执行结果,无需对接各类平台***即可完成综合场景业务。通过高效利用算法以及算法资源,提升了业务效率。
在一种示例性的实施方式中,目标调度器包括与算法服务流程中的多个执行节点分别对应的多个连接器;多个连接器包括算法平台连接器以及资源平台连接器;算法平台连接器用于连接算法平台,资源平台连接器用于连接资源平台。
示例性地,可以基于多个连接器进行编排组合,得到目标调度器。具体地,总线上的各个调度器,均可以是基于连接器进行编排组合得到的。其中,每个连接器对应于不同的执行节点,或者说,每个连接器用于实现不同的功能。
可选地,每个连接器均可连接一个或多个平台。例如,对应于目标检测节点的算法平台连接器可以连接多个可提供目标检测算法的算法平台。对应于算法部署节点的算力平台连接器可以连接多个算力平台。实际应用中,可以针对每个执行节点,在多个平台中选用其中部分平台处理该执行节点。
根据上述示例性的实施方式,采用与执行节点对应的连接器配置得到调度器,每个连接器连接用于处理该执行节点的平台。以执行节点为粒度配置连接器,可以便于总线实现算法服务流程中的全要素服务的汇聚和编排,为智能化应用开发提供综合技术供应,提升资源复用率,也提升业务效率。
可选地,各平台可以参照总线上预先配置的各类连接器,通过在总线上注册,完成作为总线的下级平台的服务接入。并在平台中配置与连接器对接的适配器,以通过适配器完成平台提供的个性化服务与连接器对应的执行节点的标准化服务之间的服务能力转换。可选地,该服务能力转换包括参数映射、合并、融合等。例如,适配器用于将连接器下发的调用请求,转换为符合平台的接口定义的个性化服务调用请求;以及用于将平台输出的符合平台接口定义的返回结果,转换为用于发送至连接器的处理结果。示例性地,一个连接器可以对接一个或多个适配器。其中,各适配器可以部署于不同的平台中,以实现多平台针对同一执行节点或者说同一服务的接入。如此,将各平台的服务适配过程部署于供给平台中,使组织轻量化,能够提升对智能化应用的服务响应效率。
在一种示例性的实施方式中,上述步骤S130、根据目标调度器对应的算法服务流程,调用目标调度器连接的算法平台以及资源平台,得到算法服务流程的执行结果,可以包括:响应于触发算法服务流程中的资源调度节点,通过资源平台连接器向资源平台发送第一调用请求;其中,第一调用请求用于指示资源平台执行资源调度节点,以得到资源相关信息;响应于触发算法服务流程中的计算节点,通过算法平台连接器向算法平台发送第二调用请求;其中,第二调用请求用于指示算法平台基于资源相关信息执行计算节点,以得到算法服务流程的执行结果。
需要说明的是,上述向资源平台发送第一调用请求的步骤以及向算法平台发送第二调用请求的步骤,应理解为步骤S130中包含的部分步骤。实际应用中,向资源平台发送第一调用请求的步骤以及向算法平台发送第二调用请求的步骤的数量和顺序不限,可以多次调用资源平台后再调用算法平台,也可以在调用算法平台后,再次对资源平台进行调用,具体根据实际应用中的算法服务流程确定。
具体来看,总线可以依次触发算法服务流程中的各个执行节点。在触发至任一执行节点时,向该节点对应的平台发送调用请求。当该节点为资源调度节点时,可以得到资源平台处理资源调度节点输出的资源相关信息,例如数据平台输出的数据、算力平台的算力部署结果等。当该平台为计算节点时,可以得到算法平台基于资源相关信息处理计算节点得到的处理结果,进一步地,可以基于该处理结果得到算法服务流程的执行结果。
图2示出了本公开一应用示例中调度器的实现流程。如图2所示,当通过服务接口接收到对调度器的服务请求时,触发调度器对应的算法服务流程(调度流)的执行,具体地,触发节点1和节点2的执行。其中,针对节点1,可以根据服务请求中的相关指定信息或预先配置的负载分发策略,确定目标资源平台,目标资源平台可以包括资源平台1和资源平台2,例如资源平台1完成40%的节点任务,资源平台2完成60%的节点任务。然后,通过节点1对应的连接器1分别调用资源平台1和2,再将资源平台1的处理结果和资源平台2的处理结果汇总得到节点1的处理结果,返回给节点1。再基于节点1的处理结果执行节点2。与节点1的处理方式类似地,针对节点2,可以确定算法平台1和算法平台2为目标算法平台,通过节点2对应的连接器2分别调用算法平台1和算法平台2,再将算法平台1的处理结果和算法平台2的处理结果汇总得到节点2的处理结果,返回给节点2。至此完成算法服务流程,将节点2的处理结果作为算法服务流程的执行结果,返回该执行结果。
根据上述实施方式,在调用目标调度器的情况下,依次触发对应的算法服务流程中的各执行节点,每触发一个执行节点则向对应的平台发送调用请求。如此,可以通过各平台的处理实现算法服务流程,总线主要作为中间桥梁,为业务聚合资源,提升资源利用率,使组织轻量化,最终加速智能化应用的响应效率。
在一种示例性的实施方式中,算法服务的调用方法还可以包括:接收来自资源平台的资源相关信息,并基于资源相关信息得到第二调用请求。
也就是说,资源平台处理资源调度节点得到的资源相关信息,可以发送给总线,总线在对算法平台进行调用时,携带该资源相关信息。即总线可以作为资源平台和算法平台之间信息交互的桥梁,实现资源平台和算法平台之间的信息转发。
采用上述实施方式,可以充分利用总线的业务聚合功能,减少接口设计,有利于汇聚算法服务流程中的全要素服务,提升资源复用率。
在一种示例性的实施方式中,算法服务的调用方法还可以包括:响应于触发计算节点,通过资源平台连接器向资源平台发送第三调用请求;其中,第三调用请求用于指示资源平台向算法平台发送资源相关信息。
其中,该步骤可以在向算法平台发送第二调用请求的同时发送,也可以先后发送但顺序不限。即总线可以不获取资源相关信息,而是调用资源平台向算法平台发送资源相关信息。
采用上述实施方式,在资源平台与算法平台之间需要传输较大的数据量时,可以通过总线调度资源平台与算法平台之间自行交互数据,从而提升总线的响应效率,相应地提升智能化应用的响应效率。
图3是本公开实施例算法服务的调用方法的一个示例性的应用场景的示意图。如图3所示,总线300设置于各平台之间。应用仓340为最上层的服务需求平台。总线可以在应用仓340发起服务请求时,对算法仓330、数据仓320和算力仓310进行逻辑调用,以完成应用仓340请求的算法服务流程。可选地,如图3所示,数据仓320也可以作为用于提供数据服务的服务供给平台,以供算法仓230进行逻辑调用。算力仓310也可以作为用于提供算力服务的服务供给平台,以供算法仓330进行逻辑调用。上述逻辑调用可以通过智慧总线300实现。
具体地,如图3所示,各平台中集成了融合工作台SDK(Software DevelopmentKit,软件开发工具包),该融合工作台SDK包含与智慧总线300相关的程序模块,用于完成适配器配置、服务调用、服务能力转换等处理过程。智慧总线300可以采用类Mongo架构与各平台进行信息传输,以驱动各平台基于融合工作台SDK执行相关服务;具体地,可以作为各平台之间的桥梁,转发各平台之间需要交互的信息。可选地,在服务过程中,若平台之间需要交互数据量较大的信息,智慧总线300还可以指示平台在执行相关服务的过程中通过类Hadoop架构实现平台之间的信息传输。在该应用示例中,还可以配置融合工作台,用于实现智慧总线300的管控,例如基于融合工作台实现智慧总线300的开发、联调和测试。
在一种示例性的实施方式中,算法服务的调用方法还可以包括:基于算法服务流程中的每个执行节点,在预先配置的多个连接器中确定与每个执行节点对应的连接器;基于每个执行节点对应的连接器,配置得到目标调度器。
该实施方式提供了调度器的配置方式,可以在接收来自应用平台的第一调用请求之前执行。
根据该实施方式,可以预先配置好多个连接器,再根据算法服务流程的需求选取连接器,基于选取的连接器配置目标调度器。如此,可以预先接入各种提供不同服务的资源平台,先完成连接器的配置,有利于将各连接器复用到不同的算法服务流程中,提升资源利用率。
示例性地,算法服务的调用方法还可以包括:基于接入总线的多个平台的服务类型,确定多个标准化服务;其中,多个平台包括算法平台和资源平台;基于多个标准化服务,配置与多个标准化服务分别对应的多个连接器。
该实施方式提供了连接器的配置方式。具体地,服务类型可以包括算法服务流程中的相关服务的类型,例如算力平台下的负载相关服务、实例相关服务、监控相关服务等;数据平台下的视频流相关服务、结构化文件相关服务等。通过汇总接入的服务类型,可以抽象出彼此区别的多个标准化服务,从而为各标准化服务配置对应的连接器。在需要配置调度器时,根据算法服务流程中各节点对应的标准化服务,选取对应的连接器。
根据上述实施方式,可以充分利用各资源平台提供的不同资源,提升标准化服务的覆盖面,从而提升资源利用率。
根据本公开实施例,本公开还提供一种算法服务的调用装置。图4示出了本公开一实施例提供的算法服务的调用装置的示意性框图。如图4所示,该装置包括:
第一接收模块410,用于接收来自应用平台的服务请求;
调度器确定模块420,用于根据服务请求,在与至少一个算法服务流程分别对应的至少一个调度器中,确定目标调度器;
执行模块430,用于根据目标调度器对应的算法服务流程,调用目标调度器连接的算法平台以及资源平台,得到算法服务流程的执行结果;
第一发送模块440,用于向应用平台发送算法服务流程的执行结果。
示例性地,目标调度器包括与算法服务流程中的多个执行节点分别对应的多个连接器;多个连接器包括算法平台连接器以及资源平台连接器;算法平台连接器用于连接算法平台,资源平台连接器用于连接资源平台。
示例性地,执行模块430具体用于:
响应于触发算法服务流程中的资源调度节点,通过资源平台连接器向资源平台发送第一调用请求;其中,第一调用请求用于指示资源平台执行资源调度节点,以得到资源相关信息;
响应于触发算法服务流程中的计算节点,通过算法平台连接器向算法平台发送第二调用请求;其中,第二调用请求用于指示算法平台基于资源相关信息执行计算节点,以得到算法服务流程的执行结果。
可选地,图5示出了本公开另一实施例提供的算法服务的调用装置的示意性框图。如图5所示,该装置还可以包括:
第二接收模块510,用于接收来自资源平台的资源相关信息;
请求确定模块520,用于基于资源相关信息得到第二调用请求。
可选地,如图5所示,该装置还可以包括:
第二发送模块530,用于响应于触发计算节点,通过资源平台连接器向资源平台发送第三调用请求;其中,第三调用请求用于指示资源平台向算法平台发送资源相关信息。
可选地,如图5所示,该装置还可以包括:
调度器配置模块540,用于基于算法服务流程中的每个执行节点,在预先配置的多个连接器中确定与每个执行节点对应的连接器,并基于每个执行节点对应的连接器,配置得到目标调度器。
可选地,如图5所示,该装置还可以包括:
连接器配置模块550,用于基于接入总线的多个平台的服务类型,确定多个标准化服务,并基于多个标准化服务,配置与多个标准化服务分别对应的多个连接器;其中,多个平台包括算法平台和资源平台。
本公开实施例的装置的各模块、子模块的具体功能和示例的描述,可以参见上述方法实施例中对应步骤的相关描述,在此不再赘述。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,设备600包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM 603中,还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
电子设备600中的多个部件连接至I/O接口605,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储单元608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理,例如基于总线的服务调用方法。例如,在一些实施例中,基于总线的服务调用方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时,可以执行上文描述的基于总线的服务调用方法的一个或多个步骤。备选地,在其他实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行基于总线的服务调用方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入、或者触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (14)

1.一种算法服务的调用方法,包括:
针对不同的算法编排不同的算法服务流程;
基于算法服务流程,配置对应的调度器;其中,基于算法服务流程中的每个执行节点,在预先配置的多个连接器中确定与每个执行节点对应的连接器,基于每个执行节点对应的连接器进行编排组合,得到与所述算法服务流程对应的调度器;其中,每个连接器连接一个或多个用于处理对应的执行节点的平台,每个连接器实现不同的功能;
接收来自应用平台的服务请求;
根据所述服务请求,在与至少一个算法服务流程分别对应的至少一个调度器中,确定目标调度器;
针对所述目标调度器对应的算法服务流程中的各执行节点,依次向对应的平台发送调用请求,以使对应的平台处理该执行节点,并返回该执行节点的处理结果,在所有执行节点处理完毕之后,得到算法服务流程的执行结果;其中,所述各执行节点对应的平台包括算法平台以及资源平台;
向所述应用平台发送所述算法服务流程的执行结果。
2.根据权利要求1所述的方法,其中,所述目标调度器包括与所述算法服务流程中的多个执行节点分别对应的多个连接器;所述多个连接器包括算法平台连接器以及资源平台连接器;所述算法平台连接器用于连接算法平台,所述资源平台连接器用于连接资源平台。
3.根据权利要求2所述的方法,其中,所述针对所述目标调度器对应的算法服务流程中的各执行节点,依次向对应的平台发送调用请求,包括:
响应于触发所述算法服务流程中的资源调度节点,通过所述资源平台连接器向所述资源平台发送第一调用请求;其中,所述第一调用请求用于指示所述资源平台执行所述资源调度节点,以得到资源相关信息;
响应于触发所述算法服务流程中的计算节点,通过所述算法平台连接器向所述算法平台发送第二调用请求;其中,所述第二调用请求用于指示所述算法平台基于所述资源相关信息执行所述计算节点,以得到所述算法服务流程的执行结果。
4.根据权利要求3所述的方法,还包括:
接收来自所述资源平台的资源相关信息;
基于所述资源相关信息得到所述第二调用请求。
5.根据权利要求3所述的方法,还包括:
响应于触发所述计算节点,通过所述资源平台连接器向所述资源平台发送第三调用请求;其中,所述第三调用请求用于指示所述资源平台向所述算法平台发送所述资源相关信息。
6.根据权利要求1-5中任一项所述的方法,还包括:
基于接入总线的多个平台的服务类型,确定多个标准化服务;其中,所述多个平台包括算法平台和资源平台;
基于所述多个标准化服务,配置与所述多个标准化服务分别对应的多个连接器。
7.一种算法服务的调用装置,包括:
调度器配置模块,用于针对不同的算法编排不同的算法服务流程,基于算法服务流程,配置对应的调度器;其中,基于算法服务流程中的每个执行节点,在预先配置的多个连接器中确定与每个执行节点对应的连接器,基于每个执行节点对应的连接器进行编排组合,得到与所述算法服务流程对应的调度器;其中,每个连接器连接一个或多个用于处理对应的执行节点的平台,每个连接器实现不同的功能;
第一接收模块,用于接收来自应用平台的服务请求;
调度器确定模块,用于根据所述服务请求,在与至少一个算法服务流程分别对应的至少一个调度器中,确定目标调度器;
执行模块,用于针对所述目标调度器对应的算法服务流程中的各执行节点,依次向对应的平台发送调用请求,以使对应的平台处理该执行节点,并返回该执行节点的处理结果,在所有执行节点处理完毕之后,得到算法服务流程的执行结果;其中,所述各执行节点对应的平台包括算法平台以及资源平台;
第一发送模块,用于向所述应用平台发送所述算法服务流程的执行结果。
8.根据权利要求7所述的装置,其中,所述目标调度器包括与所述算法服务流程中的多个执行节点分别对应的多个连接器;所述多个连接器包括算法平台连接器以及资源平台连接器;所述算法平台连接器用于连接算法平台,所述资源平台连接器用于连接资源平台。
9.根据权利要求8所述的装置,其中,所述执行模块用于:
响应于触发所述算法服务流程中的资源调度节点,通过所述资源平台连接器向所述资源平台发送第一调用请求;其中,所述第一调用请求用于指示所述资源平台执行所述资源调度节点,以得到资源相关信息;
响应于触发所述算法服务流程中的计算节点,通过所述算法平台连接器向所述算法平台发送第二调用请求;其中,所述第二调用请求用于指示所述算法平台基于所述资源相关信息执行所述计算节点,以得到所述算法服务流程的执行结果。
10.根据权利要求9所述的装置,还包括:
第二接收模块,用于接收来自所述资源平台的资源相关信息;
请求确定模块,用于基于所述资源相关信息得到所述第二调用请求。
11.根据权利要求9所述的装置,还包括:
第二发送模块,用于响应于触发所述计算节点,通过所述资源平台连接器向所述资源平台发送第三调用请求;其中,所述第三调用请求用于指示所述资源平台向所述算法平台发送所述资源相关信息。
12.根据权利要求7-11中任一项所述的装置,还包括:
连接器配置模块,用于基于接入总线的多个平台的服务类型,确定多个标准化服务,并基于所述多个标准化服务,配置与所述多个标准化服务分别对应的多个连接器;其中,所述多个平台包括算法平台和资源平台。
13.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。
CN202310272460.9A 2023-03-17 2023-03-17 算法服务的调用方法、装置、电子设备和存储介质 Active CN115994022B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310272460.9A CN115994022B (zh) 2023-03-17 2023-03-17 算法服务的调用方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310272460.9A CN115994022B (zh) 2023-03-17 2023-03-17 算法服务的调用方法、装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN115994022A CN115994022A (zh) 2023-04-21
CN115994022B true CN115994022B (zh) 2023-08-01

Family

ID=85993651

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310272460.9A Active CN115994022B (zh) 2023-03-17 2023-03-17 算法服务的调用方法、装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN115994022B (zh)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8671418B2 (en) * 2009-02-10 2014-03-11 International Business Machines Corporation Environment modification in a hybrid node computing environment
CN102929720B (zh) * 2012-09-24 2017-06-23 曙光信息产业(北京)有限公司 一种节能作业调度***
CN108829516B (zh) * 2018-05-31 2021-08-10 安徽四创电子股份有限公司 一种图形处理器资源虚拟化调度方法
CN110955501B (zh) * 2018-09-27 2024-06-14 北京京东尚科信息技术有限公司 服务请求处理方法、装置、电子设备及可读介质
CN110912967A (zh) * 2019-10-31 2020-03-24 北京浪潮数据技术有限公司 一种服务节点调度方法、装置、设备及存储介质
CN112486648A (zh) * 2020-11-30 2021-03-12 北京百度网讯科技有限公司 任务调度方法、装置、***、电子设备和存储介质
CN114595041A (zh) * 2022-01-26 2022-06-07 阿里云计算有限公司 资源调度***以及方法
CN114625502A (zh) * 2022-03-03 2022-06-14 盐城金堤科技有限公司 一种投词任务处理方法、装置、存储介质和电子设备
CN114756340A (zh) * 2022-03-17 2022-07-15 中国联合网络通信集团有限公司 算力调度***、方法、装置和存储介质

Also Published As

Publication number Publication date
CN115994022A (zh) 2023-04-21

Similar Documents

Publication Publication Date Title
CN109873868A (zh) 一种计算能力共享方法、***及相关设备
WO2021088641A1 (zh) 数据发送方法、处理方法、接收方法及其设备、存储介质
CN112465359A (zh) 算力调用方法和装置
WO2020248383A1 (zh) 基于跨平台的数据处理方法、装置及计算机设备
CN113849312A (zh) 数据处理任务的分配方法、装置、电子设备及存储介质
CN114742000B (zh) 基于FPGA集群的SoC芯片验证***、验证方法、装置
CN108600344A (zh) 一种网络访问请求调度方法、装置和存储介质
CN114911598A (zh) 任务调度方法、装置、设备以及存储介质
CN114448802B (zh) 网关配置方法、装置、电子设备及存储介质
CN115550354A (zh) 一种数据处理方法、装置及计算机可读存储介质
Xu et al. Design of oneM2M-based fog computing architecture
CN111966502A (zh) 用于调整实例数的方法、装置、电子设备及可读存储介质
CN111770176A (zh) 流量调度方法及装置
CN113986497B (zh) 基于多租户技术的队列调度方法、装置及***
CN115994022B (zh) 算法服务的调用方法、装置、电子设备和存储介质
CN117389647A (zh) 插件生成方法、应用程序开发方法、装置、设备及介质
CN112714146B (zh) 一种资源调度方法、装置、设备及计算机可读存储介质
CN113726881B (zh) 通信连接建立方法、相关装置及计算机可读存储介质
CN116402318A (zh) 面向配电网的多级算力资源分配方法、装置及网络架构
CN113535020B (zh) 用于生成应用图标的方法、装置、设备、介质和产品
CN114036250A (zh) 高精地图任务处理方法、装置、电子设备和介质
CN115981872B (zh) 算法资源的调用方法、装置、电子设备和存储介质
CN115567602A (zh) Cdn节点回源方法、设备及计算机可读存储介质
CN115988087B (zh) 基于总线的服务调用方法、装置、电子设备和存储介质
CN111866159A (zh) 人工智能服务的调用方法、***、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant