CN114168322A - 资源管理方法及装置、设备、存储介质 - Google Patents

资源管理方法及装置、设备、存储介质 Download PDF

Info

Publication number
CN114168322A
CN114168322A CN202111340119.XA CN202111340119A CN114168322A CN 114168322 A CN114168322 A CN 114168322A CN 202111340119 A CN202111340119 A CN 202111340119A CN 114168322 A CN114168322 A CN 114168322A
Authority
CN
China
Prior art keywords
resource
panorama
resource management
management center
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111340119.XA
Other languages
English (en)
Inventor
林超旗
高原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Sensetime Technology Development Co Ltd
Original Assignee
Beijing Sensetime Technology Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Sensetime Technology Development Co Ltd filed Critical Beijing Sensetime Technology Development Co Ltd
Priority to CN202111340119.XA priority Critical patent/CN114168322A/zh
Publication of CN114168322A publication Critical patent/CN114168322A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/04Inference or reasoning models

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请实施例公开了一种资源管理方法、装置、设备及存储介质,其中,所述方法包括:获取已建立的待处理任务的全景图;其中,所述全景图包括至少一个操作单元和与每一所述操作单元相关的至少一个资源单元;每一所述资源单元是从资源管理中心统一存储的各类资源确定的;运行所述全景图对应的工作流,得到输出结果;将所述输出结果存储在所述资源管理中心中。

Description

资源管理方法及装置、设备、存储介质
技术领域
本申请涉及计算机视觉领域,涉及但不限定于资源管理方法及装置、设备、存储介质。
背景技术
随着人工智能(Artificial Intelligence,AI)算法在智慧城市应用里面的逐步推广,该算法的优势逐渐显示出来:较传统算法更高的准确率,对场景更好的适应性等。
AI模型训练、评测、推理工作流中用需要用到已标数据集、模型、配置文件等资源,工作流产生的结果需要存储,传统的解决方案,需要在工作流的各环节通过固定方式指定输入的资源,方法不够灵活;工作流产生的结果也是存储到硬盘某个指定目录,缺乏对资源的统一管理;资源的类型也缺乏统一定义,需要后期格式转换,开发与沟通成本极高。
发明内容
本申请实施例提供一种资源管理方法及装置、设备、存储介质。
本申请实施例的技术方案是这样实现的:
第一方面,本申请实施例提供一种资源管理方法,所述方法包括:
获取已建立的待处理任务的全景图;其中,所述全景图包括至少一个操作单元和与每一所述操作单元相关的至少一个资源单元;每一所述资源单元是从资源管理中心统一存储的各类资源确定的;
运行所述全景图对应的工作流,得到输出结果;
将所述输出结果存储在所述资源管理中心中。
在一些可能的实施例中,所述资源管理中心中存储的资源至少包括以下类型之一:原始数据集、已标注数据集、模型、推理结果、评测报告、配置文件、应用程序;其中,所述全景图和每一所述类型的资源均包括版本参数。这样,将模型训练、评测、推理工作流中用到的资源进行类型及数据格式的统一定义和集中存储,能够减少不同环节开发人员的沟通成本。
在一些可能的实施例中,所述全景图至少在以下过程中具有对应的版本参数:模型训练过程、模型评测过程和模型推理过程;在任一所述过程中,所述全景图每运行一次所产生的输出结果,在所述资源管理中心中存储的资源对应一个版本参数。这样,通过版本参数区分不同运行过程中产生的统一资源,便于后续环节中查找筛选,从而高效地对资源进行复用和管理。
在一些可能的实施例中,所述全景图为训练全景图,所述运行所述全景图对应的工作流,得到输出结果,包括:运行所述训练全景图的工作流,生成所述训练全景图对应的模型;所述将所述输出结果存储在所述资源管理中心中,包括:在所述资源管理中心中创建类型为模型的第一资源;将所述训练全景图对应的模型作为所述第一资源存储在所述资源管理中心中。这样,对于训练场景中用到的输入资源、输出资源进行统一定义和存储,降低人工智能模型训练工作流使用资源时的开发成本,提升资源复用,简化资源的管理。
在一些可能的实施例中,所述全景图为评测全景图,所述运行所述全景图对应的工作流,得到输出结果,包括:运行所述评测全景图对应的工作流,得到所述训练全景图对应的模型的目标评测报告;所述将所述输出结果存储在所述资源管理中心中,包括:在所述资源管理中心中创建类型为评测报告的第二资源;将所述目标评测报告作为所述第二资源存储在所述资源管理中心中。这样,对于评测场景中用到的输入资源、输出资源进行统一定义和存储,降低人工智能模型评测工作流使用资源时的开发成本,提升资源复用,简化资源的管理。
在一些可能的实施例中,所述全景图为推理全景图,所述运行所述全景图对应的工作流,得到输出结果,包括:运行所述推理全景图的工作流,生成所述推理全景图对应的目标推理结果;所述将所述输出结果存储在所述资源管理中心中,包括:在所述资源管理中心中创建类型为推理结果的第三资源;将所述目标推理结果作为所述第三资源存储在所述资源管理中心中。这样,对于推理场景中用到的输入资源、输出资源进行统一定义和存储,降低人工智能模型推理工作流使用资源时的开发成本,提升资源复用,简化资源的管理。
在一些可能的实施例中,所述将所述输出结果存储在所述资源管理中心中,包括:在所述目标推理结果满足任务需求的情况下,在所述资源管理中心中创建类型为应用的第四资源;基于所述推理全景图的工作流,确定所述推理全景图对应的应用程序;将所述应用程序作为所述第四资源存储在所述资源管理中心中。这样,在运行推理全景图的工作流产生的推理结果满足任务需求的情况下,进一步创建新的资源存储推理应用程序,从而高效地对资源进行复用和管理。
在一些可能的实施例中,所述方法还包括:响应于接收到待处理的深度学***台的前端交互界面上展示用于构建模型生成全流程的画布;基于在所述画布上接收到的操作,创建所述待处理任务的至少一个资源单元和至少一个操作单元;其中,每一所述操作单元用于对与相应操作单元具有输入关系的所述至少一个资源单元进行处理;连接每一所述操作单元和与相应操作单元具有输入输出关系的资源单元,得到所述全景图。这样,基于在画布上拖拽组件,能够快速、便利地创建多个操作单元和资源单元,构建包括全链条算法解决方案的全景图。
在一些可能的实施例中,所述基于在所述画布上接收到的操作,创建所述待处理任务的至少一个资源单元,包括:响应于接收到对目标数据结点的选定操作,将所述目标数据结点的状态切换为编辑状态且在所述画布的一侧弹出配置页面;所述目标数据结点为在所述画布上通过拖拽形成的任一数据结点;响应于在所述配置页面上接收到的对第一功能控件的点击操作,在所述画布上弹出读取资源版本窗口;其中,所述第一功能控件用于配置所述数据结点在运行全景图时所需要的资源信息;基于所述读取资源版本窗口,为所述目标数据结点配置资源信息,生成所述目标数据结点对应的资源单元。这样,通过画布上的第一功能控件触发读取资源版本窗口的弹出,通过弹窗界面的勾选操作为工作流中的资源单元用到的资源信息进行配置,实现提供简单的资源配置和调用方式,减少开发成本。
在一些可能的实施例中,所述读取资源版本窗口上设置有资源名称列表和资源搜索框,所述基于所述读取资源版本窗口,为所述目标数据结点配置资源信息,生成所述目标数据结点对应的资源单元,包括:响应于接收到在所述资源名称列表上的选中操作,和/或从所述资源搜索框中获取的关键词,确定所述目标数据结点的待配置资源的版本参数;基于所述版本参数对应的目标资源,为所述目标数据结点配置资源信息,生成所述目标数据结点对应的资源单元。这样,通过点击第一功能控件所弹出的界面即读取资源版本窗口上的资源名称列表和资源搜索框,匹配出目标数据结点的待配置资源的版本参数以及目标资源,从而提供简单、易用的可视化界面,简化资源调用方法。
在一些可能的实施例中,在所述全景图为训练全景图的情况下,所述版本参数对应的目标资源为所述资源管理中心的已标注数据集;在所述全景图为所述评测全景图或所述推理全景图的情况下;所述版本参数对应的目标资源为所述资源管理中心的已训练模型;其中,所述已训练模型为所述训练全景图对应的模型。这样,通过画布上的可视化操作即可配置训练工作流中的资源单元的目标资源为存储的已标注数据集,配置评测工作流或推理工作流中的资源单元的目标资源为训练全景图对应的模型,实现提供简单的资源配置和调用方式,减少开发成本。
第二方面,本申请实施例提供一种资源管理装置,包括第一获取模块、运行模块和存储模块,其中:
所述第一获取模块,用于获取已建立的待处理任务的全景图;其中,所述全景图包括至少一个操作单元和与每一所述操作单元相关的至少一个资源单元;每一所述资源单元是从资源管理中心统一存储的各类资源确定的;
所述运行模块,用于运行所述全景图对应的工作流,得到输出结果;
所述存储模块,用于将所述输出结果存储在所述资源管理中心中。
第三方面,本申请实施例提供一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述资源管理方法中的步骤。
第四方面,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述资源管理方法中的步骤。
本申请实施例提供的技术方案带来的有益效果至少包括:
在本申请实施例中,首先,获取已建立的待处理任务的全景图;其中,所述全景图包括至少一个操作单元和与每一所述操作单元相关的至少一个资源单元;每一所述资源单元是从资源管理中心统一存储的各类资源确定的;然后运行所述全景图对应的工作流,得到输出结果;最后将所述输出结果存储在所述资源管理中心中;如此,通过资源管理中心对全景图的工作流中用到的各类资源进行标准化定义和集中管理,降低工作流使用资源时的开发成本,提升资源复用的同时简化资源的管理。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图,其中:
图1为本申请实施例提供的资源管理方法的流程示意图;
图2A为本申请实施例提供的资源管理方法的流程示意图;
图2B为本申请实施例提供的资源管理方法的流程示意图;
图2C为本申请实施例提供的资源管理方法的流程示意图;
图3为本申请实施例提供的资源管理方法的流程示意图;
图4A为本申请实施例提供的资源管理方法的逻辑流程图;
图4B为本申请实施例提供的资源管理中心存储的资源类型示意图;
图4C为本申请实施例提供的画布上构建全景图的示意图;
图4D为本申请实施例提供的配置资源单元的资源信息的示意图;
图4E为本申请实施例提供的同一资源下存储的不同版本的示意图;
图5为本申请实施例提供的一种资源管理装置的组成结构示意图;
图6为本申请实施例提供的一种电子设备的硬件实体示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。以下实施例用于说明本申请,但不用来限制本申请的范围。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在以下的描述中,涉及到“一些实施例”,其描述了所有可能实施例的子集,但是可以理解,“一些实施例”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
需要指出,本申请实施例所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本申请实施例能够以除了在这里图示或描述的以外的顺序实施。
本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语),具有与本申请实施例所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非像这里一样被特定定义,否则不会用理想化或过于正式的含义来解释。
本申请实施例提供的方案涉及人工智能技术,具体通过如下实施例进行说明:
人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用***。换句话说,人工智能是计算机科学的一个综合技术,企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互***、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。本申请实施例所涉及机器学习技术。
其中,机器学习(Machine Learning,ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
下面说明本申请实施例提供的资源管理设备的示例性应用,本申请实施例提供的资源管理设备可以实施为具有数据处理功能的笔记本电脑,平板电脑,台式计算机,移动设备(例如,个人数字助理,专用消息设备,便携式游戏设备)等各种类型的用户终端,也可以实施为服务器。下面,将说明资源管理设备实施为终端或服务器时示例性应用。该设备上部署有端到端可视化模型生成平台,内嵌物体检测、图像分类等视觉领域常用人工智能模型通用训练框架。
本申请实施例提供一种资源管理方法,应用于上述资源管理设备。该方法所实现的功能可以通过资源管理设备中的处理器调用程序代码来实现,当然程序代码可以保存在计算机存储介质中,可见,该计算机设备至少包括处理器和存储介质。
图1为本申请实施例提供的资源管理方法的流程示意图,如图1所示,所述方法至少包括以下步骤:
步骤S110,获取已建立的待处理任务的全景图;
这里,全景图(raw graph)为用户在人工智能训练平台的画布上构建的人工智能模型生成的完整解决方案,包括模型训练、评测、推理逻辑串联等功能。其中,画布是人工智能训练平台上用户拖拽不同组件,以构建模型生产全流程的版块。
所述全景图包括至少一个操作单元(operation,op)和与每一所述操作单元相关的至少一个资源单元;每一所述资源单元是从资源管理中心统一存储的各类资源确定的;其中资源是指人工智能模型训练平台中使用到的文本、图片、模型等数据的统称。
需要说明的是,每一操作单元为对一个算法模块进行封装后的虚拟化节点;每一资源单元为对一个数据处理模块进行封装后的虚拟化节点,可以表示为与操作单元具有输入关系和/或输出关系的数据结点(node),且数据处理模块为某一算法模块提供输入数据,或者对另一算法模块的输出数据进行处理。
在一些实施方式中,一所述资源单元为一所述操作单元的输入;在一些实施方式中,一所述资源单元为一所述操作单元的输入;在一些实施方式中,一所述资源单元为一所述操作单元的输出;在另一些实施方式中,一所述资源单元同时为上一操作单元的输出和下一操作单元的输入。
需要说明的是,很多场景问题并不能转化为单一的基本任务,也无法使用一个基本任务模型解决问题。在实施中,对复杂任务进行功能拆分,对每个功能进行抽象定义,划分成彼此独立的模块,模块与模块之间相互连接,前一个模块的输出是后一个模块的输入,最后一个模块产生任务结果。也就是说,将复杂问题拆解的若干算法模块和相应数据处理模块,这样通过用户在人工智能训练平台的画布上拖拽不同算法模块和数据处理模块形成所述复杂任务的全景图,以描述一个实际场景下完整的人工智能解决方案。
在不同的任务场景下,人工智能训练平台中所建立的全景图可以为训练全景图、评测全景图或推理全景图。在一些实施例中,全景图中的一操作单元为对具有训练功能的算法处理模块封装得到的,相应的全景图为训练全景图,可以应用在训练场景中;在另一些实施例中,全景图中的一操作单元为对具有评测功能的算法处理模块封装得到的,相应的全景图为评测全景图,可以应用在评测场景中;在再一些实施例中,全景图中的一操作单元为对具有推理功能的算法处理模块封装得到的,相应的全景图为推理全景图,可以应用在推理场景中。
步骤S120,运行所述全景图对应的工作流,得到输出结果;
这里,在运行时将前端的全景图翻译为后端的工作流,通过任务调度工具调用执行相应工作流,在这个过程中每一操作单元从资源管理中心下载所用到的数据资源并进行处理,得到该全景图的输出结果。
所述工作流可以理解为,对一项任务进行功能拆分,对每个功能进行抽象定义,划分成彼此独立的模块,模块与模块之间相互连接,前一个模块的输出是后一个模块的输入,最后一个模块产生任务结果。
在不同任务场景下所述全景图的输出结果不同。在一些实施例中,所述全景图为训练全景图,运行相应工作流产生该训练全景图对应的模型,即输出结果为该模型;在一些实施例中,所述全景图为评测全景图,运行相应工作流,对训练产生的模型进行评测,得到评测结果,即输出结果为该评测结果;在一些实施例中,所述全景图为推理全景图,运行相应工作流,对评测达标的模型进行推理,得到推理结果,即输出结果为该推理结果。
步骤S130,将所述输出结果存储在所述资源管理中心中。
这里,在资源管理中心中创建不同类型的资源,分别存储操作单元的各种输入数据和输出结果。这样对不同场景下工作流中用到的资源进行分类和统一定义,使得工作流中每个操作单元的输入、输出的数据格式包括图片尺寸、输出格式等统一定义,不需要后期格式转换,从而提高开发效率。
值得注意的是,全景图对应的工作流可以运行很多次。每运行一次全景图,就产生一个输出结果,同一全景图在不同的运行过程中产出的输出结果存储在同一资源下,同一资源所存储的不同输出结果可以通过版本号来区分。
所述资源管理中心用于对全景图的工作流中用到的各类资源进行标准化定义和集中管理。其中,资源管理指的是对***内所有的模型、数据文件、配置文件、推理应用程序等资源的管理功能,包括上传、下载、发布、删除等。
在本申请实施例中,首先,获取已建立的待处理任务的全景图;其中,所述全景图包括至少一个操作单元和与每一所述操作单元相关的至少一个资源单元;每一所述资源单元是从资源管理中心统一存储的各类资源确定的;然后运行所述全景图对应的工作流,得到输出结果;最后将所述输出结果存储在所述资源管理中心中;如此,通过资源管理中心对全景图的工作流中用到的各类资源进行标准化定义和集中管理,降低工作流使用资源时的开发成本,提升资源复用的同时简化资源的管理。
在一些实施例中,所述资源管理中心中存储的资源至少包括以下类型之一:原始数据集、已标注数据集、模型、推理结果、评测报告、配置文件、应用程序;其中,所述全景图和每一所述类型的资源均包括版本参数。
这里,所述已标注数据集为对所述原始数据集中的部分数据进行标注得到的,所述推理结果为运行推理全景图对应的工作流产生的结果;所述配置文件中为运行训练全景图也就是模型训练的过程中用到的模型参数,例如猫狗模型中设置图像中对象为猫的置信度、对象为狗的置信度等;所述应用程序为对推理全景图对应的程序代码打包生成的。这样,对模型训练、评测、推理等工作流中用到的资源进行统一定义,对工作流中每个操作单元的输入、输出的数据格式进行统一定义和存储,提高开发效率,减少沟通成本。
在一些实施例中,所述全景图至少在以下过程中具有对应的版本参数:模型训练过程、模型评测过程和模型推理过程;在任一所述过程中,所述全景图每运行一次所产生的输出结果,在所述资源管理中心中存储的资源对应一个版本参数。例如,版本参数中可以保存每一次产生输出结果的时间以及版本号,这样,通过版本参数区分不同运行过程中产生的统一资源,便于后续环节中查找筛选,从而高效地对资源进行复用和管理。
在一些实施例中,所述全景图为训练全景图,也就是说该全景图中的所有操作单元所对应的算法处理模块是用于实现模型训练功能的,运行相应工作流产生该训练全景图对应的模型,即输出结果为该模型。图2A为本申请实施例提供的资源管理方法的流程示意图,如图2A所示,所述方法可以通过以下步骤实现:
步骤S210a,获取已建立的待处理任务的训练全景图;
这里,所述训练全景图为绘制人工智能模型训练的完整解决方案。所述训练全景图中的所有操作单元所对应的算法处理模块是用于实现模型训练功能的,可以应用在模型训练场景中。
步骤S220a,运行训练全景图的工作流,生成训练全景图对应的模型;
需要说明的是,要训练一个人工智能模型,需要先准备好原始数据集,再对原始数据集进行标注,得到已标注数据集;然后基于已标注数据集和相应算法模块拟合的操作单元构建训练全景图,最后发起训练任务,运行训练全景图的工作流,训练完成产出模型。
步骤S230a,在资源管理中心中创建类型为模型的第一资源;
这里,资源管理中心用于存储所有资源文件,供上层所有子产品读写,所管理资源均为参与模型训练的必要资源,例如原始数据集、已标注数据集、模型、推理结果、评测报告、配置文件、应用程序等类型的资源。
步骤S240a,将所述训练全景图对应的模型作为所述第一资源存储在所述资源管理中心中。
这里,模型类型的资源能在工作流的各操作单元之间通用,通过资源管理中心对产生的模型资源即第一资源进行集中管理,可以方便查看以及工作流调用。
本申请实施例中,通过在资源管理中心对训练过程中的输入数据及输出结果进行定义,创建类型为模型的资源,来存储训练产生的模型,从而后续评测、推理过程中可以直接使用该模型资源作为输入数据,大幅降低了训练到推理的沟通成本,开发成本。
在一些实施例中,所述全景图为评测全景图,也就是说该全景图中的所有操作单元所对应的算法处理模块是用于实现模型评测功能的,运行相应工作流产生该评测全景图对应的评测报告,即输出结果为该评测报告。图2B为本申请实施例提供的资源管理方法的流程示意图,如图2B所示,所述方法可以通过以下步骤实现:
步骤S210b,获取已建立的待处理任务的评测全景图;
这里,所述评测全景图为绘制人工智能模型评测的完整解决方案。所述评测全景图中的所有操作单元所对应的算法处理模块是用于对训练得到的模型进行评测,可以应用在模型评测场景中。
步骤S220b,运行所述评测全景图的工作流,得到所述训练全景图对应的模型的目标评测报告;
本申请实施例中的评测过程是指针对不同算法模型的一些常用数据指标评测,例如对单模型的精度、准确度等进行评测,支持模型和数据集一对多、多对一的评测对比方法。如果评测结果表示模型没有达到要求,再消参,直到达到要求,获得最终的目标评测报告。
示例地,针对零件检测模型,为确定该模型是否能够准确找到零件在图片中的位置,就需要一批准确的数据对模型进行评测。其中一对多的评测对比方法指的是:多个模型准确率的好坏就要使用同一批数据对多个模型评测;多对以的评测对比方法指的是:如果要看一个模型在不同的场景的识别效果,就需要有多批不同的数据进行评测。
步骤S230b,在资源管理中心中创建类型为评测报告的第二资源;
步骤S240b,将所述目标评测报告作为所述第二资源存储在所述资源管理中心中。
这里,评测报告类型的资源能在工作流的各操作单元之间通用,通过资源管理中心对产生的目标评测报告即第二资源进行集中管理,可以方便查看以及工作流调用。
本申请实施例中,通过在资源管理中心对训练过程中的输入数据及输出结果进行定义,创建类型为评测报告的资源,来存储模型评测过程产生的目标评测报告,从而后续推理过程中可以直接基于目标评测报告,直接选取存储的符合标准的模型资源作为输入数据,大幅降低了训练到推理的沟通成本,开发成本。
在一些实施例中,所述全景图为推理全景图,也就是说该全景图中的所有操作单元所对应的算法处理模块是用于实现模型推理功能的,运行相应工作流产生该推理全景图对应的推理结果,即输出结果为该推理结果。图2C为本申请实施例提供的资源管理方法的流程示意图,如图2C所示,所述方法可以通过以下步骤实现:
步骤S210c,获取已建立的待处理任务的推理全景图;
这里,所述推理全景图为绘制人工智能模型推理的完整解决方案。所述推理全景图中的所有操作单元所对应的算法处理模块是用于对评测达标的模型进行推理,可以应用在模型推理场景中。
步骤S220c,运行所述推理全景图的工作流,生成所述推理全景图对应的目标推理结果;
这里,将前端的推理全景图翻译成推理工作流,通过后端的任务调度工具调用执行该推理工作流,无缝连接各个不同功能的推理操作单元,能够快速完成整个处理过程的推理功能,获得目标推理结果。
步骤S230c,在资源管理中心中创建类型为推理结果的第三资源;
步骤S240c,将目标推理结果作为第三资源存储在资源管理中心中;
步骤S250c,在所述目标推理结果满足任务需求的情况下,在所述资源管理中心中创建类型为应用的第四资源;
这里,目标推理结果满足任务需求的情况下说明推理模型已经可以解决待处理任务中的问题,例如精准识别人脸,此时可以将推理工作流打包为应用程序,供用户直接获取使用。
步骤S260c,基于所述推理全景图的工作流,确定所述推理全景图对应的应用程序;
步骤S270c,将所述应用程序作为所述第四资源存储在所述资源管理中心中。
这里,应用程序类型的资源能在工作流的各操作单元之间通用,通过资源管理中心对产生的应用程序即第四资源进行集中管理,可以方便查看以及工作流调用。
本申请实施例中,通过在资源管理中心对训练过程中的输入数据及输出结果进行定义,创建类型为评测报告的资源,来存储模型评测过程产生的目标评测报告,从而后续推理过程中可以直接基于目标评测报告,直接选取存储的符合标准的模型资源作为输入数据,大幅降低了训练到推理的沟通成本,开发成本。
图3为本申请实施例提供的资源管理方法的流程示意图,如图3所示,所述方法还包括以下步骤:
步骤S310,响应于接收到待处理的深度学***台的前端交互界面上展示用于构建模型生成全流程的画布;
步骤S320,基于在所述画布上接收到的操作,创建所述待处理任务的至少一个资源单元和至少一个操作单元;
这里,每一所述操作单元用于对与相应操作单元具有输入关系的所述至少一个资源单元进行处理。在一些可能的实现方式中,该待处理任务可以是用户设定的,还可以是从后台获取的。用户基于该待处理任务,在画布上通过拖拽组件创建待处理任务的操作单元和资源单元。
示例地,待处理任务为零部件缺陷识别任务,那么实现待处理任务所需的算法模块,即操作单元包括对图像进行检测操作单元和分类操作单元;对应的资源单元为检测和分类过程中涉及到的具体数据。
在一些实施例中,所述基于在所述画布上接收到的操作,创建所述待处理任务的至少一个资源单元,可以通过以下过程实现:
步骤3201,响应于接收到对目标数据结点的选定操作,将所述目标数据结点的状态切换为编辑状态且在所述画布的一侧弹出配置页面;
这里,所述目标数据结点为在所述画布上通过拖拽形成的任一数据结点;目标数据结点的状态切换为编辑状态可以通过高亮显示边界框实现,也可以通过突出显示边界框实现。
配置页面上可以配置相应目标数据结点的基础信息,如节点名称、描述信息等,还可以配置相应目标数据结点的运行时资源信息,如运行全景图时需要的资源名称、资源版本号。响应于目标数据结点的选定操作,在画布的左侧或右侧弹出该配置页面。
步骤3202,响应于在所述配置页面上接收到的对第一功能控件的点击操作,在所述画布上弹出读取资源版本窗口;
这里,所述第一功能控件用于配置所述数据结点在运行全景图时所需要的资源信息。
步骤3203,基于所述读取资源版本窗口,为所述目标数据结点配置资源信息,生成所述目标数据结点对应的资源单元。
这里,读取资源版本窗口提供了可视化的资源名称列表和版本参数等信息,可以通过界面上的简单勾选,为目标数据结点配置资源信息。这样,通过画布上的第一功能控件触发读取资源版本窗口的弹出,通过弹窗界面的勾选操作为工作流中的资源单元用到的资源信息进行配置,实现提供简单的资源配置和调用方式,减少开发成本。
在一些实施例中,在所述全景图为训练全景图的情况下,所述版本参数对应的目标资源为所述资源管理中心的已标注数据集;在所述全景图为所述评测全景图或所述推理全景图的情况下;所述版本参数对应的目标资源为所述资源管理中心的已训练模型;其中,所述已训练模型为所述训练全景图对应的模型。这样,通过画布上的可视化操作即可配置训练工作流中的资源单元的目标资源为存储的已标注数据集,配置评测工作流或推理工作流中的资源单元的目标资源为训练全景图对应的模型,实现提供简单的资源配置和调用方式,减少开发成本。
步骤S330,连接每一所述操作单元和与相应操作单元具有输入输出关系的资源单元,得到所述全景图。
示例地,在待处理任务为零部件缺陷识别任务的情况下,将检测操作单元以及检测操作单元用到的资源单元按照数据流连接,以及将分类操作单元以及分类操作单元中用到的资源单元按照数据流连接,最后在对待处理任务进行处理的过程中各个操作单元的先后顺序,将多个操作单元和多个资源单元连接在一起,形成实现零部件缺陷识别任务的全景图。
在本申请实施例中,基于在画布上拖拽组件,能够快速、便利地创建多个操作单元和资源单元,同时通过资源管理中心中预先定义好的各类资源为每一操作单元或资源单元配置资源信息,从而构建包括全链条算法解决方案的全景图,减少不同环节开发人员的沟通成本。
下面结合一个实施示例对上述资源管理方法进行说明,然而值得注意的是,该具体实施例仅是为了更好地说明本申请,并不构成对本申请的不当限定。
人工智能模型训练、评测、推理工作流中用需要用到已标数据集、模型、配置文件等资源,工作流产生的结果需要存储。相关技术中对这些资源缺乏统一定义,在不同的处理中需要繁琐、反复的转换,开发成本高;同时还存在工作流中调用、存储资源不方便;同一工作流产生的资源无法分组,回溯麻烦;资源无法集中管理和查看等问题。
本申请实施例对人工智能训练、评测、推理等工作流中用到的资源进行统一定义,对工作流中每个操作单元操作的输入、输出的数据格式进行统一定义,提高开发效率,减少沟通成本。通过对资源进行标准化定义,集中管理,降低人工智能各工作流使用资源时的开发成本,提升资源复用,简化资源的管理。
图4A为本申请实施例提供的资源管理方法的逻辑流程图,如图4A所示,所述方法包括以下步骤:
步骤S410,定义资源的类型及其数据格式;
这里,如图4B所示,资源类型401包括原始数据集、已标注数据集、模型、推理结果、评测报告、配置文件、应用程序等;数据格式包括图像尺寸、存储格式等。用户在浏览器中输入指定的统一资源***(Uniform Resource Locator,URL)地址即可展示图4B所示的界面,用于显示资源管理中心统一定义和存储的各类资源。在实施中,用户点击“资源类型”的下拉列表,响应于该点击操作,该界面会呈现资源类型401的下拉框,在用户选择下拉框中的任意一资源类型,例如选择“原始数据集”的情况下,图4B就会呈现出所有资源类型为原始数据集的资源,以及相应资源的“版本数”、“创建人”及“创建时间”等信息,同时可以对每一资源进行“复制”、“编辑”、“删除”等操作。
步骤S420,对原始数据集进行标注,得到已标注数据集,并将已标注数据集存到资源管理中心;
步骤S430,在画布中拖入一个数据结点,为数据结点配置资源信息,得到资源单元;
这里,如图4C所示,在画布40中拖入名称为“模型_物体检测_1”的数据结点41、名称为“原始数据集_1”的数据结点、名称为“推理_物体检测_1”的操作单元以及名称为“推理结果_物体检测”的数据结点。在实施中,选定数据结点41(相当于目标数据结点),此时画布40的右侧弹出该数据结点41的配置信息411页面,该页面上可以呈现包括“节点名称”和“节点描述”等基础信息,还可以包括呈现“资源信息”、“资源名称”以及“资源版本号(相当于版本参数)”等运行时信息。
响应于鼠标点击“选择资源”42的控件(相当于第一功能控件),可以弹出如图4D所示的界面即读取资源版本窗口。在图4D中,基于读取资源版本窗口中的资源名称列表为该数据结点41选择一个模型资源(相当于目标资源),如泰安检测43作为该数据结点41的资源信息,同时还可以读取相应模型资源的版本号、类别、来源创建时间等信息,选择完成后点击“确定”即可完成数据结点41的资源配置。这样,通过人机交互界面上的勾选即可完成工作流操作单元的资源输入、输出配置,极大的节省了开发、沟通成本。
步骤S440,在画布中拖入一个操作单元,并将资源单元作为该操作单元的输入,得到全景图;
这里,该操作单元封装了物体检测功能,用于基于已标注数据集训练得到物体检测模型,保存上述步骤S430和步骤S440中的设置,得到全景图,该全景图具有应用于推理场景下,也称推理全景图。
步骤S450,运行全景图,得到输出结果并保存。
在运行中该物体检测操作单元对步骤S430中的资源单元进行处理,得到输出结果,例如物体检测操作单元从资源管理中心下载数据并进行训练并产生训练好的模型;同时将该输出结果存到资源管理中心,此时可以创建一个新的资源用于存储物体检测操作单元的结果。
上述步骤S410至步骤S450示例出统一定义的输入资源、输出资源在训练、评测、推理场景中的使用。需要说明的是,全景图可以运行很多次,每次运行都会产生一个模型,所以,资源中的数据有版本之分,即一个资源下可以有很多个版本。
如图4E所示,同一资源ID下会保存多个不同时间创建的版本,例如交通工具1K_模型具有5个不同的版本号44:V1.0_2021、V1.1_2021、V1.2_2021、V1.3_2021、V1.4_2021等,通过选中如图4E所示界面中每一版本资源前的复选框,可以对不同版本号的资源进行批量标记或批量删除。资源的类型很多,版本也很多,因此需要一个管理工具同一工作流产生的资源按照资源名称进行分组,这样便于后期对各种数据进行集中管理、查看,简化回溯流程。
通常客户具体的业务问题都需要比较复杂的人工智能的解决方案,比如:人脸识别需要对人脸数据进行标注,对标注的人脸数据进行模型训练,对训练得到的模型进行评测,得到一个精度很高的模型后,进行推理从而生成推理应用程序,解决人脸识别的问题。
在这个人工智能智能的解决方案的处理过程中涉及到训练、评测、推理3种典型的过程,不同的过程用到的资源数量多,格式复杂多变,处理步骤繁琐。工作流中的操作单元需要灵活调用资源,存储资源,减少不必要的格式转换过程,对产生的结果资源可以进行查看及管理。
在本申请实施例中,首先对推理、训练、评测等过程中用到的资源进行定义,减少不同环节开发人员的沟通成本;其次,对资源进行统一存储,提供可视化的方式进行管理,对数据各环节产生的数据提供友好的查看方式;最后,对资源提供简单的调用方式,开发人员通过界面勾选即可完成工作流中各操作单元的配置,大幅降低了训练到推理的沟通成本,开发成本。
本申请实施例提出了对人工智能模型训练、推理、评测场景中使用到的资源进行分类、定义,提供简单、易用的人机交互界面,简化资源调用、存储的方法,高效的对资源进行复用、管理。
基于前述的实施例,本申请实施例再提供一种资源管理装置,所述装置包括所包括的各模块、以及各模块所包括的各单元,可以通过电子设备中的处理器来实现;当然也可通过具体的逻辑电路实现;在实施的过程中,处理器可以为中央处理器(CentralProcessing Unit,CPU)、微处理器(Micro Processing Unit,MPU)、数字信号处理器(Digital Signal Processor,DSP)或现场可编程门阵列(Field Programmable GateArray,FPGA)等。
图5为本申请实施例提供的一种资源管理装置的组成结构示意图,如图5所示,所述装置500包括第一获取模块510、运行模块520和存储模块530,其中:
所述第一获取模块510,用于获取已建立的待处理任务的全景图;其中,所述全景图包括至少一个操作单元和与每一所述操作单元相关的至少一个资源单元;每一所述资源单元是从资源管理中心统一存储的各类资源确定的;
所述运行模块520,用于运行所述全景图对应的工作流,得到输出结果;
所述存储模块530,用于将所述输出结果存储在所述资源管理中心中。
在一些可能的实施例中,所述资源管理中心中存储的资源至少包括以下类型之一:原始数据集、已标注数据集、模型、推理结果、评测报告、配置文件、应用程序;其中,所述全景图和每一所述类型的资源均包括版本参数。
在一些可能的实施例中,所述全景图至少在以下过程中具有对应的版本参数:模型训练过程、模型评测过程和模型推理过程;在任一所述过程中,所述全景图每运行一次所产生的输出结果,在所述资源管理中心中存储的资源对应一个版本参数。
在一些可能的实施例中,所述全景图为训练全景图,所述运行模块520还用于运行所述训练全景图的工作流,生成所述训练全景图对应的模型;所述存储模块530包括第一创建单元和第一存储单元,其中:所述第一创建单元,用于在所述资源管理中心中创建类型为模型的第一资源;所述第一存储单元,用于将所述训练全景图对应的模型作为所述第一资源存储在所述资源管理中心中。
在一些可能的实施例中,所述全景图为评测全景图,所述运行模块520还用于运行所述评测全景图对应的工作流,得到所述训练全景图对应的模型的目标评测报告;所述存储模块530包括第二创建单元和第二存储单元,其中:所述第二创建单元,用于在所述资源管理中心中创建类型为评测报告的第二资源;所述第二存储单元,用于将所述目标评测报告作为所述第二资源存储在所述资源管理中心中。
在一些可能的实施例中,所述全景图为推理全景图,所述运行模块520还用于运行所述推理全景图的工作流,生成所述推理全景图对应的目标推理结果;所述存储模块530包括第三创建单元和第三存储单元,其中:所述第三创建单元,用于在所述资源管理中心中创建类型为推理结果的第三资源;所述第三存储单元,用于将所述目标推理结果作为所述第三资源存储在所述资源管理中心中。
在一些可能的实施例中,所述存储模块530还包括第四创建单元、确定单元和第四存储单元,其中:所述第四创建单元,用于在所述目标推理结果满足任务需求的情况下,在所述资源管理中心中创建类型为应用的第四资源;所述确定单元,用于基于所述推理全景图的工作流,确定所述推理全景图对应的应用程序;所述第四存储单元,用于将所述应用程序作为所述第四资源存储在所述资源管理中心中。
在一些可能的实施例中,所述装置500还包括展示模块、创建模块、连接模块,其中:所述展示模块,用于响应于接收到待处理的深度学***台的前端交互界面上展示用于构建模型生成全流程的画布;所述创建模块,用于基于在所述画布上接收到的操作,创建所述待处理任务的至少一个资源单元和至少一个操作单元;其中,每一所述操作单元用于对与相应操作单元具有输入关系的所述至少一个资源单元进行处理;所述连接模块,用于连接每一所述操作单元和与相应操作单元具有输入输出关系的资源单元,得到所述全景图。
在一些可能的实施例中,所述创建模块包括状态切换单元、窗口弹出单元和信息配置单元,其中:所述状态切换单元,用于响应于接收到对目标数据结点的选定操作,将所述目标数据结点的状态切换为编辑状态且在所述画布的一侧弹出配置页面;所述目标数据结点为在所述画布上通过拖拽形成的任一数据结点;所述窗口弹出单元,用于响应于在所述配置页面上接收到的对第一功能控件的点击操作,在所述画布上弹出读取资源版本窗口;其中,所述第一功能控件用于配置所述数据结点在运行全景图时所需要的资源信息;所述信息配置单元,用于基于所述读取资源版本窗口,为所述目标数据结点配置资源信息,生成所述目标数据结点对应的资源单元。
在一些可能的实施例中,所述信息配置单元,还用于响应于接收到在所述资源名称列表上的选中操作,和/或从所述资源搜索框中获取的关键词,确定所述目标数据结点的待配置资源的版本参数;基于所述版本参数对应的目标资源,为所述目标数据结点配置资源信息,生成所述目标数据结点对应的资源单元。
在一些可能的实施例中,在所述全景图为训练全景图的情况下,所述版本参数对应的目标资源为所述资源管理中心的已标注数据集;在所述全景图为所述评测全景图或所述推理全景图的情况下;所述版本参数对应的目标资源为所述资源管理中心的已训练模型;其中,所述已训练模型为所述训练全景图对应的模型。
这里需要指出的是:以上装置实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请装置实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
需要说明的是,本申请实施例中,如果以软件功能模块的形式实现上述资源管理方法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得电子设备(可以是具有摄像头的智能手机、平板电脑等)执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本申请实施例不限制于任何特定的硬件和软件结合。
对应地,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述实施例中任一所述资源管理方法中的步骤。对应地,本申请实施例中,还提供了一种芯片,所述芯片包括可编程逻辑电路和/或程序指令,当所述芯片运行时,用于实现上述实施例中任一所述资源管理方法中的步骤。对应地,本申请实施例中,还提供了一种计算机程序产品,当该计算机程序产品被电子设备的处理器执行时,其用于实现上述实施例中任一所述资源管理方法中的步骤。
基于同一技术构思,本申请实施例提供一种电子设备,用于实施上述方法实施例记载的资源管理方法。图6为本申请实施例提供的一种电子设备的硬件实体示意图,如图6所示,所述电子设备600包括存储器610和处理器620,所述存储器610存储有可在处理器620上运行的计算机程序,所述处理器620执行所述程序时实现本申请实施例任一所述资源管理方法中的步骤。
存储器610配置为存储由处理器620可执行的指令和应用,还可以缓存待处理器620以及电子设备中各模块待处理或已经处理的数据(例如,图像数据、音频数据、语音通信数据和视频通信数据),可以通过闪存(FLASH)或随机访问存储器(Random Access Memory,RAM)实现。
处理器620执行程序时实现上述任一项的资源管理方法的步骤。处理器620通常控制电子设备600的总体操作。
上述处理器可以为特定用途集成电路(Application Specific IntegratedCircuit,ASIC)、数字信号处理器(Digital Signal Processor,DSP)、数字信号处理装置(Digital Signal Processing Device,DSPD)、可编程逻辑装置(Programmable LogicDevice,PLD)、现场可编程门阵列(Field Programmable Gate Array,FPGA)、中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器中的至少一种。可以理解地,实现上述处理器功能的电子器件还可以为其它,本申请实施例不作具体限定。
上述计算机存储介质/存储器可以是只读存储器(Read Only Memory,ROM)、可编程只读存储器(Programmable Read-Only Memory,PROM)、可擦除可编程只读存储器(Erasable Programmable Read-Only Memory,EPROM)、电可擦除可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,EEPROM)、磁性随机存取存储器(Ferromagnetic Random Access Memory,FRAM)、快闪存储器(Flash Memory)、磁表面存储器、光盘、或只读光盘(Compact Disc Read-Only Memory,CD-ROM)等存储器;也可以是包括上述存储器之一或任意组合的各种电子设备,如移动电话、计算机、平板设备、个人数字助理等。
这里需要指出的是:以上存储介质和设备实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请存储介质和设备实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本申请的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。应理解,在本申请的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个***,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元;既可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本申请实施例方案的目的。
另外,在本申请各实施例中的各功能单元可以全部集成在一个处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。或者,本申请上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得设备自动测试线执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。
本申请所提供的几个方法实施例中所揭露的方法,在不冲突的情况下可以任意组合,得到新的方法实施例。本申请所提供的几个方法或设备实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的方法实施例或设备实施例。
以上所述,仅为本申请的实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

Claims (14)

1.一种资源管理方法,其特征在于,所述方法包括:
获取已建立的待处理任务的全景图;其中,所述全景图包括至少一个操作单元和与每一所述操作单元相关的至少一个资源单元;每一所述资源单元是从资源管理中心统一存储的各类资源确定的;
运行所述全景图对应的工作流,得到输出结果;
将所述输出结果存储在所述资源管理中心中。
2.如权利要求1所述的方法,其特征在于,所述资源管理中心中存储的资源至少包括以下类型之一:原始数据集、已标注数据集、模型、推理结果、评测报告、配置文件、应用程序;其中,所述全景图和每一所述类型的资源均包括版本参数。
3.如权利要求2所述的方法,其特征在于,所述全景图至少在以下过程中具有对应的版本参数:模型训练过程、模型评测过程和模型推理过程;在任一所述过程中,所述全景图每运行一次所产生的输出结果,在所述资源管理中心中存储的资源对应一个版本参数。
4.如权利要求1至3任一项所述的方法,其特征在于,所述全景图为训练全景图,所述运行所述全景图对应的工作流,得到输出结果,包括:运行所述训练全景图的工作流,生成所述训练全景图对应的模型;
所述将所述输出结果存储在所述资源管理中心中,包括:在所述资源管理中心中创建类型为模型的第一资源;将所述训练全景图对应的模型作为所述第一资源存储在所述资源管理中心中。
5.如权利要求1至4任一项所述的方法,其特征在于,所述全景图为评测全景图,所述运行所述全景图对应的工作流,得到输出结果,包括:运行所述评测全景图对应的工作流,得到所述训练全景图对应的模型的目标评测报告;
所述将所述输出结果存储在所述资源管理中心中,包括:在所述资源管理中心中创建类型为评测报告的第二资源;将所述目标评测报告作为所述第二资源存储在所述资源管理中心中。
6.如权利要求1至5任一项所述的方法,其特征在于,所述全景图为推理全景图,所述运行所述全景图对应的工作流,得到输出结果,包括:运行所述推理全景图的工作流,生成所述推理全景图对应的目标推理结果;
所述将所述输出结果存储在所述资源管理中心中,包括:
在所述资源管理中心中创建类型为推理结果的第三资源;将所述目标推理结果作为所述第三资源存储在所述资源管理中心中。
7.如权利要求6所述的方法,其特征在于,所述将所述输出结果存储在所述资源管理中心中,还包括:
在所述目标推理结果满足任务需求的情况下,在所述资源管理中心中创建类型为应用的第四资源;
基于所述推理全景图的工作流,确定所述推理全景图对应的应用程序;
将所述应用程序作为所述第四资源存储在所述资源管理中心中。
8.如权利要求1至7任一项所述的方法,其特征在于,所述方法还包括:
响应于接收到待处理的深度学***台的前端交互界面上展示用于构建模型生成全流程的画布;
基于在所述画布上接收到的操作,创建所述待处理任务的至少一个资源单元和至少一个操作单元;其中,每一所述操作单元用于对与相应操作单元具有输入关系的所述至少一个资源单元进行处理;
连接每一所述操作单元和与相应操作单元具有输入输出关系的资源单元,得到所述全景图。
9.如权利要求8所述的方法,其特征在于,所述基于在所述画布上接收到的操作,创建所述待处理任务的至少一个资源单元,包括:
响应于接收到对目标数据结点的选定操作,将所述目标数据结点的状态切换为编辑状态且在所述画布的一侧弹出配置页面;所述目标数据结点为在所述画布上通过拖拽形成的任一数据结点;
响应于在所述配置页面上接收到的对第一功能控件的点击操作,在所述画布上弹出读取资源版本窗口;其中,所述第一功能控件用于配置所述数据结点在运行全景图时所需要的资源信息;
基于所述读取资源版本窗口,为所述目标数据结点配置资源信息,生成所述目标数据结点对应的资源单元。
10.如权利要求9所述的方法,其特征在于,所述读取资源版本窗口上设置有资源名称列表和资源搜索框,
所述基于所述读取资源版本窗口,为所述目标数据结点配置资源信息,生成所述目标数据结点对应的资源单元,包括:
响应于接收到在所述资源名称列表上的选中操作,和/或从所述资源搜索框中获取的关键词,确定所述目标数据结点的待配置资源的版本参数;
基于所述版本参数对应的目标资源,为所述目标数据结点配置资源信息,生成所述目标数据结点对应的资源单元。
11.如权利要求8至10任一项所述的方法,其特征在于,在所述全景图为训练全景图的情况下,所述版本参数对应的目标资源为所述资源管理中心的已标注数据集;在所述全景图为所述评测全景图或所述推理全景图的情况下;所述版本参数对应的目标资源为所述资源管理中心的已训练模型;其中,所述已训练模型为所述训练全景图对应的模型。
12.一种资源管理装置,其特征在于,所述装置包括第一获取模块、运行模块和存储模块,其中:
所述第一获取模块,用于获取已建立的待处理任务的全景图;其中,所述全景图包括至少一个操作单元和与每一所述操作单元相关的至少一个资源单元;每一所述资源单元是从资源管理中心统一存储的各类资源确定的;
所述运行模块,用于运行所述全景图对应的工作流,得到输出结果;
所述存储模块,用于将所述输出结果存储在所述资源管理中心中。
13.一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至11中任一项所述方法中的步骤。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至11中任一项所述方法中的步骤。
CN202111340119.XA 2021-11-12 2021-11-12 资源管理方法及装置、设备、存储介质 Pending CN114168322A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111340119.XA CN114168322A (zh) 2021-11-12 2021-11-12 资源管理方法及装置、设备、存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111340119.XA CN114168322A (zh) 2021-11-12 2021-11-12 资源管理方法及装置、设备、存储介质

Publications (1)

Publication Number Publication Date
CN114168322A true CN114168322A (zh) 2022-03-11

Family

ID=80478727

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111340119.XA Pending CN114168322A (zh) 2021-11-12 2021-11-12 资源管理方法及装置、设备、存储介质

Country Status (1)

Country Link
CN (1) CN114168322A (zh)

Similar Documents

Publication Publication Date Title
EP3433732B1 (en) Converting visual diagrams into code
EP3692438B1 (en) Automatic generation of a graphic user interface (gui) based on a gui screen image
CN109542399B (zh) 软件开发方法、装置、终端设备及计算机可读存储介质
US20200285449A1 (en) Visual programming environment
KR20210037619A (ko) 멀티 모달 콘텐츠 처리 방법, 장치, 기기 및 저장 매체
CN112199086B (zh) 自动编程控制***、方法、装置、电子设备及存储介质
WO2020140940A1 (zh) 代码的生成方法、装置、设备及存储介质
CN113449858A (zh) 一种神经网络模型的处理方法以及相关设备
CN110399487B (zh) 一种文本分类方法、装置、电子设备及存储介质
WO2022247112A1 (zh) 任务处理方法、装置、设备、存储介质、计算机程序及程序产品
CN110991149A (zh) 一种多模态实体链接方法和实体链接***
CN110765301B (zh) 图片处理方法、装置、设备及存储介质
CN114372414B (zh) 多模态模型构建方法、装置和计算机设备
CN110569429B (zh) 一种内容选择模型的生成方法、装置和设备
CN116452920A (zh) 一种图像处理方法、装置、存储介质及电子设备
CN113569115A (zh) 数据分类方法、装置、设备及计算机可读存储介质
Sharma et al. Machine Learning for OpenCV 4: Intelligent algorithms for building image processing apps using OpenCV 4, Python, and scikit-learn
Rai Advanced deep learning with R: Become an expert at designing, building, and improving advanced neural network models using R
WO2021129812A1 (zh) 运行人工智能应用的方法、***及设备
US20230186117A1 (en) Automated cloud data and technology solution delivery using dynamic minibot squad engine machine learning and artificial intelligence modeling
WO2023179038A1 (zh) 数据标注的方法、ai开发平台、计算设备集群和存储介质
US10896161B2 (en) Integrated computing environment for managing and presenting design iterations
CN114168322A (zh) 资源管理方法及装置、设备、存储介质
CN111459774A (zh) 一种应用程序的流量的获取方法、装置、设备及存储介质
CN115631374A (zh) 控件操作方法、控件检测模型的训练方法、装置和设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination