CN111767028B - 一种认知资源管理架构及认知资源调用方法 - Google Patents

Abstract

本发明实施例提供一种认知资源管理架构及认知资源调用方法。包括软件总线和认知资源，软件总线位于认知资源的上层；软件总线通过接口设计和功能集成，为任务需求提供统一调用接口；认知资源通过对预训练模型及智能算法进行规范化管理，实现上层总线接口通过应用需求和任务参数进行动态加载和初始化。本发明实施例通过将认知资源管理架构分为软件总线和认知资源，设计了通过软件总线接口对认知资源进行访问和更新；并实现了对预训练模型、智能算法、计算框架以及数理知识等认知资源的规范化管理和统一调用方式，从而可以支持对认知资源的分布式访问，以及相各类智能模型和算法复用，以及提供良好的智能算法开发环境。

Description

一种认知资源管理架构及认知资源调用方法

技术领域

本发明涉及人工智能技术领域，尤其涉及一种认知资源管理架构及认知资源调用方法。

背景技术

在人工智能领域，人工智能就是让机器能够像人一样学习、思考并理解，它涵盖了认知与推理、计算机视觉、自然语言理解和交互、机器学习等广泛的学科领域。近年来，人工智能的理论和技术都得到了突飞猛进的发展，智能算法层出不穷。传统的机器学习算法，包括决策树、随机森林、人工神经网络、贝叶斯学习等等。随着大数据时代的到来，基于大量数据驱动的人工智能算法在现实生活中的诸多领域得到广泛应用，例如深度学习、强化学习、迁移学习、元学习等等。智能算法的发展使得人工智能技术在很多领域都得到了广泛的应用，包括机器人、语言识别、图像识别、自然语言处理、专家***等等。

智能算法在各个领域的广泛应用，同时带来了各种智能计算框架技术的快速发展，无论是学术界还是工业界都推出了相应的智能计算框架，支持的硬件架构和软件平台也越来越多。目前，主流的计算框架有：TensorFlow、Caffe、Apache SystemML、PyTorch、MXNet、CNTK、Theano等等。应对多种多样的任务需求，需要设计相应的认知资源管理架构，这里认知资源包括各类智能算法、预训练模型、智能计算框架以及相应的数理知识，为应用开发提供机器学习预训练模型的调用和更新。然而，针对特定任务和应用场景的设计，往往使得任务和模型紧耦合，资源调用重复，不利于统一管理和开发。

而从软件架构设计的角度，软件架构设计为大规模开发提供基础和规范，并提供可重用的资源。软件***的大规模开发，必须要有一定的基础和遵循一定的规范，这既是软件工程本身的要求，也是用户开发的要求。因此，需要设计一种基于任务与模型分离的资源管理框架，从而解耦底层模型开发和上层的应用开发，实现资源的有效复用。

发明内容

本发明实施例提供一种认知资源管理架构***及认知资源调用方法，用以解决现有技术中存在任务和模型存在紧耦合，导致资源调用重复，不利于管理和开发的缺陷。

一方面，本发明实施例提供一种认知资源管理架构，包括：

软件总线和认知资源，所述软件总线位于所述认知资源的上层；其中：

所述软件总线通过接口设计和功能集成，为任务需求提供统一调用接口；

所述认知资源通过对预训练模型及智能算法进行规范化管理，实现上层总线接口通过应用需求和任务参数进行动态加载和初始化。

进一步地，所述软件总线包括接口设计与实现、模型的自动选择及生成和模型跨框架迁移；其中：

所述接口设计与实现用于设计统一的对外访问接口，以及规范化的内部层次式调用接口；

所述模型自动选择及生成用于基于自动化机器学习技术，根据任务需求，为传递的参数自动选择匹配的模型进行推理计算，当现有模型与当前任务不匹配时，通过重新训练或者神经网络架构搜索技术生成新模型；

所述模型跨框架迁移用于基于开放式神经网络交换方法，实现模型在不同智能计算框架下进行迁移和分布式部署。

进一步地，所述接口设计与实现包括对外接口和内部接口；其中：

所述对外接口用于在总线最上层使用万能容器，为应用服务提供统一调用接口；

所述内部接口用于通过由三个层级之间形成的依次派生关系，设计为胖树结构，以细分形式对认知资源进行分类管理。

进一步地，所述内部接口包括总线基类接口、具体任务功能总线子类和资源连接层接口；其中：

所述总线基类接口位于所述内部接口最上层，用于对认知总线进行实例化；

所述具体任务功能总线子类位于所述内部接口中间层，用于在明确调用认知资源的数据类型后派生生成子类；

所述资源连接层接口位于所述内部接口最下层，用于创建认知资源的运行环境并加载相应的智能算法和模型进行学习训练和前向计算。

进一步地，所述认知资源包括预训练模型库、智能算法库、学习框架和数理知识库；其中：

所述预训练模型库用于管理和存储若干个训练好的模型，基于实现的任务和应用场景对若干预训练模型进行管理；

所述智能算法库用于管理包括若干机器学习算法、深度学习算法和强化学习算法；

所述学习框架用于集成现有智能算法框架，在后台部署支撑学习训练的框架，前端部署支持加速优化的推理框架，并整合各类框架的共性模块，开发自身学习训练框架和加速优化模块；

所述数理知识库包括智能算法构建过程中所需的数理知识，用于为构建智能算法提供数学基础和物理知识支撑。

另一方面，本发明实施例提供一种认知资源调用方法，包括：

在任务插件中通过调用认知资源管理的软件总线统一对外接口，发起目标检测模型调用和更新需求，传递任务参数和数据；

软件总线根据所述任务参数，通过层次式的接口传递，动态地初始化不同的认知资源，选择装配预训练模型进行计算或者发起学习训练，实现具体接口调用；

在内部接口中加载所述预训练模型或者智能算法，以及依赖的运行环境，发起推理计算或训练需求，完成目标任务；

由认知资源按照不同目标任务对预训练模型、智能算法和智能计算框架进行管理。

本发明实施例提供的认知资源管理架构及认知资源调用方法，通过将认知资源管理架构分为软件总线和认知资源，设计了通过软件总线接口对认知资源进行访问和更新；并实现了对预训练模型、智能算法、计算框架以及数理知识等认知资源的规范化管理和统一调用方式，从而可以支持对认知资源的分布式访问，以及相各类智能模型和算法复用，以及提供良好的智能算法开发环境。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的认知资源管理架构总体设计图；

图2为本发明实施例提供的认知资源管理的软件总线接口设计结构图；

图3为本发明实施例提供的认知资源调用方法流程图；

图4为本发明实施例提供的基于目标检测任务的认知资源调用全流程示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

针对现有技术中存在的问题，本发明实施例提出了一种实现任务与模型分离的认知资源管理架构设计方案，将各类智能算法、预训练模型、计算框架、数理知识等认知资源与具体应用开发分离开来，通过统一的资源管理和环境支撑架构，提供机器学习预训练模型的调用和更新。一方面提供运行计算时调用的调用需求，即执行任务时，可以接口调用相应的认知资源，训练好的神经网络模型、强化学习模型等，同时加载相应的运行环境。另一方面提供在线学习和模型更新支持，即现有的预训练模型无法满足任务需求时，可以基于认知资源管理框架提供的算法模型和智能计算框架，在新数据集上进行训练，更新参数或网络模型。

图1为本发明实施例提供的认知资源管理架构总体设计图，如图1所示，包括：

软件总线和认知资源，所述软件总线位于所述认知资源的上层；其中：

所述软件总线通过接口设计和功能集成，为任务需求提供统一调用接口；

所述认知资源通过对预训练模型及智能算法进行规范化管理，实现上层总线接口通过应用需求和任务参数进行动态加载和初始化。

具体地，本发明实施例提出的基于任务与算法分离的认知资源管理架构设计，将认知资源管理架构设计分为软件总线和认知资源两个部分。

认知资源管理架构的软件总线通过接口设计和功能集成，为满足具体任务需求提供各类认知资源的统一调用接口，可以集成丰富智能模型应用范围和强大的功能模块和接口，比如模型的自动选择和生成以及模型跨框架迁移技术等，增强认知资源的自适应性和异构框架迁移。

认知资源管理架构的认知资源部分主要包括：预训练模型库、智能算法库，学习框架以及数理知识库。预训练模型以及智能算法以规范化的命名方式进行管理，便于上层总线接口通过应用需求和任务参数，动态地加载和初始化。并且，初始化后的认知资源就在总线中以数据成员的形式存在，从而实现对数据流的高效处理。

本发明实施例通过将认知资源管理架构分为软件总线和认知资源，设计了通过软件总线接口对认知资源进行访问和更新；并实现了对预训练模型、智能算法、计算框架以及数理知识等认知资源的规范化管理和统一调用方式，从而可以支持对认知资源的分布式访问，以及相各类智能模型和算法复用，以及提供良好的智能算法开发环境。

基于上述实施例，所述软件总线包括接口设计与实现、模型的自动选择及生成和模型跨框架迁移；其中：

所述接口设计与实现用于设计统一的对外访问接口，以及规范化的内部层次式调用接口；

所述模型自动选择及生成用于基于自动化机器学习技术，根据任务需求，为传递的参数自动选择匹配的模型进行推理计算，当现有模型与当前任务不匹配时，通过重新训练或者神经网络架构搜索技术生成新模型；

所述模型跨框架迁移用于基于开放式神经网络交换方法，实现模型在不同智能计算框架下进行迁移和分布式部署。

其中，所述接口设计与实现包括对外接口和内部接口；其中：

所述对外接口用于在总线最上层使用万能容器，为应用服务提供统一调用接口；

所述内部接口用于通过由三个层级之间形成的依次派生关系，设计为胖树结构，以细分形式对认知资源进行分类管理。

其中，所述内部接口包括总线基类接口、具体任务功能总线子类和资源连接层接口；其中：

所述总线基类接口位于所述内部接口最上层，用于对认知总线进行实例化；

所述具体任务功能总线子类位于所述内部接口中间层，用于在明确调用认知资源的数据类型后派生生成子类；

所述资源连接层接口位于所述内部接口最下层，用于创建认知资源的运行环境并加载相应的智能算法和模型进行学习训练和前向计算。

具体地，如图2所示，认知资源管理架构的软件总线具体包括：接口设计与实现，模型的自动选择和生成和模型跨框架迁移等功能。

接口设计与实现提供了设计统一的对外访问接口以及规范化的内部层次式调用接口，满足各种任务开发层通过接口调用实现对认知资源的访问和更新，其中包括对外接口和内部接口。

对外接口，在总线最上层使用万能容器(boost)，为应用服务提供统一调用接口(cognition::SoftBus)，降低了接口的对外复杂度，实现对外接口的统一管理。

此处，内部接口设计为胖树结构，包括总线基类(SoftBusBase)、具体任务功能总线子类(SoftBusXX)以及资源连接层接口(XXImplement)三个层级，层级之间为依次派生关系。通过这种方式形成了胖树结构，以细分形式对认知资源进行了分类管理。内部接口的最上层的SoftBusBase作为总线基类对认知总线进行实例化，中间层SoftBusXX是明确调用的认知资源的数据类型后，派生的子类。最下层的资源链接层则创建认知资源的运行环境并加载相应的智能算法和模型进行学习训练和前向计算。通过三个层次的设计与分工，实现应用层通过总线调用认知资源，同时具备兼容性以及内部接口的可扩展。

模型的自动选择和生成，即基于自动化机器学习技术，根据任务需求，传递的参数自动选择匹配的模型进行推理计算，当现有的模型与当前任务不匹配时，通过重新训练或者神经网络架构搜索技术生成新的模型。

模型跨框架迁移技术，即基于开放式神经网络交换方法，实现模型在不同智能计算框架下进行迁移和分布式部署。

基于上述任一实施例，所述认知资源包括预训练模型库、智能算法库、学习框架和数理知识库；其中：

所述预训练模型库用于管理和存储若干个训练好的模型，基于实现的任务和应用场景对若干预训练模型进行管理；

所述智能算法库用于管理包括若干机器学习算法、深度学习算法和强化学习算法；

所述学习框架用于集成现有智能算法框架，在后台部署支撑学习训练的框架，前端部署支持加速优化的推理框架，并整合各类框架的共性模块，开发自身学习训练框架和加速优化模块；

所述数理知识库包括智能算法构建过程中所需的数理知识，用于为构建智能算法提供数学基础和物理知识支撑。

具体地，认知资源管理架构的认知资源部分主要包括：预训练模型库、智能算法库，学习框架以及数理知识库。

预训练模型库，主要管理和存储各种训练好的模型，基于实现的任务和应用场景对各种预训练模型进行管理，从而可以实现在特定任务场景下预训练模型的快速选择和匹配。

智能算法库：主要管理各类机器学习、深度学习、强化学习等算法；

学习框架：一方面集成现有主要智能算法框架，后台部署支撑学习训练的框架，比如：Pytorch,Tensorflow,Darknet,Keras,Caffe,OpenAI Gy，前端部署支持加速优化的推理框架TensorRT、NCNN；另一方面，整合各类框架的共性模块，开发自身的学习训练框架和相应的加速优化模块。

数理知识库：主要包含智能算法构建过程中所需要用的数理知识，为智能算法的构建提供数学基础和物理知识支撑。

图3为本发明实施例提供的认知资源调用方法流程图，如图3所示，包括：

S1，在任务插件中通过调用认知资源管理的软件总线统一对外接口，发起目标检测模型调用和更新需求，传递任务参数和数据；

S2，软件总线根据所述任务参数，通过层次式的接口传递，动态地初始化不同的认知资源，选择装配预训练模型进行计算或者发起学习训练，实现具体接口调用；

S3，在内部接口中加载所述预训练模型或者智能算法，以及依赖的运行环境，发起推理计算或训练需求，完成目标任务；

S4，由认知资源按照不同目标任务对预训练模型、智能算法和智能计算框架进行管理。

具体地，如图4所示的通过基于任务与模型分离的认知资源管理架构，实现面向目标检测任务的认知资源调用为例：

任务插件层，在任务插件中，通过调用认知资源管理的软件总线统一对外接口(Cognition::SoftBus)，发起目标检测模型调用和更新需要，传递相应的任务参数和数据。

软件总线层，软件总线根据任务参数，通过层次式的接口传递，动态地初始化不同的认知资源，选择装配预训练好的模型进行计算或者发起学习训练，具体的接口实现调用：

内部接口：针对目标检测任务，三层内部接口为SoftBusBase、SoftBusDetection与DetectionTFImpl，层级之间为依次派生关系。不同任务的认知资源可以通过对基类(SoftBusBase)的派生出针对相应资源调用的子类接口(SoftBusDetection)，同时构建该类别的资源连接层(各种不同的Implements)，加载相应的预训练模型或者智能算法以及依赖的运行环境，发起推理计算或学习训练需求，完成目标检测任务。比如加载预训练模型Faster_rcnn以及前向计算所需的支撑框架Tensorflow对图像进行目标检测，对应的资源链接层接口为DetectionTFImp。

最下层为认知资源管理层，按照不同任务对预训练模型、智能算法以及智能计算框架进行管理。比如目标检测任务，就有mobile_ssd、mask_rcnn、faster_rcnn等算多种预训练模型供选择，这里通过加载并初始化faster_rcnn预训练模型及计算框架Tensorflow，对目标图像数据流的进行处理，返回目标检测的类别、置信度、识别框等结果。

以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。

最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (3)

1.一种认知资源管理架构，其特征在于，包括：软件总线和认知资源，所述软件总线位于所述认知资源的上层；其中：

所述软件总线通过接口设计和功能集成，为任务需求提供统一调用接口；

所述认知资源通过对预训练模型及智能算法进行规范化管理，实现上层总线接口通过应用需求和任务参数进行动态加载和初始化；

所述软件总线包括接口设计与实现、模型的自动选择及生成和模型跨框架迁移；其中：

所述接口设计与实现用于设计统一的对外访问接口，以及规范化的内部层次式调用接口；

所述模型自动选择及生成用于基于自动化机器学习技术，根据任务需求，为传递的参数自动选择匹配的模型进行推理计算，当现有模型与当前任务不匹配时，通过重新训练或者神经网络架构搜索技术生成新模型；

所述模型跨框架迁移用于基于开放式神经网络交换方法，实现模型在不同智能计算框架下进行迁移和分布式部署；

所述接口设计与实现包括对外接口和内部接口；其中：

所述对外接口用于在总线最上层使用万能容器，为应用服务提供统一调用接口；

所述内部接口用于通过由三个层级之间形成的依次派生关系，设计为胖树结构，以细分形式对认知资源进行分类管理；

所述内部接口包括总线基类接口、具体任务功能总线子类和资源连接层接口；其中：

所述总线基类接口位于所述内部接口最上层，用于对认知总线进行实例化；

所述具体任务功能总线子类位于所述内部接口中间层，用于在明确调用认知资源的数据类型后派生生成子类；

所述资源连接层接口位于所述内部接口最下层，用于创建认知资源的运行环境并加载相应的智能算法和模型进行学习训练和前向计算。

2.根据权利要求1所述的认知资源管理架构，其特征在于，所述认知资源包括预训练模型库、智能算法库、学习框架和数理知识库；其中：

所述预训练模型库用于管理和存储若干个训练好的模型，基于实现的任务和应用场景对若干预训练模型进行管理；

所述智能算法库用于管理包括若干机器学习算法、深度学习算法和强化学习算法；

所述学习框架用于集成现有智能算法框架，在后台部署支撑学习训练的框架，前端部署支持加速优化的推理框架，并整合各类框架的共性模块，开发自身学习训练框架和加速优化模块；

所述数理知识库包括智能算法构建过程中所需的数理知识，用于为构建智能算法提供数学基础和物理知识支撑。

3.一种基于如权利要求1或2中任一权利要求所述架构的认知资源调用方法，其特征在于，包括：

在任务插件中通过调用认知资源管理的软件总线统一对外接口，发起模型调用和更新需求，传递任务参数和数据；

软件总线根据所述任务参数，通过层次式的接口传递，动态地初始化不同的认知资源，选择装配预训练模型进行计算或者发起学习训练，实现具体接口调用；

在内部接口中加载所述预训练模型或者智能算法，以及依赖的运行环境，发起推理计算或训练需求，完成任务；

由认知资源按照不同任务对预训练模型、智能算法和智能计算框架进行管理。