CN110928693B

CN110928693B - 一种计算设备及资源分配方法

Info

Publication number: CN110928693B
Application number: CN202010076232.0A
Authority: CN
Inventors: 沈寓实; 汝聪翀; 姚正斌
Original assignee: Fenomen Array Beijing Technology Co ltd
Current assignee: Fenomen Array Beijing Technology Co ltd
Priority date: 2020-01-23
Filing date: 2020-01-23
Publication date: 2021-01-15
Anticipated expiration: 2040-01-23
Also published as: CN110928693A

Abstract

本发明实施例提供了一种计算设备及资源分配方法，该计算设备包括：至少一个存储单元，所述存储单元包括用于通信和管理所述存储单元的第一虚拟管理单元电路；至少一个计算单元，所述计算单元包括用于通信和管理所述计算单元的第二虚拟管理单元电路；所述第一虚拟管理单元电路和所述第二虚拟管理单元电路分别与对外物理通信接口连接。因此，本发明的方案，将计算和储存融化到网络之中，并设置计算单元存在统一的接口对外通信，将计算与存储并行，从而可以提升数据处理速度，在一定程度上满足人工智能、区块链引发的海量数据和大量算力的爆发需求。

Description

一种计算设备及资源分配方法

技术领域

本发明涉及计算机技术领域，尤其涉及一种计算设备及资源分配方法。

背景技术

目前的计算机***主要以CPU（central processing unit，中央处理器）为主，随着云计算、人工智能等技术的发展，大数据算法受制于CPU的字长精度，CPU是读取与计算串行的方式，基于CPU的计算机***将无法满足当前大并发的计算要求。当前的网络采用在带宽极窄的情况下尽力而为的原则，网络中每个数据包需要执行协议操作，浪费芯片运算力。随着大数据的爆发，光纤技术的发展，在带宽资源充足的情况下，原有网络架构的出错后不断重传，牺牲质量控制流量的方式已无法满足人工智能、区块链引发的海量数据和大量算力的爆发需求。

发明内容

本发明提供一种计算设备及资源分配方法，以便在一定程度上满足人工智能、区块链引发的海量数据和大量算力的爆发需求。

在本发明实施例的第一方面，提供了计算设备，包括：

至少一个存储单元，所述存储单元包括用于通信和管理所述存储单元的第一虚拟管理单元电路；

至少一个计算单元，所述计算单元包括用于通信和管理所述计算单元的第二虚拟管理单元电路；

所述第一虚拟管理单元电路和所述第二虚拟管理单元电路分别与对外物理通信接口连接。

可选的，所述计算单元包括可编程逻辑器件。

可选的，所述第二虚拟管理单元电路在获取到硬件架构调整指令时，根据所述硬件架构调整指令控制所述可编程逻辑器件进行硬件架构调整。

可选的，所述可编程逻辑器件为FPGA（现场可编程逻辑门阵列）。

可选的，所述计算设备还包括MCU（微控制单元）。

可选的，所述第一虚拟管理单元电路和所述第二虚拟管理单元电路分别通过高速总线与所述对外物理通信接口连接。

在本发明实施例的第二方面，提供了一种资源分配方法，应用于计算设备，所述计算设备包括：

所述第一虚拟管理单元电路和所述第二虚拟管理单元电路分别与对外物理通信接口连接；

其中，所述资源包括第一类资源、第二类资源、第三类资源和第四类资源中的任意一种，或者包括所述第一类资源和所述第二类资源，或者包括所述第一类资源和所述第四类资源，或者包括所述第二类资源和所述第三类资源，或者包括所述第三类资源和所述第四类资源；

所述第一类资源包括第一数量的所述存储单元，所述第二类资源包括第二数量的所述计算单元，所述第三类资源包括第三数量的所述存储单元中的单元电路，所述第四类资源包括第四数量的所述计算单元中的单元电路，所述第一数量、所述第二数量、所述第三数量和所述第四数量均为整数；

所述资源分配方法包括：

接收到网络侧发送的资源请求指令时，确定所述计算设备当前时刻的第一剩余资源；

根据所述资源请求指令，获取所需资源信息，所述所需资源信息包括至少一种资源选择方式；

根据所述第一剩余资源以及所述所需资源信息包括的资源选择方式，分配资源。

可选的，所述根据所述第一剩余资源以及所述所需资源信息包括的资源选择方式，分配资源，包括：

确定所述第一剩余资源可满足的第一资源选择方式，以及所述第一剩余资源不可满足的第二资源选择方式，所述第一资源选择方式和所述第二资源选择方式分别为所述所需资源信息中包括的资源选择方式中的至少一种；

确定所述第一剩余资源满足所述第一资源选择方式后的第二剩余资源；

向所述网络侧发送所述第一资源选择方式、所述第二资源选择方式和所述第二剩余资源的信息。

可选的，所述资源请求指令包括实现算法的硬件类型、资源需求信息、通信需求信息。

在本发明实施例的第三方面，提供了一种计算设备，包括：

分别与所述存储单元、所述计算单元和所述对外物理通信接口连接的通信模块，用于在接收到网络侧发送的资源请求指令时，确定所述计算设备当前时刻的第一剩余资源；

分别与所述存储单元、所述计算单元、所述对外物理通信接口和所述通信模块连接的资源模块，用于根据所述资源请求指令，获取所需资源信息，所述所需资源信息包括至少一种资源选择方式；

所述资源模块，还用于根据所述第一剩余资源以及所述所需资源信息包括的资源选择方式，分配资源；

所述资源包括第一类资源、第二类资源、第三类资源和第四类资源中的任意一种，或者包括所述第一类资源和所述第二类资源，或者包括所述第一类资源和所述第四类资源，或者包括所述第二类资源和所述第三类资源，或者包括所述第三类资源和所述第四类资源；

所述第一类资源包括第一数量的所述存储单元，所述第二类资源包括第二数量的所述计算单元，所述第三类资源包括第三数量的所述存储单元中的单元电路，所述第四类资源包括第四数量的所述计算单元中的单元电路，所述第一数量、所述第二数量、所述第三数量和所述第四数量均为整数。

可选的，所述资源模块在根据所述第一剩余资源以及所述所需资源信息包括的资源选择方式，分配资源时，具体用于：

针对在先技术，本发明具备如下优点：

本发明实施例提供的计算设备，包括存储单元和计算单元，且存储单元和计算单元都设置有用于通信和管理的虚拟管理单元电路，并与对外物理通信接口连接，使得存储单元和计算单元之间并行，不同计算单元之间并行。由此可知，本发明实施例的计算设备，不再区分计算和网络，而是把计算和储存融化到网络之中，并设置计算单元存在统一的接口对外通信，将计算与存储并行，从而可以提升数据处理速度，在一定程度上满足人工智能、区块链引发的海量数据和大量算力的爆发需求。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。

图1为本发明实施例提供的一种计算设备的结构框图；

图2为本发明实施例提供的一种资源分配方法的步骤流程图；

图3为本发明实施例提供的另一种计算设备的结构的框图。

具体实施方式

下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例，然而应当理解，可以以各种形式实现本发明而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本发明，并且能够将本发明的范围完整的传达给本领域的技术人员。

如图1所示，本发明的实施例提供了一种计算设备，包括：

其中，第一虚拟管理单元电路为存储单元中存储有用于实现通信（包括计算设备的内部通信和外部通信）以及对存储单元进行管理（例如资源管理）的程序的单元电路。第二虚拟管理电路为计算单元中存储有用于实现通信（包括计算设备的内部通信和外部通信）以及对计算单元进行管理（例如资源管理）的程序的单元电路。

另外，存储单元和计算单元都设置有用于通信和管理的虚拟管理单元电路，并与对外物理通信接口连接，即存储单元与计算单元之间并行，不同计算单元之间并行。由此可知，本发明实施例中的计算设备包括的所有计算单元和存储单元中的任意两个都是并联的连接关系。

此外，存储单元和计算单元的虚拟管理单元电路，均与对外物理通信接口连接，即本发明的实施例中的计算设备包括的存储单元和计算单元设置有统一的对外通信接口，从而对外物理通信接口传输过来的信息指令，可以直接进入计算单元和存储单元。

由此可知，本发明实施例的计算设备，不再区分计算和网络，而是把计算和储存融化到网络之中，将计算单元之间并行，存储单元与计算单元之间并行，并设置统一的接口对外通信，从而可以提高计算速度，在一定程度上满足人工智能、区块链引发的海量数据和大量算力的爆发需求。并且，本发明实施例的计算设备，不包括CPU（central processingunit，中央处理器），从而可以无限扩展。

可选的，所述计算单元包括可编程逻辑器件。由此可知，本发明实施例的计算设备的计算单元可以由可编程逻辑器件构成。

其中，逻辑器件是用来实现某种特定逻辑功能的电子器件，最简单的逻辑器件是与、或、非门等，在此基础上可实现复杂的时序和组合逻辑功能。而可编程逻辑器件，其功能不是固定不变的，而是可以根据用户的需要而进行改变，即由编程的方法来确定器件的逻辑功能。因而本发明实施例的计算设备，在其中包括的计算单元包括可编程逻辑器件，使得该计算设备的计算单元可以根据用户的需要而改变可以实现的功能，即本发实施例的计算设备的各个计算单元不再是实现唯一一种功能，而是可以由编程方法实现不同的逻辑功能，即实现不同算法，从而使得本发明实施例的计算设备的带宽可动态配置。

本发明的实施例中，硬件架构调整指令可以是网络侧发送的，也可以是在预设条件下自动生成的，则本发明的实施例中，计算设备可以根据网络侧的指示，也可以自主调整可编程逻辑器件的硬件架构，即调整可编程逻辑器件的逻辑功能。因此，本发明实施例的计算设备支持节点功能分片，不仅可作为中转节点，还可作为控制节点，服务节点等。

可选的，所述可编程逻辑器件为FPGA阵列。即当本发明实施例中的计算设备包括的计算单元中包括可编程逻辑器件时，该可编程逻辑器件可以是FPGA。其中，FPGA是可编程器件，理论上可以实现任何计算，但是从效率考虑，FPGA适合进行并行计算和流水线计算，典型的计算例如AI（Artificial Intelligence，人工智能）、视频转码、搜索等，从而使得本发明实施例的计算设备，支持高速访问，可随插随拔，随意扩展。可以理解的是，本发明实施例中的计算设备包括的计算单元中包括可编程逻辑器件也可以是除FPGA之外的其他可编程逻辑器件。

此外，可选的，在本发明的实施例中， FPGA作为独立资源，脱离CPU工作，FPGA资源可以划片使用。即FPGA里可以有一个固定模块完成以下功能：

1.网络通信；

2.解析特定指令，即对一组资源申请的响应；

3.反馈自身能满足的申请和自身资源使用情况。

总之，本发明实施例中的FPGA可以不依赖CPU控制独立于网络通信，可为不同任务灵活使用FPGA资源，并实时更新。

可选的，所述计算设备还包括MCU。其中，具体地，MCU可以设置在计算单元内部，与FPGA连接，或者MCU设置在存储单元内部，或者MCU独立于计算单元和存储单元之外设置。

可选的，所述第一虚拟管理单元电路和所述第二虚拟管理单元电路分别通过高速总线与所述对外物理通信接口连接，同时实现了计算单元和存储单元之间通过高速总线连接，从而使得单个计算设备可以实现本地高速存储和就近计算。其中，计算单元和存储单元间的高速总线连接，保证数据的IO速度，在高并发模式下，实现多路数据的高速读写，也可以根据业务需求，离线对存储数据做任意结构化，以方便与其他节点的协同计算。

可选的，所述对外物理通信接口为包括光纤接口或者网口。其中，光纤接口是用来连接光纤线缆的物理接口。本发明实施例中，将计算单元与光纤接口连接，从而使得计算设备对外带宽获得保障，满足实时通信要求。

综上所述，本发明实施例的计算设备，可以采用计算单元与存储单元并行的FPGA结构，将每个硬件计算单元以FPGA 阵列为主要运算和控制载体，并配以少量MCU控制单元来辅助管理。

本发明的实施例提供了一种资源分配方法，应用于计算设备，所述计算设备包括：

所述第一类资源包括第一数量的所述存储单元，所述第二类资源包括第二数量的所述计算单元，所述第三类资源包括第三数量的所述存储单元中的单元电路，所述第四类资源包括第四数量的所述计算单元中的单元电路，所述第一数量、所述第二数量、所述第三数量和所述第四数量均为整数，即计算设备的资源可以计算设备的单元电路为粒度。例如，当上述所述的计算设备的计算单元包括FPGA时，所述资源包括LUT（Look-Up-Table，显示查找表）、REG（寄存器资源）、DSP（数字信号处理器）、MEM（存储资源）和IO（输入/输出）和通信带宽等部分。

如图2所示，所述资源分配方法可以包括以下步骤：

步骤201：接收到网络侧发送的资源请求指令时，确定所述计算设备当前时刻的第一剩余资源。

本发明的实施例中，在计算设备接收到网络侧发送的资源请求指令时，会统计自身当前时刻所剩余的资源，即第一剩余资源，以便于判断自身当前所剩资源是否可以满足网络侧的资源请求。

其中，可选的，所述资源请求指令包括实现算法的硬件类型（即IP核类型）、资源需求信息、通信需求信息。进一步地，所述资源请求指令对应的数据包可以为1kb长度，且格式固定。另外，资源请求指令可设置指令帧头，则计算设备可以根据指令帧头，读取对应长度的内容。

步骤202：根据所述资源请求指令，获取所需资源信息。

其中，所述所需资源信息包括至少一种资源选择方式。即网络侧会在资源请求指令中携带本次资源请求所要实现的功能对应的至少一种资源选择方式，则计算设备会根据自身当前的剩余资源，以及网络侧所指示的至少一种资源选择方式，为本次资源请求指令分配资源。

步骤203：根据所述第一剩余资源以及所述所需资源信息包括的资源选择方式，分配资源。

由上述可知，本发明实施例的资源分配方法，可以计算设备中的单元电路为资源粒度，进行资源分配，并根据网络侧下发的资源请求指令，灵活分配资源。

本发明的实施例中，计算设备会根据网络侧指示的至少一种资源选择方式，以及自身当前的剩余资源，判断自身能够支持的资源选择方式，以及不能支持的资源选择方式，并计算按照自身支持的资源选择方式分配资源后的剩余资源，进而将自身所支持的资源选择方式，以及按照自身支持的资源选择方式分配资源后的剩余资源上报给网络侧。

即当计算设备接收到网络侧下发的资源请求指令时，从资源请求指令中获取到所需的资源信息（例如对应指令所要实现的功能有三种算法，不同算法所需的存储、算法等等单元数目不同，例如其中第一种算法需要100个存储单元、200个算法单元、50个寄存器），则该计算设备会获取自己剩余的资源是否能够实现其中的一种算法，例如可实现第一种算法，则还会计算出实现第一种算法后剩余的资源。然后将自身可以支持哪种算法，以及后续的剩余资源情况上报给网络侧。

例如，当计算设备中包括的计算单元中包括FPGA时，网络侧下发指令，要求实现某个AI 推理的功能，其中包括一组深度学习计算需要实现算法的硬件（即IP核）和网络结构的能力要求，这些根据不同的并行情况，有多种选择，FPGA根据自身目前资源情况，填写反馈，哪些能支持，哪些不能。网络处理各FPGA设备反馈后，确定由谁计算，并下发计算指令和实现算法的硬件（即IP核），FPGA下载实现算法的硬件（即IP核），完成计算，然后释放资源。

其中，FPGA也可同时响应若干不同任务的资源请求，在资源许可的情况下，使用局部资源下载IP，组成相应的数据包，并反馈不同任务结果。

另外，计算设备还可直接将其接收到网络侧发送的资源请求指令时统计的第一剩余资源上报给网络侧，由网络侧确定第一剩余资源可满足的资源选择方式，以及不可满足的资源选择方式，并计算按照第一剩余资源可满足的资源选择方式为计算设备分配资源后，该计算设备所剩余的资源，并将这些信息返回给计算设备。

此外，在向网络侧发送第一资源选择方式、第二资源选择方式和第二剩余资源的信息时，可以直接组包反馈，不存储，并按照正常通信（例如以太网媒体接入控制层协议通信）格式发送，也可按照预先新定义的帧格式发送。

如图3所示，本发明的实施例还提供了一种计算设备，包括：

由上述可知，本发明实施例的计算设备，可以计算设备中的单元电路为资源粒度，进行资源分配，并根据网络侧下发的资源请求指令，灵活分配资源。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线（例如同轴电缆、光纤、数字用户线（DSL））或无线（例如红外、无线、微波等）方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质（例如固态硬盘Solid State Disk (SSD)）等。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于***实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims

1.一种计算设备，其特征在于，包括：

至少一个存储单元，所述存储单元包括用于通信和管理所述存储单元的第一虚拟管理单元电路，其中，在所述存储单元为至少两个时，所述存储单元之间并行；

所述第一虚拟管理单元电路和所述第二虚拟管理单元电路分别直接与对外物理通信接口连接。

2.根据权利要求1所述的计算设备，其特征在于，所述计算单元包括可编程逻辑器件。

3.根据权利要求2所述的计算设备，其特征在于，所述第二虚拟管理单元电路在获取到硬件架构调整指令时，根据所述硬件架构调整指令控制所述可编程逻辑器件进行硬件架构调整。

4.根据权利要求2所述的计算设备，其特征在于，所述可编程逻辑器件为现场可编程逻辑门阵列FPGA。

5.根据权利要求1所述的计算设备，其特征在于，所述计算设备还包括微控制单元MCU。

6.根据权利要求1所述的计算设备，其特征在于，所述第一虚拟管理单元电路和所述第二虚拟管理单元电路分别通过高速总线与所述对外物理通信接口连接。

7.一种资源分配方法，应用于计算设备，其特征在于，所述计算设备包括：

所述第一虚拟管理单元电路和所述第二虚拟管理单元电路分别直接与对外物理通信接口连接；

所述资源分配方法包括：

8.根据权利要求7所述的资源分配方法，其特征在于，所述根据所述第一剩余资源以及所述所需资源信息包括的资源选择方式，分配资源，包括：

9.根据权利要求7所述的资源分配方法，其特征在于，所述资源请求指令包括实现算法的硬件类型、资源需求信息、通信需求信息。

10.一种计算设备，其特征在于，包括：

所述第一虚拟管理单元电路和所述第二虚拟管理单元电路分别与直接对外物理通信接口连接；

11.根据权利要求10所述的计算设备，其特征在于，所述资源模块在根据所述第一剩余资源以及所述所需资源信息包括的资源选择方式，分配资源时，具体用于：

12.根据权利要求10所述的计算设备，其特征在于，所述资源请求指令包括实现算法的硬件类型、资源需求信息、通信需求信息。