CN113014415A - 边缘计算环境中的端到端服务质量 - Google Patents
边缘计算环境中的端到端服务质量 Download PDFInfo
- Publication number
- CN113014415A CN113014415A CN202010941699.7A CN202010941699A CN113014415A CN 113014415 A CN113014415 A CN 113014415A CN 202010941699 A CN202010941699 A CN 202010941699A CN 113014415 A CN113014415 A CN 113014415A
- Authority
- CN
- China
- Prior art keywords
- resource
- data flow
- edge
- value
- service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 claims abstract description 55
- 238000005259 measurement Methods 0.000 claims abstract description 48
- 238000012384 transportation and delivery Methods 0.000 claims abstract description 45
- 238000013442 quality metrics Methods 0.000 claims abstract description 38
- 230000015654 memory Effects 0.000 claims description 80
- 238000012545 processing Methods 0.000 claims description 42
- 239000011159 matrix material Substances 0.000 claims description 19
- 238000007726 management method Methods 0.000 claims description 15
- 238000013528 artificial neural network Methods 0.000 claims description 13
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 238000011156 evaluation Methods 0.000 claims description 9
- 238000004088 simulation Methods 0.000 claims description 9
- 230000006870 function Effects 0.000 description 56
- 238000004891 communication Methods 0.000 description 47
- 238000003860 storage Methods 0.000 description 41
- 230000008569 process Effects 0.000 description 16
- 238000005516 engineering process Methods 0.000 description 14
- 238000013468 resource allocation Methods 0.000 description 13
- 230000006855 networking Effects 0.000 description 12
- 230000002776 aggregation Effects 0.000 description 11
- 238000004220 aggregation Methods 0.000 description 11
- 238000013500 data storage Methods 0.000 description 8
- 230000002093 peripheral effect Effects 0.000 description 8
- 230000004044 response Effects 0.000 description 8
- 230000001133 acceleration Effects 0.000 description 7
- 238000001152 differential interference contrast microscopy Methods 0.000 description 7
- 238000010801 machine learning Methods 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 6
- 238000013507 mapping Methods 0.000 description 6
- 239000013598 vector Substances 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 5
- 238000005192 partition Methods 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 238000013459 approach Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 4
- 230000001413 cellular effect Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000009826 distribution Methods 0.000 description 4
- 230000007774 longterm Effects 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000009977 dual effect Effects 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004806 packaging method and process Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 101100498818 Arabidopsis thaliana DDR4 gene Proteins 0.000 description 1
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 1
- 241000233805 Phoenix Species 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 239000005387 chalcogenide glass Substances 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- QVFWZNCVPCJQOP-UHFFFAOYSA-N chloralodol Chemical compound CC(O)(C)CC(C)OC(O)C(Cl)(Cl)Cl QVFWZNCVPCJQOP-UHFFFAOYSA-N 0.000 description 1
- 230000001427 coherent effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 229910001416 lithium ion Inorganic materials 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 239000003595 mist Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 239000002070 nanowire Substances 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 229910052760 oxygen Inorganic materials 0.000 description 1
- 239000001301 oxygen Substances 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000013138 pruning Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000004043 responsiveness Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 102220054950 rs727503787 Human genes 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000021317 sensory perception Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000005641 tunneling Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
- H04L41/5003—Managing SLA; Interaction between SLA and QoS
- H04L41/5009—Determining service level performance parameters or violations of service level contracts, e.g. violations of agreed response time or mean time between failures [MTBF]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
- H04L41/0813—Configuration setting characterised by the conditions triggering a change of settings
- H04L41/0816—Configuration setting characterised by the conditions triggering a change of settings the condition being an adaptation, e.g. in response to network events
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0896—Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/142—Network analysis or design using statistical or mathematical methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/40—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using virtualisation of network functions or resources, e.g. SDN or NFV entities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
- H04L41/5003—Managing SLA; Interaction between SLA and QoS
- H04L41/5019—Ensuring fulfilment of SLA
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0876—Network utilisation, e.g. volume of load or congestion level
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/20—Arrangements for monitoring or testing data switching networks the monitoring system or the monitored elements being virtualised, abstracted or software-defined entities, e.g. SDN or NFV
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Evolutionary Computation (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Environmental & Geological Engineering (AREA)
- Algebra (AREA)
- Pure & Applied Mathematics (AREA)
- Probability & Statistics with Applications (AREA)
- Mathematical Physics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Mobile Radio Communication Systems (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本文描述了一种用于边缘计算环境中的端到端服务质量的***和技术。可以获得边缘计算***的设备与节点之间的正在进行的数据流的遥测测量的集合。可以计算正在进行的数据流的当前关键性能指标(KPI)。可以将当前KPI与目标KPI进行比较以确定紧急度值。可以收集网络资源的资源质量度量的集合。可以利用资源调整模型来评估资源质量度量的集合,以确定可用的资源调整。可以基于对紧急度值的期望最小化,来从可用的资源调整中选择资源调整。可以使用所选择的资源调整来修改正在进行的数据流的递送。
Description
技术领域
本文所描述的实施例通常涉及数据处理、网络通信和通信***实现,并且具体地涉及用于实现边缘计算和物联网(IoT)设备网络中的边缘计算节点与连接设备之间的端到端服务质量的技术。
背景技术
在一般层面,边缘计算是指计算和存储资源向更靠近于端点设备(例如,消费方计算设备、用户装备等)的转移,以优化总拥有成本,减少应用等待时间,改善服务能力,并且改善与安全性或数据私有性要求的遵从性。在一些场景中,边缘计算提供类云分布式服务,该类云分布式服务提供了应用在许多类型的存储和计算资源之间的编排和管理。结果是,边缘计算的一些实现方式已被称为“边缘云”或“雾”,因为先前仅在大型远程数据中心中可用的强大的计算资源被移动到更靠近于端点并使得其对于由处于网络的“边缘”处的消费方使用而言是可用的。
已经开发出采用移动网络设置的、用于与多接入边缘计算(MEC)方式集成的边缘计算用例,多接入边缘计算(MEC)方式也被称为“移动边缘计算”。MEC方式被设计成允许应用开发人员和内容提供方访问网络的边缘处以动态移动网络设置的计算能力和信息技术(IT)服务环境。欧洲电信标准协会(ETSI)行业规范小组(ISG)已开发了有限的标准,试图定义用于MEC***、平台、主机、服务和应用的操作的通用接口。
边缘计算、MEC以及相关技术试图提供相比于传统云网络服务和广域网连接中所提供的减少的等待时间、增加的响应性、以及可用性更强的计算能力。然而,移动性和动态启动的服务的集成为某种移动用例和设备处理用例导致了对编排、功能协调、以及资源管理的限制和问题,尤其在其中涉及许多参与方(设备、主机、租户、服务提供方、操作者)的复杂移动性设置中。
以类似方式,物联网(IoT)网络和设备被设计成用于提供从各种端点的分布式计算布置。IoT设备是在网络上通信的实体对象或虚拟化对象,并且可包括可用于收集数据或在现实世界环境中执行动作的传感器、致动器以及其他输入/输出组件。例如,IoT设备可包括嵌入或附接到日常物品(诸如,建筑物、车辆、包裹等)的低功率端点设备,以提供对这些物品的附加水平的人工感官知觉。最近,IoT设备已变得越来越流行,因此使用这些设备的应用已经激增。
各种边缘、雾、MEC和IoT网络、设备、以及服务的部署已经引入了在网络边缘处并朝向网络边缘处发生的许多高级用例和场景。然而,这些高级用例也引入了与安全性、处理和网络资源、服务可用性和效率等等许多其他问题有关的对应的技术挑战。一个此类挑战与服务可用性和效率、以及在高度动态计算环境中确保服务质量(QoS)的能力有关。随着工作负荷在整个计算环境中的转移,连接质量和其他性能度量可能发生变化,从而导致潜在的服务质量缺陷。
附图说明
在附图中(这些附图不一定是按比例绘制的),同样的数字可描述不同视图中的类似组件。具有不同的字母后缀的相同的数字可表示类似组件的不同实例。附图一般通过示例的方式而不是限制的方式来图示在本文档中所讨论的各实施例。
图1图示出根据示例的用于边缘计算的边缘云配置的概览。
图2图示出根据示例的在多个边缘节点与多个租户之间操作的边缘计算***上的虚拟边缘配置的部署和编排。
图3图示出根据示例的涉及对边缘计算***中的应用的移动访问的车辆计算和通信用例。
图4图示出根据示例的部署在边缘计算***中的分布式计算的各层的概览。
图5A图示出根据示例的部署在计算节点***处的示例组件的概览。
图5B图示出根据示例的计算设备内的示例组件的进一步概览。
图6图示出根据示例的以边缘计算平台作为中间层的三层计算和数据处理的示例的概览。
图7图示出根据示例的实况视频流应用流水线的示例。
图8图示出根据示例的边缘计算环境中的端到端服务质量的过程的示例。
图9图示出根据示例的用于边缘计算环境中的端到端服务质量的环境和***的示例。
图10图示出根据示例的用于边缘计算环境中的端到端服务质量的方法的示例。
具体实施方式
许多不同的边缘计算服务任务之间的总的交互流应在一个共同感兴趣的群体的背景下看待,并将质量作为一个整体来考虑,而不管电信提供商、计算提供商、数据提供商等执行哪些任务。这种广义的服务质量观适用于许多数据密集型的领域,例如实况视频流、智能城市、电力或运输物流的时间序列处理、人和宠物的分布式健康监测等。活动的集合通常形成虚拟的租户,其执行反映在大量的操作中,这些操作包括重新组织数据、保护数据、存储数据、检索数据、提取知识、从输入中推断并形成响应、以及端到端地传输数据或信息。边缘服务中产生了大量的动态需求,并且在任何给定的边缘计算节点上可以存在有限的基础架构。为边缘计算***的租户提供满足质量目标的端到端服务可能很困难,因为租户中的组件任务可能遍布在许多节点上。
基于各种实用程序的传统自组织机制可以尝试保持每任务P99等待时间或每个节点的P95等待时间(例如,分别为99%或95%的等待时间),并且可以在等待时间增加时对请求实施许可控制。其他常规解决方案可以通过过度供应(例如,为过大容量设计边缘计算节点等)来解决复杂的服务质量(QoS)目标。QoS可以为多个客户端提供对网络资源的公平访问。服务水平目标(SLO)可用于满足使用网络资源的应用的应用目标。服务水平协议(SLA)可以定义实现SLO所需的资源。
过度供应/过度设计增加成本并导致利用率低下。当前的方法可能是零碎的,并且限于每个机器、每个容器、每个微服务等,几乎没有能力正好在速度或吞吐量可能受到最大影响的时间或者基础结构的某些部分对资源的调度进行优先级排序。在边缘计算***中提供QoS的问题的常规解决方案也可能缺乏在有足够的富余部分时最大化调度效率的能力。这导致了对过度供应的需求,同时也失去了抓住富余部分的机会。进一步地,即使过度供应,常规解决方案也可能无法适应技术变化,也可能无法重新评估哪些资源来确定将新的需求类别重定向到何处,或可能无法适应随时间而出现的新机会。
本文讨论的***和技术解决了在边缘计算***中递送服务以根据合同规定满足QoS目标的问题。工作负荷元模型被迭代地用于收敛到期望的端到端QoS。工作负荷元模型允许将资源分配与分布式任务***的不同组件之间的各种关系形式化。当期望的QoS与已实现的QoS之间的差距扩大时,加快收敛速度。工作负荷元模型也是QoS合同的一部分。在示例中,该模型可以提供补偿,使得当由于需求的临时峰值而导致端到端QoS的实现成本过高时,可以在未来的一段时间内提供更高质量(例如,较高层次的服务)的端到端服务作为补偿,或者可以使用服务向应用的客户递送一些其他激励。提供专用资源来执行工作负荷模型,并确保模型执行具有最新的遥测。
这种方法可以在持续调整基础结构以满足端到端服务质量目标的过程中实现高度自动化和更大的简化,并可以在需求动态变化的情况下进行此类调整。通过减少QoS管理器可能无法管理的应用中各种QoS规定的重新计算,也降低了复杂性。应用开发人员还能够将自调优作为其实现的一部分。
示例边缘计算架构
图1是示出用于边缘计算的配置的概览的框图100,其包括在许多当前示例中被称为“边缘云”的处理层。可以通过使用本文讨论的证明技术和网络配置来扩展可包括许多常规联网层(包括本文未示出的那些层)的这一网络拓扑。
如图所示,边缘云110集中位于边缘位置(诸如基站140、本地处理中枢150或中央局120),因此可包括多个实体、设备和装备实例。与云数据中心130相比,边缘云110更靠近端点(消费者和生产者)数据源160(例如,自主车辆161、用户装备162、商业和工业装备163、视频捕捉设备164、无人机165、智能城市和建筑设备166、传感器和IoT设备167等)。在边缘云110中的边缘处提供的计算、存储器和存储资源对于为端点数据源160使用的服务和功能提供超低等待时间响应时间以及减少从边缘云110到云数据中心130的网络回程流量至关重要,从而改善能耗和整体网络使用等效益。
计算、存储器和存储是稀缺资源,通常根据边缘位置而减少(例如,在消费者端点设备上可用的处理资源比在基站或中央局可用的处理资源更少)。然而,边缘位置越靠近端点(例如,UE),空间和功率就越受限。因此,边缘计算作为通用的设计原则,尝试通过分布更多在地理位置和网络访问时间上都更接近的资源来最小化网络服务所需的资源量。
以下描述了边缘云架构的方面,该边缘云架构涵盖多个潜在部署,并解决一些网络运营商或服务提供商在其自身基础结构中可能存在的限制。这些包括:基于边缘位置的配置变化(例如,因为基站级的边缘可能具有更受约束的性能);基于可用于边缘位置、位置层或位置组的计算、存储器、存储、结构、加速度或类似资源的类型的配置;服务、安全性、管理和编排能力;以及用于实现端服务的可用性和性能的相关目标。
边缘计算是一种开发范式,其中计算在网络的“边缘”处或靠近于网络的“边缘”被执行,典型地通过使用在更靠近于产生和消耗数据的端点设备的基站、网关、网络路由器、或其他设备处实现的计算平台来执行。例如,边缘网关服务器可装配有存储器和存储资源的池,以针对连接的客户端设备的低等待时间用例(例如,自主驾驶或视频监测)实时地执行计算。或者作为示例,基站可被扩充有计算和加速资源,以直接为连接的用户装备处理服务工作负荷,而无需进一步经由回程网络传输数据。或者作为另一示例,中央局网络管理硬件能被替换为执行虚拟化网络功能并为连接的设备的服务和消费方功能的执行提供计算资源的计算硬件。如下文讨论中提供的,这些场景和其他场景可能涉及使用证明。
与图1的网络架构不同,传统的端点(例如,UE、车辆对车辆(V2V)、车辆对外界(V2X)等)应用依赖于本地设备或远程云数据存储和处理来交换和协调信息。云数据布置允许长期的数据收集和存储,但对于高度时变的数据(诸如碰撞、交通灯变化等)来说不是最佳的,并且可能无法尝试应对等待时间挑战。
根据通信情境中的实时要求,可以在边缘计算部署中定义数据处理和存储节点的分层结构。例如,此类部署可包括本地超低等待时间处理、区域存储和处理、以及基于远程云数据中心的存储和处理。关键性能指标(KPI)可用于标识传感器数据传输的最佳位置以及处理或存储该传感器数据的位置。这通常取决于数据的ISO层依赖关系。例如,较低层(PHY、MAC、路由等)数据通常变化很快并且本地处理更好,以便满足等待时间要求。较高层数据(诸如应用层数据)通常时间紧迫性较低并且可以在远程云数据中心内被存储和处理。
图2图示出在多个边缘节点和多个租户之间操作的边缘计算***上的虚拟边缘配置的部署和编排。具体而言,图2描绘了边缘计算***200中的第一边缘节点222和第二边缘节点224的协调,以满足来自各种虚拟边缘实例的对各种客户端端点210的请求和响应。虚拟边缘实例在边缘云中提供边缘计算能力和处理,能够访问云/数据中心240以获得对网站、应用、数据库服务器等的更高等待时间请求。因此,边缘云能够协调多个租户或实体的多个边缘节点之间的处理。
在图2的示例中,这些虚拟边缘实例包括:提供给第一租户(租户1)的第一虚拟边缘232,其提供边缘存储、计算和服务的第一组合;以及第二虚拟边缘234,向第二租户(租户2)提供边缘存储、计算和服务的第二组合。虚拟边缘实例232、234分布在边缘节点222、224之间,并且可包括从相同或不同的边缘节点实现请求和响应的场景。每个边缘节点222、224以分布式但协调的方式操作的配置基于边缘供应功能250发生。边缘节点222、224用于在多个租户之间为应用和服务提供协调操作的功能基于编排功能260发生。
应当理解,210中的一些设备是多租户设备,其中租户1可以在租户1“切片”中工作,而租户2可以在租户2切片中工作。可信的多租户设备可进一步包含租户专用的加密密钥,使得密钥和切片的组合可以被视为“信任根”(RoT)或租户专用的RoT。可以进一步使用安全架构动态组合计算RoT,诸如DICE(设备标识组合引擎)架构,其中DICE硬件构建块用于构建分层的可信计算基础情境,用于对设备能力(诸如现场可编程门阵列(FPGA))进行分层。RoT还可用于可信计算情境以支持相应的租户操作等。该RoT和安全架构的使用可通过本文进一步讨论的证明操作来增强。
边缘计算节点可以划分资源(存储器、CPU、GPU、中断控制器、I/O控制器、存储器控制器、总线控制器等),其中每个分区可包含RoT能力,并且根据DICE模型的扇出和分层可进一步应用于边缘节点。由容器、FaaS(功能即服务)引擎、Servlet、服务器或其他计算抽象组成的云计算节点可以根据DICE分层和扇出结构进行分区,以支持每个节点的RoT情境。因此,跨越实体210、222和240的相应RoT可以协调分布式可信计算基础(DTCB)的建立,使得可以建立端到端链接所有元件的租户专用的虚拟可信安全信道。
因此,在多所有者、多租户环境中,可以扩展边缘计算***,以通过使用容器(提供代码和所需的依赖关系的包含的、可部署的软件单元)来提供多个应用的编排。多租户编排器可用于执行密钥管理、信任锚管理以及与图2中可信“切片”概念的供应和生命周期相关的其他安全功能。编排器可以使用DICE分层和扇出构造来创建租户专用的信任根情境。因此,由编排器提供的编排功能可以参与作为租户专用的编排提供者。
因此,边缘计算***可被配置成用于满足来自多个虚拟边缘实例(以及,来自云或远程数据中心(未示出))的各种客户端端点的请求和响应。这些虚拟边缘实例的使用同时支持多个租户和多个应用(例如AR/VR、企业应用、内容交付、游戏、计算负载转移)。此外,在虚拟边缘实例中可能存在多种类型的应用(例如,普通的应用、等待时间敏感的应用、等待时间紧迫的应用、用户平面应用、网络应用等)。虚拟边缘实例还可以跨越位于不同地理位置的多个所有者的***。
在进一步的示例中,边缘计算***可以在边缘计算***中部署容器。作为简化的示例,容器管理器适于通过经由计算节点的执行来启动容器化的pod、功能和功能即服务实例,或者通过经由计算节点的执行来分别执行容器化虚拟化网络功能。这种布置可以适合于***布置中的多个租户使用,其中容器化pod、功能和功能即服务实例在专用于每个租户的虚拟机中启动(除了虚拟化网络功能的执行以外)。
在边缘云中,(例如,由第一所有者操作的)第一边缘节点222和(例如,由第二所有者操作的)第二边缘节点224可以操作或响应于容器编排器,以协调为相应租户提供的虚拟边缘实例内的各种应用的执行。例如,边缘节点222、224可以基于边缘供应功能250进行协调,而各种应用的操作与编排功能260协调。
各种***布置可以提供一种架构,其在应用组合方面平等地处置虚拟机、容器和功能(并且所产生的应用是这三种成分的组合)。每个成分可以涉及使用一个或多个加速器(例如,FPGA、ASIC)组件作为本地后端。以此方式,应用可以在多个边缘所有者之间进行拆分,由编排器进行协调。
应当理解,本文所讨论的边缘计算***和布置可以适用于各种解决方案、服务和/或用例。作为示例,图3示出了涉及对实现边缘云110的边缘计算***300中的应用的移动访问的简化的车辆计算和通信用例。在该用例中,每个客户端计算节点310可被具体化为位于相对应车辆中的车载计算***(例如,车载导航和/或信息娱乐***),该车载计算***在道路行驶期间与边缘网关节点320进行通信。例如,边缘网关节点320可以位于路边机柜中,该路边机柜可以放置在道路沿线、道路交叉口处或道路附近的其他位置。当每个车辆沿道路行驶时,其客户端计算节点310与特定边缘网关节点320之间的连接可以传播,以便保持客户端计算节点310的持续连接和情境。边缘网关节点320中的每一个包括一些处理和存储能力,并且因此,可以在一个或多个边缘网关节点320上执行客户端计算节点310的数据的一些处理和/或存储。
边缘网关节点320中的每一个可与一个或多个边缘资源节点340通信,该边缘资源节点340被说明性地具体化为位于通信基站342(例如,蜂窝网络的基站)处或其内的计算服务器、装置或组件。如上所述,每个边缘资源节点340包括一些处理和存储能力,并且因此,可以在边缘资源节点340上执行客户端计算节点310的数据的一些处理和/或存储。例如,可以由边缘资源节点340执行较不紧急或较不重要的数据的处理,而更紧急或更重要的数据的处理可由边缘网关设备或客户端节点本身执行(取决于例如,每个组件的能力)。进一步地,各种有线或无线通信链路(例如,光纤有线回程、5G无线链路)可存在于边缘节点320、边缘资源节点340、核心数据中心350和网络云360之间。
(多个)边缘资源节点340还与核心数据中心350进行通信,该核心数据中心350可包括位于中央位置(例如,蜂窝通信网络的中央局)的计算服务器、装置和/或其他组件。核心数据中心350可以为由(多个)边缘资源节点340和边缘网关节点320形成的边缘云110操作提供到全球网络云360(例如,互联网)的网关。另外,在一些示例中,核心数据中心350可包括一定数量的处理和存储能力,并且因此,可以在核心数据中心350上执行客户端计算设备的数据的一些处理和/或存储(例如,低紧急度或重要性、或高复杂度的处理)。边缘网关节点320或边缘资源节点340可提供对有状态应用332和地理分布式数据存储334(例如,数据库、数据存储等)的使用。
在进一步的示例中,当边缘节点将沿托管它的平台移动到其他地理位置时,图3可以利用各种类型的移动边缘节点,诸如托管在车辆(例如,汽车、卡车、电车、火车等)或其他移动单元中的边缘节点。通过车辆对车辆通信,单个车辆甚至可以充当其他车辆的网络边缘节点(例如,以执行高速缓存、报告、数据聚合等)。因此,将理解,可以以各种设置来分布在各种边缘节点中提供的应用组件,包括在各个端点设备或边缘网关节点320处的一些功能或操作之间的协调,在边缘资源节点340处的一些其他功能或操作之间的协调,以及在核心数据中心350或全球网络云360中的其他功能或操作之间的协调。
在进一步的配置中,边缘计算***可以通过使用相应的可执行应用和功能来实现FaaS计算能力。在示例中,开发人员编写表示一个或多个计算机功能的功能代码(例如,本文中的“计算机代码”),并且功能代码被上传到例如由边缘节点或数据中心提供的FaaS平台。触发(诸如例如,服务用例或边缘处理事件)用FaaS平台发起功能代码的执行。
在FaaS的示例中,容器用于提供执行功能代码的环境。容器可以是任何独立执行实体,诸如进程、Docker或Kubernetes容器、虚拟机等。在边缘计算***内,各种数据中心、边缘和端点(包括移动设备)设备用于“启动(spin up)”可以按需缩放的功能(例如,激活和/或分配功能动作)。功能代码在物理基础结构(例如,边缘计算节点)设备和底层虚拟化容器上执行。最后,响应于已完成执行,在基础结构上“停止(spun down)”(例如,停用和/或解除分配)容器。
FaaS的进一步方面可以使边缘功能能够以服务方式进行部署,包括对支持将边缘计算作为服务的相应功能的支持。FaaS的其他特征可包括:粒度计费组件,使客户(例如,计算机代码开发人员)仅在执行其代码时付款;公共数据存储,用于存储数据以供一个或多个功能重复使用;各个功能之间的编排和管理;功能执行管理、并行和合并;容器和功能存储器空间的管理;可用于功能的加速资源的协调;以及容器之间的功能分布(容器包括已经部署或运行的“暖(warm)”容器,相对的需要部署或配置的“冷(cold)”容器)。
示例计算设备
在更一般的级别上,可以将边缘计算***描述为涵盖在边缘云110中运行的任何数量的部署,这些部署提供来自客户端和分布式计算设备的协调。出于说明的目的,图4提供了部署在边缘计算环境中的分布式计算的各层的进一步抽象概览。
图4一般性地描绘了一种用于将边缘服务和应用提供给多利益相关方实体的边缘计算***,该多利益相关方实体分布在一个或多个客户端计算节点402、一个或多个边缘网关节点412、一个或多个边缘聚合节点422、一个或多个核心数据中心432和全球网络云442之间,分布横跨网络的各层。可以在电信服务提供商(“telco”或“TSP”)、物联网服务提供商、云服务提供商(CSP)、企业实体或任何其他数量的实体处或以其名义提供边缘计算***的实现。各种形式的有线或无线连接可被配置成用于在节点402、412、422、432之间建立连接性,包括在此类节点之间的互连(例如,边缘网关节点512之间的连接以及边缘聚合节点522之间的连接)。
边缘计算***的每个节点或设备位于与层410、420、430、440、450相对应的特定层。例如,每个客户端计算节点402位于端点层410,而每个边缘网关节点412位于边缘计算***的边缘设备层420(局部层级)。另外,每个边缘聚合节点422(和/或雾设备424,如果与雾联网配置426一起布置或操作或在雾联网配置426中布置或操作)位于网络访问层430(中间层级)。雾计算(或“雾化”)通常是指将云计算扩展到企业网络的边缘,通常是在协调分布式或多节点网络中。一些形式的雾计算代表云计算位置、在端设备与云计算数据中心之间提供计算、存储和联网服务的部署。此类形式的雾计算提供了与本文讨论的边缘计算相一致的操作;本文讨论的许多边缘计算方面可应用于雾网络、雾化和雾配置。进一步地,本文讨论的边缘计算***的方面可被配置为雾,或者雾的方面可被集成到边缘计算架构中。
核心数据中心432位于核心网络层440(例如,区域或地理中央层级),而全球网络云442位于云数据中心层450(例如,国家或全球层)。提供“核心”作为集中式网络位置(网络中较深的位置)的术语,该位置可由多个边缘节点或组件访问;但是,“核心”不一定指定网络的“中心”或最深的位置。因此,核心数据中心432可以位于边缘云110内、边缘云110处或边缘云110附近。
尽管在图4中示出了说明性数量的客户端计算节点402、边缘网关节点412、边缘聚合节点422、核心数据中心432、全球网络云442,应当理解,边缘计算***可以在每一层包括更多或更少的设备或***。另外,如图4中所示,每层410、420、430、440、450的组件的数量通常在每个较低层级(即,当移动接近端点时)增加。因此,一个边缘网关节点412可以服务多个客户端计算节点402,而一个边缘聚合节点422可以服务多个边缘网关节点412。
与本文中所提供的示例一致,每个客户端计算节点402可被具体化为任何类型的能够作为数据的生产者或消费者进行通信的端点组件、设备、装置或“物”。进一步地,在边缘计算***400中使用的标签“节点”或“设备”不一定意指以客户端或从属角色操作的此类节点或设备;相反,边缘计算***400中的节点或设备中的任一个指代包括分立的或连接的硬件或软件配置以促进或使用边缘云110的各个实体、节点或子***。
因此,边缘云110分别由层420、430的边缘网关节点412和边缘聚合节点422操作的网络组件和功能特征、和在层420、430的边缘网关节点412和边缘聚合节点422内操作的网络组件和功能特征形成。边缘云110可被具体化为提供边缘计算和/或存储资源的任何类型的网络,这些边缘计算和/或存储资源被定位成接近支持无线电接入网络(RAN)的端点设备(例如,移动计算设备、IoT设备、智能设备等),其在图4中被图示为客户端计算节点402。换言之,边缘云110可被预想为连接端点设备和传统移动网络接入点的“边缘”,该“边缘”充当进入到包括运营商网络(例如,全球移动通信***(GSM)网络、长期演进(LTE)网络、5G网络等)的服务提供商核心网络中的入口点,同时还提供存储和/或计算能力。其他类型和形式的网络接入(例如,Wi-Fi、长程无线网络)也可替代此类3GPP运营商网络或与此类3GPP运营商网络组合来利用。
在一些示例中,边缘云110可以形成雾联网配置426(例如,雾设备424的网络,未详细示出)的一部分或以其他方式提供到雾联网配置426中或穿过雾联网配置426的入口点,该雾联网配置426可被具体化为用于分发资源和服务以执行特定功能的***层级的水平和分布式架构。例如,雾设备424的协调和分布式网络可以在IoT***布置的情境下执行计算、存储、控制或联网方面。在云数据中心层450与客户端端点(例如,客户端计算节点402)之间的边缘云110中可以存在其他联网的、聚合的和分布式的功能。下面的部分将在网络功能或服务虚拟化的情境下讨论其中的一些,包括为多个利益相关方编排的虚拟边缘和虚拟服务的使用。
边缘网关节点412和边缘聚合节点422协作以向客户端计算节点402提供各种边缘服务和安全性。此外,由于每个客户端计算节点402可以是固定的或移动的,因此每个边缘网关节点412可以与其他边缘网关设备协作,以在相对应的客户端计算节点402围绕区域移动时传播当前提供的边缘服务和安全性。为此,边缘网关节点412和/或边缘聚合节点422中的每一个可以支持多个租赁和多个利益相关方配置,其中可以在单个或多个计算设备之间支持和协调来自多个服务提供商和多个消费者(或为其托管)的服务。
在各示例中,可以在客户端计算节点402之间(例如,在接收证明令牌的客户端处)、在边缘网关节点412或聚合节点422(例如,在具有待认证资源的资源节点处)以及边缘云110中(例如,操作编排器功能、证明服务功能等)的其他中间节点处实现本证明技术,如下面参考图8和图9进一步讨论的。
在进一步的示例中,可以基于图5A和5B中描绘的组件来满足参考本文的边缘计算***和环境所讨论的计算节点或设备中的任一个。每个边缘计算节点可被具体化为能够与其他边缘、联网或端点组件通信的一类设备、装置、计算机或其他“物”。例如,边缘计算设备可被具体化为智能电话、移动计算设备、智能装置、车载计算***(例如,导航***)或能够执行所描述功能的其他设备或***。
在图5A所示的简化示例中,边缘计算节点500包括计算引擎(在本文中也称为“计算电路***”)502、输入/输出(I/O)子***508、数据存储510、通信电路***512以及(可选地)一个或多个***设备514。在其他实施例中,每个计算设备可包括其他或附加组件,诸如在个人或服务器计算***中使用的那些组件(例如,显示器、***设备等)。另外,在一些示例中,说明性组件中的一个或多个可被结合到另一组件中,或以其他方式形成另一组件的部分。
计算节点500可被具体化为能够执行各种计算功能的任何类型的引擎、设备或设备集合。在一些示例中,计算节点500可被具体化为单个设备,诸如集成电路、嵌入式***、现场可编程门阵列(FPGA)、片上***(SOC)或其他集成***或设备。在说明性示例中,计算节点500包括或被具体化为处理器504和存储器506。处理器504可被具体化为能够执行本文中所描述的功能(例如,执行应用)的任何类型的处理器。例如,处理器504可被具体化为(多个)多核处理器、微控制器、或其他处理器或处理/控制电路。在一些示例中,处理器504可被具体化为、包括或耦合到FPGA、专用集成电路(ASIC)、可重新配置的硬件或硬件电路***、或者其他专用硬件以促进本文中所述的功能的执行。
主存储器506可被具体化为能够执行本文中所述的功能的任何类型的易失性(例如,动态随机存取存储器(DRAM)等)或非易失性存储器或数据存储。易失性存储器可以是需要维持由该介质存储的数据状态的能力的存储介质。易失性存储器的非限制性示例可包括各种类型的随机存取存储器(RAM),诸如DRAM或静态随机存取存储器(SRAM)。可以在存储模块中使用的一个特定类型的DRAM是同步动态随机存取存储器(SDRAM)。
在一个示例中,存储设备是块可寻址存储器设备,诸如基于NAND或NOR技术的那些存储器设备。存储器设备还可包括三维交叉点存储器设备(例如,Intel 3D XPointTM存储器)或其他字节可寻址的就地写入非易失性存储器设备。存储器设备可指代管芯本身和/或指代封装的存储器产品。在一些示例中,3D交叉点存储器(例如,Intel 3D XPointTM存储器)可包括无晶体管的可堆叠的交叉点架构,其中存储单元位于字线和位线的交点处,并且可单独寻址,并且其中位存储基于体电阻的变化。在一些示例中,主存储器506的全部或一部分可以被集成到处理器504中。主存储器506可以存储在操作期间使用的各种软件和数据,诸如一个或多个应用、通过(多个)应用、库以及驱动程序操作的数据。
计算电路***502经由I/O子***508通信地耦合到计算节点500的其他组件,该I/O子***508可被具体化为用于促进对计算电路***502(例如,处理器504和/或主存储器506)以及计算电路***502的其他组件的输入/输出操作的电路***和/或组件。例如,I/O子***508可被具体化为或以其他方式包括存储器控制器中枢、输入/输出控制中枢、集成传感器中枢、固件设备、通信链路(即,点对点链路、总线链路、线路、电缆、光导、印刷电路板迹线等)和/或用于促进输入/输出操作的其他组件和子***。在一些示例中,I/O子***508可以形成片上***(SoC)的部分,并可与计算电路***502的处理器504、主存储器506和其他组件中的一个或多个一起被合并到计算电路***502中。
一个或多个说明性数据存储设备510可被具体化为被配置成用于数据的短期或长期存储的任何类型的设备,诸如例如,存储器设备和电路、存储器卡、硬盘驱动器、固态驱动器或其他数据存储设备。每个数据存储设备510可包括存储数据存储设备510的数据以及固件代码的***分区。每个数据存储设备510还可包括一个或多个操作***分区,操作***分区取决于例如计算节点500的类型来存储操作***的数据文件和可执行文件。
通信电路***512可被具体化为能够实现通过网络在计算电路***502与另一计算设备(例如,边缘计算***400的边缘网关节点412)之间的通信的任何通信电路、设备或其集合。通信电路***512可以被配置成使用任何一种或多种通信技术(例如,有线或无线通信)和相关联的协议(例如,蜂窝联网协议(诸如3GPP 4G或5G标准)、无线局域网协议(诸如IEEE802.11/)、无线广域网协议、以太网、蓝牙等)来实行此类通信。
说明性通信电路***512包括网络接口控制器(NIC)520,其也被称为主机结构接口(HFI)。NIC 520可被具体化为一个或多个附加板、子卡、网络接口卡、控制器芯片、芯片组或可由计算节点500用来与另一计算设备(例如,边缘网关节点412)连接的其他设备。在一些示例中,NIC 520可被具体化为包括一个或多个处理器的片上***(SoC)的一部分,或NIC148可被包括在也包含一个或多个处理器的多芯片封装上。在一些示例中,NIC520可包括均位于NIC 520本地的本地处理器(未示出)和/或本地存储器(未示出)。在此类示例中,NIC520的本地处理器可能能够执行本文中描述的计算电路***502的功能中的一个或多个功能。附加地或替代地,在此类示例中,NIC 520的本地存储器可以在板级、插座级、芯片级和/或其他层级上被集成到客户端计算节点的一个或多个组件中。
另外,在一些示例中,每个计算设备500可包括一个或多个***设备514。此类***设备514可包括在计算设备或服务器中发现的任何类型的***设备(诸如音频输入设备、显示器、其他输入/输出设备、接口设备和/或其他***设备),取决于计算节点500的特定类型。在进一步的示例中,计算节点500可以被具体化为边缘计算***中相应的边缘计算节点(例如,客户端计算节点402、边缘网关节点412、边缘聚合节点422)或类似形式的装置、计算机、子***、电路***或其他组件。
在更详细的示例中,图5B图示出可存在于边缘计算节点550中、用于实现本文所述的技术(例如,操作、过程、方法和方法论)的组件的示例的框图。边缘计算节点550可包括上述组件的任何组合,并且可包括可用于边缘通信网络或此类网络的组合的任何设备。这些组件可被实现为IC、IC的部分、分立电子器件,或其他模块、逻辑、硬件、软件、固件或其适用于边缘计算节点550中的组合,或作为以其他方式被并入在更大的***的机架内的组件。
边缘计算节点550可包括处理器552形式的处理电路***,该处理电路***可以是微处理器、多核处理器、多线程处理器、超低电压处理器、嵌入式处理器,或其他已知的处理元件。处理器552可以是芯片上***(SoC)的部分,在该SoC中,处理器552和其他组件形成到单个集成电路或单个封装中,诸如,来自加利福尼亚州圣克拉拉市的英特尔公司的爱迪生TM(EdisonTM)或伽利略TM(GalileoTM)SoC板。作为示例,处理器552可包括基于架构酷睿TM(CoreTM)的处理器(诸如,QuarkTM、AtomTM、i3、i5、i7和i9、或MCU类处理器)、或可从获得的另一此类处理器。然而,可使用任何数量的其他处理器,诸如,可从加利福尼亚州桑尼威尔市的超微半导体公司(AMD)获得的处理器、来自加利福尼亚州桑尼威尔市的MIPS技术公司的基于MIPS的设计、许可自ARM控股有限公司的基于ARM的设计,或从上述各公司的客户、被许可方或采纳方获得的处理器。处理器可包括诸如以下单元:来自公司的A5-A12处理器、来自高通技术公司的骁龙TM(SnapdragonTM)处理器或来自德州仪器公司的OMAPTM处理器。
处理器552可通过互连556(例如,总线)来与***存储器556通信。可使用任何数量的存储器设备来提供给定量的***存储器。作为示例,存储器可以是根据联合电子器件工程委员会(JEDEC)设计的随机存取存储器(RAM),诸如,DDR或移动DDR标准(例如,LPDDR、LPDDR2、LPDDR3或LPDDR4)。在特定示例中,存储器组件可符合JEDEC颁布的DRAM标准,诸如DDR SDRAM的JESD79F、DDR2 SDRAM的JESD79-2F、DDR3SDRAM的JESD79-3F、DDR4 SDRAM的JESD79-4A、低功率DDR(LPDDR)的JESD209、LPDDR2的JESD209-2、LPDDR3的JESD209-3和LPDDR4的JESD209-4。此类标准(和类似的标准)可被称为基于DDR的标准,而存储设备的实现此类标准的通信接口可被称为基于DDR的接口。在各种实现中,单独的存储器设备可以是任何数量的不同封装类型,诸如,单管芯封装(SDP)、双管芯封装(DDP)或四管芯封装(Q17P)。在一些示例中,这些设备可以直接焊接到主板上,以提供较低轮廓的解决方案,而在其他示例中,设备被配置为一个或多个存储器模块,这些存储器模块进而通过给定的连接器耦合至主板。可使用任何数量的其他存储器实现方式,诸如,其他类型的存储器模块,例如,不同种类的双列直插存储器模块(DIMM),包括但不限于microDIMM(微DIMM)或MiniDIMM(迷你DIMM)。
为了提供对信息(诸如,数据、应用、操作***等)的持久性存储,存储558还可经由互连556而耦合至处理器552。在示例中,存储558可经由固态盘驱动器(SSDD)来实现。可用于存储558的其他设备包括闪存卡(诸如,SD卡、microSD卡、xD图片卡,等等)和USB闪存驱动器。在示例中,存储器设备可以是或者可包括使用硫属化物玻璃的存储器设备、多阈值级别NAND闪存、NOR闪存、单级或多级相变存储器(PCM)、电阻式存储器、纳米线存储器、铁电晶体管随机存取存储器(FeTRAM)、反铁电存储器、包含忆阻器技术的磁阻随机存取存储器(MRAM)、包括金属氧化物基底、氧空位基底和导电桥随机存取存储器(CB-RAM)的电阻式存储器、或自旋转移力矩(STT)-MRAM、基于自旋电子磁结存储器的设备、基于磁隧穿结(MTJ)的设备、基于DW(畴壁)和SOT(自旋轨道转移)的设备、基于晶闸管的存储器设备、或者任何上述或其他存储器的组合。
在低功率实现中,存储558可以是与处理器552相关联的管芯上存储器或寄存器。然而,在一些示例中,存储558可使用微硬盘驱动器(HDD)来实现。此外,附加于或替代所描述的技术,可将任何数量的新技术用于存储558,诸如,阻变存储器、相变存储器、全息存储器或化学存储器,等等。
组件可通过互连556进行通信。互连556可包括任何数量的技术,包括工业标准架构(ISA)、扩展ISA(EISA)、***组件互连(PCI)、***组件互连扩展(PCIx)、PCI快速(PCIe)或任何数量的其他技术。互连556可以是例如在基于SoC的***中使用的专属总线。其他总线***可被包括,诸如I2C接口、SPI接口、点对点接口、功率总线,等等。
互连556可将处理器552耦合至收发器566,以便例如与连接的边缘设备562通信。收发器566可使用任何数量的频率和协议,诸如,IEEE802.15.4标准下的2.4千兆赫兹(GHz)传输,使用如由蓝牙特别兴趣小组定义的蓝牙低能量(BLE)标准、或标准,等等。为特定的无线通信协议配置的任何数量的无线电可用于到连接的边缘设备562的连接。例如,无线局域网(WLAN)单元可用于根据电气和电子工程师协会(IEEE)802.11标准实现通信。另外,例如根据蜂窝或其他无线广域协议的无线广域通信可经由无线广域网(WWAN)单元发生。
无线网络收发器566(或多个收发器)可使用用于不同范围的通信的多种标准或无线电来进行通信。例如,边缘计算节点550可使用基于BLE的或另一低功率无线电的本地收发器与接近的(例如,在约10米内的)设备通信以节省功率。更远的(例如,在约50米内的)连接的边缘设备562可通过ZigBee或其他中间功率的无线电而被联络到。这两种通信技术能以不同的功率水平通过单个无线电发生,或者可通过分开的收发器而发生,分开的收发器例如使用BLE的本地收发器和分开的使用ZigBee的网格收发器。
无线网络收发器566(例如,无线电收发器)可被包括,以经由局域网协议或广域网协议来与边缘云590中的设备或服务通信。无线网络收发器566可以是遵循IEEE 802.15.4或IEEE 802.15.4g标准等的LPWA收发器。边缘计算节点550可使用由Semtech和LoRa联盟开发的LoRaWANTM(长距离广域网)在广域上通信。本文中所描述的技术不限于这些技术,而是可与实现长程、低带宽通信(诸如,Sigfox和其他技术)的任何数量的其他云收发器一起使用。进一步地,可使用其他通信技术,诸如,在IEEE 802.15.4e规范中描述的时分信道跳。
除了针对如本文中所描述的无线网络收发器566而提及的***之外,还可使用任何数量的其他无线电通信和协议。例如,收发器566可包括使用扩展频谱(SPA/SAS)通信以实现高速通信的蜂窝收发器。此外,可使用任何数量的其他协议,诸如,用于中速通信和供应网络通信的网络。收发器566可包括与任何数量的3GPP(第三代合作伙伴计划)规范(诸如长期演进(LTE)和第五代(5G)通信***)兼容的无线电,在本公开的结尾进一步详细讨论。网络接口控制器(NIC)568可被包括以提供到边缘云590的节点或到其他设备(诸如,(例如,在网格中操作的)连接的边缘设备562)的有线通信。有线通信可提供以太网连接,或可基于其他类型的网络,诸如控制器区域网(CAN)、本地互连网(LIN)、设备网络(DeviceNet)、控制网络(ControlNet)、数据高速路+、现场总线(PROFIBUS)或工业以太网(PROFINET),等等。附加的NIC 568可被包括以实现到第二网络的连接,例如,第一NIC 568通过以太网提供到云的通信,并且第二NIC 568通过另一类型的网络提供到其他设备的通信。
鉴于从设备到另一组件或网络的适用通信类型的多样性,设备使用的适用通信电路***可包括组件564、566、568或570中的任何一个或多个或由组件564、566、568或570中的任何一个或多个来具体化。因此,在各个示例中,用于通信(例如,接收、传送等)的适用装置可由此类通信电路***来具体化。
边缘计算节点550可包括或耦合到加速电路***564,其可由一个或多个AI加速器、神经计算棒、神经形态硬件、FPGA、GPU的布置、一个或多个SOC、一个或多个CPU、一个或多个数字信号处理器、专用ASIC,或设计成用于完成一个或多个专门任务的其他形式的专用处理器或电路***来具体化。这些任务可包括AI处理(包括机器学习、训练、推断和分类操作)、视觉数据处理、网络数据处理、对象检测、规则分析等。因此,在各示例中,用于加速的适用装置可以由此类加速电路***来具体化。
互连556可将处理器552耦合至传感器中枢或外部接口570,该传感器中枢或外部接口570用于连接附加的设备或子***。设备可包括传感器572,诸如加速度计、水平传感器、流量传感器、光学光传感器、相机传感器、温度传感器、全球定位***(GPS)传感器、压力传感器、气压传感器,等等。中枢或接口570可进一步用于将边缘计算节点550连接至致动器574(诸如,电源开关、阀致动器、听觉声音发生器、视觉警告设备等)。
在一些任选的示例中,各种输入/输出(I/O)设备可存在于边缘计算节点550内,或可连接至边缘计算节点550。例如,显示器或其他输出设备584可被包括以显示信息,诸如,传感器读数或致动器位置。输入设备586(诸如,触摸屏或键区)可被包括以接受输入。输出设备584可包括任何数量的音频或视觉显示形式,包括:简单视觉输出,诸如,二进制状态指示器(例如,LED);多字符视觉输出;或更复杂的输出,诸如,显示屏(例如,LCD屏),其具有从边缘计算节点550的操作生成或产生的字符、图形、多媒体对象等的输出。
电池576可为边缘计算节点550供电,但是在其中边缘计算节点550被安装在固定位置的示例中,该边缘计算节点550可具有耦合至电网的电源。电池576可以是锂离子电池、金属-空气电池(诸如,锌-空气电池、铝-空气电池、锂-空气电池),等等。
电池监测器/充电器578可被包括在边缘计算节点550中以跟踪电池576的充电状态(SoCh)。电池监测器/充电器578可用于监测电池576的其他参数以提供失效预测,诸如,电池576的健康状态(SoH)和功能状态(SoF)。电池监测器/充电器578可包括电池监测集成电路,诸如来自线性技术公司(Linear Technologies)的LTC4020或LTC2990、来自亚利桑那州的凤凰城的安森美半导体公司(ON Semiconductor)的ADT7488A、或来自德克萨斯州达拉斯的德州仪器公司的UCD90xxx族的IC。电池监测器/充电器578可通过互连556将电池576上的信息传递至处理器552。电池监测器/充电器578也可包括允许处理器552直接监测电池576的电压或来自电池576的电流的模数(ADC)转换器。电池参数可被用于确定边缘计算节点550可执行的动作,诸如,传输频率、网格网络操作、感测频率,等等。
功率块580或耦合至电网的其他电源可与电池监测器/充电器578耦合以对电池576充电。在一些示例中,功率块580可用无线功率接收机代替,以便例如通过边缘计算节点550中的环形天线来无线地获得功率。无线电池充电电路(诸如,来自加利福尼亚州的苗比达市的线性技术公司的LTC4020芯片,等等)可被包括在电池监测器/充电器578中。特定的充电电路可基于电池576的尺寸、并因此基于所要求的电流来选择。可使用由无线充电联盟(Airfuel Alliance)颁布的Airfuel标准、由无线电力协会(Wireless Power Consortium)颁布的Qi无线充电标准、由无线电力联盟(Alliance for Wireless Power)颁布的Rezence充电标准等等来执行充电。
存储558可包括用于实现本文中公开的技术的软件、固件或硬件命令形式的指令582。虽然此类指令582被示出为被包括在存储器554和存储558中的代码块,但是可以理解,可用例如被建立到专用集成电路(ASIC)中的硬连线电路替换代码块中的任一个。因此,在各个示例中,用于存储的适用装置可以通过此类存储电路***来具体化。
在示例中,经由存储器554、存储558或处理器552提供的指令582可具体化为非暂态机器可读介质560,该非暂态机器可读介质560包括用于指示处理器552执行边缘计算节点550中的电子操作的代码。处理器552可通过互连556访问非暂态机器可读介质560。因此,在各个示例中,用于处理的适用装置可以通过此类处理器电路***来具体化。例如,非暂态机器可读介质560可由针对存储558所描述的设备来具体化,或者可包括特定的存储单元,诸如,光盘、闪存驱动器或任何数量的其他硬件设备。非暂态机器可读介质560可包括用于指示处理器552执行例如像参照上文中描绘的操作和功能的(多个)流程图和(多个)框图而描述的特定的动作序列或动作流的指令。如本文中所使用的,术语“机器可读介质”和“计算机可读介质”是可互换的。因此,在各个示例中,用于存储器的适用装置可通过此类存储器电路***来具体化。
在进一步的示例中,机器可读介质也包括任何有形介质,该有形介质能够存储、编码或携带供由机器执行并且使机器执行本公开方法中的任何一种或多种方法的指令,或者该有形介质能够储存、编码或携带由此类指令利用或与此类指令相关联的数据结构。“机器可读介质”因此可包括但不限于固态存储器、光学介质和磁介质。机器可读介质的特定示例包括非易失性存储器,作为示例,包括但不限于:半导体存储器设备(例如,电可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)和闪存设备;诸如内部硬盘及可移除盘之类的磁盘;磁光盘;以及CD-ROM和DVD-ROM盘。可使用传输介质,经由网络接口设备,利用数个传输协议中的任何一种协议(例如,HTTP),进一步通过通信网络来传送或接收由机器可读介质具体化的指令。
机器可读介质可以由能够以非暂态格式托管数据的存储设备或其他装置提供。在示例中,在机器可读介质上存储或以其他方式提供的信息可以表示指令,诸如指令本身或可以从中导出指令的格式。可以从中导出指令的这种格式可包括源代码、编码指令(例如,以压缩或加密形式)、打包指令(例如,分成多个包)等。可以通过处理电路***将表示机器可读介质中的指令的信息处理为指令,以实现本文讨论的任何操作。例如,从信息中导出指令(例如,由处理电路***进行的处理)可包括:(例如,从源代码、目标代码等)编译、解释、加载、(例如,动态或静态链接的)组织、编码、解码、加密、取消加密、打包、拆包或以其他方式将信息操纵到指令中。
在示例中,指令的导出可包括信息的组装、编译或解释(例如,通过处理电路***),以根据由机器可读介质提供的某种中间或预处理格式来创建指令。当信息以多个部分提供时,可以对该信息进行组合、拆包和修改以创建指令。例如,该信息可以位于一个或多个远程服务器上的多个压缩的源代码包(或目标代码或二进制可执行代码等)中。可以在通过网络传输时对源代码包进行加密,并在必要时对其进行解密、解压、组装(例如,链接),并在本地机器上对其进行编译或解释(例如,到库、独立式可执行文件等中),并由本地机器执行。
图5A和5B的框图中的每个旨在描绘设备、子***的组件或边缘计算节点的布置的高级视图。然而,应当理解,可以省略所示出组件中的一些组件,额外的组件可以存在,并且所示出的组件的不同布置可发生在其他实现中。
图6图示出根据示例的具有边缘计算平台作为中间层610的三层计算和数据处理600的示例的概览。边缘云中的计算高度去中心化。它正在作为一种特殊的操作类别出现,在该类别中,事件、请求和数据流的处理方式应导致低的确定性等待时间响应。第一层605中的边缘连接的设备可以产生和消耗各种数据。在中间层610中,许多不同的边缘计算、通信和存储资源以分层或对等关系被灵活且动态地聚合,以满足本地关键需求的响应时间和通信带宽。中间层610可以调动第三层615中的传统云中的较深和较丰富的资源网络,以进行复杂的计算密集型操作。
图7图示出根据示例的实况视频流应用流水线700的示例。实况视频流(LVS)可以说明对边缘计算***中数据流的需求,但是本文讨论的***和技术同样适用于边缘计算***中的各种数据流用例。本文讨论的***和技术实现分布式、去中心化应用所经历的严格的服务质量目标。由于联网技术的进步,LVS和其他要求高的工作负荷变得越来越受欢迎,并且提供了边缘计算***中数据密集型工作负荷所带来的问题的一个很好的示例。在LVS中,配备有一个或多个相机的设备捕获视频并将其几乎实时地流传输给广大观众。为此,视频被捕获并被编码705。可以使用设备能力或通过采用该设备所连接的小服务器来执行捕获和编码705。然后将视频转码710并打包715以供流传输。转码710根据捕获和编码705输入流实时地产生具有不同分辨率和比特率的流。打包715操作使视频适应于适用于广泛的网络/定位/回放设备规范以及广泛分布的观众的不同流协议。
用户参与度受到以下各项的严重影响:播放器发起与视频服务器的连接后开始播放视频所花费的时间(例如,加入时间)、缓冲中花费的总流会话时间的百分比(例如,缓冲率)、以及视频质量。所有这三个度量直接受转码710步骤和打包715步骤影响。虽然使用完全配备的(例如,资源丰富的)后端云的弹性可以是当今的一种选择,但是不断增长的分辨率(例如,8K分辨率等)和非常丰富的内容(尤其是对于沉浸式视频)使得这些操作中的许多操作放在非常靠近边缘的位置非常重要,其中它们跨基础结构的许多不同部分是分布式并且去中心化的。流行内容也可以被高速缓存并实时地动态适配,以例如满足内容个性化目标。一些类型的内容可在边缘提供商的基础结构中被高速缓存,而其他类型的内容可从应用提供商的内容分发和专业化网络被更好地高速缓存和重新分发。
在示例中,不同的边缘服务提供商将编码705、转码710和打包715以及许多其他操作拆分到整个网络基础结构中的各种计算节点。例如,应用提供商可以从边缘服务提供商租赁计算和存储,CDN提供商可以从边缘基础结构提供商所拥有的基站租赁通信和路由服务,以利用后者的联网优势,而CDN提供商可以将专用设备放置在托管场所的边缘点以转移其服务的更要求高的部分的负载,并具有内容联合模型以增大边缘提供商的服务。这些是可能在创收和/或捆绑服务中产生的操作,例如,来自运动场馆、娱乐场馆和各种类型的商业内容服务的LVS。此类操作可包括流传输、计量、计费和相关联的动态内容的产生,这些动态内容可能需要过滤、混合、索引、转换以及许多其他流内操作。必须通过所有这些操作之间的紧密协调来实现用户参与的质量。
图8图示出根据示例的用于边缘计算环境中的端到端服务质量的过程800的示例。
就遥测而言,可以为硬件对象、***软件对象或对象***收集度量,对象***可包括各种资源(诸如计算、通信、存储器、加速器和存储资源)。每个资源可以是物理的(实体的)或虚拟的。本文公开的示例基于遥测数据来改进计算任务到边缘服务的分发。遥测数据可以由与(多个)资源(例如,(多个)硬件资源、(多个)软件资源等,和/或其组合)相关联的(多个)对象产生。如本文所使用的,术语“对象”指机器可读定义、数据结构、指令等的逻辑块,和/或包括逻辑块的物理块(例如,存储器和/或存储的块或部分)。逻辑块可以实现功能、接口和/或其他机器可读模型或资源的表示。逻辑块可指代可被编写为使得对象可以监测资源的分区、部分、切片等的代码(例如,人类可读代码、机器可读代码等)。例如,可以使用编译的对象代码、源代码等来实现对象,该对象代码、源代码等在被执行时可以将一个或多个对象接口暴露给软件栈(例如,平台软件栈、***软件栈等)。在此类示例中,一个或多个对象接口在被调用时,可以提供和/或以其他方式公开由资源生成的和/或以其他方式与资源相关联的遥测数据。例如,遥测数据可包括对资源的一个或多个过程、服务等的执行的跟踪。
在示例中,一些资源可以提供直接服务,其中资源的使用产生期望的计算或通信或存储结果,而其他资源可以提供间接服务,诸如安全性(例如,验证和/或强制授权访问)、弹性(例如,促进调试、跟踪、修复)等。有关其利用率、接收服务的平均延迟(例如,等待时间)、服务可用的平均速率(例如,吞吐量)、功耗等各种测量可以通过由资源的实现(例如,硬件、软件或虚拟化的硬件/软件)直接提供的事件度量来获得、或可以基于可导出的观察来推断。例如,可以通过跟踪或随机采样对象/***执行的动作或步骤,来获得等待时间。这些度量可以统称为与对象或***相关联的遥测。资源度量集在图8中用R表示。
在操作805处,处理时间步长,并且收集租户端到端度量集(TEEMS),并用T表示,如图8所示。T(即TEEMS)与任务相关联的度量的矩阵相关联。网络的租户可具有多个服务。可以收集每个租户的每个服务的度量。该矩阵中的每行(诸如行k)指代单个任务Ak,1≤k≤M。该矩阵中的列指代各种性能品质值(例如,每个请求的等待时间的倒数,任务或功能Ak正在执行的吞吐量/速率等)。在操作810和操作835中分别考虑遥测的两个源,R和T。
通过利用时间敏感的联网(TSN),可以以近似(例如,软)同步来执行过程800。在操作810中,跨分布式边缘基础结构绘制跨组件、任务、功能和微服务的应用遥测。类似地,在操作835中,绘制资源遥测并且资源遥测与边缘基础结构的不同部分共享。在操作815中,TEEMS遥测被映射到SLO关键性能指标(KPI)的当前摘要评估qcurrent。可以将变量qcurrent视为如由应用提供或服务提供的映射所定义的从T到端到端参与KPI上的投影。通常,到qcurrent的映射是T的非线性或复函数,并且可以通过小型人工神经网络(ANN)或软件过程或通过现场可编程门阵列(FPGA)、可配置空间加速器(CSA)等计算。在操作820中,将到qcurrent的映射与期望的QoS水平q进行比较。在操作830中,通过操作825中的映射函数Z的代理,得到总体紧急程度。应用的当前端到端质量度量qcurrent与其预期的性能状态q之间的差距越大,越紧急。虽然qcurrent和q可以是向量值的实体(即,QoS可以在不止一个维度上),但紧急度量可以是反映压力的量或qcurrent与q之间的差距需要多快闭合的标量。
机器学习(ML)和人工智能(AI)可用于更好地估计QoS KPI。在操作840中,它可以独立于资源分配估计来操作,并且可以向估计函数本身提供输入。在示例中,估计函数可以基于神经网络(NN)(例如,增强型NN等),其中一些输入由在操作860中进行背景监测并表征***及其随时间的演进的实体提供。
在操作840中,算法、仿真或模型可以在分布式和去中心化的基础上运行,以便可能将可用资源或者可用资源的优先级或软预留重新分发到应用的各种组件任务或功能,以减少差距qcurrentq。这是一种可训练的模型或算法,并且其旨在成为一种轻量级的依赖于应用的算法。可能不必消除QoS差距,而是以这样的方向移动:以与差距的大小成比例的调整率(例如,来自操作830的紧急度测量)来闭合差距。计算的资源重新分发必须是可行的,为此,在操作835中评估资源遥测R。可以在各种资源的分配上使用各种成本函数,并且在操作850中可以计算资源的优化的重新分配,使得可以在使成本最小化的同时获得最大值收益(例如,合并最小最大过程)。操作840可以在边缘基础结构的各个部分中作为单独的并发副本运行。结果是全局的(因为它计算全局重新分配)但局部解释的:因此每个节点应用重新计算的资源分配的局部部分。
操作840可以使用仿真模型,该仿真模型可以是指令驱动的或者可以是模拟不同参数改变(例如,资源分配)的影响的数学求解器。非过程模型可以是经训练的神经网络模型、经典的机器学习模型(如模型树)、多线性回归模型、主成分、支持向量机(SVM)等。这些模型中的每一个实现具有内嵌的高度修剪的去中心化、分布式和轻量级的执行,而不是在数十个节点上的数百个(可能是数千个)资源之间调整资源分配,在预期的变更方向上具有最大可能影响的少数变量被立即剔出以供评估。目标是逐步缩小质量差距。
对于每个性能KPI,任务质量向量空间Q与函数D(Q)一起用于将Q中的向量映射到标量值q。Q代表服务质量目标的空间——每个任务Ak一个元素。变量q代表综合的或端到端的服务质量目标。由于Q中的许多不同向量可以各自实现特定的端到端质量目标,因此D(Q)→q是主观函数。在A1、A2、……、AM上有许多不同的质量度量分布,这些分布可以共同实现给定性能KPI所期望的质量度量q。在操作820中,用成本对质量加权。优化使用权衡方程。仅仅质量可能不准确。其他成本要么被隐含在内,要么被遗漏。成本可以是以能量、时间、收入/补偿、安全性等形式。针对每个KPI,质量目标的向量可与向量中的一个元素一起继承(carry forward)。
为简单起见,在以下示例中使用一维KPI(例如,应用A的每个端到端请求的等待时间)。在示例中,q用于指代单个KPI的端到端质量目标。使用映射H:TxRnext→Tnext(TxR下一个→T下一个),其中H是稀疏映射。对于TEEMS的每个当前状态T,它表示跨任务的资源分配Rnext下、可实现的下一个状态Tnext。因此,Rnext是来自全部可用计算资源集合中的任何资源可行分配,这意味着它是基于当前遥测R的资源可行分配。在该分配下,预期所期望的下一个TEEMS值为Tnext。Rnext将划分成到包括A的每个任务/功能的本地资源分配的集合和任务间资源分配的集合(诸如在任务之间传递信息的带宽或时间)。
描述上述构造H的另一种方式是设想:如果给予一个任务A1的CPU周期增加5%,给予另一个任务A2的CPU周期减少7%,如果A2与A3之间的数据流速降低2%,并且A4与A7之间的数据流速增加4%,则各种任务的总性能状态是已知的,并且将确定下一个时间步长处(例如,在100毫秒后、1秒后、等等)这些任务的可能的下一个性能状态,其中相应的增加和减少是资源上可行的并反映在Rnext中。单位时间之后的性能状态就是上面的映射H所表示的。映射可以是遍历的(例如,相对于时间是平稳的、时不变的等)。
尽管在任何给定时间,可能有非常大量的资源分配R下一个,但可以在已知步长值中增加或减少各种资源。分配空间以合理和习惯的方式进行量化。例如,可以选择CPU以频率P0、Turbo频率T1等运行,而不以高于P0但低于T1的频率运行。允许某些比率的资源分配,而不允许其他比率的资源分配。例如,一个资源分配可以允许每个核心的存储器带宽不超过20千兆位/秒(GBps)、不超过32GBps等。每个资源不是孤立地获取的,但是资源的每个组合都具有允许的值的集合。在N维资源空间中,存在资源值的各种允许和不允许的组合。例如,如T恤的尺寸,其代表着脖子尺寸与胸部以及脖子尺寸与袖子长度等的各种固定比率。在任何给定的当前性能状态T与可能的下一个性能状态Tnext之间,在该资源分配的空间中可能有一组曼哈顿路径。每个分配有可衡量的成本,该成本是当前资源可用性的函数,并且下一状态的集合受不可到达的分配限制。例如,如果将特定路径固定在10GBps的带宽上,则从给定状态T无法到达状态Tnext(需要11GBps的带宽)。
在基础结构中的所选择的点处预留适量的计算资源(例如,核心周期、功率、可用加速度等),使得可以无障碍地执行过程H。决策的模型、代码或实现可能是应用与边缘资源供应和负载平衡机制之间的QoS/服务水平目标(SLO)/服务水平协议(SLA)合同的一部分。在操作855中,记录在操作840、845和850中计算出的资源重新分配的进度和结果,以供将来审核E2E QoS遵从性。进一步地,这些材料以及正在进行的资源和服务遥测流(T、R)也可用于云后端服务。在操作860中,云后端服务可以执行(重新)训练,该(重新)训练可以是增量的(或不是)并且可以偶尔地(例如,小时、天等)更新操作840中的模型/过程、操作815中的QoS映射函数,以及操作825中的紧急函数。
资源重新分配可以以去中心化方式跨多个边缘基础结构节点进行计算,在不同节点之间重新分发并进行一致性比较。在示例中,资源可以被分解或是资源池。当出现不一致时(例如,通过距离度量计算并通过阈值进行过滤),这使每个节点有机会看到差异。在此类情况下,开始调和,其中在操作845中单独计算最适合的重新分配并重新分发以在下一时期生效。提供了高优先级遥测信道(或虚拟服务类别),使得T和R中的遥测信息不会由于在节点之间分布而被延迟。在实施例中,它可以基于被动共享。例如,可以将T和R更新到分布式但非相干的文件***、远程直接存储器访问(RDMA)可访问的数据结构等中。
在示例中,补偿机制可以与上述其他项目一起实现并订立合同。当由于临时性的需求高峰而难以实现昂贵的端到端QoS时,可以使应用或其客户可以使用更高质量的(例如,更高层等)端到端服务或者可以向他们提供其他激励措施。
QoS合同可包括实时QoS投标的概念,该概念可以在由于挑选负载而无法达成若干合同的那些情况下使用。在该情况下,可能要求一些租户实时对服务水平投标,以便使用投标方案重新协商合同。因此,多个租户可以在几次迭代期间对特定资源投标,以便基于特定租户相对于其他租户(根据他们的需求)愿意支付多少来重新建立合同。
图9图示出根据示例的用于边缘计算环境中的端到端服务质量的环境900和***920的示例。***920可以提供如图6、图7和图8中所描述的特征。环境900可包括边缘云110(例如,如图1等中所描述),其包括设备905(例如,如图1中所描述的端点数据源160、如图2中所描述的各个客户端端点210、如图3中所描述的客户端计算节点310、如图4中所描述的客户端计算节点402、如图5B中所描述的连接的边缘设备562等)以及与基站相关联的边缘资源节点910(例如,如图1中所描述的基站140、如图2中所描述的第一边缘节点222或第二边缘节点224、如图3中所描述的通信基站342、如图4中所描述的一个或多个边缘网关节点412、如图5B中所描述的边缘计算节点550等)。在示例中,网络的实体可以根据按照欧洲电信标准协会(ETSI)标准提供的多访问边缘计算(MEC)标准来操作。
边缘云110可包括边缘计算***。边缘计算***可包括联网设备(例如,设备905等)、节点(例如,边缘资源节点910等)、平台等。服务器915(例如,独立服务器、云服务、容器化服务等)可以在边缘云110中的数据中心中或其他地方操作。服务器915可以执行***920。例如,服务器915可以在边缘资源节点910上执行。在示例中,***920可以是QoS资源调整引擎。***920可包括各种组件,包括度量收集器925、关键性能指标(KPI)计算器930、比较器935、资源调整选择器940、数据流调整器945和机器学习处理器950。
度量收集器925可以获得边缘计算***的设备与节点之间的当前数据流的遥测测量的集合。例如,遥测测量可以如图8(例如,操作810)中所描述的收集。在示例中,可以在当前数据流的递送的时间段期间收集遥测测量的集合。在示例中,遥测测量的集合可包括以下中的一个或多个:等待时间值、吞吐量值、帧速率或比特率。遥测测量可包括负责在边缘云110中递送服务的组件、任务、功能和微服务等的性能值。度量收集取决于应用的类型,可以更高或更低的速率(例如,更频繁、更不频繁等)进行。
KPI计算器930可以计算当前数据流的KPI。在示例中,KPI可以指示当前数据流的当前服务质量(QoS)。例如,KPI可以如图8(例如,操作815)中所描述的计算。在示例中,可使用遥测测量的集合生成任务相关联的度量的矩阵,并可使用该矩阵计算KPI。在示例中,可使用神经网络来评估遥测度量的集合,以确定KPI。该评估可以将当前数据流的遥测度量的集合映射到当前服务质量。KPI可以指示待评估的QoS的元素。例如,设备901与向设备905递送服务的边缘资源节点910之间的连接的等待时间值可以是KPI。
比较器935可以将KPI与目标KPI进行比较(例如,如图8的操作830中所描述的),以确定紧急度值。例如,紧急度值可以如图8(例如,操作825)中所描述地确定。紧急度值可以指示KPI与目标KPI之间的差,以及要多快地解决差。例如,当前等待时间KPI可以是一秒,而目标等待时间KPI可以是100毫秒,从而导致紧急度值和KPI与目标KPI之间的900毫秒的差相对应。QoS合同可以指示差可能仅在100毫秒的等待时间值处存在一分钟,并且可以调整(例如,加权等)紧急度值以反映:该差应在十秒内解决以满足QoS。在示例中,可以针对与当前数据流相对应的服务质量模型来评估与当前数据流相关联的数据流递送度量的集合,以生成目标KPI。
度量收集器925可以收集网络资源的资源质量度量的集合。例如,可以如图8(例如,操作835)中所描述收集资源质量度量的集合。在示例中,资源质量度量的集合可以随时间被收集,并且代表边缘计算***的资源的期望操作条件。在示例中,资源质量度量可包括以下一个或多个:处理器容量、带宽、加速器值或存储器分配。资源质量度量的集合可以指示设备905与服务之间的可用于递送服务的可用资源的值。例如,多个网络路由可以对能够递送服务的各种节点可用。资源质量度量的集合提供了对网络各个部分的能力的可见性。
资源调整选择器940可以与机器学习处理器950一起工作,以利用资源调整模型评估资源度量的集合,以确定可用的资源调整。例如,可用资源调整可以如图8(例如,操作840)中所述确定。例如,到各个节点的可能的网络路径的各种组合可能对于视频流的递送是可能的,并且评估可以确定可以可行地减小KPI与目标KPI之间的差的那些路径和节点。在示例中,资源调整模型可以是以下各项之一:最小最大模型、算法或仿真。
资源调整选择器940可以基于对紧急度值的期望最小化来从可用的资源调整中选择资源调整。例如,资源调整可以如图8(例如,操作845)中所述选择。例如,可以选择被确定为最有可能最大程度地减小等待时间间隔的资源调整。在示例中,可以基于紧急度值来修改所选择的资源调整的幅度。在示例中,可以为与资源调整相对应的任务相关联的节点标识可用的资源值。可以将可用资源值与由可用资源调整指定的资源值进行比较,并且可以至少部分地基于与资源调整的资源值兼容的可用资源值来选择资源调整。
数据流调整器945可以使用所选择的资源调整来修改当前数据流的递送。例如,数据流递送可以如图8(例如,操作850)中所描述调整。例如,资源调整可包括由设备905请求的具有较低等待时间值的视频流的路由改变,并且实况视频流的当前流可以被转移到新的路由。在示例中,可以标识与作为资源调整的主体的资源相对应的服务,并且可以基于紧急度值来确定资源调整的调整值。当前数据流的递送的修改可包括将命令发送到服务的服务提供商,以基于调整值来修改当前数据流的处理。
可以评估附加的KPI,并且可以进行附加的资源调整来调整数据流的递送,以将数据流收敛到QoS合同的目标KPI。因此,可以评估服务递送的当前时间段和未来时间段的附加遍历,以确保服务的正在进行递送以满足QoS目标。
图10图示出根据示例的用于边缘计算环境中的端到端服务质量的方法1000的示例。方法1000可以提供如图6、7、8和9中所描述的特征。
可以(例如,在操作1005处)(例如,通过图9中描述的度量收集器925等)获得边缘计算***的设备与节点之间的当前数据流的遥测测量的集合。在示例中,可以在当前数据流的递送的时间段期间收集遥测测量的集合。在示例中,遥测测量的集合可包括以下中的一个或多个:等待时间值、吞吐量值、帧速率或比特率。
(例如,在操作1010处)可(例如,通过如图9中所描述的KPI计算器930等)计算当前数据流的关键性能指标(KPI)。在示例中,KPI可以指示当前数据流的当前服务质量(QoS)。在示例中,可以使用遥测测量的集合来生成与任务相关联的度量的矩阵,并且可以使用该矩阵来计算KPI。在示例中,可以使用神经网络来评估遥测度量的集合以确定KPI。评估可以将当前数据流的遥测度量的集合映射到当前服务质量。
(例如,在操作1015处)可以(例如,通过如图9中所描述的比较器935等)将KPI与目标KPI进行比较以确定紧急度值。在示例中,可以针对与当前数据流相对应的服务质量模型来评估与当前数据流相关联的数据流递送度量的集合,以生成目标KPI。
(例如,在操作1020处)可以(例如,通过如图9中所描述的度量收集器925等)收集网络资源的资源质量度量的集合。在示例中,资源质量度量的集合可以随时间被收集,并且代表边缘计算***的资源的期望操作条件。在示例中,资源质量度量可包括以下一个或多个:处理器容器、带宽、加速度值或存储器分配。
(例如,在操作1025处)可以(例如,通过图9中所描述的资源调整选择器940结合机器学习处理器950等)利用资源调整模型来评估资源度量的集合,以确定可用的资源调整。在示例中,资源调整模型可以是以下各项之一:最小最大模型、算法或仿真。
(例如,在操作1030处)可以(例如,通过如图9中所描述的资源调整选择器940等)基于紧急度值的期望最小化来从可用的资源调整中选择资源调整。在示例中,可以基于紧急度值来修改所选择的资源调整的幅度。在示例中,可以为与资源调整相对应的任务相关联的节点标识可用资源值。可以将可用资源值与由可用资源调整指定的资源值进行比较,并且可以至少部分地基于与资源调整的资源值兼容的可用资源值来选择资源调整。
(例如,在操作1035处)可以(例如,通过如图9中所描述的数据流调整器945等)使用所选择的资源调整来修改当前数据流的递送。在示例中,可以标识与作为资源调整的主体的资源相对应的服务,并且可以基于紧急度值来确定资源调整的调整值。当前数据流的递送的修改可包括将命令发送到服务的服务提供商,以基于调整值来修改当前数据流的处理。
附加注释和示例
示例1是一种用于边缘计算***的网络中的端到端质量数据流管理的方法,包括:获得边缘计算***的设备与节点之间的正在进行的数据流的遥测测量的集合;计算正在进行的数据流的当前关键性能指标(KPI);将当前KPI与目标KPI进行比较以确定紧急度值;收集网络资源的资源质量度量的集合;利用资源调整模型评估资源质量度量的集合,以确定可用的资源调整;基于对紧急度值的期望最小化,来从可用的资源调整中选择资源调整;以及使用所选择的资源调整来修改正在进行的数据流的递送。
在示例2中,示例1的主题包括,其中方法在客户端设备中实现。
在示例3中,示例1-2的主题包括,其中方法在边缘计算节点中实现。
在示例4中,示例1-3的主题包括,其中方法在网络上执行的服务中实现。
在示例5中,示例1-4的主题包括,其中在正在进行的数据流的递送时间段期间收集遥测测量的集合,其中该遥测测量的集合中的每个遥测测量都是当前数据流的递送组件的性能指标。
在示例6中,示例1-5的主题包括,其中当前KPI指示正在进行的数据流的当前服务水平目标(SLO)。
在示例7中,示例1-6的主题包括,基于紧急度值来修改所选择的资源调整的幅度。
在示例8中,示例1-7的主题包括,其中资源调整模型是以下各项之一:最小最大模型、算法或仿真。
在示例9中,示例1-8的主题包括,标识与作为资源调整的主体的资源相对应的服务;以及基于紧急度值来确定资源调整的调整值,其中修改正在进行的数据流的递送包括:向服务的服务提供商发送命令,以基于调整值来修改正在进行的数据流的处理。
在示例10中,示例1-9的主题包括,使用遥测测量的集合生成与任务相关的度量的矩阵,其中使用该矩阵计算当前KPI。
在示例11中,示例1-10的主题包括,根据与正在进行的数据流相对应的服务质量模型来评估与正在进行的数据流相关联的数据流递送度量的集合,以生成目标KPI。
在示例12中,示例1-11的主题包括,使用神经网络评估遥测度量的集合以确定当前KPI,其中评估将正在进行的数据流的遥测度量的集合映射到当前服务质量。
在示例13中,示例1-12的主题包括,其中从可用的资源调整中选择资源调整进一步包括:标识与和资源调整相对应的任务相关联的节点的可用的资源值;将可用的资源值与由可用的资源调整指定的资源值进行比较;以及至少部分地基于与资源调整的资源值兼容的可用的资源值来选择资源调整。
在示例14中,示例1-13的主题包括,其中资源质量度量的集合随时间被收集并表示网络资源的期望操作条件。
在示例15中,示例1-14的主题包括,其中遥测测量的集合包括以下中的一个或多个:等待时间值、吞吐量值、帧速率或比特率。
在示例16中,示例1-15的主题包括,其中资源质量度量包括以下中的一个或多个:处理器容量、带宽、加速器值或存储器分配。
示例17是至少一个机器可读介质,其包括指令或存储的数据,所述指令或存储的数据可被配置成在被机器执行时、使机器执行示例1-16中的任一方法的指令。
示例18是一种***,其包括用于执行示例1-16中的任一方法的装置。
示例19是一种用于边缘计算***的网络中的端到端质量数据流管理的***,包括:至少一个处理器;以及包括指令的存储器,该指令在由该至少一个处理器执行时使该至少一个处理器执行以下操作:获得边缘计算***的设备与节点之间的正在进行的数据流的遥测测量的集合;计算正在进行的数据流的当前关键性能指标(KPI);将当前KPI与目标KPI进行比较以确定紧急度值;收集网络资源的资源质量度量的集合;利用资源调整模型评估资源质量度量的集合,以确定可用的资源调整;基于对紧急度值的期望最小化,来从可用的资源调整中选择资源调整;以及使用所选择的资源调整来修改正在进行的数据流的递送。
在示例20中,示例19的主题包括,其中遥测测量的集合是在正在进行的数据流的递送的时间段期间收集的,其中该遥测测量的集合中的每个遥测测量都是当前数据流的递送组件的性能指标。
在示例21中,示例19-20的主题包括,其中当前KPI指示正在进行的数据流的当前服务水平目标(SLO)。
在示例22中,示例19-21的主题包括,存储器进一步包括使至少一个处理器基于紧急度值来修改所选择的资源调整的幅度的指令。
在示例23中,示例19-22的主题包括,其中资源调整模型是以下各项之一:最小最大模型、算法或仿真。
在示例24中,示例19-23的主题包括,存储器进一步包括使至少一个处理器执行以下操作的指令:标识与作为资源调整的主体的资源相对应的服务;以及基于紧急度值来确定资源调整的调整值,其中修改正在进行的数据流的递送包括:向服务的服务提供商发送命令,以基于调整值来修改正在进行的数据流的处理。
在示例25中,示例19-24的主题包括,存储器进一步包括指令,该指令使至少一个处理器用于:使用遥测测量的集合生成与任务相关的度量的矩阵,其中使用该矩阵计算当前KPI。
在示例26中,示例19-25的主题包括,存储器进一步包括指令,该指令使至少一个处理器用于:根据与正在进行的数据流相对应的服务质量模型来评估与正在进行的数据流相关联的数据流递送度量的集合,以生成目标KPI。
在示例27中,示例19-26的主题包括,存储器进一步包括指令,该指令使至少一个处理器用于:使用神经网络评估遥测度量的集合以确定当前KPI,其中评估将正在进行的数据流的遥测度量的集合映射到当前服务质量。
在示例28中,示例19-27的主题包括,其中用于从可用的资源调整中选择资源调整的指令进一步包括使至少一个处理器执行以下操作的指令:标识与和资源调整相对应的任务相关联的节点的可用的资源值;将可用的资源值与由可用的资源调整指定的资源值进行比较;以及至少部分地基于与资源调整的资源值兼容的可用的资源值来选择资源调整。
在示例29中,示例19-28的主题包括,其中资源质量度量的集合随时间被收集并表示网络资源的期望操作条件。
在示例30中,示例19-29的主题包括,其中遥测测量的集合包括以下中的一个或多个:等待时间值、吞吐量值、帧速率或比特率。
在示例31中,示例19-30的主题包括,其中资源质量度量包括以下中的一个或多个:处理器容量、带宽、加速器值或存储器分配。
示例32是至少一种非暂态机器可读介质,包括用于边缘计算***的网络中的端到端质量数据流管理的指令,该指令在由至少一个处理器执行时,使得至少一个处理器执行以下操作:获得边缘计算***的设备与节点之间的正在进行的数据流的遥测测量的集合;计算正在进行的数据流的当前关键性能指标(KPI);将当前KPI与目标KPI进行比较以确定紧急度值;收集网络资源的资源质量度量的集合;利用资源调整模型评估资源质量度量的集合,以确定可用的资源调整;基于对紧急度值的期望最小化,来从可用的资源调整中选择资源调整;以及使用所选择的资源调整来修改正在进行的数据流的递送。
在示例33中,示例32的主题包括,其中在正在进行的数据流的递送时间段期间收集遥测测量的集合,其中该遥测测量的集合中的每个遥测测量都是当前数据流的递送组件的性能指标。
在示例34中,示例32-33的主题包括,其中当前KPI指示正在进行的数据流的当前服务水平目标(SLO)。
在示例35中,示例32-34的主题包括,指令使至少一个处理器用于基于紧急度值来修改所选择的资源调整的幅度。
在示例36中,示例32-35的主题包括,其中资源调整模型是以下各项之一:最小最大模型、算法或仿真。
在示例37中,示例32-36的主题包括,指令使至少一个处理器执行以下操作:标识与作为资源调整的主体的资源相对应的服务;以及基于紧急度值来确定资源调整的调整值,其中修改正在进行的数据流的递送包括:向服务的服务提供商发送命令,以基于调整值来修改正在进行的数据流的处理。
在示例38中,示例32-37的主题包括,指令使至少一个处理器用于使用遥测测量的集合生成与任务相关的度量的矩阵,其中使用该矩阵计算当前KPI。
在示例39中,示例32-38的主题包括,指令使至少一个处理器用于根据与正在进行的数据流相对应的服务质量模型来评估与正在进行的数据流相关联的数据流递送度量的集合,以生成目标KPI。
在示例40中,示例32-39的主题包括,指令使至少一个处理器用于使用神经网络评估遥测度量的集合以确定当前KPI,其中评估将正在进行的数据流的遥测度量的集合映射到当前服务质量。
在示例41中,示例32-40的主题包括,其中用于从可用的资源调整中选择资源调整的指令进一步包括使至少一个处理器执行以下操作的指令:标识与和资源调整相对应的任务相关联的节点的可用的资源值;将可用的资源值与由可用的资源调整指定的资源值进行比较;以及至少部分地基于与资源调整的资源值兼容的可用的资源值来选择资源调整。
在示例42中,示例32-41的主题包括,其中资源质量度量的集合随时间被收集并表示网络资源的期望操作条件。
在示例43中,示例32-42的主题包括,其中遥测测量的集合包括以下中的一个或多个:等待时间值、吞吐量值、帧速率或比特率。
在示例44中,示例32-43的主题包括,其中资源质量度量包括以下中的一个或多个:处理器容量、带宽、加速器值或存储器分配。
示例45是一种用于边缘计算***的网络中的端到端质量数据流管理的***,包括:用于获得边缘计算***的设备与节点之间的正在进行的数据流的遥测测量的集合的装置;用于计算正在进行的数据流的当前关键性能指标(KPI)的装置;用于将当前KPI与目标KPI进行比较以确定紧急度值的装置;用于收集网络资源的资源质量度量的集合的装置;用于利用资源调整模型评估资源质量度量的集合,以确定可用的资源调整的装置;用于基于对紧急度值的期望最小化,来从可用的资源调整中选择资源调整的装置;以及用于使用所选择的资源调整来修改正在进行的数据流的递送的装置。
在示例46中,示例45的主题包括,其中在正在进行的数据流的递送时间段期间收集遥测测量的集合,其中该遥测测量的集合中的每个遥测测量都是当前数据流的递送组件的性能指标。
在示例47中,示例45-46的主题包括,其中当前KPI指示正在进行的数据流的当前服务水平目标(SLO)。
在示例48中,示例45-47的主题包括,用于基于紧急度值来修改所选择的资源调整的幅度的装置。
在示例49中,示例45-48的主题包括,其中资源调整模型是以下各项之一:最小最大模型、算法或仿真。
在示例50中,示例45-49的主题包括,用于标识与作为资源调整的主体的资源相对应的服务的装置;以及用于基于紧急度值来确定资源调整的调整值的装置,其中用于修改正在进行的数据流的递送的装置包括:用于向服务的服务提供商发送命令,以基于调整值来修改正在进行的数据流的处理的装置。
在示例51中,示例45-50的主题包括,用于使用遥测测量的集合生成与任务相关的度量的矩阵的装置,其中使用该矩阵计算当前KPI。
在示例52中,示例45-51的主题包括,用于根据与正在进行的数据流相对应的服务质量模型来评估与正在进行的数据流相关联的数据流递送度量的集合,以生成目标KPI的装置。
在示例53中,示例45-52的主题包括,用于使用神经网络评估遥测度量的集合以确定当前KPI的装置,其中评估将正在进行的数据流的遥测度量的集合映射到当前服务质量。
在示例54中,示例45-53的主题包括,其中用于从可用的资源调整中选择资源调整的装置进一步包括:用于标识与和资源调整相对应的任务相关联的节点的可用的资源值的装置;用于将可用的资源值与由可用的资源调整指定的资源值进行比较的装置;以及用于至少部分地基于与资源调整的资源值兼容的可用的资源值来选择资源调整的装置。
在示例55中,示例45-54的主题包括,其中资源质量度量的集合随时间被收集并表示网络资源的期望操作条件。
在示例56中,示例45-55的主题包括,其中遥测测量的集合包括以下中的一个或多个:等待时间值、吞吐量值、帧速率或比特率。
在示例57中,示例45-56的主题包括,其中资源质量度量包括以下中的一个或多个:处理器容量、带宽、加速器值或存储器分配。
示例58可包括一种或多种计算机可读存储介质,包括数据,在由电子设备的一个或多个处理器或电子电路***加载、执行、配置或提供这些数据时使得该电子设备执行示例1-57中任一项中所描述的或与示例1-57中的任一项有关的方法、或本文所描述的其他方法或过程的一个或多个要素。
示例59是一种设备,包括用于实现示例1-57中的任一项的装置。
示例60是一种用于实现示例1-57中的任一项的***。
示例61是一种用于实现示例1-57中的任一项的方法。
以上具体实施方式包括对附图的引用,附图形成具体实施方式的部分。附图通过说明方式示出可被实施的具体实施例。这些实施例在本文中也被称为“示例”。此类示例可包括除所示出或所描述的那些要素以外的要素。然而,本申请发明人还构想了其中只提供所示出或所描述的那些要素的示例。另外,本申请发明人还构想了相对于本文中所示出或所描述的特定示例(或者其一个或多个方面)或者相对于本文中所示出或所描述的其他示例(或者其一个或多个方面)使用所示出或所描述的那些要素(或者其一个或多个方面)的任何组合或排列的示例。
本文档中所涉及的所有公开、专利和专利文档通过引用整体结合于此,如通过引用单独地结合。在本文档和通过引用所结合的那些文档之间的不一致的用法的情况下,在结合的(多个)引用中的用法应当被认为是对本文档的用法的补充;对于不可调和的不一致,以本文档中的用法为准。
在此文档中,如在专利文档中常见的那样,使用术语“一(a或an)”以包括一个或多于一个,这独立于“至少一个”或“一个或多个”的任何其他实例或用法。在此文档中,除非另外指示,否则使用术语“或”来指非排他性的或,使得“A或B”包括“A但非B”、“B但非A”、以及“A和B”。在所附权利要求书中,术语“包括(including)”和“其中(in which)”被用作相应的术语“包含(comprising)”和“其中(wherein)”的普通英语等价词。此外,在所附权利要求书中,术语“包括”和“包含”是开放式的,也就是说,在权利要求中包括除此类术语之后列举的那些要素之外的要素的***、设备、制品或过程仍被视为落在那项权利要求的范围内。此外,在所附权利要求书中,术语“第一”、“第二”、“第三”等仅用作标记,而不旨在对它们的对象施加数值要求。
以上描述旨在是说明性而非限制性的。例如,以上所描述的示例(或者其一个或多个方面)可彼此组合使用。诸如可由本领域普通技术人员在仔细阅读以上描述之后使用其他实施例。摘要用于允许读者快速地确认本技术公开的性质,并且提交此摘要需理解:它不用于解释或限制权利要求书的范围或含义。而且,在以上具体实施方式中,各种特征可分组在一起以使本公开精简。但这不应被解释为意指未要求保护的所公开特征对任何权利要求而言都是必要的。相反,发明性主题可在于少于特定的所公开实施例的所有特征。因此,所附权利要求由此被并入具体实施方式中,其中每项权利要求独立成为单独实施例。各实施例的范围应当参考所附权利要求连同这些权利要求赋予的等效方案的全部范围而确定。
Claims (25)
1.一种用于边缘计算***的网络中的端到端质量数据流管理的方法,包括:
至少一个处理器;以及
存储器,包括指令,所述指令在由所述至少一个处理器执行时使得所述至少一个处理器执行以下操作:
获得所述边缘计算***的设备与节点之间的正在进行的数据流的遥测测量的集合;
计算所述正在进行的数据流的当前关键性能指标KPI;
将当前KPI与目标KPI进行比较以确定紧急度值;
收集网络资源的资源质量度量的集合;
利用资源调整模型评估所述资源质量度量的集合,以确定可用的资源调整;
基于对所述紧急度值的期望最小化,来从所述可用的资源调整中选择资源调整;以及
使用所选择的资源调整来修改所述正在进行的数据流的递送。
2.如权利要求1所述的***,其中在所述正在进行的数据流的递送时间段期间收集遥测测量的集合,其中所述遥测测量的集合中的每个遥测测量都是当前数据流的递送组件的性能指标。
3.如权利要求1所述的***,其中所述当前KPI指示所述正在进行的数据流的当前服务水平目标SLO。
4.如权利要求1所述的***,所述存储器进一步包括指令,所述指令使所述至少一个处理器用于基于所述紧急度值来修改所选择的资源调整的幅度。
5.如权利要求1所述的***,其中所述资源调整模型是以下中的一项:最小最大模型、算法或仿真。
6.如权利要求1所述的***,所述存储器进一步包括使得所述至少一个处理器执行以下操作的指令:
标识与作为资源调整的主体的资源相对应的服务;以及
基于所述紧急度值来确定资源调整的调整值,其中修改所述正在进行的数据流的递送包括:向所述服务的服务提供商发送命令,以基于所述调整值来修改正在进行的数据流的处理。
7.如权利要求1所述的***,所述存储器进一步包括指令,所述指令使得所述至少一个处理器用于使用遥测测量的集合生成与任务相关的度量的矩阵,其中使用所述矩阵计算当前KPI。
8.如权利要求1所述的***,所述存储器进一步包括指令,所述指令使得所述至少一个处理器用于根据与正在进行的数据流相对应的服务质量模型来评估与正在进行的数据流相关联的数据流递送度量的集合,以生成目标KPI。
9.如权利要求1所述的***,所述存储器进一步包括指令,所述指令使得所述至少一个处理器用于使用神经网络评估遥测度量的集合以确定当前KPI,其中评估将正在进行的数据流的遥测度量的集合映射到当前服务质量。
10.如权利要求1所述的***,其中用于从可用的资源调整中选择资源调整的指令进一步包括用于使所述至少一个处理器执行以下操作的指令:
标识与和资源调整相对应的任务相关联的节点的可用的资源值;
将所述可用的资源值与由可用的资源调整指定的资源值进行比较;以及
至少部分地基于与资源调整的资源值兼容的可用的资源值来选择资源调整。
11.如权利要求1所述的***,其中所述资源质量度量的集合随时间被收集,并且代表网络资源的期望操作条件。
12.如权利要求1所述的***,其中所述遥测测量的集合可包括以下中的一个或多个:等待时间值、吞吐量值、帧速率或比特率。
13.如权利要求1所述的***,其中所述资源质量度量可包括以下一个或多个:处理器容量、带宽、加速器值或存储器分配。
14.一种用于边缘计算***的网络中的端到端质量数据流管理的方法,包括:
获得所述边缘计算***的设备与节点之间的正在进行的数据流的遥测测量的集合;
计算所述正在进行的数据流的当前关键性能指标KPI;
将当前KPI与目标KPI进行比较以确定紧急度值;
收集网络资源的资源质量度量的集合;
利用资源调整模型评估所述资源质量度量的集合,以确定可用的资源调整;
基于对所述紧急度值的期望最小化,来从所述可用的资源调整中选择资源调整;以及
使用所选择的资源调整来修改所述正在进行的数据流的递送。
15.如权利要求14所述的方法,其中在所述正在进行的数据流的递送时间段期间收集遥测测量的集合,其中所述遥测测量的集合中的每个遥测测量都是当前数据流的递送组件的性能指标。
16.如权利要求14所述的方法,进一步包括基于所述紧急度值来修改所选择的资源调整的幅度。
17.如权利要求14所述的方法,进一步包括:
标识与作为资源调整的主体的资源相对应的服务;以及
基于所述紧急度值来确定资源调整的调整值,其中修改所述正在进行的数据流的递送包括:向所述服务的服务提供商发送命令,以基于所述调整值来修改所述正在进行的数据流的处理。
18.如权利要求14所述的方法,进一步包括使用遥测测量的集合生成与任务相关的度量的矩阵,其中使用所述矩阵计算当前KPI。
19.如权利要求14所述的方法,进一步包括根据与所述正在进行的数据流相对应的服务质量模型来评估与所述正在进行的数据流相关联的数据流递送度量的集合,以生成目标KPI。
20.如权利要求14所述的方法,进一步包括使用神经网络评估遥测度量的集合以确定当前KPI,其中评估将所述正在进行的数据流的遥测度量的集合映射到当前服务质量。
21.如权利要求14所述的方法,其中从所述可用的资源调整中选择资源调整进一步包括:
标识与和资源调整相对应的任务相关联的节点的可用的资源值;
将所述可用的资源值与由可用的资源调整指定的资源值进行比较;以及
至少部分地基于与资源调整的资源值兼容的可用的资源值来选择资源调整。
22.如权利要求14所述的方法,其中所述资源质量度量的集合随时间被收集,并且代表网络资源的期望操作条件。
23.如权利要求14所述的***,其中所述遥测测量的集合可包括以下中的一个或多个:等待时间值、吞吐量值、帧速率或比特率。
24.如权利要求14所述的***,其中所述资源质量度量可包括以下一个或多个:处理器容量、带宽、加速器值或存储器分配。
25.至少一种机器可读介质,包括指令,所述指令在被机器执行时,使所述机器执行如权利要求14-24中任一项所述的方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/722,740 US11146455B2 (en) | 2019-12-20 | 2019-12-20 | End-to-end quality of service in edge computing environments |
US16/722,740 | 2019-12-20 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113014415A true CN113014415A (zh) | 2021-06-22 |
Family
ID=70326132
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010941699.7A Pending CN113014415A (zh) | 2019-12-20 | 2020-09-09 | 边缘计算环境中的端到端服务质量 |
Country Status (4)
Country | Link |
---|---|
US (2) | US11146455B2 (zh) |
KR (1) | KR20210081227A (zh) |
CN (1) | CN113014415A (zh) |
DE (1) | DE102020125219A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113596146A (zh) * | 2021-07-27 | 2021-11-02 | 彭亮 | 一种基于大数据的资源调度的方法及装置 |
US11539596B2 (en) | 2019-12-20 | 2022-12-27 | Intel Corporation | End-to-end quality of service in edge computing environments |
CN117331795A (zh) * | 2023-12-01 | 2024-01-02 | 南京研利科技有限公司 | 服务指标计算方法与*** |
Families Citing this family (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10908828B1 (en) * | 2019-07-25 | 2021-02-02 | EMC IP Holding Company LLC | Enhanced quality of service (QoS) for multiple simultaneous replication sessions in a replication setup |
US11284288B2 (en) * | 2019-12-31 | 2022-03-22 | Celona, Inc. | Method and apparatus for microslicing wireless communication networks with device groups, service level objectives, and load/admission control |
US11582757B2 (en) * | 2020-02-26 | 2023-02-14 | At&T Iniellectual Property I, L.P. | Facilitation of radio access network intelligent controller resource preservation framework for 5G or other next generation network |
US11301288B2 (en) * | 2020-05-08 | 2022-04-12 | T-Mobile Usa, Inc. | Container management based on application performance indicators |
CN111679821B (zh) * | 2020-05-24 | 2021-05-14 | 杭州云徙科技有限公司 | 一种基于微服务的中台***及软件定义中台***构建方法 |
CN111813539B (zh) * | 2020-05-29 | 2024-06-28 | 西安交通大学 | 一种基于优先级与协作的边缘计算资源分配方法 |
CN111800477B (zh) * | 2020-06-15 | 2022-09-23 | 浙江理工大学 | 一种面向边缘计算数据质量感知的区别化激励方法 |
CN111866887B (zh) * | 2020-06-22 | 2022-08-02 | 北京邮电大学 | 一种车载网络中通信、缓存和计算资源联合优化方法 |
US11533217B2 (en) | 2020-07-31 | 2022-12-20 | Hewlett Packard Enterprise Development Lp | Systems and methods for predictive assurance |
NL2026456B1 (en) * | 2020-09-11 | 2022-05-12 | Microsoft Technology Licensing Llc | Automatic node fungibility between compute and infrastructure nodes in edge zones |
CN112702382A (zh) * | 2020-09-17 | 2021-04-23 | 宁波市永能电力产业投资有限公司电力工程安装分公司 | 一种变电站施工用移动边缘计算节点的方法 |
US20210021484A1 (en) * | 2020-09-25 | 2021-01-21 | Intel Corporation | Methods and apparatus to schedule workloads based on secure edge to device telemetry |
US11645111B2 (en) * | 2020-10-23 | 2023-05-09 | International Business Machines Corporation | Managing task flow in edge computing environment |
US11645109B2 (en) | 2020-10-25 | 2023-05-09 | International Business Machines Corporation | Managing failures in edge computing environments |
US11700178B2 (en) * | 2020-10-30 | 2023-07-11 | Nutanix, Inc. | System and method for managing clusters in an edge network |
US11374807B2 (en) | 2020-10-30 | 2022-06-28 | Nutanix, Inc. | Handling dynamic command execution in hybrid cloud environments |
CN114513506A (zh) * | 2020-11-17 | 2022-05-17 | 中国联合网络通信集团有限公司 | 业务处理方法、接入边缘云服务器及业务处理*** |
US11516087B2 (en) * | 2020-11-30 | 2022-11-29 | Google Llc | Connecting processors using twisted torus configurations |
CN113391907A (zh) * | 2021-06-25 | 2021-09-14 | 中债金科信息技术有限公司 | 一种任务的放置方法、装置、设备和介质 |
US20230033818A1 (en) * | 2021-07-30 | 2023-02-02 | International Business Machines Corporation | Edge function-guided artifical intelligence request routing |
CN113795026B (zh) * | 2021-08-02 | 2022-07-15 | 西安电子科技大学 | 边缘计算网络中计算卸载的认证安全级别和资源优化方法 |
CN115309605A (zh) * | 2021-08-03 | 2022-11-08 | 贵州安禾晟达企业管理有限公司 | 一种基于大数据的异常监测的方法及装置 |
US11610478B2 (en) * | 2021-08-09 | 2023-03-21 | Peltbeam Inc. | Communication system and method for controlling cooperation between edge devices arranged in vehicle |
US20230058310A1 (en) * | 2021-08-19 | 2023-02-23 | Sterlite Technologies Limited | Method and system for deploying intelligent edge cluster model |
KR102563329B1 (ko) * | 2021-09-01 | 2023-08-03 | 고려대학교 산학협력단 | 컨테이너에 대한 리소스 간 의존성 스케줄링 방법 및 이를 수행하는 네트워크 시스템 |
CN118020277A (zh) * | 2021-10-01 | 2024-05-10 | 瑞典爱立信有限公司 | 用于服务质量分析的方法和装置 |
US20230195373A1 (en) * | 2021-12-20 | 2023-06-22 | Pure Storage, Inc. | Containerized Application Deployment Across Clusters |
US12047253B2 (en) | 2022-02-11 | 2024-07-23 | Nutanix, Inc. | System and method to provide priority based quality of service for telemetry data |
US11765065B1 (en) | 2022-03-23 | 2023-09-19 | Nutanix, Inc. | System and method for scalable telemetry |
CN115134364B (zh) * | 2022-06-28 | 2023-06-16 | 西华大学 | 基于o-ran物联网***的节能计算卸载***及方法 |
WO2024005562A1 (en) * | 2022-07-01 | 2024-01-04 | Samsung Electronics Co., Ltd. | Embedding neural networks as a matrix for network device in wireless network |
US12047254B2 (en) | 2022-08-19 | 2024-07-23 | Kyndryl, Inc. | Risk mitigation in service level agreements |
CN118233521A (zh) * | 2022-12-21 | 2024-06-21 | 中兴通讯股份有限公司 | 服务资源的调度方法及装置 |
CN116362526B (zh) * | 2023-06-01 | 2023-08-11 | 广州健新科技有限责任公司 | 一种用于数字化电厂的云边协同资源管控方法及*** |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8140666B2 (en) * | 2007-03-29 | 2012-03-20 | International Business Machines Corporation | Method and apparatus for network distribution and provisioning of applications across multiple domains |
US7852849B2 (en) * | 2008-03-04 | 2010-12-14 | Bridgewater Systems Corp. | Providing dynamic quality of service for virtual private networks |
US8787388B1 (en) * | 2011-08-29 | 2014-07-22 | Big Switch Networks, Inc. | System and methods for forwarding packets through a network |
US10642800B2 (en) | 2013-10-25 | 2020-05-05 | Vmware, Inc. | Multi-tenant distributed computing and database |
US20170245179A1 (en) * | 2016-02-23 | 2017-08-24 | Huawei Technologies Co., Ltd. | Method and Apparatus for Dynamic Backhaul Resource Allocation in a Radio Access Network |
WO2018144060A1 (en) | 2017-02-05 | 2018-08-09 | Intel Corporation | Microservice provision and management |
CN109154883A (zh) * | 2017-03-22 | 2019-01-04 | 波利伍德有限责任公司 | 驱动级内部服务质量 |
US10785124B2 (en) * | 2017-08-17 | 2020-09-22 | Facebook, Inc. | Network planning with availability guarantees |
US11507430B2 (en) * | 2018-09-27 | 2022-11-22 | Intel Corporation | Accelerated resource allocation techniques |
US11165677B2 (en) * | 2018-10-18 | 2021-11-02 | At&T Intellectual Property I, L.P. | Packet network performance monitoring |
US11146455B2 (en) | 2019-12-20 | 2021-10-12 | Intel Corporation | End-to-end quality of service in edge computing environments |
-
2019
- 2019-12-20 US US16/722,740 patent/US11146455B2/en active Active
-
2020
- 2020-09-09 CN CN202010941699.7A patent/CN113014415A/zh active Pending
- 2020-09-22 KR KR1020200122121A patent/KR20210081227A/ko unknown
- 2020-09-28 DE DE102020125219.6A patent/DE102020125219A1/de active Pending
-
2021
- 2021-10-05 US US17/494,511 patent/US11539596B2/en active Active
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11539596B2 (en) | 2019-12-20 | 2022-12-27 | Intel Corporation | End-to-end quality of service in edge computing environments |
CN113596146A (zh) * | 2021-07-27 | 2021-11-02 | 彭亮 | 一种基于大数据的资源调度的方法及装置 |
CN117331795A (zh) * | 2023-12-01 | 2024-01-02 | 南京研利科技有限公司 | 服务指标计算方法与*** |
CN117331795B (zh) * | 2023-12-01 | 2024-01-26 | 南京研利科技有限公司 | 服务指标计算方法与*** |
Also Published As
Publication number | Publication date |
---|---|
US20220182291A1 (en) | 2022-06-09 |
US11146455B2 (en) | 2021-10-12 |
US20200136920A1 (en) | 2020-04-30 |
US11539596B2 (en) | 2022-12-27 |
KR20210081227A (ko) | 2021-07-01 |
DE102020125219A1 (de) | 2021-06-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11539596B2 (en) | End-to-end quality of service in edge computing environments | |
US11768705B2 (en) | Automatic localization of acceleration in edge computing environments | |
US11374776B2 (en) | Adaptive dataflow transformation in edge computing environments | |
US11218546B2 (en) | Computer-readable storage medium, an apparatus and a method to select access layer devices to deliver services to clients in an edge computing system | |
US20210014114A1 (en) | Methods, apparatus, and articles of manufacture for workload placement in an edge environment | |
US11630706B2 (en) | Adaptive limited-duration edge resource management | |
US20210014113A1 (en) | Orchestration of meshes | |
EP3998720A2 (en) | Orchestrator execution planning using a distributed ledger | |
US12041177B2 (en) | Methods, apparatus and systems to share compute resources among edge compute nodes using an overlay manager | |
WO2021247448A1 (en) | Federated learning optimizations | |
CN115373795A (zh) | 基于地理围栏的边缘服务控制和认证 | |
WO2021026481A1 (en) | Methods, systems, articles of manufacture and apparatus to improve job scheduling efficiency | |
US20210021484A1 (en) | Methods and apparatus to schedule workloads based on secure edge to device telemetry | |
US20220014566A1 (en) | Network supported low latency security-based orchestration | |
KR20220065670A (ko) | 에지 네트워킹을 이용한 확장 피어-투-피어(p2p) | |
US20210014301A1 (en) | Methods and apparatus to select a location of execution of a computation | |
US20210327018A1 (en) | Morphing computer vision pipeline | |
US20230119552A1 (en) | Resource management mechanisms for stateful serverless clusters in edge computing | |
JP2023004857A (ja) | ネットワークフローベースのハードウェア割り当て | |
JP2023004860A (ja) | 機械学習モデルの一部の実行をオフロードする方法及び機器 | |
US20220224762A1 (en) | Queuing control for distributed compute network orchestration | |
US20210119935A1 (en) | Objective driven orchestration | |
CN117121006A (zh) | 用于机密计算的证明即服务 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |