TW202131661A - 用於網路最佳化的裝置及方法、以及非暫時性電腦可讀媒體 - Google Patents
用於網路最佳化的裝置及方法、以及非暫時性電腦可讀媒體 Download PDFInfo
- Publication number
- TW202131661A TW202131661A TW110105045A TW110105045A TW202131661A TW 202131661 A TW202131661 A TW 202131661A TW 110105045 A TW110105045 A TW 110105045A TW 110105045 A TW110105045 A TW 110105045A TW 202131661 A TW202131661 A TW 202131661A
- Authority
- TW
- Taiwan
- Prior art keywords
- data center
- network
- workload
- edge
- data
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/63—Routing a service request depending on the request content or context
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0852—Delays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
- H04L41/0823—Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/147—Network analysis or design for predicting network behaviour
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/16—Threshold monitoring
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/12—Avoiding congestion; Recovering from congestion
- H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/28—Flow control; Congestion control in relation to timing considerations
- H04L47/283—Flow control; Congestion control in relation to timing considerations in response to processing delays, e.g. caused by jitter or round trip time [RTT]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/51—Discovery or management thereof, e.g. service location protocol [SLP] or web services
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/62—Establishing a time schedule for servicing the requests
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/45591—Monitoring or debugging support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/12—Computing arrangements based on biological models using genetic models
- G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/145—Network analysis or design involving simulating, designing, planning or modelling of a network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/40—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using virtualisation of network functions or resources, e.g. SDN or NFV entities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/70—Routing based on monitoring results
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/31—Flow control; Congestion control by tagging of packets, e.g. using discard eligibility [DE] bits
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Databases & Information Systems (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Computer Hardware Design (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Environmental & Geological Engineering (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本揭露提供用於潛時感知邊緣計算以最佳化網路訊務的系統、方法以及設備。一種方法可包含:判定與網路架構相關聯的網路參數,網路架構包括資料中心及邊緣資料中心;使用網路參數來判定與資料中心相關聯的第一程式化期望潛時及與邊緣資料中心相關聯的第二程式化期望潛時;以及至少部分地基於第一程式化期望潛時或第二程式化期望潛時之間的差值來判定待路由傳送於資料中心與邊緣資料中心之間的工作負荷的分佈。
Description
本發明大體上是關於邊緣計算,且更具體言之是關於用於潛時感知邊緣計算的系統及方法。
近年來,物聯網(Internet of Things;IoT)及第五代(fifth generation;5G)裝置及技術已在各種消費型應用程式、商業應用程式、工業應用程式以及基礎設施應用程式中獲得顯著地位。隨著行動資料訊務增長且無線裝置變得更加充足且多樣化,運行使用此類協定的網路及/或IoT及5G裝置的服務供應商可能面對明顯負擔。因此,IoT及5G通信表示自雲端計算平台逐漸遷移至邊緣計算平台的一些計算平台。
此背景技術章節中所揭露的上述資訊僅用於增強對本揭露的背景的理解,且因此其可含有未構成先前技術的資訊。
在各種實施例中,本文中所述包含用於基於與網路架構的不同部分相關聯的網路參數模型(例如,潛時、功率使用、工作負荷處理效率、其組合及/或類似物)來將工作負荷路由傳送至網路架構的不同部分(包含邊緣計算資料中心及至少一個核心資料中心)的系統、方法以及設備。
在一些實施例中,描述用於網路最佳化的裝置。裝置可包含:至少一個記憶體裝置,可儲存電腦可執行指令;及至少一個處理器,經組態以存取記憶體裝置。處理器可經組態以執行電腦可執行指令以:判定與網路架構相關聯的網路參數,網路架構包含資料中心及邊緣資料中心;使用網路參數來判定與資料中心相關聯的第一程式化期望潛時及與邊緣資料中心相關聯的第二程式化期望潛時;以及至少部分地基於第一程式化期望潛時或第二程式化期望潛時之間的差值來判定待路由傳送於資料中心與邊緣資料中心之間的工作負荷的分佈。
在一些實例中,網路參數可包含以下中的至少一者:使用百分比、核心資料中心選擇可能性、延遲靈敏度值、資料上傳量、資料下載量、處理器使用需求、虛擬機(virtual machine;VM)利用、其組合及/或類似參數。在一些實施例中,判定可使用機器學習技術執行,機器學習模型包含監督式機器學習技術或不受監督機器學習技術中的至少一者,機器學習技術更包含長短期記憶(long short term memory;LSTM)神經網路、遞迴神經網路、延時類神經網路或前饋神經網路中的至少一者。在其他態樣中,可至少部分地基於超出預定臨限值的差值來判定分佈。在一些實例中,可基於差值調節以下中的至少一者:(1)與往返於資料中心的資料訊務相關聯的傳輸速率,(2)與往返於邊緣資料中心的資料訊務相關聯的傳輸速率,(3)與往返於與邊緣資料中心相關聯的裝置的資料訊務相關聯的傳輸速率,或(4)與往返於與資料中心相關聯的裝置的資料訊務相關聯的傳輸速率。
在其他態樣中,處理器可進一步經組態以用第一標籤標記工作負荷的至少第一部分,第一標籤指示待將第一部分路由傳送至資料中心,且處理器經組態以用第二標籤標記工作負荷的至少第二部分,第二標籤指示待將第二部分路由傳送至邊緣資料中心。在一些實例中,處理器可進一步經組態以:(1)自資料中心接收與第一部分相關聯的第一完成的工作負荷,及(2)自邊緣資料中心接收與第二部分相關聯的第二完成的工作負荷,以及(3)使用第一標籤或第二標籤來分類、過濾或彙總第一完成的工作負荷或第二完成的工作負荷。在一實施例中,處理器可經組態以使得將至少第一完成的工作負荷或第二完成的工作負荷傳輸至網路架構上的第二裝置。
在各種態樣中,描述一種用於網路最佳化的方法。方法可包含:判定與網路架構相關聯的網路參數,網路架構包含資料中心及邊緣資料中心;使用網路參數來判定與資料中心相關聯的第一程式化期望潛時及與邊緣資料中心相關聯的第二程式化期望潛時;以及至少部分地基於第一程式化期望潛時或第二程式化期望潛時之間的差值來判定待路由傳送於資料中心與邊緣資料中心之間的工作負荷的分佈。
在其他實施例中,網路參數可包含(但不限於)以下中的至少一者:使用百分比、核心資料中心選擇可能性、延遲靈敏度值、資料上傳量、資料下載量、處理器使用需求、VM利用、其組合及/或類似參數。在一些態樣中,判定可使用機器學習技術執行,機器學習技術包含監督式機器學習技術或不受監督機器學習技術中的至少一者,機器學習技術更包含LSTM神經網路、遞迴神經網路、延時類神經網路或前饋神經網路中的至少一者。在一實例中,可至少部分地基於超出預定臨限值的差值來判定分佈。在其他態樣中,方法可更包含基於差值調節以下中的至少一者:(1)與往返於資料中心的資料訊務相關聯的傳輸速率,(2)與往返於邊緣資料中心的資料訊務相關聯的傳輸速率,(3)與往返於與邊緣資料中心相關聯的裝置的資料訊務相關聯的傳輸速率,或(4)與往返於與資料中心相關聯的裝置的資料訊務相關聯的傳輸速率。
方法可更包含:用第一標籤標記工作負荷的至少第一部分,第一標籤指示待將第一部分路由傳送至資料中心;且用第二標籤標記工作負荷的至少第二部分,第二標籤指示待將第二部分路由傳送至邊緣資料中心。方法可更包含:(1)自資料中心接收與第一部分相關聯的第一完成的工作負荷,及(2)自邊緣資料中心接收與第二部分相關聯的第二完成的工作負荷,以及(3)使用第一標籤或第二標籤來分類、過濾或彙總第一完成的工作負荷或第二完成的工作負荷。在其他實施例中,方法可更包含將至少第一完成的工作負荷或第二完成的工作負荷傳輸至網路架構上的第二裝置。
在各種實施例中,描述儲存電腦可執行指令的非暫時性電腦可讀媒體,所述電腦可執行指令在由處理器執行時使得處理器執行某些操作,所述操作包含:判定與網路架構相關聯的網路參數,網路架構包含資料中心及邊緣資料中心;使用網路參數來判定與資料中心相關聯的第一程式化期望潛時及與邊緣資料中心相關聯的第二程式化期望潛時;以及至少部分地基於第一程式化期望潛時或第二程式化期望潛時之間的差值來判定待路由傳送於資料中心與邊緣資料中心之間的工作負荷的分佈。
在一些實例中,網路參數可包含(但不限於)以下中的至少一者:使用百分比、核心資料中心選擇可能性、延遲靈敏度值、資料上傳量、資料下載量、處理器使用需求、VM利用、其組合及/或類似參數。在其他態樣中,使用機器學習技術執行判定,機器學習技術包含監督式機器學習技術或不受監督機器學習技術中的至少一者。此外,機器學習技術可更包含以下中的至少一者:LSTM神經網路、遞迴神經網路、延時類神經網路或前饋神經網路。在一些方面,可基於差值調節以下中的至少一者:(1)與往返於資料中心的資料訊務相關聯的傳輸速率,(2)與往返於邊緣資料中心的資料訊務相關聯的傳輸速率,(3)與往返於與邊緣資料中心相關聯的裝置的資料訊務相關聯的傳輸速率,或(4)與往返於與資料中心相關聯的裝置的資料訊務相關聯的傳輸速率。
因此,可實施本文所描述的主題的特定實施例,從而以實現以下優勢中的一或多者。減小網路潛時且提高網路穩定性及運行資料轉移速率且轉而改善使用者經歷。降低與路由網路訊務、網路維護、網路升級及/或類似物相關聯的成本。此外,在一些態樣中,所揭示的系統可用於減小網路上的裝置的功耗及/或頻寬,且可用於提高裝置之間的通信的速度及/或效率。
在隨附圖式及下文描述中闡述本文所描述的主題的一或多個實施例的細節。主題的其他特徵、態樣以及優勢將自實施方式、圖式以及申請專利範圍變得顯而易見。
如本文中所用,邊緣計算可指使計算及資料儲存物理上更接近可能需要此類資源的位置,例如以改善回應時間且節約頻寬的分佈式計算系統。舉例而言,邊緣計算可用於將雲端計算、網路控制以及儲存的某些態樣移動至可能物理上更接近資源受限端裝置的網路邊緣平台(例如,邊緣資料中心及/或裝置),以支援計算密集型應用程式及潛時關鍵的應用程式。因此,邊緣計算可引起併入邊緣資料中心及核心資料中心兩者的網路架構上的潛時減小且頻寬增大。在一些態樣中,邊緣計算範例可最佳化邊緣計算平台設計以提供低潛時服務,本文中描述所述邊緣計算平台設計的態樣。
在一些實例中,邊緣計算可更包含各種科技計算技術,包含(但不限於)行動雲端計算(mobile cloud computing;MCC)、微雲計算(cloudlets)、霧計算、行動邊緣計算(mobile edge computing;MEC)、其組合及/或類似物。舉例而言,微雲計算可指可支援某些應用程式,諸如人工實境(artificial reality;AR)及影像處理任務的低潛時網路架構。微雲計算可進一步指網路內,例如核心資料中心與使用者裝置之間的虛擬平台。邊緣雲端複合物或邊緣雲端計算(edge cloud computing;ECC)以及MEC可在核心網路的邊緣處提供服務且可支援多個使用者。霧計算可指網路邊緣處的擴展型雲端計算。在一些態樣中,霧計算可包含網路中的邊緣裝置之間的合作且可用於企業應用程式。在各種實施例中,應理解,所揭露的實施例的各種態樣可結合上文所述的一或多種邊緣計算技術來使用,為簡潔起見,所述一或多種邊緣計算技術在本文中可統稱為邊緣資料中心。
現將參考隨附圖式,在下文中更完整描述本揭露的各種實施例,其中繪示一些實施例,但非所有實施例。實際上,本揭露可以多種不同形式實施,且不應視為受本文中所闡述的實施例限制;相反,提供這些實施例以使得本揭露將符合適用的法定需求。除非另外指示,否則術語「或」以替代的及結合意義兩者使用。術語「說明性」及「實例」用於不指示品質位準的實例。相同編號始終指相同元件。圖式中的每一者中的箭頭描繪雙向資料流及/或雙向資料流能力。術語「路徑(path)」、「路徑(pathway)」以及「路徑(route)」在本文中可互換使用。
本揭露的實施例可以各種方式實施,包含如包括製品的電腦程式產品。電腦程式產品可包含儲存應用程式、程序、程式組件、腳本、原始碼、程式碼、目標碼、位元組碼、編譯碼、解譯碼、機器碼、可執行指令及/或類似物(在本文中亦稱為可執行指令、用於執行的指令、電腦程式產品、程式碼及/或本文中可互換地使用的類似術語)的非暫時性電腦可讀儲存媒體。此類非暫時性電腦可讀儲存媒體包含所有電腦可讀媒體(包含揮發性及非揮發性媒體)。
在一個實施例中,非揮發性電腦可讀儲存媒體可包含軟碟、可撓性磁碟、硬碟、固態儲存器(solid-state storage;SSS)(例如固態驅動機(solid-state drive;SSD))、固態卡(solid state card;SSC)、固態組件(solid state component;SSM)、企業快閃驅動機、磁帶或任何其他非暫時性磁性媒體及/或類似物。非揮發性電腦可讀儲存媒體亦可包含打孔卡片、紙帶、光標示表單(或具有電洞圖案或其他光學可辨識標誌的任何其他實體媒體)、光碟唯讀記憶體(compact disc read only memory;CD-ROM)、可抹寫光碟(compact disc-rewritable;CD-RW);數位多功能光碟(digital versatile disc;DVD);藍光光碟(Blu-ray disc;BD)、任何其他非暫時性光學媒體及/或類似物。此非揮發性電腦可讀儲存媒體亦可包含唯讀記憶體(read-only memory;ROM)、可程式化唯讀記憶體(programmable read-only memory;PROM)、可抹除可程式化唯讀記憶體(erasable programmable read-only memory;EPROM)、電可抹除可程式化唯讀記憶體(electrically erasable programmable read-only memory;EEPROM)、快閃記憶體(例如,系列(Serial)、NAND、NOR及/或類似物)、多媒體記憶卡(multimedia memory cards;MMC)、安全數位(secure digital;SD)記憶卡、智慧卡(SmartMedia cards)、緊密快閃(CompactFlash;CF)卡、記憶條及/或類似物。此外,非揮發性電腦可讀儲存媒體亦可包含導電橋接隨機存取記憶體(conductive-bridging random access memory;CBRAM)、相變隨機存取記憶體(phase-change random access memory;PRAM)、鐵電隨機存取記憶體(ferroelectric random-access memory;FeRAM)、非揮發性隨機存取記憶體(non-volatile random-access memory;NVRAM)、磁阻式隨機存取記憶體(magnetoresistive random-access memory;MRAM)、電阻式隨機存取記憶體(resistive random-access memory;RRAM)、矽-氧化矽-氮化矽-氧化矽-矽記憶體(Silicon-Oxide-Nitride-Oxide-Silicon;SONOS)、浮動式接面閘極隨機存取記憶體(floating junction gate random access memory;FJG RAM)、千足蟲記憶體(Millipede memory)、軌道記憶體及/或類似物。
在一個實施例中,揮發性電腦可讀儲存媒體可包含隨機存取記憶體(random access memory;RAM)、動態隨機存取記憶體(dynamic random access memory;DRAM)、靜態隨機存取記憶體(static random access memory ;SRAM)、快頁模式動態隨機存取記憶體(fast page mode dynamic random access memory;FPM DRAM)、延伸資料輸出動態隨機存取記憶體(extended data-out dynamic random access memory;EDO DRAM)、同步動態隨機存取記憶體(synchronous dynamic random access memory;SDRAM)、雙倍資料速率同步動態隨機存取記憶體(double data rate synchronous dynamic random access memory;DDR SDRAM)、雙倍資料速率類型二同步動態隨機存取記憶體(double data rate type two synchronous dynamic random access memory;DDR2 SDRAM)、雙倍資料速率類型三同步動態隨機存取記憶體(double data rate type three synchronous dynamic random access memory;DDR3 SDRAM)、記憶體匯流排動態隨機存取記憶體(Rambus dynamic random access memory;RDRAM)、雙電晶體RAM(Twin Transistor RAM;TTRAM)、閘流體RAM(Thyristor RAM;T-RAM)、零-電容器(Zero-capacitor;Z-RAM)、記憶體匯流排線內記憶體組件(Rambus in-line memory component;RIMM)、雙直插記憶體組件(dual in-line memory component;DIMM)、單直插記憶體組件(single in-line memory component;SIMM)、視訊隨機存取記憶體(video random access memory;VRAM)、快取記憶體(包含各種層級)、快閃記憶體、暫存器記憶體及/或類似物。應瞭解,在實施例經描述為使用電腦可讀儲存媒體的情況下,除上文所述的電腦可讀儲存媒體外,其他類型的電腦可讀儲存媒體可作為替代或使用其他類型的電腦可讀儲存媒體。
應瞭解,本揭露的各種實施例亦可實施為方法、設備、系統、計算裝置、計算實體及/或類似物。因而,本揭露的實施例可呈執行儲存於電腦可讀儲存媒體上的指令來執行某些步驟或操作的設備、系統、計算裝置、計算實體及/或類似物的形式。因此,本揭露的實施例亦可呈以下形式:完全硬體實施例、完全電腦程式產品實施例及/或包括執行某些步驟或操作的電腦程式產品及硬體的組合的實施例。
下文參考方塊圖及流程圖說明來描述本揭露的實施例。因此,應理解,方塊圖及流程圖說明中的每一方塊可在電腦可讀儲存媒體上以電腦程式產品、完全硬體實施例、硬體及電腦程式產品的組合及/或進行指令、操作、步驟以及可互換使用的類似字詞(例如可執行指令、用於執行的指令、程式碼及/或類似物)的設備、系統、計算裝置、計算實體及/或類似物的形式實施以執行。舉例而言,可依序執行程式碼的檢索、加載以及執行,使得一次性檢索、加載以及執行一個指令。在一些示例實施例中,可並行地執行檢索、加載及/或執行,使得同時檢索、加載及/或執行多個指令。因此,此類實施例可產生執行方塊圖及流程圖說明中所指定的步驟或操作的經特定組態的機器。因此,方塊圖及流程圖說明支持用於執行經指定指令、操作或步驟的實施例的各種組合。
在某些實例中,出於某些實施例的目的且為易於說明某些實施例,所揭露的系統可結合MEC來實施。應理解,所揭露的系統可結合與本文中明確描述的網路架構不同的網路架構來使用。在一些方面,MEC可用於下一蜂巢式網路演變中,例如用於第五代(5G)網路中。舉例而言,諸如歐洲電信標準學會(European telecommunications standards institute;ETSI)的一些管理主體可尋找標準化MEC以實現消費者及企業的某些需求。如所提及,MEC可用於將雲端能力分佈至網路的邊緣處,在所述邊緣處,雲端能力可相對地更接近本地行動使用者。MEC可結合5G蜂巢式網路實施以啟用低潛時網路架構。為在MEC系統中提供此類低潛時服務,所揭露的系統可經由選擇客戶端任務卸載、經卸載任務優先化以及經卸載任務置放來最小化回應時間,如本文中進一步描述。此外,所揭露的系統可以邊緣計算平台的預定組態使用以經由邊緣伺服器架構設計及邊緣計算服務最佳化來滿足潛時需求。
如下文進一步描述,本揭露的實施例描述可包含模擬網路上的潛時中的邊緣計算架構因素的模型(例如,數學及機器學習類技術)。此外,所揭露的系統可在使用模型以卸載目標中模型化儲存效能因素。因此,在一些實例中,所揭露的系統可模型化MEC架構中的潛時感知網路。所揭露的系統可使用此類模型來判定與網路相關聯的各種參數,包含(但不限於)網路上的裝置的儲存效能、終端使用者的數目、任務大小、記憶體、處理器利用影響及/或類似參數。此外,模型可結合機器學習技術使用來將網路資料路由傳送於網路的各種組件,諸如核心資料中心與邊緣資料中心之間,如下文進一步描述。
現轉而參看圖式,圖1描繪根據本揭露的實例實施例的代表性網路架構的圖式,其中所揭露的實施例的態樣可結合第一拓樸操作。具體來說,圖式100繪示網路102;第一資料傳輸103;主機104;第二資料傳輸105;裝置106;管理計算實體108;核心資料中心110;裝置112、裝置114以及裝置116;邊緣資料中心112;裝置114、裝置116以及裝置118;邊緣資料中心120;裝置122、裝置124以及裝置126;行動邊緣資料中心130;以及裝置132、裝置134以及裝置136。
在一些實施例中,圖式100繪示主機104可經由第一資料傳輸103向網路102發起工作負荷請求。管理計算實體108可監視與網路架構相關聯的網路參數(例如,資料傳輸速率、網路部分利用、其組合及/或類似物,下文結合圖7進一步繪示且描述)(例如,包含(但不限於)與核心資料中心110及諸如邊緣資料中心120及邊緣資料中心112的各種邊緣資料中心相關聯的網路參數)。基於監視的結果,管理計算實體108可判定將工作負荷的至少一部分路由傳送至核心資料中心110。在一些實例中,管理計算實體108可進一步將工作負荷的不同部分路由傳送至邊緣資料中心112或邊緣資料中心120。為判定將工作負荷路由傳送至何處,管理計算實體108可運行網路架構的模型及/或網路的部分(例如,邊緣資料中心、核心資料中心、各種裝置等)來判定與網路架構的不同部分相關聯的潛時,下文將結合圖7至圖9進一步繪示且描述。視情況,管理計算實體108可使用潛時作為對機器學習組件(下文將結合圖4及圖5進一步繪示且描述)的輸入,以判定工作負荷在核心資料中心與邊緣資料中心計算之間的最佳路由傳送。
現轉向圖式100中所繪示的各種組件,下文將提供各種組件的更詳細描述。在一些實施例中,網路102可包含(但不限於)網際網路或公用網路,諸如廣域網路(wide area network;WLAN)。在一些實例中,主機104可包含網路主機,例如連接至電腦網路的電腦或其他裝置。主機可操作為向網路102上的使用者或其他主機提供資訊資源、服務以及應用程式的伺服器。在一些實例中,可將主機分配至少一個網路位址。在其他實例中,參與網路,諸如網際網路的電腦可稱為網際網路主機。此類網際網路主機可包含分配給其相應網路介面的一或多個IP位址。
在一些實例中,裝置106可包含例如經由有線或無線鏈路直接連接至網路102的裝置。在一些態樣中,裝置106可發起工作負荷(例如,視訊串流請求)。接著,可藉由根據本文中所揭露的實施例的網路架構的相關部分來處理工作負荷。下文結合圖12進一步繪示且描述可充當裝置106的裝置的實例。
在各種實施例中,管理計算實體108可執行將訊務及/或工作負荷路由傳送至核心資料中心110及/或一或多個邊緣資料中心120。此外,管理計算實體108可運行模型以基於所監視的網路訊務資料來判定與網路的不同部分相關聯的潛時。下文結合圖7至圖9進一步繪示且描述實例模型。在一些實施例中,管理計算實體108可視情況運行機器學習模型來判定如何路由傳送工作負荷資料。下文結合圖4及圖5繪示且描述機器學習模型的實例。
在一些實施例中,核心資料中心110可包含可容納電腦系統及關聯組件,諸如電信及儲存系統及/或組件的專用實體。此外,核心資料中心110可包含各種伺服器,所述伺服器具有用於執行工作負荷、儲存相關聯資料、與網路102、邊緣資料中心(例如,邊緣資料中心120、行動邊緣資料中心130)及/或網路架構的其他部分(未繪示)通信資料的計算資源、網路資源以及儲存資源。在一些實施例中,可將核心資料中心110連接至各種裝置(例如,裝置112、裝置114以及裝置116)。舉例而言,連接可為有線連接(例如,乙太網類連接)或無線連接(例如,Wi-Fi、5G及/或蜂巢式類連接)。在另一實施例中,核心資料中心110可自直接連接至核心資料中心110的各種裝置(例如,裝置112、裝置114以及裝置116)接收工作負荷請求,且可執行給定工作負荷請求的至少一部分(下文將進一步論述)。在一些實例中,核心資料中心110可將給定工作負荷的結果傳輸至直接或間接連接至核心資料中心的各種裝置。
在一些實施例中,邊緣資料中心112可指可容納電腦系統及關聯組件,諸如電信及儲存系統且可具有多種與核心資料中心相同或類似能力的專用實體;然而,與核心資料中心相比,邊緣資料中心112可一般具有較小實體佔據面積。此外,如所提及,邊緣資料中心112可物理上更接近終端使用者定位且可從而為某些工作負荷及應用程式提供減小的潛時。在一些實施例中,可將邊緣資料中心112連接至核心資料中心或其他邊緣資料中心(例如,行動邊緣資料中心130或邊緣資料中心112)。此外,邊緣資料中心112可自直接連接至邊緣資料中心112的各種裝置(例如,裝置122、裝置124以及裝置126)接收工作負荷請求,且可執行給定工作負荷請求的至少一部分(下文將進一步論述)。在另一實施例中,邊緣資料中心112可將工作負荷的一部分傳輸至其他邊緣資料中心(例如,邊緣資料中心120)或核心資料中心(例如,核心資料中心110)。此外,邊緣資料中心112可將給定工作負荷的結果傳輸至直接地或間接地連接至邊緣資料中心的各種裝置。
圖2描繪根據本揭露的實例實施例的圖1的代表性網路架構的另一圖式,其中所揭露的實施例的態樣可結合第二拓樸操作。特定言之,圖式200描繪多個與上文所述的圖1相同元件。然而,圖式200繪示可以此第二拓樸連接至核心資料中心110代替如同圖1的網路102的管理計算實體208。此意謂示出管理計算實體可駐存於網路架構的不同位置處的可能性(例如,核心資料中心對比網路)。
在一些實施例中,圖式200進一步繪示網路102可經由第一資料傳輸201向核心資料中心110發起工作負荷請求的實例。舉例而言,連接至網路102的裝置(例如,裝置106)或主機(例如,主機104)可產生工作負荷,所述工作負荷可由網路102處理,所述裝置可經由第一資料傳輸203發起工作負荷請求。管理計算實體208可再次監視與網路架構相關聯的網路參數(例如,資料傳輸速率、網路部分利用、其組合及/或類似物,下文結合圖7進一步繪示且描述)(例如,網路參數包含(但不限於)與核心資料中心110及諸如邊緣資料中心120及邊緣資料中心112的各種邊緣資料中心相關聯的網路參數)。
基於監視的結果,管理計算實體208可判定將工作負荷的至少一部分維持至核心資料中心110。在一些實例中,管理計算實體208可進一步將工作負荷的不同部分路由傳送至邊緣資料中心112、邊緣資料中心120或甚至行動邊緣資料中心130(例如,可例如經由無線連接改變位置的邊緣資料中心)。如先前所提及,為判定將工作負荷路由傳送至何處,管理計算實體208可運行網路架構的模型及網路的部分來判定與網路架構的不同部分相關聯的各種潛時,下文將結合圖7至圖9進一步繪示且描述。視情況,管理計算實體208可使用潛時作為至機器學習組件(下文將結合圖4及圖5進一步繪示且描述)的輸入來判定核心資料中心與邊緣資料中心之間用於計算工作負荷的最佳路徑。
圖3描繪根據本揭露的實例實施例的圖1的代表性網路架構的另一圖式,其中所揭露的實施例的態樣可結合第三拓樸操作。特定言之,圖式300描繪多個與上文所述的圖1相同元件。然而,圖式300繪示可連接至此第三拓樸中的實例邊緣資料中心,諸如行動邊緣資料中心130代替如同圖1的網路102或如同圖2的核心資料中心110的管理計算實體308。同樣,此拓樸反映管理計算實體可駐存於網路架構上的不同位置處的可能性(例如,邊緣資料中心對比核心資料中心及/或網路)。
在一些實施例中,圖式300進一步繪示網路102可經由第一資料傳輸301向核心資料中心110發起工作負荷請求。舉例而言,連接至網路102的裝置(例如,裝置106)或主機(例如,主機104)可產生可由網路102處理的工作負荷,且經由資料傳輸301發起工作負荷請求。管理計算實體308可再次監視與網路架構相關聯的網路參數(例如,資料傳輸速率、網路部分利用、其組合及/或類似物,下文結合圖7進一步繪示且描述)(例如,包含(但不限於)與核心資料中心110及諸如行動邊緣資料中心130、邊緣資料中心120及/或邊緣資料中心112的各種邊緣資料中心相關聯的網路參數)。
基於監視的結果,管理計算實體308可判定將工作負荷的至少一部分維持至行動邊緣資料中心130。在一些實例中,管理計算實體308可進一步將工作負荷的不同部分路由傳送至核心資料中心110、邊緣資料中心112及/或邊緣資料中心120。如先前所提及,為判定將工作負荷路由傳送至何處,管理計算實體308可運行網路架構的模型及網路的部分來判定與網路架構的不同部分相關聯的各種潛時,下文將結合圖7至圖9進一步繪示且描述。視情況,管理計算實體308可使用潛時作為對機器學習組件(下文將結合圖4及圖5進一步繪示且描述)的輸入,以判定工作負荷的核心資料中心與邊緣資料中心計算之間的最佳路由傳送。
圖4描繪根據本揭露的實例實施例的用於判定工作負荷跨網路架構的不同部分的分佈的監督式機器學習方法的圖式。特定言之,圖式400繪示基於期望潛時及網路參數來判定給定工作負荷對於核心資料中心及一或多個邊緣資料中心的分佈的監督式機器學習方法。更具體言之,圖式400繪示機器學習方法的訓練組件401,訓練組件401包含網路402、網路參數404、標記406、特徵向量408、管理計算實體410、機器學習組件412、處理器414以及記憶體416,下文將描述。此外,圖式400繪示機器學習方法的推理組件403,推理組件403包含網路參數420、特徵向量422、預測模型424以及預期分佈426,下文亦將描述。
現轉向圖式400中所繪示的各種組件,描述了更詳細描述。特定言之,網路402可類似於上文結合圖1繪示且描述的網路102。在一些實例中,網路402可通信耦合至管理計算實體410。在一些實施例中,網路參數404可包含在各種實體(諸如結合圖1繪示且描述的實體)之間的網路架構的各種部分上傳輸的原始資料。在一些實例中,原始資料可包含(但不限於)工作負荷、資料傳輸、潛時及/或網路的各部分上的資料傳輸速率。
在一些實施例中,標記406可表示給定工作負荷跨具有特定組態的實例網路架構中的核心資料中心及一或多個邊緣資料中心的最佳分佈。在一些實施例中,可使用模型(諸如下文將結合圖7繪示且描述的模型702)的結果判定標記406。在各種態樣中,標記406可由此用於訓練機器學習組件412,例如用於預測在推理組件403期間給定未來工作負荷跨核心資料中心及一或多個邊緣資料中心的預期分佈426。
在一些實施例中,特徵向量408可表示可自可為網路參數404的部分的原始資料提取的各種所關注參數(例如,潛時及/或資料傳輸速率)。在一些實例中,特徵向量408可表示藉由網路架構上方的管理計算實體觀察到的傳輸的單獨可量測性質或特性,例如下文結合圖7所描述。
在其他實施例中,管理計算實體410可通信耦合至網路402且可包含機器學習組件412、處理器414以及記憶體416。特定言之,機器學習組件412可使用任何適合的機器學習技術來產生預期分佈426的預測模型424以處理跨核心資料中心及一或多個邊緣資料中心的給定工作負荷。非限制性機器學習技術可包含(但不限於)監督式學習技術(結合圖4繪示且描述)、不受監督學習技術(結合圖5繪示且描述)、加強學習技術、自學習技術、特徵學習技術、關聯規則技術、其組合及/或類似技術。額外非限制性機器學習技術可包含(但不限於)特定實施,諸如人工神經網路、決策樹、支援向量機、回歸分析技術、貝氏網路(Bayesian network)技術、基因演算法技術、其組合及/或類似技術。
如所提及,圖式400包含推理組件403。特定言之,推理組件403可類似於訓練組件401,在所述推理組件403中:接收網路參數420,提取特徵向量422(例如,藉由管理計算實體410)以及使用執行預測模型424的機器學習組件410來判定給定工作負荷的處理跨核心資料中心及一或多個邊緣資料中心的預期分佈426。推理組件403與訓練組件401之間的一個不同在於推理組件可不接收標記(例如,標記406)來訓練機器學習組件判定分佈。因此,在推理組件403的操作模式下,管理計算實體410可實時判定給定工作負荷的預期分佈426。隨後,若錯誤率(例如基於對於給定工作負荷的總潛時縮減限定)低於預定臨限值,則可使用訓練組件401(例如,藉由與不同或類似的網路參數404相關聯的不同標記406)重新訓練機器學習組件412。推理組件403可隨後運行以提高錯誤率至高於預定臨限值。
圖5描繪根據本揭露的實例實施例的用於判定工作負荷跨網路架構的不同部分的分佈的不受監督機器學習方法的圖式。特定言之,圖式500繪示連接至管理計算實體510的網路502。此外,圖式500包含機器學習方法的訓練組件501,所述訓練組件501包含網路參數504、特徵向量508、具有機器學習組件512、處理器514以及記憶體516的管理計算實體510。此外,圖式500包含機器學習方法的推理組件503,所述推理組件503包含網路參數520、特徵向量522、模型524以及工作負荷跨核心資料中心及邊緣資料中心的預期分佈526。
現轉向圖式500中所繪示的各種組件,提供更詳細描述。特定言之,網路502可類似於上文結合圖1繪示且描述的網路102。在一些實例中,網路502可通信耦合至管理計算實體510。在一些實施例中,網路參數504可包含在網路架構(諸如結合圖1繪示且描述的網路架構)的各種部分上傳輸的原始資料。在一些實例中,原始資料可包含(但不限於)工作負荷、資料傳輸、潛時及/或網路的各部分上的資料傳輸速率、其組合及/或類似物。
在一些實施例中,相比於上文結合圖4繪示且描述的表示給定工作負荷跨核心資料中心及一或多個邊緣資料中心的最佳分佈的標記406,訓練組件501可不具有此類標記。相反,管理計算實體510可在無任何標記的情況下訓練機器學習組件512(例如,以使用推理組件503預測給定未來工作負荷跨核心資料中心及一或多個邊緣資料中心的預期分佈526)。
在一些實施例中,特徵向量508可表示可自可為網路參數504的部分的原始資料提取的各種所關注參數(例如,潛時及/或資料傳輸速率)。在一些實例中,特徵向量508可表示藉由網路架構上方的管理計算實體觀察到的傳輸的單獨可量測性質或特性,例如下文結合圖7所描述。
在其他實施例中,管理計算實體510可通信耦合至網路502且可包含機器學習組件512、處理器514以及記憶體516。特定言之,機器學習組件512可使用任何適合的機器學習技術來產生跨核心資料中心及一或多個邊緣資料中心處理給定工作負荷的預期分佈526的模型524。
如所提及,圖式500包含推理組件503。特定言之,推理組件503可類似於訓練組件501,在所述推理組件503中:接收網路參數520,提取特徵向量522(例如,藉由管理計算實體510)以及使用執行模型524的機器學習組件510來判定給定工作負荷的處理跨核心資料中心及一或多個邊緣資料中心的預期分佈526。因此,在推理組件503的操作模式下,管理計算實體510可即時判定給定工作負荷的預期分佈526。隨後,若錯誤率(例如基於用於給定工作負荷的總潛時縮減限定)低於預定臨限值,則可使用訓練組件501重新訓練機器學習組件512。推理組件503可隨後運行以提高錯誤率至高於預定臨限值。
圖6描繪根據本揭露的實例實施例的表示管理計算實體的系統的圖式,所述管理計算實體可執行與網路、伺服器以及使用者裝置相關聯的所揭露的實施例的各種操作。圖式600繪示管理計算實體601、處理器602、記憶體604、網路監視組件606、通信組件608、計算組件610、路由傳送組件612、網路622、伺服器614以及裝置616。
特定言之,管理計算實體601可與上述結合圖1繪示且描述的管理計算實體108類似,但並非必須相同。下文結合圖13及圖14繪示且描述管理計算實體601的其他細節。
在一些實施例中,計算組件610可加載且運行來自相關組態檔案的各種核心及邊緣計算情境。另外,計算組件610可藉由使用類別文庫來模型化MEC架構的某些態樣,所述類別文庫摘要網路、網路上的裝置的行動性(例如,以判定隨著時間推移與網路相關聯的移動裝置的位置及/或使用預定模型,例如使用遊動行動性模型表示裝置位置,其中裝置的位置週期性地變化代替連續性位置更新)以及邊緣協調器的態樣。在一些實施例中,計算組件610可包含加載產生器組件(未繪示)來產生對於給定網路架構的實例任務以及經由任務清單決定任務產生模式的類別。在一些實施例中,加載產生器組件可例如根據預定任務到達間時間而在某些活躍時段模型化產生任務的移動裝置且在某些閒置時段保持非活躍的,其中可基於網路訊務監視或使用者輸入來供應閒置時段及活躍時段。
在一些實施例中,計算組件610可包含使用自其他組件收集的資訊來決定如何且在何處處置進入的客戶端請求的邊緣編排器組件(未繪示)。特定言之,邊緣編排器組件可實施任何適合的演算法(例如,第一/下一/最佳/最差/隨機(first/next/best/worst/random;f/n/b/w/r)擬合演算法),同時將請求分配給一或多個邊緣裝置。此外,邊緣編排器組件可基於與演算法相關聯的預定策略將VM模型化卸載至邊緣資料中心。
系統600可視情況包含伺服器裝置、一或多個網路以及一或多個裝置(未繪示)。系統600亦可包含或另外與執行儲存於記憶體604中的電腦可執行組件的至少一個處理器602相關聯。系統600可更包含可耦合各種組件的系統匯流排611,所述各種組件包含(但不限於)網路監視組件606、通信組件608、計算組件610、路由傳送組件612及/或可操作地彼此耦合的其他組件(未繪示)。
本揭露中所解釋的系統(例如,系統600及類似物)、設備或過程的態樣可構成實施於機器內,例如實施於與一或多個機器相關聯的一或多個電腦可讀媒體(medium)(或媒體(media))的機器可執行組件。此類組件在由一或多個機器、例如電腦、計算裝置、虛擬機等執行時可致使機器執行所描述操作。為簡潔起見,省略本文中所述的一或多個實施例中所採用的相同元件的重複描述。
在一些實例中,系統600可包含如使用可通信耦合至裝置的任何適合的計算裝置或計算裝置集合實施的管理計算實體,所述計算裝置的非限制性實例可包含(但不限於)伺服器電腦、電腦、行動電腦、大型電腦、自動化測試系統、網路儲存裝置、通信裝置、網頁伺服器裝置、網路開關裝置、網路路由裝置、閘道裝置、網路集線器裝置、網路橋接裝置、控制系統或任何其他適合的計算裝置。裝置可為可與系統600通信資訊的任何裝置及/或可採用由系統600提供的資訊的任何其他適合的裝置。應瞭解,系統600、組件、模型或裝置可配備有通信組件618,所述通信組件618實現一或多個網路上方(例如,包含核心資料中心及邊緣資料中心的雲端計算環境上方)的系統、組件、模型、裝置等之間的通信。
在一些實施例中,網路監視組件606可包含可捕獲及/或記錄在網路或網路的一部分上方傳遞的訊務的軟體組件及/或硬體組件。封包捕獲可指截獲及記錄訊務的過程。隨著資料串流跨網路流動,網路監視組件606可捕獲封包且(視需要)可解碼封包的原始資料,繪示封包中的各種場的值且根據適當的規格分析其內容。在一些實施例中,網路監視組件606可用於捕獲及/或判定可用於將工作負荷路由傳送至網路的不同部分的各種網路參數。
在一些態樣中,通信組件608可包含與網路架構上的各種裝置通信資訊(例如,資料及/或工作負荷)的各種組件(例如,收發器、天線等)。下文結合圖14繪示且描述通信組件608的其他細節。
可直接或經由一或多個網路(例如,經由通信組件618)連接系統600的各種組件(例如,網路監視組件606、通信組件608、計算組件610、路由傳送組件612及/或其他組件)。此類網路可包含有線網路及無線網路,包含(但不限於)蜂巢式網路、廣域網路(WAN)(例如,網際網路)或區域網路(LAN),其非限制性實例包含蜂巢式、WAN、無線保真(wireless fidelity;Wi-Fi)、Wi-Max、WLAN、無線電通信、微波通信、衛星通信、光通信、聲波通信或任何其他適合的通信技術。此外,已關於若干組件之間的相互作用描述上述系統及/或裝置。應瞭解,此類系統及組件可包含其中所指定的那些組件或子組件、所指定組件或子組件中的一些及/或額外組件。子組件亦可實施為通信耦合至其他組件而非包含於母組件內的組件。另外,可將一或多個組件及/或子組件組合成提供彙總功能性的單個組件。組件亦可與為簡潔起見本文中未特定描述但所屬技術領域中具有通常知識者已知的一或多種其他組件相互作用。
在一些態樣中,計算組件610可使用人工智慧(artificial intelligence;AI)(例如,上文結合圖4及圖5繪示且描述的機器學習組件)例如藉由監視隨著時間推移網路的不同部分上方的資料流(例如,歷史資料)來判定網路架構的部分之間的工作負荷的路由傳送用於增強型工作負荷路由傳送。因此,本文中所述的裝置、管理計算實體及/或相關組件的實施例可採用AI以便於使本文中所述的一或多種特徵自動化。組件可採用各種AI類方案以進行本文中所揭露的各種實施例/實例。以提供或幫助本文中所述的諸多判定(例如,判定、確定、推斷、計算、預測、預後、估計、推導、預報、偵測、計算),本文中所述的組件可檢查其經准許存取的資料的整體或子集且可根據如經由事件及/或資料捕獲的觀察結果集合提供關於系統、環境等的狀態的推理或判定系統、環境等的狀態。舉例而言,判定可用於識別特定情形或動作,或可產生狀態上方的機率分佈。判定可為機率性的-亦即,基於對資料及事件的考慮,對所關注狀態上方的機率分佈的計算。判定亦可指代用於由一組事件及/或資料構成較高階事件的技術。
無論事件在時間上是否緊密相關,且無論事件及資料是來自一個事件及資料源還是若干事件及資料源,此判定可引起由一組觀測到的事件及/或所儲存的事件資料得出新事件或新動作的構造。本文中揭示的組件可結合執行自動及/或結合所主張主題判定的動作採用各種分類(經明確訓練(例如,經由訓練資料)以及經含蓄訓練(例如,經由觀測行為、偏好、歷史資訊,接收外部資訊等))方案及/或系統(例如,支援向量機、神經網路、專家系統、貝氏信念網路(Bayesian belief networks)、模糊邏輯、資料融合引擎等)。因此,分類方案及/或系統可用於自動地學習且執行多種功能、動作及/或判定。在一些態樣中,神經網路可包含(但不限於)長短期記憶(long short term memory;LSTM)神經網路、遞迴神經網路、延時類神經網路或前饋神經網路中的至少一者。
分類器可將輸入分配向量z =(z1、z2、z3、z4、…、zn)映射至輸入屬於類別的可信度,如藉由f(z)=可信度(類別)。此類分類可採用概率類及/或統計類分析來判定待自動地執行的動作。支援向量機(support vector machine;SVM)可為可採用的分類器的實例。SVM藉由在可能輸入空間中發現超表面來操作,其中超表面試圖***來自非觸發事件的觸發準則。直觀地,此對與訓練資料接近但並不相同的測試資料進行分類校正。其他直接及非直接模型分類方法包含例如樸素貝氏(naïve Bayes)、貝氏網路、決策樹、神經網路、模糊邏輯模型,且/或可採用提供不同獨立性模式的概率分類模型。如本文中所用的分類亦包含用以產生優先權模型的統計回歸。
在一些實施例中,路由傳送組件612可包含判定將工作負荷及/或相關資料傳輸至網路的不同部分的組件。在一些態樣中,路由傳送組件612可藉由本文中不同地描述的模型化及/或機器學習技術判定的分佈來進行傳輸以因此將傳輸路由傳送。在一些實施例中,路由傳送組件612可將與適當的標頭及/或元資料資訊相關聯的封包封裝以將其傳輸至網路的不同部分(例如,網路的無線部分或網路的有線部分)。網路622可與上文結合圖1繪示且描述的網路102類似但並非必須相同。在一些實例中,路由傳送組件612及/或計算組件610可基於與核心資料中心相關聯的第一程式化期望潛時或與邊緣資料中心相關聯的第二程式化期望潛時之間的差值調節以下中的至少一者:(1)與往返於資料中心的資料訊務相關聯的傳輸速率,(2)與往返於邊緣資料中心的資料訊務相關聯的傳輸速率,(3)與往返於與邊緣資料中心相關聯的裝置的資料訊務相關聯的傳輸速率或(4)與往返於與資料中心相關聯的裝置的資料訊務相關聯的傳輸速率。
在一些實施例中,伺服器614可表示網路、核心資料中心及/或邊緣資料中心上的伺服器。特定言之,在一些實例中,伺服器614可包含或經組態以執行管理計算實體601的至少部分。舉例而言,管理計算實體601可駐存於表示如上文結合圖1繪示且描述的網路的主體的伺服器上。替代或另外地,管理計算實體601可駐存於如上文結合圖2進一步繪示且描述的核心資料中心的伺服器上。此外,管理計算實體601可駐存於如上文結合圖3進一步繪示且描述的邊緣資料中心的伺服器上。在其他實施例中,管理計算實體601的各種部分可至少部分地駐存於與網路、核心資料中心及/或邊緣資料中心相關聯的一或多個伺服器(或裝置)上,所述一或多個伺服器可共同形成管理計算實體601的完整功能性。此外,裝置616可包含使用者裝置(例如,移動電話、膝上型電腦、平板電腦等)且可與上文結合圖1繪示且描述且下文結合圖12進一步描述的裝置類似但並非必須相同。
圖7描繪根據本揭露的實例實施例的用於基於各種輸入網路參數來判定網路參數的實例模型的圖式,所述網路參數諸如例示性網路架構的潛時及主機級效能度量。在一些實施例中,圖式700繪示模型702,模型702包含雲端計算部分704、加載平衡器部分706、邊緣計算部分708、使用者裝置部分710。此外,圖式700描繪可饋入至模型702中的各種輸入參數712。模型702可輸出各種輸出參數714。在一些實例中,輸出參數714可由機器學習技術(例如,上文結合圖4及圖5繪示且描述的機器學習技術)使用。
現轉而參看圖式700的元件的更詳細描述,模型702可包含雲端計算部分704。特定言之,雲端計算部分704可包含核心資料中心及/或與上文結合圖1繪示且描述的網路102類似的網路。此外,加載平衡器部分706可包含可用於改良工作負荷跨多個計算資源,諸如一或多個邊緣資料中心及/或與網路相關聯的其他伺服器的分佈的組件。此外,邊緣計算部分708可包含與上文結合圖6繪示且描述的伺服器614類似但並非必須相同的各種伺服器及儲存裝置。在一些態樣中,使用者裝置部分710可包含各種使用者裝置(例如,移動電話、膝上型電腦、IoT裝置、其組合及/或類似物),如下文結合圖12進一步繪示且描述。
在一些實施例中,輸入參數712可包含使用百分比,其可指各種裝置歷史上已使用或計劃在網路架構上使用各種組件的百分比。在另一態樣中,輸入參數712可包含雲端選擇可能性,其可指將給定工作負荷至少最初分配給核心資料中心的可能性。此外,可藉由任何適合的數學及/或統計過程(例如,蔔氏過程(Poisson process))來模型化可能性。在實例實施例中,輸入參數712可包含模型化機率的統計過程的蔔氏到達間值(Poisson inter-arrival value),到達間值係指表示來自網路上的各種裝置的工作負荷分派的事件之間的時差(例如,裝置使用者裝置部分710)。在另一態樣中,輸入參數712可包含延遲靈敏度值,其可指可表示給定工作負荷對於延遲的相對靈敏度的數值(例如,0與10之間的數值)。舉例而言,對於視訊串流應用程式,延遲靈敏度可能高於電子郵件應用程式,其中延遲可能不為對使用者的經歷為破壞性的。
在一些實例中,輸入參數712可包含活躍時段,其可指與休眠相對的網路的某些部分為活躍(例如,回應於工作負荷及其他請求)的時間段。在一些實例中,此參數可反映在一段時間內捕獲總網路架構上的相對加載的不同活動週期。在一些實施例中,輸入參數712可包含閒置時段,其可指與活躍相對的網路的某些部分處於休眠的時間段。同樣,在一些實例中,此參數可反映隨著時間推移捕獲總網路架構上的相對加載的不同活動週期。
在各種實施例中,輸入參數712可包含資料上傳速率或量,其可指網路架構的裝置及/或部分可將資料自一個節點上傳至另一節點的速率。舉例而言,資料上傳速率可反映使用者裝置(例如,行動電話)將影像上傳至核心資料中心或邊緣資料中心上的伺服器的速度。在一些實例中,輸入參數712可包含資料下載速率或量,其可指網路架構的裝置及/或部分可將資料自一個節點下載至另一節點的速率。舉例而言,資料下載速率可反映使用者裝置(例如,行動電話)可自核心資料中心或邊緣資料中心上的伺服器下載影像及/或視訊的速度。在另一態樣中,輸入參數712可包含必需核心使用,其可指執行特定工作負荷需要的核心處理器的量。舉例而言,某些工作負荷可需要預定數目個專用處理器來實行任務,所述任務具有不同的重要性。在各種實施例中,輸入參數712可包含VM利用率,其可指由核心資料中心及/或邊緣資料中心處理的工作負荷的期望虛擬機使用。
在另一態樣中,輸出參數714可包含與在網路架構上處理工作負荷相關聯的各種潛時。特定言之,輸出參數714可包含通信延遲,其可指由各種媒體上方的網路的部分之間的通信的潛時引起的延遲。舉例而言,通信延遲可反映因無線傳輸或乙太網傳輸所致的延遲。在各種實施例中,輸出參數714可包含處理延遲,其可指與在網路的一部分(例如,邊緣資料中心或核心資料中心)上完成給定任務相關聯的延遲。在一些實施例中,輸出參數714可包含總服務時間,其可指執行且處理給定工作負荷需要的總時間。在各種實施例中,輸出參數714可包含主機級效能度量。在另一態樣中,主機級效能度量可包含任務大小影響,其可指與具有特定大小的任務相關聯的延遲。下文結合圖17、圖18以及圖19進一步繪示且描述任務大小對於完成工作負荷的影響的實例。
在一些實例中,主機級效能度量可包含儲存效能,其可指表徵網路上的儲存裝置(例如,固態碟機、硬碟機、快閃驅動器、其組合及/或類似物)的效率及效能的度量。在各種實施例中,主機級效能度量可包含記憶體能力,其可指由主機在執行特定工作負荷中使用的記憶體的量。在另一態樣中,主機級效能度量可包含中央處理單元(CPU)利用,其可指由主機在執行特定工作負荷中所使用的處理器使用的量。在各種實施例中,主機級效能度量可包含機器學習效能度量,其可指與在執行特定工作負荷中執行各種機器學習任務相關聯的效率、功率使用及/或延遲。在一些實施例中,機器學習效能量度可包含與藉由管理計算實體將資料路由傳送至網路架構的各種部分相關聯的效率、功率使用及/或延遲。
圖8描繪根據本揭露的實例實施例的與網路架構的不同部分相關聯的實例潛時的圖式。特定言之,圖式800繪示服務時間802,其可包含處理延遲804及通信延遲806。處理延遲804可包含邊緣處理808延遲及雲端處理810延遲。此外,通信延遲806可包含WAN延遲812及LAN延遲814。下文進一步描述各種延遲。
在一些實施例中,服務時間802可包含執行且處理給定工作負荷需要的總時間。在一些實例中,處理延遲804可包含與在網路的一部分(例如,邊緣資料中心或核心資料中心)上完成給定任務相關聯的延遲。在一實施例中,通信延遲806可包含由各種媒體上方的網路的部分之間的通信的潛時引起的延遲。舉例而言,通信延遲可反映因無線傳輸或乙太網傳輸所致的延遲。在一些態樣中,邊緣處理808延遲可包含與在邊緣資料中心上完成給定任務相關聯的延遲。在一些實施例中,雲端處理810延遲可包含與在核心資料中心上完成給定任務相關聯的延遲。在其他態樣中,WAN延遲812可包含與在WAN上傳輸給定工作負荷及/或相關資料相關聯的延遲。在一些實施例中,LAN延遲814可包含與在LAN上傳輸給定工作負荷及/或相關資料相關聯的延遲。
在一些實例中,所揭露的系統可一般尋求縮短通信路徑且減小對於經處理資料的通信延遲。在一些實例中,當存在相對較大量的請求流入請求相對重型計算及/或儲存資源的邊緣資料中心的給定邊緣伺服器中時,與雲端處理810延遲相比較,邊緣處理808延遲可能延長。因此,藉由實施所揭露的實施例中的一或多者,所揭露的系統可使用模型及/或機器學習技術來將工作負荷路由傳送至各種邊緣資料中心及核心資料中心,因此最小化上述延遲/潛時中的一或多者以減小網路架構(例如,MEC網路架構)上執行的工作負荷的總服務時間802。
圖9描繪根據本揭露的實例實施例的用於使用數學模型來判定諸如潛時的網路參數以表示網路架構的部分上的各種通信的態樣的另一模型的圖式。特定言之,圖式902包含管理計算實體910,所述管理計算實體910可包含行動客戶端904模型化組件、邊緣處理時間906模型化組件以及雲端處理時間908模型化組件。此外,行動客戶端904模型化組件可使用統計模型,諸如蔔氏過程911,邊緣處理時間906模型化組件可使用指數分佈912。此外,雲端處理時間908可基於工作負荷914。
在一些實施例中,行動客戶端904組件可用於模型化連接至邊緣資料中心及/或核心資料中心的各種裝置。特定言之,行動客戶端904組件可包含行動性模型,其可指用於關於時間計算每一行動裝置的位置的抽象類別。行動性模型可實施基礎遊動行動性模型,其中裝置位置不定期變化代替連續性位置更新。可根據行動性組件更新移動裝置的位置。
此外,行動客戶端904組件可更包含任務產生器組件,所述任務產生器組件可產生針對給定裝置及/或網路架構的任務。任務產生器組件可包含用於經由任務清單而決定任務產生模式的抽象類別。其實施基礎加載產生器模型,其中移動裝置在活躍時段期間產生任務而在閒置時段等待。如蔔氏過程911中所繪示,各終端使用者裝置可經模型化以根據蔔氏過程以速率產生工作負荷。此外,可根據蔔氏過程將到達模型化為以速率λ出現且將過程自給定狀態移動至下一狀態。
MEC模擬器906可包含核心模型化組件,所述核心模型化組件包含記錄器、組態管理器及/或用於加載且運行來自組態檔案的邊緣計算情境的情境管理器。另外,記錄器可用於節省模擬結果檔案。MEC模擬器906可更包含具有實例無線網路模型(例如,WLAN鏈路模型及WAN鏈路模型)的網路連接組件。MEC模擬器906可更包含邊緣伺服器,所述邊緣伺服器包含邊緣主機、邊緣儲存器、邊緣VM以及CPU利用模型。
MEC模擬器906組件可包含可藉由考慮在網路上方上傳及下載資料兩者來處理WLAN及WAN中的傳輸延遲的網路組件。網路組件可包含用於計算裝置之間的網路延遲的抽象類別。在一些實施例中,網路組件可實施M/M/1隊列模型用於LAN及WAN通信。
在一些實例中,邊緣伺服器組件可包含邊緣主機、邊緣虛擬機、邊緣伺服器管理器以及VM分配策略模型。邊緣伺服器組件可判定如何處理進入的客戶端請求且將進入的客戶端請求分配至何處。在一些實施例中,根據平均值為的指數分佈(如由指數分佈912所指示)而假定每一邊緣伺服器中的任務大小及任務到達為非依賴性且相同分佈的。特定言之,所揭露的系統可使用M/M/1隊列藉由具有速率參數μ的指數分佈來模型化服務時間,其中1/μ為平均服務時間。
管理計算實體910可更包含雲端處理時間908組件。在一些實施例中,雲端處理時間908組件可模型化核心資料中心的各種部分,包含(但不限於)各種VM結構及VM服務、雲端服務、雲端儲存組件、雲端資源(例如,計算資源、網路資源及/或儲存)以及網路連接組件,且可用以模型化核心資料中心上的工作負荷914的處理。此外,雲端處理時間908組件可包含可使用自其他組件收集的資訊來決定如何且在何處處理進入的客戶端請求的負載平衡(load balancing;LB)組件(未繪示)。負載平衡(LB)組件可包含用於基於第一/下一/最佳/最差/隨機(f/n/b/w/r)策略選擇用於每一客戶端請求的VM且基於f/n/b/w/r擬合演算法將請求分配至邊緣裝置的抽象類別。
圖10描繪根據本揭露的實例實施例的用於實施所揭露的模型的實例部分的機架的圖式。在一些實例中,圖式1000描繪機架1002,其包含可根據二層MEC架構基於5G網路環境中的總局重新架構的資料中心設計來建構的MEC平台。在一些實例中,機架1002可按照針對蜂巢式網路(包含5G實施)的各種開放網路連接基礎(Open Networking Foundation;ONF)協定及規格。因而,機架可模型化5G特定功能性的態樣,諸如***-無線存取網路(radio access networks;RAN)、RAN使用者平面且控制平面間距(例如,xRAN)、可程式化網路截割(例如,ProgRAN)以及行動性管理實體(mobility management entity;MME)崩解。在一些示例實施例中,所揭露的系統可對主機MEC服務實施邊緣雲端。
更具體言之,在一些實例中,機架1002可包含具有開關的實體設置,所述實體設置可形成葉(例如,葉1 1004及葉2 1006)及脊(例如,脊1 1012及脊2 1014)作為葉及脊架構結構的部分。可將計算節點(例如,計算節點1 1010及計算節點2 1008)及頭部節點1016連接至葉開關中的一個(例如,葉1 1004或葉2 1006)的端口。可經由專用管理端口,例如在產生機器(devmachine)1018處將網路裝置(存取裝置及結構開關)連接至網路。可將頭部節點1016連接至網路(例如,網際網路)及系統的其他組件兩者。可將計算節點(例如,計算節點1 1010及計算節點2 1008)及開關,諸如葉(葉1 1004及葉2 1006)及脊(例如,脊1 1012及脊2 1014)僅連接至頭部節點1016,所述頭部節點1016可為開關提供軟體以實施核心功能性。在一些實例中,刀鋒伺服器可用作頭部節點1016及計算節點(例如,計算節點1 1010及計算節點2 1008)。此外,機架可特徵化預定外觀尺寸(例如,1U外觀尺寸)中所含的多個具前端可服務的網路功能的儲存裝置(例如,固態磁碟機)艙室。在一些實施例中,儲存裝置可經設計用於所有快閃伺服器且最佳化給定外觀尺寸(例如,1U設計)。此外,機架可包含記憶體的雙插口處理器及雙倍資料速率4同步動態隨機存取記憶體(DDR4)雙直插記憶體組件(DIMM)以支援I/O密集型區域工作負荷,諸如即時分析及資料庫伺服器。
圖11A描繪根據本揭露的實例實施例的與網路架構的模型相關聯的實例連接及資料路徑的圖式。在一些實例中,圖式1100描繪典型機架的高階邏輯代表,所述典型機架包含:交換結構1102,具有四個開關(例如,脊1104及脊1106以及葉1108及葉1110);及計算組件1120,具有例如頭部節點1122及/或計算節點1124、計算節點1126(例如,x86伺服器)。此外,圖式1100包含資料平面連接1105(例如,40G資料平面連接1105)其中終端使用者訊務自存取裝置行進至都會區網路(經由路徑1107)。在一些實施例中,使用者訊務可取決於所需服務而橫穿不同的葉節點、脊節點以及計算節點,且節點關於裝置實體地安置。如所提及,開關可形成葉及脊結構。在一些實例中,可將計算節點(例如,計算節點1 1124及計算節點2 1126)及頭部節點(例如,頭部節點1 1122)連接至葉開關中的一個(例如,葉1 1108及/或葉2 1110)的端口。
圖11B描繪根據本揭露的實例實施例的與網路架構的模型相關聯的另一實例連接及資料路徑的圖式。特定言之,圖式1131繪示與圖式1100類似元件,但繪示用於終端使用者訊務自存取裝置橫穿至都會區網路的不同路徑1132。在一些實施例中,所揭露的系統能夠模型化節點與結構之間的各種路徑以捕獲用於網路架構的不同部分上的資料傳輸的不同資料平面。
圖12繪示可用於實踐本揭露的實施例的系統的實例示意圖。如圖12中所繪示,此特定實施例可包含一或多個管理計算實體1200、一或多個網路1205以及一或多個使用者裝置1210。這些組件、實體、裝置、系統以及本文中可互換地使用的類似字詞中的每一者可例如在相同或不同的有線網路或無線網路(例如,結合圖1繪示且描述的網路102,包含(但不限於)邊緣資料中心及/或核心資料中心)上方彼此直接或間接通信。另外,儘管圖12將各種系統實體示出為分開的獨立實體,但各種實施例不限於此特定架構。此外,管理計算實體1200可包含本文中所述的模型化組件及/或機器學習組件。如所提及,可使用本文中進一步描述的任何適合的協定(例如,5G網路協定)執行通信。
圖13繪示根據本揭露的實例實施例的管理計算實體的實例示意圖。此外,管理計算實體1300可包含內容組件、處理組件以及傳輸組件(未繪示)。特定言之,內容組件可用於判定指示待在本文中所述的網路架構上方傳輸的資料(例如,視訊、音訊、本文、資料、其組合及/或類似物)的信號。在另一實施例中,用以傳輸的信號的判定可例如基於對於裝置的使用者輸入、網路上的資料傳輸的預定排程、網路條件的變化以及類似物。在一個實施例中,信號可包含可封裝呈資料框(例如,5G資料框)形式的資料,其經組態以自網路上的一裝置發送至一或多個裝置。
在另一實施例中,處理元件1305可用於判定網路(例如,網路1205)上方傳輸的各種參數相關的資料。舉例而言,處理元件1305可用於在網路資料上運行模型,在網路資料上運行機器學習技術,判定待由網路架構的各種部分處理的工作負荷的分佈,其組合及/或類似物。
在一個實施例中,傳輸組件(未繪示)可用於將信號自網路上的一個裝置傳輸至另一裝置。舉例而言,傳輸組件可用於準備傳輸器(例如,下圖14的傳輸器1404)以在網路上方傳輸信號。舉例而言,傳輸組件可將資料排入一或多個緩衝器中,可確定傳輸裝置及相關傳輸器為機能性的且具有在網路上方傳輸信號的足夠功率,可調節與資料的傳輸相關聯的一或多種參數(例如,調變類型、信號放大、信號功率級、雜訊抑制、其組合及/或類似參數)。
一般而言,術語計算實體、電腦、實體、裝置、系統及/或本文中可互換地使用的類似字詞可指例如一或多種電腦、計算實體、桌上型電腦、移動電話、平板電腦、平板手機、筆記型電腦、膝上型電腦、分佈系統、遊戲控制台(例如Xbox、Play Station、Wii)、手錶、眼鏡、蘋果信標(iBeacons)、接近性信標、鑰煉(key fob)、無線射頻辨識系統(radio frequency identification;RFID)標籤、耳機、掃描器、電視、硬體鎖、相機、腕帶、可穿戴式物品/裝置、資訊站、輸入端子、伺服器或伺服器網路、刀鋒、閘道器、開關、處理裝置、處理實體、機上盒、中繼器、路由器、網路存取點、基地台、類似物及/或用以執行本文中所述的功能、操作及/或過程的裝置或實體的任何組合。此類功能、操作及/或過程可包含例如傳輸、接收、操作、處理、顯示、儲存、判定、產生(creating/generating)、監視、評估、比較及/或本文中可互換地使用的類似術語。在一個實施例中,可在資料、內容、資訊及/或本文中可互換地使用的類似術語上執行這些功能、操作及/或過程。
如所指示,在一個實施例中,管理計算實體1200亦可包含一或多個通信介面1320以與各種計算實體通信,諸如通信可在經處理、經顯示、經儲存及/或類似物上傳輸、接收、操作的資料、內容、資訊及/或本文中可互換地使用的類似術語。舉例而言,管理計算實體1200可與使用者裝置1210及/或多種其他計算實體通信。
如圖13中所繪示,在一個實施例中,管理計算實體1200可包含一或多個處理元件1305或與一或多個處理元件1305(亦稱為處理器、處理電路及/或本文中可互換地使用的類似術語)通信,所述一或多個處理元件1305經由例如匯流排與管理計算實體1200內的其他元件通信。如將理解,處理元件1305可以多種不同方式實施。舉例而言,處理元件1305可經實施為一或多種複合可程式化邏輯裝置(complex programmable logic devices;CPLD)、微處理器、多核處理器、共處理實體、特定應用指令集處理器(application-specific instruction-set processors;ASIP)、微控制器及/或控制器。此外,處理元件1305可經實施為一或多種其他處理裝置或電路。術語電路可指完全硬體實施例或硬體及電腦程式產品的組合。因此,處理元件1305可經實施為積體電路、特定應用積體電路(application specific integrated circuits;ASIC)、場可程式化閘陣列(field programmable gate arrays;FPGA)、可程式化邏輯陣列(programmable logic arrays;PLA)、硬體加速器、其他電路及/或類似物。因此將理解,處理元件1305可經組態以用於特定用途或經組態以執行儲存於揮發性或非揮發性媒體中的指令或另外可存取處理元件1305。因而,無論藉由硬體或電腦程式產品或藉由其組合進行組態,當因此組態時,處理元件1305可能夠根據本發明的實施例執行步驟或操作。
在一個實施例中,管理計算實體1200可更包含非揮發性媒體或與非揮發性媒體(亦稱為非揮發性儲存器、記憶體、記憶體儲存器、記憶體電路及/或本文中可互換地使用的類似術語)通信。在一個實施例中,非揮發性儲存器或記憶體可包含一或多種非揮發性儲存器或記憶體媒體1310,包含(但不限於)硬碟機、ROM、PROM、EPROM、EEPROM、快閃記憶體、MMC、SD記憶卡、記憶條、CBRAM、PRAM、FeRAM、NVRAM、MRAM、RRAM、SONOS、FJG RAM、千足蟲記憶體、軌道記憶體及/或類似物。如將認識到,非揮發性儲存器或記憶體媒體可儲存資料庫、資料庫個例、資料庫管理系統、資料、應用程式、程式、程式組件、腳本、原始碼、目標碼、位元組碼、編譯碼、解譯碼、機器碼、可執行指令及/或類似物。術語資料庫、資料庫個例、資料庫管理系統及/或本文中可互換地使用的類似術語可指儲存於使用一或多個資料庫模型的電腦可讀儲存媒體中的記錄或資料的集合,所述資料庫模型諸如階層式資料庫模型、網路模型、關連式模型、實體關係模型、目標模型、文獻模型、語義模型、圖表模型及/或類似模型。
在一個實施例中,管理計算實體1200可更包含揮發性媒體或與揮發性媒體(亦稱為揮發性儲存器、記憶體、記憶體儲存器、記憶體電路及/或本文中可互換地使用的類似術語)通信。在一個實施例中,揮發性儲存器或記憶體亦可包含一或多種揮發性儲存器或記憶體媒體1315,包含(但不限於)RAM、DRAM、SRAM、FPM DRAM、EDO DRAM、SDRAM、DDR SDRAM、DDR2 SDRAM、DDR3 SDRAM、RDRAM、TTRAM、T-RAM、Z-RAM、RIMM、DIMM、SIMM、VRAM、快取記憶體、暫存器記憶體及/或類似物。如將認識到,揮發性儲存器或記憶體媒體可用於儲存藉由例如處理元件1305執行的資料庫、資料庫個例、資料庫管理系統、資料、應用程式、程式、程式組件、腳本、原始碼、目標碼、位元組碼、編譯碼、解譯碼、機器碼、可執行指令及/或類似物中的至少部分。因此,資料庫、資料庫個例、資料庫管理系統、資料、應用程式、程式、程式組件、腳本、原始碼、目標碼、位元組碼、編譯碼、解譯碼、機器碼、可執行指令及/或類似物可用於在處理元件1305及運行系統的輔助下控制管理計算實體1200的操作的某些態樣。
如所指示,在一個實施例中,管理計算實體1200亦可包含一或多個通信介面1320以與各種計算實體通信,諸如通信可在經處理、經顯示、經儲存及/或類似物上傳輸、接收、操作的資料、內容、資訊及/或本文中可互換地使用的類似術語。此類通信可使用有線資料傳輸協定,諸如光纖分散式資料介面(fiber distributed data interface;FDDI)、數位用戶線(digital subscriber line;DSL)、乙太網、非同步傳輸模式(asynchronous transfer mode;ATM)、訊框中繼、纜上資料服務介面規格(data over cable service interface specification;DOCSIS)或任何其他有線傳輸協定來執行。類似地,管理計算實體1200可經組態以使用多種協定中的任一者經由無線外部通信網路來通信,所述協定諸如通用封包無線電服務(general packet radio service;GPRS)、全球行動電信系統(Universal Mobile Telecommunications System;UMTS)、分碼多工存取2000(Code Division Multiple Access 2000;CDMA2000)、CDMA2000 1X(1xRTT)、寬頻分碼多工存取(Wideband Code Division Multiple Access;WCDMA)、時分同步分碼多工存取(Time Division-Synchronous Code Division Multiple Access;TD-SCDMA);長期演進(Long Term Evolution;LTE);演進型通用陸地無線電存取網路(Evolved Universal Terrestrial Radio Access Network;E-UTRAN)、演進資料最佳化(Evolution-Data Optimized;EVDO)、高速封包存取(High Speed Packet Access;HSPA);高速下行鏈路封包存取(High-Speed Downlink Packet Access;HSDPA)、IEEE 802.11(Wi-Fi)、Wi-Fi直連、802.16(WiMAX)、超寬頻(ultra-wideband;UWB)、紅外線(infrared;IR)協定、近場通信(near field communication;NFC)協定、紫蜂(ZigBee)、藍牙協定、無線通用序列匯流排(wireless universal serial bus;USB)協定及/或任何其他無線協定。
儘管未繪示,但管理計算實體1200可包含一或多種輸入元件或與一或多種輸入元件通信,所述輸入元件諸如鍵盤輸入、滑鼠輸入、觸控式螢幕/顯示器輸入、運動輸入、移動輸入、音訊輸入、指標裝置輸入、操縱桿輸入、小鍵盤輸入及/或類似輸入。管理計算實體1200亦可包含一或多種輸出元件或與一或多種輸出元件(未繪示)通信,所述輸出元件諸如音訊輸出、視訊輸出、螢幕/顯示器輸出、運動輸出、移動輸出及/或類似輸出。
如將瞭解,管理計算實體1200的組件中的一或多者可遠離其他管理計算實體1200組件安置,諸如在分佈系統中。此外,組件中的一或多者可組合且管理計算實體1200中可包含執行本文中所描述功能的額外組件。因此,管理計算實體1200可用以適應多種需要及情形。如將認識到,這些架構及描述僅提供用於實例目的且並不限制各種實施例。
使用者可為個體、家庭、公司、組織、實體、組織內的部門、組織及/或人的代表及/或類似物。在一個實例中,使用者可為雇員、居民、顧客及/或類似物。舉例而言,使用者可操作使用者裝置1210,所述使用者裝置1210包含功能上與管理計算實體1200的組件類似的一或多種組件。
在各種態樣中,處理組件、傳輸組件及/或接收組件(未繪示)可經組態以在一或多者上操作,所述一或多者可包含管理計算實體1200的功能性的態樣,如此處結合圖12及圖13所繪示且描述。特定言之,處理組件、傳輸組件及/或接收組件可經組態以與一或多種處理元件1305、記憶體1310、揮發性記憶體1315通信,且可包含通信介面1320(例如,以便於裝置之間的通信)。
圖14繪示根據本揭露的實例實施例的使用者裝置的實例示意圖。圖14提供可與本揭露的實施例結合使用的使用者裝置1410的說明性示意性代表。一般而言,術語裝置、系統、計算實體、實體及/或本文中可互換地使用的類似字詞可指例如一或多種電腦、計算實體、桌上型電腦、移動電話、平板電腦、平板手機、筆記型電腦、膝上型電腦、分佈系統、遊戲控制台(例如Xbox、Play Station、Wii)、手錶、眼鏡、鑰煉、無線射頻辨識系統(RFID)標籤、耳機、掃描器、相機、腕帶、資訊站、輸入端子、伺服器或伺服器網路、刀鋒、閘道器、開關、處理裝置、處理實體、機上盒、中繼器、路由器、網路存取點、基地台、類似物及/或用以執行本文中所述的功能、操作及/或過程的裝置或實體的任何組合。使用者裝置1410可由各方操作。如圖14中所繪示,使用者裝置1410可包含天線1412、傳輸器1404(例如無線電)、接收器1406(例如無線電)以及處理元件1408(例如CPLD、微處理器、多核處理器、共處理實體、ASIP、微控制器及/或控制器),所述處理元件1408分別將信號提供至傳輸器1404且自接收器1406接收信號。
分別將信號提供至傳輸器1404且自接收器1406接收信號可包含根據可應用無線系統的空中介面標準的傳信資訊。就此而言,使用者裝置1410可能夠操作一或多種空中介面標準、通信協定、調變類型以及存取類型。更特定言之,使用者裝置1410可根據多種無線通信標準及協定,諸如上文關於管理計算實體1200所述的無線通信標準及協定來操作。在一特定實施例中,使用者裝置1410可根據多種無線通信標準及協定來操作,所述無線通信標準及協定諸如所揭露的IoT DOCSIS協定、UMTS、CDMA2000、1xRTT、WCDMA、TD-SCDMA、LTE、E-UTRAN、EVDO、HSPA、HSDPA、Wi-Fi、Wi-Fi直連、WiMAX、UWB、IR、NFC、藍牙、USB及/或類似物。類似地,使用者裝置1410可根據多種有線通信標準及協定,諸如上文關於管理計算實體1200所述的有線通信標準及協定經由網路介面1420來操作。
使用者裝置1410可經由這些通信標準及協定,使用諸如無結構輔助服務資料(Unstructured Supplementary Service Data;USSD)、短訊息服務(Short Message Service;SMS)、多媒體訊息處理服務(Multimedia Messaging Service;MMS)、雙音多頻傳信(Dual-Tone Multi-Frequency Signaling;DTMF)及/或用戶身分組件撥號器(Subscriber Identity Component Dialer;SIM撥號器)的概念來與各種其他實體通信。使用者裝置1410亦可下載改變、增加以及更新例如其韌體、軟體(例如,包含可執行指令、應用程式、程式組件)以及運行系統。
根據一個實施例,使用者裝置1410可包含位置判定態樣、裝置、組件、功能性及/或本文中可互換地使用的類似字詞。位置判定態樣可用於通知由管理計算實體使用的模型及本文中所描述的模型及/或機器學習技術中的一或多者。舉例而言,使用者裝置1410可包含戶外定位態樣,諸如用以獲取例如緯度、經度、海拔高度、地理編碼、路線(course)、方向、航向、速度、世界時間(universal time;UTC)、日期及/或各種其他資訊/資料的位置組件。在一個實施例中,位置組件可藉由識別視線中的衛星數目及那些衛星的相對位置來獲取資料,有時已知為星曆表資料。衛星可為多種不同衛星,包含低軌(Low Earth Orbit;LEO)衛星系統、美國國防部(Department of Defense;DOD)衛星系統、歐洲聯盟伽利略定位系統(the European Union Galileo positioning systems)、中國羅盤導航系統(the Chinese Compass navigation systems)、印度局部導航衛星系統(Indian Regional Navigational satellite systems)及/或類似衛星。替代地,可藉由結合多種其他系統,包含蜂巢式塔、Wi-Fi存取點及/或類似物三角量測使用者裝置1410的位置來判定位置資訊。類似地,使用者裝置1410可包含室內定位態樣,諸如用以獲取例如緯度、經度、海拔高度、地理編碼、路線、方向、航向、速度、時間、日期及/或各種其他資訊/資料的位置組件。室內系統中的一些可使用各種定位或位置科技,包含RFID標籤、室內信標或傳輸器、Wi-Fi存取點、蜂巢式塔、附近計算裝置(例如智慧型電話、膝上型電腦)及/或類似物。舉例而言,此類科技可包含蘋果信標、方向支架接近性信標、低功耗藍牙(Bluetooth Low Energy;BLE)傳輸器、NFC傳輸器及/或類似物。這些室內定位態樣可用於多種設定中以判定數吋或數公分內的某人或某物的位置。
使用者裝置1410亦可包括使用者介面(可包含耦合至處理元件1408的顯示器1416)及/或使用者輸入介面(耦合至處理元件1408)。舉例而言,使用者介面可為執行於使用者裝置1410上及/或可經由使用者裝置1410存取以與管理計算實體1200互動及/或使得顯示來自管理計算實體1200的資訊的使用者應用程式、瀏覽器、使用者介面及/或本文中可互換地使用的類似字詞,如本文中所述。使用者輸入介面可包括使得使用者裝置1410接收資料的多種裝置或介面中的任一者,諸如小鍵盤1418(硬性或軟性)、觸摸顯示器、語/音或運動介面或其他輸入裝置。在包含小鍵盤1418的實施例中,小鍵盤1418可包含(或使得顯示)常規數字(0至9)及相關鍵(#、*)以及用於操作使用者裝置1410的其他鍵,且可包含字母鍵全集或可經激活以提供文數字鍵全集的鍵集合。除提供輸入以外,使用者輸入介面亦可用於例如激活或去激活某些功能,諸如螢幕節省及/或睡眠模式。
使用者裝置1410亦可包含揮發性儲存器或記憶體1422及/或非揮發性儲存器或記憶體1424,所述揮發性儲存器或記憶體1422及/或非揮發性儲存器或記憶體1424可為嵌入式及/或可為可移除的。舉例而言,非揮發性記憶體可為ROM、PROM、EPROM、EEPROM、快閃記憶體、MMC、SD記憶卡、記憶條、CBRAM、PRAM、FeRAM、NVRAM、MRAM、RRAM、SONOS、FJG RAM、千足蟲記憶體、軌道記憶體及/或類似記憶體。揮發性記憶體可為RAM、DRAM、SRAM、FPM DRAM、EDO DRAM、SDRAM、DDR SDRAM、DDR2 SDRAM、DDR3 SDRAM、RDRAM、TTRAM、T-RAM、Z-RAM、RIMM、DIMM、SIMM、VRAM、快取記憶體、暫存器記憶體及/或類似記憶體。揮發性及非揮發性儲存器或記憶體可儲存資料庫、資料庫個例、資料庫管理系統、資料、應用程式、程式、程式組件、腳本、原始碼、目標碼、位元組碼、編譯碼、解譯碼、機器碼、可執行指令及/或類似物來實施使用者裝置1410的功能。如所指示,此可包含駐存於實體上或可經由瀏覽器或其他使用者介面存取以與管理計算實體1200及/或各種其他計算實體通信的使用者應用程式。
在另一實施例中,使用者裝置1410可包含與如上述更詳細地描述的管理計算實體1200的組件或功能性相同或類似的一或多種組件或功能性。如將認識到,這些架構及描述僅提供用於實例目的且並不限制各種實施例。
圖15為根據本揭露的實例實施例的操作所揭露的系統以判定工作負荷在網路架構上方的分佈的例示性方法1500的說明。在方塊1502處,所揭露的系統可自通信耦合至網路的主機接收工作負荷。在一些實施例中,主機可包含網際網路上的主機。在一些實例中,工作負荷可來源於連接至主機的裝置,例如請求特定服務(例如,視訊串流請求、搜尋請求、其組合及/或類似物)的使用者裝置(例如,行動電話)。在一些態樣中,自主機接收工作負荷可與上文結合圖1繪示且描述的過程類似但並非必須相同。
在方塊1504處,所揭露的系統可自邊緣資料中心接收工作負荷。類似於方塊1502,工作負荷可來源於連接至邊緣資料中心的裝置,例如請求特定服務(例如,視訊串流請求、搜尋請求、其組合及/或類似物)的使用者裝置(例如,行動電話)。在一些態樣中,自主機接收工作負荷可與上文結合圖3繪示且描述的過程類似但並非必須相同。
在方塊1506處,所揭露的系統可自核心資料中心接收工作負荷。類似於方塊1502及方塊1504,工作負荷可來源於連接至邊緣資料中心或核心資料中心的裝置,例如請求特定服務(例如,視訊串流請求、搜尋請求等)的使用者裝置(例如,行動電話)。在一些態樣中,自主機接收工作負荷可與上文結合圖2繪示且描述的過程類似但並非必須相同。
在一些實例中,所揭露的系統可例如以分解方式自主機、邊緣資料中心及/或核心資料中心中的任一者的組合接收工作負荷的一部分。舉例而言,請求服務的大於一個裝置可以點對點(peer-to-peer;P2P)連接來進行連接且可產生可在網路架構的不同部分(例如,主機、資料中心及/或核心資料中心)處接收的複合工作負荷。此外,所揭露的系統可將部分工作負荷請求彙總於管理計算實體(其自身可在網路架構上的任何適合的位置處部分地或完整地執行)處以供根據下文描述的操作進一步處理。
在方塊1508處,所揭露的系統可接收與核心資料中心及邊緣資料中心相關聯的網路參數。特定言之,所揭露的系統可採用本文中不同地繪示且描述的管理計算實體來監視網路架構以判定網路參數。在一些實施例中,所揭露的系統可攔截或另外存取在網路架構的各種部分上傳輸的原始資料且根據原始資料判定某些網路參數,包含(但不限於)資料速率、機器利用率及/或類似物,例如如上文結合圖7進一步繪示且描述。
在方塊1510處,所揭露的系統可基於網路參數來判定與核心資料中心及邊緣資料中心上執行的工作負荷相關聯的期望潛時。特定言之,所揭露的系統可使用如結合圖7至圖9進一步繪示且描述的模型來判定與工作負荷相關聯的潛時。潛時的非限制性實例可包含上文結合圖8繪示且描述的服務時間延遲,包含處理延遲及通信延遲。在一些實施例中,所揭露的系統可判定映射至實施特定協定(例如,5G網路協定)的特定網路架構(例如,MEC架構)的潛時。
在方塊1512處,所揭露的系統可視情況執行模型來判定針對邊緣資料中心或核心資料中心的路由傳送。特定言之,所揭露的系統可實施機器學習技術來判定針對邊緣資料中心或核心資料中心的最佳路由傳送。舉例而言,所揭露的系統可實施如結合圖4進一步繪示且描述的監督式機器學習技術或如結合圖5進一步繪示且描述的不受監督機器學習技術來判定將工作負荷路由傳送至邊緣資料中心或核心資料中心的預期分佈。在其他實例中,與機器學習方法相對或與機器學習方法組合,所揭露的系統可實施用於將工作負荷路由傳送至邊緣資料中心或核心資料中心的預定規則(例如,使用者指定策略)。
在方塊1514處,所揭露的系統可至少部分地基於期望潛時及網路參數來判定工作負荷對於核心資料中心或邊緣資料中心的分佈。特定言之,所揭露的系統可判定將工作負荷的第一部分傳輸至核心資料中心且將工作負荷的第二部分傳輸至邊緣資料中心,如表徵為經判定分佈。在一些實施例中,所揭露的系統可判定有可能減小網路架構的總潛時(例如,服務延遲)的分佈。在其他態樣中,所揭露的系統可進一步判定減小與網路架構相關聯的其他因素的分佈,所述因素包含(但不限於)網路的頻寬使用、網路或網路的部分的功率使用、其組合及/或類似物。
圖16A為根據本揭露的實例實施例的將工作負荷路由傳送至網路架構上方的核心資料中心及一或多個邊緣資料中心的所揭露的系統的例示性方法1600的說明。在方塊1602處,所揭露的系統可接收工作負荷及工作負荷的分佈。在一些實施例中,駐存於核心網路上的管理計算實體可接收工作負荷及分佈。如上文所提及,工作負荷可來源於連接至網際網路上的主機或核心資料中心的裝置,例如請求特定服務(例如,視訊串流請求、搜尋請求、其組合及/或類似物)的使用者裝置(例如,行動電話)。此外,可根據上文結合圖15所述且貫穿本揭露描述的模型化及/或機器學習技術的結果來判定工作負荷的分佈。在一實例中,可至少部分地基於與核心資料中心相關聯的第一程式化期望潛時與與邊緣資料中心相關聯的第二程式化期望潛時之間的超出預定臨限值的差值來判定分佈。
在方塊1604處,所揭露的系統可基於分佈將工作負荷的一部分及與工作負荷的一部分相關聯的資料路由傳送至一或多個邊緣資料中心。特定言之,所揭露的系統可將工作負荷的離散組件分解成模組化任務,產生與工作負荷的離散組件相關聯的一系列封包,以及視需要在網路架構上方將封包傳輸至網路的指定部分(例如,各種邊緣資料中心)。此外,所揭露的系統可藉由任何適當的標頭封裝離散組件用以在任何基礎網路媒體上方傳輸。舉例而言,所揭露的系統可藉由與第一網路協定(例如,5G協定)相關聯的第一元資料來封裝工作負荷的離散組件且可藉由與第二網路協定(例如,乙太網路協定)相關聯的第二元資料來封裝工作負荷的離散組件,以分別傳輸至第一邊緣資料中心及第二邊緣資料中心。
在方塊1606處,所揭露的系統可在核心資料中心處處理工作負荷的另一部分及與工作負荷的部分相關聯的資料。特定言之,所揭露的系統可保持工作負荷的一部分用於在核心資料中心處處理。舉例而言,在核心資料中心處處理的部分可需要相對較高級的計算資源,所述計算資源可為可在與邊緣資料中心相對的核心資料中心處獲得的。在一些實施例中,所揭露的系統可根據任何適合的服務層級協定(service level agreement;SLA)來處理工作負荷的部分。
在方塊1608處,所揭露的系統可彙總來自核心資料中心及邊緣資料中心的工作負荷的經處理部分。在一些實例中,所揭露的系統可包含用於工作負荷的不同部分的標籤,所述標籤反映網路的處理工作負荷的相應部分的部分(例如,核心資料中心或邊緣資料中心)。舉例而言,標籤可包含於與工作負荷的部分相關聯的元資料(例如,與表示工作負荷的部分的封包相關聯的元資料)中。因此,所揭露的系統可使用標籤來分類、過濾及/或彙總經處理部分。特定言之,所揭露的系統可自資料中心接收與第一部分相關聯的第一完成的工作負荷,及自邊緣資料中心接收與第二部分相關聯的第二完成的工作負荷,以及使用第一標籤或第二標籤來分類、過濾或彙總第一完成的工作負荷或第二完成的工作負荷。
在方塊1610處,所揭露的系統可將工作負荷的經彙總及處理的部分傳輸至至少一個裝置。在一些實施例中,所揭露的系統可將經彙總及處理的部分傳輸至與發起工作負荷請求裝置位於網路的類似或不同部分處的裝置。
圖16B為根據本揭露的實例實施例的將工作負荷路由傳送至網路架構上方的核心資料中心及一或多個邊緣資料中心的所揭露的系統的另一例示性方法1601的說明。在方塊1612處,所揭露的系統可接收工作負荷及工作負荷的分佈。在一些實施例中,駐存於邊緣網路上的管理計算實體可接收工作負荷及分佈。如上文所提及,工作負荷可來源於連接至網際網路上的主機或核心資料中心的裝置,例如請求特定服務(例如,視訊串流請求、搜尋請求等)的使用者裝置(例如,行動電話)。此外,可根據上文結合圖15所述且貫穿本揭露描述的模型化及/或機器學習技術的結果來判定工作負荷的分佈。
在方塊1614處,所揭露的系統可基於分佈將工作負荷的一部分及與工作負荷的部分相關聯的資料路由傳送至核心資料中心。如所提及,所揭露的系統可將工作負荷的離散組件分解成模組化任務,產生與工作負荷的離散組件相關聯的一系列封包,以及視需要在網路架構上方將封包傳輸至指定部分(例如,核心資料中心)。此外,所揭露的系統可藉由任何適當的標頭封裝離散組件用以在任何基礎網路媒體上方傳輸。舉例而言,所揭露的系統可藉由與第一網路協定(例如,5G類網路協定)相關聯的第一元資料來封裝工作負荷的離散組件且可藉由與第二網路協定(例如,乙太網路類網路協定)相關聯的第二元資料來封裝工作負荷的離散組件,以分別傳輸至第一核心資料中心及第二核心資料中心。
在方塊1616處,所揭露的系統可在一或多個邊緣資料中心處處理工作負荷的另一部分及與工作負荷的部分相關聯的資料。特定言之,所揭露的系統可保持工作負荷的一部分用於在邊緣資料中心處處理。舉例而言,在邊緣資料中心處處理的部分可需要相對較低層級的計算資源但減小的潛時,所述計算資源可為可在與核心資料中心相對的邊緣資料中心處獲得的。在一些實施例中,所揭露的系統可根據任何適合的SLA來處理工作負荷的部分。
在方塊1618處,所揭露的系統可彙總來自核心資料中心及邊緣資料中心的工作負荷的經處理部分。在一些實例中,如所提及,所揭露的系統可包含用於工作負荷的不同部分的標籤,所述標籤反映網路的處理工作負荷的相應部分的部分(例如,核心資料中心或邊緣資料中心)。舉例而言,標籤可包含於與工作負荷的部分相關聯的元資料(例如,與表示工作負荷的部分的封包相關聯的元資料)中。因此,所揭露的系統可使用標籤來分類、過濾及/或彙總經處理部分。
在方塊1620處,所揭露的系統可將工作負荷的經彙總及處理的部分傳輸至至少一個裝置。在一些實施例中,所揭露的系統可將經彙總及處理的部分傳輸至位於網路的與發起工作負荷請求裝置類似或不同部分處的裝置。
現轉向來自測試情況的實例結果,下文圖17、圖18以及圖19繪示當任務長度經分別設定為200 MI、3000 MI以及45000 MI時不同數目個行動裝置的實例視訊串流應用程式的服務潛時。特定言之,圖17繪示根據本揭露的實例實施例的y軸上用於視訊串流應用程式的雲端上的服務時間(以秒為單位)對比x軸上的行動裝置的數目的第一曲線圖1700。特定言之,第一曲線圖1700描繪曲線1706,所述曲線1706描繪用於任務大小為200 MI的2層及具有EO的2層兩者的服務時間。
圖17進一步繪示根據本揭露的實例實施例的y軸上的用於視訊串流應用程式的邊緣的服務時間(以秒為單位)對比x軸上的行動裝置的數目的第二曲線圖1701。特定言之,第二曲線圖1701描繪曲線1716,所述曲線1716描繪用於任務大小為200 MI的2層及具有EO的2層的服務時間。如可根據曲線1706及曲線1716所繪示,服務時間可一般隨著裝置的數目增大而對於雲端計算過程及邊緣計算過程兩者增加,然而,在實施邊緣編排器的2層MEC網路架構中,與雲端上的服務時間相比較,邊緣上的服務時間升高可為減小的。
圖18繪示根據本揭露的實例實施例的y軸上用於視訊串流應用程式的雲端上的服務時間(以秒為單位)對比x軸上的行動裝置的數目的第一曲線圖1800。特定言之,第一曲線圖1800描繪曲線1806,所述曲線1806描繪用於任務大小為3000 MI的2層及具有EO的2層兩者的服務時間。
圖18進一步繪示根據本揭露的實例實施例的y軸上的用於視訊串流應用程式的邊緣的服務時間(以秒為單位)對比x軸上的行動裝置的數目的第二曲線圖1801。特定言之,第二曲線圖1801描繪曲線1816,所述曲線1816描繪用於任務大小為3000 MI的2層及具有EO的2層的服務時間。同樣,如可根據曲線1806及曲線1816所繪示,服務時間可一般隨著裝置的數目增大而對於雲端計算過程及邊緣計算過程兩者增加,然而,在實施邊緣編排器的2層MEC網路架構中,與雲端上的服務時間相比較,邊緣上的服務時間升高可為減小的。
圖19繪示根據本揭露的實例實施例的y軸上用於視訊串流應用程式的雲端上的服務時間(以秒為單位)對比x軸上的行動裝置的數目的第一曲線圖1900。特定言之,第一曲線圖1900描繪曲線1906,所述曲線1906描繪用於任務大小為45000 MI的2層及具有EO的2層兩者的服務時間。
圖19進一步繪示根據本揭露的實例實施例的y軸上的用於視訊串流應用程式的邊緣的服務時間(以秒為單位)對比x軸上的行動裝置的數目的第二曲線圖1901。特定言之,第二曲線圖1901描繪曲線1916,所述曲線1916描繪用於任務大小為45000 MI的2層及具有EO的2層的服務時間。如可根據曲線1906及曲線1916所繪示,在實施邊緣編排器的2層MEC網路架構中,與雲端上的服務時間相比較,邊緣上的服務時間升高可為減小的。
根據圖17、圖18以及圖19的曲線圖中所描繪的測試結果,可觀察到在串流期間,當任務大小增大且需要額外流式傳輸效能時(諸如當請求高清晰度視訊串流時),雲端及邊緣兩者上的服務時間可同時增加。此外,邊緣上的服務時間似乎不僅主導,而且與雲端上的潛時增加相比較,其增加得更快。此外,當任務大小增大至45000 MI時,邊緣變得瓶頸;邊緣上的總服務潛時為至少約20倍高於雲端上的潛時。在此情況下,邊緣伺服器可造成大部分延遲。然而,EU的量似乎對雲端上的服務延遲具有較小影響,但對邊緣上的潛時仍具有線性的單調地逐漸增大的影響。此外,結果繪示當行動裝置的數目高於300時,邊緣上的具有EO的2層架構似乎較2層架構提供更低潛時,這是因為EO功能可以最佳化請求處理的均衡方法來將任務分佈於伺服器之間。
圖20繪示根據本揭露的實例實施例的y軸上的虛擬機(VM)利用(以百分比為單位)對比x軸上的IOPS的曲線圖2000。如上文所提及,可根據圖17、圖18以及圖19中所描繪的結果所提及,對於視訊串流應用程式中的相對較大的任務大小,邊緣資料中心可變得瓶頸。在一些實例中,由於LAN網路上方的通信可由5G網路決定,因此邊緣資料中心可例如在虛擬機(VM)上遭遇計算及儲存資源擁塞。
因此,如圖20的曲線圖中所繪示,可模型化對於服務時間的邊緣伺服器儲存效能影響。特定言之,曲線圖指示當待串流傳輸的任務大小相對較大且行動裝置數目亦相對較高時,隨機存取記憶體(RAM)及伺服器(例如,與邊緣資料中心相關聯的伺服器)中的快取可變得飽和的相對快速。假定當任務大小為3000 MI時記憶體及快取為飽和的,則儲存容量及IOPS效能可經調節以模型化用於如圖20中所繪示的此特定應用程式的CPU利用與磁碟IOPS之間的關係。特定言之,圖式繪示給定受限記憶體及快取,隨著磁碟IOPS增大,邊緣伺服器上的每一VM中的CPU利用亦增大。然而,此增加可能未必為線性的,這是因為每一處理器的CPU利用並未超出100%。另外,驅動活動有可能並不是使得CPU利用下降的唯一任務。諸如RAM存取、藉由視訊/音訊的通信以及網路活動的活動亦可減小CPU利用。在一些實施例中,一旦驅動活動達到驅動所造成的延遲明顯小於對於CPU的其他延遲的點,利用的增加率可飽和。
圖21繪示根據本揭露的實例實施例的z軸上的對於視訊串流應用程式的平均WAN延遲(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第一三維曲線圖2100。特定言之,第一曲線圖2100描繪曲線2106,所述曲線2106描繪對於2層MEC架構的平均WAN延遲。
圖21進一步繪示根據本揭露的實例實施例的z軸上的對於視訊串流應用程式的平均WAN延遲(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第二三維曲線圖2101。特定言之,第二曲線圖2101描繪曲線2116,所述曲線2116描繪對於具有EO的2層MEC架構的平均WAN延遲。
圖22繪示根據本揭露的實例實施例的z軸上的對於視訊串流應用程式的平均LAN延遲(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第一三維曲線圖2200。特定言之,第一曲線圖2200描繪曲線2206,所述曲線2206描繪對於2層MEC架構的平均LAN延遲。
圖22進一步繪示根據本揭露的實例實施例的z軸上的對於視訊串流應用程式的平均LAN延遲(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第二三維曲線圖2201。特定言之,第二曲線圖2201描繪曲線2216,所述曲線2216描繪對於具有EO的2層MEC架構的平均LAN延遲。
基於上文結合圖21及圖22繪示且描述的儲存效能模型,可證實EU的數目及邊緣伺服器磁碟IOPS對於WAN網路連接延遲(參見圖21)及LAN網路連接延遲(參見圖22)的效能的影響。特定言之,模型化當使用者的數目自100增加至1000時的情況以及當儲存IOPS增大時的情況。如圖21及圖22中所繪示,所揭露的系統可判定對於兩種2層架構的WAN潛時為LAN潛時的大致10倍。因此,當使用者的數目增加時,WAN延遲可增大。此外,當EU量相對較低時,WAN潛時可隨著更高磁碟IOPS而單調地增大。然而,當總體EU較高時,WAN延遲可首先減小且隨著磁碟IOPS增大而升高。當行動設備的量增加時且亦當IOPS增大時,LAN潛時可增大。
圖23繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的雲端上的處理時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第一三維曲線圖2300。特定言之,第一曲線圖2300描繪曲線2306,所述曲線2306描繪用於2層MEC架構的處理時間。
圖23進一步繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的雲端上的處理時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第二三維曲線圖2301。特定言之,第二曲線圖2301描繪曲線2316,所述曲線2316描繪用於具有EO的2層MEC架構的處理時間。
圖24繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的邊緣上的處理時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第一三維曲線圖2400。特定言之,第一曲線圖2400描繪曲線2406,所述曲線2406描繪用於2層MEC架構的處理時間。
圖24進一步繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的邊緣上的處理時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第二三維曲線圖2401。特定言之,第二曲線2416描繪用於具有EO的2層MEC架構的處理時間。
特定言之,圖23及圖24分別展示雲端及邊緣上的處理時間。根據圖23,可證實UE及儲存IOPS的變化對於雲端(亦即,核心資料中心)上的處理時間可具有最小影響。然而,邊緣資料中心上的處理時間可極大地主導整個計算潛時,所述處理時間可隨著EU的數目增加而增大且隨著IOPS變得更高而減小。
圖25繪示根據本揭露的實例實施例z軸上的用於視訊串流應用程式的雲端上的服務時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第一三維曲線圖2500。特定言之,第一曲線圖2500描繪曲線2506,所述曲線2506描繪用於2層MEC架構的服務時間。
圖25進一步繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的邊緣上的處理時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第二三維曲線圖2501。特定言之,第二曲線圖2501描繪曲線2516,所述曲線2516描繪用於具有EO的2層MEC架構的服務時間。
圖26繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的邊緣上的服務時間(以秒為單位)對比x軸上的磁碟IOPs以及y軸上的EU裝置的數目的第一三維曲線圖2600。特定言之,第一曲線圖2600描繪曲線2606,所述曲線2606描繪用於2層MEC架構的服務時間。
圖26進一步繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的邊緣上的服務時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的第二三維曲線圖2601。特定言之,第二曲線圖2601描繪曲線2616,所述曲線2616描繪對於用於EO的2層MEC架構的服務時間。
特定言之,圖25及圖26分別繪示雲端及邊緣上的服務時間的曲線圖。在一些態樣中,由於服務時間可包含來自通信延遲及計算延遲的總影響,因此圖23表示圖22及圖23兩者中所繪示的延遲,其中雲端(例如,核心資料中心)上的服務時間可主要由WAN網路連接延遲引起。類似地,邊緣上的服務時間表示圖22及圖24兩者中所繪示的延遲,且其主要由邊緣資料中心上的處理時間引起。總服務時間主要用於邊緣資料中心上,其示出邊緣上的潛時可變得瓶頸。
在各種態樣中,所揭露的系統可用於藉由最佳化邊緣計算平台來改善MEC架構上的潛時以支援5G網路。所揭露的系統可模型化對於二層MEC結構及具有LB結構的二層MEC的邊緣計算潛時的儲存效能影響。此外,本文不同地描述對於源於視訊串流的實例使用情況的儲存效能的潛時的影響。
可以一個硬體、韌體以及軟體或硬體、韌體以及軟體的組合實施某些實施例。其他實施例亦可實施為儲存於電腦可讀儲存裝置上的指令,所述指令可由至少一個處理器讀取並執行以執行本文中所描述的操作。電腦可讀儲存裝置可包含用於儲存呈可由機器(例如,電腦)讀取形式的資訊的任何非暫時性記憶體機制。舉例而言,電腦可讀儲存裝置可包含唯讀記憶體(ROM)、隨機存取記憶體(RAM)、磁碟儲存媒體、光學儲存媒體、快閃記憶體裝置以及其他儲存裝置及媒體。
本文中所用的字語「例示性」意謂「充當實例、例子或說明」。本文中描述為「例示性」的任何實施例不必解釋為比其他實施例更佳或更有利。如本文中所用的術語「計算裝置」、「使用者裝置」、「通信台」、「台」、「手持型裝置」、「行動裝置」、「無線裝置」以及「使用者設備」(UE)是指無線通信裝置,諸如蜂巢式電話、智慧型電話、平板電腦、筆記型電腦、無線終端機、膝上型電腦、超微型小區、高資料速率(High Data Rate;HDR)用戶台、存取點、列印機、銷售點裝置、存取終端機或其他個人通信系統(personal communication system;PCS)裝置。裝置可為行動或固定的。
如在本文檔內所使用,術語「通信」意欲包含傳輸或接收或傳輸及接收兩者。當描述由一種裝置傳輸且由另一裝置接收的資料組織時,此可特別適用於申請專利範圍中,但需要那些裝置中的一者的僅功能性違反申請專利範圍。類似地,當僅主張那些裝置中的一者的功能性時,兩種裝置之間的資料的雙向交換(兩種裝置在交換期間傳輸且接收)可描述為『通信』。如本文中關於無線通信信號所使用的術語「通信」包含傳輸無線通信信號及/或接收無線通信信號。舉例而言,能夠通信無線通信信號的無線通信單元可包含用以將無線通信信號傳輸至至少一個其他無線通信單元的無線傳輸器,及/或用以自至少一個其他無線通信單元接收無線通信信號的無線通***。
一些實施例可結合例如以下各者的各種裝置及系統一起使用:個人電腦(Personal Computer;PC)、桌上型電腦、行動電腦、膝上型電腦、筆記型電腦、平板電腦、伺服器電腦、手持式電腦、手持式裝置、個人數位助理(Personal Digital Assistant;PDA)裝置、手持式PDA裝置、機載裝置、非機載裝置(off-board device)、混合式裝置、車載裝置、非車載裝置、行動或攜帶型裝置、消費型裝置、非行動或非攜帶型裝置、無線通信台、無線通信裝置、無線存取點(wireless Access Point;AP)、有線或無線路由器、有線或無線數據機、視訊裝置、音訊裝置、音訊視訊(audio-video;A/V)裝置、有線或無線網路、無線區域網路、無線視訊區域網路(Wireless Video Area Network;WVAN)、區域網路(LAN)、無線LAN(WLAN)、個人區域網路(Personal Area Network;PAN)、無線PAN(Wireless PAN;WPAN)以及類似物。
一些實施例可結合如下裝置一起使用:單向及/或雙向無線電通信系統、蜂巢式無線電電話通信系統、行動電話、蜂巢式電話、無線電話、個人通信系統(Personal Communication System;PCS)裝置、併入無線通信裝置中的PDA裝置、行動或攜帶型全球定位系統(Global Positioning System;GPS)裝置、併有GPS接收器或收發器或晶片的裝置、併有RFID元件或晶片的裝置、多輸入多輸出(Multiple Input Multiple Output;MIMO)收發器或裝置、單輸入多輸出(Single Input Multiple Output;SIMO)收發器或裝置、多輸入單輸出(Multiple Input Single Output;MISO)收發器或裝置、具有一或多個內部天線及/或外部天線的裝置、數位視訊廣播(Digital Video Broadcast;DVB)裝置或系統、多標準無線電裝置或系統、有線或無線手持式裝置(例如,智慧型電話)、無線應用協定(Wireless Application Protocol;WAP)裝置或類似裝置。
一些實施例可結合一或多種類型的無線通信信號及/或系統,根據一或多種無線通信協定使用,例如,射頻(Radio Frequency;RF)、紅外(Infra Red;IR)、頻分多工(Frequency-Division Multiplexing;FDM)、正交FDM(Orthogonal FDM;OFDM)、時分多工(Time-Division Multiplexing;TDM)、時分多工存取(Time-Division Multiple Access;TDMA)、擴展TDMA(Extended TDMA;E-TDMA)、通用封包無線電服務(General Packet Radio Service;GPRS)、擴展GPRS、碼分多工存取(Code-Division Multiple Access;CDMA)、寬頻CDMA(Wideband CDMA;WCDMA)、CDMA 2000、單載波CDMA、多載波CDMA、多載波調變(Multi-Carrier Modulation;MDM)、離散多音調(Discrete Multi-Tone;DMT)、BluetoothÒ、全球定位系統(Global Positioning System;GPS)、Wi-Fi、Wi-Max、ZigBeeTM
、超寬頻(Ultra-Wideband;UWB)、全球行動通信系統(Global System for Mobile communication;GSM)、2G、2.5G、3G、3.5G、4G、第五代(5G)行動網路、3GPP、長期演進(Long Term Evolution;LTE)、LTE進階、GSM演進增強資料速率(Enhanced Data rates for GSM Evolution;EDGE)或類似物。可在各種其他裝置、系統及/或網路中使用其他實施例。
儘管上文已描述實例處理系統,但本文中所述的主題及功能性操作的實施例可以其他類型的數位電子電路或以電腦軟體、韌體或硬體(包含本說明書中所揭示的結構及其結構性等效物)或以其中的一或多者的組合實施。
本文中所述的主題及操作的實施例可以數位電子電路、或以電腦軟體、韌體或硬體(包含本說明書中所揭示的結構及其結構性等效物)或以其中的一或多者的組合實施。本文所描述的主題的實施例可實施為一或多種電腦程式,亦即電腦程式指令之一或多個組件,在用於由資訊/資料處理裝置執行的電腦儲存媒體上編碼或控制資訊/資料處理裝置的操作。替代地或另外,程式指令可經編碼於人工產生的傳播信號,例如機器產生的電、光學或電磁信號上,其經產生以編碼資訊/資料以用於傳輸至適合的接收器設備以用於由資訊/資料處理設備執行。電腦儲存媒體可為以下或包含於以下中:電腦可讀儲存裝置、電腦可讀儲存基板、隨機或串列存取記憶體陣列或裝置或中的一或多者的組合。此外,當電腦儲存媒體並非傳播信號時,電腦儲存媒體可為編碼於人工產生的傳播信號中的電腦程式指令的來源或目的地。電腦儲存媒體亦可為一或多種單獨的實體組件或媒體(例如多種、CD、磁碟或其他儲存裝置)或包含於一或多種單獨的實體組件或媒體中。
本文中所述的操作可實施為由資訊/資料處理設備在儲存於一或多個電腦可讀儲存裝置上或自其他來源接收到的資訊/資料上執行的操作。
術語「資料處理設備」涵蓋所有類型的設備、裝置以及機器以用於處理資料,包含例如可程式化處理器、電腦、系統單晶片,或前述各者中的多個或其組合。設備可包含專用邏輯電路,例如場可程式化閘極陣列(field programmable gate array;FPGA)或特殊應用積體電路(application-specific integrated circuit;ASIC)。除硬體以外,設備亦可包含產生用於所述電腦程式的執行環境的程式碼,例如構成處理器韌體、協定堆迭、資料庫管理系統、運行系統、交叉平台運行時間環境、虛擬機或其中的一或多者的組合的程式碼。設備及執行環境可實現各種不同計算模型基礎結構,諸如網路服務、分佈計算以及柵格計算基礎結構。
電腦程式(亦稱為程式、軟體、軟體應用程式、指令碼或程式碼)可以任何程式化語言形式撰寫,包含經編譯或解譯語言、宣告式或程序語言,且其可以任何形式部署,包含作為獨立程式或作為適合於在計算環境中使用的組件、次常式、目標或其他單元。電腦程式可(但無需)對應於檔案系統中的檔案。可將程式儲存於保存其他程式或資訊/資料(例如,儲存於標示語言文件中的一或多個腳本)的檔案的一部分中、儲存於專用於所討論的程式的單一檔案中,或儲存於多個協調檔案(例如,儲存一或多個組件、子程式或部分程式碼的檔案)中。電腦程式可經部署以在一台電腦上或在位於一個位點或跨多個位點分佈且由通信網路互連的多台電腦上執行。
本文中描述的過程及邏輯流程可由一或多個可程式化處理器執行,所述可程式化處理器執行一或多個電腦程式以藉由在輸入資訊/資料上操作且產生輸出來執行動作。適用於執行電腦程式的處理器包含例如通用微處理器及專用微處理器兩者,及任何種類的數位電腦的任何一或多個處理器。一般而言,處理器將自唯讀記憶體或隨機存取記憶體或兩者接收指令及資訊/資料。電腦的基本元件為用於根據指令執行動作的處理器及用於儲存指令及資料的一或多種記憶體裝置。一般而言,電腦亦將包含用於儲存資料的一或多個大容量儲存裝置,例如磁碟、磁光碟或光碟,或可操作地耦合至所述一或多個大容量儲存裝置以自其接收資訊/資料,或將資訊/資料轉移至所述一或多個大容量儲存裝置,或二者皆有。然而,電腦無需具有此類裝置。適用於儲存電腦程式指令及資訊/資料的裝置包含所有形式的非揮發性記憶體、媒體及記憶體裝置,包含例如半導體記憶體裝置,例如EPROM、EEPROM以及快閃記憶體裝置;磁碟,例如內部硬碟及可移式磁碟;磁光碟;以及CD-ROM磁碟及DVD-ROM磁碟。處理器及記憶體可由專用邏輯電路補充或併入於專用邏輯電路中。
為提供與使用者的互動,本文所描述的主題的實施例可實施於具有顯示裝置的電腦上,例如陰極射線管(cathode ray tube;CRT)或液晶顯示器(liquid crystal display;LCD)監視器以向使用者顯示資訊/資料,及鍵盤及指標裝置,例如滑鼠或軌跡球,藉以使用者可將輸入提供至電腦。其他種類的裝置亦可用以提供與使用者的互動;例如,提供給使用者的回饋可為任何形式的感官回饋(例如,視覺回饋、聽覺回饋或觸覺回饋);且來自使用者的輸入可以任何形式接收,包含聲學、話音或觸覺輸入。另外,電腦可藉由將文獻發送至由使用者使用的裝置及自所述裝置接收文獻來與使用者互動;例如藉由回應於自網頁瀏覽器接收到的請求而將網頁發送至使用者的客戶端裝置上的網頁瀏覽器。
本文所描述之主題的實施例可以計算系統實施,所述計算系統包含後端組件,例如呈資訊/資料伺服器形式;或包含中間組件,例如呈應用程式伺服器形式;或包含前端組件,例如具有使用者可經由其與本文所描述的主題的實施例互動的圖形使用者介面或網路瀏覽器的客戶端電腦;或一或多種此類後端組件、中間組件或前端組件的任何組合。所述系統的組件可由任何形式或媒體的數位資訊/數位資料通信(例如,通信網路)互連。通信網路的實例包含區域網路(「LAN」)及廣域網路(「WAN」)、網間網路(例如,網際網路)以及點對點網路(例如,特用點對點網路)。
計算系統可包含客戶端及伺服器。客戶端及伺服器一般彼此遠離且通常經由通信網路互動。客戶端與伺服器的關係藉助於在相應電腦上運行且彼此具有客戶端-伺服器關係的電腦程式產生。在一些實施例中,伺服器將資訊/資料(例如HTML頁)傳輸至客戶端裝置(例如,出於向與客戶端裝置互動的使用者顯示資訊/資料且自與客戶端裝置互動的使用者接收使用者輸入的目的)。可自伺服器處的客戶端裝置接收客戶端裝置處產生的資訊/資料(例如,使用者互動的結果)。
儘管本說明書含有諸多特定實施例細節,但這些細節不應視為任何實施例或可能主張的範疇的限制,而應認作特定針對於特定實施例的特徵的描述。在單獨實施例的上下文中的本文中所述的某些特徵亦可以組合形式實施於單一實施例中。相反地,在單個實施例的上下文中所述的各種特徵亦可分別在多個實施例中實施或以任何適合子組合來實施。此外,儘管上文可將特徵描述為以某些組合起作用且甚至最初按此來主張,但來自所主張組合的一或多個特徵在一些情況下可自所述組合刪除,且所主張組合可針對子組合或子組合的變化。
類似地,儘管在圖式中以特定次序來描繪操作,但不應將此理解為需要以所繪示的特定次序或以順序次序執行此等操作,或執行所有所示出操作以達成合乎需要的結果。在某些情形中,多任務及並行處理可為有利的。此外,上述實施例中的各種系統組件的分離不應理解為在所有實施例中要求此類分離,且應理解,所描述程式組件及系統一般可一起整合於單個軟體產品中或封裝至多個軟體產品中。
因此,已描述主題的特定實施例。其他實施例在以下申請專利範圍的範疇內。在一些情況下,申請專利範圍中敍述的動作可以不同次序執行且仍達成所要結果。另外,附圖中所描繪的過程不一定需要所繪示的特定順序或依序順序來達成所要結果。在某些實施例中,多任務及並行處理可為有利的。
得益於前文描述內容及關聯圖式中呈現的教示的熟習這些實施例相關的所屬領域的技術人員將瞭解本文中所闡述的本揭露的許多修改及其他實施例。因此,應理解,實施例不限於所揭露的特定實施例,且修改及其他實施例意欲包含於附加申請專利範圍的範疇內。雖然本文中使用特定術語,但其僅以通用及描述意義且不出於限制的目的使用。
100、200、300、400、500、700、800、902、1000、1100:圖式
102、402、502、622、1205:網路
103、201、301:第一資料傳輸
104:主機
105:第二資料傳輸
106、114、116、118、122、124、126、132、134、136、616:裝置
108、208、308、410、510、601、910、1200、1300:管理計算實體
110:核心資料中心
112:邊緣資料中心/裝置
120:邊緣資料中心
130:行動邊緣資料中心
401、501:訓練組件
403、503:推理組件
404、420、504、520:網路參數
406:標記
408、508:特徵向量
412、512:機器學習組件
414、514、602:處理器
416、516、604:記憶體
422、522:特徵向量
424:預測模型
426、526:預期分佈
524、702:模型
600:系統
606:網路監視組件
608:通信組件
610:計算組件
611:系統匯流排
612:路由傳送組件
614:伺服器
704:雲端計算部分
706:加載平衡器部分
708:邊緣計算部分
710:使用者裝置部分
712:輸入參數
714:輸出參數
802:服務時間
804:處理延遲
806:通信延遲
808:邊緣處理
810:雲端處理
812:WAN延遲
814:LAN延遲
904:行動用戶端
906:邊緣處理時間/MEC模擬器
908:雲端處理時間
911:蔔氏過程
912:指數分佈
914:工作負荷
1002:機架
1004、1108:葉1
1006、1110:葉2
1008、1126:計算節點2
1010、1124:計算節點1
1012:脊1
1014:脊2
1016、1122:頭部節點
1018:產生機器
1102:交換結構
1104、1106:脊
1105:資料平面連接
1107、1132:路徑
1210、1410:使用者裝置
1305:處理元件
1310:記憶體
1315、1422:揮發性記憶體
1320:通信介面
1404:傳輸器
1406:接收器
1408:處理元件
1412:天線
1416:顯示器
1418:小鍵盤
1420:網路介面
1424:非揮發性記憶體
1500、1600、1601:方法
1502、1504、1506、1508、1510、1512、1514、1602、1604、1606、1608、1610、1612、1614、1616、1618、1620:方塊
1700、1800、1900:第一曲線圖
1701、1801、1901:第二曲線圖
1706、1716、1806、1816、1906、1916、2106、2116、2206、2216、2306、2316、2406、2416、2506、2516、2606、2616:曲線
2000:曲線圖
2100、2200、2300、2400、2500、2600:第一三維曲線圖
2101、2201、2301、2401、2501、2601:第二三維曲線圖
將在鑒於相同數字指示類似或相同元件的以下圖式來閱讀本申請案時,更好地理解上文所提及的態樣及本發明技術的其他態樣:
圖1描繪根據本揭露的實例實施例的代表性網路架構的圖式,其中所揭示的實施例的態樣可結合第一拓樸操作,所述第一拓樸包含通信耦合至網路的管理計算實體。
圖2描繪根據本揭露的實例實施例的圖1的代表性網路架構的另一圖式,其中所揭示的實施例的態樣可結合第二拓樸操作,所述第二拓樸包含通信耦合至核心資料中心的管理計算實體。
圖3描繪根據本揭露的實例實施例的圖1的代表性網路架構的另一圖式,其中所揭示的實施例的態樣可結合第三拓樸操作,所述第三拓樸包含通信耦合至邊緣資料中心的管理計算實體。
圖4描繪根據本揭露的實例實施例的示出所揭示的系統可如何實施監督式機器學習方法的圖式,所述監督式機器學習方法用於判定工作負荷跨網路架構的不同部分的分佈。
圖5描繪根據本揭露的實例實施例的示出所揭示的系統可如何實施不受監督機器學習方法的圖式,所述不受監督機器學習方法用於判定工作負荷跨網路架構的不同部分的分佈。
圖6描繪根據本揭露的實例實施例的表示包含網路監視組件;計算組件;以及路由組件的管理計算實體的系統的圖式,所述管理計算實體可執行與網路、伺服器以及使用者裝置相關聯的所揭示實施例的各種操作以跨網路架構的不同部分最佳地分佈工作負荷。
圖7描繪根據本揭露的實例實施例的用於基於各種實例輸入網路參數來判定各種實例網路參數的模型的圖式,所述實例網路參數包含例示性網路架構的網路潛時及主機級效能度量。
圖8描繪根據本揭露的實例實施例的與網路架構的不同部分相關聯的一些實例潛時(例如,通信潛時及處理潛時)的圖式,所述潛時可共同地造成網路架構上執行的請求及/或工作負荷的總服務時間延遲。
圖9描繪根據本揭露的實例實施例的用於藉由使用例示性數學過程來判定諸如潛時的實例網路參數以表示網路架構的各部分上的通信的某些特徵的模型的各種態樣的圖式。
圖10描繪根據本揭露的實例實施例的機架(例如,伺服器的一部分)的圖式,所述機架用於例如使用管理計算實體來實施所揭示的模型及本文中所描述的技術的至少部分。
圖11A描繪根據本揭露的實例實施例的與所揭露的系統及模型結合例示性網路架構的至少部分相關聯及/或由所揭露的系統及模型結合例示性網路架構的至少部分使用的實例連接及資料路徑的圖式。
圖11B描繪根據本揭露的實例實施例的與所揭露的系統及模型結合例示性網路架構的至少部分相關聯及/或由所揭露的系統及模型結合例示性網路架構的至少部分使用的其他實例連接及資料路徑的圖式。
圖12繪示系統的實例示意圖,所述系統示出可結合本揭露的各種實施例使用的各種裝置。
圖13繪示根據本揭露的實例實施例的可結合本揭露的各種實施例使用的管理計算實體的某些態樣的實例示意圖。
圖14繪示根據本揭露的實例實施例的可結合本揭露的各種實施例使用的實例裝置(例如,使用者裝置,諸如行動裝置)的實例示意圖。
圖15為根據本揭露的實例實施例的操作所揭露的系統以例如藉由管理計算實體的計算組件來判定工作負荷在網路架構上方的分佈的例示性方法的說明。
圖16A為根據本揭露的實例實施例的用於例如藉由管理計算實體的路由組件來將工作負荷路由傳送至網路架構上方的核心資料中心及一或多個邊緣資料中心的所揭露的系統的例示性方法的說明。
圖16B為根據本揭露的實例實施例的例如藉由管理計算實體的路由組件來將工作負荷路由傳送至網路架構上方的核心資料中心及一或多個邊緣資料中心的所揭露系統的另一例示性方法的說明。
圖17繪示根據本揭露的實例實施例的針對第一數目的使用者裝置的y軸上的用於視訊串流應用程式的雲端上的服務時間(以秒為單位)對比x軸上的移動裝置的數目的曲線圖。
圖18繪示根據本揭露的實例實施例的針對第二數目個使用者裝置的y軸上的用於視訊串流應用程式的雲端上的服務時間(以秒為單位)對比x軸上的移動裝置的數目的額外曲線圖。
圖19繪示根據本揭露的實例實施例的針對第三數目個使用者裝置的y軸上的用於視訊串流應用程式的雲端上的服務時間(以秒為單位)對比x軸上的移動裝置的數目的額外曲線圖。
圖20繪示根據本揭露的實例實施例的y軸上的虛擬機(VM)利用(以百分比為單位)對比x軸上的依序讀取輸入/輸出操作/秒(read input/output operations per second;IOPS)的曲線圖。
圖21繪示根據本揭露的實例實施例的z軸上的對於視訊串流應用程式的平均廣域網路(wide area network;WAN)延遲(以秒為單位)對比x軸上的磁碟IOPs及y軸上的終端使用者(end user;EU)裝置的數目的三維曲線圖。
圖22繪示根據本揭露的實例實施例的z軸上的對於視訊串流應用程式的平均區域網路(local area network;LAN)延遲(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的三維曲線圖。
圖23繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的雲端上的處理時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的三維曲線圖。
圖24繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的邊緣(例如,邊緣資料中心)上的處理時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的三維曲線圖。
圖25繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的雲端上的服務時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的三維曲線圖。
圖26繪示根據本揭露的實例實施例的z軸上的用於視訊串流應用程式的邊緣上的服務時間(以秒為單位)對比x軸上的磁碟IOPs及y軸上的EU裝置的數目的三維曲線圖。
雖然本發明技術易受各種修改及替代形式影響,但在附圖中藉助於實例繪示其特定實施例,且將在本文中對其進行描述。圖式可並非按比例的。然而,應理解,圖式及其詳細描述不意欲將本發明技術限制於所揭露的特定形式,但相反,意欲涵蓋在如由所附申請專利範圍所界定的本發明技術的精神及範疇內的所有修改、等效物以及替代例。
1502、1504、1506、1508、1510、1512、1514:方塊
Claims (20)
- 一種用於網路最佳化的裝置,所述裝置包括: 至少一記憶體裝置,儲存電腦可執行指令;及 至少一處理器,經組態以存取所述至少一記憶體裝置,其中所述至少一處理器經組態以執行所述電腦可執行指令以: 判定與網路架構相關聯的網路參數,所述網路架構包括資料中心及邊緣資料中心; 使用所述網路參數來判定與所述資料中心相關聯的第一程式化期望潛時及與所述邊緣資料中心相關聯的第二程式化期望潛時;以及 至少部分地基於所述第一程式化期望潛時或所述第二程式化期望潛時之間的差值來判定待路由傳送於所述資料中心與所述邊緣資料中心之間的工作負荷的分佈。
- 如請求項1所述的裝置,其中所述網路參數包括以下中的至少一者:使用百分比、核心資料中心選擇可能性、延遲靈敏度值、資料上傳量、資料下載量、處理器使用需求或虛擬機(virtual machine;VM)利用。
- 如請求項1所述的裝置,其中所述判定是使用機器學習技術執行,所述機器學習技術包括監督式機器學習技術或不受監督機器學習技術中的至少一者,所述機器學習技術更包括長短期記憶(long short term memory;LSTM)神經網路、遞迴神經網路、延時類神經網路或前饋神經網路中的至少一者。
- 如請求項1所述的裝置,其中至少部分地基於超出預定臨限值的差值來判定所述分佈。
- 如請求項1所述的裝置,其中基於所述差值調節以下中的至少一者:(1)與往返於所述資料中心的資料訊務相關聯的傳輸速率,(2)與往返於所述邊緣資料中心的資料訊務相關聯的傳輸速率,(3)與往返於與所述邊緣資料中心相關聯的裝置的資料訊務相關聯的傳輸速率,或(4)與往返於與所述資料中心相關聯的裝置的資料訊務相關聯的傳輸速率。
- 如請求項1所述的裝置,其中所述至少一處理器進一步經組態以用第一標籤標記所述工作負荷的至少第一部分,所述第一標籤指示待將所述第一部分路由傳送至所述資料中心,且所述至少一處理器經組態以用第二標籤標記所述工作負荷的至少第二部分,所述第二標籤指示待將所述第二部分路由傳送至所述邊緣資料中心。
- 如請求項6所述的裝置,其中所述至少一處理器進一步經組態以:(1)自所述資料中心接收與所述第一部分相關聯的第一完成的工作負荷,及(2)自所述邊緣資料中心接收與所述第二部分相關聯的第二完成的工作負荷,以及(3)使用所述第一標籤或所述第二標籤來分類、過濾或彙總所述第一完成的工作負荷或所述第二完成的工作負荷。
- 如請求項7所述的裝置,其中所述至少一處理器經組態以使得將至少所述第一完成的工作負荷或所述第二完成的工作負荷傳輸至所述網路架構上的第二裝置。
- 一種用於網路最佳化的方法,所述方法包括: 判定與網路架構相關聯的網路參數,所述網路架構包括資料中心及邊緣資料中心; 使用所述網路參數來判定與所述資料中心相關聯的第一程式化期望潛時及與所述邊緣資料中心相關聯的第二程式化期望潛時;以及 至少部分地基於所述第一程式化期望潛時或所述第二程式化期望潛時之間的差值來判定待路由傳送於所述資料中心與所述邊緣資料中心之間的工作負荷的分佈。
- 如請求項9所述的方法,其中所述網路參數包括以下中的至少一者:使用百分比、核心資料中心選擇可能性、延遲靈敏度值、資料上傳量、資料下載量、處理器使用需求或虛擬機(VM)利用。
- 如請求項9所述的方法,其中所述判定是使用機器學習技術執行,所述機器學習技術包括監督式機器學習技術或不受監督機器學習技術中的至少一者,所述機器學習技術更包括長短期記憶(long short term memory;LSTM)神經網路、遞迴神經網路、延時類神經網路或前饋神經網路中的至少一者。
- 如請求項9所述的方法,其中至少部分地基於超出預定臨限值的差值來判定所述分佈。
- 如請求項9所述的方法,其中所述方法更包括基於所述差值調節以下中的至少一者:(1)與往返於所述資料中心的資料訊務相關聯的傳輸速率,(2)與往返於所述邊緣資料中心的資料訊務相關聯的傳輸速率,(3)與往返於與所述邊緣資料中心相關聯的裝置的資料訊務相關聯的傳輸速率,或(4)與往返於與所述資料中心相關聯的裝置的資料訊務相關聯的傳輸速率。
- 如請求項9所述的方法,其中所述方法更包括:用第一標籤標記所述工作負荷的至少第一部分,所述第一標籤指示待將所述第一部分路由傳送至所述資料中心;且用第二標籤標記所述工作負荷的至少第二部分,所述第二標籤指示待將所述第二部分路由傳送至所述邊緣資料中心。
- 如請求項14所述的方法,所述方法更包括:(1)自所述資料中心接收與所述第一部分相關聯的第一完成的工作負荷,及(2)自所述邊緣資料中心接收與所述第二部分相關聯的第二完成的工作負荷,以及(3)使用所述第一標籤或所述第二標籤來分類、過濾或彙總所述第一完成的工作負荷或所述第二完成的工作負荷。
- 如請求項15所述的方法,所述方法更包括將至少所述第一完成的工作負荷或所述第二完成的工作負荷傳輸至所述網路架構上的第二裝置。
- 一種儲存電腦可執行指令的非暫時性電腦可讀媒體,所述電腦可執行指令在由處理器執行時使得所述處理器執行操作,所述操作包括: 判定與網路架構相關聯的網路參數,所述網路架構包括資料中心及邊緣資料中心; 使用所述網路參數來判定與所述資料中心相關聯的第一程式化期望潛時及與所述邊緣資料中心相關聯的第二程式化期望潛時;以及 至少部分地基於所述第一程式化期望潛時或所述第二程式化期望潛時之間的差值來判定待路由傳送於所述資料中心與所述邊緣資料中心之間的工作負荷的分佈。
- 如請求項17所述的非暫時性電腦可讀媒體,其中所述網路參數包括以下中的至少一者:使用百分比、核心資料中心選擇可能性、延遲靈敏度值、資料上傳量、資料下載量、處理器使用需求或虛擬機(VM)利用。
- 如請求項17所述的非暫時性電腦可讀媒體,其中所述判定是使用機器學習技術執行,所述機器學習技術包括監督式機器學習技術或不受監督機器學習技術中的至少一者,所述機器學習技術更包括長短期記憶(LSTM)神經網路、遞迴神經網路、延時類神經網路或前饋神經網路中的至少一者。
- 如請求項17所述的非暫時性電腦可讀媒體,其中基於所述差值調節以下中的至少一者:(1)與往返於所述資料中心的資料訊務相關聯的傳輸速率,(2)與往返於所述邊緣資料中心的資料訊務相關聯的傳輸速率,(3)與往返於與所述邊緣資料中心相關聯的裝置的資料訊務相關聯的傳輸速率,或(4)與往返於與所述資料中心相關聯的裝置的資料訊務相關聯的傳輸速率。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962806504P | 2019-02-15 | 2019-02-15 | |
US16/790,582 US11902092B2 (en) | 2019-02-15 | 2020-02-13 | Systems and methods for latency-aware edge computing |
US16/790,582 | 2020-02-13 |
Publications (1)
Publication Number | Publication Date |
---|---|
TW202131661A true TW202131661A (zh) | 2021-08-16 |
Family
ID=72040505
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW110105045A TW202131661A (zh) | 2019-02-15 | 2021-02-09 | 用於網路最佳化的裝置及方法、以及非暫時性電腦可讀媒體 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11902092B2 (zh) |
EP (1) | EP3925196A4 (zh) |
KR (1) | KR20210119372A (zh) |
CN (1) | CN112805983A (zh) |
TW (1) | TW202131661A (zh) |
WO (1) | WO2020167074A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI806192B (zh) * | 2021-10-13 | 2023-06-21 | 緯創資通股份有限公司 | 人工智慧計劃方法及人工智慧計劃裝置 |
TWI806496B (zh) * | 2022-03-16 | 2023-06-21 | 緯創資通股份有限公司 | 遞迴貝式網路建構系統、遞迴貝式網路建構方法、電腦可讀取記錄媒體、非暫時性電腦程式產品及無線網路控制系統 |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11494693B2 (en) * | 2018-06-01 | 2022-11-08 | Nami Ml Inc. | Machine learning model re-training based on distributed feedback |
US11902092B2 (en) * | 2019-02-15 | 2024-02-13 | Samsung Electronics Co., Ltd. | Systems and methods for latency-aware edge computing |
US11620207B2 (en) * | 2020-01-08 | 2023-04-04 | International Business Machines Corporation | Power efficient machine learning in cloud-backed mobile systems |
US11375409B2 (en) * | 2020-04-09 | 2022-06-28 | Dish Wireless L.L.C. | Cellular network capacity slicing systems and methods |
CN112312482B (zh) * | 2020-10-23 | 2023-02-28 | 珠海格力电器股份有限公司 | 楼宇数据管理方法、管理设备、楼宇管理***及存储介质 |
US11546216B2 (en) * | 2020-12-22 | 2023-01-03 | Mellanox Technologies, Ltd. | Real time performance tuning of network devices |
CN113012432B (zh) * | 2021-03-15 | 2022-07-08 | 武强 | 云计算与雾计算协同强化学习的交通红绿灯控制*** |
US20220318065A1 (en) * | 2021-04-02 | 2022-10-06 | Red Hat, Inc. | Managing computer workloads across distributed computing clusters |
CN113254527B (zh) * | 2021-04-22 | 2022-04-08 | 杭州欧若数网科技有限公司 | 分布式存储图数据的优化方法、电子装置和存储介质 |
US20220385552A1 (en) * | 2021-05-27 | 2022-12-01 | At&T Intellectual Property I, L.P. | Record and replay network traffic |
CN113535261B (zh) * | 2021-07-05 | 2022-09-06 | 云南大学 | 基于边缘计算的车联网车辆集群任务卸载方法 |
JP2023020264A (ja) * | 2021-07-30 | 2023-02-09 | 株式会社Screenホールディングス | スケジュール作成方法、スケジュール作成装置、基板処理装置、基板処理システム、記録媒体、及びスケジュール作成プログラム |
US11973824B2 (en) * | 2021-09-23 | 2024-04-30 | Shanghai Anviz Technology Co., Ltd. | Method for data transmission of audio and video in end-to-end system |
CN113839704B (zh) * | 2021-09-30 | 2023-01-10 | 东南大学 | 一种密集低轨卫星与陆地融合的移动边缘计算方法 |
US11627074B1 (en) | 2022-01-24 | 2023-04-11 | Mellanox Technologies, Ltd. | Network device with real-time data-path optimization |
CN114462623B (zh) * | 2022-02-10 | 2023-05-26 | 电子科技大学 | 基于边缘计算的数据分析方法、***及平台 |
US11811645B1 (en) | 2022-06-03 | 2023-11-07 | Microsoft Technology Licensing, Llc | Request routing system using reinforcement learning |
CN115348210A (zh) * | 2022-06-21 | 2022-11-15 | 深圳市高德信通信股份有限公司 | 一种基于边缘计算的延迟优化方法 |
KR102519007B1 (ko) * | 2022-12-30 | 2023-04-06 | 주식회사 에스티씨랩 | 리소스 상태 기반 트래픽 자동 관리 시스템 및 방법 |
US11876858B1 (en) * | 2023-09-05 | 2024-01-16 | Armada Systems Inc. | Cloud-based fleet and asset management for edge computing of machine learning and artificial intelligence workloads |
US11995412B1 (en) | 2023-10-06 | 2024-05-28 | Armada Systems, Inc. | Video based question and answer |
US11960515B1 (en) | 2023-10-06 | 2024-04-16 | Armada Systems, Inc. | Edge computing units for operating conversational tools at local sites |
Family Cites Families (42)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7484002B2 (en) | 2000-08-18 | 2009-01-27 | Akamai Technologies, Inc. | Content delivery and global traffic management network system |
CN1823499A (zh) | 2003-07-14 | 2006-08-23 | 西门子技术至商业中心有限责任公司 | 为无线网络提供延迟保证的方法和装置 |
US20080114858A1 (en) * | 2006-11-14 | 2008-05-15 | Fmr Corp. | Reconstructing Data on a Network |
US8060792B2 (en) * | 2009-03-31 | 2011-11-15 | Amazon Technologies, Inc. | Monitoring and automated recovery of data instances |
US8397088B1 (en) * | 2009-07-21 | 2013-03-12 | The Research Foundation Of State University Of New York | Apparatus and method for efficient estimation of the energy dissipation of processor based systems |
US9001663B2 (en) | 2010-02-26 | 2015-04-07 | Microsoft Corporation | Communication transport optimized for data center environment |
EP2659624B1 (en) * | 2010-12-28 | 2017-04-12 | Citrix Systems Inc. | Systems and methods for vlan tagging via cloud bridge |
US20120265881A1 (en) * | 2011-04-14 | 2012-10-18 | Yuan Chen | Provisioning data center resources |
US9098344B2 (en) * | 2011-12-27 | 2015-08-04 | Microsoft Technology Licensing, Llc | Cloud-edge topologies |
US8914406B1 (en) * | 2012-02-01 | 2014-12-16 | Vorstack, Inc. | Scalable network security with fast response protocol |
US9389920B2 (en) | 2012-05-02 | 2016-07-12 | Futurewei Technologies, Inc. | Intelligent data center cluster selection |
US9002939B2 (en) * | 2012-06-03 | 2015-04-07 | International Business Machines Corporation | Adaptive and dynamic replication management in cloud computing |
US9374276B2 (en) | 2012-11-01 | 2016-06-21 | Microsoft Technology Licensing, Llc | CDN traffic management in the cloud |
US9705808B2 (en) | 2014-03-21 | 2017-07-11 | Cisco Technology, Inc. | Flow aware buffer management for data center switches |
US9736056B2 (en) | 2014-05-02 | 2017-08-15 | Cisco Technology, Inc. | Centralized predictive routing using delay predictability measurements |
US9552550B2 (en) | 2014-05-13 | 2017-01-24 | Cisco Technology, Inc. | Traffic shaping based on predicted network resources |
US10708187B2 (en) | 2014-05-22 | 2020-07-07 | Intel Corporation | Data center congestion management for non-TCP traffic |
US10516608B2 (en) * | 2014-09-11 | 2019-12-24 | Oath Inc. | Systems and methods for directly responding to distributed network traffic |
US20170026461A1 (en) | 2015-07-24 | 2017-01-26 | Cisco Technology, Inc. | Intelligent load balancer |
US10070328B2 (en) | 2015-08-20 | 2018-09-04 | International Business Mahcines Corporation | Predictive network traffic management |
US10547540B2 (en) | 2015-08-29 | 2020-01-28 | Vmware, Inc. | Routing optimization for inter-cloud connectivity |
US10089309B2 (en) | 2016-02-05 | 2018-10-02 | Spotify Ab | System and method for load balancing based on expected latency for use in media content or other environments |
US20190230484A1 (en) * | 2016-05-09 | 2019-07-25 | Nokia Solutions And Networks Oy | Policy control with mobile edge computing |
US10390114B2 (en) | 2016-07-22 | 2019-08-20 | Intel Corporation | Memory sharing for physical accelerator resources in a data center |
US10440096B2 (en) * | 2016-12-28 | 2019-10-08 | Intel IP Corporation | Application computation offloading for mobile edge computing |
US10382565B2 (en) * | 2017-01-27 | 2019-08-13 | Red Hat, Inc. | Capacity scaling of network resources |
CN108574728B (zh) * | 2017-03-08 | 2021-05-04 | 中兴通讯股份有限公司 | 用于移动边缘计算的流量路径改变检测的方法和装置 |
US10536517B2 (en) | 2017-03-16 | 2020-01-14 | A10 Networks, Inc. | Distributed global server load balancing controllers sharing service delay time |
US10956222B2 (en) * | 2017-05-04 | 2021-03-23 | Salesforce.Com, Inc. | Systems, methods, and apparatuses for implementing a scheduler and workload manager with dynamic workload termination based on cost-benefit analysis |
US10270884B2 (en) * | 2017-06-02 | 2019-04-23 | Wistron Neweb Corporation | Control method, network system and control platform for mobile-edge computing |
CN107482766B (zh) | 2017-07-05 | 2019-12-03 | 国网江苏省电力公司经济技术研究院 | 基于数据网络和电力网络互动运行的电力***调度方法 |
CN107819695B (zh) | 2017-10-19 | 2020-11-10 | 西安电子科技大学 | 一种基于sdn的分布式控制负载均衡***与方法 |
US10791168B1 (en) * | 2018-05-21 | 2020-09-29 | Rafay Systems, Inc. | Traffic aware network workload management system |
US10466716B1 (en) * | 2018-09-05 | 2019-11-05 | Chongqing Jinkang New Energy Vehicle Co., Ltd | Vehicle command generation using vehicle-to-infrastructure communications and deep networks |
US11902092B2 (en) * | 2019-02-15 | 2024-02-13 | Samsung Electronics Co., Ltd. | Systems and methods for latency-aware edge computing |
US20200272896A1 (en) * | 2019-02-25 | 2020-08-27 | Alibaba Group Holding Limited | System for deep learning training using edge devices |
US11216309B2 (en) * | 2019-06-18 | 2022-01-04 | Juniper Networks, Inc. | Using multidimensional metadata tag sets to determine resource allocation in a distributed computing environment |
US11263037B2 (en) * | 2019-08-15 | 2022-03-01 | International Business Machines Corporation | Virtual machine deployment |
US20200228630A1 (en) * | 2020-03-27 | 2020-07-16 | Intel Corporation | Persistence service for edge architectures |
US11994932B2 (en) * | 2020-06-21 | 2024-05-28 | Intel Corporation | Platform ambient data management schemes for tiered architectures |
US20210014114A1 (en) * | 2020-09-25 | 2021-01-14 | Intel Corporation | Methods, apparatus, and articles of manufacture for workload placement in an edge environment |
US11940933B2 (en) * | 2021-03-02 | 2024-03-26 | Mellanox Technologies, Ltd. | Cross address-space bridging |
-
2020
- 2020-02-13 US US16/790,582 patent/US11902092B2/en active Active
- 2020-02-17 WO PCT/KR2020/002186 patent/WO2020167074A1/en unknown
- 2020-02-17 EP EP20756202.6A patent/EP3925196A4/en active Pending
- 2020-02-17 KR KR1020217008870A patent/KR20210119372A/ko unknown
- 2020-02-17 CN CN202080005440.XA patent/CN112805983A/zh active Pending
-
2021
- 2021-02-09 TW TW110105045A patent/TW202131661A/zh unknown
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI806192B (zh) * | 2021-10-13 | 2023-06-21 | 緯創資通股份有限公司 | 人工智慧計劃方法及人工智慧計劃裝置 |
TWI806496B (zh) * | 2022-03-16 | 2023-06-21 | 緯創資通股份有限公司 | 遞迴貝式網路建構系統、遞迴貝式網路建構方法、電腦可讀取記錄媒體、非暫時性電腦程式產品及無線網路控制系統 |
Also Published As
Publication number | Publication date |
---|---|
EP3925196A4 (en) | 2022-10-12 |
CN112805983A (zh) | 2021-05-14 |
US11902092B2 (en) | 2024-02-13 |
US20200267053A1 (en) | 2020-08-20 |
KR20210119372A (ko) | 2021-10-05 |
EP3925196A1 (en) | 2021-12-22 |
WO2020167074A1 (en) | 2020-08-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TW202131661A (zh) | 用於網路最佳化的裝置及方法、以及非暫時性電腦可讀媒體 | |
US11665576B2 (en) | Systems and methods for wireless low latency traffic scheduler | |
US11829800B2 (en) | Predictive resource allocation in an edge computing network utilizing machine learning | |
US11778055B2 (en) | Systems and methods for storage-efficient sensors | |
US20220066901A1 (en) | System and method for low latency edge computing | |
US20240137326A1 (en) | Dynamic allocation of network resources using external inputs | |
US11212188B2 (en) | Communication network out-of-capacity predictions | |
Al-Turjman | Impact of user's habits on smartphones' sensors: An overview | |
US10277473B2 (en) | Model deployment based on benchmarked devices | |
US20230112482A1 (en) | System and method for managing communication networks with quantum blockchains | |
US20220368744A1 (en) | System and method for dynamic manipulation of content presentation | |
Wang et al. | CampEdge: Distributed computation offloading strategy under large-scale AP-based edge computing system for IoT applications | |
Munir et al. | Neuro-symbolic explainable artificial intelligence twin for zero-touch ioe in wireless network | |
US10735891B1 (en) | Cognitively controlling data delivery | |
JP2023503232A (ja) | 5g対応デバイスに関するデータ損失のリスク検出 | |
US20220224762A1 (en) | Queuing control for distributed compute network orchestration | |
US20210258990A1 (en) | Systems and methods for a multi-tier self-organizing network architecture | |
KR102643682B1 (ko) | 미디어 스트리밍 처리 장치 및 방법 | |
US11736336B2 (en) | Real-time monitoring of machine learning models in service orchestration plane | |
US20230328547A1 (en) | Automatic tuning of heterogenous wireless infrastructure | |
Ezenwigbo | Exploring intelligent service migration in a highly mobile network | |
Seal | Implementation of a Distributed Middleware Framework to Span the Edge-Fog-Cloud Tiers of a Mobile Distributed Computing IoE Platform Requiring Real-Time and Near-Real-Time Response | |
WO2023247019A1 (en) | Bi-directional learning for performance prediction |