TWI426393B - 雲端計算資源排程方法與應用之系統 - Google Patents

Description

雲端計算資源排程方法與應用之系統

本發明為一種雲端計算資源排程方法與應用之系統，特別是利用各終端電腦的計算資源負載歷史記錄作為資源排程的基礎，執行較有效率的雲端計算的目的。

網格計算(Grid computing)可實現一種雲端計算，是透過網路溝通多個電腦系統而進一步使用加入此計算計畫中各電腦的未用資源達到計算目的的概念，未用資源包括使用中央處理器的閒置時間與磁碟存量，藉以解決大量的計算要求。

針對大量計算需求的要求，習知技術利用多數閒置的終端電腦系統的可用資源，尤其是各終端電腦系統的中央處理器的閒置運算能力，利用網路溝通，執行分散運算，於運算完成後，將結果透過網路回傳至中央運算中心。

網格計算中的中央處理器資源分配可參考第一圖所示的示意圖，此例中，兩個或多個電腦系統101,102透過網路10與一網格運算中心12相連結，其中電腦系統101,102的中央處理器(CPU)的計算資源可透過網路10分享出去，特別是執行由網格運算中心12發出的計算需求。

在此架構中，是由電腦系統101,102將閒置的中央處理器的計算週期(CPU cycle)分享出去，藉以執行網格運算。運作時，網格運算中心12需要獲取各參與運算的電腦系統101,102的運作狀態，以得到可以採用的計算資源。

當習知技術透過一中介單位(Broker)，比如上述的網格運算中心12，獲得各參與計算計畫的終端電腦系統的可用資源狀態，比如某參與計畫的電腦系統進入閒置狀態(idle state)，多半是透過一個安裝於各終端電腦系統中的代理程式(Agent)隨時偵測各計算資源，經即時偵測與回報的機制獲取可用資源，包括中央處理器的計算資源、記憶體使用資源、輸出入(I/O)系統等，據以分配進一步計算要求。

有關各計算資源的管理與排程(scheduling)可參考第二圖所示習知技術之網格運算架構示意圖。其中主要是透過一個網格伺服管理器20進行針對特定計算需求的排成規劃，而整體顯示一個網格運算的架構主要有三個部份，包括提出計算需求的客戶端應用21,23,25，作為管理、監控與排程的網格伺服管理器20，與各終端提供計算資源的網格引擎201,202,203,204,205。

其中客戶端應用21,23,25可透過一驅動程式(未顯示)，經過網路對網格伺服管理器20提出計算需求；而各終端網格引擎(201,202,203,204,205，可包括各式終端的電腦系統、工作站等)則透過網路監控機制回報網格伺服管理器20其中的計算資源是否處於可用(available)狀態，或是於特定計算工作完成後通知網格伺服管理器20與回傳結果；網格伺服管理器20則主要是透過監控與管理機制瞭解各終端網格引擎201,202,203,204,205的負載，以提供最佳的計算規劃。在習知技術中，各端仍有一些相互訊息傳遞的機制，包括傳遞線上可以重複使用、模組化的服務，包括直接傳遞的一些資訊等，在此並不贅述。

由於習知雲端計算的技術僅根據各終端節點的即時計算負載來分配計算任務，而未考慮將來在不同時間的可能變動，雖然可以透過隨時監控而隨時改變可用的計算資源，但仍產生變動過多產生的不穩定情況與效率不彰的問題。鑑於習知技術中各終端節點的負載能力無法預測的缺點，本發明提出一種雲端計算資源排程方法與應用之系統，透過參考各計算節點的負載歷史記錄，提昇雲端計算能力。

根據實施例，雲端計算資源排程方法包括先接收一計算需求，此計算需求將包括有需要的計算節點數量、計算起始時間與計算的時間長度，接著，由各計算節點上收集的負載歷史記錄建立相對各計算節點的計算資源表，其中包括由負載歷史記錄得出的一計算模型，此計算模型係將描述各計算節點之中央運算資源依時間的使用狀態，經複數個負載等級區分後，依據時間順序排列得到計算模型。

之後，方法根據計算需求與計算模型計算得出各計算節點的一可用度，包括依據所需的計算長度與計算起始時間，將計算模型中各負載等級符合計算長度的可用資源值相加，即得出可用度。再根據計算需求與計算模型計算得出各計算節點的一信心度，其中信心度的計算方法包括先計算得出符合計算長度與計算起始時間的計算模型的數量，接著再算符合計算起始時間，但小於計算長度的計算模型的數量，將相除之後得出信心度。

由可用度與信心度計算得出各計算節點的一資源期望值，經排序後選擇出一或複數個計算節點，經分配後執行計算任務。

本發明之特徵是藉各計算節點的負載歷史記錄得出計算模型，由計算模型建立各計算節點的計算資源表，再由計算需求中得出各種參數，以負載歷史記錄為基礎來選擇計算節點，能產生較有效率的雲端計算。

應用上述雲端計算資源排程方法的系統則包括有複數個計算節點，透過一代理程式擷取各計算節點之負載資訊，包括一中介單位，此中介單位係透過網路記載由各代理程式所擷取之計算資源表，接收一計算需求，再根據計算需求分配複數個計算節點計算任務。

根據本發明提出的雲端計算資源排程方法與應用之系統的實施例，主要特徵是能夠藉由一段時間記錄各終端電腦系統的資源使用狀況，如中央處理器的負載歷史記錄，作為未來分配計算任務的判斷基礎，使用預測的方式選擇計算資源，可較精確地選擇到合適的計算資源，能夠有效應用到各端的計算資源，並提高整體雲端計算的效率。

應用於雲端計算的計算資源通常都有其特定的使用者，相關各計算資源的負載可能依時間產生高低起伏不定的負載變化，而各使用者或是相關運作的任務會有一種規律性，藉此可推算計算資源的可用程度，在本發明提出的方法則是根據各使用者與相關計算資源過去的負載歷史記錄，經過數值分析後，能夠準確選擇未來的計算資源。

實施例：可參考第三圖所示本發明應用雲端計算資源排程方法之系統示意圖，此例中，佈置有多個終端電腦(也就有複數個計算節點)301,302,303,304,305,306，各終端電腦參與一個由中介單位(Broker)31管理的計算計畫，為了獲取各終端電腦的可使用資源，各終端電腦可區分一或多個群組，此例可略分有兩個群組，各群組將透過一代理程式(Agent)隨時間收集各終端電腦的中央處理器負載(另有實施例可包括記憶體使用狀況、輸出入系統使用狀況等)，透過記錄各終端電腦的中央處理器負載歷史記錄建立所屬的計算資源表，而中介單位31則透過各代理程式擷取出該群組中各終端電腦的計算資源表，以此作為日後分配計算任務的依據。

根據圖示之實施例，終端電腦301,302,303可歸屬於一群組，而終端電腦304,305,306則屬於另一群組，各終端電腦中具有一常駐的代理程式，隨時記錄資源使用狀況，包括中央處理器、記憶體、輸出入系統等的使用資源，而各群組可由一台終端電腦執行的代理程式進一步擷取各終端電腦的負載狀況，依時間建立計算資源表。之後透過網路30，中介單位31可透過由各群組的代理程式擷取各計算資源表。

中介單位31即如同一雲端計算中心，掌控參與雲端計算的各終端電腦的負載狀況，其中設置一資料庫，用以記載透過代理程式所擷取的各計算節點之負載資訊，並依時間建立各計算節點之計算模型(依據負載歷史紀錄)。當接收一計算需求35時，根據計算需求中的資源需求與其掌握各端的計算資源，能夠有效分配計算節點(也就是各終端電腦)。

上述計算資源表主要包括由各計算節點的負載歷史記錄依據時間順序排列得出的一個計算模型(Pattern)，包括各計算節點的節點識別碼，範例可參考第四圖，其中記載有各時間點的資源負載等級；而計算需求35中則至少提出計算節點數量、計算起始時間與計算長度等的需求，其中節點數量為需要的計算資源數量，比如需要執行計算的終端電腦的數量，或是中央處理器的數目；計算起始時間則是開始計算的時間，可對應到各計算節點中計算模型的時間點；計算長度則是此計算任務要求的完成時間。

本發明則參考上述各計算節點的計算模型，根據由計算需求得出的計算節點數量、計算起始時間與計算長度等參數，經計算得出各計算節點的可用度(Availability)與信心度(Confidence)，可用度表示該計算節點的可用資源程度，而信心度則反應出該計算節點配合該計算需求的程度，兩者交互運算，可得各計算節點的資源期望值，經排序後，資源期望值愈高，愈是符合該計算需求。

第三圖中的資源參數表33則為記載於中介單位31中資料庫的資料，其中記載由負載歷史記錄建立各計算節點之計算模型，並記錄根據每一次計算需求得出可用度與信心度，與一資源期望值，複數個計算節點就有複數個資源參數表33，記載著複數個資源期望值。以此為依據選擇參與計算任務的一或多個計算節點。

可繼續參考第四圖顯示的雲端計算資源排程方法之實施例，此例所描述的數值僅供說明，並不用來限制本發明實施態樣。

圖中顯示由終端電腦301擷取出的負載歷史記錄與因此產生的各種參數。首先顯示一個執行記錄，在開始執行一個計算任務之前，需要先對各終端電腦進行歷史分析，執行記錄即記載在各時間點(此例為0,1,2,3至24，表示一天中的24小時)的資源負載等級，顯示各計算節點之中央運算資源使用狀態與對應之時間。

中央運算資源的負載區分為複數個負載等級，並依據時間順序排列各時間的負載等級，以得到表示各節點負載的計算模型，此例將中央運算資源負載區分為4個等級，比如沒有負載表示為0；負載在0至25%，表示為1；負載在25至50%，表示為2；負載在50%至75%，表示為3；負載在75%至100%，表示為4。圖中所示的模型：為第一天在時間0至1點的負載等級為2；時間1至2點的負載等級為3；時間2至3點的負載等級為1；時間3至4點的負載等級為4，並以此類推，可根據負載歷史記錄推算出複數天的複數個時間點的負載等級。

上述負載等級的另一面則是可用資源，比如負載等級為1，以區分4個等級為例，則可用資源則為3(4-1=3)，同理，負載等級為0，可用資源為4；負載等級為2，可用資源為2；負載等級為3，可用資源為1；負載等級為4，可用資源為0。圖中相對第一天負載等級{2,3,1,4,2,...,1}的可用資源為{2,1,3,0,2,...,3}；相對第二天負載等級{3,1,2,4,4,...,2}的可用資源為{1,3,2,0,0,...,2}；相對第三天負載等級{2,1,4,4,2,...,2}的可用資源為{2,3,0,0,2,...,2}，並以此類推到其他時間。若記錄至一個月，應有30筆長度為24的計算模型。

透過可用資源，可得出在一定時間內的可用度(Availability)，在本發明實施例中，可用度主要是根據計算需求中的參數而產生，主要是根據計算需求中的計算長度與計算起始時間，將計算模型中各負載等級符合需求中計算長度的可用資源值相加，即得出可用度。如此例中，若需求的計算起始時間為0點開始，而計算長度為3(此例為3小時)，則將由0點開始的可用資源值加到3點，如此終端電腦201在此需求下第一天的可用度為2+1+3=6、第二天為1+3+2=6、第三天為2+3+0=5。

接著是計算信心度，信心度反應特定計算節點符合特定計算需求的程度，在本發明中，信心度等於某一長度的計算模型的數量除以長度為1的相關計算模型的數量。舉例來說，此例中計算長度為3，若要計算此終端電腦的計算模型{2,3,0}的信心度，則是先得出此終端電腦的計算模型{2,3,0}的數量(設為第一數量)，再與此計算模型{2,3,0}為相同起始時間點與相同的第一個可用資源值但長度為1的計算模型{2}的數量(設為第二數量)作關聯運算，以求得信心度，實施例中，信心度為第一數量(分子)除以第二數量(分母)。

經得出於特定計算起始時間與計算長度的條件下的可用度與信心度後，可得一資源期望值，此資源期望值即以各計算節點的可用資源與特定計算模型所佔比例為基礎的參考值，在本發明實施例中，資源期望值等於可用度乘上信心度，資源期望值愈高，表示該計算節點愈符合計算需求。在分散計算的觀念下，會將計算任務同時分配給不同的計算節點，而計算節點的篩選則是依據資源期望值的大小排列。

再舉一例，若有一計算節點在計算長度為5的需求下有一計算模型為{23142}，其可用度為2+1+3+0+2=8(負載等級為4)，在一段時間內此計算模型的數量為17，而在相同起始時間下，計算模型{2}的數量則是23，表示此計算模型{23142}的信心度為17/23=0.74。而資源期望值為8(可用度)乘上0.74(信心度)=5.92。期望值越高則代表該筆計算模型能夠提供的可用度越大。

第五圖顯示為本發明雲端計算資源排程方法中期望值之計算流程。

在此方法開始之初，各計算節點已經透過一代理程式記錄了一段時間的負載歷史，執行相關計算的中介單位則透過代理程式擷取各計算節點的負載歷史記錄，並記錄於資料庫中(步驟S501)。根據負載等級的區分，接著依據負載歷史記錄得出各時間點的負載等級(步驟S503)，此即建立了各計算節點的計算模型。由資料庫擷取出各計算節點的負載等級(51)，能得出各節點之資源可用等級，也就是第四圖所述的可用資源(步驟S505)。

接著，應用此雲端計算資源排程方法的系統接收一計算需求(步驟S507)，根據計算需求，系統引入計算數量、計算起始時間、長度並配合計算模型(52)，則可計算得出各節點的可用度(步驟S509)與信心度(步驟S511)。

其中信心度的計算包括先計算得出符合計算需求中的計算長度與計算起始時間的計算模型的數量(第一數量)，接著在計算得出符合使需求中計算起始時間，而小於計算長度的計算模型的數量(第二數量)，比如計算長度為3，則可以長度為1或是2的相同計算模型的數量作為計算分母，第一數量為分子，除以作為分母的第二數量即為此信心度。

而引入可用度與信心度(53)，則能計算出資源期望值(步驟S513)，每個計算節點將具有複數個資源期望值，比如一天中對於一個計算需求會得出一個資源期望值，經曲平均值，再經資源期望值大小排序後(步驟S515)，依據計算需求與各計算節點的資源期望值選擇一或複數個計算節點。

第五圖流程產生的各節點於特定計算模型中，根據起始時間與計算長度可以得出一個資源期望值，此期望值則應用於選擇計算節點執行計算任務，流程可參考第六圖顯示的雲端計算資源排程方法之實施例流程圖。

如開始步驟S601，接收一計算需求，接著由資料庫擷取出經一段時間收集的各計算節點的計算資源表，此時引入各節點的計算模型(步驟S603)，並經由如第五圖所示之流程，根據計算需求中的計算初始時間、計算長度與所需的計算節點數量，計算得出各節點的特定計算模型的資源期望值(步驟S605)，計算模型的選取則依據雲端計算的實際架構而定。經計算資源期望值後，期望值的大小排序成為依需求選擇計算節點的參考依據(步驟S607)，期望值愈高，表示愈符合該計算需求。

經選擇了計算節點，即開始執行計算任務(步驟S609)，依據計算起始時間、長度與節點數量分配計算任務，根據實施例，主要是根據複數個資源期望值之大小排序，透過網路連接手段分配計算任務給複數個計算節點(步驟S611)。最後，在完成計算任務後，經整合各計算節點之結果，得出一計算結果。

綜上所述，根據本發明實施例，雲端計算資源排程方法主要是由各計算節點的負載歷史記錄建立相對各節點的計算資源表，根據負載歷史記錄建立計算模型，以此為依據得出各節點的資源期望值，再據以選擇與分配任務給符合需求的複數個計算節點，能產生較有效率的雲端計算。

惟以上所述僅為本發明之較佳可行實施例，非因此即侷限本發明之專利範圍，故舉凡運用本發明說明書及圖示內容所為之等效結構變化，均同理包含於本發明之範圍內，合予陳明。

10．．．網路

101,102．．．電腦系統

12．．．網格運算中心

21,23,25．．．客戶端應用

20．．．網格伺服管理器

201,202,203,204,205．．．網格引擎

30．．．網路

31．．．中介單位

301,302,303,304,305,306．．．終端電腦

35．．．計算需求

33．．．資源參數表

51．．．負載等級

52．．．計算模型

53．．．可用度與信心度

S501~S515　本發明期望值之計算流程

S601~S611　本發明雲端計算資源排程方法流程

第一圖係為習知技術網格運算的示意圖；

第二圖所示為習知技術之網格運算架構示意圖；

第三圖係為本發明應用雲端計算資源排程方法之系統示意圖；

第四圖係為本發明雲端計算資源排程方法之實施例示意圖；

第五圖顯示為本發明雲端計算資源排程方法中期望值之計算流程；

第六圖顯示為本發明雲端計算資源排程方法之實施例流程圖。

S501~S515　本發明雲端計算資源排程方法流程

51．．．負載等級

52．．．計算模型

53．．．可用度與信心度

Claims (6)

1. 一種雲端計算資源排程方法，包括：接收一計算需求，其中該計算需求至少包括一計算節點數量、一計算起始時間與一計算長度；擷取複數個計算節點的計算資源表，其中包括由各計算節點的負載歷史記錄得出的一計算模型，該負載歷史記錄包括各計算節點之中央運算資源使用狀態與對應之時間，再根據該中央運算資源的負載區分為複數個負載等級，並依據時間順序排列各時間的負載等級，以得到該計算模型；根據該計算需求與該計算模型計算得出各計算節點的一可用度，該可用度表示各計算節點的可用資源程度，根據該計算需求中的一計算長度與一計算起始時間，將該計算模型中各負載等級符合該計算長度的可用資源值相加，即得出該可用度；根據該計算需求與該計算模型計算得出各計算節點的一信心度，該信心度反應各計算節點配合該計算需求的程度，該信心度的計算方法包括：計算得出符合該計算長度與該計算起始時間的該計算模型的一第一數量；計算得出符合該計算起始時間，而小於該計算長度的該計算模型的一第二數量；以及該第一數量為一分子，除以作為一分母的該第二數量即為該信心度；由該可用度與該信心度相乘計算得出各計算節點的一資源期望值；以及 依據該計算需求與各計算節點的該資源期望值選擇一或複數個計算節點；執行一計算任務；以及根據選擇之該複數個計算節點分配該計算任務。
2. 如申請專利範圍第1項所述之雲端計算資源排程方法，其中係依據該計算節點數量與各計算節點之期望值大小選擇該一或複數個計算節點執行該計算任務。
3. 如申請專利範圍第1項所述之雲端計算資源排程方法，其中該複數個計算節點形成一個群組，透過一代理程式記錄各計算節點之負載歷史記錄，再利用一中介單位透過一網路擷取由該代理程式所記錄之負載歷史記錄。
4. 如申請專利範圍第3項所述之雲端計算資源排程方法，其中該中介單位具有一資源參數表，用以記載各計算節點之節點識別碼與計算模型，更包括根據該計算需求得出之一計算節點數量、一計算起始時間、一計算長度，與由該計算需求計算得出的可用度與信心度。
5. 一種雲端計算資源排程系統，係應用申請專利範圍第1項所述之雲端計算資源排程方法，其中該雲端計算資源排程系統包括：複數個計算節點，該複數個計算節點區分為一或多個群組，各群組由執行一代理程式擷取各計算節點之負載資訊，並建立各計算節點之一計算資源表；一中介單位，係記載由各代理程式所擷取之各計算節點之該計算資源表，其中至少包括一節點識別碼與一計算模型，並接收一計算需求，該計算需求包括一計算節點數量、一計算長度、一計算起始時間， 根據該計算需求分配該複數個計算節點計算任務；以及一網路連接手段，係連結該複數個計算節點與該中介單位。
6. 如申請專利範圍第5項所述之雲端計算資源排程系統，其中：該中介單位中設置一資料庫，用以記載透過該代理程式所擷取的各計算節點之負載資訊；依時間記錄各計算節點之負載歷史記錄；再由該負載歷史記錄建立各計算節點之該計算模型，根據該計算需求得出一可用度與一信心度，藉以計算得出一資源期望值，該複數個計算節點有複數個資源期望值，並記錄於該資料庫中；以及根據該複數個資源期望值之大小排序，透過該網路連接手段分配該計算任務給複數個計算節點。