TW201327205A

TW201327205A - 硬體效能的管理方法及雲端運算系統

Info

Publication number: TW201327205A
Application number: TW100147600A
Authority: TW
Inventors: Ying-Chih Lu
Original assignee: Inventec Corp
Priority date: 2011-12-21
Filing date: 2011-12-21
Publication date: 2013-07-01

Abstract

一種硬體效能的管理方法及雲端運算系統。此雲端運算系統包括多個節點裝置以及實現所述管理方法的管理節點，這些節點裝置配置於多個節點資源池。硬體效能的管理方法包括下列步驟。偵測這些節點資源池的負載，以判斷瓶頸現象及發生此瓶頸現象所對應的瓶頸資源池。從瓶頸資源池以外之其他節點資源池的節點裝置中評估並選擇至少一轉換節點。變更所述轉換節點，以將所述轉換節點從原先的節點資源池分配至瓶頸資源池當中。

Description

硬體效能的管理方法及雲端運算系統

本發明是有關於一種雲端運算的效能管理技術，且特別是有關於一種硬體效能的管理方法與雲端運算系統。

雲端運算(Cloud Computing)技術是透過網際網路(Internet)結合大量的伺服器(或稱為節點)以形成高速運算與具備大量儲存能力的整合式電腦，其強調在本地端資源有限的情況下，利用網路取得遠方的運算資源、儲存資源或服務。雲端運算技術可透過虛擬化以及自動化等技術將這些節點進行資源共享或分工，並透過網路及瀏覽器等終端介面來操作這些服務的網頁，藉以進行各種運算和工作。

這些眾多的節點集結成為伺服器機群(server group)。由於這些節點的數量龐大，因此如何在伺服器機群的某種節點資源發生瓶頸進而影響系統的整體效能時，伺服器機群能夠自動解除瓶頸的發生，藉以提供更高的效能，已成為現今眾多雲端運算系統的重要課題。

本發明提供一種硬體效能的管理方法及雲端運算系統，其偵測各種節點資源池是否發生瓶頸現象，並自動調整及重新分配這些伺服器的角色分工，便可有效地自動解決瓶頸現象，為雲端運算系統提供更高的效能。

本發明提出一種硬體效能的管理方法，其適用於一雲端運算系統。所述雲端運算系統包括多個節點裝置，且這些節點裝置配置於多個節點資源池。所述管理方法包括下列步驟。偵測這些節點資源池的負載，以判斷一瓶頸現象及發生此瓶頸現象所對應的一瓶頸資源池。其中這些節點資源池包括所述節點資源池。從瓶頸資源池以外的其他節點資源池的這些節點裝置中評估並選擇至少一個轉換節點。變更所述轉換節點，以將所述轉換節點從原先的節點資源池重新分配至瓶頸資源池。

在本發明之一實施例中，上述之管理方法更包括下列步驟。針對每一個節點資源池分別設定一正常臨界值與一瓶頸臨界值。當這些節點資源池之其一的負載低於對應的正常臨界值時，表示這些節點資源池之其一位於正常現象。當這些節點資源池之其一的負載高於對應的瓶頸臨界值時，表示這些節點資源池之其一發生所述瓶頸現象並成為所述的瓶頸資源池。

在本發明之一實施例中，評估所述轉換節點包括下列步驟。依據所述瓶頸臨界值以估算所述轉換節點從原先的節點資源池分配至瓶頸資源池之後，原先的節點資源池的負載以及瓶頸資源池的負載應各自小於其對應的瓶頸臨界值。

在本發明之一實施例中，變更所述轉換節點包括下列步驟。檢索一節點關連資料庫並取得所述轉換節點的節點相關資料。調整所述轉換節點的節點相關資料，以使所述轉換節點從原先的節點資源池修改至瓶頸資源池。從雲端運算系統中隔離所述轉換節點。依據所述瓶頸資源池調整所述轉換節點。以及，將所述轉換節點重新加入雲端運算系統。

在本發明之一實施例中，隔離所述轉換節點包括下列步驟。將所述轉換節點中的多個虛擬機器從所述轉換節點遷移到原先的節點資源池的其他節點裝置。以及，關閉所述轉換節點所執行的多個服務程序。

在本發明之一實施例中，隔離所述轉換節點更包括下列步驟。設定節點關連資料庫以隔絕所述轉換節點的節點相關資料。

在本發明之一實施例中，所述節點資源池的負載包括這些節點資源池各自的運算負載、空間負載和/或其結合。

在本發明之一實施例中，所述節點資源池包括服務資源池、計算資源池、儲存資源池和/或其結合。

從另一觀點而言，本發明提出一種雲端運算系統，其包括多個節點裝置以及一管理節點。這些節點裝置透過一網路相互耦接且配置於多個節點資源池。管理節點透過網路耦接至上述節點裝置，藉以偵測這些節點資源池的負載，判斷瓶頸現象及發生此瓶頸現象所對應的瓶頸資源池，其中這些節點資源池包括節點資源池。管理節點從瓶頸資源池以外的其他節點資源池的節點裝置中評估並選擇至少一個轉換節點，並且變更所述轉換節點以將所述轉換節點從原先的節點資源池重新分配至瓶頸資源池。

本雲端運算系統之其餘實施細節請參照上述說明，在此不加贅述。

基於上述，本發明實施例的雲端運算系統針對每個節點資源池分別設定不同的負載上限，並偵測每個節點資源池的運作情況。當特定節點資源池發生瓶頸現象且無其它冗餘節點可供支援時，雲端運算系統可從正常運作且沒有發生瓶頸現象的節點資源池中選擇部分節點，並將其投入上述特定節點資源池中(換句話說，就是重新分配部分節點的角色分工)，藉以降低瓶頸現象的發生。因此，透過自動調整及重新分配這些伺服器的角色分工，雲端運算系統便可有效地自動解決瓶頸現象並提升其硬體運作效能，提供更高的效能。

為讓本發明之上述特徵和優點能更明顯易懂，下文特舉實施例，並配合所附圖式作詳細說明如下。

現將詳細參考本發明之示範性實施例，在附圖中說明所述示範性實施例之實例。另外，凡可能之處，在圖式及實施方式中使用相同標號的元件/構件/符號代表相同或類似部分。

圖1是根據本發明一實施例說明雲端運算系統100的示意圖，例如，本發明實施例提供基礎設施即服務(Infrastructure as a Service；簡稱為IaaS)的機櫃式(Container)資料中心(Data Center)以作為雲端運算系統100。如圖1所示，本實施例的雲端運算系統100可以包含至少一機櫃(container)。以本實施例中所述的機櫃而言，每個機櫃包括有多個機架(RACK)，每個機架亦具有多個插槽，每個插槽也可以包括有一到多台伺服器(或稱為節點裝置)。由於各個機櫃具有相似組成，為方便說明，本實施例中以一個機櫃作為舉例。

請參照圖1，雲端運算系統100中包括多個節點裝置，這些節點裝置在雲端運算系統100的雲端作業系統進行部署(deploy)時，便已配置於多種節點資源池中。換句話說，這些節點裝置可以分類成三種節點類型，亦即，服務資源池(service resource pool)110、計算資源池(computing resource pool)120以及儲存資源池(storage resource pool)130，而服務資源池110還可以依據其服務功能而更為細部劃分。因此，節點資源池包括服務資源池110、計算資源池120、儲存資源池130和/或其結合。

於本實施例中，服務資源池110包括i個節點裝置112_1~112_i，計算資源池120包括j個節點裝置122_1~122_j，儲存資源池130包括k個節點裝置132_1~132_k，i、j、k皆為非負整數。節點裝置112_1~112_i、節點裝置122_1~122_j以及節點裝置132_1~132_k於本實施例中也可分別稱作是服務節點112_1~112_i、計算節點122_1~122_j以及儲存節點132_1~132_k。上述這些節點裝置皆耦接至第二層交換機140，藉以透過區域網路來相互耦接、進行通訊以及資訊傳遞。應用本實施例者亦可透過其他種類的網路方式來耦接這些節點裝置，例如網際網路、無線網路..等，在此不予贅述。

服務資源池110以及位於其中的服務節點可依據服務功能而細分其種類，例如實體安裝(physical installer)服務、實體管理(physical manager)服務、日誌(LOG)處理服務、虛擬管理(virtual manager)服務、應用程式介面(Application Programming Interface，API)服務、虛擬資源提供(virtual resource provisioning)服務、資料庫服務、儲存管理(storage manager)服務、負載平衡(load balance)服務以及安全機制(security)服務...等。計算資源池120及位於其中的計算節點用以提供計算服務。儲存資源池130及位於其中的儲存節點則用以提供儲存服務。

換句話說，服務節點112_1~112_i主要提供許多虛擬機器(Virtual Machine；簡稱為VM)的服務給予使用者，這些虛擬機器執行於計算節點122_1~122_j所組成的計算資源池120，虛擬機器其所需之儲存空間則由儲存節點132_1~132_k所組成的儲存資源池130所提供。每個服務節點112_1~112_i會依據其所執行之不同的軟體而提供使用者不同的服務。相對而言，配置於計算資源池120中的計算節點122_1~122_j或是儲存資源池130中的儲存節點132_1~132_k分別執行相似的軟體程序，使其易於相互整合而進行龐大的運算或是儲存資料。

雲端運算系統也包括一個管理節點，其用以監控及調整各個節點裝置的負載情況。上述管理節點可以是上述節點裝置中的其中之一，或是獨立於節點裝置以外的另一個監控裝置，本實施例以位在服務資源池110中的節點裝置112_2作為管理節點。管理節點112_2包括瓶頸監控模組150、節點選擇模組160、資料存取模組170、節點隔離模組180、節點部署模組190以及節點增加模組195，這些功能模組將於下述詳細說明。此外，雲端作業系統在進行各節點裝置的部署時，便會獲得各個節點裝置所對應的節點相關資料(node related data)，雲端作業系統會將這些節點相關資料整合儲存於節點關連資料庫DB中，以供管理節點112_2進行參考。於本實施例中，節點關連資料庫DB設置於服務節點112_1中，但本發明並不受限於此，其他實施例亦可將節點關連資料庫DB放置於任一節點裝置中。

部分的節點裝置雖然專門應用於雲端運算系統100之特定角色(例如，專用於特定的節點資源池)，但是亦有部份種類的節點裝置可以支援多種雲端資源，不受限於扮演雲端運算系統100的特定角色。例如，部分節點裝置的運算效能遠優於其他節點裝置，但其對於提供服務或是儲存資料的能力則遠遜於其他節點，此時這些節點裝置便可專門歸類到計算資源池120中以作為計算節點。然而，許多節點裝置既有良好的運算效能，也能夠提供較佳的服務以及資料儲存，因此可以作為服務節點、儲存節點或是計算節點之用。也就是說，這種節點裝置並不因其硬體設計而受限於僅能作為雲端運算系統100的特定角色。雖然在雲端作業系統進行配置時，這種相容性較佳的節點裝置已被決定屬於特定的節點資源池，但是在特定情況下，管理模組112_2也變更這些節點裝置的角色。

所謂的『瓶頸現象(Bottleneck)』，即是雲端運算系統100各個節點資源池中的效能負載或是空間負載過重，並且沒有其他的備用(spare)節點可供支援的時候，此時可以稱為雲端運算系統100已經處於瓶頸現象。例如，整個計算資源池120中每個計算節點122_1~122_j之中央處理器(CPU)的平均使用率過高的時候，此時稱為是效能瓶頸(Performance Bottleneck)。又例如，儲存資源池130中儲存節點122_1~122_k所剩下的儲存空間快要不足的時候，此時稱為是空間瓶頸(Space Bottleneck)。

於此，當已經偵測到雲端運算系統100發生瓶頸現象，整個機櫃又沒有多餘備用節點的時候，本發明實施例的雲端運算系統100可從沒有發生瓶頸現象的節點資源池中選擇某些節點裝置以進行角色變更，使得這些被選擇的節點裝置便以作為發生瓶頸現象的節點資源池的其中一員，藉以消除整個雲端運算系統100的瓶頸現象。當然，本發明實施例必須考量到這些受變更的節點裝置是否可以承擔切換後的節點資源池的效能。

以下即透過其所適用的雲端運算系統100來加以說明硬體效能的管理方法。圖2是依照本發明一實施例說明硬體效能的管理方法流程圖。請同時參考圖1及圖2，於步驟S210中，管理節點112_2中的瓶頸監控模組150偵測上述節點資源池110~130的負載，並於步驟S220中，瓶頸監控模組150判斷是否發生瓶頸現象，以及判斷發生此瓶頸現象所對應的節點資源池。此處將發生瓶頸現象所對應的節點資源池稱為是瓶頸資源池。

於本實施例中，管理節點112_2針對每一個節點資源池110~130分別設定一個正常臨界值與一個瓶頸臨界值，藉以判斷每個節點資源池的目前運作情況。詳細而言，本實施例的瓶頸監控模組150偵測各個節點裝置的負載，所述各個節點裝置的負載包括這些節點裝置各自的運算負載以及空間負載(也就是已用的儲存空間)，並透過節點關連資料庫DB來統整計算出每個節點資源池110~130的平均負載。藉此，節點資源池的負載包括這些節點資源池中各自節點裝置的平均運算負載、空間負載和/或其結合。

於本實施例中，效能瓶頸的正常臨界值設定為70%，而效能瓶頸的瓶頸臨界值則設定為80%。也就是說，當節點資源池中CPU的平均效能使用率小於70%，且當某裝節點裝置進行角色變更之後，變更後原先的點節資源池中CPU的平均效能使用率仍需低於70%。另一方面，當節點資源池中CPU的平均效能使用率大於80%，且當某裝節點裝置進行角色變更後，變更後的瓶頸資源池應該要低於80%才能符合其評估。

本實施例中，空間瓶頸的正常臨界值設定為80%，而空間瓶頸的瓶頸臨界值則設定為90%。也就是說，當節點資源池中(已使用空間/所有儲存空間)的數值小於80%，且當某裝節點裝置進行角色變更之後，變更後原先的點節資源池中(已使用空間/所有儲存空間)的數值仍需低於80%。當當節點資源池中(已使用空間/所有儲存空間)的數值已大於80%，且當某裝節點裝置進行角色變更後，變更後的瓶頸資源池中(已使用空間/所有儲存空間)的數值應該要低於80%才能符合其評估。

計算出各個節點資源池的負載後，當節點資源池的負載低於其對應的正常臨界值時，瓶頸監控模組150便可判斷這些節點資源池位於正常現象，並沒有發生瓶頸現象的情況。當節點資源池的負載高於對應的正常臨界值但卻低於對應的瓶頸臨界值的時候，瓶頸監控模組150便可判斷此節點資源池處於高負載情況，但尚未達到上述的『瓶頸現象』。然而，當節點資源池的負載已達到或是高於其對應的瓶頸臨界值的時候，表示此節點資源池的相應負載已經接近滿載狀態，瓶頸監控模組150便可判斷此節點資源池已發生『瓶頸現象』。『瓶頸現象』例如是，計算資源池120中的效能負載不足以負荷現今的運算量，或是儲存資源池130中的可儲存空間已經低於預設的備用空間。

為了方便說明，本實施例假設儲存資源池130已發生空間瓶頸的問題。因此，當瓶頸監控模組150判斷已發生瓶頸現象，並且已判斷發生此瓶頸現象所對應的節點資源池(也就是儲存資源池130)之後，便由步驟S220進入步驟S230，節點選擇模組160從瓶頸資源池以外的其他節點資源池的節點裝置中，評估並選擇至少一個轉換節點。換句話說，節點選擇模組160會從其他沒有發生瓶頸現象的節點資源池(例如是服務資源池110或是計算資源池120)中選擇可以作為儲存節點的節點裝置，並且評估這些節點裝置在進行角色變更後，是否可以確實地使雲端運算系統100不會發生瓶頸現象。

為了避免兩種已經處於高負載狀態之節點資料池的節點裝置會持續不斷地進行角色變換，本實施例的節點選擇模組160便會從位於正常現象的節點資源池(也就是，其負載低於正常臨界值的節點資料池)中選擇欲變更角色的節點裝置，不會在位於高負載狀態的節點資料池中進行選擇。此外，節點選擇模組160也需要依據瓶頸臨界值估算上述的轉換節點在進行角色變更之後(也就是，從原先的節點資源池分配至瓶頸資源池之後)是否會使原先的節點資料池以及瓶頸資源池的負載皆小於其對應的瓶頸臨界值，以預期在進行角色轉換後可達到雲端運算系統100皆無瓶頸現象的功效。本實施例的節點選擇模組160可直覺地計算位在同一個節點資源池中各個節點裝置之中央處理器的平均效能負載，或是直覺地計算已用的儲存空間是否超出，以判斷其是否已達到或超出瓶頸臨界值。

例如，假設節點選擇模組160在位於正常現象的計算資源池120中選擇計算節點122_2作為轉換節點，計算節點122_2可以作為儲存節點，並且計算節點122_2在節點選擇模組160評估後可以達成上述效果的話，節點選擇模組160便將這些節點裝置視作是轉換節點，藉以續行下述步驟。

於步驟S240中，管理節點112_2變更上述轉換節點122_2在節點關連資料庫DB中的節點相關資料，藉以將轉換節點122_2從原先的節點資源池(也就是計算資源池120)重新分配至瓶頸資源池(也就是儲存資源池130)中。其中，步驟S240的動作流程可以細分為步驟S250至步驟S290，並透過節點關連資料庫DB中的節點相關資訊表格逐一詳述這些步驟。

雲端運算系統100的雲端作業系統在配置節點裝置時，便將各個節點裝置的節點相關資訊記錄整理於節點相關資訊表格。上述的節點相關資訊可由以下幾種方式來取得。例如，當每個節點裝置的基本輸入輸出系統(BIOS)在進行加電自檢(POST)程序時，會動態地取得其節點相關資料(例如，中央處理器、記憶體、硬碟、網路卡...等相關資料)，並透過例如SMBIOS資料結構(類型0、1、2及OEM類型)以及網路卡EEPROM中的MAC位址來取得其它的節點相關資料(例如，節點裝置的產品資料、BIOS資訊、節點類型)，最後將這些資料經由IPMI OEM指令傳送到各個節點裝置的基板管理控制器(BMC)中。此外，BMC亦可以動態地取得例如BMC網路卡相關資訊，例如BMC網路卡MAC位址、IP位址及其頻寬，藉以充實其節點相關資訊。以下利用表(1)來作為節點關連資料庫DB以及其中之節點相關資訊的舉例。其中，表(1)所記錄的5筆節點相關資訊分別依序取自圖1的服務節點112_1、112_i、計算節點122_1、122_2以及儲存節點132_1。

表(1)包括10個欄位，分別記錄各個節點裝置中基板管理控制器(BMC)網卡的MAC位址、BMC網卡的IP位址及頻寬、系統網卡的MAC位址、系統網卡的IP位址及頻寬、處理器資訊(型號/運算速率)、記憶體資訊、硬碟資訊、節點位置、節點類型以及伺服器類型。系統網卡的IP位址之取得則是透過網路啟動(Network Boot)。

以節點裝置112_1的節點相關資訊而言，其BMC網卡的MAC位址為『00:A0:D1:EC:F8:B1』，所分配到的BMC網卡的IP位址為『10.1.0.1』，且BMC網卡的頻寬為100Mbps(bps=bits per second)。而節點裝置112_1的系統網卡的MAC位址為『00:A0:D1:EA:34:E1』、IP位址為『10.1.0.11』以及頻寬為1000Mbps。另外，節點裝置112_1的中央處理單元的型號為『Intel(R) Xeon(R) CPU E5540』，其運算頻率為『2530MHz』。而節點裝置112_1包括4個記憶體模組，DIMM1~DIMM4，每一個記憶體模組的容量皆為8G。此外，節點裝置112_1的硬碟的托架(carrier)編號為1、硬碟類型為SAS(Serial Attached SCSI，SCSI=Small Computer System Interface)、硬碟容量為1TB、硬碟轉速為7200 RPM(Revolution Per Minute)以及硬碟快取(cache)容量為16MB。

回到圖2並同時參考圖1，於步驟S250中，資料存取模組170檢索節點關連資料庫DB並取得轉換節點122_2的節點相關資料。也就是，資料存取模組170可從節點關連資料庫DB中取得例如下表(2)的節點相關資料。

於步驟S260中，資料存取模組170調整上述表(2)中轉換節點122_2的節點相關資料，並將這些節點相關資料回存至服務節點112_1中的節點關連資料庫DB，本實施例是修改表(2)中欄位『節點類型』以及『伺服器類型』以其由原先的『計算節點』調整為『儲存節點』(如下表(3)所示)，使轉換節點122_2從原先節點資源池(計算資源池120)的計算節點122_2修改至瓶頸資源池(儲存資源池130)的儲存節點。於其他實施例中，資料存取模組170也會於此時設定節點關連資料庫DB並隔絕轉換節點112_2的節點相關資料，以使其他節點裝置無法存取轉換節點112_2。

然後，於步驟S270中，節點隔離模組180從雲端運算系統100中將轉換節點122_2進行隔離。詳細來說，節點隔離模組180會執行許多流程以使轉換節點122_2從雲端運算系統100中隔離。例如，節點隔離模組180將轉換節點122_2中正在運行的多個虛擬機器(VM)從轉換節點遷移到計算資源池120的其他節點裝置122_1~122_j。以及，在轉移完上述的虛擬機器後，節點隔離模組180關閉轉換節點122_2上所執行的所有服務程序。

於步驟S280中，節點部署模組190依據瓶頸資源池(儲存資源池130)來調整轉換節點122_2。節點部署模組190會依照調整後的節點類型/伺服器類型來重新部署這個轉換節點122_2，也就是說，對此轉換節點122_2安裝瓶頸資源池(儲存資源池130)所需的作業系統，並在上述作業系統安裝完成後，再安裝所有儲存節點所必須擁有的服務軟體包(service packages)，以使轉換節點122_2符合儲存資源池130的需求。

最後，如圖3所示，圖3是根據本發明一實施例說明雲端運算系統100的另一示意圖，並同時參照圖2，於步驟S290中，節點增加模組195便會將轉換節點122_2重新加入雲端運算系統100中，並且由原先節點資源池(計算資源池120)的計算節點122_2轉換為瓶頸資源池(儲存資源池130)中的儲存節點132_x(如虛線箭頭300所示)。資料存取模組170也會於此時設定節點關連資料庫DB並重新開放原先轉換節點112_2(也就是圖3的儲存節點132_x)的節點相關資料，以使其他節點裝置得以存取儲存節點132_x。

綜上所述，本發明實施例的雲端運算系統針對每個節點資源池分別設定不同的負載上限，並偵測每個節點資源池的運作情況。當特定節點資源池發生瓶頸現象且無其它冗餘節點可供支援時，雲端運算系統可從正常運作且沒有發生瓶頸現象的節點資源池中選擇部分節點，並將其投入上述特定節點資源池中(換句話說，就是重新分配部分節點的角色分工)，藉以降低瓶頸現象的發生。因此，透過自動調整及重新分配這些伺服器的角色分工，雲端運算系統便可有效地自動解決瓶頸現象並提升其硬體運作效能，提供更高的效能。

雖然本發明已以實施例揭露如上，然其並非用以限定本發明，任何所屬技術領域中具有通常知識者，在不脫離本發明之精神和範圍內，當可作些許之更動與潤飾，故本發明之保護範圍當視後附之申請專利範圍所界定者為準。

100．．．雲端運算系統

110．．．服務資源池

112_1~112_i．．．服務節點

120．．．計算資源池

122_1~122_j．．．計算節點

130．．．儲存資源池

132_1~132_k．．．儲存節點

140．．．交換機

150．．．瓶頸監控模組

160．．．節點選擇模組

170．．．資料存取模組

180．．．節點隔離模組

190．．．節點部署模組

195．．．節點增加模組

300．．．虛線箭頭

DB．．．節點關連資料庫

S210~S290．．．步驟

圖1是根據本發明一實施例說明雲端運算系統的示意圖。

圖2是依照本發明一實施例說明硬體效能的管理方法流程圖。

圖3是根據本發明一實施例說明雲端運算系統的另一示意圖。