TWI414161B

TWI414161B - 負載分配方法

Info

Publication number: TWI414161B
Application number: TW100103271A
Authority: TW
Inventors: Der Cherng Liaw
Original assignee: Univ Nat Chiao Tung
Priority date: 2011-01-28
Filing date: 2011-01-28
Publication date: 2013-11-01
Also published as: TW201233097A; US20120198074A1

Description

負載分配方法

本發明係關於一種負載分配方法，詳而言之，係涉及一種處理網路系統中資訊流量之負載分配方法。

隨著科技進步，網路已成為現代社會的重要技術。隨著網路人口逐漸增加，對於回應客戶端請求之伺服器的網路負載亦隨之增加。

以往的伺服器容易負載過大，例如，請參閱第1圖，其為習知技術之伺服器負載平衡方法的流程圖。於步驟S11中，設定每一個伺服器的流量警戒值，接著於步驟S12中，負載平衡器將所接收之客戶端請求平均分配至每一個伺服器。其次，於步驟S13中，當其中一個伺服器的負載達到其流量警戒值時，該伺服器發出一通知至該負載平衡器，以通知該負載平衡器莫再將客戶端請求分配至該伺服器，而應將客戶端請求分配至其餘的伺服器。

然而，上述將客戶端請求平均分配至每一個伺服器的機制，即使該客戶端請求的數量很少時仍須啟動所有的伺服器，如此會增加伺服端的耗能，此外，伺服器的流量警戒值為負載平衡器進行負載平衡時絕對不能超越的界線，因此若每一個伺服器的負載皆到達其流量警戒值時，客戶端一方便呈現完全無法連線的狀態，需排隊等其中之一連線結束才可能清出負載空間。另外，伺服器亦可能因為流量警戒值設定不良而造成過載、當機或斷線，使系統整體效率下降。

故，如何提出一種負載分配方法，能讓複數個伺服器達到負載平衡，以防止伺服器過載，並紓解客戶端連線塞車的狀況，是為目前亟待解決的問題之一。

為解決前述習知技術的問題，本發明提供一種負載分配方法，係應用於網路系統中，以對複數個伺服器進行負載分配。

本發明之負載分配方法，係由負載分配裝置對複數個伺服器進行負載分配，包括以下步驟：(1)依據各該伺服器的滿載量計算各該伺服器的第一階段的最大負載分配量，並進行第一階段的負載分配；(2)判斷各該伺服器於該第一階段所分配到的實際分配量是否滿足各該伺服器的該第一階段的最大負載分配量，若否，則返回步驟(1)後半部所述之負載分配步驟，持續對該複數個伺服器進行該第一階段的負載分配，若是，進至步驟(3)；(3)計算各該伺服器的次一階段的最大負載分配量，並進行該次一階段的負載分配；以及(4)判斷各該伺服器於該次一階段所分配到的實際分配量是否滿足各該伺服器的該次一階段的最大負載分配量，若否，則返回步驟(3)後半部所述之負載分配步驟，持續對該複數個伺服器進行該次一階段的負載分配，若是，則計算各該伺服器再次一階段的最大負載分配量，並對該複數個伺服器進行該再次一階段的負載分配，其中，各該伺服器的每一階段的最大負載分配量小於或等於其前一階段的最大負載分配量，且各該伺服器的每一階段的最大負載分配量之累計總和小於或等於各該伺服器的滿載量。

於一實施形態中，各該伺服器的第一階段的最大負載分配量為各該伺服器的滿載量的倍，其中，M為可變參數。此外，各該伺服器的滿載量係依據其CPU的運作能力、記憶體的空間大小、硬碟運轉狀態及/或伺服器負載連接數量而計算。

於另一實施形態中，各該伺服器的每一階段的最大負載分配量係為其前一階段的負載分配量的倍，其中，N為可變參數。

於一較佳實施形態中，前述該M及N均為2。

相較於習知技術，本發明之負載分配方法能避免習知技術中，當客戶端請求為少量時仍啟用多個伺服器而導致增加耗能的缺失，進而達成複數個伺服器負載平衡之功效。

以下藉由特定的具體實施形態說明本發明之實施方式，熟悉此技術之人士可由本說明書所揭示之內容輕易地了解本發明之其他優點與功效，亦可藉由其他不同的具體實施形態加以施行或應用。

請參閱第2圖，本發明之負載分配方法包括步驟S21至S27。

於步驟S21中，依據各個伺服器的滿載量計算各該伺服器第一階段的最大負載分配量，並對各該伺服器進行第一階段的負載分配。詳言之，係由負載分配裝置來決定各該伺服器第一階段的最大負載分配量。於一實施形態中，伺服器的第一階段的最大負載分配量可為伺服器的滿載量的倍，其中，M為可變參數。於一較佳實施形態中，M可為2。此外，伺服器的滿載量可依據其CPU的運作能力、記憶體的剩餘空間大小、硬碟運轉狀態等其他因素來計算。接著進至步驟S22。

於步驟S22中，判斷各該伺服器於該第一階段所分配到的實際分配量是否滿足各該伺服器的該第一階段的最大負載分配量。換言之，負載分配裝置於第一階段分配給各該伺服器的負載限制為伺服器的滿載量的倍，並判斷各該伺服器於該第一階段所分配到的實際分配量是否滿足各該伺服器的該第一階段的最大負載分配量。若否，則進至步驟S23，若是，則進至步驟S24。

於步驟S23中，持續進行負載分配。接著返回步驟S22以進行判斷。

於步驟S24中，計算各該伺服器次一階段的最大負載分配量，並對各該伺服器進行次一階段的負載分配，其中，該次一階段的最大負載分配量係小於或等於該第一階段的最大負載分配量，且該第一階段和該次一階段的最大負載分配量之累計總和係小於或等於伺服器的滿載量。於一實施形態中，各該伺服器的第一階段的最大負載分配量為各該伺服器的滿載量的倍，該次一階段的最大負載分配量為第一階段的最大負載分配量的倍，其中，N為可變參數，或N等於M。接著進至步驟S25。

於步驟S25中，判斷各該伺服器於該次一階段所分配到的實際分配量是否滿足各該伺服器的該次一階段的最大負載分配量。換言之，當M等於N時，負載分配裝置於次一階段分配給各該伺服器的負載限制為伺服器的滿載量的倍，或者當M不等於N時為倍，並判斷各該伺服器於該次一階段所分配到的實際分配量是否滿足各該伺服器於該次一階段的最大負載分配量。若否，則進至步驟S26，若是，則進至步驟S27。

於步驟S26中，持續進行負載分配。接著返回步驟S25以進行判斷。

於步驟S27中，計算各該伺服器之再次一階段的最大負載分配量，並對各該伺服器進行再次一階段的負載分配。以此類推，由於每一階段的最大負載分配量皆小於或等於其前一階段的最大負載分配量，且每一階段的最大負載分配量之累計總和係小於或等於伺服器的滿載量，因而各個伺服器的負載永遠不會超過其滿載。

另外，於進行負載分配時，該負載分配裝置可監測該複數個伺服器，以記錄該複數個伺服器的每一階段的最大負載分配量及取得該複數個伺服器的每一階段的實際分配量。另外，該負載分配裝置亦可依據不同狀態(例如依據不同伺服器的硬體效能)個別設定或計算各該伺服器每一階段的最大負載分配量。

此外，上述步驟S21、S23、S24、S26及S27中進行負載分配的步驟係指該負載分配裝置依據所接收到的用戶端請求將負載平均分配、隨機分配或依不同狀態個別分配至該複數個伺服器。另外，該負載分配裝置依據所接收到的客戶端請求，可將負載依序分配或選擇分配至該複數個伺服器。再者，當某一階段中各該伺服器皆有分配到負載而該負載分配裝置繼續進行負載分配時，當其中一個伺服器的實際分配量下降至低於預定的判斷值時，令該負載分配裝置將所接收到的客戶端請求優先分配給該伺服器，其中，該預定的判斷值可為由負載分配裝置當初所決定之該階段的最大負載分配量。

接著以第3圖及第4圖說明本發明之一具體實施形態。第3圖為本發明之負載分配方法之具體實施示意圖。第4圖為本發明之負載分配方法之具體實施流程圖。

如第3圖所示，複數個客戶端4所發出的客戶端請求經網路傳輸至負載分配裝置3，接著負載分配裝置3依據所接收的客戶端請求將對應的負載分配至各個伺服器5，再由各伺服器5依據所分配到的負載提供相對應的服務至客戶端4。負載分配裝置3將負載分配至複數個伺服器5的詳細流程如第4圖所示。

於步驟S31中，計算或設定各個伺服器第一階段的最大負載分配量(係為各個伺服器的滿載量的倍)，並依據所接收到的用戶端請求對各該伺服器進行第一階段的負載分配。接著進至步驟S32。

於步驟S32中，判斷各該伺服器於該第一階段所分配到的實際分配量是否滿足各該伺服器的滿載量的倍。若否，則進至步驟S33，若是，則進至步驟S34。換言之，若各該伺服器於第一階段時的總負載(實際分配量)達到各該伺服器的滿載量的倍時，進至步驟S34。

於步驟S33中，持續進行負載分配。接著返回步驟S32。

於步驟S34中，計算或設定各該伺服器第二階段的最大負載分配量(係為伺服器的滿載量的倍，亦即令前述之可變參數N=M，故第一階段的最大負載分配量=‧(滿載量)，第二階段的最大負載分配量=(滿載量)=‧(滿載量))，並依據所接收到的用戶端請求對各該伺服器進行第二階段的負載分配。接著進至步驟S35。

於步驟S35中，判斷各該伺服器於該第二階段所分配到的實際分配量是否滿足各該伺服器的滿載量的倍。若否，則進至步驟S36，若是，則進至步驟S37。換言之，若各該伺服器於第二階段時的總負載達到各該伺服器的滿載量的倍時，進至步驟S37。

於步驟S36中，持續進行負載分配。接著返回步驟S35。

於步驟S37中，計算各該伺服器第三階段的最大負載分配量(係為伺服器的滿載量的倍)，並依據所接收到的用戶端請求對各該伺服器進行第三階段的負載分配。直到各該伺服器於第三階段時的總負載達到各該伺服器的滿載量的倍時，計算第四階段的最大負載分配量，以此類推。

由上述第3及4圖所述之具體實施形態可知，負載分配裝置將客戶端請求分配至複數個伺服器，其各階段的最大負載分配量係小於或等於其前一階段的最大負載分配量。例如，當N=M時，各階段的最大負載分配量可依次為滿載量的倍，使得伺服器每一階段的最大負載分配量之累計總和依次為滿載量的倍。又例如，當N=M=2時，各階段的最大負載分配量之變數依次為；當N=M=3時，各階段的最大負載分配量之變數可依次，則每一階段的最大負載分配量之累計總和不會超過伺服器的滿載量。

另外，當N≠M時，各階段的最大負載分配量之變數可依次為，或者等其他數學式的運算變化。亦即，限制每一階段的最大負載分配量小於或等於其前一階段的最大負載分配量，且各階段的最大負載分配量之累計總和小於或等於伺服器的滿載量即可。如此一來，各伺服器的負載永遠不會超過自己的滿載。

綜上所述，本發明之負載分配方法，係計算各階段的最大負載分配量，並判斷伺服器於各該階段分配到的實際分配量是否滿足各該階段的最大負載分配量，且其中，每一階段的最大負載分配量係小於或等於其前一階段的最大負載分配量，且每一階段的最大負載分配量之累計總和係小於或等於滿載量。此外，該伺服器的第一階段的最大負載分配量較佳為伺服器的滿載值的倍，M係根據該伺服器的中央處理器(CPU)的運作能力、記憶體的空間大小、硬碟運轉狀態及/或伺服器負載連接數量或其他伺服器的相關資訊所計算之。因此，藉由本發明的運用，能使各個伺服器的負載平衡，更可提升客戶端連線效率。

上述實施形態僅例示性說明本發明之原理、特點及其功效，並非用以限制本發明之可實施範疇，任何熟習此項技藝之人士均可在不違背本發明之精神及範疇下，對上述實施形態進行修飾與改變。任何運用本發明所揭示內容而完成之等效改變及修飾，均仍應為下述之申請專利範圍所涵蓋。因此，本發明之權利保護範圍，應如後述之申請專利範圍所列。

3．．．負載分配裝置

4．．．客戶端

5．．．伺服器

S11～S13、S21~S27、S31～S37．．．步驟

第1圖係習知技術之負載平衡方法之流程圖；

第2圖係本發明之負載分配方法之流程圖；

第3圖係本發明之負載分配方法之實施形態之示意圖；以及

第4圖係本發明之負載分配方法之一實施形態之流程圖。

S21~S27．．．步驟

Claims

一種負載分配方法，係由負載分配裝置對複數個伺服器進行負載分配，包括以下步驟：(1)依據各該伺服器的滿載量計算各該伺服器的第一階段的最大負載分配量，並進行該第一階段的負載分配；(2)判斷各該伺服器於該第一階段所分配到的實際分配量是否滿足各該伺服器的該第一階段的最大負載分配量，若否，則返回步驟(1)後半部所述之負載分配步驟，持續對該複數個伺服器進行該第一階段的負載分配，若是，進至步驟(3)；(3)計算各該伺服器的次一階段的最大負載分配量，並進行該次一階段的負載分配；以及(4)判斷各該伺服器於該次一階段所分配到的實際分配量是否滿足各該伺服器的該次一階段的最大負載分配量，若否，則返回步驟(3)後半部所述之負載分配步驟，持續對該複數個伺服器進行該次一階段的負載分配，若是，則計算各該伺服器的再次一階段的最大負載分配量，並對該複數個伺服器進行該再次一階段的負載分配，其中，各該伺服器的每一階段的最大負載分配量小於或等於其前一階段的最大負載分配量，且各該伺服器的每一階段的最大負載分配量之累計總和小於或等於各該伺服器的滿載量。
如申請專利範圍第1項所述之負載分配方法，其中，於進行負載分配時，該負載分配裝置監測該複數個伺服器，以記錄該複數個伺服器的每一階段的最大負載分配量及取得該複數個伺服器的每一階段的實際分配量。
如申請專利範圍第1項所述之負載分配方法，其中，進行負載分配的步驟係為該負載分配裝置依據所接收到的用戶端請求，依序將負載分配至該複數個伺服器。
如申請專利範圍第1項所述之負載分配方法，其中，各該伺服器的滿載量，係依據各該伺服器的中央處理器的運作能力、記憶體的空間大小、硬碟運轉狀態或伺服器負載連接數量而計算。
如申請專利範圍第1項所述之負載分配方法，其中，各該伺服器的第一階段的最大負載分配量為各該伺服器的滿載量的倍。
如申請專利範圍第5項所述之負載分配方法，其中，M為可變參數。
如申請專利範圍第5項所述之負載分配方法，其中，各該伺服器的每一階段的最大負載分配量係為其前一階段的最大負載分配量的倍。
如申請專利範圍第7項所述之負載分配方法，其中，N為可變參數。
如申請專利範圍第1項所述之負載分配方法，其中，該負載分配裝置於某一階段持續進行負載分配時，若已受該階段負載分配之伺服器的實際分配量下降至低於預定的判斷值時，令該負載分配裝置將所接收到的客戶端請求優先分配給該伺服器。