DE60203404T2

DE60203404T2 - Client-server netzwerken

Info

Publication number: DE60203404T2
Application number: DE60203404T
Authority: DE
Inventors: Ian Stephen MARTIN
Original assignee: Marconi UK Intellectual Property Ltd
Current assignee: Ericsson AB
Priority date: 2001-09-18
Filing date: 2002-09-18
Publication date: 2005-09-08
Anticipated expiration: 2022-09-19
Also published as: DE60203404D1; CA2459575A1; CN100459608C; US7519710B2; JP2005503626A; WO2003026244A3; EP1430684B1; EP1430684A2; CA2459575C; CN1589558A; ATE291809T1; US20050038891A1; WO2003026244A2; GB0122507D0; AU2002331949A1

Description

Die vorliegende Erfindung betrifft Client-Server-Netze und insbesondere Netze, in welchen Clients mehrere alternative Server haben, die ihre Anforderungen abwickeln können.
In solchen Client-Server-Netzen ergibt sich ein Problem beim Bestimmen, zu welchem der Serverknoten ein Client eine gegebene Anforderung senden sollte. Bekannte Verfahren zur Behandlung dieses Problems beinhalten eine Lastverteilung, bei welcher die Last zwischen den mehreren Servern in zyklischer Weise aufgeteilt wird, sowie Arbeiter-Reserve-Schemata, bei welchen ein Server als der Arbeiter bezeichnet wird, an welchen Anforderungen üblicherweise gesendet werden, aber ein alternativer Server, in Reserve, die Anforderungen abwickelt, wenn der Arbeiter nicht in der Lage ist, dies zu tun. Wenn der Arbeiter die Anforderungen wieder abwickeln kann, werden die Anforderungen erneut an ihn gesendet. Keiner dieser Ansätze ist jedoch befriedigend. Eine zyklische Lastverteilung ist ungeeignet, wenn die Kapazitäten der verschiedenen Server sich wesentlich unterscheiden, da der Ansatz nicht die relative Servergröße in Rechnung zieht. Arbeiter-Reserve-Ansätze sind ungeeignet, wenn das Anforderungsvolumen die Kapazität eines einzelnen Servers übersteigt.
Die effektive Kapazität eines beliebigen gegebenen Servers kann im Zeitverlauf beträchtlich variieren, beispielsweise weil der Server Anforderungen von anderen Clients abwickelt, oder aus anderen Gründen, beispielsweise Instandhaltungsaktivitäten wie etwa Archivierung.
Die Veröffentlichung: Germán Goldszmit: "Schock Absorber: A TCP Connection Router", Tagungsberichte 2. Globale Internetkoferenz, Globecom, Phoenix, Arizona, offenbart ein System und ein Verfahren zur Zuordnung von TCP-Verbindungen auf Server entsprechend deren Echtzeitbelastung und deren Ansprechverhalten. Das Patentdokument WO 0014633 (Sun Microsystems Inc.) offenbart ein Verfahren zur Verteilung von Clientanforderungen auf Server unter Berücksichtigung mehrerer Kriterien.
Die vorliegende Erfindung zielt darauf ab, die vorstehend angeführten Probleme anzugehen, und stellt eine verbesserte Abwicklung von Anforderungen für mehrere Server zur Verfügung.
Erfindungsgemäß wird ein Verfahren wie in Anspruch 1 ausgeführt zur Verfügung gestellt. Die Erfindung stellt außerdem ein System wie in Anspruch 11 ausgeführt zur Verfügung.
Ausführungsformen der Erfindung haben den Vorteil, dass die Last gleichmäßig auf die Server verteilt werden kann, wobei deren relative Kapazitäten in Rechnung gezogen werden.
Vorzugsweise umfasst der Clientknoten eine Laststeuerung zum Anwenden eines Laststeuerungsalgorithmus auf die Anforderungen, die auf alle Server der Mehrzahl von Servern verteilt werden. Dies hat den Vorteil, dass Belastungen gesteuert werden können, um alle Server vor Überlastung zu schützen, und dass der Verteiler bewirkt, dass die mehreren Server wie ein einziger Server erscheinen.
Vorzugsweise wird die Serveraktivität gemessen, indem die Anzahl von Serveranforderungen und -reaktionen über eine Periode hin gezählt wird. Bevorzugt stellt diese Periode eine Gesamtanzahl von Anforderungen dar.
Vorzugsweise umfasst das Bewerten der relativen Belastung das Vergleichen der Serveranforderungen und -reaktionen für jeden der Server über die Erfassungsperiode hin.
Bevorzugt wird die Anforderungsverteilung des Servers entsprechend einer Funktion der gemessenen Serveraktivität, der mittleren Aktivität zwischen allen Servern und dem bestehenden Anteil von dem Server zugeordneten Anforderungen angepasst.
Vorzugsweise ist eine Überschreibeinrichtung vorgesehen, wodurch eine Anforderung, die sich auf eine vorhergehende Anforderung bezieht, an den gleichen Server wie die vorhergehende Anforderung gesendet wird.
Ausführungsformen der Erfindung sollen nun beispielshalber und unter Bezugnahme auf die begleitenden Zeichnungen beschrieben werden, in welchen:
1 ein schematisches Diagramm eines Anforderungsverteilungssystems zeigt, welches die Erfindung verkörpert;
2 ein UML-Nutzungsfalldiagramm für den Verteiler aus 1 ist,
3 ein UML-Klassierungsdiagramm zur Messung der Serverbelastungen zur Bewertung relativer Belastungen ist;
4 eine Beispielsequenz für einen Nutzungsfall VERTEILEN ist.
5 eine Beispielsequenz für einen Nutzungsfall REAGIEREN ist;
6 eine Beispielsequenz für einen Nutzungsfall MESSEN ist;
7 eine Beispielsequenz für einen Nutzungsfall NEU BEWERTEN ist;
8 ein UML-Aktivitätsdiagramm für den Nutzungsfall VERTEILEN ist;
9 eine graphische Darstellung von Reaktionen und Anforderungen für einen relativ großen Server ist, welche die Auswirkung einer Überlastung zeigt;
10 eine graphische Darstellung von Anforderungen und Reaktionen für einen relativ kleinen Server ist, welche die Auswirkung einer Überlastung zeigt;
11 ein Ablaufdiagramm ist, das eine erste Ausführungsform der Aktivitätsmessung zeigt;
12 ein Ablaufdiagramm ist, das eine zweite Ausführungsform der Aktivitätsmessung zeigt; und
13 ein Ablaufdiagramm ist, das eine dritte Ausführungsform der Aktivitätsmessung zeigt.
Nehmen wir Bezug auf 1, so basiert die zu beschreibende Erfindung auf einer Anforderungsverteilereinheit 10 in jedem Clientknoten 12. Der Anforderungsverteiler empfängt sowohl lokale Anforderungen 14, die intern in dem Clientknoten erzeugt werden, als auch externe Anforderungen 16, die über eine externe Schnittstelle empfangen werden. Der Verteiler verteilt Serveranforderungen auf n Server, die hier als Server 1, 18, Server 2, 20, und Server n, 22, gezeigt sind. Der Clientknoten umfasst außerdem eine Laststeuerungseinheit 24, auf welcher ein Laststeuerungsalgorithmus läuft. Der Verteiler stellt sicher, dass die abgesetzten Server gleichmäßig belastet werden. Der Laststeuerungsalgorithmus stellt effektiv das Vorfeld für den Verteiler dar.
Die in 1 dargestellte Architektur gestattet es, die gleiche Laststeuerung für externe Anforderungen und für Anforderungen, die ihren Ursprung lokal in dem Clientknoten haben, zu nutzen. Außerdem bewirkt der Verteiler, dass das Servernetz für den Laststeuerungsalgorithmus wie ein einzelner Knoten aussieht. Aus 1 ist zu ersehen, dass der Verteiler logisch zwischen den Servern und der Laststeuerung angeordnet ist.
Das Verteilen der Last auf die Server auf anforderungsweiser Basis funktioniert nicht, wenn sich eine Anforderung auf eine frühere Anforderung bezieht. Der Verteiler enthält eine Überschreibeinrichtung, welche gestattet, einen gewissen Teilsatz von Anforderungen an denselben Server zu senden. Dies ist typischerweise notwendig, wenn der Server Inhalt speichert, der von der ersten Anforderung abgeleitet ist, welcher benötigt wird, um die nachfolgenden Anforderungen zu verarbeiten.
Die UML-Nutzungsfälle für den Verteiler sind in 2 gezeigt. Die lokale Anwendung oder der abgesetzte Client 26, die Zeit 28 sowie der abgesetzte Server 30 sind als von dem System abgesetzt vorgesehen gezeigt. Das Schema zeigt, dass der Verteiler Serveranforderungen verteilt 31, und zwar entsprechend Reaktionen 32 von den Servern und einem gewissen Maß 34, das auf der Verteilung und Reaktion basiert. Die Verteilung wird im Zeitverlauf neu bewertet 36.
Unabhängig vom Ursprung der Serveranforderung, der extern oder intern eines Clientknotens liegt, können drei Erfordernisse zum Verteilen von Serveranforderungen auf einen Satz verfügbarer Server wie folgt bestimmt werden:

1. die verfügbaren Server gleichmäßig zu belasten, so weit dies möglich ist;
2. häufige Schwankungen der Serverlast zu vermeiden, indem auf vergangene Lastunausgeglichenheiten nicht überreagiert wird, was neue Lastunausgeglichenheiten bewirken würde; und
3. für Überschreibanforderungen zu gestatten, trotz des Verteilungsalgorithmus auf einem spezifischen Server zu bestehen.

Die Überschreibanforderung der Erfordernisse wird aufgerufen, wenn eine nachfolgende Anforderung Kontextdaten benötigt, die in jenem Server erzeugt wurden, der eine frühere Anforderung abgewickelt hat. Die Reaktion auf die frühere Anforderung würde anzeigen, welcher Server diese abgewickelt hat.
Die genutzte Verteilung sollte vorzugsweise unabhängig von den speziellen Details des Client-Server-Protokolls sein, um eine breite Anwendbarkeit sicherzustellen. In den Ausführungsformen, die beschrieben werden sollen, werden die Messungen für unterschiedliche Server verglichen, um deren relative Belastungen zu bewerten. Die Verteilung nachfolgender Anforderungen wird dann derart angepasst, dass die Servermessung zu deren Mittelwert hin konvergiert. Somit werden die Belastungen der Server wieder ausgeglichen. Bei diesem Ansatz wird nicht berücksichtigt, ob die einzelnen Server überlastet sind, da er ein relatives Maß der Belastung darstellt und somit keinen vollständigen Steuermechanismus bereitstellt. Wenn an einem Clientknoten ein Problem darin besteht, eine Überlastung von Servern zu vermeiden, kann in dem Clientknoten ein separater Laststeuerungsalgorithmus vor dem Verteiler integriert werden, wie er beispielsweise bei 24 in 1 gezeigt ist. Der Laststeuerungsalgorithmus funktioniert aufgrund, von Messungen des Gesamtverkehrs zu allen Servern. Ein Laststeuerungsschema, das für einen Serverknoten geeignet ist, der Anforderungsverkehr abschließt, sollte gleichfalls für einen Clientknoten mit einem Anforderungs verteiler geeignet sein. Es sollte verstanden werden, dass die Laststeuerung nicht unbedingt erforderlich ist.
Der vorstehend angeführte Ansatz basiert auf Messungen relativer Belastungen. Es wäre möglich, verkehrsbezogene Größen zu messen, beispielsweise Zählwerte für Anforderungen und Reaktionen sowie deren Ableitungen nach der Rate, Verteilungen der Reaktionszeiten (beispielsweise Mittelwert, Wert für 95 Prozent und Standardabweichung) sowie Anzahl von Anforderungen mit anhängigen Reaktionen. Obgleich dies alles universelle Messungen sind, besteht dabei in größerem oder geringerem Ausmaß das Problem, dass der Schwellwert, der normale Zustände von Überlastzuständen trennt, üblicherweise protokoll- und/oder anwendungsspezifisch ist. Was beispielsweise für die eine Anwendung eine befriedigende Reaktionszeit darstellt, ist wahrscheinlich für eine andere inakzeptabel. Somit ist eine Gestaltung, die auf der Überprüfung von Messwerten gegenüber Absolutwerten basiert, unbefriedigend.
Zusätzlich zu dem Ansatz, der auf Messungen relativer Belastungen basiert, enthalten einige Protokolle eine explizite Einrichtung für einen Server zum Zurückweisen von Clientanforderungen, wenn er überlastet ist. Das Unterscheiden und Zählen dieser zurückgewiesenen Anforderungen an dem Verteiler stellt einen zusätzlichen Satz von Messungen bereit, der genutzt werden kann, um die Verteilung zu steuern.
Die 3 bis 7 zeigen generalisierte UML-Klassierungs- und Sequenzdiagramme für den Verteiler. 3 ist ein UML-Klassierungsdiagramm, das drei Objekte zeigt: den Server 38, die Anforderung 40 und die Reaktion 42. Der Server weist die Attribute MESSUNG, ANTEIL auf, Anforderung weist die Attribute ZEITSTEMPEL, TRANSAKTIONS-ID und ÜBERSCHREIBEN auf und Reaktion weist die Attribute ZEITSTEMPEL und TRANSAKTIONS-ID auf. Der Server weist die Arbeitsgänge LESEN und AKTUALISIEREN auf.
4 zeigt die Sequenz für den Nutzungsfall VERTEILEN, wobei der Client oder die lokale Anwendung und der abgesetzte Server 42, 44 außerhalb des Verteilersystems gezeigt sind. Anforderungen 46 werden an den Verteiler gesendet, und es wird ein Lesevorgang 48 in jedem Serverobjektfall ausgeführt, um augenblickliche Anteile zu erhalten, und welcher beinhaltet, Reaktionen 50 von den Serverobjekten zu empfangen. Die Anforderungen werden dann in Abhängigkeit von der relativen Belastung auf den geeigneten abgesetzten Server 44 verteilt 52.
5 zeigt die Sequenz für den Nutzungsfall REAGIEREN. Hierbei sendet der abgesetzte Server 44 Reaktionen an die Verteiler_Steuerung, welche die Reaktionen an den Client oder die lokale Anwendung 42 sendet. 6 zeigt die Sequenz für den Nutzungsfall MESSEN, bei welchem Aktualisierungen an Messungen 51 zwischen Verteiler_Steuerung und Server_Objekten vorgenommen werden und Antworten 56 an die Verteiler_Steuerung zurückgesendet werden.
7 zeigt die Sequenz für den Nutzungsfall NEU BEWERTEN. Das äußere Steuerorgan hierbei ist die Zeit 58. Bei Ablauf eines Zeitgebers, welcher ein periodisches Ereignis darstellt, werden Lesemessungen durch den Verteiler von den Serverobjekten vorgenommen und es erfolgt eine Aktualisierung. Beide empfangen Antworten von den Serverobjekten und beide werden in jedem Beispielfall eines Serverobjekts aufgerufen.
Der Verteilungsalgorithmus darf durch das Hinzufügen oder Entfernen von Servern nicht unterbrochen werden. Ein Schema mit bestandteilweiser Aufteilung wird bevorzugt, obgleich andere Algorithmen möglich sind. Gemäß dem bevorzugten Schema werden die Anteile des Servers als ein kapazitätsmäßiges Verhältnis ausgedrückt. Beispielsweise würde bei einem Fall mit drei Servern, bei denen einer der Server die doppelte Kapazität wie die beiden anderen aufwiese, das Verhältnis als 1 : 2 : 1 ausgedrückt werden.
Die Anzahl von Bestandteilen, die jedem Server zugeordnet werden, ist P1, P2, P3 ... Pn. Im obigen Fall mit 1 : 2 : 1 ist P1 = 1, P2 = 2 und P3 = 3. Der Verteilungsalgorithmus summiert diese Zahlen vom ersten Server bis zum letzten auf, wobei er die Serverkennung gegenüber jedem Intervall aufzeichnet. Somit wird der Bereich P1–P2 dem Server 2 zugeordnet, P2–P3 dem Server 3 und so weiter. Für jede Serveranforderung wird eine Zufallszahl im Bereich 0 bis ☐Pr (r = 1 – n) erzeugt. Der Server, in dessen Bereich die Zufallsnummer liegt, ist jener Server, zu welchem die Anforderung gesendet wird.
Wenn die generierte Zufallszahl gleich einem der Grenzwerte des Intervalls ist, wird eine Zuteilerregel angewandt.
Wenn der Verteiler anläuft, nimmt er an, dass alle Server die gleiche Kapazität aufweisen und ordnet jedem den gleichen Anteil zu. Anstatt den Wert 1 anzuwenden, wird ein größerer Wert wie beispielsweise 10 angewandt, um Anpassungen sowohl nach unten als auch nach oben zu gestatten.
8 zeigt ein UML-Aktivitätsdiagramm für den Nutzungsfall VERTEILEN. Bei 60 wird der Wert B auf Null gesetzt. In dem Kasten 62 wird ein Serverbereich für jeden Server iteriert. Dies beinhaltet die Schritte, einen Anteil P von jedem Serverobjekt zu lesen, 64, einen Bereich B bis (B + P – 1) dem Server zuzuordnen, 66, und dann bei 68 den Wert B auf B = B + P zurückzusetzen. Eine Zufallszahl R wird dann bei 70 generiert, und bei 72 wird ein Wert X derart festgesetzt, dass X = R mod B ist. Bei 74 wird jener Server, dessen Bereich X enthält, ausgewählt, und bei 76 wird eine Anforderung an diesen Server gesendet.
In der vorstehenden Beschreibung wurde angegeben, dass die Auswahl, zu welchem Server eine Anforderung gesendet wird, auf einer relativen Messung der Serverbelastungen basieren sollte, und diese Verteilung wird unter Verwendung eines Algorithmus erzielt, der auf den Serverkapazitäten basiert. Die folgende Beschreibung betrifft die Messung der Serverbelastung und beschreibt drei mögliche Arten der Messung von Serverbelastungen: Reaktionszeitmessungen, Zählung ausstehender Reaktionen sowie Zählung von Anforderungen. und Reaktionen, Das Letztere wird besonders bevorzugt, aber die beiden vorhergehenden Verfahren sind auch möglich. Andere Verfahren sind ebenfalls möglich und werden Fachleuten auf dem Gebiet von selbst in den Sinn kommen.
Reaktionszeitmessungen
Der Verteiler kann die Reaktionszeitverteilungen jedes Servers berechnen. Die relativen Belastungen werden dann durch direkten Vergleich des ausgewählten Maßes, beispielsweise des Mittelwertes oder des Wertes für 95 Prozent bewertet. Wenn ein Server überlastet wird, sollte er einen scharfen Anstieg seiner Reaktionszeit zeigen. Diese Lösung ist in dem Ablaufdiagramm aus 12 dargestellt, welches bei Schritt 120 eine Messung der Reaktionszeit zeigt, die für alle Server ausgeführt wird, gefolgt von einem Vergleich der Verteilung der Reaktionszeiten bei Schritt 122. Dieser Ansatz, obgleich möglich, leidet an einer Reihe von Problemen:
Erstens können sich einzelne Server in ihren natürlichen Reaktionszeiten wesentlich voneinander unterscheiden, wenn sie normal arbeiten, was es schwieriger macht, überlastete Server herauszufinden. Zweitens muss eine bestimmte minimale Anzahl von Reaktionszeit-Messwerten erfasst werden, bevor deren statistische Verteilung zuverlässig bewertet werden kann. Dadurch können die Messperioden zu lang werden und der Verteiler kann in seiner Reaktion auf Veränderungen zu träge werden. Drittens muss der Verteiler die Reaktionen den relevanten Anforderungen zuordnen, um die Zeitmessungen zu erhalten.
Zählung ausstehender Reaktionen
Als Alternative unterhält der Verteiler eine Zählung für die Anzahl von an jeden Server gesendeten Anforderungen, die nicht zumindest eine Reaktion erhalten haben. Da dies eine kontinuierliche Messung ist, könnte eine periodische Bewertung entweder auf festen Intervallen oder einer Gesamtanzahl von Anforderungen basieren. Wenn ein Server überlastet wird, sollte er einen Anstieg bei seinen ausstehenden Reaktionen zeigen. Die TCP-Laststeuerung basiert auf diesem Prinzip. Der Vorgang ist in 13 dargestellt, welche bei Schritt 124 die Zählung von Anforderungen zeigt, die keine Reaktion erhalten haben, und bei Schritt 126 den Vergleich dieser Zählwerte über eine Zeitperiode oder eine Gesamtanzahl von Anforderungen hin. Es gibt hier jedoch zwei potentielle Probleme. Erstens wird der Ansatz indirekt durch etwaige normale Unterschiede in den Reaktionszeiten zwischen Servern beeinflusst. Dies folgt aus der grundlegenden Formel der Warteschlangentheorie, welche besagt, dass: Mittlere Simultanität = Transaktionen pro Sekunde (tps) × mittlere Reaktionszeit.
Es ist also wiederum schwierig, in Schwierigkeiten befindliche Server von natürlicherweise langsamen Servern zu unterscheiden.
Zweitens muss der Verteiler Anfangsreaktionen auf Anforderungen von nachfolgenden Reaktionen unterscheiden, damit der Zählwert für ausstehende Reaktionen nur herabgesetzt wird, wenn eine Anfangsreaktion gesendet wird. Dies ist schwierig zu realisieren.
Zählung von Anforderungen und Reaktionen
Dies ist die bevorzugteste der drei in Erwägung gezogenen Optionen. Der Verteiler zeichnet über eine kurze Erfassungsperiode hin die Anzahl der zu jedem Server gesendeten Anforderungen und die Anzahl der von jedem Server zurückerhaltenen Reaktionen auf. Die relativen Belastungen werden dann durch Vergleich der Zählwerte für Anforderungen und Reaktionen für die Erfassungsperiode bewertet. Das Verfahren ist in 11 dargestellt, in welcher bei 100 Serveranforderungen gezählt werden, bei Schritt 110 Serverreaktionen gezählt werden und bei Schritt 112 ein Vergleich erfolgt. Dieser Vorgang wird für jeden Server wiederholt.
Die absolute Anzahl von Anforderungen oder Reaktionen kann aufgrund der unterschiedlichen Kapazitäten zwischen den Servern unterschiedlich sein. Vorausgesetzt jedoch, dass keiner überlastet ist, sollte das Verhältnis Anforderungen/Reaktionen für jeden nahezu identisch sein. Dies setzt voraus, dass jeder Server die gleiche Mischung von Anforderungstypen empfängt, was für eine große Anzahl von Anforderungen gilt, aber möglicherweise für kurze Perioden, die wenige Anforderungen enthalten, nicht zuverlässig ist. Daher wird bevorzugt, Messwerte durch eine Gesamtanzahl gesendeter Anforderungen anstatt durch Zeitperioden zu definieren.
Es gibt viele Kandidaten für die Werte, die verglichen werden könnten, um die relative Belastung zu bestimmen. Ein direktes Verhältnis von Anforderungen zu Reaktionen stellt lediglich eine Alternative dar. Das Folgende ist eine nicht erschöpfende Liste einiger Kandidatengrößen und ihrer theoretischen Wertebereiche. In der Liste ist Rq die Anzahl der theoretischen Anforderungen, die an einen Server gesendet werden, und Rs ist die Anzahl der zurückkommenden Reaktionen.

1. Rq/Rs: 0 ⇒ +∞
2. Rs/Rq: 0 ⇒ +∞
3. Rq – Rs: –∞ ⇒ +∞
4. Rs – Rq: –∞ ⇒ +∞
5. Rq/(Rc + Rs): 0 ⇒ 1
6. Rs/(Rs + Rc): 0 ⇒ 1
7. (Rq – Rs)/(Rq + Rs): –1 ⇒ +1
8. (Rs – Rq)/(Rq + Rs): –1 ⇒ +1

Von diesen Kandidatenwerten weisen die Nummern 1 bis 4 unendliche Wertebereiche auf, was durch die Möglichkeit von Erfassungsperioden mit null Reaktionen oder Anforderungen bewirkt wird. Die Optionen 5 und 6 betonen entweder den Zählwert für Anforderungen oder für Reaktionen stärker. Die Theorie legt nahe, dass die informativste Angabe der relativen Serverbelastungen die normierte Differenz zwischen den Zählwerten für Anforderungen und Reaktionen ist, was nahelegt, dass die Optionen 7 und 8 die bevorzugtesten sind. Eine Erwägung stellt das Vorzeichen des Wertes dar, das bedeutet, ob dieser mit der Belastung zunimmt oder abnimmt. Intuitiv sollte der Wert zunehmen, wenn die Belastung zunimmt, was die Option 7 favorisiert. Da jedoch die meisten Protokolle im Durchschnitt geringfügig mehr als eine Reaktion pro Anforderung erzeugen, wird die letzte Option, die Option 8, bevorzugt, da die Servermessungen unter normalen Bedingungen positiv wären.
Die 9 und 10 zeigen die Zählwerte für Anforderungen und Reaktionen zweier Server, wenn diese einem ansteigenden Verkehr ausgesetzt sind. Die Figuren sind beides Kurven für Nachrichten pro Sekunde (mps) in Abhängigkeit von der Zeit. Der Server aus 9 weist eine relativ große Kapazität und derjenige aus 10 eine relativ kleine Kapazität auf. Die beiden Server weisen gleiche Verkehrsanteile auf. Die Figuren heben hervor, wie die Reaktionsraten des Servers in einen waagerechten, d. h. gesättigten Abschnitt übergehen, wenn der Server seine Kapazität erreicht und in Schwierigkeiten kommt. Die 9 und 10 basieren auf der Annahme von durchschnittlich 1,5 Reaktionen pro Anforderung.
In 10 beginnt die Sättigung des kleineren Servers zur Zeit t1. Zu diesem Zeitpunkt sollte der Verteiler beginnen, Anforderungsverkehr zu dem größeren Server zu verschieben.
Verteilungsanpassung
Es wurde bereits erwähnt, dass es wichtig ist, jegliche Anpassung der Serververteilung nicht überzukompensieren und so Schwingungen aufzubauen. Der Verteiler wird periodisch oder nach einer bestimmten Anzahl von Anforderungen die Anteile des jedem Server zugeordneten Anforderungsverkehrs anpassen müssen. Das Ziel besteht darin, die Diskrepanzen zwischen den Werten der gewählten Messungen pro Server zu reduzieren. Dies kann folgendermaßen erfolgen:
Wenn M₁, M₂, M₃ ... M_n die für die letzte Erfassungsperiode für jeden Server berechneten Messwerte sind, μ deren arithmetisches Mittel ist und P₁, P₂, P₃ ... P_n deren augenblicklich zugeordnete Anteile pro Server sind, ergibt sich der dem r-ten Server zugeordnete neue Anteil im Allgemeinen durch eine Formel der folgenden Art: Pr = f(Mr μ, Pr).
Zwei Kandidatenformeln und ihre theoretischen Wertebereiche lauten folgendermaßen: (1 + (Mr – μ)/(|Mr| + |μ|)) × Pc 0 ⇒ 2 × Pr 1. (1 – (Mr – μ)/(|Mr| + |μ|)) × Pc 0 ⇒ 2 × Pr 2.
Der Unterschied zwischen den beiden widerspiegelt die Wahl des Vorzeichens, auf die bei der Auswahl zwischen den Optionen 7 und 8 zuvor Bezug genommen wurde. Diese Formeln ergeben neue Werte proportional zu den alten, und ein Anteil darf aufgrund des arithmetischen Abbruchs daher niemals auf Null eingestellt werden.
Schwingungen können durch eine von zwei Möglichkeiten reduziert werden. Erstens können die Daten von den letzten paar Erfassungsperioden explizit kombiniert werden, um die Anpassungen der Anteile für die nächste Periode zu berechnen. Dabei wird effektiv ein Gleitfenster für aufrechterhaltene Daten genutzt. Zweitens können die Daten von allen früheren Erfassungen implizit kombiniert werden, unter Nutzung einer Abklingformel. Gemäß diesem Ansatz stellen die Daten für die Anpassung der zweiten Periode den Mittelwert echter Daten der zweiten Periode und von Daten aus der ersten Periode dar. Daten, die für die dritte Periode genutzt werden, stellen den Mittelwert echter Daten der dritten Perioden und von Daten, die für die zweite Periode genutzt wurden, dar, usw.
Die beschriebene Ausführungsform ermöglicht die Verteilung von Anforderungen auf mehrere Server von einem Clientknoten aus in einer Weise, welche die einzelnen Kapazitäten der Server widerspiegelt und auf deren relativen Belastungen basiert.
Verschiedene Modifikationen an den beschrieben Ausführungsformen sind möglich und werden Fachleuten auf dem Gebiet in den Sinn kommen. Beispielsweise können andere Verfahren zur Messung der Serveraktivität möglich sein und es können andere Formeln für die Verteilungsanpassung angewandt werden. Solche Modifikationen fallen jedoch in den Schutzumfang der Erfindung, der durch die anhängenden Ansprüche definiert wird.

Claims

Verfahren zur Verteilung von Anforderungen von einem Clientknoten auf Server eines Serversystems, das eine Mehrzahl von Servern aufweist, wobei das Verfahren die Wiederholung folgender Schritte umfasst: Messen der Aktivität jedes Servers; Bewerten der Belastungen jedes einzelnen der mehreren Server in Bezug auf jeden anderen der Mehrzahl anhand der gemessenen Serveraktivitäten; und Anpassen der Verteilung von Anforderungen auf einzelne Server der Mehrzahl von Servern entsprechend der Bewertung der relativen Belastungen; wobei das Anpassen der Verteilung von Anforderungen auf einzelne Server das Anpassen des Anteils von Anforderungen, die jedem Server zugeordnet werden, in Abhängigkeit von der gemessenen Serveraktivität, der mittleren Aktivität zwischen den mehreren Servern sowie dem bestehenden Anteil von dem Server zugeordneten Anforderungen umfasst; wobei die Messung der Aktivität jedes Servers das Zählen der Anzahl von Serveranforderungen für jeden der mehreren Server sowie das Zählen der Anzahl von Serverreaktionen, die von jedem Server über eine Erfassungsperiode hin empfangen werden, umfasst, wobei die Erfassungsperiode eine Summenanzahl von zu den mehreren Servern gesendeten Anforderungen umfasst.
Verfahren nach Anspruch 1, bei welchem das Bewerten der relativen Belastung der mehreren Server das Vergleichen der Zählwerte für die Serveranforderungen und -reaktionen für jeden der mehreren Server über die Erfassungsperiode hin umfasst.
Verfahren nach Anspruch 1, bei welchem das Messen der Aktivität jedes Servers das Berechnen der Reaktionszeit jedes Servers umfasst.
Verfahren nach Anspruch 3, bei welchem das Bewerten der relativen Belastung der mehreren Server das Vergleichen einer Verteilung der Serverreaktionszeiten für jeden der mehreren Server umfasst.
Verfahren nach Anspruch 1, bei welchem das Messen der Aktivität jedes Servers das Zählen der Anzahl von Anforderungen für jeden Server umfasst, die keine Reaktion erhalten haben.
Verfahren nach Anspruch 5, bei welchem das Bewerten der relativen Belastung der mehreren Server das Vergleichen der Anzahl von Anforderungen ohne Reaktion über eine Summenanzahl von Anforderungen für alle der mehreren Server hin umfasst.
Verfahren nach Anspruch 1, bei welchem das Anpassen der Verteilung von Anforderungen das Kombinieren von Verteilungsdaten aus früheren Erfassungsperioden umfasst, um Anpassungen für Verteilungen für eine nächste Erfassungsperiode zu berechnen.
Verfahren nach Anspruch 1 oder 7, bei welchem das Anpassen der Verteilung von Anforderungen das Kombinieren von Daten aus früheren Erfassungsperioden entsprechend einer Verzögerungsformel umfasst.
Verfahren nach Anspruch 2, bei welchem die relativen Belastungen durch Vergleich des Verhältnisses (R_q – R_s)/(R_q + R_s) für jeden Server verglichen werden, wobei R_q die Anzahl von Anforderungen ist, die an den Server gesendet werden, und R_s die Anzahl von Reaktionen ist, die von dem Server zurückkommen.
Verfahren nach Anspruch 2, bei welchem die relativen Belastungen durch Vergleich des Verhältnisses (R_s – R_q)/(R_q + R_s) für jeden Server verglichen werden, wobei R_q die Anzahl von Anforderungen ist, die an den Server gesendet werden, und R_s die Anzahl von Reaktionen ist, die von dem Server zurückkommen.
System zur Verteilung von Anforderungen von einem Clientknoten auf Server eines Serversystems, das eine Mehrzahl von Servern aufweist, wobei das System einen Verteiler an dem Clientknoten umfasst, wobei der Verteiler Einrichtungen zum Messen der Aktivität jedes Servers aufweist, Einrichtungen zum Bewerten der Belastung jedes einzelnen der mehreren Server in Bezug auf jeden anderen der Mehrzahl anhand der gemessenen Serveraktivitäten sowie Einrichtungen zum Anpassen der Verteilung von Anforderungen auf einzelne Server der Mehrzahl von Servern entsprechend der Bewertung der relativen Belastungen; wobei die Einrichtung zur Anpassung der Verteilung Einrichtungen zum Anpassen des Anteils von Anforderungen, die jedem Server zugeordnet. werden, in Abhängigkeit von der gemessenen Serveraktivität, der mittleren Aktivität zwischen den mehreren Servern sowie dem bestehenden Anteil von dem Server zugeordneten Anforderungen umfasst; wobei die Einrichtung zur Messung der Aktivität einen Zähler zum Zählen der Anzahl von Anforderungen für jeden Server, die keine Reaktion erhalten haben, umfasst, wobei die Einrichtung zur Bewertung der relativen Belastung einen Komparator zum Vergleichen der Anzahl von Anforderungen ohne Reaktion über eine Summenanzahl von Anforderungen für alle der mehreren Server hin umfasst.
System nach Anspruch 11, bei welchem die Einrichtung zur Messung der Serveraktivität einen Zähler zum Zählen der Anzahl von Serveranforderungen umfasst, die zu jedem der mehreren Server gesendet werden, sowie zum Zählen der Anzahl von Serverreaktionen, die von jedem Server über eine Erfassungsperiode hin empfangen werden.
System nach Anspruch 12, bei welchem die Einrichtung zur Bewertung der relativen Belastung eine Einrichtung zum Vergleichen der Zählwerte für die Serveranforderungen und -reaktionen für jeden der mehreren Server über die Erfassungsperiode hin umfasst.
System nach Anspruch 11, bei welchem die Einrichtung zur Messung der Aktivität eine Berechnungseinrichtung zum Berechnen der Reaktionszeit für jeden Server umfasst.
System nach Anspruch 14, bei welchem die Einrichtung zur Bewertung der relativen Belastung eine Einrichtung zum Vergleich einer Verteilung der Serverreaktionszeiten für jeden der mehreren Server umfasst.
System nach Anspruch 14, bei welchem die Einrichtung zur Anpassung der Verteilung von Anforderungen einen Kombinator zum Kombinieren von Verteilungsdaten aus früheren Erfassungsperioden umfasst, um Anpassungen für Verteilungen für eine nächste Erfassungsperiode zu berechnen.
System nach Anspruch 13, bei welchem die Einrichtung zum Vergleich der Serveranforderungen und -reaktionen für jeden Server das Verhältnis (R_q – R_s)/(R_q + R_s) vergleicht, wobei R_q die Anzahl von Anforderungen ist, die an den Server gesendet werden, und R_s die Anzahl von Reaktionen ist, die von dem Server zurückkommen.
System nach Anspruch 13, bei welchem die Einrichtung zum Vergleich der Serveranforderungen und -reaktionen für jeden Server das Verhältnis (R_s – R_q)/(R_q + R_s) vergleicht, wobei R_q die Anzahl von Anforderungen ist, die an den Server gesendet werden, und R_s die Anzahl von Reaktionen ist, die von dem Server zurückkommen.