DE69835400T2

DE69835400T2 - Netzbelastungsausgleich für Mehrrechner Anbieter

Info

Publication number: DE69835400T2
Application number: DE69835400T
Authority: DE
Inventors: Jean-Christophe Georges Daniel Martin
Original assignee: Sun Microsystems Inc
Current assignee: Sun Microsystems Inc
Priority date: 1997-06-19
Filing date: 1998-06-12
Publication date: 2007-07-19
Anticipated expiration: 2018-06-13
Also published as: JPH11143804A; US6263368B1; EP0892531A2; EP0892531B1; CA2241016A1; DE69835400D1; EP0892531A3

Description

Diese Erfindung betrifft Mehrrechner-Server und einen Belastungsausgleich bzw. eine Lastverteilung für solche Mehrrechner-Server.
Die Zunahme von Netzdiensten, wie beispielsweise Internet- oder Intranetdiensten, stellt signifikante Anforderungen an die Verfügbarkeit und die Leistungsfähigkeit von Internet- und Intranetseiten und die Server auf diesen Seiten. Die Zunahme der Nachfrage steht mit der zunehmenden Anzahl von Benutzern, der zunehmenden Komplexität der Anwendungen, einschließlich der zunehmenden Verwendung von Audio und Video, und den zunehmenden kommerziellen Anforderungen nach immer besseren Diensten in Verbindung.
Das enorme Wachstum des Internet hat somit das Erfordernis nach Mehrrechnerserver-Architekturen verstärkt, um die mit der Leistungsfähigkeit oder der Zuverlässigkeit von stark frequentierten Internetseiten verknüpften Probleme anzugehen. Solche Mehrrechner-Internet- und -Intranetseiten stellen eine viel größere Verarbeitungsleistung bereit als ein einzelner Computer, selbst wenn es sich um einen sehr großen Computer handelt.
1 der begleitenden Zeichnungen ist eine schematische Darstellung einer Client-Station 14, die über das Internet oder ein Intranet Zugriff auf eine Server-Station 10 anfordert. 2 veranschaulicht in größerem Detail eine mögliche Ausgestaltung bzw. Konfiguration eines Mehrrechner-Servers 10. Der Mehrrechner-Server 10 beinhaltet eine Mehrzahl von (im vorliegenden Fall vier) einzelnen Servercomputern 16.1–16.4. Jeder dieser Computer beinhaltet jeweils einen Netzwerkagenten 18.1–18.4. Die einzelnen Servercomputer 16.1–16.4 sind über Servernetzwerkverbindungen 20.1–20.4 mit einem Schalter 22 verbunden, der wiederum über eine Verbindung 25 mit dem Internet oder Intranet 12 aus 1 verbunden ist. Des weiteren ist in 1 ein Domainnamensystem-(Domain Name System, DNS-)Server 24 gezeigt, dessen Funktion später beschrieben wird.
Die Servercomputer 16.1–16.4 arbeiten als identische Kopien der jeweils anderen und sind in der Lage, alle möglichen von dem Internet oder Intranet 12 empfangenen Anforderungen zu bearbeiten. Der Schalter 22 verbindet die einzelnen Servercomputer 16.1–16.4 mit dem Internet oder Intranet 12. In idealer Weise sollten die Aufgaben gleichmäßig auf die einzelnen Servercomputer 16.1–16.4 verteilt sein, um die Gesamtbelastung der Serverseite 10 auszugleichen und so eine optimale Leistung zu erzielen. Um dies zu erreichen, ist es erforderlich, die einzelnen von dem Internet oder Intranet 12 empfangenen Anforderungen an die einzelnen Servercomputer 16.1–16.4 weiterzuleiten.
Diese Art der Lösung geht von der Annahme aus, daß jede Anforderung zu der gleichen Belastung führt, und kann somit mit der tatsächlich durch jede Anforderung erzeugten Belastung nicht umgehen. Wenn die einzelnen Computer 16.1–16.4 deutlich bzw. erkennbar verschiedene externe Adressen hätten, würde dies typischerweise die Aufmerksamkeit der Benutzer erfordern, um die Verteilung der Aufgaben vorzunehmen. Eine aus Benutzersicht eher praktikable Lösung besteht darin, ein System bereitzustellen, bei dem die Verteilung von Aufgaben auf die vier Servercomputer 16.1–16.4 in transparenter Weise erfolgt, so daß der Benutzer nur den Server 10 adressieren muß und dann die Aufgabe der Verteilung vom Server 10 bearbeitet wird.
Somit erfordert eine Mehrserver-/Mehrrechner-Server-Architektur, wie sie in 2 gezeigt ist, einen Mechanismus zum Ausliefern von Anforderungen an einzelne Servercomputer, während vorzugsweise ein eindeutiger Dienstname beibehalten wird.
Um die Verteilung von Aufgaben zwischen mehreren Servercomputern 16.1–16.4 zu erzielen, wurden im Stand der Technik verschiedene Ansätze vorgeschlagen. Diese Ansätze verwenden typischerweise einen Domainnamensystem-(Domain Name System, DNS-)Aufbau mit einer Aufgabenverteilung auf herkömmlicher "Umlauf"- oder "Belastungsausgleichs"- bzw. "Lastverteilungs"-Basis. Diese verschiedenen Ansätze werden nachfolgend beschrieben. Es sei angemerkt, daß die traditionelle Lastverteilung eine modifizierte Form eines Umlauf-Ansatzes ist, bei dem die Prozessorbelastung der einzelnen Servercomputer berücksichtigt wird. Dieser konventionelle Ansatz der Lastverteilung wird hier als "Prozessorlastverteilung" bezeichnet.
Bei einem Domainnamensystem wird ein DNS-Server 24 bereitgestellt, der auf Domainnamen-Nachschlageanforderungen reagiert, indem er einen geeigneten Servernamen oder eine numerische Internet-Protokoll-(IP-)Adresse (z.B. www.sun.com bzw. 192.10.20.30) liefert.
Der Umlauf-Ansatz ist ein Ansatz, bei dem der Server, der eine Client-Anforderung zur Bearbeitung empfangen soll, in zyklisch-sequentieller Weise oder umlaufend bestimmt wird. Dies wird in gut bekannter Weise erzielt, indem die Zuordnung zwischen dem Dienstnamen (z.B. www.sun.com) und der IP-Adresse (z.B. zehn Hosts mit IP-Adressen im Bereich zwischen 192.10.20.30 und 192.10.20.40) in dieser zyklischen und sequentiellen Weise geändert wird. Wie in 2, auf die nun Bezug genommen wird, gezeigt ist, kann beispielsweise jedem der Servercomputer 16.1–16.4 eine andere IP-Adresse (z.B. IP1–IP4) gegeben bzw. zugewiesen werden, wobei jedesmal dann, wenn das DNS-Nachschlagen durchgeführt wird, die im Umlauf nächste der IP-Adressen zurückgegeben wird. Auf diese Weise wird auf jeden der vier Computer ein Viertel der Internetanforderungen verteilt. Dieser Ansatz funktioniert im Prinzip, ist in der Praxis jedoch nicht besonders effizient, da verschiedene Anforderungen zu deutlich unterschiedlichen Verarbeitungsanforderungen und Verkehrsaufkommen führen können.
Der Ansatz der konventionellen Prozessorlastverteilung versucht, die Belastung zwischen Servern auf einer Seite zu verteilen, indem die Belastung der einzelnen Servercomputer repräsentierende Parameter berücksichtigt werden. Dies wird typischerweise erzielt, indem ein Agent 18.1–18.4 auf jedem Servercomputer 16.1–16.4 verwendet wird, um die Belastung auf diesem Computer zu überwachen, wie beispielsweise durch Messen der tatsächlichen CPU-Belastung oder der Anzahl an aktiven Datenübertragungsprotokoll-(Transmission Control Protocol, TCP-)Verbindungen oder der Anzahl an aktiven Prozessen auf dem betreffenden Servercomputer. Der DNS-Server 24 kann dann so aufgebaut sein, daß er die einzelnen Agenten 18.1–18.4 überwacht, um die Belastung der Servercomputer zu bestimmen, und diese bei der Verteilung von Aufgaben berücksichtigt. Der DNS-Server 24 verwendet typischerweise dennoch einen Umlauf-Ansatz, jedoch prüft er vor der Zuweisung einer neuen Aufgabe an einen einzelnen Servercomputer 16.1–16.4 die derzeitige Belastung dieses Computers, wie sie durch den jeweiligen Agenten 18.1–18.4 aufgezeichnet wurde, und kann den betreffenden Servercomputer überspringen, wenn seine derzeitige Belastung übermäßig hoch ist.
Obgleich dieser konventionelle Ansatz der Prozessorlastverteilung in der Tat eine Verbesserung gegenüber einem einfachen Umlauf-Ansatz bereitstellt, wurde dennoch herausgefunden, daß ein solcher konventioneller Ansatz der Prozessorlastverteilung beim Optimieren der Verteilung der Belastung im gesamten Mehrrechner-Server (oft auch als "Server-Farm" oder "Server-Cluster" bezeichnet) deutlich weniger effektiv ist, als man es im Vorfeld erwartet hätte. Der Erfinder hat herausgefunden, daß Entwicklungen beim Gebrauch von Computern, die eine Übertragung von größeren Mengen von Daten erfordern, dazu führen, daß die Überwachung der Belastung der einzelnen Servercomputer kein gutes Maß für die Belastung des Mehrrechner-Servers insgesamt mehr ist. Mit der zunehmenden Menge von Daten, die in Reaktion auf Benutzeranforderungen zurückgegeben werden müssen, und allgemein der Menge von zu übertragenden Daten sind die Mehrrechner-Serversysteme tendenziell eher durch die Servernetzwerkverbindung als durch den Prozessor beschränkt. Im Ergebnis wird die Prozessorverwendung oder die CPU-Belastung zu einem immer weniger zuverlässigen Maß zur Bestimmung der Belastung des Mehrrechner-Serversystems. Auch das Messen der Anzahl an aktiven TCP-Ports wird, da nun immer häufiger Benutzerdatenprotokoll-(User Datagram Protocol, UDP-)Nachrichten verwendet werden (beispielsweise für Videodateien), zu einem immer weniger zuverlässigen Maß für die Belastung eines Mehrrechner-Serversystems.
Ein Artikel mit dem Titel "SWEB: towards a scalable World Wide Web server on microcomputers" von Andersen, D. et al. in Proceedings or the International Parallel processing Symposium, 15. April 1996, Seiten 850–856, XP002088154, beschreibt einen skalierbaren WWW-Server. Die Skalierbarkeit von Servern wird erzielt, indem die Laufzeit-CPU-, die Platten-I/O- und die Netzwerkbelastungen für Einheiten von Systemressourcen aktiv überwacht werden und indem HTTP-Anforderungen von Benutzern für eine effiziente Verarbeitung dynamisch einem geeigneten Knoten zugeteilt werden.
Die EP-A-0 715 257 beschreibt ein Werkzeug bzw. Tool zur Unterstützung der Lastverteilung bei verteilten Anwendungen. Das Werkzeug soll die Belastung auf jede der Maschinen in einem verteilten Datenverarbeitungssystem verteilen. Das Werkzeug beinhaltet eine Mehrzahl von Datenverarbeitungsmodulen, die auf den Maschinen in dem verteilten Datenverarbeitungssystem laufen. Eines der Datenverarbeitungsmodule wird als Master bezeichnet, bei den anderen handelt es sich um Agenten. Der Master und die Agenten beinhalten jeweils Mittel zum Berechnen der Belastung der Maschinen, auf denen sie laufen. Auf die Anforderung einer verteilten Anwendung hin zeigt ein lokaler Agent, der der Anwendung am nächsten ist, an, welche Maschine die geringste Belastung aufweist.
Dementsprechend besteht ein Bedarf nach einer verbesserten Steuerung der Nachrichten- und Aufgabenverteilung für Mehrrechner-Server, um eine effizientere Verwendung der verfügbaren Ressourcen zu ermöglichen.
Ein Ziel der vorliegenden Erfindung besteht darin, die leistungsbezogenen Nachteile früherer Ansätze zur Steuerung von Mehrrechner-Servern, wie sie oben beschrieben wurden, zu vermindern.
Bestimmte und bevorzugte Aspekte der Erfindung werden in den begleitenden unabhängigen und abhängigen Ansprüchen ausgeführt. Merkmale der abhängigen Ansprüche können mit denjenigen der unabhängigen Ansprüche kombiniert werden, wie es angemessen erscheint, und auch in Kombinationen, die andere sind als diejenigen, die in den Ansprüchen explizit ausgeführt werden.
Gemäß einem Aspekt der Erfindung wird ein Nachrichtenabfertigungssystem für einen Mehrrechner-Server bereitgestellt, welcher eine Mehrzahl von Servercomputern mit jeweiligen Servernetzwerkverbindungen beinhaltet. Das Nachrichtenabfertigungssystem kann mit einem externen Telekommunikationsnetz verbunden bzw. verknüpft werden. Das Nachrichtenabfertigungssystem beinhaltet einen ersten Nachrichtenabfertiger, der so ausgestaltet ist, daß er externe Client-Anforderungen für den Mehrrechner-Server von dem externen Telekommunikationsnetz empfängt und die Client-Anforderungen über die Servernetzwerkverbindungen an ausgewählte Servercomputer ausliefert. Der erste Nachrichtenabfertiger ist so ausgestaltet, daß er in Reaktion auf Parameter, die eine Netzwerkbelastung auf den Servernetzwerkverbindungen repräsentieren, einen Server bestimmt, an den eine externe Client-Anforderung ausgeliefert werden soll. Die Parameter beinhalten Parameter, die ein von den Servercomputern auf den Servernetzwerkverbindungen ausgehendes Verkehrsvolumen bzw. -aufkommen repräsentieren.
Eine Ausführungsform der Erfindung ermöglicht es somit, daß die Lastverteilung auf der Belastung der Netzwerkverbindung auf dem Mehrrechner-Server basiert statt auf oder womöglich zusätzlich zu Messungen der Prozessorbelastung. Dementsprechend stellt eine Ausführungsform im Gegensatz zu der Prozessorlastverteilung des Standes der Technik eine Lastverteilung in Servernetzwerken zur Verfügung. Die Erfinder haben festgestellt, daß die Belastung der Servernetzwerkverbindung zuverlässige Daten zur Steuerung der Nachrichtenverteilung und folglich der Aufgabenverteilung auf einzelne Servercomputern eines Mehrrechner-Servers liefert, um die Verwendung der Ressourcen zu maximieren oder zumindest wesentlich zu verbessern.
Vorzugsweise ist ein Nachrichtenverkehrsüberwacher so ausgestaltet, daß er Parameter, die den Nachrichtenverkehr zu und/oder von einzelnen Servercomputern über die jeweiligen Servernetzwerkverbindungen repräsentieren, überwacht, wobei der erste Nachrichtenabfertiger so ausgestaltet ist, daß er die Parameter von dem Nachrichtenverkehrsüberwacher empfängt. Der Nachrichtenverkehrsüberwacher kann Teil des Nachrichtenabfertigungssystems oder davon getrennt sein.
In einer Ausführungsform der Erfindung kann jede Belastung, sogar die indirekt induzierte Belastung (z.B. Multimedia-UDP-Datenströme, die nicht dasselbe Protokoll verwenden wie die ursprüngliche Anforderung) des Netzwerks gemessen werden. Vorzugsweise stellt der Nachrichtenverkehrsüberwacher zum Messen der Netzwerkbelastung eine aufsummierte Zählung der Paketlänge und/oder eine durchschnittliche Anzahl von Paketen pro Sekunde und/oder eine aufsummierte Zählung geöffneter Verbindungen für jedes System bereit. Es sei angemerkt, daß die Anzahl aktiver TCP-Ports keine Funktion oder kein Parameter des Verkehrsflusses oder -aufkommens ist, da die ser (dieses) vom UDP-Verkehr völlig unabhängig ist und tatsächlich nicht einmal den TCP-Verkehrsfluß anzeigt.
Die Zählungen der Netzwerkbelastung können aus der während des Betriebs bzw. "on the fly" vorgenommenen Überprüfung des durch den ersten Nachrichtenabfertiger fließenden Verkehrs (oder des an einem externen Überwacher vorbeifließenden Verkehrs, wie es angemessen ist) erhalten werden. Der erste Nachrichtenabfertiger verwendet dann diese Zählungen während des Betriebs, um die in den Paketen enthaltene Adresse gegen die Adresse des am wenigsten belasteten Systems oder eines weniger belasteten Systems auszutauschen. Der erste Nachrichtenabfertiger führt bzw. hält eine temporäre Tabelle des Datenflusses mit der geänderten Adresse, um sicherzustellen, daß nachfolgende Anforderungen, die den gleichen Ursprung haben, in konsistenter Weise bearbeitet werden. Die Zählungen können auf einer Paketzählung, einer Bytezählung oder einem anderen Volumen- oder Belastungsparameter basieren, je nachdem, wie es angemessen ist.
Vorzugsweise reagiert der Nachrichtenverkehrsüberwacher auf Quelladreßinformationen in Nachrichten, die von den Servercomputern über die Verbindungen empfangen wurden, um das Volumen des Verkehrs von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen zu überwachen, und/oder er reagiert auf Zielinformationen für Nachrichten, die von dem ersten Nachrichtenabfertiger über die Verbindungen an die Servercomputer ausgeliefert werden, um das Volumen des Verkehrs zu den Servercomputern auf den jeweiligen Servernetzwerkverbindungen zu überwachen.
Der erste Nachrichtenabfertiger kann direkt mit den Servernetzwerkverbindungen verknüpft bzw. verbunden sein. Alternativ kann ein Schalter mit den Servernetzwerkverbindungen verbunden sein, wobei der erste Nachrichtenabfertiger direkt oder indirekt mit dem Schalter verbunden ist. In diesem Fall kann der Nachrichtenverkehrsüberwacher optional Teil des Schalters sein, beispielsweise um fallengelassene Nachrichtenpakete als ein Maß für die Belastung der Netzwerkverbindung zu überwachen. Der Nachrichtenverkehrsüberwacher kann jedoch auch als Teil des ersten Nachrichtenabfertigers oder in einer separaten Einheit zur Überwachung des Nachrichtenverkehrs bereitgestellt werden.
Vorzugsweise ist der erste Nachrichtenabfertiger so ausgestaltet, daß er eine Zieladresse einer empfangenen externen Client-Anforderung für den Mehrrechner-Server von dem externen Telekommunikationsnetz so modifiziert, daß ein ausgewählter Computerserver adressiert wird. Das Nachrichtenabfertigungssystem kann so ausgestaltet sein, daß es von dem externen Telekommunikationsnetz durch Nachrichten, die eine Adresse des Mehrrechner-Servers enthalten, adressiert werden kann.
Für eine bevorzugte Ausführungsform der Erfindung ist das Telekommunikationsnetz das Internet, der Mehrrechner-Server ist ein Internetserver, und die Nachrichten sind Internetnachrichten.
Gemäß einem weiteren Aspekt der Erfindung wird Computersoftware bereitgestellt, die auf einem Computer betrieben werden kann, um das oben beschriebene Nachrichtenabfertigungssystem zu implementieren.
Die Computersoftware kann auf einem Datenträger bereitgestellt werden.
Gemäß einer Ausführungsform der Erfindung wird zumindest ein weiterer Nachrichtenabfertiger bereitgestellt, welcher so ausgestaltet ist, daß er externe Client-Anforderungen für den Mehrrechner-Server von dem externen Telekommunikationsnetz empfängt und die Client-Anforderungen über den Schalter und die Servernetzwerkverbindungen an ausgewählte Servercomputer ausliefert. In dieser Ausführungsform ist jeder Nachrichtenabfertiger so ausgestaltet, daß er in Reaktion auf Parameter, die die Netzwerkbelastung auf den Servernetzwerkverbindungen repräsentieren, einen Server bestimmt, an den eine externe Client-Anforderung ausgeliefert werden soll.
Vorzugsweise reagiert jeder Nachrichtenabfertiger auf einen gemeinsamen Satz von Parametern, die das Volumen des Nachrichtenverkehrs auf den Servernetzwerkverbindungen repräsentieren, um die Zuweisung von Nachrichten zu koordinieren. Alternativ dazu kann jedoch jeder Nachrichtenabfertiger auch so aufgebaut sein, daß er auf einen jeweiligen Satz von Parametern reagiert, die das Volumen des Nachrichtenverkehrs auf den Servernetzwerkverbindungen repräsentieren, wobei jeder Abfertiger auf die anderen Abfertiger reagiert, um die Auslieferung von Nachrichten zu koordinieren.
Gemäß einem weiteren Aspekt der Erfindung wird ein Verfahren zum Ausliefern empfangener externer Client-Anforderungen an Servercomputer eines Mehrrechner-Servers bereitgestellt, welcher eine Mehrzahl von Servercomputern beinhaltet, die über jeweilige Servernetzwerkverbindungen verbunden bzw. verknüpft sind. Das Verfahren beinhaltet das Empfangen externer Client-Anforderungen für den Mehrrechner-Server von einem externen Telekommunikationsnetz. Das Verfahren beinhaltet auch das Bestimmen eines Servers, an den eine externe Client-Anforderung ausgeliefert werden soll, in Reaktion auf Parameter, die die Netzwerkbelastung auf den Servernetzwerkverbindungen repräsentieren. Die Parameter beinhalten Parameter, die ein von den Servercomputern auf den Servernetzwerkverbindungen ausgehendes Verkehrsvolumen bzw. -aufkommen repräsentieren. Das Verfahren beinhaltet weiterhin das Ausliefern einer empfangenen Client-Anforderung an den bestimmten Servercomputer über die jeweilige Servernetzwerkverbindung.
Gemäß einem weiteren Aspekt der Erfindung wird Computersoftware bereitgestellt, die auf einem Computer ausgeführt werden kann, um das oben beschriebene Verfahren zu implementieren.
Die Computersoftware kann auf einem Datenträger bereitgestellt werden.
Nachfolgend werden beispielhafte Ausführungsformen der vorliegenden Erfindung lediglich beispielhaft unter Bezugnahme auf die begleitenden Zeichnungen beschrieben, in denen gleiche Bezugszeichen sich auf gleiche Elemente beziehen und wobei:
1 eine schematische Darstellung einer Client-Station und einer Server-Station, die über das Internet oder ein Intranet verbunden sind, ist,
2 eine schematische Darstellung eines Mehrrechner-Servers des Standes der Technik ist,
3 eine schematische Übersicht über einen Mehrrechner-Server ist, in dem eine Ausführungsform der Erfindung implementiert werden kann,
4 eine schematische Darstellung eines Beispiels einer Ausführungsform der vorliegenden Erfindung ist,
5 eine schematische Darstellung einer Tabelle der Verkehrsbelastung ist,
6 eine schematische Darstellung eines typischen Internetadreßformats ist,
7 ein Flußdiagramm ist, welches die Funktionsweise der Ausführungsform von 4 veranschaulicht,
8 ein schematisches Diagramm ist, welches eine weitere Ausführungsform der Erfindung veranschaulicht,
9 ein schematisches Diagramm ist, welches eine weitere Ausführungsform der vorliegenden Erfindung veranschaulicht,
10 ein schematisches Diagramm ist, welches noch eine weitere Ausführungsform der vorliegenden Erfindung veranschaulicht, und
11 ein schematisches Diagramm ist, welches eine Variante der Ausführungsform von 10 veranschaulicht.
3 ist eine schematische Übersicht über einen Mehrrechner-Server 33 zur Veranschaulichung einer ersten Ausführungsform der Erfindung. Es sei angemerkt, daß der Mehrrechner-Server 33 aus 3 im allgemeinen eine ähnliche Struktur hat wie der Aufbau des Standes der Technik aus 2. Insbesondere sind, wie es in 3 gezeigt ist, vier Servercomputer 16.1–16.4 über jeweilige Servernetzwerkverbindungen 20.1–20.4 mit einem Schalter 22 verbunden. Jeder der Servercomputer 16.1–16.4 kann ein herkömmlicher Computer, wie beispielsweise eine Workstation oder ein Klein- oder Großrechner mit entsprechender Leistungsfähigkeit, sein. Im Gegensatz zum Stand der Technik ist die vorliegende Erfindung jedoch auf Basis von Prinzipien, die andere sind als diejenigen, die im Stand der Technik verwendet werden, mit einem Nachrichtenabfertiger 30 ausgestattet. Der Abfertiger 30 kann auf herkömmlicher Rechnerhardware, beispielsweise einer Workstation oder einem Klein- oder Großrechner mit entsprechender Leistungsfähigkeit, implementiert sein. Der Abfertiger 30 ist über eine Verbindung 26 mit dem externen Netz (Internet oder Intranet) verbunden. Der Abfertiger 30 ist so konfiguriert, daß er durch eine Adresse für den Mehrrechner-Server adressiert werden kann und die Auslieferung von Nachrichten an die einzelnen Servercomputer 16.1–16.4 auf Basis der Verkehrsbelastung des Netzwerks auf den Servernetzwerkerbindungen 20.1–20.4 steuert.
Die Verwendung eines Nachrichtenabfertigungssystems gemäß der vorliegenden Erfindung, welches eine Auslieferung von Nachrichten bereitstellt, die auf der Verkehrsbelastung basiert oder diese berücksichtigt, stellt gegenüber früheren Ansätzen der Lastverteilung signifikante Verbesserungen der Leistungsfähigkeit bereit, wobei insbesondere auch die Tendenz der zunehmenden Verwendung von bandbreitenintensiven Medienanwendungen berücksichtigt wird. Typischerweise sind die von externen Clients empfangenen Anforderungen relativ klein, wohingegen die Antworten, die von den einzelnen Servercomputern 16.1–16.4 erzeugt werden müssen, relativ große Dateien (beispielsweise Videosequenzen, Audioinformationen oder einfach große Datendateien) beinhalten. Es ist sehr schwierig, auf Grundlage der eingehenden Anforderung abzuschätzen, welche Größe die ausgehende Antwort haben wird. In vielen Fällen wird der die Gesamtleistungsfähigkeit des Mehrrechner-Servers beschränkende Faktor nicht von der Verarbeitungsleistung, der Anzahl an TCP-Verbindungen oder der Anzahl aktiver Prozesse vorgegeben, sondern ist vielmehr eine Funktion des Volumens des von den einzelnen Servercomputern 16.1–16.4 über die jeweiligen Servernetzwerkverbindungen 20.1–20.4 ausgehenden Verkehrs. Außerdem sei angemerkt, daß die Verkehrsbelastung auf den Netzwerkverbindungen 20.1–20.4 nicht direkt mit der Anzahl an TCP-Verbindungen in Beziehung steht, da ein zunehmender Anteil des Datenverkehrs in Form von UDP-Übertragungen übermittelt wird. Typischerweise werden Videoinformationen unter Verwendung von UDP und nicht unter Verwendung von TCP-Übertragungen versendet.
4 ist ein schematisches Blockdiagramm des Abfertigers 30 von 3. 4 veranschaulicht die externe Internet- oder Intranetverbindung 26, die an einer Schnittstelle 38 empfangen wird. Für eingehende Nachrichten packt die Schnittstelle 38 das empfangene Internetnachrichtenprotokoll aus und kann unter der Steuerung einer Abfertigungssteuerung 36 eine Modifikation der Nachrichten vornehmen. Die Abfertigungssteuerung 36 steuert Adreßmodifikationen in der Schnittstelle 38 über eine Steuerungsverbindung 48. Die Abfertigungssteuerung 36 reagiert in der in 30 gezeigten Ausführungsform über eine Verbindung 46 auf einen Nachrichtenverkehrsüberwacher 34. Eine Schnittstelle 40 verbindet den Abfertiger 32 mit dem Schalter 22. Der Verkehrsüberwacher 34 ist in der in 4 gezeigten Ausführungsform so angeschlossen, daß er den Nachrichtenverkehr, der sowohl an der Schnittstelle 38 als auch an der Schnittstelle 40 empfangen wird, überwacht. Der Überwacher 34 pflegt eine Tabelle 50, wie es in 5 gezeigt ist. Diese beinhaltet eine Anzeige des Verkehrsvolumens bzw. -aufkommens für Verkehr von den Servercomputern 16.1–16.4 über die jeweiligen Verbindungen 20.1–20.4 (im vorliegenden Fall beispielsweise durch Pflegen einer Verkehrszählung TC1–TC4 für die jeweiligen Verbindungen 20.1–20.4). Die Zahlen 20.1, 20.1, 20.3 und 20.4 bei 52 repräsentieren die Verbindungen 20.1, 20.2, 20.3 bzw. 20.4. Die Verkehrszähler FC1–FC4 sind in der Tabelle 50 bei 54 gezeigt. Der Überwacher 34 pflegt auch eine Tabelle, die den Verkehr zu den Servercomputern 16.1–16.4 auf den jeweiligen Verbindungen 20.1–20.4 (TC1–TC3) zeigt, wie es in 5 bei 56 und 58 gezeigt ist.
Die Zählungen FC1–FC4 können beispielsweise die Form der Anzahl von Nachrichtenpaketen haben, die über die jeweiligen Verbindungen 20.1–20.4 empfangen werden. Desgleichen können die Verkehrszählungen TC1–TC4 in der Form einer Zählung der über die jeweiligen Verbindungen 20.1–20.4 an die einzelnen Servercomputer 16.1–16.4 übertragenen Nachrichtenpakete vorliegen. Um die Tabelle 50 zu pflegen, reagiert der Verkehrsüberwacher auf Adreßdaten in den an den Schnittstellen 38 und 40 empfangenen Paketen und zählt einfach die Anzahl an Paketen, die an diesen Schnittstellen empfangen werden.
6 veranschaulicht schematisch Aspekte eines Nachrichtenpakets, wie es von der Verbindung 26 oder der Verbindung 32 empfangen werden könnte. Es sei angemerkt, daß 6 lediglich Aspekte des Paketformats veranschaulicht, die für das Verständnis der vorliegenden Erfindung relevant sind. Wie es in 6 gezeigt ist, beinhaltet ein Paket 60 eine Kopfzeile 62, die eine Ziel adresse 64 und eine Quelladresse 66 sowie einen Datenanteil 68 enthält. Die Ziel- und die Quelladresse können eine Kombination aus einem Teil einer Internetprotokoll-(Internetwork Protocol, IP-)Adresse und einem Teil einer Netzwerkadresse sein. Der Teil der IP-Adresse bezieht sich auf die externe Internetadresse für den Servercomputer insgesamt (beispielsweise 192.10.20.30), und die Netzwerkadresse ist eine physikalische Adresse für die jeweiligen einzelnen Servercomputer 16.1–16.4 (beispielsweise 161–164). Die IP-Adresse enthält die Gesamtadresse des Mehrrechner-Servers 33. Die Quelladresse zeigt die Quelladresse des Clients an, die beispielsweise gültige Teile einer IP-Adresse und einer Netzwerkadresse beinhaltet. Für eine von den einzelnen Computern 16.1–16.4 ausgehende Nachricht enthält die Zieladresse die Adresse des Client-Computers, an den die Antwort geschickt werden soll. Die Quelladresse enthält die IP-Adresse für den Mehrrechner-Server 33 sowie die geeignete Servernetzwerkadresse für den Servercomputer 16.1–16.4, der die Antwort erzeugt hat. Aus der Netzwerkadresse dieses Teils kann daher die Servernetzwerkverbindung 20.1–20.4 identifiziert werden, über welche die Antwortnachricht übertragen wurde.
Die Schnittstelle 38 liefert eine eingehende Nachricht von der Verbindung 26 unter der Steuerung der Abfertigungssteuerung 36 aus, indem sie die Adresse so modifiziert, daß diese die Adresse desjenigen Servercomputers 16.1–16.4 anzeigt, der die Aufgaben, die durch die empfangene Client-Anforderung angefordert wurden, ausführen soll. Dementsprechend ist die Zieladresse einer Nachricht, die zur Weiterleitung an die einzelnen Servercomputer 16.1–16.4 über die interne Verbindung 42 an die Schnittstelle 40 übertragen wurde, in der Kopfzeilenadresse enthalten, ehe diese Nachricht die Schnittstelle 38 verläßt.
Dementsprechend ist ein Verkehrsüberwacher 34 so aufgebaut, daß er auf Zieladressen für Nachrichten zugreift, die von der Schnittstelle 38 zu der Schnittstelle 40 übertragen werden sollen, um sie über den Schalter 22 und die Netzwerkverbindungen 20.1-20.4 an die einzelnen Servercomputer 16.1–16.4 weiterzuleiten. Er verwendet diese Informationen auch, um den geeigneten Eintrag 161–164 (bei 56) zu identifizieren, für den die Paketzählung TC1–TC4 inkrementiert bzw. heraufgesetzt werden soll, um ein neues Nachrichtenpaket, welches über die betreffende Netzwerkverbindung 20.1–20.4 versendet werden soll, zu berücksichtigen. In ähnlicher Weise ist der Verkehrsüberwacher 34 so angeordnet, daß er die Quelladresse von Nachrichten, die von den einzelnen Computern 16.1–16.4 empfangen werden, überwacht, um den geeigneten Eintrag 161–164 (bei 52) in der Tabelle 50 zu identifizieren, für den die jeweilige Paketzählung FC1–FC4 heraufgesetzt werden soll, um ein ausgehendes Paket zu berücksichtigen.
Die Überwachung der Anzahl von Paketen liefert ein sehr einfaches Verfahren zum Überwachen des Verkehrsflusses über die einzelnen Verbindungen 20.1–20.4, unter der Annahme, daß der Verkehr statistisch mit der Anzahl an Paketen verknüpft ist. Das Pflegen eines Verkehrsflußanzeigers auf Basis der Paketgröße ist nicht nur auf Fälle beschränkt, bei denen die Pakete eine feste Größe haben, sondern kann auch verwendet werden, solange es eine statistische Beziehung zwischen der Anzahl an Paketen und dem Gesamtverkehr auf den einzelnen Verbindungen 20.1–20.4 gibt.
Wenn die statistische Verbindung zwischen der Anzahl von zu übertragenden Paketen und dem Gesamtnachrichtenverkehr nicht stark ist oder wenn ein akkurateres Maß für den Verkehr benötigt wird, kann anstelle einer Paketzählung eine Bytezählung durchgeführt werden. Dies kann beispielsweise erreicht werden, wenn die Paketkopfzeile Größeninformationen (beispielsweise eine Bytezählung) für jedes Paket beinhaltet. In diesem Fall kann der Verkehrsüberwacher 34 im Gegensatz zur Paketzahlinformation zusätzlich die Bytegrößeninformationen 61 aus der Paketkopfzeile herausziehen bzw. extrahieren und die Informationen in der Tabelle 50 auf dieser Basis modifizieren.
Die in der Tabelle 50 gespeicherten Informationen können in Form einer Bytezählung über einen bestimmten Zeitraum vorliegen, wobei die Zählung von Zeit zu Zeit zurückgesetzt wird, sie könnten in der Form einer Prozentanzeige vorliegen, die den Prozentsatz der maximalen Verwendung anzeigt, oder sie können in der Form relativer Informationen auf Basis der relativen Verwendung der jeweiligen Verbindungen oder in Form irgendwelcher anderer geeigneter Daten vorliegen. Beispielsweise könnten die gespeicherten Daten eine Gesamtzählung der Paketlänge und/oder eine durchschnittliche Anzahl von Paketen pro Sekunde sowie eine Gesamtzählung geöffneter Verbindungen für jedes System beinhalten. In jedem Fall ist es für Fachleute auf dem Gebiet offensichtlich, daß ein geeigneter Algorithmus verwendet werden kann, der auf die von den Schnittstellen 38 und 40 identifizierten Verkehrsinformationen reagiert, um Daten zur Speicherung in der Tabelle 50 zu erzeugen.
Obwohl in 5 eine Tabelle gezeigt ist, die Verkehrsvolumendaten für sowohl eingehende als auch ausgehende Nachrichten beinhaltet, sind die von dem externen Netzwerk über die Verbindung 26 eingehenden Anforderungen in den meisten Fällen bedeutend kleiner als die von den einzelnen Servercomputern 16.1–16.4 ausgehenden Antworten. In diesem Fall könnte, da der Verkehrsfluß zu den Servercomputern 16.1–16.4 über die jeweiligen Verbindungen 20.1–20.4 deutlich geringer ist als der Verkehrsfluß in der entgegengesetzten Richtung, eine Ausführungsform der Erfindung beispielsweise die Tabelle 52/54 nur für die von den Servercomputern 16.1–16.4 über die Verbindungen 20.1–20.4 ausgehenden Antwortpakete pflegen.
Die Abfertigungssteuerung 36 reagiert auf die in der Tabelle 50 aus 5 gespeicherten Informationen und verwendet einen Algorithmus auf Basis der relativen Verkehrsbelastung, wie sie durch die Inhalte der Tabelle repräsentiert wird, um die Zuweisung einzelner eingehender Client-Anforderungen von der Verbindung 26 zu den einzelnen Servercomputern 16.1–16.4 zu bestimmen. Die Zuweisung wird durch eine Veränderung der Adresse, so daß sie der Adresse eines der Servercomputer 16.1–16.4 entspricht, und anschließendes Weiterleiten der Nachricht von der Schnittstelle 38 zu der Schnittstelle 40 für die Übertragung an den Schalter 22 beeinflußt. Der Schalter 22 funktioniert wie eine herkömmliche Telekommunikationsschaltung und verwendet die darin enthaltenen Adreßinformationen, um das betreffende Paket für die Übertragung über die geeignete Verbindung einem Übertragungspuffer zuzuführen.
Die Schnittstelle 38 kann eine Tabelle von Verbindungen (TC) 39 pflegen, um das vorgegebene Routing bzw. die Weiterleitung für eine Client-Anforderung an einen bestimmten Servercompu ter 16.1–16.4 zu identifizieren, so daß diese(s) verwendet werden kann, um den zugewiesenen Servercomputer für zukünftige Anforderungen von demselben Client gemäß dem Belastungsalgorithmus zu bestimmen, falls dies gewünscht ist.
7 ist eine Zusammenfassung der Betriebsweise des Nachrichtenabfertigers 30 aus 4.
Der Abfertiger wartet, bis er entweder in Schritt S1 an der Schnittstelle 38 eine eingehende Nachricht (z.B. eine Client-Anforderungsnachricht) von dem externen Netzwerk für die Servercomputer oder in Schritt S2 an der Schnittstelle 40 eine von einem der Servercomputer ausgehende Nachricht (z.B. eine Antwortnachricht) erkennt.
Wenn in Schritt S1 eine eingehende Nachricht gefunden bzw. entdeckt wird, greift die Abfertigungssteuerung 36 in Schritt S3 auf den Verkehrsüberwacher 34 zu, um die derzeitige Belastung der Servernetzwerkverbindungen für die verschiedenen Servernetzwerkverbindungen mit den einzelnen Servercomputern zu bestimmen.
In Schritt S4 werden die in Schritt S3 bestimmten Daten verwendet, um einen Servercomputer zu bestimmen, der die Nachricht empfangen soll. Die Bestimmung kann unter Verwendung irgendeines geeigneten Algorithmus, der das Verkehrsvolumen oder die Verkehrsflußdaten verwendet, vorgenommen werden. Dieser Algorithmus könnte auf einem Rundlauf- bzw. Umlauf-Algorithmus basieren, wobei in umlaufender Reihenfolge der betreffende Servercomputer ausgelassen wird, wenn die korrespondierende Verbindung stark belastet ist. Alternativ könnte er auch nur auf der relativen derzeitigen Belastung (oder auf der relativen Belastung über einen vorbestimmten Zeitraum) auf den jeweiligen Servernetzwerkverbindungen basieren. Optional könnte der Algorithmus zusätzlich weitere Charakteristika, wie beispielsweise die Belastung der Servercomputer und/oder die in der Verbindungstabelle 39 gespeicherten Daten, berücksichtigen.
In Schritt S5 wird die Nachricht von dem Nachrichtenabfertiger ausgeliefert. Dies wird bewerkstelligt, indem die Zieladresse der Nachricht so modifiziert wird, daß der Servercomputer, der die mit der Nachricht verknüpften Aufgaben bearbeiten soll, adressiert wird.
In Schritt S6 wird die modifizierte Zieladresse der Nachricht verwendet, um die Verkehrsüberwachungsdaten zu aktualisieren, wobei, falls dies angemessen erscheint, auch die Größe der Nachricht verwendet wird, um die Verkehrsvolumendaten zu aktualisieren.
Wenn in Schritt S2 eine ausgehende Nachricht entdeckt wird, wird in Schritt S7 die Quelladresse in der Nachricht identifiziert.
In Schritt S8 wird die Quelladresse der Nachricht verwendet, um die Verkehrsüberwachungsdaten zu aktualisieren, wobei, falls dies angemessen erscheint, auch die Größe der Nachricht verwendet wird, um die Verkehrsvolumendaten zu aktualisieren.
8 ist eine schematische Darstellung einer alternativen Ausführungsform, bei der ein Verkehrsüberwacher 72 getrennt von dem Abfertiger 30 vorgesehen ist. In diesem Fall überwacht der Verkehrsüberwacher 72 den gesamten Nachrichtenverkehr über die Verbindung 32 und verwendet die Quell- und Zielinformationen zusammen mit einer Anzahl von Paketen und/oder der Paketgrößeninformationen (61 – 6) oder andere Parameter, um eine oder mehrere Tabellen für den Verkehrsfluß zu und/oder von den Servercomputern 16.1–16.4 über die jeweiligen Verbindungen 20.1–20.4 zu pflegen. In diesem Fall reagiert die Abfertigungssteuerung 36 entsprechend einem geeigneten Algorithmus auf die in dem Verkehrsüberwacher 72 gespeicherte Tabelle, um die Auslieferung der eingehenden Client-Anforderung an die einzelnen Servercomputer 16.1–16.4 über die jeweiligen Verbindungen 20.1–20.4 zu bestimmen.
9 ist eine schematische Darstellung einer weiteren Ausführungsform der Erfindung, bei der die Verkehrsüberwachung in dem Schalter 22 stattfindet. In dieser Ausführungsform wird ein Abfertigungs- bzw. Auslieferungspufferüberwacher 82 bereitgestellt, um die einzelnen Auslieferungspuffer für die Verbindungen 20.1–20.4 zu überwachen, um fallengelassene Pakete (d.h. diejenigen Pakete, die nicht erfolgreich über die jeweiligen Verbindungen 20.1–20.4 an die einzelnen Servercomputer 16.1–16.4 übertragen wurden) zu identifizieren. Diese Ausführungsform geht von der Annahme aus, daß es eine statistische Beziehung zwischen der Anzahl an fallengelassenen Paketen und der Belegung (dem Verkehr) auf der betreffenden Verbindung gibt. Entsprechend überwacht der Auslieferungspufferüberwacher 82 die Fehlerrate der Auslieferungspuffer 84 durch die logischen Verbindungen 86 und liefert über eine Verbindung 88 Informationen an die Abfertigungssteuerung 36, die die Übertragungsfehlerrate für jede der Verbindungen 20.1–20.4 anzeigen. In dem Beispiel von 9 reagiert die Abfertigungssteuerung 36 dann auf die jeweiligen von dem Auslieferungspufferüberwacher 82 angezeigten Fehlerraten, um die Zuweisung von Anforderungen, die von der externen Verbindung 26 an der Schnittstelle 38 empfangen werden, zu bestimmen.
10 ist eine weitere Ausführungsform der Erfindung, bei der zwei Abfertiger parallel vorgesehen sind. Ein Aufbau, wie er in 10 gezeigt ist, kann für Netzwerkserver mit hoher Kapazität erforderlich sein, bei denen dem Internet oder Intranet eine Anzahl externer Verbindungen bereitgestellt wird. Jeder der Abfertiger 30.1 und 30.2 kann mit jeweiligen Internetadressen versehen sein, und sie sind über die Verbindungen 32.1 und 32.2, den Schalter 22 und die Verbindungen 20.1–20.4 mit den einzelnen Servercomputern 16.1–16.4 verbunden. In diesem Beispiel wird ein Verkehrsüberwacher 92 bereitgestellt, der den gesamten Verkehr über die Verbindungen 32.1 und 32.2 auf Basis der Ziel-/Quelladressen, wenn sie die Servercomputer 16.1–16.4 betreffen, überwacht. Auf diese Weise pflegt der gemeinsame Überwacher 92 eine Anzeige des Verkehrs über die jeweiligen einzelnen Verbindungen 20.1–20.4. Die Abfertigungssteuerungen 36.1 und 36.2 reagieren auf die Verkehrsinformationen, die von dem Verkehrsüberwacher 92 über die jeweiligen Verbindungen 96.1 und 96.2 gepflegt werden. Entsprechend können die Abfertigungssteuerungen 36.1 und 36.2 die Zuweisung eingehender Anforderungen über die Verbindungen 26.1 bzw. 26.2 auf Basis des Verkehrs auf den einzelnen Servernetzwerkverbindungen 20.1–20.4 in koordinierter Weise bereitstellen.
11 ist eine Variante der Ausführungsform von 10, bei der in jedem der Abfertiger 30.1 bzw. 30.2 ein separater Verkehrsüberwacher 34.1 bzw. 34.2 vorgesehen ist. Jeder der Verkehrsvolumenüberwacher 34.1 und 34.2 kann im wesentlichen in der gleichen Weise betrieben werden wie der Verkehrsüberwacher 34 von 4. In diesem Fall ist es jedoch notwendig, daß die Verkehrsüberwacher 34.1 und 34.2 miteinander kommunizieren, wie es durch den Doppelpfeil 90 dargestellt ist, um sicherzustellen, daß die Abfertigungssteuerungen 36.1 und 36.2 in koordinierter Weise funktionieren. Anders ausgedrückt vereinigen die Verkehrsvolumenüberwacher 34.1 und 34.2 vorzugsweise die einzelnen gesammelten Verkehrsvolumendaten, um die Verkehrsvolumendaten in den Abfertigern 30.1 und 30.2 konsistent zu halten.
Es wurde eine Reihe von Ausführungsformen eines Nachrichtenabfertigungssystems für einen Mehrrechner-Server für ein Computernetzwerk (beispielsweise für das Internet oder ein Intranet) beschrieben, welches eine Lastverteilung auf Basis des Verkehrsflusses am Rande des Servernetzwerks bereitstellt. Durch die Bereitstellung einer Lastverteilung auf Basis des Verkehrsflusses wird eine bessere Nutzung der Netzwerkressourcen in einer modernen Verarbeitungsumgebung möglich, als es bei früheren Ansätzen der Fall war. Dies ist darauf zurückzuführen, daß die Erfindung den gesamten Nachrichtenfluß, einschließlich UDP- und TCP-Nachrichten, berücksichtigen kann. Obwohl in den beschriebenen Ausführungsformen die Auslieferung bzw. Abfertigung von Nachrichten allein auf Basis des Verkehrsflusses erfolgt, versteht es sich, daß in einer bestimmten Ausführungsform auch Verkehrsflußmessungen mit Parametern der Prozessornutzung gemäß einem gewünschten Algorithmus kombiniert werden könnten. Obwohl in einem solchen Fall die Erfindung Charakteristika der Prozessornutzung verwenden würde, wie sie aus dem Stand der Technik bekannt sind, wäre eine solche Ausführungsform dennoch durch die Verwendung von Verkehrsflußmessungen gemäß einer Ausführungsform der vorliegenden Erfindung gekennzeichnet.
Eine Ausführungsform der Erfindung legt nahe, nicht von der Annahme auszugehen, daß die Netzwerkbelastung durch die Aktivität der Servercomputer bestimmt wird, sondern vielmehr diese Belastung am Rande des Netzwerks (edge of network) zu messen. Auf Basis dieser Messung verändert der Abfertiger die Ziel-IP-Adresse einer neuen Verbindung in die Adresse eines Systems, das als das am wenigsten belastete System ausgewählt wurde, oder zumindest in die Adresse eines weniger belasteten Servercomputers.
Die gesamte Belastung auf dem Netzwerk kann gemessen werden, und in einer Ausführungsform der Erfindung können sogar indirekt induzierte Belastungen (z.B. Multimedia-UDP-Datenströme, die nicht dasselbe Protokoll verwenden wie die ursprüngliche Anforderung) gemessen werden.
Obwohl die bestimmten hier beschriebenen Ausführungsformen der Erfindung vier Servercomputer aufweisen, versteht es sich, daß dies lediglich ein mögliches Beispiel ist und daß die Anzahl von Servercomputern in einem Mehrrechner-Server jede Zahl sein kann, die größer als Eins ist. Außerdem versteht es sich, daß, obwohl in den gezeigten Ausführungsformen nur ein oder möglicherweise zwei Abfertiger vorgesehen sind, in anderen Beispielen mehr als zwei Abfertiger für einen Mehrrechner-Server miteinander verknüpft sein können.
In dem vorliegenden Dokument wird auf Servernetzwerkverbindungen Bezug genommen. Es sei jedoch angemerkt, daß die Verwendung dieses Begriffs nicht bedeuten soll, daß diese notwendigerweise lokale Verbindungen eines diskreten Netzwerks sein müssen. Die Servernetzwerkverbindungen müssen nicht physisch lokal sein, sondern könnten auch physisch verteilt sein und möglicherweise Verbindungen einschließen, die sich nicht direkt zwischen dem Abfertiger oder Schalter und den einzelnen Servercomputern erstrecken, sondern eine oder mehrere öffentliche Leitungen und/oder weitere Schalter passieren.
Obwohl in den beschriebenen Ausführungsformen der Schalter als separate, einzelne Einheit gezeigt ist, muß dies nicht der Fall sein. Er könnte eine Mehrzahl von Schaltern beinhalten. Alternativ könnte die Funktion des Schalters in den Abfertiger integriert werden, indem der Abfertiger mit einer Mehrzahl separater Ausgangsverbindungen direkt zu den Servercomputern ausgestattet wird.
Dementsprechend versteht es sich, daß, obwohl bestimmte Ausführungsformen der Erfindung beschrieben wurden, viele Modifikationen/Hinzufügungen und/oder Ersetzungen vorgenommen werden können, die innerhalb des Schutzbereichs der vorliegenden Erfindung liegen.

Claims

Nachrichtenabfertigungssystem für einen Mehrrechner-Server (33), der eine Mehrzahl von Servercomputern (16.1–16.4) mit jeweiligen Servernetzwerkverbindungen (20.1–20.4) beinhaltet, wobei das Nachrichtenabfertigungssystem mit einem externen Telekommunikationsnetz verknüpft werden kann und folgendes aufweist: einen ersten Nachrichtenabfertiger (30), der so ausgestaltet ist, daß er externe Client-Anforderungen für den Mehrrechner-Server von dem externen Telekommunikationsnetz empfängt und diese Client-Anforderungen über die Servernetzwerkverbindungen an ausgewählte Servercomputer ausliefert, wobei der erste Nachrichtenabfertiger so ausgestaltet ist, daß er in Reaktion auf Parameter, die die Netzwerkbelastung auf den Servernetzwerkverbindungen repräsentieren, einen Server bestimmt, an den die externe Client-Anforderung ausgeliefert werden soll, wobei die Parameter Parameter beinhalten, die ein von den Servercomputern ausgehendes Verkehrsaufkommen auf den Servernetzwerkverbindungen repräsentieren.
System nach Anspruch 1, welches einen Verkehrsüberwacher (34, 72, 82, 92) beinhaltet, der so ausgestaltet ist, daß er Parameter, die zumindest entweder Nachrichtenverkehr an einzelne Servercomputer oder Nachrichtenverkehr von einzelnen Servercomputern über die jeweiligen Servernetzwerkverbindungen repräsentieren, überwacht, wobei der Nachrichtenabfertiger so ausgestaltet ist, daß er die Parameter von dem Verkehrsüberwacher empfängt.
System nach Anspruch 2, wobei die Parameter eine Anzahl von zumindest entweder Nachrichtenpaketen an die Servercomputer oder Nachrichtenpaketen von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen beinhalten.
System nach Anspruch 2, wobei die Parameter eine Anzahl von zumindest entweder Nachrichtenbytes an die Servercomputer oder Nachrichtenbytes von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen beinhalten.
System nach einem der Ansprüche 2 bis 4, wobei der Verkehrsüberwacher auf Quelladreßinformationen in Nachrichten, die von den Servercomputern über die Servernetzwerkverbindungen empfangen werden, reagiert, um das Verkehrsaufkommen von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen zu überwachen.
System nach Anspruch 5, wobei der Verkehrsüberwacher so betreibbar ist, daß er eine Anzahl von Nachrichtenpaketen von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen pflegt.
System nach Anspruch 5, wobei der Verkehrsüberwacher so betreibbar ist, daß er eine Anzahl von Nachrichtenbytes von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen pflegt.
System nach einem der Ansprüche 2 bis 7, wobei der Verkehrsüberwacher auf Zielortinformationen für Nachrichten, die durch den ersten Nachrichtenabfertiger über die Servernetzwerkverbindungen an die Servercomputer ausgeliefert werden, reagiert, um das Verkehrsaufkommen an die Servercomputer auf den jeweiligen Servernetzwerkverbindungen zu überwachen.
System nach Anspruch 8, wobei der Verkehrsüberwacher so betreibbar ist, daß er eine Anzahl von Nachrichtenpaketen an die Servercomputer auf den jeweiligen Servernetzwerkverbindungen pflegt.
System nach Anspruch 8, wobei der Verkehrsüberwacher so betreibbar ist, daß er eine Anzahl von Nachrichtenbytes an die Servercomputer auf den jeweiligen Servernetzwerkverbindungen pflegt.
System nach einem der vorangegangenen Ansprüche, wobei der erste Nachrichtenabfertiger direkt mit den Servernetzwerkverbindungen verbunden ist.
System nach einem der vorangegangenen Ansprüche, welches einen Verteiler (22), der mit dem ersten Nachrichtenabfertiger verbunden ist, beinhaltet, wobei der Verteiler mit jeder der Netzwerkverbindungen verbunden ist.
System nach Anspruch 12, wobei das Nachrichtenabfertigungssystem auf einen Eintrag von zumindest entweder Verkehr an einzelne Servercomputer oder Verkehr von einzelnen Servercomputern über die jeweiligen Servernetzwerkverbindungen reagiert, wobei der Eintrag in dem Verteiler gepflegt wird.
System nach Anspruch 13, wobei die Parameter eine Anzahl von zumindest entweder Nachrichtenpaketen an die Servercomputer oder Nachrichtenpaketen von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen beinhalten.
System nach Anspruch 13, wobei die Parameter eine Anzahl von zumindest entweder Nachrichtenbytes an die Servercomputer oder Nachrichtenbytes von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen beinhalten.
System nach Anspruch 13, wobei der Eintrag einen Eintrag verlorener Nachrichtenpakete für die Servernetzwerkverbindungen beinhaltet.
System nach einem der Ansprüche 12 bis 16, wobei der erste Nachrichtenabfertiger auf zumindest entweder einen Eintrag von Verkehr an einzelne Servercomputer oder einen Eintrag von Verkehr von einzelnen Servercomputern über die jeweiligen Servernetzwerkverbindungen reagiert, wobei der Eintrag von einem Verkehrsüberwacher gepflegt wird, der mit einer Verbindung zwischen dem ersten Nachrichtenabfertiger und dem Verteiler verbunden ist.
System nach Anspruch 17, wobei die Parameter eine Anzahl von zumindest entweder Nachrichtenpaketen an die Servercomputer oder Nachrichtenpaketen von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen beinhalten.
System nach Anspruch 17, wobei die Parameter eine Anzahl von zumindest entweder Nachrichtenbytes an die Servercomputer oder Nachrichtenbytes von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen beinhalten.
System nach einem der vorangegangenen Ansprüche, wobei der erste Nachrichtenabfertiger so ausgestaltet ist, daß er eine Zieladresse einer empfangenen externen Client-Anforderung für den Mehrrechner-Server von dem externen Telekommunikationsnetz modifiziert, um einen ausgewählten Servercomputer zu adressieren.
System nach einem der vorangegangenen Ansprüche, welches so ausgestaltet ist, daß es von dem externen Telekommunikationsnetz durch Nachrichten, die eine Adresse des Mehrrechner-Servers enthalten, adressiert bzw. angesteuert werden kann.
System nach einem der vorangegangenen Ansprüche, wobei das Telekommunikationsnetz das Internet ist, der Mehrrechner-Server ein Internetserver ist und die Nachrichten Internetnachrichten sind.
Nachrichtenverteilungssystem nach Anspruch 12 oder einem der von Anspruch 12 abhängigen Ansprüche, wobei das System aufweist: mindestens einen weiteren Nachrichtenabfertiger, der so ausgestaltet ist, daß er externe Client-Anforderungen für den Mehrrechner-Server von dem externen Telekommunikationsnetz emp fängt und diese Client-Anforderungen über den Verteiler und die Servernetzwerkverbindungen an ausgewählte Servercomputer ausliefert, wobei jeder weitere Nachrichtenabfertiger so ausgestaltet ist, daß er in Reaktion auf Parameter, die die Netzwerkbelastung auf den Servernetzwerkverbindungen repräsentieren, einen Server, an den eine externe Client-Anforderung ausgeliefert werden soll, bestimmt.
System nach Anspruch 23, wobei jeder Nachrichtenabfertiger auf einen gemeinsamen Satz von Parametern, die die Netzwerkbelastung auf den Servernetzwerkverbindungen repräsentieren, reagiert.
System nach Anspruch 24, wobei jeder Nachrichtenabfertiger auf einen jeweiligen Satz von Parametern, die die Netzwerkbelastung auf den Servernetzwerkverbindungen repräsentieren, reagiert, wobei jeder Nachrichtenabfertiger auf jeden anderen Nachrichtenabfertiger reagiert, um die Nachrichtenverteilung zu koordinieren.
Computersoftware, die auf einem Computer ausführbar ist, um das Nachrichtenabfertigungssystem gemäß einem der vorangegangenen Ansprüche zu implementieren.
Computersoftware nach Anspruch 26 auf einem Datenträger.
Verfahren zum Abfertigen empfangener externer Client-Anforderungen an Servercomputer (16.1–16.4) eines Mehrrechner-Servers (33), der eine Mehrzahl von Servercomputern, die über jeweilige Servernetzwerkverbindungen (20.1–20.4) verbunden sind, beinhaltet, wobei das Verfahren folgendes umfaßt: a) Empfangen externer Client-Anforderungen für den Mehrrechner-Server von einem externen Telekommunikationsnetz, b) Bestimmen eines Servers, an den eine externe Client-Anforderung ausgeliefert werden soll, in Reaktion auf Parameter, die die Netzwerkbelastung auf den Servernetzwerkverbindungen repräsentieren, wobei die Parameter Parameter beinhalten, die ein von den Servercomputern ausgehendes Verkehrsaufkommen auf den Servernetzwerkverbindungen repräsentieren, und c) Ausliefern einer empfangenen Client-Anforderung an den bestimmten Servercomputer über die jeweilige Servernetzwerkverbindung.
Verfahren nach Anspruch 28, welches weiterhin das Überwachen von Verkehrsparametern, die zumindest entweder Nachrichtenverkehr an einzelne Servercomputer oder Nachrichtenverkehr von einzelnen Servercomputern über die jeweiligen Verbindungen repräsentieren, umfaßt, wobei Schritt (b) einen Schritt des Reagierens auf diese Parameter beinhaltet.
Verfahren nach Anspruch 29, wobei die Parameter eine Anzahl von zumindest entweder Nachrichtenpaketen an die Servercomputer oder Nachrichtenpaketen von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen beinhalten.
Verfahren nach Anspruch 29, wobei die Parameter eine Anzahl von zumindest entweder Nachrichtenbytes an die Servercomputer oder Nachrichtenbytes von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen beinhalten.
Verfahren nach einem der Ansprüche 29 bis 31, wobei der weitere Schritt das Reagieren auf Quelladreßinformationen in Nachrichten, die von den Servercomputern über die Verbindungen empfangen wurden, beinhaltet, um das Verkehrsaufkommen von den Servercomputern auf den jeweiligen Servernetzwerkverbindungen zu überwachen.
Verfahren nach einem der Ansprüche 28 bis 32, wobei der weitere Schritt das Reagieren auf Zielinformationen für Nachrichten, die durch den Nachrichtenabfertiger über die Verbindungen an die Servercomputer ausgeliefert wurden, beinhaltet, um das Verkehrsaufkommen an die Servercomputer auf den jeweiligen Servernetzwerkverbindungen zu überwachen.
Verfahren nach einem der Ansprüche 28 bis 33, welches einen zusätzlichen Schritt des Pflegens eines Eintrages von zumindest entweder Verkehr an einzelne Servercomputer oder Verkehr von einzelnen Servercomputern über die jeweiligen Servernetzwerkverbindungen an einem Verteiler (22) beinhaltet.
Verfahren nach Anspruch 34, wobei der Eintrag einen Eintrag verlorener Nachrichtenpakete beinhaltet.
Verfahren nach einem der Ansprüche 28 bis 35, welches für eine Verbindung zwischen dem Nachrichtenabfertiger und einem Verteiler einen zusätzlichen Schritt des Pflegens eines Eintrages von zumindest entweder Verkehr an einzelne Servercomputer oder Verkehr von einzelnen Servercomputern über die jeweiligen Verbindungen an einer Verkehrsüberwachungsvorrichtung beinhaltet.
Verfahren nach einem der Ansprüche 28 bis 36, wobei Schritt (c) das Modifizieren einer Zieladresse einer empfangenen externen Client-Anforderung für den Mehrrechner-Server von dem externen Telekommunikationsnetz beinhaltet, um einen ausgewählten der Servercomputer zu adressieren.
Verfahren nach einem der Ansprüche 28 bis 37, wobei Schritt (a) das Empfangen externer Client-Anforderungen, die eine Adresse des Mehrrechner-Servers enthalten, von dem externen Telekommunikationsnetz beinhaltet.
Verfahren nach Anspruch 38, wobei das Telekommunikationsnetz das Internet ist, der Mehrrechner-Server ein Internetserver ist und die Nachrichten Internetnachrichten sind.
Computersoftware, die auf einem Computer ausführbar ist, um das Verfahren gemäß einem der Ansprüche 28 bis 39 zu implementieren.
Computersoftware nach Anspruch 40 auf einem Datenträger.