JP2011197796A - 負荷分散制御装置 - Google Patents

負荷分散制御装置 Download PDF

Info

Publication number
JP2011197796A
JP2011197796A JP2010061239A JP2010061239A JP2011197796A JP 2011197796 A JP2011197796 A JP 2011197796A JP 2010061239 A JP2010061239 A JP 2010061239A JP 2010061239 A JP2010061239 A JP 2010061239A JP 2011197796 A JP2011197796 A JP 2011197796A
Authority
JP
Japan
Prior art keywords
server
load
response time
servers
load distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010061239A
Other languages
English (en)
Inventor
Toshiko Arai
敏功 新井
Nobuhiro Tsukakoshi
信広 塚越
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Frontech Ltd
Original Assignee
Fujitsu Frontech Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Frontech Ltd filed Critical Fujitsu Frontech Ltd
Priority to JP2010061239A priority Critical patent/JP2011197796A/ja
Publication of JP2011197796A publication Critical patent/JP2011197796A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Computer And Data Communications (AREA)

Abstract

【課題】サーバの負荷分散を適切に行なうことのできる負荷分散装置を提供する。
【解決手段】ロードバランサ10は、振り分けテーブル21に負荷分散対象として登録されたサーバに対し、入力パケットを、サーバにかかる負荷が均等になるように分配する。レスポンス計測装置11は、スイッチSW(2)を通過するサーバ宛のパケットと、サーバからの応答パケットの到着時刻から、応答時間を計測する。応答時間が所定値より大きいサーバがある場合には、このサーバは過負荷状態であると判断し、ロードバランサ10に対し、当該サーバを負荷分散対象から除外するように指示を出す。
【選択図】図2

Description

本発明は、負荷分散制御装置に関する。
近年、インターネット等のコンピュータネットワークの利用が広く進み、クライアント端末からサーバにデータを送り、サーバが処理後のデータをクライアントに送信することが盛んに行なわれている。このように、サーバに所定に処理を依頼することにより、ネットワーク店舗などのさまざまなサービスが提供されている。しかし、サーバには、多くのクライアント端末からのリクエストが集中するため、サーバには大きな処理能力が必要とされる。この場合、1台のサーバで対応しようとすると、サーバの必要とされる処理能力が大きくなりすぎてしまうため、複数台のサーバを用意し、これらのサーバの間で、リクエストを分散して処理することが行われる。しかし、単に、リクエストを複数のサーバに振り分けるだけでは、1つのサーバに負荷がかかりすぎてしまったり、あるサーバは、ほとんどリクエストを処理していないなどの問題が生じたりする。したがって、複数のサーバの前段に、サーバにかかる負荷が均等になるようにリクエストを配分する負荷分散装置を設け、負荷分散を行なうことが行なわれる。
一般的に負荷分散装置(ロードバランサ)の負荷分散アルゴリズムは動的に分散する仕組みであり、主にラウンドロビン方式を用いたり、コネクション数、HTTPヘッダなどを元に判断している。
この中でも、ラウンドロビン方式について説明する。ラウンドロビン方式の負荷分散装置は、負荷分散対象の複数のサーバの前段に接続され、クライアント端末から送られてくるリクエストを順番にサーバに振り分ける。すなわち、例えば、10台のサーバがあったとすると、最初のリクエストは1番目のサーバに、2番目のリクエストは2番目のサーバに、というように振り分ける。次に来るリクエストは次のサーバに振り分けるようにし、10番目のサーバにリクエストを振り分けた後の、次のリクエストは、1番目のサーバに振り分けるというように、巡回的にサーバにリクエストを振り分けるものである。
従来技術においては、パケット通信の応答量が平均通信特性より所定量以上大きい場合に異常と判断する方式や、負荷分散の方法として、一番速く応答しているサーバを選択する方式がある。
特開2005−159646号公報 特開2002−351760号公報
しかし、従来技術においては、一時的にサーバの負荷が高くなった場合、処理遅延が発生し、効率的にサーバが使用(負荷が分散)されていない場合がある。
本発明の課題は、サーバの負荷分散を適切に行なうことのできる負荷分散装置を提供することである。
本発明の一側面における負荷分散制御装置は、複数の端末からのリクエストを処理する複数のサーバに対する負荷を分散制御する負荷分散制御装置において、前記複数のサーバ毎に、前記端末からのリクエストに対する応答時間を計測し、該応答時間が第1の所定値より大きくなった場合に、該応答時間が第1の所定値より大きいサーバを負荷分散対象から除外するための除外指示を出力するレスポンス計測手段と、該レスポンス計測手段からの除外指示に従い、該除外指示に示されたサーバを負荷分散対象から除外し、その他のサーバに対し、該複数の端末からのリクエストを、サーバの負荷が分散するように転送する負荷分散手段とを備える。
本発明によれば、サーバの負荷分散を適切に行なうことのできる負荷分散装置を提供することができる。
本実施形態の機器構成を示すブロック図である。 本実施形態の装置のブロック図である。 本実施形態の動作を段階を追って説明する図(その1)である。 本実施形態の動作を段階を追って説明する図(その2)である。 本実施形態の動作を段階を追って説明する図(その3)である。 本実施形態の動作を段階を追って説明する図(その4)である。 本実施形態の処理フロー(その1)である。 本実施形態の処理フロー(その2)である。 本実施形態の処理フロー(その3)である。 本実施形態の処理フロー(その3)である。 本実施形態の処理フロー(その4)である。
以下、図面を参照して、本実施形態について説明する。
図1は、本実施形態の機器構成を示すブロック図である。
クライアント端末CL01〜CL03は、サーバSV01〜SV03に、データ処理のリクエスト(データ処理要求)を送信する。クライアント端末CL01〜CL03、サーバSV01〜SV03は、それぞれ3台ずつ図示されているが、これらの台数はそれぞれ任意の数(複数)でよい。クライアント端末CL01〜CL03から送信されるリクエストは、スイッチSW(1)において切り替え処理がなされる。異なる伝送路を伝搬してスイッチSW(1)に入力されたリクエストは、スイッチSW(1)において切り替え処理されることにより、1つの伝送路上に送出される。スイッチSW(1)から出力されたリクエストは、ロードバランサ10において、どのサーバSV01〜SV03に振り分けるかが決定される。振り分け先が決定されると、リクエストのデータパケットのヘッダの宛先アドレスが、振り分け先のサーバSV01〜SV03のものに書き換えられる。宛先アドレスの書き換え方法は、既存の方法を使用すればよい。
ロードバランサ10から出力されたリクエストは、スイッチSW(2)において、宛先サーバSV01〜SV03への伝送路に切り替え出力される。リクエストを受け取ったサーバSV01〜SV03は、リクエストを受け取った旨の内容を含むリクエスト応答(ACK:Acknowledgement)を、リクエスト送信元のクライアント端末CL01〜CL03に送る。
レスポンス計測装置11は、クライアント端末CL01〜CL03から送出されるリクエストや、サーバSV01〜SV03から送出されるリクエスト応答のデータパケットをコピーし、キャプチャして、パケットの宛先などを解析する。レスポンス計測装置11では、クライアント端末CL01〜CL03から送出されるリクエストのパケットの宛先を抽出し、どのサーバSV01〜SV03宛てのパケットかを検出する。また、サーバSV01〜SV03からリクエスト応答のパケットから、送信元のサーバSV01〜SV03を特定する。そして、あるサーバSV01〜SV03へのリクエストが通過してから、そのサーバSV01〜SV03からのリクエスト応答が通過するまでの時間を計測する。そして、計測された応答時間が、通常時(過負荷となっていない時)の平均の応答時間に比較して長いか否かを判定し、計測された時間が平均の応答時間より長い場合には、過負荷状態が発生していると判断する。計測された応答時間と比較する値は、通常時の平均応答時間ではなく、これに、予め設定された値を加えた値としても良い。計測された応答時間が通常の平均応答時間より長くても、少々長いだけであれば、過負荷状態以外の原因で応答時間が長くなる可能性があるからである。
そして、過負荷状態が発生しているサーバSV01〜SV03の識別子を含む指示をロードバランサ1に送信し、ロードバランサ10に、過負荷状態が発生しているサーバSV01〜SV03を負荷分散対象から除外し、リクエストが転送されないようにする。そして、過負荷状態が発生していたサーバSV01〜SV03の、計測される応答時間が平均応答時間以下になった場合には、レスポンス計測装置11は、ロードバランサ10に、当該サーバSV01〜SV03を負荷分散対象に含めるように指示し、リクエストが再び転送されるようにする。なお、除外されていたサーバを負荷分散対象に復帰させる場合の、応答時間の基準値は、平均応答時間でなくても、より小さな値でもよい。また、これは、過負荷状態を判定するための値より小さい値で、平均応答時間よりは大きい値としても良い。サーバを復帰させるための判断の基準値を過負荷状態を判定するための値より小さい値とするのは、過負荷状態になってから十分な時間が経過し、たまっていたリクエストを十分処理しきるようにするためである。
また、上記において、負荷分散対象に含めるとは、リクエストの配送先として登録しておくことであり、負荷分散対象から除外するとは、リクエストの配送先として登録しないことである。
図2は、本実施形態の装置のブロック図である。
図2は、図1において、ロードバランサ10からサーバSV01〜SV03側の構成を示している。図1と同じ構成要素には、同じ参照符号を付し、説明を省略する。また、便宜のため、サーバは、サーバSV01〜SV03の3台だけ示している。
ロードバランサ10の負荷分散アルゴリズムは任意のものでよいが、ここでは、便宜上、ラウンドロビン方式を採用しているとする。ロードバランサ10には、ロードバランサ10に接続された、クライアント端末からの同様のリクエストを処理可能なサーバSV01〜SV03が登録された振り分けテーブル21が設けられている。振り分けテーブル21には、振り分け対象のサーバの識別子が登録されると共に、この識別子に対応して、そのサーバを負荷分散対象とするか否かを示す有効フラグが登録される。有効フラグが「有効」となっている場合には、対応するサーバは、負荷分散対象となり、ラウンドロビン方式では、リクエストが順次振り分けられる。一方、有効フラグが「無効」となっている場合には、対応するサーバは、負荷分散対象とはならず、リクエストの振り分けは停止される。
レスポンス計測装置11には、キャプチャデータデータベース20が設けられている。キャプチャデータデータベース20は、スイッチSW(2)において、コピーされ、キャプチャされたパケットが格納される。レスポンス計測装置11は、キャプチャデータデータベース20からキャプチャされたパケットを読み出し、リクエストのパケットの宛先サーバのアドレスや、リクエスト応答のパケットの送信元のサーバのアドレスなどを抽出する。そして、リクエストの受信時刻から、そのリクエストの宛先サーバからのリクエスト応答の受信時刻までの応答時間を計測する。計測時間が、通常時の平均応答時間に所定値を加えた値よりも長い場合には、対応するサーバに過負荷状態が発生していると判断し、ロードバランサ10に、当該サーバを負荷分散対象から切り離すよう指示を出す。この指示を受けたロードバランサ10は、振り分けテーブル21の対応する有効フラグを「無効」とし、対応するサーバが負荷分散処理から除外されるようにする。計測時間が、通常時の応答時間に所定値を加えた値以下の場合には、負荷は適正であるとして、特にロードバランサ10には、指示を出さない。
過負荷状態のサーバについては、過負荷状態が検出された後も、応答時間を計測する。応答時間が、通常時の平均応答時間以下になった場合には、レスポンス計測装置11は、ロードバランサ10に対し、当該サーバを負荷分散対象に復帰させるように指示を出す。
過負荷状態の判断においては、上記では、計測された応答時間を、通常時の平均の応答時間に所定値を加えた値と比較するとしたが、例えば、システムの設計者が、サーバのサービス提供品質の基準として、予め応答時間の設定値を決定しておいても良い。そして、計測された応答時間と応答時間の設定値とを比較し、計測された応答時間が設定値より大きければ、過負荷状態とし、設定値以下ならば適性状態と判断するようにしても良い。
図3〜図6は、本実施形態の動作を段階を追って説明する図である。
図3においては、クライアント端末CL(1)〜CL(3)からリクエストが送信され、ロードバランサがサーバSV(1)〜SV(3)に負荷分散処理を行なって、リクエストを分配する。スイッチ(1)、(2)は、それぞれ図1のスイッチSW(1)、SW(2)と同じである。
図3において、まず、ロードバランサ〜サーバ間の通信パケットをキャプチャし、レスポンス計測装置でモニタリングを行う。ここで、ロードバランサとは別装置のレスポンス計測装置で、パケットをキャプチャしたキャプチャデータを監視する。
そして、キャプチャデータからサーバの応答時間を定常的に計測し、通常時のレスポンス時間を管理する。または、理論上の応答時間を算出し設定する。リクエスト応答はL7レベルのものを管理し、遅延もL7レベルで検出できる方法とする。ここで、L7レベルというのは、通信プロセスの階層のことを言っている。通常、通信プロセスは、物理レベルなどのL1レベルから、アプリケーションレベルのL7レベルまであり、L7レベルのリクエスト応答を管理するとは、サーバとクライアント端末間のアプリケーション同士の通信におけるリクエスト応答を管理することを言っている。L7レベルのリクエスト応答の管理とは、ユーザデータの転送に対するその応答の管理を行なうという意味である。
そして、サービス提供業務中のキャプチャデータからモニタされる応答時間と、上記の管理もしくは設定している応答時間と比較して、一定時間以上の応答時間の遅延を検出したタイミングで対象サーバへのパケットの振向けを停止するようロードバランサに指示をする。
図3においては、ロードバランサにおいて、サーバSV(1)〜SV(3)の全てが分散処理対象となっているが、レスポンス計測装置において、サーバSV(1)に応答時間の遅延が発生していることが検出された様子を示している。
新たな通信を、負荷分散対象外のサーバ以外に振向けることにより、負荷分散対象外のサーバは更なる高負荷状態にならず、新規通信は、一定の応答速度を維持できるサーバで処理されるため、応答遅延を回避することができる(応答遅延が解消されたら振り分け停止を解除させる)。
スイッチ(2)のロードバランサが接続されているポートの通信をキャプチャし、レスポンス計測装置が接続されているポートでモニタリングする。
モニタリングしたキャプチャデータからレスポンス計測装置が、サーバSV(1)〜SV(3)で行われる通信を解析し、それぞれの通信応答時間を算出する。解析した通信応答時間の結果から、遅延の発生を検知する。
図4において、レスポンス計測装置からロードバランサに対して、遅延が確認されたサーバSV(1)に対して新たな通信を配分しないよう分散停止指示を送信する。
図4においては、レスポンス計測装置で応答遅延が検出されたサーバSV(1)を、負荷分散対象外とするように、レスポンス計測装置からロードバランサに指示が送られたところであり、ロードバランサにおいて、サーバSV(1)が負荷分散対象から除外されている。
図5において、ロードバランサは、レスポンス計測装置からの負荷分散停止指示により、サーバSV(1)を負荷分散不可とし、新たな通信をサーバSV(1)に転送しない動作を行う。図5では、新たに、クライアント端末CL(4)が、リクエストを送信している。クライアント端末CL(4)のリクエストは、負荷分散処理対象外のサーバSV(1)を除いた他のサーバSV(2)、SV(3)のいずれかに振り分けられる。図5においては、クライアント端末CL(4)からのリクエストは、サーバSV(2)に振り分けられている。
図6においては、レスポンス計測装置にて、サーバSV(1)の通信における応答時間の正常が確認されたために、レスポンス計測装置からロードバランサに対して、サーバSV(1)を負荷分散処理対象に含めるため、負荷分散再開指示を送信する。これにより、クライアント端末CL(4)のリクエストは、サーバSV(1)にも振り分けられる場合が発生するようになる。図6では、クライアント端末CL(4)のリクエストがサーバSV(1)に振り分けられている様子が示されている。
サーバで応答遅延が発生するほど一時的に負荷が高くなるような状態が発生した場合に、新たな通信が負荷分散され、応答遅延が発生しているサーバに転送されると、更なる高負荷状態に陥ってしまう。しかし、上記のような構成によれば、業務通信の応答遅延を検知し、負荷分散対象から除外することでサービスの応答時間を適正に保つことが可能となる。
図7〜図10は、本実施形態の処理フローである。
図7は、全体処理のフローチャートである。図7の処理は、クライアント端末とサーバの間の通信の開始から終了まで繰り返して実行される。
処理が開始されると、ステップS10において、レスポンス計測装置は、応答時間の計測処理を行う。通信が行われている間は、常時パケットをキャプチャし、応答時間の計測を行なう。ここで、パケットをキャプチャするとは、伝送路を転送されているパケットをコピーし、コピーしたパケットをレスポンス計測装置のキャプチャデータデータベースに格納することを示す。そして、クライアント端末からのリクエストを含むパケットの宛先アドレスを抽出する。また、サーバからのリクエスト応答を含むパケットの送信元アドレスを抽出する。そして、宛先アドレスと送信元アドレスが一致するパケットの到着時刻の差を応答時間として取得する。
ステップS11においては、ステップS10において計測された応答時間を、例えば、通常時の平均応答時間に所定値を加えた値、あるいは、予め決められた設定値と比較し、計測された応答時間が平均の応答時間に所定値を加えた値、あるいは、設定値より大きいサーバを高負荷状態のサーバであるとして検出する。
ステップS12において、高負荷状態のサーバの識別子を、ロードバランサに通知する。そして、ステップS13において、ロードバランサは、高負荷状態のサーバを負荷分散処理の対象外とする処理を行なう。具体的には、振り分けテーブルの対応する有効フラグを「無効」と設定する。また、既に、負荷分散処理対象外であるサーバについて、計測された応答時間が平均の応答時間あるいは設定値以下となった場合には、振り分けテーブルの対応する有効フラグを「有効」に設定し、当該サーバを負荷分散処理に復帰させる。
図8は、図7のステップS10の詳細処理フローである。
図8(a)において、ステップS20では、レスポンス計測装置に格納されている平均レスポンス時間テーブルを開く。平均レスポンス時間テーブルは、図8(b)に示されている。図8(b)の平均レスポンス時間テーブルでは、サーバの識別子に対応して、平均レスポンス時間(平均応答時間)と、ロードバランサへの指示を出すための、ロードバランサ(LB)振り分け識別子が登録されている。ロードバランサ振り分け識別子は、対応するサーバの負荷状態が、高負荷状態か、適正状態かを格納するものであり、図2の振り分けテーブルの有効フラグに相当する。図8(b)の場合、「○」がロードバランサ振り分け識別子として登録されているサーバは、適正状態である。
ステップS21において、レスポンス計測装置において、通信パケットの応答時間を計測する。計測方法としては、クライアントからのリクエストを含むパケットの到着時刻と、サーバからのリクエスト応答を含むパケットの到着時刻の差を応答時間としてよい。あるいは、その他の既存の技術を用いて、応答時間の計測を行なってもよい。
ステップS22において、ステップS21でキャプチャされたパケットから計測した応答時間を用いて、平均レスポンス時間テーブルの平均レスポンス時間を更新する。この更新は、応答時間が取得されるに従い、随時行なわれる。
なお、ステップS21、S22は、全てのサーバについて繰り返し実行する。
ステップS23において、平均レスポンス時間テーブルを閉じて、処理を終了する。
なお、図8では、平均レスポンス時間(平均応答時間)を計測する場合を示しており、以下においても、この場合を仮定するが、平均レスポンス時間の代わりに、装置の設計者が、応答時間の適正値を予め設定しておいても良い。この場合には、図8(a)の平均レスポンス時間テーブルの更新は必要が無く、平均レスポンス時間テーブルの代わりに、応答時間の適正値を格納したテーブルを用意すればよい。
図9A、Bは、図7のステップS11、S12の詳細フローである。
図9の処理は、全てのサーバについて繰り返し実行する。
ステップS30において、平均レスポンス時間テーブルを開く。ステップS31において、レスポンス計測装置において、通信パケットの応答時間を計測し、サーバごとに応答時間を計測する。ここで、図8のステップS21と図9A(a)のステップS31とでは、計測対象とするパケットは、同じものでも異なっても良い。同一のパケットについて計測した応答時間を用いて、平均値を更新し、更に、その値を平均値と比較するようにしても良い。
ステップS32において、平均レスポンス時間テーブルのレスポンス時間(応答時間)と、計測された応答時間との比較を、サーバごとに行なう。
ステップS32において、レスポンス時間が、平均レスポンス時間に所定の時間(X秒)を加えた値より大きいか否かを判断する。この平均レスポンス時間に加えられる所定の時間は、サーバのレスポンス時間が適正であると判断する場合の幅を決定するものである。すなわち、平均レスポンス時間より、計測されたレスポンス時間が大きくても、高負荷状態になっているとは限らないため、より適正に高負荷状態を判断するためのものである。この所定の時間は、装置の設計者が予め適切に設定すべきものであるが、もちろん、0秒と設定しても良い。
ステップS33の判断がYesの場合には、ステップS34において、高負荷状態であると判断されたサーバに対応する、平均レスポンス時間テーブルのロードバランサ振り分け識別子を「×」に設定して、ロードバランサに、当該サーバを負荷分散対象から除去するよう指示を出す。図9B(b)の平均レスポンス時間テーブルでは、サーバSV01のロードバランサ振り分け識別子が「×」と設定されており、高負荷状態が発生していることが示されている。ステップS34の後は、ステップS38に進む。
ステップS33の判断がNoの場合には、ステップS35において、現在処理中のサーバが、ロードバランサに対し負荷分散対象外とする旨の指示が出されていたものであるか否かを判断する。
ステップS35の判断がNoの場合には、ステップS38に進む。ステップS35の判断がYesの場合には、ステップS36において、計測されたレスポンス時間が、平均レスポンス時間以下であるか否かを判断する。これは、計測されたレスポンス時間が平均レスポンス時間以下となった場合には、高負荷状態を脱した状態であるものを判断するためである。
ステップS36の判断がNoの場合には、ステップS38に進む。ステップS36の判断がYesの場合には、ステップS37において、ロードバランサへ、現在処理対象のサーバを負荷分散処理対象に復帰するよう指示を出す。このとき、図9B(c)の平均レスポンス時間テーブルに示されるように、サーバSV01のロードバランサ振り分け識別子を「○」に再設定する。
そして、ステップS38において、平均レスポンス時間テーブルを閉じて、処理を終了する。
図10は、ロードバランサの負荷分散対象サーバの変更処理のフローである。
図10のサーバ振り分け対象テーブルは、図2の振り分けテーブル21のことである。
図10(a)のステップS40において、まず、サーバ振り分け対象テーブルを開く。現在の状態は、図10(b)のように、全てのサーバSV01〜SV03のロードバランサ(LB)振り分け識別子が「○」となっている。これは、図2の有効フラグが「有効」となっていることに対応し、全てのサーバSV01〜SV03が負荷分散処理の対象となっていることを示す。
ステップS41において、レスポンス計測装置からサーバの切り離し指示(負荷分散対象から除外する旨の指示)があるか否かを判断する。ステップS41の判断がYesの場合には、ステップS42において、サーバ振り分け対象テーブルを更新する。図10(c)の場合、サーバSV01に対し、切り離し指示が来ているとする。この場合、図10(c)に示されるように、サーバ振り分け対象テーブルのサーバSV01に対応するロードバランサ振り分け識別子に「×」が設定される。これは、図2における有効フラグが「無効」と設定されたことに対応し、サーバSV01が負荷分散対象から除外される。ステップS42の後に、ステップS45に進む。
ステップS41の判断がNoの場合には、ステップS43において、レスポンス計測装置からサーバの切り戻し指示(負荷分散対象に復帰させる指示)があるか否かを判断する。今、サーバ振り分け対象テーブルが図10(c)のようになっていたとする。ステップS43の判断がNoの場合には、サーバ振り分け対象テーブルには何もせずステップS45に進む。ステップS43の判断がYesの場合には、ステップS44において、サーバ振り分け対象テーブルを更新してステップS45に進む。今、切り戻し指示が、サーバSV01を負荷分散対象に復帰させることを指示しているとすると、図10(c)のサーバ振り分け対象テーブルにおいて、サーバSV01のロードバランサ振り分け識別子を更新する。サーバSV01を負荷分散対象に復帰させるので、ロードバランサ振り分け識別子を「×」から「○」に更新する。結果として、図10(d)のように、全てのサーバSV01〜SV03のロードバランサ振り分け識別子が「○」となり、負荷分散対象となる。
そして、ステップS45において、サーバ振り分け対象テーブルを閉じて、処理を終わる。
その後において、ロードバランサは、サーバ振り分け対象テーブルを参照し、ロードバランサ振り分け識別子が「○」となっているサーバのみの間で、例えば、ラウンドロビン方式により、クライアント端末からのリクエストを含むパケットを振り分けて転送する。
10 ロードバランサ
11 レスポンス計測装置
20 キャプチャデータデータベース
21 振分けテーブル
CL01〜CL03 クライアント端末
SV01〜SV03 サーバ
SW(1)、SW(2) スイッチ

Claims (7)

  1. 複数の端末からのリクエストを処理する複数のサーバに対する負荷を分散制御する負荷分散制御装置において、
    前記複数のサーバ毎に、前記端末からのリクエストに対する応答時間を計測し、該応答時間が第1の所定値より大きくなった場合に、該応答時間が第1の所定値より大きいサーバを負荷分散対象から除外するための除外指示を出力するレスポンス計測手段と、
    該レスポンス計測手段からの除外指示に従い、該除外指示に示されたサーバを負荷分散対象から除外し、その他のサーバに対し、該複数の端末からのリクエストを、サーバの負荷が分散するように転送する負荷分散手段と、
    を備えることを特徴とする負荷分散制御装置。
  2. 前記レスポンス計測手段は、
    負荷分散対象から除外されていたサーバの前記応答時間が、該第1の所定値以下の第2の所定値以下となった場合に、負荷分散対象から除外されていたサーバを、負荷分散対象に復帰させるべき旨の復帰指示を出力し、
    前記負荷分散手段は、
    該復帰指示に従い、負荷分散対象に復帰させるべき旨の指示が示すサーバを含めた複数のサーバに対し、前記複数の端末からのリクエストを、サーバの負荷が分散するように転送する、
    ことを特徴とする請求項1に記載の負荷分散制御装置。
  3. 前記負荷分散手段は、ラウンドロビン方式により、サーバへの負荷分散処理を行うことを特徴とする請求項1に記載の負荷分散制御装置。
  4. 前記負荷分散手段は、
    該負荷分散手段に接続されたサーバの識別子と、対応するサーバを負荷分散処理の対象とするか否かを示すフラグを登録したテーブルを有する、
    ことを特徴とする請求項1に記載の負荷分散制御装置。
  5. 前記第1の所定値は、過負荷となっていない時のサーバの平均応答時間に、予め与えられる値を加算した値であることを特徴とする請求項2に記載の負荷分散制御装置。
  6. 前記第2の所定値は、過負荷となっていない時のサーバの平均応答時間であることを特徴とする請求項2に記載の負荷分散制御装置。
  7. 複数の端末からのリクエストを処理する複数のサーバに対する負荷を分散制御する負荷分散制御方法であって、
    前記複数のサーバ毎に、前記端末からのリクエストに対する応答時間を計測し、該応答時間が第1の所定値より大きくなった場合に、該応答時間が第1の所定値より大きいサーバを負荷分散対象から除外するための除外指示を出力し、
    該除外指示に従い、該除外指示に示されたサーバを負荷分散対象から除外し、その他のサーバに対し、該複数の端末からのリクエストを、サーバの負荷が分散するように転送する、
    ことを特徴とする負荷分散制御方法。
JP2010061239A 2010-03-17 2010-03-17 負荷分散制御装置 Pending JP2011197796A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010061239A JP2011197796A (ja) 2010-03-17 2010-03-17 負荷分散制御装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010061239A JP2011197796A (ja) 2010-03-17 2010-03-17 負荷分散制御装置

Publications (1)

Publication Number Publication Date
JP2011197796A true JP2011197796A (ja) 2011-10-06

Family

ID=44875959

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010061239A Pending JP2011197796A (ja) 2010-03-17 2010-03-17 負荷分散制御装置

Country Status (1)

Country Link
JP (1) JP2011197796A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015001850A1 (ja) * 2013-07-03 2015-01-08 日本電気株式会社 タスク割り当て判定装置、制御方法、及びプログラム
JP2015121933A (ja) * 2013-12-24 2015-07-02 富士ゼロックス株式会社 セッション管理システム、動作モード管理装置、及びプログラム
US9609068B2 (en) 2013-12-16 2017-03-28 Fuji Xerox Co., Ltd. Session management system, session management apparatus, and non-transitory computer readable medium
US9967163B2 (en) 2013-04-16 2018-05-08 Hitachi, Ltd. Message system for avoiding processing-performance decline
JP2018195113A (ja) * 2017-05-18 2018-12-06 株式会社デンソーテン 管理サーバ、クラウドシステム、及び管理方法
JP2022547515A (ja) * 2019-09-06 2022-11-14 エバーシーン リミテッド 集中ビデオ処理のための分散コンピューティングシステム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003186776A (ja) * 2001-12-13 2003-07-04 Hitachi Ltd 輻輳制御システム
JP2009140150A (ja) * 2007-12-05 2009-06-25 Seiko Precision Inc 負荷分散装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003186776A (ja) * 2001-12-13 2003-07-04 Hitachi Ltd 輻輳制御システム
JP2009140150A (ja) * 2007-12-05 2009-06-25 Seiko Precision Inc 負荷分散装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9967163B2 (en) 2013-04-16 2018-05-08 Hitachi, Ltd. Message system for avoiding processing-performance decline
WO2015001850A1 (ja) * 2013-07-03 2015-01-08 日本電気株式会社 タスク割り当て判定装置、制御方法、及びプログラム
JPWO2015001850A1 (ja) * 2013-07-03 2017-02-23 日本電気株式会社 タスク割り当て判定装置、制御方法、及びプログラム
US9609068B2 (en) 2013-12-16 2017-03-28 Fuji Xerox Co., Ltd. Session management system, session management apparatus, and non-transitory computer readable medium
JP2015121933A (ja) * 2013-12-24 2015-07-02 富士ゼロックス株式会社 セッション管理システム、動作モード管理装置、及びプログラム
JP2018195113A (ja) * 2017-05-18 2018-12-06 株式会社デンソーテン 管理サーバ、クラウドシステム、及び管理方法
JP2022547515A (ja) * 2019-09-06 2022-11-14 エバーシーン リミテッド 集中ビデオ処理のための分散コンピューティングシステム
JP7238208B2 (ja) 2019-09-06 2023-03-13 エバーシーン リミテッド 集中ビデオ処理のための分散コンピューティングシステム

Similar Documents

Publication Publication Date Title
US10938941B2 (en) Proxy server failover and load clustering using hash value ranges and hash value calculations based on IP addresses
US9602591B2 (en) Managing TCP anycast requests
US8676980B2 (en) Distributed load balancer in a virtual machine environment
CN108769257B (zh) 一种服务器切换方法及装置
JP2011197796A (ja) 負荷分散制御装置
US11876716B2 (en) Systems and methods for adjusting a congestion window value of a content delivery network
JP2017507575A5 (ja)
US10952264B2 (en) Persistent distribution of connectionless traffic supporting virtual connection migration
JP6265427B2 (ja) ネットワーク機能の負荷分散システム及び方法
JP5870995B2 (ja) 通信システム、制御装置、計算機、ノードの制御方法およびプログラム
CN112217735A (zh) 信息同步方法与负载均衡***
JP2007324706A (ja) 映像配信品質測定システム、装置および方法
KR20150085464A (ko) 서버 연결 장치 및 방법
JP6348377B2 (ja) コンテンツ配信ネットワークの通信装置及びプログラム
JP6042205B2 (ja) 配信システム
CN111163005B (zh) 一种信息处理方法、装置、终端及存储介质
JP2011082868A (ja) 呼救済システム、呼救済サーバ、呼救済サーバの呼救済プログラム
KR101933175B1 (ko) 서버와 클라이언트간 통신을 중개하는 중개장치
JP5964789B2 (ja) 負荷分散システムおよびその方法
JP2013026728A (ja) データ配信システム
JP2010239529A (ja) 負荷分散システム及びコンピュータープログラム
JP2007265186A (ja) ストリーム配信装置
JP2014230130A (ja) ゲートウェイ、端末、通信システムおよびコネクション管理方法
JP2011193536A (ja) 映像配信品質測定システム、装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121010

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131008

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140514

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20140521

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20140613