JP2011197796A - 負荷分散制御装置 - Google Patents
負荷分散制御装置 Download PDFInfo
- Publication number
- JP2011197796A JP2011197796A JP2010061239A JP2010061239A JP2011197796A JP 2011197796 A JP2011197796 A JP 2011197796A JP 2010061239 A JP2010061239 A JP 2010061239A JP 2010061239 A JP2010061239 A JP 2010061239A JP 2011197796 A JP2011197796 A JP 2011197796A
- Authority
- JP
- Japan
- Prior art keywords
- server
- load
- response time
- servers
- load distribution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Computer And Data Communications (AREA)
Abstract
【解決手段】ロードバランサ10は、振り分けテーブル21に負荷分散対象として登録されたサーバに対し、入力パケットを、サーバにかかる負荷が均等になるように分配する。レスポンス計測装置11は、スイッチSW(2)を通過するサーバ宛のパケットと、サーバからの応答パケットの到着時刻から、応答時間を計測する。応答時間が所定値より大きいサーバがある場合には、このサーバは過負荷状態であると判断し、ロードバランサ10に対し、当該サーバを負荷分散対象から除外するように指示を出す。
【選択図】図2
Description
本発明の課題は、サーバの負荷分散を適切に行なうことのできる負荷分散装置を提供することである。
図1は、本実施形態の機器構成を示すブロック図である。
クライアント端末CL01〜CL03は、サーバSV01〜SV03に、データ処理のリクエスト(データ処理要求)を送信する。クライアント端末CL01〜CL03、サーバSV01〜SV03は、それぞれ3台ずつ図示されているが、これらの台数はそれぞれ任意の数(複数)でよい。クライアント端末CL01〜CL03から送信されるリクエストは、スイッチSW(1)において切り替え処理がなされる。異なる伝送路を伝搬してスイッチSW(1)に入力されたリクエストは、スイッチSW(1)において切り替え処理されることにより、1つの伝送路上に送出される。スイッチSW(1)から出力されたリクエストは、ロードバランサ10において、どのサーバSV01〜SV03に振り分けるかが決定される。振り分け先が決定されると、リクエストのデータパケットのヘッダの宛先アドレスが、振り分け先のサーバSV01〜SV03のものに書き換えられる。宛先アドレスの書き換え方法は、既存の方法を使用すればよい。
図2は、図1において、ロードバランサ10からサーバSV01〜SV03側の構成を示している。図1と同じ構成要素には、同じ参照符号を付し、説明を省略する。また、便宜のため、サーバは、サーバSV01〜SV03の3台だけ示している。
図3においては、クライアント端末CL(1)〜CL(3)からリクエストが送信され、ロードバランサがサーバSV(1)〜SV(3)に負荷分散処理を行なって、リクエストを分配する。スイッチ(1)、(2)は、それぞれ図1のスイッチSW(1)、SW(2)と同じである。
モニタリングしたキャプチャデータからレスポンス計測装置が、サーバSV(1)〜SV(3)で行われる通信を解析し、それぞれの通信応答時間を算出する。解析した通信応答時間の結果から、遅延の発生を検知する。
図4においては、レスポンス計測装置で応答遅延が検出されたサーバSV(1)を、負荷分散対象外とするように、レスポンス計測装置からロードバランサに指示が送られたところであり、ロードバランサにおいて、サーバSV(1)が負荷分散対象から除外されている。
図7は、全体処理のフローチャートである。図7の処理は、クライアント端末とサーバの間の通信の開始から終了まで繰り返して実行される。
図8(a)において、ステップS20では、レスポンス計測装置に格納されている平均レスポンス時間テーブルを開く。平均レスポンス時間テーブルは、図8(b)に示されている。図8(b)の平均レスポンス時間テーブルでは、サーバの識別子に対応して、平均レスポンス時間(平均応答時間)と、ロードバランサへの指示を出すための、ロードバランサ(LB)振り分け識別子が登録されている。ロードバランサ振り分け識別子は、対応するサーバの負荷状態が、高負荷状態か、適正状態かを格納するものであり、図2の振り分けテーブルの有効フラグに相当する。図8(b)の場合、「○」がロードバランサ振り分け識別子として登録されているサーバは、適正状態である。
ステップS23において、平均レスポンス時間テーブルを閉じて、処理を終了する。
なお、図8では、平均レスポンス時間(平均応答時間)を計測する場合を示しており、以下においても、この場合を仮定するが、平均レスポンス時間の代わりに、装置の設計者が、応答時間の適正値を予め設定しておいても良い。この場合には、図8(a)の平均レスポンス時間テーブルの更新は必要が無く、平均レスポンス時間テーブルの代わりに、応答時間の適正値を格納したテーブルを用意すればよい。
図9の処理は、全てのサーバについて繰り返し実行する。
ステップS30において、平均レスポンス時間テーブルを開く。ステップS31において、レスポンス計測装置において、通信パケットの応答時間を計測し、サーバごとに応答時間を計測する。ここで、図8のステップS21と図9A(a)のステップS31とでは、計測対象とするパケットは、同じものでも異なっても良い。同一のパケットについて計測した応答時間を用いて、平均値を更新し、更に、その値を平均値と比較するようにしても良い。
ステップS32において、レスポンス時間が、平均レスポンス時間に所定の時間(X秒)を加えた値より大きいか否かを判断する。この平均レスポンス時間に加えられる所定の時間は、サーバのレスポンス時間が適正であると判断する場合の幅を決定するものである。すなわち、平均レスポンス時間より、計測されたレスポンス時間が大きくても、高負荷状態になっているとは限らないため、より適正に高負荷状態を判断するためのものである。この所定の時間は、装置の設計者が予め適切に設定すべきものであるが、もちろん、0秒と設定しても良い。
そして、ステップS38において、平均レスポンス時間テーブルを閉じて、処理を終了する。
図10のサーバ振り分け対象テーブルは、図2の振り分けテーブル21のことである。
図10(a)のステップS40において、まず、サーバ振り分け対象テーブルを開く。現在の状態は、図10(b)のように、全てのサーバSV01〜SV03のロードバランサ(LB)振り分け識別子が「○」となっている。これは、図2の有効フラグが「有効」となっていることに対応し、全てのサーバSV01〜SV03が負荷分散処理の対象となっていることを示す。
その後において、ロードバランサは、サーバ振り分け対象テーブルを参照し、ロードバランサ振り分け識別子が「○」となっているサーバのみの間で、例えば、ラウンドロビン方式により、クライアント端末からのリクエストを含むパケットを振り分けて転送する。
11 レスポンス計測装置
20 キャプチャデータデータベース
21 振分けテーブル
CL01〜CL03 クライアント端末
SV01〜SV03 サーバ
SW(1)、SW(2) スイッチ
Claims (7)
- 複数の端末からのリクエストを処理する複数のサーバに対する負荷を分散制御する負荷分散制御装置において、
前記複数のサーバ毎に、前記端末からのリクエストに対する応答時間を計測し、該応答時間が第1の所定値より大きくなった場合に、該応答時間が第1の所定値より大きいサーバを負荷分散対象から除外するための除外指示を出力するレスポンス計測手段と、
該レスポンス計測手段からの除外指示に従い、該除外指示に示されたサーバを負荷分散対象から除外し、その他のサーバに対し、該複数の端末からのリクエストを、サーバの負荷が分散するように転送する負荷分散手段と、
を備えることを特徴とする負荷分散制御装置。 - 前記レスポンス計測手段は、
負荷分散対象から除外されていたサーバの前記応答時間が、該第1の所定値以下の第2の所定値以下となった場合に、負荷分散対象から除外されていたサーバを、負荷分散対象に復帰させるべき旨の復帰指示を出力し、
前記負荷分散手段は、
該復帰指示に従い、負荷分散対象に復帰させるべき旨の指示が示すサーバを含めた複数のサーバに対し、前記複数の端末からのリクエストを、サーバの負荷が分散するように転送する、
ことを特徴とする請求項1に記載の負荷分散制御装置。 - 前記負荷分散手段は、ラウンドロビン方式により、サーバへの負荷分散処理を行うことを特徴とする請求項1に記載の負荷分散制御装置。
- 前記負荷分散手段は、
該負荷分散手段に接続されたサーバの識別子と、対応するサーバを負荷分散処理の対象とするか否かを示すフラグを登録したテーブルを有する、
ことを特徴とする請求項1に記載の負荷分散制御装置。 - 前記第1の所定値は、過負荷となっていない時のサーバの平均応答時間に、予め与えられる値を加算した値であることを特徴とする請求項2に記載の負荷分散制御装置。
- 前記第2の所定値は、過負荷となっていない時のサーバの平均応答時間であることを特徴とする請求項2に記載の負荷分散制御装置。
- 複数の端末からのリクエストを処理する複数のサーバに対する負荷を分散制御する負荷分散制御方法であって、
前記複数のサーバ毎に、前記端末からのリクエストに対する応答時間を計測し、該応答時間が第1の所定値より大きくなった場合に、該応答時間が第1の所定値より大きいサーバを負荷分散対象から除外するための除外指示を出力し、
該除外指示に従い、該除外指示に示されたサーバを負荷分散対象から除外し、その他のサーバに対し、該複数の端末からのリクエストを、サーバの負荷が分散するように転送する、
ことを特徴とする負荷分散制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010061239A JP2011197796A (ja) | 2010-03-17 | 2010-03-17 | 負荷分散制御装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010061239A JP2011197796A (ja) | 2010-03-17 | 2010-03-17 | 負荷分散制御装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011197796A true JP2011197796A (ja) | 2011-10-06 |
Family
ID=44875959
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010061239A Pending JP2011197796A (ja) | 2010-03-17 | 2010-03-17 | 負荷分散制御装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011197796A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015001850A1 (ja) * | 2013-07-03 | 2015-01-08 | 日本電気株式会社 | タスク割り当て判定装置、制御方法、及びプログラム |
JP2015121933A (ja) * | 2013-12-24 | 2015-07-02 | 富士ゼロックス株式会社 | セッション管理システム、動作モード管理装置、及びプログラム |
US9609068B2 (en) | 2013-12-16 | 2017-03-28 | Fuji Xerox Co., Ltd. | Session management system, session management apparatus, and non-transitory computer readable medium |
US9967163B2 (en) | 2013-04-16 | 2018-05-08 | Hitachi, Ltd. | Message system for avoiding processing-performance decline |
JP2018195113A (ja) * | 2017-05-18 | 2018-12-06 | 株式会社デンソーテン | 管理サーバ、クラウドシステム、及び管理方法 |
JP2022547515A (ja) * | 2019-09-06 | 2022-11-14 | エバーシーン リミテッド | 集中ビデオ処理のための分散コンピューティングシステム |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003186776A (ja) * | 2001-12-13 | 2003-07-04 | Hitachi Ltd | 輻輳制御システム |
JP2009140150A (ja) * | 2007-12-05 | 2009-06-25 | Seiko Precision Inc | 負荷分散装置 |
-
2010
- 2010-03-17 JP JP2010061239A patent/JP2011197796A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003186776A (ja) * | 2001-12-13 | 2003-07-04 | Hitachi Ltd | 輻輳制御システム |
JP2009140150A (ja) * | 2007-12-05 | 2009-06-25 | Seiko Precision Inc | 負荷分散装置 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9967163B2 (en) | 2013-04-16 | 2018-05-08 | Hitachi, Ltd. | Message system for avoiding processing-performance decline |
WO2015001850A1 (ja) * | 2013-07-03 | 2015-01-08 | 日本電気株式会社 | タスク割り当て判定装置、制御方法、及びプログラム |
JPWO2015001850A1 (ja) * | 2013-07-03 | 2017-02-23 | 日本電気株式会社 | タスク割り当て判定装置、制御方法、及びプログラム |
US9609068B2 (en) | 2013-12-16 | 2017-03-28 | Fuji Xerox Co., Ltd. | Session management system, session management apparatus, and non-transitory computer readable medium |
JP2015121933A (ja) * | 2013-12-24 | 2015-07-02 | 富士ゼロックス株式会社 | セッション管理システム、動作モード管理装置、及びプログラム |
JP2018195113A (ja) * | 2017-05-18 | 2018-12-06 | 株式会社デンソーテン | 管理サーバ、クラウドシステム、及び管理方法 |
JP2022547515A (ja) * | 2019-09-06 | 2022-11-14 | エバーシーン リミテッド | 集中ビデオ処理のための分散コンピューティングシステム |
JP7238208B2 (ja) | 2019-09-06 | 2023-03-13 | エバーシーン リミテッド | 集中ビデオ処理のための分散コンピューティングシステム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10938941B2 (en) | Proxy server failover and load clustering using hash value ranges and hash value calculations based on IP addresses | |
US9602591B2 (en) | Managing TCP anycast requests | |
US8676980B2 (en) | Distributed load balancer in a virtual machine environment | |
CN108769257B (zh) | 一种服务器切换方法及装置 | |
JP2011197796A (ja) | 負荷分散制御装置 | |
US11876716B2 (en) | Systems and methods for adjusting a congestion window value of a content delivery network | |
JP2017507575A5 (ja) | ||
US10952264B2 (en) | Persistent distribution of connectionless traffic supporting virtual connection migration | |
JP6265427B2 (ja) | ネットワーク機能の負荷分散システム及び方法 | |
JP5870995B2 (ja) | 通信システム、制御装置、計算機、ノードの制御方法およびプログラム | |
CN112217735A (zh) | 信息同步方法与负载均衡*** | |
JP2007324706A (ja) | 映像配信品質測定システム、装置および方法 | |
KR20150085464A (ko) | 서버 연결 장치 및 방법 | |
JP6348377B2 (ja) | コンテンツ配信ネットワークの通信装置及びプログラム | |
JP6042205B2 (ja) | 配信システム | |
CN111163005B (zh) | 一种信息处理方法、装置、终端及存储介质 | |
JP2011082868A (ja) | 呼救済システム、呼救済サーバ、呼救済サーバの呼救済プログラム | |
KR101933175B1 (ko) | 서버와 클라이언트간 통신을 중개하는 중개장치 | |
JP5964789B2 (ja) | 負荷分散システムおよびその方法 | |
JP2013026728A (ja) | データ配信システム | |
JP2010239529A (ja) | 負荷分散システム及びコンピュータープログラム | |
JP2007265186A (ja) | ストリーム配信装置 | |
JP2014230130A (ja) | ゲートウェイ、端末、通信システムおよびコネクション管理方法 | |
JP2011193536A (ja) | 映像配信品質測定システム、装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20121010 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130930 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131008 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20140218 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140514 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20140521 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20140613 |