JP2012088797A - Server load distribution system - Google Patents

Server load distribution system Download PDF

Info

Publication number
JP2012088797A
JP2012088797A JP2010232915A JP2010232915A JP2012088797A JP 2012088797 A JP2012088797 A JP 2012088797A JP 2010232915 A JP2010232915 A JP 2010232915A JP 2010232915 A JP2010232915 A JP 2010232915A JP 2012088797 A JP2012088797 A JP 2012088797A
Authority
JP
Japan
Prior art keywords
load
server
threshold value
server device
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010232915A
Other languages
Japanese (ja)
Inventor
Osao Ogino
長生 荻野
Hajime Nakamura
中村　　元
Hideyuki Kogashira
秀行 小頭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2010232915A priority Critical patent/JP2012088797A/en
Publication of JP2012088797A publication Critical patent/JP2012088797A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide a server load distribution system capable of realizing stable load distribution and maintaining the service quality by suppressing a monitor information amount transmitted/received between a load distribution device and each server device and properly determining the load of each server device.SOLUTION: Each server device 1 comprises: a load detection unit 101 for detecting a server load; a load notification unit 102 for notifying a load distribution device 2 of a server load situation; and a threshold change unit 103 for changing thresholds Lref1 and Lref2 of load determination in response to a request from the load distribution device. The load distribution device 2 has: a load management table 201 for managing the load situation of each server device 1; a server selection unit 202 for transmitting a service request from a client to the server devices 1 with less load; and a load determination threshold change request unit 203 for requesting each server device to change the threshold according to proportion of the server devices with less load to all server device.

Description

本発明は、サーバ装置の負荷を分散するサーバ負荷分散方式に係り、特に、各サーバ装置と負荷分散装置との間で送受される監視情報量を抑制しながら、安定した負荷分散およびサービス品質の維持を実現できるサーバ負荷分散方式に関する。   The present invention relates to a server load distribution method for distributing a load on a server device, and in particular, stable load distribution and service quality while suppressing the amount of monitoring information transmitted and received between each server device and the load distribution device. The present invention relates to a server load balancing method that can realize maintenance.

Web閲覧やコンテンツ配信といったサービスにおいて、Webコンテンツや動画コンテンツを複数のサーバ装置に分散配置し、クライアントからのサービス要求を各サーバ装置に分散処理させる負荷分散処理が特許文献１に開示されている。このような負荷分散システムでは、クライアントからのサービス要求をどのサーバ装置へ転送して処理させるべきかを決定するためのサーバ負荷分散装置が必要になる。   In a service such as Web browsing or content distribution, Patent Document 1 discloses a load distribution process in which Web content and moving image content are distributed and arranged on a plurality of server devices, and service requests from clients are distributed to each server device. In such a load distribution system, a server load distribution device is required for determining which server device a service request from a client should be transferred to be processed.

特許文献２，３には、制御装置が各サーバ装置から負荷状態などの情報を受け取り、負荷が最小のサーバ装置にタスクを配分することでサーバ負荷を分散する技術が開示されている。特許文献４には、負荷分散装置が複数のサーバ装置にヘルスチェックフレームを送出し、これに対する応答時間が閾値以上のサーバ装置を過負荷と判定して通信先サーバの選択対象外とする技術が開示されている。   Patent Documents 2 and 3 disclose techniques in which a control device receives information such as a load state from each server device, and distributes the server load by distributing tasks to the server device having the smallest load. Patent Document 4 discloses a technology in which a load balancer sends a health check frame to a plurality of server devices, determines that a server device with a response time equal to or greater than a threshold is overloaded, and excludes the communication destination server from being selected. It is disclosed.

特開平９−２１８８４２号公報JP-A-9-218842 特開２００２−２７８９４５号公報JP 2002-278945 A 特開２０００−２００２５３号公報Japanese Patent Laid-Open No. 2000-200263 特開２００４−６２２４６号公報JP 2004-62246 A

特許文献４では、サーバ装置の負荷を検知するために負荷分散装置からヘルスチェックフレームが送出され、これを受信した各サーバ装置からは応答フレームが返信される。しかしながら、このようなヘルスチェックフレームの送信／応答に基づくサーバ負荷の検知方式では、サーバ負荷を速やかに検知しようとすればヘルスチェックフレームの送出周期を短くする必要があり、かつヘルスチェックフレームが送出されるごとに各サーバ装置からは応答フレームが返信されるので、負荷分散装置と各サーバ装置との間での送受される監視情報量が増えてしまう。また、特に過負荷状態のサーバ装置では、ヘルスチェックフレームに対する受信処理および応答処理により過負荷状態が更に増長されてしまう。   In Patent Literature 4, a health check frame is transmitted from a load distribution device in order to detect a load on a server device, and a response frame is returned from each server device that receives the health check frame. However, in such a server load detection method based on the transmission / response of a health check frame, if the server load is to be detected quickly, it is necessary to shorten the transmission cycle of the health check frame, and the health check frame is transmitted. Each time a response frame is returned from each server device, the amount of monitoring information transmitted and received between the load balancer and each server device increases. In particular, in a server device in an overload state, the overload state is further increased by reception processing and response processing for the health check frame.

さらに、負荷の低いサーバ装置のみにサービス要求を選択的に転送する負荷分散方式では、過負荷判定の閾値設定が難しく、過負荷判定の閾値を上げて過負荷判定されにくくすると、負荷の高いサーバ装置も負荷の低いサーバ装置も同等に扱われるので、サービス品質に低下やバラツキが生じうる。一方、過負荷判定の閾値を下げて負荷判定され易くすると、サービス品質の低下やバラツキは抑えられるものの、全てのサーバ装置が過負荷と判定されてサービス要求を転送できなくなってしまう事態が生じうる。   Furthermore, in the load distribution method that selectively transfers service requests only to a server device with a low load, it is difficult to set a threshold value for overload determination. Since both the device and the server device with a low load are treated equally, the service quality may be degraded or varied. On the other hand, if the overload determination threshold is lowered to facilitate load determination, it is possible to reduce service quality and variations, but it is possible that all server devices are determined to be overloaded and cannot transfer service requests. .

本発明の目的は、上記した従来技術の課題を解決し、負荷分散装置と各サーバ装置との間で送受される監視情報量を抑制し、かつ各サーバ装置の負荷判定を適正に行うことにより、安定した負荷分散およびサービス品質の維持を実現できるサーバ負荷分散方式を提供することにある。   The object of the present invention is to solve the above-described problems of the prior art, suppress the amount of monitoring information transmitted / received between the load balancer and each server device, and appropriately determine the load of each server device. Another object of the present invention is to provide a server load distribution method capable of realizing stable load distribution and maintenance of service quality.

上記の目的を達成するために、本発明は、サービス要求に応答してサービスを提供する複数のサーバ装置と、サービス要求をいずれかのサーバ装置へ転送する負荷分散装置とを備えた負荷分散方式において、以下のような手段を講じた点に特徴がある。   In order to achieve the above object, the present invention provides a load balancing method including a plurality of server devices that provide a service in response to a service request and a load balancer that transfers the service request to any one of the server devices. Is characterized by the following measures.

(1)各サーバ装置が、サーバ負荷を検知する手段と、サーバ負荷を閾値と比較し、比較結果を負荷分散装置へ通知する手段とを具備し、負荷分散装置が、各サーバ装置から通知される前記比較結果に基づいて各サーバ装置の負荷状況を管理する手段と、負荷の重くないサーバ装置を選択してサービス要求を転送する手段とを具備した。   (1) Each server device includes means for detecting the server load, and means for comparing the server load with a threshold value and notifying the result of the comparison to the load balancer. The load balancer is notified from each server device. Means for managing the load status of each server device based on the comparison result, and means for selecting a server device having a low load and transferring a service request.

(2)比較結果を負荷分散装置へ通知する手段は、サーバ負荷が第１の閾値を上回ったこと、およびサーバ負荷が当該第１の閾値よりも小さい第２の閾値を下回ったこと、をサーバ負荷分散手段へ通知するようにした。   (2) The means for notifying the load balancer of the comparison result indicates that the server load has exceeded the first threshold and that the server load has fallen below the second threshold smaller than the first threshold. Added notification to load balancing means.

(3)各サーバ装置の負荷状況を管理する手段は、サーバ負荷が第１の閾値を上回ったことを通知していないサーバ装置、およびサーバ負荷が第２の閾値を下回ったことを通知したサーバ装置を、負荷の重くないサーバ装置としてサービス要求を転送するようにした。   (3) The means for managing the load status of each server device includes a server device that has not notified that the server load has exceeded the first threshold value, and a server that has notified that the server load has fallen below the second threshold value. A service request is forwarded as a server device that is not heavily loaded.

(4)負荷分散装置は、負荷の重くないサーバ装置の割合を所定の目標値と比較し、この割合が目標値に近づくように各サーバ装置に対して閾値の変更を要求する閾値変更要求手段を具備し、各サーバ装置は、この閾値変更要求に応答して閾値を変更する閾値変更手段を具備した。   (4) The load balancer compares the ratio of server apparatuses with no heavy load with a predetermined target value, and requests threshold value change means for requesting each server apparatus to change the threshold so that the ratio approaches the target value. Each server device includes a threshold value changing unit that changes the threshold value in response to the threshold value change request.

本発明によれば、以下のような効果が達成される。   According to the present invention, the following effects are achieved.

(1)負荷分散装置は、サーバ装置の負荷が閾値を下回っている（または、上回っている）か否かのみを監視すれば良いので、各サーバ装置から負荷分散装置へ通知される監視情報量を減じることができる。   (1) Since the load balancer only needs to monitor whether the load on the server device is below (or above) the threshold, the amount of monitoring information notified from each server device to the load balancer Can be reduced.

(2)サーバ装置の負荷が重くなったと判定する第１の閾値と、サーバ装置の負荷が重くなくなったと判定する第２の閾値とを設け、第１の閾値を第２の閾値よりも高くしたので、サーバ負荷の判定が短時間で繰り返し変わる振動を防止できる。   (2) A first threshold value for determining that the load on the server device has become heavy and a second threshold value for determining that the load on the server device is no longer heavy are provided, and the first threshold value is set higher than the second threshold value. Therefore, it is possible to prevent vibrations in which the determination of the server load is repeatedly changed in a short time.

(3)サービス要求の転送先となる、負荷の軽いサーバ装置の数が減少すると、各サーバ装置の閾値が高くされるので、負荷が重くないと判定されるサーバ数が増加してサービス要求の転送先を確保できるようになる。   (3) If the number of lightly loaded server devices that are service request forwarding destinations decreases, the threshold value of each server device is increased, so the number of servers that are judged not to be heavy is increased and service request forwarding is increased. It will be possible to secure the future.

(4)サービス要求の転送先となる、負荷の軽いサーバ装置の数が増加すると、各サーバ装置の閾値が低くされるので、サービス要求の転送先が負荷のより軽いサーバ装置に絞り込まれてサービス品質が向上する。   (4) As the number of server devices with low load, which are service request transfer destinations, increases, the threshold value of each server device is lowered. Will improve.

本発明の負荷分散方式が適用される負荷分散システムの構成を示した機能ブロック図である。It is a functional block diagram showing the configuration of a load distribution system to which the load distribution method of the present invention is applied. 負荷分散装置の動作を示したフローチャートである。It is the flowchart which showed operation | movement of the load distribution apparatus. サーバ装置の動作を示したフローチャートである。It is the flowchart which showed operation | movement of the server apparatus. サーバ装置の負荷状況が負荷分散装置へ通知されるタイミングを示したタイムチャートである。It is a time chart which showed the timing when the load condition of a server apparatus is notified to a load distribution apparatus. サーバ装置の負荷判定閾値が変更（+ΔL）される様子を示したタイムチャートである。It is the time chart which showed a mode that the load determination threshold value of a server apparatus was changed (+ (DELTA) L). サーバ装置の負荷判定閾値が変更（-ΔL）される様子を示したタイムチャートである。It is the time chart which showed a mode that the load determination threshold value of a server apparatus was changed (-(DELTA) L).

以下、図面を参照して本発明の実施形態について詳細に説明する。図１は、本発明の負荷分散方式が適用される負荷分散システムの主要部の構成を示した機能ブロック図であり、サービス要求に応答して、認証サービス、Webサービスあるいはコンテンツ配信サービスなどの各種サービスを提供する複数のサーバ装置１（#1，#2…#N）と、サービス要求を負荷の低いサーバ装置１へ転送することでサーバ負荷を分散させる負荷分散装置２とを主要な構成としている。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 is a functional block diagram showing a configuration of a main part of a load distribution system to which the load distribution method of the present invention is applied. Various types of services such as an authentication service, a Web service, and a content distribution service are responded to a service request. A plurality of server apparatuses 1 (# 1, # 2,... #N) that provide services and a load distribution apparatus 2 that distributes server loads by transferring service requests to the server apparatus 1 with a low load are main components. Yes.

前記各サーバ装置１は実質的に同一の構成を有し、サーバ負荷Lserverを検知する負荷検知部１０１と、前記サーバ負荷Lserverを第１および第２の閾値Lref1，Lref2と比較し、この比較結果に基づいて、自身の負荷状況を負荷分散装置２へ通知する負荷通知部１０２と、負荷分散装置２からの要求に応答して前記第１および第２の閾値Lref1，Lref2を変更する閾値変更部１０３とを備える。   Each of the server devices 1 has substantially the same configuration, and compares the load detection unit 101 that detects the server load Lserver with the first and second thresholds Lref1 and Lref2, and the comparison result And a threshold value changing unit for changing the first and second threshold values Lref1 and Lref2 in response to a request from the load balancing device 2. 103.

前記第１の閾値Lref1は、サーバ負荷が重くなったか否かの判定基準に用いられ、前記第２の閾値Lref2は、サーバ負荷が重くなくなったか否かの判定基準に用いられる。本実施形態では、負荷判定が振動して動作が不安定となることを防止するために、第１の閾値Lref1は第２の閾値Lref2よりも高く設定されている。   The first threshold value Lref1 is used as a criterion for determining whether or not the server load is heavy, and the second threshold value Lref2 is used as a criterion for determining whether or not the server load is heavy. In the present embodiment, the first threshold Lref1 is set higher than the second threshold Lref2 in order to prevent the load determination from vibrating and the operation becoming unstable.

前記負荷分散装置２は、各サーバ装置１から通知される負荷状態を管理するサーバ負荷管理テーブル２０１と、受信したサービス要求を負荷の重くないサーバ装置へ転送するサーバ選択部２０２と、負荷の重くないサーバ装置の割合に応じて前記各サーバ装置１に前記第１および第２の閾値Lref1，Lref2の変更を要求する負荷判定閾値変更要求部２０３とを有する。本実施形態では、過負荷状態ではないサーバ装置１の識別子（ここでは、#i〜#j）が前記サーバ負荷管理テーブル２０１に登録される。   The load distribution apparatus 2 includes a server load management table 201 that manages the load state notified from each server apparatus 1, a server selection unit 202 that transfers a received service request to a server apparatus that does not have a heavy load, and a heavy load. A load determination threshold value change requesting unit 203 that requests each of the server devices 1 to change the first and second threshold values Lref1 and Lref2 in accordance with the ratio of server devices that are not present. In this embodiment, the identifiers (here, #i to #j) of the server device 1 that is not in an overload state are registered in the server load management table 201.

次いで、図２，３のフローチャートおよび図４，５，６のタイミングチャートを参照して本発明の一実施形態の動作を説明する。   Next, the operation of the embodiment of the present invention will be described with reference to the flowcharts of FIGS. 2 and 3 and the timing charts of FIGS.

図２は、負荷分散装置２の動作を示したフローチャートであり、ステップＳ１においてサービス要求が受信されるとステップＳ２へ進み、サーバ選択部２０２によりサーバ負荷管理テーブル２０１が参照されて過負荷状態ではないサーバ装置の一つがランダムに選択される。本実施形態では、負荷が重くないサーバ装置１として#i〜#jがサーバ負荷管理テーブル２０１に登録されているので、この中の一つがランダムに選択される。ステップＳ３では、前記選択されたサーバ装置へ前記サービス要求が転送される。   FIG. 2 is a flowchart showing the operation of the load distribution apparatus 2. When a service request is received in step S1, the process proceeds to step S2, and the server selection unit 202 is referred to by the server selection unit 202, and in an overload state. One of the non-server devices is selected at random. In the present embodiment, #i to #j are registered in the server load management table 201 as the server device 1 that is not heavily loaded, so one of them is selected at random. In step S3, the service request is transferred to the selected server device.

図３は、サーバ装置１の動作を示したフローチャートであり、所定の周期で繰り返し実行される。   FIG. 3 is a flowchart showing the operation of the server device 1 and is repeatedly executed at a predetermined cycle.

ステップＳ２１において、前記負荷分散装置１から転送されたサービス要求が受信されると、ステップＳ２２では、要求されたサービスを提供するサービス提供処理が実行される。ステップＳ２３，Ｓ２４の各処理については後述する。   In step S21, when the service request transferred from the load balancer 1 is received, in step S22, a service providing process for providing the requested service is executed. Each process of steps S23 and S24 will be described later.

ステップＳ２５では、前記負荷検知部１０１により自身のサーバ負荷Lserverが検知される。ステップＳ２６では、自身が前記負荷分散装置１のサーバ負荷管理テーブル２０１に、負荷が重くないサーバ装置として既登録であるか否かを示す既登録フラグFlightが参照される。フラグFlightがセット状態であれば、既登録と判定されるのでステップＳ２７へ進み、前記検知された現在のサーバ負荷Lserverが前記第１の閾値Lref1と比較される。図４の時刻t1以前であれば、Lserver≦Lref1なので当該処理を終了する。   In step S25, the load detection unit 101 detects its own server load Lserver. In step S <b> 26, the registered flag Flight indicating whether or not the server device is not registered as a server device with a light load is referenced in the server load management table 201 of the load balancer 1. If the flag Flight is in the set state, it is determined as already registered, and the process proceeds to step S27, where the detected current server load Lserver is compared with the first threshold Lref1. If it is before time t1 in FIG. 4, since Lserver ≦ Lref1, the processing is terminated.

これに対して、時刻t1でLserver＞Lref1となり、これがステップＳ２７で検知されるとステップＳ２８へ進む。ステップＳ２８では、負荷分散装置１に対してサーバ負荷Lserverが第１の閾値Lref1を上回った旨の通知（以下、過負荷通知と表現する場合もある）が送信される。ステップＳ２９では、前記既登録フラグFlightがリセットされる。したがって、これ以降は前記ステップＳ２６において、フラグFlightがリセット状態であって未登録と判定されるのでステップＳ３０へ進むことになる。   In contrast, Lserver> Lref1 at time t1, and if this is detected in step S27, the process proceeds to step S28. In step S28, a notification that the server load Lserver has exceeded the first threshold Lref1 is transmitted to the load balancer 1 (hereinafter also referred to as an overload notification). In step S29, the registered flag Flight is reset. Therefore, after that, in Step S26, it is determined that the flag Flight is in the reset state and is not registered, and thus the process proceeds to Step S30.

ステップＳ３０では、現在のサーバ負荷Lserverが前記第２の閾値Lref2と比較される。図４の時刻t1から時刻t2まではLserver≧Lref2と判定されるので当該処理を終了する。これに対して、サーバ負荷Lserverが徐々に解消され、時刻t2においてLserver＜Lref2となり、これがステップＳ３０で検知されるとステップＳ３１へ進む。ステップＳ３１では、負荷分散装置１に対してサーバ負荷Lserverが第２の閾値Lref1を下回った旨の通知（以下、過負荷解消通知と表現する場合もある）が送信される。ステップＳ３２では、前記既登録フラグFlightがセットされる。   In step S30, the current server load Lserver is compared with the second threshold Lref2. Since it is determined that Lserver ≧ Lref2 from time t1 to time t2 in FIG. 4, the processing ends. On the other hand, the server load Lserver is gradually eliminated, and at time t2, Lserver <Lref2 is established. When this is detected in step S30, the process proceeds to step S31. In step S31, a notification that the server load Lserver has fallen below the second threshold Lref1 is transmitted to the load balancer 1 (hereinafter also referred to as an overload cancellation notification). In step S32, the registered flag Flight is set.

図２のフローチャートへ戻り、負荷分散装置１では、前記サーバ装置１がステップＳ２８で送信した過負荷通知、またはステップＳ３１で送信した過負荷解消通知がステップＳ４で受信されるとステップＳ５へ進み、前記サーバ負荷管理テーブル２０１が更新される。すなわち、過負荷通知を送信したサーバ装置のエントリが削除され、過負荷解消通知を送信したサーバ装置のエントリが追加される。   Returning to the flowchart of FIG. 2, in the load balancer 1, when the overload notification transmitted by the server device 1 in step S28 or the overload elimination notification transmitted in step S31 is received in step S4, the process proceeds to step S5. The server load management table 201 is updated. That is, the entry of the server device that transmitted the overload notification is deleted, and the entry of the server device that transmitted the overload resolution notification is added.

また、ステップＳ６では、前記各サーバ装置１の第１および第２閾値Lref1，Lref2の変更条件が満足されているか否かが判定される。本実施形態では、全サーバ装置数に対する過負荷以外のサーバ装置数の割合が、所定の監視期間以上継続して基準割合Rrefを下回ると、各Lref1，Lref2をΔLだけ大きくする条件が満足されたと判定されてステップＳ７へ進む。ステップＳ７では、全てのサーバ装置１に対して閾値変更要求（+ΔL）が通知される。   In step S6, it is determined whether or not the conditions for changing the first and second thresholds Lref1 and Lref2 of each server device 1 are satisfied. In the present embodiment, when the ratio of the number of server devices other than overload to the total number of server devices continues below the reference ratio Rref for a predetermined monitoring period or more, the condition for increasing each Lref1, Lref2 by ΔL is satisfied. Determination is made and the process proceeds to step S7. In step S7, a threshold value change request (+ ΔL) is notified to all server devices 1.

これに対して、全サーバ装置数に対する過負荷以外のサーバ装置数の割合が、所定の監視期間以上継続して基準割合Rrefを上回ると、各Lref1，Lref2をΔLだけ小さくする条件が満足されたと判定されてステップＳ７へ進む。ステップＳ７では、全てのサーバ装置１に対して閾値変更要求（-ΔL）が通知される。   On the other hand, if the ratio of the number of server devices other than overload to the total number of server devices exceeds the reference ratio Rref continuously for a predetermined monitoring period, the condition for reducing each Lref1 and Lref2 by ΔL is satisfied. Determination is made and the process proceeds to step S7. In step S7, a threshold value change request (−ΔL) is notified to all the server devices 1.

図３へ戻り、サーバ装置１では、前記負荷分散装置１から送信された閾値変更要求がステップＳ２３で受信されるとステップＳ２４へ進み、第１および第２閾値Lref1，Lref2が要求内容に応じて変更される。この結果、変更要求（+ΔL）であれば、図５に一例を示したように、Lref1が高くなるので過負荷判定されにくくなると同時に、Lref2も高くなるので過負荷解消判定されやすくなる。その結果、負荷が重くないと判定されるサーバ数が増加し、全サーバ装置数に対する過負荷以外のサーバ装置数の割合が増えるので、サービス要求の転送先を確保できるようになる。   Returning to FIG. 3, when the threshold change request transmitted from the load balancer 1 is received in step S23, the server apparatus 1 proceeds to step S24, and the first and second thresholds Lref1 and Lref2 are set according to the request contents. Be changed. As a result, if it is a change request (+ ΔL), as shown in an example in FIG. 5, since Lref1 becomes high, it becomes difficult to make an overload determination. As a result, the number of servers determined that the load is not heavy increases, and the ratio of the number of server devices other than overload to the total number of server devices increases, so that it becomes possible to secure a transfer destination of service requests.

これに対して、変更要求（-ΔL）であれば、図６に一例を示したように、Lref1が低くなるので過負荷判定され易くなると同時に、Lref2も低くなるので過負荷解消判定されにくくなる。その結果、サービス要求の転送先が負荷のより軽いサーバ装置に絞り込まれるので、サービス品質を向上させることができる。   On the other hand, if it is a change request (−ΔL), as shown in an example in FIG. 6, Lref1 is low, so it is easy to determine overload. . As a result, since the transfer destination of service requests is narrowed down to server devices with a lighter load, service quality can be improved.

なお、上記の実施形態では、負荷分散装置１のサーバ負荷管理テーブル２０１には、負荷が重くないサーバ装置１の識別子が登録され、全サーバ装置数に対する負荷の重くない（過負荷以外の）サーバ装置数の割合が基準割合Rrefを上回ったか否かに応じて各サーバ装置１の閾値が変更されるものとして説明した。しかしながら、本発明はこれのみに限定されるものではなく、サーバ負荷管理テーブル２０１には、負荷が重いサーバ装置１の識別子を登録し、全サーバ装置数に対する負荷の重い（過負荷の）サーバ装置数の割合が基準割合Rrefを上回った（下回った）か否かに応じて各サーバ装置１の閾値が変更されるようにしても良い。   In the above-described embodiment, the server load management table 201 of the load balancer 1 registers the identifier of the server device 1 that is not heavily loaded, and the server is not heavily loaded (other than overload) with respect to the total number of server devices. It has been described that the threshold value of each server device 1 is changed depending on whether or not the ratio of the number of apparatuses exceeds the reference ratio Rref. However, the present invention is not limited to this, and the server load management table 201 registers the identifier of the server device 1 with a heavy load, and the server device with a heavy load (overload) with respect to the total number of server devices. The threshold value of each server device 1 may be changed depending on whether the number ratio exceeds (or falls below) the reference ratio Rref.

１…サーバ装置，２…負荷分散装置，１０１…負荷検知部，１０２…負荷通知部，１０３…閾値変更部，２０１…サーバ負荷管理テーブル，２０２…サーバ選択部，２０３…負荷判定閾値変更要求部   DESCRIPTION OF SYMBOLS 1 ... Server apparatus, 2 ... Load distribution apparatus, 101 ... Load detection part, 102 ... Load notification part, 103 ... Threshold change part, 201 ... Server load management table, 202 ... Server selection part, 203 ... Load judgment threshold change request part

Claims (6)

サービス要求に応答してサービスを提供する複数のサーバ装置と、
サービス要求をいずれかのサーバ装置へ転送する負荷分散装置とを具備し、
前記各サーバ装置が、
サーバ負荷を検知する手段と、
前記サーバ負荷を閾値と比較し、比較結果を負荷分散装置へ通知する手段とを具備し、
前記負荷分散装置が、
前記各サーバ装置から通知される前記比較結果に基づいて各サーバ装置の負荷状況を管理する手段と、
負荷の重くないサーバ装置を選択してサービス要求を転送する手段とを具備したことを特徴とするサーバ負荷分散方式。 A plurality of server devices that provide services in response to service requests;
A load balancer that transfers a service request to any server device,
Each of the server devices is
Means for detecting server load;
Means for comparing the server load with a threshold value and notifying a load balancer of the comparison result;
The load balancer is
Means for managing the load status of each server device based on the comparison result notified from each server device;
A server load distribution system comprising: means for selecting a server device having a low load and transferring a service request. 前記各サーバ装置において、前記比較結果を負荷分散装置へ通知する手段は、サーバ負荷が第１の閾値を上回ったこと、およびサーバ負荷が当該第１の閾値よりも小さい第２の閾値を下回ったこと、を前記負荷分散装置へ通知することを特徴とする請求項１に記載のサーバ負荷分散方式。   In each of the server devices, the means for notifying the load balancer of the comparison result indicates that the server load has exceeded the first threshold value, and the server load has fallen below the second threshold value that is smaller than the first threshold value. The server load distribution method according to claim 1, further comprising: 前記各サーバ装置において、前記負荷状況を管理する手段は、サーバ負荷が第１の閾値を上回ったことを通知していないサーバ装置、およびサーバ負荷が第２の閾値を下回ったことを通知したサーバ装置を、負荷の重くないサーバ装置として管理することを特徴とする請求項２に記載のサーバ負荷分散方式。   In each server apparatus, the means for managing the load status is a server apparatus that has not notified that the server load has exceeded the first threshold value, and a server that has notified that the server load has fallen below the second threshold value. 3. The server load distribution method according to claim 2, wherein the device is managed as a server device having a low load. 前記負荷分散装置は、前記負荷の重くないサーバ装置の割合を所定の目標値と比較し、前記割合が目標値に近づくように各サーバ装置に対して前記閾値の変更を要求する閾値変更要求手段を具備し、
前記各サーバ装置は、前記閾値変更要求に応答して前記閾値を変更する閾値変更手段を具備したことを特徴とする請求項１ないし３のいずれかに記載のサーバ負荷分散方式。 The load balancer compares the ratio of server apparatuses with a low load with a predetermined target value, and requests threshold change request means for requesting the server apparatus to change the threshold so that the ratio approaches the target value. Comprising
4. The server load distribution method according to claim 1, wherein each of the server devices includes a threshold value changing unit that changes the threshold value in response to the threshold value change request. 5. 前記閾値変更要求手段は、前記負荷の重くないサーバ装置の割合が所定の目標値を下回ると、各サーバ装置に対して前記閾値を高めることを要求することを特徴とする請求項４に記載のサーバ負荷分散方式。   The said threshold value change request means requests | requires raising the said threshold value with respect to each server apparatus, if the ratio of the server apparatus with which the said load is not heavy falls below a predetermined target value. Server load balancing method. 前記閾値変更要求手段は、前記負荷の重くないサーバ装置の割合が所定の目標値を上回ると、各サーバ装置に対して前記閾値を低めることを要求することを特徴とする請求項４に記載のサーバ負荷分散方式。   The said threshold value change request | requirement means requests | requires that the said threshold value is lowered | hung with respect to each server apparatus, if the ratio of the server apparatus with which the said load is not heavy exceeds a predetermined target value. Server load balancing method.
JP2010232915A 2010-10-15 2010-10-15 Server load distribution system Pending JP2012088797A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010232915A JP2012088797A (en) 2010-10-15 2010-10-15 Server load distribution system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010232915A JP2012088797A (en) 2010-10-15 2010-10-15 Server load distribution system

Publications (1)

Publication Number Publication Date
JP2012088797A true JP2012088797A (en) 2012-05-10

Family

ID=46260384

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010232915A Pending JP2012088797A (en) 2010-10-15 2010-10-15 Server load distribution system

Country Status (1)

Country Link
JP (1) JP2012088797A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015141337A1 (en) * 2014-03-19 2015-09-24 日本電気株式会社 Reception packet distribution method, queue selector, packet processing device, and recording medium
JP2016024790A (en) * 2014-07-24 2016-02-08 富士通フロンテック株式会社 Operation management server, operation program, and server operation method
US10635454B2 (en) 2015-02-03 2020-04-28 Alibaba Group Holding Limited Service management method and the device

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08153079A (en) * 1994-11-28 1996-06-11 Kofu Nippon Denki Kk Composite central processing unit system
JP2007219637A (en) * 2006-02-14 2007-08-30 Nippon Telegr & Teleph Corp <Ntt> Load balancing system and program therefor
JP2009176003A (en) * 2008-01-24 2009-08-06 Nec Corp Inquiry responding device, inquiry responding method and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08153079A (en) * 1994-11-28 1996-06-11 Kofu Nippon Denki Kk Composite central processing unit system
JP2007219637A (en) * 2006-02-14 2007-08-30 Nippon Telegr & Teleph Corp <Ntt> Load balancing system and program therefor
JP2009176003A (en) * 2008-01-24 2009-08-06 Nec Corp Inquiry responding device, inquiry responding method and program

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015141337A1 (en) * 2014-03-19 2015-09-24 日本電気株式会社 Reception packet distribution method, queue selector, packet processing device, and recording medium
JPWO2015141337A1 (en) * 2014-03-19 2017-04-06 日本電気株式会社 Received packet distribution method, queue selector, packet processing device, program, and network interface card
JP2016024790A (en) * 2014-07-24 2016-02-08 富士通フロンテック株式会社 Operation management server, operation program, and server operation method
US10635454B2 (en) 2015-02-03 2020-04-28 Alibaba Group Holding Limited Service management method and the device

Similar Documents

Publication Publication Date Title
US11418620B2 (en) Service request management
JP4529974B2 (en) Server load balancing system, server load balancing device, content management device, and server load balancing program
EP2883329B1 (en) Computer information system and dynamic disaster recovery method therefor
US9456056B2 (en) Load balancing utilizing adaptive thresholding
US20140280606A1 (en) Method and Apparatus for Content Management
JP4974888B2 (en) Distributed request routing
JP2003256310A (en) Server load decentralizing system, server load decentralizing apparatus, content management apparatus and server load decentralizing program
KR20150083713A (en) Electronic device and method for managing resource
US10630530B2 (en) Cache method, cache edge server, cache core server, and cache system
JP6211856B2 (en) User terminal, radio communication system, and communication control method
US11025710B1 (en) Systems and methods for dynamic load balancing based on server utilization and content popularity
CN106797330B (en) Method, Traffic Monitor (TM), Request Router (RR) and system for monitoring a Content Delivery Network (CDN)
CN105101456A (en) Internet of Things device trigger method, device and system
JP2012088797A (en) Server load distribution system
US20050138626A1 (en) Traffic control apparatus and service system using the same
Samouylov et al. Analytical Modelling And Simulation For Performance Evaluation Of SIP Server With Hysteretic Overload Control.
CN107547643B (en) Load sharing method and device
JP2011197796A (en) Load balancing control apparatus
JP2008059040A (en) Load control system and method
KR101924165B1 (en) Efficient Content Replacement Controller in Cooperative Caching Systems and method thereof
EP3068107B1 (en) Supplying data files to requesting stations
KR20030027485A (en) Method And Apparatus For Content Routing Of Content Level In The Content Delivery Network
JP6090471B2 (en) COMMUNICATION SYSTEM, COMMON SERVICE CONTROL DEVICE, DATA TRANSMISSION METHOD, AND PROGRAM
JP6102347B2 (en) Information device, printing system, computer program, and data transfer method
US20120254295A1 (en) Service request reception control method, apparatus, and system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130823

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140328

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140402

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140806