KR102295664B1 - 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법 - Google Patents

글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법 Download PDF

Info

Publication number
KR102295664B1
KR102295664B1 KR1020140142887A KR20140142887A KR102295664B1 KR 102295664 B1 KR102295664 B1 KR 102295664B1 KR 1020140142887 A KR1020140142887 A KR 1020140142887A KR 20140142887 A KR20140142887 A KR 20140142887A KR 102295664 B1 KR102295664 B1 KR 102295664B1
Authority
KR
South Korea
Prior art keywords
validity period
cache validity
load balancer
balancer device
global server
Prior art date
Application number
KR1020140142887A
Other languages
English (en)
Other versions
KR20160046667A (ko
Inventor
김성일
김성덕
김진엽
Original Assignee
삼성에스디에스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성에스디에스 주식회사 filed Critical 삼성에스디에스 주식회사
Priority to KR1020140142887A priority Critical patent/KR102295664B1/ko
Priority to PCT/KR2014/012986 priority patent/WO2016064030A1/ko
Priority to CN201410840298.7A priority patent/CN105812408A/zh
Priority to US14/587,999 priority patent/US9954941B2/en
Publication of KR20160046667A publication Critical patent/KR20160046667A/ko
Application granted granted Critical
Publication of KR102295664B1 publication Critical patent/KR102295664B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/101Server selection for load balancing based on network conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1031Controlling of the operation of servers by a load balancer, e.g. adding or removing servers that serve requests
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08Configuration management of networks or network elements
    • H04L41/0896Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/70Admission control; Resource allocation
    • H04L47/82Miscellaneous aspects
    • H04L47/822Collecting or measuring resource availability data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L61/00Network arrangements, protocols or services for addressing or naming
    • H04L61/45Network directories; Name-to-address mapping
    • H04L61/4505Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols
    • H04L61/4511Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols using domain name system [DNS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer And Data Communications (AREA)
  • Memory System Of A Hierarchy Structure (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법이 개시된다. 본 발명의 일 실시예에 따른 복수 개의 지역 서버 간의 로드 밸런싱을 수행하는 글로벌 서버 로드 밸런서 장치는, DNS 서버로부터 질의 메시지를 수신하는 DNS 질의 처리부; 상기 질의 메시지가 수신되는 경우, 상기 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 서버 선택부; 상기 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 부하량 계산부; 및 계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 TTL을 갱신하는 캐쉬 유효 기간 제어부를 포함한다.

Description

글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법{GLOBAL SERVER LOAD BALANCER APPARATUS AND METHOD FOR DYNAMICALLY CONTROLLING TIME-TO-LIVE}
본 발명의 실시예들은 글로벌 서버 로드 밸런서에서의 캐쉬 유효 기간(TTL; Time-To-Live) 제어 기술과 관련된다.
데이터센터의 지역적 장애 극복을 위한 재해 복구(DR; Disaster Recovery) 사이트 구축 및 전송 비용과 전송 속도 개선을 위한 콘텐츠 전송 네트워크(CDN; Contents Delivery Network) 서비스에서 글로벌 서버 로드 밸런서(GSLB; Global Server Load Balancer)는 필수적으로 사용되는 핵심 기술요소이다.
기존의 GSLB에서는 운영자가 캐쉬 유효 기간(TTL; Time-To-Live) 을 사전에 설정하는데, 이 경우 사이트의 장애가 발생하여 DNS 레코드를 변경하더라도 해당 변경이 최종 사용자에게까지 전파되기까지 최대 TTL 시간만큼의 딜레이가 발생하는 문제가 있다. 이를 해결하기 위해서는 TTL을 매우 작게 또는 아예 0으로 설정하는 방안을 고려할 수 있다. 그러나 이 경우 DNS 레코드의 변경 등에 대한 빠른 상황 전파는 가능하지만, 그와 비례해서 GSLB로 유입되는 요청 또한 많아지게 되어 극단적인 경우 GSLB가 응답 불능에 빠질 수도 있다. 따라서, GSLB의 안정성 및 서비스 품질 기준을 만족시키는 수준 내에서 TTL을 최적의 값으로 조절하기 위한 방안이 필요하게 되었다.
대한민국 공개특허공보 제10-2012-0063662호 (2012. 06. 18.)
본 발명의 실시예들은 글로벌 서버 로드 밸런서의 상태에 따라 글로벌 서버 로드 밸런서에서 설정되는 캐쉬 유효 기간의 크기를 동적으로 변경하기 위한 수단을 제공하기 위한 것이다.
예시적인 실시예에 따르면, 복수 개의 지역 서버 간의 로드 밸런싱을 수행하는 글로벌 서버 로드 밸런서 장치로서, 디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 DNS 질의 처리부; 상기 질의 메시지가 수신되는 경우, 상기 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 서버 선택부; 상기 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 부하량 계산부; 및 계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 캐쉬 유효 기간 제어부를 포함하며, 상기 DNS 질의 처리부는, 상기 서버 선택부에서 선택된 지역 서버 정보, 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는, 글로벌 서버 로드 밸런서 장치가 제공된다.
상기 글로벌 서버 로드 밸런서 장치의 상태 정보는, 상기 글로벌 서버 로드 밸런서 장치의 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 단위 시간당 DNS 질의 메시지 수신량 중 하나 이상을 포함할 수 있다.
상기 캐쉬 유효 기간 제어부는, 기 설정된 캐쉬 유효 기간의 최대값 및 최소값 사이의 범위에서 상기 캐쉬 유효 기간을 갱신하되, 상기 부하량이 임계값을 초과하는 경우 상기 캐쉬 유효 기간을 증가시키고, 상기 부하량이 임계값 이하인 경우 상기 캐쉬 유효 기간을 감소시킬 수 있다.
상기 캐쉬 유효 기간의 초기값은, 상기 캐쉬 유효 기간의 최대값으로 설정될 수 있다.
상기 캐쉬 유효 기간 제어부는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값을 초과하는 경우, 상기 캐쉬 유효 기간의 최대값, 또는 상기 최대값 및 직전 캐쉬 유효 기간의 중간값 중 작은 값으로 상기 캐쉬 유효 기간을 갱신할 수 있다.
상기 캐쉬 유효 기간 제어부는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값 이하인 경우, 상기 캐쉬 유효 기간의 최소값, 또는 직전 캐쉬 유효 기간에서 기 설정된 감소치를 뺀 값 중 큰 값을 상기 캐쉬 유효 기간으로 갱신할 수 있다.
다른 예시적인 실시예에 따르면, 복수 개의 지역 서버 간의 로드 밸런싱을 수행하는 글로벌 서버 로드 밸런서 장치에서 수행되는 캐쉬 유효 기간 제어 방법으로서, 디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 단계; 상기 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 단계; 상기 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 단계; 계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 단계; 및 선택된 지역 서버 정보 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는 단계를 포함하는 캐쉬 유효 기간 제어 방법이 제공된다.
상기 글로벌 서버 로드 밸런서 장치의 상태 정보는, 상기 글로벌 서버 로드 밸런서 장치의 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 단위 시간당 DNS 질의 메시지 수신량 중 하나 이상을 포함할 수 있다.
상기 캐쉬 유효 기간을 갱신하는 단계는, 기 설정된 캐쉬 유효 기간의 최대값 및 최소값 사이의 범위에서 상기 캐쉬 유효 기간을 갱신하되, 상기 부하량이 임계값을 초과하는 경우 상기 캐쉬 유효 기간을 증가시키고, 상기 부하량이 임계값 이하인 경우 상기 캐쉬 유효 기간을 감소시킬 수 있다.
상기 캐쉬 유효 기간의 초기값은, 상기 캐쉬 유효 기간의 최대값으로 설정될 수 있다.
상기 캐쉬 유효 기간을 갱신하는 단계는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값을 초과하는 경우, 상기 캐쉬 유효 기간의 최대값, 또는 상기 최대값 및 직전 캐쉬 유효 기간의 중간값 중 작은 값으로 상기 캐쉬 유효 기간을 갱신할 수 있다.
상기 캐쉬 유효 기간을 갱신하는 단계는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값 이하인 경우, 상기 캐쉬 유효 기간의 최소값, 또는 직전 캐쉬 유효 기간에서 기 설정된 감소치를 뺀 값 중 큰 값으로 상기 캐쉬 유효 기간을 갱신할 수 있다.
또 다른 예시적인 실시예에 따르면, 하드웨어와 결합되어, 디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 단계; 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 단계; 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 단계; 계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 단계; 및 선택된 지역 서버 정보 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는 단계를 포함하는 단계들을 실행시키기 위하여 기록매체에 저장된 컴퓨터 프로그램이 제공된다.
본 발명의 실시예들에 따르면, 글로벌 서버 로드 밸런서 장치의 부하에 따라 캐쉬 유효 기간의 크기를 동적으로 변경하여 줌으로써, 글로벌 서버 로드 밸런서 장치의 안정성 및 서비스 품질 기준을 만족시키는 수준 내에서 캐쉬 유효 기간을 최소화할 수 있다.
도 1은 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치를 포함하는 전체 웹 서비스 시스템을 설명하기 위한 블록도
도 2는 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치의 상세 구성을 설명하기 위한 블록도
도 3은 본 발명의 일 실시예에 따른 캐쉬 유효 기간 제어부에서의 캐쉬 유효 기간 제어 과정을 설명하기 위한 예시도
도 4는 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치에서의 동적 캐쉬 유효 기간 제어 방법을 설명하기 위한 흐름도
이하, 도면을 참조하여 본 발명의 구체적인 실시형태를 설명하기로 한다. 이하의 상세한 설명은 본 명세서에서 기술된 방법, 장치 및/또는 시스템에 대한 포괄적인 이해를 돕기 위해 제공된다. 그러나 이는 예시에 불과하며 본 발명은 이에 제한되지 않는다.
본 발명의 실시예들을 설명함에 있어서, 본 발명과 관련된 공지기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하기로 한다. 그리고, 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. 상세한 설명에서 사용되는 용어는 단지 본 발명의 실시예들을 기술하기 위한 것이며, 결코 제한적이어서는 안 된다. 명확하게 달리 사용되지 않는 한, 단수 형태의 표현은 복수 형태의 의미를 포함한다. 본 설명에서, "포함" 또는 "구비"와 같은 표현은 어떤 특성들, 숫자들, 단계들, 동작들, 요소들, 이들의 일부 또는 조합을 가리키기 위한 것이며, 기술된 것 이외에 하나 또는 그 이상의 다른 특성, 숫자, 단계, 동작, 요소, 이들의 일부 또는 조합의 존재 또는 가능성을 배제하도록 해석되어서는 안 된다.
도 1은 본 발명의 일 실시예에 따른 웹 서비스 시스템(100)을 설명하기 위한 블록도이다. 도 1을 참조하면, 본 발명의 일 실시예에 따른 웹 서비스 시스템(100)은 복수 개의 지역 서버(102-1, 102-2) 및 글로벌 서버 로드 밸런서 장치(104)를 포함한다.
지역 서버(102-1, 102-2)는 사용자 단말(106)로 웹 서비스를 제공하기 위한 서버들로서, 각각 동일한 콘텐츠를 포함하되 각각 서로 다른 지리적 위치에 존재하도록 구성될 수 있다. 예를 들어 지역 서버 1(102-1)은 아시아 지역에, 지역 서버 2(102-2)는 미주 지역에 존재할 수 있다. 도시된 실시예에서는 지역 서버가 2개 있는 것으로 도시되었으나, 지역 서버의 개수는 웹 서비스의 지역적 범위, 각 지역별 이용자 수 등을 고려하여 적절하게 설정될 수 있다.
일 실시예에서, 각 지역 서버(102-1, 102-2)는 각각 서로 다른 접속 주소를 가질 수 있다. 도시된 실시예의 경우 전체 웹 서비스를 대표하는 접속 주소(URL)은 www.mydomain.com, 지역 서버 1(102-1)의 접속 주소는 site1.mydomain.com, 지역 서버 2(102-2)의 접속 주소는 site2.mydomain.com으로 각각 설정될 수 있다.
글로벌 서버 로드 밸런서 장치(104)는 각 지역 서버(102-1, 102-2)와 연결되며, 각 지역 서버(102-1, 102-2) 간의 로드 밸런싱을 수행한다. 일 실시예에서, 글로벌 서버 로드 밸런서 장치(104)는 글로벌 서버 로드 밸런서 장치(104)는 도메인과 IP 주소에 대한 맵핑 정보가 등록된 권한(Authority) DNS 장치를 포함하는 개념일 수 있다.
글로벌 서버 로드 밸런서 장치(104)는 주기적으로 각 지역 서버(102-1, 102-2)로부터 상태 정보를 수집하여 저장한다. 상기 상태 정보는 각 지역 서버(102-1, 102-2)의 부하량(예를 들어, 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 접속된 사용자 수 등), 및 각 지역 서버(102-1, 102-2)의 장애 유무 등이 될 수 있다.
만약 사용자 단말(106)과 연결된 로컬 DNS 서버(108, Domain Name System) 서버로부터 DNS 질의가 수신되는 경우, 글로벌 서버 로드 밸런서 장치(104)는 수집된 각 지역 서버(102-1, 102-2)의 상태 정보 및 장애 유무, 로컬 DNS 서버(108)와 각 지역 서버(102-1, 102-2) 간의 지리적 거리, 로컬 DNS 서버(108)와 각 지역 서버(102-1, 102-2) 간의 네트워크 홉 카운트(network hop count) 및 웹 서비스(100)의 운영자가 사전에 설정한 정책 등을 고려하여 각 지역 서버(102-1, 102-2) 중 하나의 지역 서버를 선택하고, 선택된 지역 서버의 접속 정보(네트워크 주소)를 포함하는 DNS 응답을 로컬 DNS 서버(108)로 송신한다.
일 실시예에서, 글로벌 서버 로드 밸런서 장치(104)는 상기 DNS 응답에 상기 선택된 지역 서버의 접속 정보와 함께 캐쉬 유효 기간(TTL; Time-To-Live)을 함께 포함시켜 로컬 DNS 서버(108)로 송신한다. 상기 캐쉬 유효 기간은 로컬 DNS 서버(108) 및 사용자 단말(106)이 상기 지역 서버의 접속 정보를 캐쉬 메모리에 저장하는 기간을 의미한다. 예를 들어, 로컬 DNS 서버(108) 및 사용자 단말(106)은 상기 DNS 응답이 수신되는 경우 상기 지역 서버의 접속 정보를 상기 캐쉬 유효 기간 동안 캐쉬 메모리에 저장하며, 상기 캐쉬 유효 기간 내에 동일한 도메인(www.mydomain.com)에 대한 DNS 요청이 수신되는 경우에는 캐쉬 메모리에 저장된 결과를 이용하여 상기 DNS 요청에 응답하게 된다. 상기 캐쉬 유효 기간이 경과되면 상기 캐쉬 메모리에 저장된 상기 지역 서버의 접속 정보는 삭제되며, 이후의 DNS 요청은 처음과 마찬가지로 글로벌 서버 로드 밸런서 장치(104)에 의해 처리된다.
전술한 바와 같이, 로컬 DNS 서버(108)는 글로벌 서버 로드 밸런서 장치(104)로부터 캐쉬 유효 기간이 수신되는 경우, 해당 기간 내에는 글로벌 서버 로드 밸런서 장치(104)로 DNS 질의를 송신하지 않는다. 따라서 상기 캐쉬 유효 기간의 크기에 따라 글로벌 서버 로드 밸런서 장치(104)가 처리해야 할 DNS 질의의 양이 달라지게 된다. 예를 들어, 상기 캐쉬 유효 기간이 길어질수록 각 로컬 DNS 서버(108)에서 글로벌 서버 로드 밸런서 장치(104)로 송신되는 DNS 질의의 양은 감소한다. 그러나 캐쉬 유효 기간이 너무 길어지게 되면 각 지역 서버(102-1, 102-2)의 상태 변화를 글로벌 서버 로드 밸런서 장치(104)에서 즉각적으로 반영하는 것이 어려워지게 된다. 예를 들어, 로컬 DNS 서버(108)의 캐쉬 메모리에 캐쉬된 값이 지역 서버 1(102-1)의 접속 정보가 저장된 직후 지역 서버 1(102-1)에 장애가 발생한 경우에도 로컬 DNS 서버(108)는 캐쉬 유효 기간 내에는 여전히 캐쉬 메모리에 저장된 지역 서버 1(102-1)의 접속 정보를 사용자 단말(106)로 제공하게 되는 바, 그만큼 장애에 따른 접속 전환이 늦어지게 된다.
이와 반대로, 캐쉬 유효 기간이 작을수록 글로벌 서버 로드 밸런서 장치(104)는 각 지역 서버(102-1, 102-2)의 상태 변화를 즉각적으로 반영하여 각 지역 서버(102-1, 102-2) 간 로드 밸런싱을 수행할 수 있다. 앞의 예에서와 같이 지역 서버 1(102-1)에 장애가 발생한 경우, 글로벌 서버 로드 밸런서 장치(104)는 장애가 발생한 지역 서버 1(102-1)가 아닌 지역 서버 2(102-2)의 접속 정보를 제공함으로써 사용자 단말(106)의 접속을 지역 서버 2(102-2) 쪽으로 유도할 수 있다. 그러나 캐쉬 유효 기간이 지나치게 감소하게 되면 글로벌 서버 로드 밸런서 장치(104)로 유입되는 요청 자체가 많아지게 되는 바, 비정상적인 트래픽 증가(예를 들어, DOS 공격 등)에 전체 서비스가 중단되는 상황이 발생할 수 있다.
이에 따라 본 발명의 실시예들에서, 글로벌 서버 로드 밸런서 장치(104)는 자신의 부하 및 유입되는 DNS 질의의 양을 반영하여 캐쉬 유효 기간을 동적으로 조절함으로써, 글로벌 서버 로드 밸런서 장치(104)의 부하를 적절히 제어하는 동시에, 각 지역 서버(102-1, 102-2) 간 부하 분산을 효율적으로 수행하도록 구성된다.
다음으로, 사용자 단말(106)은 각 지역 서버(102-1, 102-2) 중 하나와 접속하여 웹 서비스를 제공받기 위한 장치이다. 사용자 단말(106)은 데스크탑 컴퓨터, 노트북 컴퓨터, 휴대폰, 태블릿 컴퓨터 등 네트워크 접속이 가능한 모든 종류의 사용자 기기를 포함할 수 있다.
일 실시예에서, 사용자 단말(106)은 로컬 DNS 서버(108)로 접속하고자 하는 웹 서비스의 도메인(예를 들어, www.mydomain.com)을 포함하는 DNS 질의를 송신한다. 그러면 로컬 DNS 서버(108)는 DNS 체계에 속한 DNS 서버군(110)을 통하여 수신된 도메인에 대응되는 글로벌 서버 로드 밸런서 장치(104)의 접속 주소를 알아내고, 이를 이용하여 글로벌 서버 로드 밸런서 장치(104)로 상기 도메인에 대응되는 접속 정보를 요청하게 된다. 그러면 글로벌 서버 로드 밸런서 장치(104)는 전술한 바와 같이 지역 서버(102-1, 102-2) 중 하나의 서버를 선택하고, 선택된 서버의 접속 정보 및 캐쉬 유효 기간을 로컬 DNS 서버(108)로 송신하며, 로컬 DNS 서버(108)는 수신된 정보를 포함하는 DNS 응답을 사용자 단말(106)에 제공한다. 이후, 사용자 단말(106)은 수신된 정보에 따라 지역 서버(102-1, 102-2) 중 하나에 접속하여 웹 서비스를 제공받게 된다.
도 2는 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치(104)의 상세 구성을 설명하기 위한 블록도이다. 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치(104)는 복수 개의 지역 서버 간의 로드 밸런싱을 수행하기 위한 장치로서, 도시된 바와 같이 DNS 질의 처리부(202), 서버 선택부(204), 부하량 계산부(206) 및 캐쉬 유효 기간 제어부(208)를 포함한다.
DNS 질의 처리부(202)는 로컬 DNS 서버(108)로부터 질의 메시지를 수신하고, 상기 질의 메시지에 대한 응답 메시지를 로컬 DNS 서버(108)로 송신한다. 이때 상기 응답 메시지에는 후술할 서버 선택부(204)에서 지역 서버의 접속 정보 및 캐쉬 유효 기간 제어부(208)에서 갱신된 캐쉬 유효 기간을 포함한다.
서버 선택부(204)는 상기 질의 메시지가 수신되는 경우, 글로벌 서버 로드 밸런서 장치(104)와 연결된 복수 개의 지역 서버(102-1, 102-2) 중 어느 하나의 지역 서버를 선택한다. 전술한 바와 같이, 서버 선택부(204)는 주기적으로 각 지역 서버(102-1, 102-2)의 상태 정보 및 장애 유무를 수집하고, 수집된 각 지역 서버(102-1, 102-2)의 상태 정보 및 장애 유무, 로컬 DNS 서버(108)와 각 지역 서버(102-1, 102-2) 간의 지리적 거리, 로컬 DNS 서버(108)와 각 지역 서버(102-1, 102-2) 간의 네트워크 홉 카운트(network hop count) 및 웹 서비스(100)의 운영자가 사전에 설정한 정책 등을 고려하여 각 지역 서버(102-1, 102-2) 중 하나의 지역 서버를 선택하도록 구성될 수 있다.
부하량 계산부(206)는 글로벌 서버 로드 밸런서 장치(104)의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 글로벌 서버 로드 밸런서 장치(104)의 부하량을 계산한다. 글로벌 서버 로드 밸런서 장치(104)의 상태 정보는 글로벌 서버 로드 밸런서 장치(104)의 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 단위 시간당 DNS 질의 메시지 수신량 등일 수 있다. 부하량 계산부(206)는 이와 같은 상태 정보를 하나 이상 반영하여 글로벌 서버 로드 밸런서 장치(104)의 부하량을 계산할 수 있다. 예를 들어, 부하량 계산부(206)는 각 상태 정보를 정규화하고, 기 설정된 가중치에 따라 결합함으로써 상기 부하량을 계산하도록 구성될 수 있다.
캐쉬 유효 기간 제어부(208)는 부하량 계산부(206)에서 계산된 부하량에 따라 글로벌 서버 로드 밸런서 장치(104)의 캐쉬 유효 기간을 갱신한다.
일 실시예에서, 캐쉬 유효 기간 제어부(208)는 캐쉬 유효 기간을 설정하고자 하는 도메인에 대하여 캐쉬 유효 기간의 최대값(TTLmax) 및 최소값(TTLmin)을 설정하고, 상기 최대값 및 최소값 사이의 범위에서 상기 캐쉬 유효 기간을 갱신할 수 있다. 예를 들어, 캐쉬 유효 기간 제어부(208)는 글로벌 서버 로드 밸런서 장치(104)의 최초 기동시 TTLmax를 캐쉬 유효 기간의 초기값으로 설정할 수 있다. 즉, 글로벌 서버 로드 밸런서 장치(104)의 기동 이후 최초로 수신되는 DNS 질의에 대해서는 TTLmax로 응답을 시작하며, 이후 글로벌 서버 로드 밸런서 장치(104)의 상태에 따라 캐쉬 유효 기간을 가감하게 된다. 구체적으로 캐쉬 유효 기간 제어부(208)는 글로벌 서버 로드 밸런서 장치(104)의 부하량이 기 설정된 임계값을 초과하는 경우 캐쉬 유효 기간을 증가시키고, 상기 부하량이 임계값 이하인 경우 캐쉬 유효 기간을 감소시킬 수 있다.
일 실시예에서, 캐쉬 유효 기간의 감소는 선형적으로(linearly) 이루어질 수 있다. 예를 들어, 캐쉬 유효 기간 제어부(208)는 DNS 질의 처리부(202)에서의 질의 메시지 수신 시 상기 부하량이 상기 임계값 이하인 경우,
1) 캐쉬 유효 기간의 최소값(TTLmin), 또는
2) 가장 최근에 업데이트된 캐쉬 유효 기간(TTLcurrent)에서 기 설정된 감소치를 뺀 값
중 큰 값으로 상기 캐쉬 유효 기간을 갱신할 수 있다. 이를 수식으로 나타내면 다음의 수학식 1과 같다.
[수학식 1]
Figure 112014100600950-pat00001
(이때, k는 캐쉬 유효 기간의 감소치)
이와 반대로, 캐쉬 유효 기간의 증가는 지수함수적으로 이루어질 수 있다(exponential backoff). 예를 들어, 캐쉬 유효 기간 제어부(208)는 DNS 질의 처리부(202)에서의 질의 메시지 수신 시 부하량 계산부(206)에서 계산한 부하량이 임계값을 초과하는 경우,
1) 캐쉬 유효 기간의 최대값(TTLmax), 또는
2) TTLmax 및 가장 최근에 업데이트된 캐쉬 유효 기간(TTLcurrent)의 중간값
중 작은 값으로 캐쉬 유효 기간을 갱신할 수 있다. 이와 같이 캐쉬 유효 기간의 감소율을 선형적으로 설정하는 반면, 증가율을 지수함수적으로 설정하는 이유는 캐쉬 유효 기간이 증가하는 경우는 글로벌 서버 로드 밸런서 장치(104)의 부하량이 임계치를 초과하는 경우인 바, 이를 빠르게 해소하여 글로벌 서버 로드 밸런서 장치(104)의 장애 발생 전에 이를 안정시킬 필요가 있기 때문이다.
상기 조건을 수식으로 나타내면 다음의 수학식 2와 같다.
[수학식 2]
Figure 112014100600950-pat00002

만약 실시예에 따라 캐쉬 유효 기간으로 정수값만이 허용될 경우, 캐쉬 유효 기간 제어부(208)는 상기 수학식 2에 의하여 계산된 캐쉬 유효 기간에서 소수점 이하 부분을 올리거나 내림으로써 캐쉬 유효 기간을 정수값으로 설정할 수 있다.
이와 같이, 본 발명에서 글로벌 서버 로드 밸런서 장치(104)는 항상 고정된 캐쉬 유효 기간으로 응답하는 것이 아니라 글로벌 서버 로드 밸런서 장치(104)의 상태에 따라 TTLmin과 TTLmax 사이의 값으로 응답하게 되며, 이에 따라, 서비스 장애 등으로 갑작스런 사이트 전환을 할 경우 종래기술과 대비하여 장애를 겪는 최종 사용자 수를 효과적으로 줄임과 동시에 글로벌 서버 로드 밸런서 장치(104)의 부하를 적정 수준으로 유지할 수 있다.
도 3은 본 발명의 일 실시예에 따른 캐쉬 유효 기간 제어부(208)에서의 캐쉬 유효 기간 제어 과정을 설명하기 위한 예시도이다. 도면에서 위의 그래프는 글로벌 서버 로드 밸런서 장치(104)의 가동 시점(t1)부터 계산된 글로벌 서버 로드 밸런서 장치(104)의 부하량의 변화를 나타낸 것이고, 아래의 그래프는 상기 부하량의 변화에 따른 캐쉬 유효 기간의 증감을 나타낸 것이다. 도시된 실시예에서는 중앙처리장치 사용률을 이용하여 부하량을 계산하였다.
먼저, 글로벌 서버 로드 밸런서 장치(104)의 가동 시점인 t1에서 캐쉬 유효 기간은 최대값(TTLmax)로 설정된다. 이후 t2까지의 구간에서는 글로벌 서버 로드 밸런서 장치(104)의 부하량이 임계값 이내이므로 캐쉬 유효 기간은 선형적으로 감소하여 t2 내지 t3 사이의 구간에서는 최소값(TTLmin)을 유지한다.
다음으로, t3 내지 t4 사이의 구간에서는 글로벌 서버 로드 밸런서 장치(104)의 부하량이 임계값을 초과하는 경우인 바, 캐쉬 유효 기간 제어부(208)는 캐쉬 유효 기간을 지수함수적으로 증가시킨다. 이후, t4 이후의 구간에서는 글로벌 서버 로드 밸런서 장치(104)의 부하량이 임계값 이내이므로 캐쉬 유효 기간은 다시 선형적으로 감소하게 된다.
도 4은 본 발명의 일 실시예에 따른 글로벌 서버 로드 밸런서 장치(104)에서의 동적 캐쉬 유효 기간 제어 방법(400)을 설명하기 위한 흐름도이다.
단계 402에서, DNS 질의 처리부(202)는 로컬 DNS 서버(108)로부터 질의 메시지를 수신한다.
단계 404에서, 부하량 계산부(206)는 글로벌 서버 로드 밸런서 장치(104)의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 글로벌 서버 로드 밸런서 장치(104)의 부하량을 계산한다.
단계 406에서, 캐쉬 유효 기간 제어부(208)는 계산된 부하량과 임계값을 비교하여 부하량이 임계값 이내인지의 여부를 판단한다.
만약 상기 406 단계의 판단 결과 부하량이 임계값 이내인 경우, 단계 408에서 캐쉬 유효 기간 제어부(208)는 기 설정된 최소값을 넘어서지 않는 범위 내에서 상기 캐쉬 유효 기간을 감소시킨다.
그러나, 이와 달리 만약 상기 406 단계의 판단 결과 부하량이 임계값을 초과하는 경우, 단계 410에서 캐쉬 유효 기간 제어부(208)는 기 설정된 최대값을 넘어서지 않는 범위 내에서 상기 캐쉬 유효 기간을 증가시킨다. 상기 캐쉬 유효 기간의 감소 및 증가와 관련된 구체적인 사항은 전술하였다.
단계 412에서, 서버 선택부(204)는 복수 개의 지역 서버(102-1, 102-2) 중 어느 하나의 지역 서버를 선택한다.
단계 414에서, DNS 질의 처리부(202)는 선택된 지역 서버 정보 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 로컬 DNS 서버(108)로 송신한다.
한편, 본 발명의 실시예는 본 명세서에서 기술한 방법들을 컴퓨터상에서 수행하기 위한 프로그램을 포함하는 컴퓨터 판독 가능 기록매체를 포함할 수 있다. 상기 컴퓨터 판독 가능 기록매체는 프로그램 명령, 로컬 데이터 파일, 로컬 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나, 또는 컴퓨터 소프트웨어 분야에서 통상적으로 사용 가능한 것일 수 있다. 컴퓨터 판독 가능 기록매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광 기록 매체, 플로피 디스크와 같은 자기-광 매체, 및 롬, 램, 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다.
이상에서 본 발명의 대표적인 실시예들을 상세하게 설명하였으나, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 상술한 실시예에 대하여 본 발명의 범주에서 벗어나지 않는 한도 내에서 다양한 변형이 가능함을 이해할 것이다. 그러므로 본 발명의 권리범위는 설명된 실시예에 국한되어 정해져서는 안 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.
102-1, 102-2: 지역 서버
104: 글로벌 서버 로드 밸런서 장치
106: 사용자 단말
108: 로컬 DNS 서버
110: DNS 서버군
202: DNS 질의 처리부
204: 서버 선택부
206: 부하량 계산부
208: 캐쉬 유효 기간 제어부

Claims (13)

  1. 복수 개의 지역 서버 간의 로드 밸런싱을 수행하는 글로벌 서버 로드 밸런서 장치로서,
    디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 DNS 질의 처리부;
    상기 질의 메시지가 수신되는 경우, 상기 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 서버 선택부;
    상기 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 부하량 계산부; 및
    계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 캐쉬 유효 기간 제어부를 포함하며,
    상기 DNS 질의 처리부는, 상기 서버 선택부에서 선택된 지역 서버 정보, 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는, 글로벌 서버 로드 밸런서 장치.
  2. 청구항 1에 있어서,
    상기 글로벌 서버 로드 밸런서 장치의 상태 정보는, 상기 글로벌 서버 로드 밸런서 장치의 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 단위 시간당 DNS 질의 메시지 수신량 중 하나 이상을 포함하는, 글로벌 서버 로드 밸런서 장치.
  3. 청구항 1에 있어서,
    상기 캐쉬 유효 기간 제어부는, 기 설정된 캐쉬 유효 기간의 최대값 및 최소값 사이의 범위에서 상기 캐쉬 유효 기간을 갱신하되,
    상기 부하량이 임계값을 초과하는 경우 상기 캐쉬 유효 기간을 증가시키고, 상기 부하량이 임계값 이하인 경우 상기 캐쉬 유효 기간을 감소시키는, 글로벌 서버 로드 밸런서 장치.
  4. 청구항 3에 있어서,
    상기 캐쉬 유효 기간의 초기값은, 상기 캐쉬 유효 기간의 최대값으로 설정되는, 글로벌 서버 로드 밸런서 장치.
  5. 청구항 3에 있어서,
    상기 캐쉬 유효 기간 제어부는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값을 초과하는 경우,
    상기 캐쉬 유효 기간의 최대값, 또는
    상기 최대값 및 직전 캐쉬 유효 기간의 중간값
    중 작은 값으로 상기 캐쉬 유효 기간을 갱신하는, 글로벌 서버 로드 밸런서 장치.
  6. 청구항 3에 있어서,
    상기 캐쉬 유효 기간 제어부는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값 이하인 경우,
    상기 캐쉬 유효 기간의 최소값, 또는
    직전 캐쉬 유효 기간에서 기 설정된 감소치를 뺀 값
    중 큰 값으로 상기 캐쉬 유효 기간을 갱신하는, 글로벌 서버 로드 밸런서 장치.
  7. 복수 개의 지역 서버 간의 로드 밸런싱을 수행하는 글로벌 서버 로드 밸런서 장치에서 수행되는 캐쉬 유효 기간 제어 방법으로서,
    디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 단계;
    상기 복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 단계;
    상기 글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 단계;
    계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 단계; 및
    선택된 지역 서버 정보 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는 단계를 포함하는 캐쉬 유효 기간 제어 방법.
  8. 청구항 7에 있어서,
    상기 글로벌 서버 로드 밸런서 장치의 상태 정보는, 상기 글로벌 서버 로드 밸런서 장치의 중앙처리장치 사용률, 메모리 사용률, 보조기억장치 입출력량(I/O), 네트워크 입출력량(I/O) 및 단위 시간당 DNS 질의 메시지 수신량 중 하나 이상을 포함하는, 캐쉬 유효 기간 제어 방법.
  9. 청구항 7에 있어서,
    상기 캐쉬 유효 기간을 갱신하는 단계는, 기 설정된 캐쉬 유효 기간의 최대값 및 최소값 사이의 범위에서 상기 캐쉬 유효 기간을 갱신하되,
    상기 부하량이 임계값을 초과하는 경우 상기 캐쉬 유효 기간을 증가시키고, 상기 부하량이 임계값 이하인 경우 상기 캐쉬 유효 기간을 감소시키는, 캐쉬 유효 기간 제어 방법.
  10. 청구항 9에 있어서,
    상기 캐쉬 유효 기간의 초기값은, 상기 캐쉬 유효 기간의 최대값으로 설정되는, 캐쉬 유효 기간 제어 방법.
  11. 청구항 9에 있어서,
    상기 캐쉬 유효 기간을 갱신하는 단계는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값을 초과하는 경우,
    상기 캐쉬 유효 기간의 최대값, 또는
    상기 최대값 및 직전 캐쉬 유효 기간의 중간값
    중 작은 값으로 상기 캐쉬 유효 기간을 갱신하는, 캐쉬 유효 기간 제어 방법.
  12. 청구항 9에 있어서,
    상기 캐쉬 유효 기간을 갱신하는 단계는, 상기 질의 메시지 수신 시 상기 부하량이 상기 임계값 이하인 경우,
    상기 캐쉬 유효 기간의 최소값, 또는
    직전 캐쉬 유효 기간에서 기 설정된 감소치를 뺀 값
    중 큰 값으로 상기 캐쉬 유효 기간을 갱신하는, 캐쉬 유효 기간 제어 방법.
  13. 하드웨어와 결합되어,
    디엔에스(DNS; Domain Name System) 서버로부터 질의 메시지를 수신하는 단계;
    복수 개의 지역 서버 중 어느 하나의 지역 서버를 선택하는 단계;
    글로벌 서버 로드 밸런서 장치의 상태 정보를 수집하고, 수집된 상기 상태 정보로부터 상기 글로벌 서버 로드 밸런서 장치의 부하량을 계산하는 단계;
    계산된 상기 부하량에 따라 상기 글로벌 서버 로드 밸런서 장치의 캐쉬 유효 기간(TTL; Time-To-Live)을 갱신하는 단계; 및
    선택된 지역 서버 정보 및 갱신된 캐쉬 유효 기간을 포함하는 응답 메시지를 상기 DNS 서버로 송신하는 단계를 포함하는 단계들을 실행시키기 위하여 기록매체에 저장된 컴퓨터 프로그램.
KR1020140142887A 2014-10-21 2014-10-21 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법 KR102295664B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020140142887A KR102295664B1 (ko) 2014-10-21 2014-10-21 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법
PCT/KR2014/012986 WO2016064030A1 (ko) 2014-10-21 2014-12-29 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법
CN201410840298.7A CN105812408A (zh) 2014-10-21 2014-12-30 全局服务器负载均衡装置及其高速缓存有效期控制方法
US14/587,999 US9954941B2 (en) 2014-10-21 2014-12-31 Global server load balancer apparatus and method for dynamically controlling time-to-live

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140142887A KR102295664B1 (ko) 2014-10-21 2014-10-21 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법

Publications (2)

Publication Number Publication Date
KR20160046667A KR20160046667A (ko) 2016-04-29
KR102295664B1 true KR102295664B1 (ko) 2021-08-27

Family

ID=55750025

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140142887A KR102295664B1 (ko) 2014-10-21 2014-10-21 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법

Country Status (4)

Country Link
US (1) US9954941B2 (ko)
KR (1) KR102295664B1 (ko)
CN (1) CN105812408A (ko)
WO (1) WO2016064030A1 (ko)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016048498A (ja) * 2014-08-28 2016-04-07 富士通株式会社 キャッシュ制御装置およびキャッシュ制御方法
US10044629B1 (en) * 2014-09-22 2018-08-07 Amazon Technologies, Inc. Dynamic TTL based on endpoint health checking
US10735461B2 (en) * 2015-10-21 2020-08-04 Verisign, Inc. Method for minimizing the risk and exposure duration of improper or hijacked DNS records
KR101727059B1 (ko) * 2016-08-17 2017-04-14 맹상영 복수개의 서버를 선택적으로 이용하는 클라우드 콘솔 제공 시스템 및 제공 방법
US10728206B2 (en) 2017-03-22 2020-07-28 Citrix Systems, Inc. Method for DNS response reordering based on path quality and connection priority for better QOS
US11165868B2 (en) * 2017-03-30 2021-11-02 Microsoft Technology Licensing, Llc Systems and methods for achieving session stickiness for stateful cloud services with non-sticky load balancers
CN107172126A (zh) * 2017-04-21 2017-09-15 华为技术有限公司 一种域名***服务器分配方法及服务器
CN108134817B (zh) * 2017-11-30 2019-04-05 北京白山耘科技有限公司 一种自动调整缓存时长的方法及装置
US10554562B2 (en) 2017-12-22 2020-02-04 International Business Machines Corporation Streaming network
JP6597823B2 (ja) 2018-03-23 2019-10-30 日本電気株式会社 ロードバランシング装置、通信システム、制御方法及びプログラム
CN108366133B (zh) * 2018-03-28 2022-02-22 深圳市网心科技有限公司 一种ts服务器调度方法、调度设备及存储介质
US10778757B1 (en) 2018-06-18 2020-09-15 Amazon Technologies, Inc. Load balancing traffic via dynamic DNS record TTLs
CN109347944A (zh) * 2018-10-11 2019-02-15 郑州云海信息技术有限公司 一种域名解析方法及装置
CN111181868B (zh) * 2019-12-30 2023-06-16 深圳网基科技有限公司 基于域名热度的缓存ttl动态变更方法和***
CN112202688A (zh) * 2020-09-22 2021-01-08 临沂大学 一种适用于云数据中心网络的数据疏散方法及***
KR20220089532A (ko) 2020-12-21 2022-06-28 한국전자통신연구원 강화 학습을 이용한 ttl 기반 캐쉬 관리 방법 및 장치
US11870828B2 (en) 2021-09-30 2024-01-09 17Live Japan Inc. System, method and computer-readable medium for rendering a streaming
JP7426020B2 (ja) * 2021-09-30 2024-02-01 17Live株式会社 キャッシュttlを決定するためのシステム、方法、及びコンピュータ可読媒体
KR102634218B1 (ko) * 2022-12-30 2024-02-06 주식회사 에스티씨랩 디지털 서비스 기반의 리소스 최적화를 위한 트랜잭션관리 서버 및 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080276002A1 (en) * 2007-05-01 2008-11-06 Yahoo! Inc. Traffic routing based on client intelligence
US20100082787A1 (en) * 2000-09-26 2010-04-01 Foundry Networks, Inc. Global server load balancing
WO2012086919A2 (ko) * 2010-12-24 2012-06-28 (주)케이티 복수 개의 프락시 서버를 포함하는 분산 저장 시스템 및 그 오브젝트 관리 방법 및 컴퓨터에 의하여 독출가능한 저장 매체

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6330231B1 (en) * 1995-10-16 2001-12-11 Nec Corporation Dynamic server allocation for load balancing wireless remote interface processing
US9130954B2 (en) * 2000-09-26 2015-09-08 Brocade Communications Systems, Inc. Distributed health check for global server load balancing
US20020087722A1 (en) * 2000-12-29 2002-07-04 Ragula Systems D/B/A/ Fatpipe Networks Domain name resolution making IP address selections in response to connection status when multiple connections are present
US7086061B1 (en) * 2002-08-01 2006-08-01 Foundry Networks, Inc. Statistical tracking of global server load balancing for selecting the best network address from ordered list of network addresses based on a set of performance metrics
US7552237B2 (en) * 2002-10-17 2009-06-23 International Business Machines Corporation Network address cache apparatus and method
US7877493B2 (en) * 2005-05-05 2011-01-25 Ironport Systems, Inc. Method of validating requests for sender reputation information
US8296373B2 (en) * 2007-02-02 2012-10-23 Facebook, Inc. Automatically managing objectionable behavior in a web-based social network
US20100011420A1 (en) * 2008-07-02 2010-01-14 Barracuda Networks Inc. Operating a service on a network as a domain name system server
US8209415B2 (en) * 2009-02-27 2012-06-26 Yottaa Inc System and method for computer cloud management
US8549148B2 (en) * 2010-10-15 2013-10-01 Brocade Communications Systems, Inc. Domain name system security extensions (DNSSEC) for global server load balancing
US9596122B2 (en) * 2010-12-03 2017-03-14 International Business Machines Corporation Identity provider discovery service using a publish-subscribe model
KR101171657B1 (ko) 2010-12-08 2012-08-09 텔코웨어 주식회사 로드 밸런서 및 이를 이용한 부하 분산 관리 방법
US8918602B2 (en) * 2011-09-19 2014-12-23 International Business Machines Corporation Dynamically altering time to live values in a data cache
US9755889B2 (en) * 2013-02-13 2017-09-05 International Business Machines Corporation Service failover and failback using enterprise service bus
CN104022891B (zh) * 2013-02-28 2018-06-19 新华三技术有限公司 一种全局负载均衡设备业务协调方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100082787A1 (en) * 2000-09-26 2010-04-01 Foundry Networks, Inc. Global server load balancing
US20080276002A1 (en) * 2007-05-01 2008-11-06 Yahoo! Inc. Traffic routing based on client intelligence
WO2012086919A2 (ko) * 2010-12-24 2012-06-28 (주)케이티 복수 개의 프락시 서버를 포함하는 분산 저장 시스템 및 그 오브젝트 관리 방법 및 컴퓨터에 의하여 독출가능한 저장 매체

Also Published As

Publication number Publication date
US9954941B2 (en) 2018-04-24
WO2016064030A1 (ko) 2016-04-28
CN105812408A (zh) 2016-07-27
KR20160046667A (ko) 2016-04-29
US20160112500A1 (en) 2016-04-21

Similar Documents

Publication Publication Date Title
KR102295664B1 (ko) 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법
US10791190B2 (en) Systems and methods for avoiding server push of objects already cached at a client
US10178165B2 (en) Distributing application traffic to servers based on dynamic service response time
US9794152B2 (en) Systems and methods for performing localized server-side monitoring in a content delivery network
WO2022068333A1 (zh) 访问请求的处理方法、装置、电子设备及计算机可读存储介质
CN108156013B (zh) 一种页面服务容灾方法、装置及电子设备
US11876716B2 (en) Systems and methods for adjusting a congestion window value of a content delivery network
US10560543B2 (en) Rule based cache processing in application delivery controller for load balancing
US20120226733A1 (en) Method for distributing and controlling traffic in cloud computing system and cloud computing system using the same
US9590947B2 (en) IP management method, client and server
CN105763628A (zh) 数据访问请求处理方法及装置、边缘节点服务器和集群
KR101959970B1 (ko) 컨텐츠 전송 서비스 방법, 이를 위한 캐시 장치
US10182033B1 (en) Integration of service scaling and service discovery systems
CN106470251B (zh) 域名解析方法及虚拟dns权威服务器
CN103312716A (zh) 一种访问互联网信息的方法及***
US10645183B2 (en) Redirection of client requests to multiple endpoints
EP3582116A1 (en) Webpage loading method, webpage loading system, and server
US9729652B2 (en) Dynamically affinitizing users to a version of a website
EP3258665B1 (en) Network storage method, switch device, and controller
US10135916B1 (en) Integration of service scaling and external health checking systems
US9609684B2 (en) Apparatus and method for transmitting/receiving data in mobile content network
US11128695B1 (en) Traffic load balancing between a plurality of points of presence of a cloud computing infrastructure
CN117793166A (zh) 云网关集群之间的会话同步方法及装置

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant