KR20220093923A - Apparatus and method for multicore allocation - Google Patents

Apparatus and method for multicore allocation Download PDF

Info

Publication number
KR20220093923A
KR20220093923A KR1020200185101A KR20200185101A KR20220093923A KR 20220093923 A KR20220093923 A KR 20220093923A KR 1020200185101 A KR1020200185101 A KR 1020200185101A KR 20200185101 A KR20200185101 A KR 20200185101A KR 20220093923 A KR20220093923 A KR 20220093923A
Authority
KR
South Korea
Prior art keywords
core
cores
service load
allocating
combination
Prior art date
Application number
KR1020200185101A
Other languages
Korean (ko)
Other versions
KR102442675B1 (en
Inventor
김대훈
박경서
Original Assignee
재단법인대구경북과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 재단법인대구경북과학기술원 filed Critical 재단법인대구경북과학기술원
Priority to KR1020200185101A priority Critical patent/KR102442675B1/en
Priority to PCT/KR2021/009997 priority patent/WO2022145613A1/en
Publication of KR20220093923A publication Critical patent/KR20220093923A/en
Application granted granted Critical
Publication of KR102442675B1 publication Critical patent/KR102442675B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5066—Algorithms for mapping a plurality of inter-dependent sub-tasks onto a plurality of physical CPUs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3017—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is implementing multitasking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5094—Allocation of resources, e.g. of the central processing unit [CPU] where the allocation takes into account power or heat criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00—Packet switching elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00—Packet switching elements
    • H04L49/90—Buffering arrangements
    • H04L49/9063—Intermediate storage in different physical parts of a node or terminal
    • H04L49/9068—Intermediate storage in different physical parts of a node or terminal in the network interface card

Abstract

The present invention provides a device and method for allocating multiple cores according to a service load. Therefore, a service processing delay time is improved and an energy efficiency is improved. The device for allocating multiple cores comprises: a monitoring part; and a core allocating part.

Description

다중 코어 할당 장치 및 방법{APPARATUS AND METHOD FOR MULTICORE ALLOCATION}APPARATUS AND METHOD FOR MULTICORE ALLOCATION

본 발명은 다중 코어 할당 장치 및 방법에 관한 것으로, 보다 상세하게는 서비스 부하에 기반하여 어플리케이션과 패킷 프로세싱에 대한 다중 코어 할당을 조정하는 장치 및 방법에 관한 것이다.The present invention relates to a multi-core allocation apparatus and method, and more particularly, to an apparatus and method for adjusting multi-core allocation for an application and packet processing based on a service load.

이하에서 기술되는 내용은 본 발명의 실시예와 관련되는 배경 정보를 제공할 목적으로 기재된 것일 뿐이고, 기술되는 내용들이 당연하게 종래기술을 구성하는 것은 아니다.The content to be described below is only for the purpose of providing background information related to the embodiment of the present invention, and the content to be described does not naturally constitute the prior art.

네트워크 인터페이스 컨트롤러(Network Interface Card; NIC)는 외부의 서버와 데이터를 주고 받기 위해 사용되는 I/O(Input/Output) 장치이다. NIC가 장착된 서버는 데이터 송신 및 수신을 위하여, 프로세서의 코어에서 데이터를 패킷의 형태로 변환시켜 데이터를 송신하거나 수신한 패킷을 원래의 데이터로 변환하는 작업인 패킷 프로세싱을 수행한다.A network interface controller (Network Interface Card; NIC) is an I/O (Input/Output) device used to exchange data with an external server. A server equipped with a NIC performs packet processing, which is a task of transmitting data by converting data into a packet form in the core of the processor or converting a received packet into original data for data transmission and reception.

정적인 병렬 패킷 프로세싱은 과도한 병렬성으로 인한 불필요한 에너지 소모를 유발하고, 패킷 프로세싱 코어의 비정기적 활성화는 코어 스위칭으로 인한 에너지 소모가 발생한다.Static parallel packet processing causes unnecessary energy consumption due to excessive parallelism, and irregular activation of the packet processing core causes energy consumption due to core switching.

한편, 저지연이 요구되는 서비스(Latency Critical Service)는 해당 서비스를 이용하는 사용자와의 규약인 SLO(Service Level Objective)를 만족해야 한다. 특히 저지연이 요구되는 서비스는 SLO의 규정 중, 유저가 서비스를 이용하기 위해 요청한 패킷들의 꼬리 지연시간(tail latency)이 규약된 시간을 만족하도록 보장해야 한다.On the other hand, a service requiring low latency (Latency Critical Service) must satisfy the Service Level Objective (SLO), which is a contract with users who use the service. In particular, for a service requiring low latency, it must ensure that the tail latency of packets requested by the user to use the service meets the stipulated time among the SLO regulations.

서버 장치에 대한 서비스 부하가 급증함에 따라 지연시간 및 에너지 효율성을 고려한 코어 할당 기술이 필요하다.As the service load on the server device rapidly increases, a core allocation technology considering latency and energy efficiency is required.

본 발명의 일 과제는, 서비스 부하에 기반하여 코어 할당 조합을 결정하는 다중 코어 할당 장치를 제공하는 것이다.One object of the present invention is to provide a multi-core allocation apparatus for determining a core allocation combination based on a service load.

본 발명의 일 과제는, 오프라인 프로파일링에 기반하여 지연시간 및 에너지 효율성을 고려한 다중 코어 할당 방법을 제공하는 것이다.One object of the present invention is to provide a method for allocating multiple cores in consideration of latency and energy efficiency based on offline profiling.

본 발명의 목적은 이상에서 언급한 과제에 한정되지 않으며, 언급되지 않은 본 발명의 다른 목적 및 장점들은 하기의 설명에 의해서 이해될 수 있고, 본 발명의 실시예에 의해 보다 분명하게 이해될 것이다.The object of the present invention is not limited to the above-mentioned problems, and other objects and advantages of the present invention that are not mentioned may be understood by the following description, and will be more clearly understood by the examples of the present invention.

또한, 본 발명의 목적 및 장점들은 청구범위에 나타낸 수단 및 그 조합에 의해 실현될 수 있음을 알 수 있을 것이다. It will also be appreciated that the objects and advantages of the present invention may be realized by means of the instrumentalities and combinations thereof indicated in the claims.

본 발명의 일 실시예에 따른 다중 코어 할당 장치는, 다중 코어 환경에서 실행 중인 적어도 하나의 어플리케이션에 대한 서비스 요청에 대응하는 서비스 부하를 모니터링하는 모니터링부 및 서비스 부하에 기반하여 다중 코어를 할당하는 코어할당부를 포함할 수 있다.A multi-core allocating apparatus according to an embodiment of the present invention includes a monitoring unit for monitoring a service load corresponding to a service request for at least one application running in a multi-core environment, and a core for allocating multiple cores based on the service load. It may include an allocator.

코어할당부는 서비스 부하의 변화에 따라, 서비스 요청에 응답하여 적어도 하나의 어플리케이션을 실행하는 제 1 코어 및 적어도 하나의 어플리케이션이 수반하는 패킷 프로세싱을 수행하는 제 2 코어의 조합을 결정하도록 구성된다.The core allocator is configured to determine a combination of a first core that executes at least one application in response to a service request and a second core that performs packet processing accompanying the at least one application according to a change in service load.

본 발명의 일 실시예에 따른 다중 코어 할당 방법은, 모니터링부에 의해, 다중 코어 환경에서 실행 중인 적어도 하나의 어플리케이션에 대한 서비스 요청에 대응하는 서비스 부하를 모니터링하는 단계 및 코어할당부에 의해, 서비스 부하에 기반하여 다중 코어를 할당하는 단계를 포함할 수 있다.A method for allocating multiple cores according to an embodiment of the present invention includes, by a monitoring unit, monitoring a service load corresponding to a service request for at least one application running in a multi-core environment, and by the core allocating unit, the service It may include allocating multiple cores based on the load.

다중 코어를 할당하는 단계는, 서비스 부하의 변화에 따라, 서비스 요청에 응답하여 적어도 하나의 어플리케이션을 실행하는 제 1 코어 및 적어도 하나의 어플리케이션이 수반하는 패킷 프로세싱을 수행하는 제 2 코어의 조합을 결정하는 단계를 포함할 수 있다.In the allocating multiple cores, according to a change in service load, a combination of a first core that executes at least one application in response to a service request and a second core that performs packet processing accompanying the at least one application is determined may include the step of

전술한 것 외의 다른 측면, 특징, 및 이점이 이하의 도면, 청구범위 및 발명의 상세한 설명으로부터 명확해질 것이다.Other aspects, features, and advantages other than those described above will become apparent from the following drawings, claims and detailed description.

본 발명의 실시예에 따르면 패킷 프로세싱을 위한 코어의 수를 동적으로 조절하여, 코어의 낭비 없이 SLO를 만족하기 위한 최소한의 코어의 수를 제공할 수 있다.According to an embodiment of the present invention, by dynamically adjusting the number of cores for packet processing, it is possible to provide the minimum number of cores to satisfy the SLO without wasting cores.

본 발명의 실시예에 따르면 시스템 자원 요구량을 예측하기 어려운 저지연이 요구되는 서비스의 성능 저하 없이 에너지 효율성을 제공할 수 있다.According to an embodiment of the present invention, it is possible to provide energy efficiency without degrading the performance of a service requiring low delay, which is difficult to predict system resource requirements.

본 발명의 실시예에 따르면 별도의 비용 없이, 에너지 소모량에 따른 유지 비용이 큰 데이터 센터에 적용 시 데이터센터 전체 유지비용의 절감이 가능하다.According to an embodiment of the present invention, it is possible to reduce the overall maintenance cost of the data center when applied to a data center having a high maintenance cost according to energy consumption without any additional cost.

본 발명의 효과는 이상에서 언급된 것들에 한정되지 않으며, 언급되지 아니한 다른 효과들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.Effects of the present invention are not limited to those mentioned above, and other effects not mentioned will be clearly understood by those skilled in the art from the following description.

도 1은 실시예에 따른 다중 코어 할당 장치의 예시적인 동작 환경을 개략적으로 보여주는 도면이다.
도 2는 실시예에 따른 다중 코어 할당 장치의 블록도이다.
도 3은 실시예에 따른 다중 코어 할당 장치의 실행 환경을 설명하기 위한 도면이다.
도 4는 실시예에 따른 다중 코어 할당 방법의 흐름도이다.
도 5는 실시예에 따른 다중 코어 할당 방법의 세부 흐름도이다.
도 6은 예시적인 서비스 부하에 따른 제 1 코어 및 제 2 코어의 조합에 대한 매핑 테이블을 도시한다.
도 7은 실시예에 따른 다중 코어 할당 장치의 코어 할당 과정을 예시적으로 설명하기 위한 도면이다.1 is a diagram schematically showing an exemplary operating environment of an apparatus for allocating multiple cores according to an embodiment.
2 is a block diagram of an apparatus for allocating multiple cores according to an embodiment.
3 is a diagram for explaining an execution environment of an apparatus for allocating multiple cores according to an embodiment.
4 is a flowchart of a method for allocating multiple cores according to an embodiment.
5 is a detailed flowchart of a method for allocating multiple cores according to an embodiment.
6 shows a mapping table for a combination of a first core and a second core according to an exemplary service load.
7 is a diagram for exemplarily explaining a core allocation process of a multi-core allocation apparatus according to an embodiment.

이하에서는 도면을 참조하여 본 발명을 보다 상세하게 설명한다. 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며, 여기에서 설명하는 실시예들에 한정되지 않는다. 이하 실시예에서는 본 발명을 명확하게 설명하기 위해서 설명과 직접적인 관계가 없는 부분을 생략하지만, 본 발명의 사상이 적용된 장치 또는 시스템을 구현함에 있어서, 이와 같이 생략된 구성이 불필요함을 의미하는 것은 아니다. 아울러, 명세서 전체를 통하여 동일 또는 유사한 구성요소에 대해서는 동일한 참조번호를 사용한다.Hereinafter, the present invention will be described in more detail with reference to the drawings. The present invention may be embodied in several different forms, and is not limited to the embodiments described herein. In the following embodiments, parts not directly related to the description are omitted in order to clearly explain the present invention, but it does not mean that the omitted configuration is unnecessary in implementing the device or system to which the spirit of the present invention is applied . In addition, the same reference numerals are used for the same or similar elements throughout the specification.

이하의 설명에서 제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안되며, 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 또한, 이하의 설명에서 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.In the following description, terms such as first and second may be used to describe various elements, but the elements should not be limited by the terms, and the terms distinguish one element from other elements. used only for the purpose of Also, in the following description, the singular expression includes the plural expression unless the context clearly dictates otherwise.

이하의 설명에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. In the following description, terms such as “comprise” or “have” are intended to designate that a feature, number, step, operation, component, part, or combination thereof described in the specification is present, but one or more other It should be understood that this does not preclude the possibility of addition or presence of features or numbers, steps, operations, components, parts, or combinations thereof.

이하 도면을 참고하여 본 발명을 상세히 설명하기로 한다.Hereinafter, the present invention will be described in detail with reference to the drawings.

도 1은 실시예에 따른 다중 코어 할당 장치의 예시적인 동작 환경을 개략적으로 보여주는 도면이다.1 is a diagram schematically showing an exemplary operating environment of an apparatus for allocating multiple cores according to an embodiment.

다중 코어 할당 장치(100)는 다양한 어플리케이션 환경에서 서비스 부하 변화에 따라 최적화된 다중 코어의 동적 할당을 제공할 수 있다.The multi-core allocation apparatus 100 may provide dynamic allocation of multi-cores optimized according to service load changes in various application environments.

일 예에서 다중 코어 할당 장치(100)는 네트워크(300) 환경에서 클라이언트(200)의 서비스 요청을 처리하는 서버일 수 있다. 서버는 네트워크(300)를 통해 클라이언트(200)의 서비스 요청을 수신하고, 서비스 요청에 대응하는 동작을 수행하고, 이에 대한 응답을 네트워크(300)를 통해 클라이언트(200)에 전송하는 서버일 수 있다.In one example, the multi-core allocation apparatus 100 may be a server that processes a service request of the client 200 in the network 300 environment. The server may be a server that receives a service request from the client 200 through the network 300 , performs an operation corresponding to the service request, and transmits a response thereto to the client 200 through the network 300 . .

다중 코어 할당 장치(100)는 후술할 도 2를 참조하여 프로세서(110) 및 메모리(120)를 포함하는 컴퓨팅 장치일 수 있다.The multi-core allocation device 100 may be a computing device including a processor 110 and a memory 120 with reference to FIG. 2 to be described later.

네트워크(300)는 유선 및 무선 네트워크, 예를 들어 LAN(local area network), WAN(wide area network), 인터넷(internet), 인트라넷(intranet) 및 엑스트라넷(extranet), 그리고 모바일 네트워크, 예를 들어 셀룰러, 3G, LTE, 5G, WiFi 네트워크, 애드혹 네트워크 및 이들의 조합을 비롯한 임의의 적절한 통신 네트워크 일 수 있다.Network 300 is a wired and wireless network, such as a local area network (LAN), a wide area network (WAN), the Internet (internet), intranet (intranet) and extranet (extranet), and mobile networks, such as It may be any suitable communication network, including cellular, 3G, LTE, 5G, WiFi networks, ad hoc networks, and combinations thereof.

네트워크(300)는 허브, 브리지, 라우터, 스위치 및 게이트웨이와 같은 네트워크 요소들의 연결을 포함할 수 있다. 네트워크(300)는 인터넷과 같은 공용 네트워크 및 안전한 기업 사설 네트워크와 같은 사설 네트워크를 비롯한 하나 이상의 연결된 네트워크들, 예컨대 다중 네트워크 환경을 포함할 수 있다. 네트워크(300)에의 액세스는 하나 이상의 유선 또는 무선 액세스 네트워크들을 통해 제공될 수 있다.Network 300 may include connections of network elements such as hubs, bridges, routers, switches, and gateways. Network 300 may include one or more connected networks, eg, multiple network environments, including public networks such as the Internet and private networks such as secure enterprise private networks. Access to network 300 may be provided via one or more wired or wireless access networks.

도 2는 실시예에 따른 다중 코어 할당 장치의 블록도이다.2 is a block diagram of an apparatus for allocating multiple cores according to an embodiment.

실시예에 따른 다중 코어 할당 장치(100)는 프로세서(110) 및 메모리(120)를 포함할 수 있다.The multi-core allocation apparatus 100 according to the embodiment may include a processor 110 and a memory 120 .

프로세서(110)는 일종의 중앙처리장치로서, 메모리(120)에 저장된 하나 이상의 명령어를 실행하여 다중 코어 할당 장치(100)의 동작을 제어할 수 있다. 프로세서(110)는 데이터를 처리할 수 있는 모든 종류의 장치를 포함할 수 있다.The processor 110 is a kind of central processing unit, and may control the operation of the multi-core allocation apparatus 100 by executing one or more instructions stored in the memory 120 . The processor 110 may include any type of device capable of processing data.

프로세서(110)는 예를 들어 프로그램 내에 포함된 코드 또는 명령으로 표현된 기능을 수행하기 위해 물리적으로 구조화된 회로를 갖는, 하드웨어에 내장된 데이터 처리 장치를 의미할 수 있다. 이와 같이 하드웨어에 내장된 데이터 처리 장치의 일 예로서, 마이크로프로세서(microprocessor), 중앙처리장치(central processing unit: CPU), 프로세서 코어(processor core), 멀티프로세서(multiprocessor), ASIC(application-specific integrated circuit), FPGA(field programmable gate array) 등의 처리 장치를 망라할 수 있으나, 이에 한정되는 것은 아니다. 프로세서(110)는 하나 이상의 프로세서를 포함할 수 있다. 프로세서(110)는 다중 코어(multicore)로 구성될 수 있다.The processor 110 may refer to, for example, a data processing device embedded in hardware having a physically structured circuit to perform a function expressed as a code or an instruction included in a program. As an example of the data processing device embedded in the hardware as described above, a microprocessor, a central processing unit (CPU), a processor core, a multiprocessor, an application-specific integrated (ASIC) circuit) and a processing device such as a field programmable gate array (FPGA), but is not limited thereto. The processor 110 may include one or more processors. The processor 110 may be configured as a multicore.

다중 코어 할당 장치(100)는 모니터링부(111) 및 코어할당부(112)를 더 포함할 수 있다.The multi-core allocator 100 may further include a monitoring unit 111 and a core allocating unit 112 .

모니터링부(111)는 프로세서(110)의 다중 코어에서 실행 중인 어플리케이션에 대한 서비스 요청에 대응하는 서비스 부하를 모니터링하고 서비스 부하를 코어할당부(112)에 전달할 수 있다.The monitoring unit 111 may monitor a service load corresponding to a service request for an application running on multiple cores of the processor 110 and transmit the service load to the core allocating unit 112 .

코어할당부(112)는 모니터링부(111)로부터 수신한 서비스 부하에 기반하여 다중 코어를 할당할 수 있다.The core allocator 112 may allocate multiple cores based on the service load received from the monitoring unit 111 .

코어할당부(112)는 모니터링부(111)로부터 획득한 서비스 부하의 변화에 따라, 사용자의 서비스 요청에 응답하여 적어도 하나의 어플리케이션을 실행하는 제 1 코어 및 이러한 적어도 하나의 어플리케이션이 수반하는 패킷 프로세싱을 수행하는 제 2 코어의 조합을 결정할 수 있다.The core allocator 112 includes a first core that executes at least one application in response to a user's service request according to a change in the service load obtained from the monitoring unit 111 and packet processing accompanied by the at least one application. It is possible to determine the combination of the second core that performs

모니터링부(111) 및 코어할당부(112)는 프로세서(110)에 의해 실행가능한 프로그램으로 구현될 수 있다. 프로세서(110)는 메모리(120)에 저장된 해당 프로그램을 실행하여 모니터링부(111) 및 코어할당부(112)를 실행할 수 있다.The monitoring unit 111 and the core allocating unit 112 may be implemented as programs executable by the processor 110 . The processor 110 may execute a corresponding program stored in the memory 120 to execute the monitoring unit 111 and the core allocating unit 112 .

다중 코어 할당 장치(100)는 메모리(120)를 더 포함할 수 있다.The multi-core allocation apparatus 100 may further include a memory 120 .

메모리(120)는 다중 코어 할당 장치(100)가 코어 할당 과정을 실행하기 위한 명령 등을 저장할 수 있다. 메모리(120)는 모니터링부(111) 및 코어할당부(112)의 동작을 구현한 실행가능한 프로그램을 저장할 수 있다.The memory 120 may store a command, etc. for the multi-core allocation apparatus 100 to execute a core allocation process. The memory 120 may store an executable program implementing the operations of the monitoring unit 111 and the core allocating unit 112 .

프로세서(110)는 메모리(120)에 저장된 프로그램 및 명령어들에 기반하여 실시예에 따른 다중 코어 할당 과정을 실행할 수 있다.The processor 110 may execute the multi-core allocation process according to the embodiment based on the program and instructions stored in the memory 120 .

메모리(120)는 후술할 오프라인 프로파일링을 수행한 결과로 생성된 정보(예를 들어 서비스 부하에 따른 제 1 코어 및 제 2 코어의 조합에 대한 매핑 테이블)를 더 저장할 수 있다.The memory 120 may further store information (eg, a mapping table for a combination of the first core and the second core according to the service load) generated as a result of performing offline profiling, which will be described later.

메모리(120)는 내장 메모리 및/또는 외장 메모리를 포함할 수 있으며, DRAM, SRAM, 또는 SDRAM 등과 같은 휘발성 메모리, OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, NAND 플래시 메모리, 또는 NOR 플래시 메모리 등과 같은 비휘발성 메모리, SSD, CF(compact flash) 카드, SD 카드, Micro-SD 카드, Mini-SD 카드, Xd 카드, 또는 메모리 스틱(memory stick) 등과 같은 플래시 드라이브, 또는 HDD와 같은 저장 장치를 포함할 수 있다. 메모리(120)는 자기 저장 매체(magnetic storage media) 또는 플래시 저장 매체(flash storage media)를 포함할 수 있으나, 이에 한정되는 것은 아니다.Memory 120 may include internal memory and/or external memory, volatile memory such as DRAM, SRAM, or SDRAM, one time programmable ROM (OTPROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, NAND Flash memory, or non-volatile memory such as NOR flash memory, SSD, compact flash (CF) card, SD card, Micro-SD card, Mini-SD card, Xd card, or flash drive such as a memory stick; Alternatively, it may include a storage device such as an HDD. The memory 120 may include, but is not limited to, magnetic storage media or flash storage media.

네트워크 인터페이스 컨트롤러(Network Interface Controller; NIC)(130)는 패킷 통신을 인터페이싱할 수 있는 통신 장치를 의미한다. 예를 들어 네트워크 인터페이스 컨트롤러(130)는 외부 장치로부터 패킷을 수신하거나 외부장치로 패킷을 송신할 수 있다.The network interface controller (NIC) 130 refers to a communication device capable of interfacing packet communication. For example, the network interface controller 130 may receive a packet from an external device or transmit a packet to the external device.

버스(140)는 프로세서(110), 메모리(120) 및 네트워크 인터페이스 컨트롤러(130)를 연결하는 논리적/물리적 경로이다. 프로세서(110)는 버스(140)를 통해 메모리(120) 및 네트워크 인터페이스 컨트롤러(130)에 대한 읽기/쓰기(read/write)를 수행할 수 있다.The bus 140 is a logical/physical path connecting the processor 110 , the memory 120 , and the network interface controller 130 . The processor 110 may read/write the memory 120 and the network interface controller 130 through the bus 140 .

도 3은 실시예에 따른 다중 코어 할당 장치의 실행 환경을 설명하기 위한 도면이다.3 is a diagram for explaining an execution environment of an apparatus for allocating multiple cores according to an embodiment.

NIC(130)는 외부 장치와 통신하기 위한 하드웨어로서, 패킷을 받거나 보내는 장치이다. NIC(130)는 외부 장치로부터 수신한 패킷을 네트워크 드라이버에게 전달한다.The NIC 130 is hardware for communicating with an external device, and is a device for receiving or sending packets. The NIC 130 transfers the packet received from the external device to the network driver.

네트워크 드라이버는 NIC(130)를 운영체제(Operating System; OS)가 사용할 수 있도록 도와주는 소프트웨어로 NIC(130)에 패킷이 도착했음을 운영체제에게 알려주고, 해당 패킷을 TCP/IP 스택으로 전달한다.The network driver is software that helps an operating system (OS) to use the NIC 130 , and notifies the operating system that a packet has arrived at the NIC 130 , and transmits the packet to the TCP/IP stack.

TCP/IP 스택은 패킷에서 정보가 담겨있는 IP와 Port를 추출하여 어떠한 어플리케이션에게 전달해야 할지를 파악하고, 패킷에서 데이터를 추출하여 이를 어플리케이션에게 전달한다.The TCP/IP stack extracts the IP and Port containing information from the packet, identifies which application it should be delivered to, and extracts data from the packet and delivers it to the application.

어플리케이션은 데이터를 전달 받고, 어플리케이션 고유의 작업을 수행한다.Applications receive data and perform application-specific tasks.

실시예에 따른 다중 코어 할당 장치(100)의 모니터링부(111) 및 코어할당부(112)는 운영체제 영역에서 작동한다. 모니터링부(111) 및 코어할당부(112)는 운영체제 영역에서 주기적으로 깨어나서 백그라운드(background)에서 작업을 수행하는 일종의 데몬(daemon) 프로세스로서 동작할 수 있다. 일 예에서 하나의 데몬이 모니터링부(111)와 코어할당부(112)를 실행할 수 있다.The monitoring unit 111 and the core allocating unit 112 of the multi-core allocating apparatus 100 according to the embodiment operate in the operating system area. The monitoring unit 111 and the core allocating unit 112 may operate as a kind of daemon process that periodically wakes up in the operating system area and performs a task in the background. In one example, one daemon may execute the monitoring unit 111 and the core allocating unit 112 .

모니터링부(111) 및 코어할당부(112)는 프로세서(110)에 포함된 다중 코어 중 하나의 코어에서 실행될 수 있다.The monitoring unit 111 and the core allocating unit 112 may be executed in one core among multiple cores included in the processor 110 .

이하에서 도 4 및 도 5를 참조하여 실시예에 따른 다중 코어 할당 방법에 대하여 구체적으로 살펴본다.Hereinafter, a multi-core allocation method according to an embodiment will be described in detail with reference to FIGS. 4 and 5 .

도 4는 실시예에 따른 다중 코어 할당 방법의 흐름도이다.4 is a flowchart of a method for allocating multiple cores according to an embodiment.

실시예에 따른 다중 코어 할당 방법은 프로세서(110)에 의해 서비스 부하에 따라서, 적어도 하나의 어플리케이션을 실행하는 제 1 코어 및 이와 같은 적어도 하나의 어플리케이션이 수반하는 패킷 프로세싱을 수행하는 제 2 코어의 조합에 대한 오프라인 프로파일링을 수행하는 단계(S10)를 포함할 수 있다.The multi-core allocation method according to the embodiment is a combination of a first core that executes at least one application and a second core that performs packet processing accompanying such at least one application according to a service load by the processor 110 It may include the step of performing offline profiling (S10).

단계(S10)은 사전정의된 서비스 부하를 처리하기 위한 에너지 소모량 및 지연시간에 기반하여 각 사전정의된 서비스 부하에 대한 제 1 코어 및 제 2 코어의 조합을 결정하는 단계를 포함할 수 있다.Step S10 may include determining a combination of the first core and the second core for each predefined service load based on the energy consumption and delay time for processing the predefined service load.

여기서 에너지 소모량은 사전정의된 서비스 부하를 처리하는 동안 프로세서(110)에서 소모된 에너지량을 의미한다. 지연시간은 서비스 요청에 대한 응답 지연시간을 의미한다.Here, the energy consumption means the amount of energy consumed by the processor 110 while processing a predefined service load. The delay time means the response delay time to the service request.

구체적으로 살펴보면, 오프라인 프로파일링은 어플리케이션을 서비스하기 이전에 오프라인 프로파일링을 수행할 수 있는 환경에서 실행된다. 오프라인 프로파일을 수행할 수 있는 환경은 어플리케이션 서비스를 동작하는 서버 컴퓨터와 서비스 요청(request)을 생성하여 전송하는 클라이언트 컴퓨터를 포함한다.More specifically, offline profiling is executed in an environment in which offline profiling can be performed before an application is serviced. An environment capable of performing the offline profile includes a server computer running an application service and a client computer generating and transmitting a service request.

오프라인 프로파일링 과정에서, 클라이언트 컴퓨터는 서비스 요청을 서버 컴퓨터에게 전송한다. 여기서 서버 컴퓨터는 실시예에 따른 다중 코어 할당 장치(100)에 대응한다.During offline profiling, the client computer sends a service request to the server computer. Here, the server computer corresponds to the multi-core allocation apparatus 100 according to the embodiment.

서버 컴퓨터는 어플리케이션을 실행하는 서비스 코어의 수와 패킷 프로세싱을 수행하는 코어의 수의 가능한 조합 중 하나를 선택하고 해당 조합에 맞추어 서비스 코어와 패킷 프로세싱 코어를 할당한다.The server computer selects one of the possible combinations of the number of service cores executing the application and the number of cores performing packet processing, and allocates the service core and the packet processing core according to the combination.

예를 들어, 코어가 총 8개라고 가정하면, 서비스 코어를 위한 수는 1 내지 8개가 가능하고, 패킷 프로세싱을 위한 코어의 수 또한 1 내지 8개가 가능하고, 따라서 총 64가지의 조합이 가능하다.For example, assuming a total of 8 cores, the number for service cores is 1 to 8, and the number of cores for packet processing is also 1 to 8, so a total of 64 combinations is possible. .

이후 코어의 각 조합마다 일정 시간(예를 들어 5초) 동안 클라이언트 컴퓨터가 서비스 요청들을 소정의 서비스 부하(Service Load)로 서버 컴퓨터에게 전송한다. 여기서 서비스 부하는 RPS(Request Per Second)를 지표로 하여 표현될 수 있다.Thereafter, the client computer transmits service requests to the server computer with a predetermined service load for a predetermined time (eg, 5 seconds) for each combination of cores. Here, the service load may be expressed using RPS (Request Per Second) as an index.

이후 서버 컴퓨터는 상술한 일정 시간(예를 들어 5초) 동안 소비된 에너지와 서비스 요청에 대한 꼬리 지연시간 (Tail Latency)을 측정한다. 꼬리 지연시간이란, 사용자가 요청한 모든 패킷들의 지연시간들을 낮은 순서대로 나열하였을 때, 95th, 99th percentile latency 처럼 뒤쪽에 해당하는 패킷 지연시간을 의미한다.Thereafter, the server computer measures the energy consumed for the above-described predetermined time (eg, 5 seconds) and tail latency for the service request. The tail delay time means the packet delay time corresponding to the back like 95th and 99th percentile latency when the delay times of all packets requested by the user are listed in the order of the lowest.

결과적으로, 프로세서(110)는 오프라인 프로파일링을 실행한 결과 사전정의된 서비스 부하를 실행함에 있어서 소정의 지연시간 요구 조건을 만족하는 하나 이상의 제 1 코어 및 제 2 코어의 조합 중에서 에너지 소모량이 가장 낮은 코어의 조합을 해당 서비스 부하에 대한 제 1 코어 및 제 2 코어의 조합으로 결정할 수 있다. 여기서 소정의 지연시간 요구 조건은 95th 퍼센트 지연(95th percentile latency, P95) 혹은 99th 퍼센트 지연(99th percentile latency, P99) 메트릭을 적용할 수 있다.As a result, the processor 110 has the lowest energy consumption among a combination of one or more first and second cores that satisfy a predetermined delay time requirement in executing a predefined service load as a result of executing offline profiling. The combination of cores may be determined as a combination of the first core and the second core for the corresponding service load. Here, as the predetermined delay time requirement, a 95th percentile latency (P95) or 99th percentile latency (P99) metric may be applied.

이와 같은 과정을 모든 코어의 조합에서 소정의 RPS 범위마다 실행하여 꼬리 지연시간과 에너지 소비량을 측정하고, 최적의 코어 할당 조합을 결정한다. 오프라인 프로파일링이 완료되면, 각 코어 조합 및 RPS에 따른 꼬리 지연시간과 에너지 소비량이 저장된 데이터 결과를 구할 수 있다. 이로써 획득된 오프라인 프로파일링 결과는 메모리(120)에 저장될 수 있다.This process is executed for every predetermined RPS range in all core combinations to measure tail latency and energy consumption, and to determine an optimal core allocation combination. When offline profiling is completed, data results can be obtained that store tail latency and energy consumption according to each core combination and RPS. The obtained offline profiling result may be stored in the memory 120 .

일 예에서 프로세서(110)는 메모리(120)에, 오프라인 프로파일링의 결과를 각 서비스 부하에 대한 상기 제 1 코어 및 상기 제 2 코어의 조합의 매핑 테이블로 저장할 수 있다. 오프라인 프로파일링 결과에 대한 예시적인 매핑 테이블에 대하여는 도 6을 참조하여 후술한다.In an example, the processor 110 may store the offline profiling result in the memory 120 as a mapping table of a combination of the first core and the second core for each service load. An exemplary mapping table for the offline profiling result will be described later with reference to FIG. 6 .

실시예에 따른 다중 코어 할당 방법은 모니터링부(111)에 의해, 다중 코어 환경에서 실행 중인 적어도 하나의 어플리케이션에 대한 서비스 요청에 대응하는 서비스 부하를 모니터링하는 단계(S20) 및 코어할당부(112)에 의해, 서비스 부하에 기반하여 다중 코어를 할당하는 단계(S30)를 포함할 수 있다.The multi-core allocation method according to the embodiment includes, by the monitoring unit 111, monitoring a service load corresponding to a service request for at least one application running in a multi-core environment (S20) and the core allocating unit 112 By, it may include a step (S30) of allocating multiple cores based on the service load.

단계(S20)에서 모니터링부(111)는 다중 코어 환경에서 실행 중인 적어도 하나의 어플리케이션에 대한 서비스 요청에 대응하는 서비스 부하를 모니터링할 수 있다.In step S20 , the monitoring unit 111 may monitor a service load corresponding to a service request for at least one application running in a multi-core environment.

단계(S20)에서 모니터링부(111)는 단위 시간당 수신된 서비스 요청의 수에 기반하여 서비스 부하를 획득할 수 있다.In step S20 , the monitoring unit 111 may acquire a service load based on the number of service requests received per unit time.

다중 코어 환경에서 실행 중인 어플리케이션은 사용자 측의 단말 장치에서 실행되는 클라이언트로부터 서비스 요청을 받고 이에 대한 응답을 단말 장치에게 전송한다. 일 예에서 서비스 부하는 단위 시간당 서비스 요청의 개수를 의미한다.An application running in a multi-core environment receives a service request from a client running on a user-side terminal device and transmits a response thereto to the terminal device. In one example, the service load means the number of service requests per unit time.

일 예에서, 모니터링부(111)는 운영체제에 포함된 네트워크 드라이버에서 측정되는 Request Packet Count 기능을 이용하여 Request Per Second (RPS)를 계산하고, 계산된 RPS에 따라 서비스 부하를 결정할 수 있다. In one example, the monitoring unit 111 may calculate a Request Per Second (RPS) by using a Request Packet Count function measured by a network driver included in the operating system, and determine a service load according to the calculated RPS.

RPS는 단위 시간당 처리된 패킷의 개수로서 단위 시간당 서비스 요청의 개수, 즉 서비스 부하를 나타내는 지표가 된다. 이는 서비스 요청 및 이에 대한 처리는 하나 이상의 패킷에 대응하기 때문이다.The RPS is the number of packets processed per unit time and is an index indicating the number of service requests per unit time, that is, a service load. This is because a service request and its processing correspond to one or more packets.

단계(S20)은 주기적으로 실행되어 서비스 부하를 모니터링할 수 있다. 예를 들어, 모니터링부(111)를 실행하는 데몬 프로세스의 실행 주기에 따라 단계(S20)을 실행할 수 있다.Step S20 may be executed periodically to monitor the service load. For example, step S20 may be executed according to the execution cycle of the daemon process executing the monitoring unit 111 .

단계(S30)에서 코어할당부(112)는 서비스 부하에 기반하여 다중 코어를 할당할 수 있다.In step S30 , the core allocator 112 may allocate multiple cores based on the service load.

단계(S30)은 서비스 부하의 변화에 따라, 서비스 요청에 응답하여 적어도 하나의 어플리케이션을 실행하는 제 1 코어 및 적어도 하나의 어플리케이션이 수반하는 패킷 프로세싱을 수행하는 제 2 코어의 조합을 결정하는 단계를 포함할 수 있다.Step S30 is a step of determining a combination of a first core that executes at least one application in response to a service request and a second core that performs packet processing accompanying at least one application according to a change in service load. may include

여기서 제 1 코어는 적어도 하나의 어플리케이션을 실행하도록 생성된 적어도 하나의 스레드(thread)를 실행하는 적어도 하나의 코어에 대응한다. 제 2 코어는 적어도 하나의 어플리케이션이 수반하는 패킷 프로세싱을 수행하는 적어도 하나의 코어에 대응한다.Here, the first core corresponds to at least one core executing at least one thread created to execute at least one application. The second core corresponds to at least one core that performs packet processing accompanying at least one application.

단계(S30)은 단계(S20)의 모니터링 결과 서비스 부하에 변화가 발생한 경우 수행될 수 있다.Step S30 may be performed when a change occurs in the service load as a result of the monitoring of step S20 .

단계(S30)에서 코어할당부(112)는, 단계(S10)에서 수행된 오프라인 프로파일링의 결과에 기반하여 서비스 부하에 대한 제 1 코어 및 제 2 코어의 조합을 결정할 수 있다.In step S30 , the core allocator 112 may determine a combination of the first core and the second core for the service load based on the result of the offline profiling performed in step S10 .

예를 들어 코어할당부(112)는 메모리(120)에 저장된 오프라인 프로파일링 결과에 대한 매핑 테이블을 참조하여 현재의 서비스 부하에 대한 제 1 코어 및 제 2 코어의 조합을 결정할 수 있다.For example, the core allocator 112 may determine the combination of the first core and the second core for the current service load by referring to a mapping table for the offline profiling result stored in the memory 120 .

일 예에서 코어 할당에 대한 조합은 제 1 코어의 수 및 제 2 코어의 수의 페어(pair)에 대응한다. 즉, 코어할당부(112)는 단계(S30)에서 제 1 코어의 수 및 제 2 코어의 수의 페어를 결정할 수 있다.In one example the combination for the core assignment corresponds to a pair of a number of first cores and a number of second cores. That is, the core allocator 112 may determine a pair of the number of the first core and the number of the second core in step S30 .

단계(S30)에서 코어할당부(112)는, 다중 코어 환경을 구성하는 하나 이상의 코어 중에서 제 1 코어의 수만큼의 코어를 적어도 하나의 어플리케이션을 실행하는 제 1 코어로 할당할 수 있다.In step S30 , the core allocator 112 may allocate as many cores as the number of first cores among one or more cores constituting the multi-core environment as first cores for executing at least one application.

단계(S30)에서 코어할당부(112)는 다중 코어 환경을 구성하는 하나 이상의 코어 중에서 제 2 코어의 수만큼의 코어를 패킷 프로세싱을 수행하는 제 2 코어로 할당할 수 있다.In step S30 , the core allocator 112 may allocate as many second cores as the number of second cores among one or more cores constituting the multi-core environment as second cores for performing packet processing.

단계(S30)에 대하여는 도 5를 참조하여 구체적으로 후술한다.Step S30 will be described in detail later with reference to FIG. 5 .

단계(S30)이 완료되면 다음 실행 주기에 단계(S20)에서 모니터링부(111)가 실행된다.When step S30 is completed, the monitoring unit 111 is executed in step S20 in the next execution cycle.

도 5는 실시예에 따른 다중 코어 할당 방법의 세부 흐름도이다.5 is a detailed flowchart of a method for allocating multiple cores according to an embodiment.

도 4를 참조하여 단계(S30)은 단계(S31), 단계(S32) 및 단계(S33)을 포함할 수 있다.Referring to FIG. 4 , step S30 may include steps S31 , S32 , and S33 .

전술한대로 단계(S20)은 주기적으로 수행되고, 해당 주기마다 단계(S31)이 수행된다.As described above, step S20 is performed periodically, and step S31 is performed for each corresponding cycle.

단계(S31)에서 코어할당부(112)는 단계(S20)에서 모니터링부(111)가 획득한 현재 서비스 부하(즉, 현재 RPS)와 이전 주기의 서비스 부하(즉, 이전 RPS)를 비교한다.In step S31 , the core allocator 112 compares the current service load (ie, current RPS) obtained by the monitoring unit 111 in step S20 with the service load of the previous cycle (ie, previous RPS).

비교의 결과, 현재 서비스 부하와 이전 서비스 부하가 동일하면 코어할당부(112)의 실행이 종료되고 단계(S20)로 복귀한다. 현재 서비스 부하와 이전 서비스 부하가 상이하면 코어할당부(112)는 단계(S32) 및 단계(S33)을 실행한다.As a result of the comparison, if the current service load and the previous service load are the same, the execution of the core allocator 112 is terminated and the process returns to step S20 . If the current service load is different from the previous service load, the core allocating unit 112 executes steps S32 and S33.

단계(S32)에서 코어할당부(112)는 도 4를 참조하여 단계(S10)에서 수행된 오프라인 프로파일링의 결과에 기반하여 서비스 부하에 대한 제 1 코어 및 제 2 코어의 조합을 결정할 수 있다. 예를 들어, 코어할당부(112)는 메모리(120)에 저장된 매핑 테이블에 기초하여 현재 서비스 부하에 대한 최적의 코어 할당 조합을 결정할 수 있다. In step S32 , the core allocator 112 may determine a combination of the first core and the second core for the service load based on the result of the offline profiling performed in step S10 with reference to FIG. 4 . For example, the core allocator 112 may determine an optimal core allocation combination for the current service load based on a mapping table stored in the memory 120 .

단계(S33)에서 코어할당부(112)는 단계(S32)에서 결정된 조합에 기반하여 어플리케이션을 실행할 제 1 코어와 패킷 프로세싱을 처리할 제 2 코어를 할당할 수 있다.In step S33 , the core allocator 112 may allocate a first core to execute an application and a second core to process packet processing based on the combination determined in step S32 .

일 예에서 결정된 최적의 코어 할당 조합에 따라 n개의 다중 코어 중, 가장 낮은 번호의 코어부터 순차적으로 할당할 수 있다.In an example, according to the determined optimal core allocation combination, among the n multiple cores, the lowest numbered core may be sequentially allocated.

예를 들어, 코어할당부(112)는 어플리케이션을 위한 코어 할당을 위해 운영체제에게 요청을 보내고, 운영체제는 낮은 번호 코어부터 순차적으로 제 1 코어를 할당할 수 있다. 예를 들어, 코어할당부(112)는 패킷 프로세싱을 위한 제 2 코어를 할당을 위해 운영체제의 네트워크 드라이버에게 요청을 보내어, 패킷 프로세싱을 위한 코어를 낮은 번호 코어부터 순차적으로 제 2 코어를 할당할 수 있다.For example, the core allocator 112 may send a request to the operating system for allocating a core for an application, and the operating system may sequentially allocate the first core starting from a lower-numbered core. For example, the core allocator 112 sends a request to the network driver of the operating system to allocate the second core for packet processing, and sequentially allocates the second core to the core for packet processing, starting with the lower numbered core. have.

이와 같은 코어 할당 순서는 예시적인 것이며, 높은 번호 코어부터 순차적으로 할당하거나 코어 사용량이 가장 적은 코어부터 순차적으로 할당하는 것도 가능하며, 이에 제한되지 않는다.Such a core allocation order is exemplary, and it is also possible to allocate sequentially from a high-numbered core or sequentially from a core having the lowest core usage, but is not limited thereto.

또한, 코어할당부(112)는 제 1 코어를 할당한 후에 제 2 코어를 할당하거나 또는 제 2 코어를 할당한 후에 제 1 코어를 할당하거나 또는 동시에 제 1 코어 및 제 2 코어를 할당할 수 있다.Also, the core allocator 112 may allocate the second core after allocating the first core, or allocate the first core after allocating the second core, or allocate the first core and the second core at the same time. .

일 예에서 단계(S33)에서 코어할당부(112)는, 제 1 코어와 제 2 코어가 서로 중복되도록 할당할 수 있다. 예를 들어, 코어할당부(112)는 제 1 코어와 제 2 코어가 서로 최대로 겹치도록 할당할 수 있다. 이로써 비활성화 코어를 확보하고 에너지 소모량 및 지연시간이 감소될 수 있다.In one example, in step S33 , the core allocator 112 may allocate the first core and the second core to overlap each other. For example, the core allocator 112 may allocate the first core and the second core to overlap each other at maximum. This secures an inactive core and reduces energy consumption and latency.

구체적으로, 예를 들어 전체 코어가 8개인 다중 코어 환경에서 오프라인 프로파일링 결과에 따른 최적 코어 할당 조합이 제 1 코어 4개, 제 2 코어 4개인 경우, 코어할당부(112)는 제 1 코어를 1, 2, 3, 4번 코어에 할당하고, 제 2 코어를 제 1 코어와 동일한 코어인 1, 2, 3, 4번 코어에 할당할 수 있다. 또는 코어할당부(112)는 제 2 코어를 1, 2, 3, 4번 코어에 할당하고, 제 1 코어를 제 2 코어와 동일한 코어인 1, 2, 3, 4번 코어에 할당할 수 있다.Specifically, for example, in a multi-core environment with 8 total cores, when the optimal combination of core allocation according to the offline profiling result is 4 first cores and 4 second cores, the core allocator 112 assigns the first cores. 1, 2, 3, and 4 may be allocated, and the second core may be allocated to cores 1, 2, 3, and 4, which are the same cores as the first core. Alternatively, the core allocator 112 may allocate the second core to cores 1, 2, 3, and 4, and allocate the first core to cores 1, 2, 3, and 4, which are the same cores as the second core. .

예를 들어, 전체 코어가 8개인 다중 코어 환경에서 오프라인 프로파일링 결과에 따른 최적 코어 할당 조합이 제 1 코어 3개, 제 2 코어 2개인 경우, 코어할당부(112)는 제 1 코어를 8, 7, 6번 코어에 할당하고, 제 2 코어를 제 1 코어가 할당된 8, 7, 6번 코어 중에서 선택된 2개의 코어에 할당할 수 있다. 또는, 코어할당부(112)는 제 2 코어를 8, 7번 코어에 할당하고, 제 1 코어를 제 2 코어가 할당된 8, 7번 및 나머지 코어 중 하나의 코어에 할당할 수 있다.For example, in a multi-core environment with 8 total cores, when the optimal core allocation combination according to the offline profiling result is 3 first cores and 2 second cores, the core allocator 112 sets the first core to 8, 7 and 6 may be allocated, and the second core may be allocated to two cores selected from among 8, 7, and 6 cores to which the first core is allocated. Alternatively, the core allocator 112 may allocate the second core to the 8th and 7th cores, and allocate the first core to one of the 8th and 7th and the remaining cores to which the second core is allocated.

이후 패킷 프로세싱 코어에서 처리된 패킷 데이터는 메모리(120)에 저장되고, 패킷 데이터가 저장된 주소를 어플리케이션에 전달한다. 이와 반대로 어플리케이션에서 패킷을 송신하기 위해서, 송신할 데이터가 저장된 메모리(120)의 주소를 패킷 프로세싱 작업에 알려주고, 패킷 프로세싱 작업은 해당 데이터를 메모리(120)에서 읽어와서 패킷의 형태로 변환한다.Thereafter, the packet data processed by the packet processing core is stored in the memory 120 , and the address at which the packet data is stored is transmitted to the application. Conversely, in order for the application to transmit a packet, the address of the memory 120 in which data to be transmitted is stored is informed to the packet processing operation, and the packet processing operation reads the data from the memory 120 and converts it into a packet form.

도 6은 예시적인 서비스 부하에 따른 제 1 코어 및 제 2 코어의 조합에 대한 매핑 테이블을 도시한다.6 shows a mapping table for a combination of a first core and a second core according to an exemplary service load.

예를 들어 8개의 코어를 포함하는 다중 코어 환경에서, 테이블(a)는 제 1 서비스 부하에서의 매핑 테이블이고, 테이블(b)는 제 2 서비스 부하에서의 매핑 테이블이고, 테이블(c)는 제 3 서비스 부하에서의 매핑 테이블을 예시적으로 보여준다. 도시된 예에서 테이블(a), 테이블(b), 테이블(c)로 갈수록 서비스 부하의 양이 증가한다.For example, in a multi-core environment including 8 cores, table (a) is a mapping table in a first service load, table (b) is a mapping table in a second service load, and table (c) is a mapping table in the second service load. 3 The mapping table in the service load is shown as an example. In the illustrated example, the amount of service load increases as the table (a), table (b), and table (c) go.

각 테이블의 가로축은 패킷 프로세싱을 위한 제 2 코어의 개수(1P, 2P ... 8P)이고, 세로축은 어플리케이션 수행을 위한 제 1 코어의 개수(1T, 2T ... 8T)를 나타낸다.The horizontal axis of each table indicates the number of second cores for packet processing (1P, 2P ... 8P), and the vertical axis indicates the number of first cores for application execution (1T, 2T ... 8T).

각 테이블의 셀의 값은 제 2 코어의 개수와 제 1 코어의 할당 조합에 대한 에너지 소모량을 수치화한 값이다. 예시에서, 각 테이블의 셀의 값은 제 2 코어의 개수와 제 1 코어의 개수의 페어에 대한 에너지 소모량을 제 2 코어와 제 1 코어에 전체 코어를 할당한 경우(즉, 8T-8P)의 에너지 소모량에 대하여 정규화한 값으로 설정되었다.The cell value of each table is a numerical value of the energy consumption for the combination of the number of second cores and the allocation of the first core. In the example, the cell value of each table is the energy consumption for the pair of the number of the second core and the number of the first core when all cores are allocated to the second core and the first core (ie, 8T-8P) It was set as a normalized value for energy consumption.

여기서 해당 코어 할당 조합에 대한 꼬리 지연시간이 SLO 규정을 만족하지 못하는 경우는 Vio.로 표기되어 있으며, 코어할당부(112)는 셀의 값이 Vio.인 코어 할당 조합은 코어 할당 시에 고려하지 않는다.Here, the case where the tail delay time for the corresponding core allocation combination does not satisfy the SLO regulation is indicated as Vio., and the core allocation unit 112 does not consider the core allocation combination in which the cell value is Vio. does not

한편, 도 6에 도시된 결과에서 제 1 코어의 수와 제 2 코어의 수가 동일하거나 유사한 경우에 에너지 소모량이 상대적으로 적게 나타나는 경향이 있음을 알 수 있다.Meanwhile, it can be seen from the results shown in FIG. 6 that when the number of first cores and the number of second cores are the same or similar, the energy consumption tends to be relatively small.

도 7은 실시예에 따른 다중 코어 할당 장치의 코어 할당 과정을 예시적으로 설명하기 위한 도면이다.7 is a diagram for exemplarily explaining a core allocation process of a multi-core allocation apparatus according to an embodiment.

코어할당부(112)는 다중 코어 중 하나에서 실행되어 서비스 부하에 따라 어플리케이션 실행을 위한 코어와 패킷 프로세싱을 위한 코어의 조합을 조정한다. 코어할당부(112)는 메모리(120)에 저장된 오프라인 프로파일링 결과에 기초하여 최적의 코어 할당 조합을 결정할 수 있다.The core allocator 112 is executed in one of the multiple cores and adjusts a combination of a core for application execution and a core for packet processing according to a service load. The core allocator 112 may determine an optimal core allocation combination based on the offline profiling result stored in the memory 120 .

예를 들어, 오프라인 프로파일링 결과에 따라 현재 서비스 부하에 대한 최적의 코어 할당 조합은 어플리케이션 실행을 위한 제 1 코어 3개, 패킷 프로세싱을 위한 제 2 코어 2개(즉, T3-P2)인 경우, 순차적으로 해당 코어들을 할당할 수 있다. 여기서 제 1 코어와 제 2 코어는 서로 중복되도록 할당될 수 있다. 예를 들어, 서로 간의 중복이 최대가 되도록 제 1 코어와 제 2 코어를 할당할 수 있다.For example, according to the offline profiling result, the optimal combination of core allocation for the current service load is three first cores for application execution and two second cores for packet processing (ie, T3-P2). Corresponding cores can be allocated sequentially. Here, the first core and the second core may be allocated to overlap each other. For example, the first core and the second core may be allocated such that overlap between them is maximized.

이상에서 설명한 바와 같이, 실시예에 따른 다중 코어 할당 기법은 RSS(Receive Side Scaling)가 적용된 NIC를 사용하는 서버 환경을 확장하여, 서비스를 수행하기 위해 사용하는 코어의 수와 패킷 프로세싱을 수행하는 코어의 수를 서비스의 부하에 따라 동적으로 조절하고, SLO에 규약된 꼬리 지연시간을 보장하고 에너지 소비를 줄일 수 있다.As described above, the multi-core allocation technique according to the embodiment expands the server environment using a NIC to which Receive Side Scaling (RSS) is applied, and the number of cores used to perform services and cores that perform packet processing It is possible to dynamically adjust the number of devices according to the load of the service, guarantee the tail latency stipulated in the SLO, and reduce energy consumption.

이를 위하여, 실시예에 따른 다중 코어 할당 기법은 서비스를 수행하기 위해 사용하는 코어의 수와 패킷 프로세싱을 위한 코어의 수를 가능한 모든 조합에서, 서비스 부하를 점차 증가시키며 에너지소비와 꼬리 지연시간을 측정하는 오프라인 프로파일 기법을 수행한다. 측정한 결과 중, 각 로드에 대하여 SLO의 위반 없이 에너지 소모가 가장 작은 조합을 탐색한다.To this end, the multi-core allocation technique according to the embodiment measures the energy consumption and tail delay time while gradually increasing the service load in all possible combinations of the number of cores used to perform a service and the number of cores for packet processing. Offline profiling is performed. Among the measurement results, the combination with the lowest energy consumption without violating the SLO for each load is searched for.

즉, 모니터링부(111)는 주기적으로 서비스 부하인 RPS(Request Per Seconds)를 측정한다. 코어할당부(112)는 이전에 측정된 RPS와 현재 측정된 RPS가 같은 지 판단한다. 만약 다를 경우, 코어할당부(112)는 현재 측정된 서비스 부하에서 SLO 위반 없이 에너지 소모를 최소화 할 수 있는 코어 할당의 조합을 메모리(120)에 저장된 오프라인 프로파일링 결과를 기반으로 찾아 적용한다.That is, the monitoring unit 111 periodically measures RPS (Request Per Seconds), which is a service load. The core allocator 112 determines whether the previously measured RPS and the currently measured RPS are the same. If different, the core allocation unit 112 finds and applies a combination of core allocation that can minimize energy consumption without violating the SLO in the currently measured service load based on the offline profiling result stored in the memory 120 .

실시예에 따른 다중 코어 할당 기법은, 지연시간에 민감한 서비스의 부하에 따라 서비스를 수행하는 코어 수와 패킷 프로세싱을 위한 코어 수를 동시에 조절하는 기법을 통합하여 도입하여, SLO를 위반하지 않으면서 활성화된 코어의 수를 줄여 비활성화 코어를 확보하고 에너지 소모를 줄일 수 있다.The multi-core allocation method according to the embodiment integrates and introduces a method of simultaneously adjusting the number of cores performing a service and the number of cores for packet processing according to the load of a service sensitive to delay time, enabling activation without violating SLO By reducing the number of cores, it is possible to secure inactive cores and reduce energy consumption.

한편, 실시예에 따른 다중 코어 할당 기법은 NIC 이외에도 SSD(Solid State Drive)를 비롯한 다양한 주변 I/O 장치에 대한 I/O 처리에도 적용가능하다.Meanwhile, the multi-core allocation technique according to the embodiment is applicable to I/O processing for various peripheral I/O devices including a solid state drive (SSD) in addition to the NIC.

이상 설명된 본 발명에 따른 실시예는 컴퓨터 상에서 다양한 구성요소를 통하여 실행될 수 있는 컴퓨터 프로그램의 형태로 구현될 수 있으며, 이와 같은 컴퓨터 프로그램은 컴퓨터로 판독 가능한 매체에 기록될 수 있다. 이때, 매체는 하드 디스크, SSD(Solid State Drive), SDD(Silicon Disk Drive), 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치를 포함할 수 있다.The above-described embodiment according to the present invention may be implemented in the form of a computer program that can be executed through various components on a computer, and such a computer program may be recorded in a computer-readable medium. In this case, the medium includes a hard disk, a solid state drive (SSD), a silicon disk drive (SDD), a magnetic medium such as a floppy disk and a magnetic tape, an optical recording medium such as a CD-ROM and a DVD, and a floppy disk. magneto-optical media, such as, and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like.

한편, 상기 컴퓨터 프로그램은 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 프로그램의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함될 수 있다.Meanwhile, the computer program may be specially designed and configured for the present invention, or may be known and used by those skilled in the computer software field. Examples of the computer program may include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like.

이상 설명된 본 발명의 실시예에 대한 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The description of the embodiment of the present invention described above is for illustration, and those of ordinary skill in the art to which the present invention pertains can easily transform into other specific forms without changing the technical spirit or essential features of the present invention you will be able to understand that Therefore, it should be understood that the embodiments described above are illustrative in all respects and not restrictive. For example, each component described as a single type may be implemented in a dispersed form, and likewise components described as distributed may be implemented in a combined form.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 청구범위에 의하여 나타내어지며, 청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is indicated by the following claims rather than the above detailed description, and all changes or modifications derived from the meaning and scope of the claims and their equivalents should be construed as being included in the scope of the present invention.

100: 다중 코어 할당 장치
110: 프로세서
120: 메모리
130: NIC100: multi-core allocation device
110: processor
120: memory
130: NIC

Claims (16)

다중 코어 환경에서 실행 중인 적어도 하나의 어플리케이션에 대한 서비스 요청에 대응하는 서비스 부하를 모니터링하는 모니터링부; 및
상기 서비스 부하에 기반하여 상기 다중 코어를 할당하는 코어할당부
를 포함하고,
상기 코어할당부는,
상기 서비스 부하의 변화에 따라,
상기 서비스 요청에 응답하여 상기 적어도 하나의 어플리케이션을 실행하는 제 1 코어 및 상기 적어도 하나의 어플리케이션이 수반하는 패킷 프로세싱을 수행하는 제 2 코어의 조합을 결정하도록 구성되는,
다중 코어 할당 장치.
a monitoring unit for monitoring a service load corresponding to a service request for at least one application running in a multi-core environment; and
A core allocator for allocating the multiple cores based on the service load
including,
The core allocating unit,
According to the change of the service load,
configured to determine a combination of a first core that executes the at least one application in response to the service request and a second core that performs packet processing accompanying the at least one application,
Multi-core allocation device.
 제 1 항에 있어서,
상기 모니터링부는,
주기적으로 상기 서비스 부하를 모니터링하는,
다중 코어 할당 장치.
The method of claim 1,
The monitoring unit,
periodically monitoring the service load;
Multi-core allocation device.
 제 1 항에 있어서,
상기 모니터링부는,
단위 시간당 수신된 상기 서비스 요청의 수에 기반하여 상기 서비스 부하를 획득하는,
다중 코어 할당 장치.
The method of claim 1,
The monitoring unit,
obtaining the service load based on the number of service requests received per unit time;
Multi-core allocation device.
 제 1 항에 있어서,
상기 서비스 부하 및 상기 서비스 부하에 따른 상기 제 1 코어 및 상기 제 2 코어의 조합에 대한 오프라인 프로파일링을 수행하는 프로세서
를 더 포함하고,
상기 프로세서는,
사전정의된 서비스 부하를 처리하기 위한 에너지 소모량 및 지연시간에 기반하여 각 사전정의된 서비스 부하에 대한 상기 제 1 코어 및 상기 제 2 코어의 조합을 결정하도록 구성되는,
다중 코어 할당 장치.
The method of claim 1,
A processor that performs offline profiling on the combination of the first core and the second core according to the service load and the service load
further comprising,
The processor is
and determine a combination of the first core and the second core for each predefined service load based on energy consumption and latency for processing the predefined service load.
Multi-core allocation device.
 제 4 항에 있어서,
상기 코어할당부는
상기 오프라인 프로파일링의 결과에 기반하여 상기 서비스 부하에 대한 상기 제 1 코어 및 상기 제 2 코어의 조합을 결정하는,
다중 코어 할당 장치.
5. The method of claim 4,
The core allocation unit
determining a combination of the first core and the second core for the service load based on a result of the offline profiling,
Multi-core allocation device.
 제 4 항에 있어서,
상기 오프라인 프로파일링의 결과를 각 서비스 부하에 대한 상기 제 1 코어 및 상기 제 2 코어의 조합의 매핑 테이블로 저장하는 메모리
를 더 포함하는,
다중 코어 할당 장치.
5. The method of claim 4,
A memory for storing a result of the offline profiling as a mapping table of a combination of the first core and the second core for each service load
further comprising,
Multi-core allocation device.
 제 1 항에 있어서,
상기 조합은 상기 제 1 코어의 수 및 상기 제 2 코어의 수의 페어(pair)에 대응하고,
상기 코어할당부는,
상기 다중 코어 환경을 구성하는 하나 이상의 코어 중에서 상기 제 1 코어의 수만큼의 코어를 상기 제 1 코어로 할당하고,
상기 하나 이상의 코어 중에서 상기 제 2 코어의 수만큼의 코어를 상기 제 2 코어로 할당하는,
다중 코어 할당 장치.
The method of claim 1,
the combination corresponds to a pair of the number of the first core and the number of the second core,
The core allocating unit,
Allocating as many cores as the number of the first cores as the first cores among one or more cores constituting the multi-core environment,
Allocating as many cores as the number of the second cores as the second cores among the one or more cores,
Multi-core allocation device.
 제 7 항에 있어서,
상기 코어할당부는,
상기 제 1 코어와 상기 제 2 코어가 서로 중복되도록 상기 제 1 코어 및 상기 제 2 코어를 할당하는,
다중 코어 할당 장치.
8. The method of claim 7,
The core allocating unit,
Allocating the first core and the second core so that the first core and the second core overlap each other,
Multi-core allocation device.
 모니터링부에 의해, 다중 코어 환경에서 실행 중인 적어도 하나의 어플리케이션에 대한 서비스 요청에 대응하는 서비스 부하를 모니터링하는 단계; 및
코어할당부에 의해, 상기 서비스 부하에 기반하여 상기 다중 코어를 할당하는 단계
를 포함하고,
상기 다중 코어를 할당하는 단계는,
상기 서비스 부하의 변화에 따라,
상기 서비스 요청에 응답하여 상기 적어도 하나의 어플리케이션을 실행하는 제 1 코어 및 상기 적어도 하나의 어플리케이션이 수반하는 패킷 프로세싱을 수행하는 제 2 코어의 조합을 결정하는 단계
를 포함하는,
다중 코어 할당 방법.
monitoring, by the monitoring unit, a service load corresponding to a service request for at least one application running in a multi-core environment; and
allocating, by the core allocator, the multiple cores based on the service load
including,
Allocating the multiple cores comprises:
According to the change of the service load,
Determining a combination of a first core that executes the at least one application in response to the service request and a second core that performs packet processing accompanying the at least one application
containing,
How to allocate multiple cores.
 제 9 항에 있어서,
상기 모니터링하는 단계는,
주기적으로 상기 서비스 부하를 모니터링하는,
다중 코어 할당 방법.
10. The method of claim 9,
The monitoring step is
periodically monitoring the service load;
How to allocate multiple cores.
 제 9 항에 있어서,
상기 모니터링하는 단계는,
단위 시간당 수신된 상기 서비스 요청의 수에 기반하여 상기 서비스 부하를 획득하는 단계
를 포함하는,
다중 코어 할당 방법.
10. The method of claim 9,
The monitoring step is
acquiring the service load based on the number of service requests received per unit time
containing,
How to allocate multiple cores.
 제 9 항에 있어서,
프로세서에 의해, 상기 서비스 부하 및 상기 서비스 부하에 따른 상기 제 1 코어 및 상기 제 2 코어의 조합에 대한 오프라인 프로파일링을 수행하는 단계
를 더 포함하고,
상기 오프라인 프로파일링을 수행하는 단계는,
사전정의된 서비스 부하를 처리하기 위한 에너지 소모량 및 지연시간에 기반하여 각 사전정의된 서비스 부하에 대한 상기 제 1 코어 및 상기 제 2 코어의 조합을 결정하는 단계
를 포함하는,
다중 코어 할당 방법.
10. The method of claim 9,
performing, by the processor, offline profiling on the service load and the combination of the first core and the second core according to the service load
further comprising,
The step of performing the offline profiling includes:
determining a combination of the first core and the second core for each predefined service load based on energy consumption and latency for processing the predefined service load;
containing,
How to allocate multiple cores.
 제 12 항에 있어서,
상기 제 1 코어 및 상기 제 2 코어의 조합을 결정하는 단계,
상기 오프라인 프로파일링의 결과에 기반하여 상기 서비스 부하에 대한 상기 제 1 코어 및 상기 제 2 코어의 조합을 결정하는 단계
를 포함하는,
다중 코어 할당 방법.
13. The method of claim 12,
determining a combination of the first core and the second core;
determining a combination of the first core and the second core for the service load based on a result of the offline profiling;
containing,
How to allocate multiple cores.
 제 12 항에 있어서,
메모리에, 상기 오프라인 프로파일링의 결과를 각 서비스 부하에 대한 상기 제 1 코어 및 상기 제 2 코어의 조합의 매핑 테이블로 저장하는 단계
를 더 포함하는,
다중 코어 할당 방법.
13. The method of claim 12,
Storing, in a memory, the result of the offline profiling as a mapping table of a combination of the first core and the second core for each service load;
further comprising,
How to allocate multiple cores.
 제 9 항에 있어서,
상기 조합은 상기 제 1 코어의 수 및 상기 제 2 코어의 수의 페어(pair)에 대응하고,
상기 다중 코어를 할당하는 단계는,
상기 다중 코어 환경을 구성하는 하나 이상의 코어 중에서 상기 제 1 코어의 수만큼의 코어를 상기 제 1 코어로 할당하는 단계; 및
상기 하나 이상의 코어 중에서 상기 제 2 코어의 수만큼의 코어를 상기 제 2 코어로 할당하는 단계
를 포함하는,
다중 코어 할당 방법.
10. The method of claim 9,
the combination corresponds to a pair of the number of the first core and the number of the second core,
Allocating the multiple cores comprises:
allocating as many cores as the number of the first cores to the first cores among one or more cores constituting the multi-core environment; and
Allocating as many cores as the number of the second cores as the second cores among the one or more cores
containing,
How to allocate multiple cores.
 제 15 항에 있어서,
상기 다중 코어를 할당하는 단계는,
상기 제 1 코어와 상기 제 2 코어가 서로 중복되도록 상기 제 1 코어 및 상기 제 2 코어를 할당하는 단계
를 더 포함하는
다중 코어 할당 장치.16. The method of claim 15,
Allocating the multiple cores comprises:
allocating the first core and the second core so that the first core and the second core overlap each other
further comprising
Multi-core allocation device.
KR1020200185101A 2020-12-28 2020-12-28 Apparatus and method for multicore allocation KR102442675B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200185101A KR102442675B1 (en) 2020-12-28 2020-12-28 Apparatus and method for multicore allocation
PCT/KR2021/009997 WO2022145613A1 (en) 2020-12-28 2021-07-30 Multi-core assigning device and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200185101A KR102442675B1 (en) 2020-12-28 2020-12-28 Apparatus and method for multicore allocation

Publications (2)

Publication Number Publication Date
KR20220093923A true KR20220093923A (en) 2022-07-05
KR102442675B1 KR102442675B1 (en) 2022-09-08

Family

ID=82260475

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200185101A KR102442675B1 (en) 2020-12-28 2020-12-28 Apparatus and method for multicore allocation

Country Status (2)

Country Link
KR (1) KR102442675B1 (en)
WO (1) WO2022145613A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115981819B (en) * 2022-12-30 2023-10-24 摩尔线程智能科技(北京)有限责任公司 Core scheduling method and device for multi-core system

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070234365A1 (en) * 2006-03-30 2007-10-04 Savit Jeffrey B Computer resource management for workloads or applications based on service level objectives
US20160269319A1 (en) * 2015-03-13 2016-09-15 Microsoft Technology Licensing, Llc Intelligent Placement within a Data Center
KR20170139763A (en) * 2016-06-10 2017-12-20 한국전자통신연구원 Method for detecting service of network and apparatus using the same
US10020979B1 (en) * 2014-03-25 2018-07-10 A10 Networks, Inc. Allocating resources in multi-core computing environments
KR20200112439A (en) * 2019-03-22 2020-10-05 삼성전자주식회사 An electronic device comprising multi-cores and method for processing packet in the same
US20200348979A1 (en) * 2019-05-01 2020-11-05 EMC IP Holding Company LLC Adaptive Controller for Online Adaptation of Resource Allocation Policies for Iterative Workloads Using Reinforcement Learning

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070234365A1 (en) * 2006-03-30 2007-10-04 Savit Jeffrey B Computer resource management for workloads or applications based on service level objectives
US10020979B1 (en) * 2014-03-25 2018-07-10 A10 Networks, Inc. Allocating resources in multi-core computing environments
US20160269319A1 (en) * 2015-03-13 2016-09-15 Microsoft Technology Licensing, Llc Intelligent Placement within a Data Center
KR20170139763A (en) * 2016-06-10 2017-12-20 한국전자통신연구원 Method for detecting service of network and apparatus using the same
KR20200112439A (en) * 2019-03-22 2020-10-05 삼성전자주식회사 An electronic device comprising multi-cores and method for processing packet in the same
US20200348979A1 (en) * 2019-05-01 2020-11-05 EMC IP Holding Company LLC Adaptive Controller for Online Adaptation of Resource Allocation Policies for Iterative Workloads Using Reinforcement Learning

Also Published As

Publication number Publication date
WO2022145613A1 (en) 2022-07-07
KR102442675B1 (en) 2022-09-08

Similar Documents

Publication Publication Date Title
Tootoonchian et al. {ResQ}: Enabling {SLOs} in Network Function Virtualization
CN107003887B (en) CPU overload setting and cloud computing workload scheduling mechanism
JP6278320B2 (en) End-to-end data center performance control
Wood et al. Sandpiper: Black-box and gray-box resource management for virtual machines
Javadi et al. Scavenger: A black-box batch workload resource manager for improving utilization in cloud environments
US20160054774A1 (en) Profiling a job power and energy consumption for a data processing system
US9934062B2 (en) Technologies for dynamically allocating hardware acceleration units to process data packets
US20120317578A1 (en) Scheduling Execution of Complementary Jobs Based on Resource Usage
US20110106949A1 (en) Balancing Server Load According To Availability Of Physical Resources
JP2016505965A5 (en) Provide quality of service to multiple virtual machines and multiple applications with priorities based on the quality of multiple shared resources
WO2011155233A1 (en) Cluster configuration management method, management device, and storage medium wherein program is stored
JP2009181578A (en) Method and device for dynamically allocating resources to a plurality of virtual machines
JP2002215408A (en) Computer and its inputting-outputting means
US20110173319A1 (en) Apparatus and method for operating server using virtualization technique
US10862616B2 (en) Communication processing apparatus and communication processing method
KR102442675B1 (en) Apparatus and method for multicore allocation
Roytman et al. Algorithm design for performance aware VM consolidation
Cerritos et al. High scalability for cloud-based IoT/M2M systems
Gandhi et al. The unobservability problem in clouds
Oh et al. Persistent memory aware performance isolation with dicio
KR101394365B1 (en) Apparatus and method for allocating processor in virtualization environment
CN105335234A (en) Method for immediately migrating virtual machine
US20190007747A1 (en) Technologies for providing adaptive platform quality of service
JP6600250B2 (en) Control device and program for packet transfer device having multi-core CPU
US11816043B2 (en) System and method for managing resources of a storage device and quantifying the cost of I/O requests

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant