KR102247888B1 - System for cloud streaming service, method of image cloud streaming service based on selective streaming pipeline method and apparatus for the same - Google Patents

System for cloud streaming service, method of image cloud streaming service based on selective streaming pipeline method and apparatus for the same Download PDF

Info

Publication number
KR102247888B1
KR102247888B1 KR1020150000828A KR20150000828A KR102247888B1 KR 102247888 B1 KR102247888 B1 KR 102247888B1 KR 1020150000828 A KR1020150000828 A KR 1020150000828A KR 20150000828 A KR20150000828 A KR 20150000828A KR 102247888 B1 KR102247888 B1 KR 102247888B1
Authority
KR
South Korea
Prior art keywords
processing
service
pipeline
cloud streaming
pipeline processing
Prior art date
Application number
KR1020150000828A
Other languages
Korean (ko)
Other versions
KR20160084214A (en
Inventor
이동수
윤홍서
Original Assignee
에스케이플래닛 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이플래닛 주식회사 filed Critical 에스케이플래닛 주식회사
Priority to KR1020150000828A priority Critical patent/KR102247888B1/en
Publication of KR20160084214A publication Critical patent/KR20160084214A/en
Application granted granted Critical
Publication of KR102247888B1 publication Critical patent/KR102247888B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00Digital computers in general; Data processing equipment in general
    • G06F15/16Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream

Abstract

클라우드 스트리밍 서비스 시스템, 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치가 개시된다. 복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공하고, 서비스 처리 요구 시간 및 예측 처리 시간을 이용하여 서비스 처리 요구 시간 내에 서비스를 처리하도록 파이프라인 처리 방식들 중 하나를 결정하고, 결정된 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공할 수 있다. 사용자에게 서비스를 제공하는데 차질이 없으면서 가장 효율적으로 클라우드 스트리밍 서버의 자원을 사용할 수 있는 이미지 클라우드 스트리밍 서비스 방법으로 제공하는 것이 가능하다.Disclosed are a cloud streaming service system, an image cloud streaming service method based on an optional streaming pipeline method, and an apparatus therefor. Provides predicted processing time for a plurality of pipeline processing methods, and determines one of the pipeline processing methods to process the service within the service processing request time by using the service processing request time and the predicted processing time, and An image cloud streaming service can be provided to a user terminal by performing a procedure of rendering, capturing, encoding, and sending corresponding to the pipeline processing method. It is possible to provide the image cloud streaming service method that can use the resources of the cloud streaming server most efficiently without any obstacles in providing the service to the user.

Description

클라우드 스트리밍 서비스 시스템, 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치 {SYSTEM FOR CLOUD STREAMING SERVICE, METHOD OF IMAGE CLOUD STREAMING SERVICE BASED ON SELECTIVE STREAMING PIPELINE METHOD AND APPARATUS FOR THE SAME}Cloud streaming service system, image cloud streaming service method based on the optional streaming pipeline method, and devices therefor {SYSTEM FOR CLOUD STREAMING SERVICE, METHOD OF IMAGE CLOUD STREAMING SERVICE BASED ON SELECTIVE STREAMING PIPELINE METHOD AND APPARATUS FOR THE SAME}

본 발명은 서비스 처리를 위한 파이프라인 처리 방식을 선택하여 이미지 클라우드 스트리밍 서비스를 제공하는 기술에 관한 것으로, 특히, 서비스를 처리하는데 요구된 시간이나 서비스를 처리하는 코스트를 고려하여 가장 효율적인 파이프라인 처리 방식을 선택하여 서비스를 제공할 수 있는 클라우드 스트리밍 서비스 시스템, 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치에 관한 것이다.The present invention relates to a technology for providing an image cloud streaming service by selecting a pipeline processing method for service processing. In particular, the most efficient pipeline processing method in consideration of the time required to process the service or the cost of processing the service. The present invention relates to a cloud streaming service system capable of selecting and providing a service, an image cloud streaming service method based on a selective streaming pipeline method, and an apparatus therefor.

최근 인터넷의 발달로 인해 개인용 모바일 통신기기를 이용한 통신의 속도가 급격하게 향상되고, 이를 기반으로 원격지 컴퓨터 접속을 통해 대용량의 데이터를 다운로드 및 업로드하거나, 원격지 컴퓨터에 로컬 로그인하는 것과 같은 인터넷 환경이 조성되었다. 또한, 스마트폰과 같은 이동통신 단말에서 구동되는 어플리케이션이 다양하게 개발되면서, 비교적 낮은 성능의 사용자 단말에서 높은 성능을 필요로 하는 어플리케이션을 구동하기 위한 가상화 기술들이 많이 제안되고 있다. 그 중에서 어플리케이션을 서버에서 구동시키고 구동화면은 비디오 인코딩(Encoding)을 통해 압축하여 클라이언트로 전송하고, 클라이언트는 전송된 비디오를 재생하여 마치 자신의 단말에서 어플리케이션이 구동되는 것과 같은 효과를 내는 화면 가상화 기반의 클라우드 스트리밍 서비스가 각광받고 있는 추세이다.Due to the recent development of the Internet, the speed of communication using personal mobile communication devices has rapidly improved, and based on this, an Internet environment such as downloading and uploading large amounts of data through a remote computer connection, or local login to a remote computer is created. Became. In addition, as applications driven in a mobile communication terminal such as a smart phone have been developed in various ways, many virtualization technologies for driving applications requiring high performance in a user terminal having a relatively low performance have been proposed. Among them, the application is run on the server, the driving screen is compressed through video encoding and transmitted to the client, and the client plays the transmitted video to create the same effect as running the application on its own terminal based on screen virtualization. The cloud streaming service of is in the spotlight.

이와 같은 클라우드 스트리밍 서비스는 서버에 구비된 제한적인 자원을 이용하여 어플리케이션 구동화면을 처리하기 때문에 서버의 자원을 얼마나 효율적으로 사용하는지가 클라우드 스트리밍 서비스 기술의 포인트가 될 수 있다. 예를 들어, 서버로 요청되는 서비스마다 서비스를 제공받기 위해 걸리는 시간이나 자원의 소모량이 각각 상이하기 때문에 이러한 차이점에 따라 서비스 처리 방법을 선택적으로 구별하여 서비스 요청을 처리하면 같은 양의 자원만으로도 동시에 더 많은 수의 서비스 요청을 처리할 수 있다.Since such a cloud streaming service processes application driving screens using limited resources provided in the server, how efficiently the server resources are used can be a point of cloud streaming service technology. For example, since the time it takes to receive the service and the amount of resource consumption are different for each service requested to the server, if the service request is processed by selectively distinguishing the service processing method according to these differences, the same amount of resources can be used. It can handle a large number of service requests.

한국 공개 특허 제10-2014-0002027호, 2014년 1월 7일 공개 (명칭: 휴대용 컴퓨팅 디바이스의 멀티코어 프로세서에서 다수의 코어들로의 전력을 동적으로 제어하는 방법 및 시스템)Korean Patent Publication No. 10-2014-0002027, published on January 7, 2014 (Name: Method and system for dynamically controlling power to multiple cores in a multi-core processor of a portable computing device)

본 발명의 목적은, 사용자로부터 수신되는 서비스 요청에 따라 프레임을 처리하기 위한 스트리밍 파이프 라인을 선택적으로 사용함으로써 사용자에게 서비스를 제공하는데 차질이 없으면서 가장 효율적으로 클라우드 스트리밍 서버의 자원을 사용하기 위한 이미지 클라우드 스트리밍 서비스 방법을 제공하는 것이다.It is an object of the present invention to provide an image cloud for the most efficient use of the resources of a cloud streaming server without disruption in providing a service to a user by selectively using a streaming pipeline for processing frames according to a service request received from a user. It is to provide a streaming service method.

또한, 본 발명의 목적은 클라우드 스트리밍 서버에 GPU 자원이 존재하지 않고 CPU 자원만이 존재할 경우에도 최대한 사용자의 요구 처리 시간을 만족시킬 수 있는 클라우드 스트리밍 서비스 방법을 제공하는 것이다.In addition, an object of the present invention is to provide a cloud streaming service method capable of satisfying a user's request processing time as much as possible even when a GPU resource does not exist in a cloud streaming server and only a CPU resource exists.

상기한 목적을 달성하기 위한 본 발명에 따른 클라우드 스트리밍 서버는, 복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공하는 예측 처리 시간 제공부; 서비스 처리 요구 시간 및 상기 예측 처리 시간을 이용하여 상기 서비스 처리 요구 시간 내에 상기 서비스를 처리하도록 상기 파이프라인 처리 방식들 중 하나를 결정하는 처리 방식 결정부; 및 결정된 상기 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공하는 제어부를 포함한다.In order to achieve the above object, a cloud streaming server according to the present invention includes: a prediction processing time providing unit for providing a prediction processing time for a plurality of pipeline processing methods; A processing method determination unit that determines one of the pipeline processing methods to process the service within the service processing request time using a service processing request time and the predicted processing time; And a control unit for providing an image cloud streaming service to a user terminal by performing a procedure of rendering, capturing, encoding, and sending corresponding to the determined pipeline processing method.

이 때, 처리 방식 결정부는 상기 복수개의 파이프라인 처리 방식들 중 상기 예측 처리 시간이 상기 서비스 처리 요구 시간 보다 적은 후보 파이프라인 처리 방식들을 구분하고, 상기 후보 파이프라인 처리 방식들 중 처리 코스트가 가장 작은 상기 하나의 파이프라인 처리 방식을 결정할 수 있다.In this case, the processing method determining unit classifies candidate pipeline processing methods whose prediction processing time is less than the service processing request time among the plurality of pipeline processing methods, and has the lowest processing cost among the candidate pipeline processing methods. The single pipeline processing method may be determined.

이 때, 하나의 파이프라인 처리 방식은 단일 파이프라인 처리 방식, 다중 파이프라인 처리 방식 및 단일 파이프라인-다중 인코딩 처리방식 중 어느 하나에 상응할 수 있다.In this case, one pipeline processing method may correspond to any one of a single pipeline processing method, a multiple pipeline processing method, and a single pipeline-multiple encoding processing method.

이 때, 처리 코스트는 상기 다중 파이프라인 처리 방식이 가장 크고, 상기 단일 파이프라인 처리 방식이 가장 작을 수 있다.In this case, the processing cost may be the largest in the multi-pipeline processing method, and the smallest in the single pipeline processing method.

이 때, 예측 처리 시간 제공부는 상기 복수개의 파이프라인 처리 방식들을 각각 이용하여 하나의 세션을 처리할 때 걸린 시간의 통계값을 기반으로 상기 예측 처리 시간을 제공할 수 있다.In this case, the prediction processing time providing unit may provide the prediction processing time based on a statistical value of a time taken when processing one session using each of the plurality of pipeline processing methods.

이 때, 서비스 처리 요구 시간은 상기 서비스의 결과 화면을 구성하는 각각의 프레임에 대한 제한 프레임 처리 시간을 기반으로 획득할 수 있다.In this case, the service processing request time may be obtained based on the limited frame processing time for each frame constituting the result screen of the service.

또한, 본 발명에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은, 복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공하는 단계; 서비스 처리 요구 시간 및 상기 예측 처리 시간을 이용하여 상기 서비스 처리 요구 시간 내에 상기 서비스를 처리하도록 상기 파이프라인 처리 방식들 중 하나를 결정하는 단계; 및 결정된 상기 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공하는 단계를 포함한다.In addition, the image cloud streaming service method based on the selective streaming pipeline method according to the present invention includes: providing a prediction processing time for a plurality of pipeline processing methods; Determining one of the pipeline processing methods to process the service within the service processing request time using a service processing request time and the predicted processing time; And providing an image cloud streaming service to a user terminal by performing a procedure of rendering, capturing, encoding, and sending corresponding to the determined one pipeline processing method.

이 때, 결정하는 단계는 상기 복수개의 파이프라인 처리 방식들 중 상기 예측 처리 시간이 상기 서비스 처리 요구 시간 보다 적은 후보 파이프라인 처리 방식들을 구분하고, 상기 후보 파이프라인 처리 방식들 중 처리 코스트가 가장 작은 상기 하나의 파이프라인 처리 방식을 결정할 수 있다.In this case, the determining step may include classifying candidate pipeline processing methods whose prediction processing time is less than the service processing request time among the plurality of pipeline processing methods, and having the smallest processing cost among the candidate pipeline processing methods. The single pipeline processing method may be determined.

이 때, 하나의 파이프라인 처리 방식은 단일 파이프라인 처리 방식, 다중 파이프라인 처리 방식 및 단일 파이프라인-다중 인코딩 처리방식 중 어느 하나에 상응할 수 있다.In this case, one pipeline processing method may correspond to any one of a single pipeline processing method, a multiple pipeline processing method, and a single pipeline-multiple encoding processing method.

이 때, 처리 코스트는 상기 다중 파이프라인 처리 방식이 가장 크고, 상기 단일 파이프라인 처리 방식이 가장 작을 수 있다.In this case, the processing cost may be the largest in the multi-pipeline processing method, and the smallest in the single pipeline processing method.

이 때, 예측 처리 시간을 제공하는 단계는 상기 복수개의 파이프라인 처리 방식들을 각각 이용하여 하나의 세션을 처리할 때 걸린 시간의 통계값을 기반으로 상기 예측 처리 시간을 제공할 수 있다.In this case, in the providing of the prediction processing time, the prediction processing time may be provided based on a statistical value of a time taken when processing one session using each of the plurality of pipeline processing methods.

이 때, 서비스 처리 요구 시간은 상기 서비스의 결과 화면을 구성하는 각각의 프레임에 대한 제한 프레임 처리 시간을 기반으로 획득할 수 있다.In this case, the service processing request time may be obtained based on the limited frame processing time for each frame constituting the result screen of the service.

또한, 본 발명의 과제 해결을 위한 또 다른 수단으로써, 상술한 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램을 제공한다.In addition, as another means for solving the problem of the present invention, a computer program stored in a medium is provided in order to execute the above-described method.

또한, 본 발명에 따른 클라우드 스트리밍 서비스 시스템은 복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공하고, 서비스 처리 요구 시간 및 상기 예측 처리 시간을 이용하여 상기 서비스 처리 요구 시간 내에 상기 서비스를 처리하도록 상기 파이프라인 처리 방식 중 하나를 결정하고, 결정된 상기 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 사용자에게 이미지 클라우드 스트리밍 서비스를 수행하는 클라우드 스트리밍 서버; 및 상기 클라우드 스트리밍 서버로부터 상기 이미지 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하는 단말을 포함한다.In addition, the cloud streaming service system according to the present invention provides a prediction processing time for a plurality of pipeline processing methods, and processes the service within the service processing request time by using the service processing request time and the prediction processing time. A cloud streaming server that determines one of the pipeline processing methods and performs an image cloud streaming service to a user by performing a procedure of rendering, capturing, encoding, and sending corresponding to the determined pipeline processing method; And a terminal receiving an application execution result screen corresponding to the image cloud streaming service from the cloud streaming server.

본 발명에 따르면, 사용자로부터 수신되는 서비스 요청에 따라 프레임을 처리하기 위한 스트리밍 파이프 라인을 선택적으로 사용함으로써 사용자에게 서비스를 제공하는데 차질이 없으면서 가장 효율적으로 클라우드 스트리밍 서버의 자원을 사용하기 위한 이미지 클라우드 스트리밍 서비스 방법을 제공할 수 있다.According to the present invention, by selectively using a streaming pipeline to process frames according to a service request received from a user, there is no obstacle in providing a service to a user, and image cloud streaming to use the resources of the cloud streaming server most efficiently. Service method can be provided.

또한, 본 발명은 클라우드 스트리밍 서버에 GPU 자원이 존재하지 않고 CPU 자원만이 존재할 경우에도 최대한 사용자의 요구 처리 시간을 만족시킬 수 있는 클라우드 스트리밍 서비스 방법을 제공할 수 있다.In addition, the present invention can provide a cloud streaming service method capable of satisfying a user's request processing time as much as possible even when there is no GPU resource and only CPU resources exist in the cloud streaming server.

도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 3은 본 발명의 일실시예에 따른 단일 파이프라인 처리 방식을 나타낸 도면이다.
도 4는 본 발명의 일실시예에 따른 다중 파이프라인 처리 방식을 나타낸 도면이다.
도 5는 본 발명의 일실시예에 따른 단일 파이프라인-다중 인코딩 처리 방식을 나타낸 도면이다.
도 6은 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.
도 7은 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법을 상세하게 나타낸 동작 흐름도이다.
1 is a block diagram showing a cloud streaming service system according to an embodiment of the present invention.
FIG. 2 is a block diagram illustrating an example of a cloud streaming server shown in FIG. 1.
3 is a diagram showing a single pipeline processing method according to an embodiment of the present invention.
4 is a diagram showing a method of processing multiple pipelines according to an embodiment of the present invention.
5 is a diagram illustrating a single pipeline-multiple encoding processing method according to an embodiment of the present invention.
6 is a flowchart illustrating an image cloud streaming service method based on a selective streaming pipeline method according to an embodiment of the present invention.
7 is an operation flowchart showing in detail an image cloud streaming service method based on a selective streaming pipeline method according to an embodiment of the present invention.

이하 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. However, in the following description and the accompanying drawings, detailed descriptions of known functions or configurations that may obscure the subject matter of the present invention will be omitted. In addition, it should be noted that the same components are denoted by the same reference numerals as much as possible throughout the drawings.

이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다. 또한 제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하기 위해 사용하는 것으로, 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 뿐, 상기 구성요소들을 한정하기 위해 사용되지 않는다.The terms or words used in the present specification and claims described below should not be construed as being limited to their usual or dictionary meanings, and the inventors are appropriate as the concept of terms for describing their own invention in the best way. It should be interpreted as a meaning and concept consistent with the technical idea of the present invention on the basis of the principle that it can be defined. Therefore, the embodiments described in the present specification and the configurations shown in the drawings are only the most preferred embodiments of the present invention, and do not represent all of the technical spirit of the present invention. It should be understood that there may be equivalents and variations. In addition, terms such as first and second are used to describe various elements, and are only used for the purpose of distinguishing one element from other elements, and are not used to limit the elements.

도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.1 is a block diagram showing a cloud streaming service system according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템은 클라우드 스트리밍 서버(110), 단말 장치들(120-1, 120-2, ..., 120-N) 및 네트워크(130)를 포함한다.1, a cloud streaming service system according to an embodiment of the present invention includes a cloud streaming server 110, terminal devices 120-1, 120-2, ..., 120-N, and a network 130 ).

클라우드 스트리밍 서버(110)는 복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공한다. 이 때, 복수개의 파이프라인 처리 방식들을 각각 이용하여 하나의 세션을 처리할 때 걸린 시간의 통계값을 기반으로 예측 처리 시간을 제공할 수 있다.The cloud streaming server 110 provides prediction processing time for a plurality of pipeline processing methods. In this case, a prediction processing time may be provided based on a statistical value of a time taken when processing one session by using a plurality of pipeline processing methods, respectively.

또한, 클라우드 스트리밍 서버(110)는 서비스 처리 요구 시간 및 예측 처리 시간을 이용하여 서비스 처리 요구 시간 내에 서비스를 처리하도록 파이프라인 처리 방식들 중 하나를 결정한다. 이 때, 복수개의 파이프라인 처리 방식들 중 예측 처리 시간이 서비스 처리 요구 시간 보다 적은 후보 파이프라인 처리 방식들을 구분하고, 후보 파이프라인 처리 방식들 중 처리 코스트가 가장 작은 하나의 파이프라인 처리 방식을 결정할 수 있다. 이 때, 하나의 파이프라인 처리 방식은 단일 파이프라인 처리 방식, 다중 파이프라인 처리 방식 및 단일 파이프라인-다중 인코딩 처리방식 중 어느 하나에 상응할 수 있다. 이 때, 처리 코스트는 다중 파이프라인 처리 방식이 가장 크고, 단일 파이프라인 처리 방식이 가장 작을 수 있다. 이 때, 서비스 처리 요구 시간은 서비스의 결과 화면을 구성하는 각각의 프레임에 대한 제한 프레임 처리 시간을 기반으로 획득할 수 있다.In addition, the cloud streaming server 110 determines one of the pipeline processing methods to process the service within the service processing request time by using the service processing request time and the predicted processing time. At this time, among the plurality of pipeline processing methods, candidate pipeline processing methods whose predicted processing time is less than the service processing request time are identified, and one of the candidate pipeline processing methods, which has the lowest processing cost, is determined. I can. In this case, one pipeline processing method may correspond to any one of a single pipeline processing method, a multiple pipeline processing method, and a single pipeline-multiple encoding processing method. In this case, the processing cost may be the largest in the multi-pipeline processing method, and the smallest in the single pipeline processing method. In this case, the service processing request time may be obtained based on the limited frame processing time for each frame constituting the service result screen.

또한, 클라우드 스트리밍 서버(110)는 결정된 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 단말 장치들(120-1, 120-2, ..., 120-N)로 이미지 클라우드 스트리밍 서비스를 제공한다.In addition, the cloud streaming server 110 performs a procedure of rendering, capturing, encoding, and sending corresponding to the determined one pipeline processing method, so that the terminal devices 120-1, 120-2, ..., 120-N ) To provide image cloud streaming service.

단말 장치들(120-1, 120-2, ..., 120-N)은 클라우드 스트리밍 서버(110)로부터 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하여 사용자에게 제공한다.The terminal devices 120-1, 120-2, ..., 120-N receive an application execution result screen corresponding to the cloud streaming service from the cloud streaming server 110 and provide it to the user.

단말 장치들(120-1, 120-2, ..., 120-N)은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말 장치들(120-1, 120-2, ..., 120-N)은 각각 휴대폰, PMP(Portable Multimedia Played), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net Book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.Terminal devices 120-1, 120-2, ..., 120-N are devices that are connected to a communication network and can execute applications based on a cloud computing system, and are not limited to mobile communication terminals, and all information communication It may be a variety of terminals such as a device, a multimedia terminal, a wired terminal, a fixed terminal, and an Internet Protocol (IP) terminal. In addition, the terminal devices 120-1, 120-2, ..., 120-N are mobile phones, portable multimedia played (PMP), mobile internet devices (MID), smart phones, and desktop devices, respectively. ), Tablet PC, Notebook (Note book), Net Book, Personal Digital Assistant (PDA), Smart TV, Mobile with various mobile communication specifications such as information and communication devices, etc. ) It may be a terminal.

네트워크(130)는 클라우드 스트리밍 서버(110)및 단말 장치들(120-1, 120-2, ..., 120-N) 사이에 데이터를 전달하는 통로를 제공하는 것으로서, 기존에 이용되는 네트워크 및 향후 개발 가능한 네트워크를 모두 포괄하는 개념이다. 예를 들어, 네트워크(130)는 한정된 지역 내에서 각종 정보장치들의 통신을 제공하는 유무선근거리 통신망, 이동체 상호 간 및 이동체와 이동체 외부와의 통신을 제공하는 이동통신망, 위성을 이용해 지구국과 지구국간 통신을 제공하는 위성통신망이거나 유무선 통신망 중에서 어느 하나이거나, 둘 이상의 결합으로 이루어질 수 있다. 한편, 네트워크(130)의 전송 방식 표준은, 기존의 전송 방식 표준에 한정되는 것은 아니며, 향후 개발될 모든 전송 방식 표준을 포함할 수 있다. 또한, 도 1에서 클라우드 스트리밍 서버(110)와 단말 장치들(120-1, 120-2, ..., 120-N) 사이에 사용되는 네트워크는 단말 장치들(120-1, 120-2, ..., 120-N) 상호간에 사용되는 네트워크와 상이한 것일 수도 있고, 동일한 것일 수도 있다.The network 130 provides a path for transferring data between the cloud streaming server 110 and the terminal devices 120-1, 120-2, ..., 120-N, and It is a concept that encompasses all networks that can be developed in the future. For example, the network 130 is a wired/wireless local area communication network that provides communication of various information devices within a limited area, a mobile communication network that provides communication between mobiles and the mobile and the outside of the mobile, and communicates between the earth station and the earth station using satellites. It may be a satellite communication network, a wired or wireless communication network, or a combination of two or more. Meanwhile, the transmission method standard of the network 130 is not limited to the existing transmission method standard, and may include all transmission method standards to be developed in the future. In addition, the network used between the cloud streaming server 110 and the terminal devices 120-1, 120-2, ..., 120-N in FIG. 1 is the terminal devices 120-1, 120-2, ..., 120-N) It may be different from the network used for each other, or it may be the same.

도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.FIG. 2 is a block diagram illustrating an example of a cloud streaming server shown in FIG. 1.

도 2를 참조하면, 도 1에 도시된 클라우드 스트리밍 서버는 통신부(210), 예측 처리 시간 제공부(220), 처리 방식 결정부(230), 제어부(240) 및 저장부(250)를 포함한다.Referring to FIG. 2, the cloud streaming server illustrated in FIG. 1 includes a communication unit 210, a prediction processing time providing unit 220, a processing method determination unit 230, a control unit 240, and a storage unit 250. .

통신부(210)는 도 1에 도시된 네트워크와 같은 통신망을 통해 다수의 단말들과 관련된 정보를 송수신하는 역할을 한다. 특히, 본 발명의 실시예에 따른 통신부(210)는 클라우드 스트리밍 서비스에 대한 요청을 단말로부터 수신하고, 단말이 요청한 클라우드 스트리밍 서비스에 상응하는 어플리케이션의 실행 결과 화면을 단말로 제공할 수 있다.The communication unit 210 serves to transmit and receive information related to a plurality of terminals through a communication network such as the network shown in FIG. 1. In particular, the communication unit 210 according to an embodiment of the present invention may receive a request for a cloud streaming service from a terminal and provide an execution result screen of an application corresponding to the cloud streaming service requested by the terminal to the terminal.

예측 처리 시간 제공부(220)는 복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공한다.The prediction processing time providing unit 220 provides prediction processing time for a plurality of pipeline processing methods.

이 때, 복수개의 파이프라인 처리 방식들을 각각 이용하여 하나의 세션을 처리할 때 걸린 시간의 통계값을 기반으로 예측 처리 시간을 제공할 수 있다. 예를 들어, 복수개의 파이프라인 처리 방식들을 이용하여 세션을 처리할 때마다 세션을 처리하는데 걸린 처리 시간을 저장하고, 저장된 처리 시간들의 평균 처리 시간을 계산함으로써 통계값을 산출할 수 있다. 이렇게 산출된 통계값을 기반으로 특정 파이프라인 처리 방식을 이용하여 서비스를 처리하는데 걸리는 시간을 예측할 수 있다. In this case, a prediction processing time may be provided based on a statistical value of a time taken when processing one session by using a plurality of pipeline processing methods, respectively. For example, each time a session is processed using a plurality of pipeline processing methods, the processing time taken to process the session is stored, and the average processing time of the stored processing times is calculated, thereby calculating a statistical value. Based on the statistics calculated in this way, the time it takes to process a service can be predicted using a specific pipeline processing method.

처리 방식 결정부(230)는 서비스 처리 요구 시간 및 예측 처리 시간을 이용하여 서비스 처리 요구 시간 내에 서비스를 처리하도록 파이프라인 처리 방식들 중 하나를 결정한다. 서비스 처리 요구 시간은 사용자 단말로부터 요청되는 서비스의 종류에 따라 상이할 수 있다. 예를 들어, 게임 어플리케이션과 같이 실시간 응답이 필요한 서비스의 경우에는 서비스 처리 요구 시간이 짧고, 동영상 재생과 같은 서비스의 경우에는 상대적으로 서비스 처리 요구 시간이 길게 요청될 수 있다.The processing method determination unit 230 determines one of the pipeline processing methods to process the service within the service processing request time by using the service processing request time and the predicted processing time. The service processing request time may vary depending on the type of service requested from the user terminal. For example, in the case of a service requiring a real-time response such as a game application, a service processing request time may be short, and in the case of a service such as a video playback, a relatively long service processing request time may be requested.

이 때, 서비스 처리 요구 시간은 서비스의 결과 화면을 구성하는 각각의 프레임에 대한 제한 프레임 처리 시간을 기반으로 획득할 수 있다. 예를 들어, 서비스의 결과 화면은 복수의 프레임으로 구성될 수 있다. 이 때, 서비스의 종류에 따라 상이할 수 있는 하나의 프레임을 처리하는데 필요한 제한 프레임 처리 시간을 이용하여 서비스의 결과 화면에 상응하는 복수의 프레임을 처리하는데 요구되는 서비스 처리 요구 시간을 계산할 수 있다.In this case, the service processing request time may be obtained based on the limited frame processing time for each frame constituting the service result screen. For example, the service result screen may be composed of a plurality of frames. In this case, the service processing request time required to process a plurality of frames corresponding to the result screen of the service may be calculated using the limited frame processing time required to process one frame that may be different according to the type of service.

이 때, 복수개의 파이프라인 처리 방식들 중 예측 처리 시간이 서비스 처리 요구 시간 보다 적은 후보 파이프라인 처리 방식들을 구분하고, 후보 파이프라인 처리 방식들 중 처리 코스트가 가장 작은 하나의 파이프라인 처리 방식을 결정할 수 있다.At this time, among the plurality of pipeline processing methods, candidate pipeline processing methods whose predicted processing time is less than the service processing request time are identified, and one of the candidate pipeline processing methods, which has the lowest processing cost, is determined. I can.

이미지 클라우드 스트리밍 서비스를 제공할 때, CPU(Central Process Unit)만을 이용하여 이미지 인코딩을 처리하는 경우에는 처리 시간이 길어져서 원하는 프레임 내에 데이터 처리가 되지 못할 가능성이 존재할 수 있다. 예를 들어, 렌더링, 캡처, 인코딩 및 센딩과 같은 스트리밍 파이프라인을 따라 데이터를 처리할 때, 특히 CPU 기반의 인코딩을 수행하는 경우에는 GPU(Graphic Process Unit)없이 CPU만으로 인코딩을 수행하기 때문에 한 프레임의 처리 시간이 제한 프레임 처리 시간을 넘기게 될 수도 있다.When providing an image cloud streaming service, if image encoding is processed using only a CPU (Central Process Unit), there may be a possibility that data cannot be processed within a desired frame due to a long processing time. For example, when processing data along a streaming pipeline such as rendering, capturing, encoding, and sending, especially when performing CPU-based encoding, encoding is performed with only the CPU without the GPU (Graphic Process Unit), so one frame The processing time of may exceed the limit frame processing time.

따라서, 이와 같은 문제점을 해결하기 위해, 복수개의 파이프라인 처리 방식들 중에서 요청된 서비스의 서비스 처리 요구 시간에 맞추거나 보다 빠르게 서비스를 처리할 수 있는 후보 파이프라인 처리 방식들을 먼저 구분하여 분류할 수 있다. Accordingly, in order to solve such a problem, among a plurality of pipeline processing methods, candidate pipeline processing methods capable of meeting the service processing request time of the requested service or processing the service faster can be first classified and classified. .

또한, 이렇게 분류된 후보 파이프라인 처리 방식들 중 아무거나 선택하여 서비스를 처리하여도 서비스를 처리하는데 있어서는 문제가 없지만, 후보 파이프라인 처리 방식들 각각이 사용하는 클라우드 스트리밍 서버의 자원 소모량이 상이하기 때문에 가능하면 이들 중 자원을 가장 적게 사용하는 파이프라인 처리 방식을 선택하여 서비스를 처리할 수 있다. In addition, even if you select any of the candidate pipeline processing methods classified in this way and process the service, there is no problem in processing the service, but it is possible because the resource consumption of the cloud streaming server used by each of the candidate pipeline processing methods is different. Then, you can process the service by selecting the pipeline processing method that uses the least resources among them.

이와 같이 최소 코스트를 사용하여 서비스를 원활하게 처리할 수 있는 파이프라인 처리 방식을 결정하여 이미지 클라우드 스트리밍 서비스를 제공함으로써 클라우드 스트리밍 서버의 제한적인 자원으로 더 많은 사용자들에게 동시에 서비스를 제공할 수 있다.By providing an image cloud streaming service by determining a pipeline processing method that can smoothly process the service using the minimum cost in this way, it is possible to simultaneously provide the service to more users with limited resources of the cloud streaming server.

이 때, 하나의 파이프라인 처리 방식은 단일 파이프라인 처리 방식, 다중 파이프라인 처리 방식 및 단일 파이프라인-다중 인코딩 처리 방식 중 어느 하나에 상응할 수 있다.In this case, one pipeline processing method may correspond to any one of a single pipeline processing method, a multiple pipeline processing method, and a single pipeline-multiple encoding processing method.

단일 파이프라인 처리 방식은 하나의 스트리밍 파이프라인을 이용하여 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행할 수 있다. 따라서, 서비스 결과 화면의 각 프레임을 처리할 때 하나의 프레임이 처리될 때까지 기다렸다가 다음 프레임을 처리하는 방식으로 서비스를 처리하기 때문에 전체적인 처리 속도가 늦어질 수 있다.The single pipeline processing method can perform rendering, capture, encoding, and sending procedures using one streaming pipeline. Therefore, when processing each frame of the service result screen, the overall processing speed may be slowed because the service is processed in a manner that waits for one frame to be processed and then processes the next frame.

다중 파이프라인 처리 방식은 스트리밍 파이프라인의 개수만 다중일 뿐 각각의 스트리밍 파이프라인의 처리 절차는 단일 파이프라인 처리 방식과 동일할 수 있다. 따라서, 다중 파이프라인 처리 방식을 구성하는 스트리밍 파이프라인의 개수가 많을수록 서비스를 처리하는 속도가 더 빠를 수 있다.In the multiple pipeline processing method, only the number of streaming pipelines is multiple, and the processing procedure of each streaming pipeline may be the same as the single pipeline processing method. Accordingly, as the number of streaming pipelines constituting the multi-pipeline processing method increases, the service processing speed may be faster.

단일 파이프라인-다중 인코딩 처리 방식은 단일 파이프라인 처리 방식과 유사하되, 인코딩 시 다중 CPU를 기반으로 설정된 CPU 쓰레드를 이용하여 인코딩을 수행하기 때문에 인코딩 처리 속도가 단일 파이프라인 처리 방식보다 높아질 수 있다.The single pipeline-multiple encoding processing method is similar to the single pipeline processing method, but when encoding is performed using CPU threads set based on multiple CPUs, encoding processing speed may be higher than that of the single pipeline processing method.

이 때, 처리 코스트는 다중 파이프라인 처리 방식이 가장 크고, 단일 파이프라인 처리 방식이 가장 작을 수 있다.In this case, the processing cost may be the largest in the multi-pipeline processing method, and the smallest in the single pipeline processing method.

따라서, 단일 파이프라인 처리 방식, 다중 파이프라인 처리 방식 및 단일 파이프라인-다중 인코딩 처리 방식에 상응하는 예측 처리 시간이 모두 서비스 처리 요구 시간 보다 적은 경우에는 처리 코스트가 가장 낮은 단일 파이프라인 처리 방식을 이용하여 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공할 수 있다. 복수의 파이프라인 처리 방식이 모두 서비스 처리 요구 시간보다 빠르게 서비스를 처리할 수 있는 경우에는 처리 코스트가 가장 작은 파이프라인 처리 방식을 사용함으로써 클라우드 스트리밍 서버의 자원을 절약할 수 있다.Therefore, if the prediction processing time corresponding to the single pipeline processing method, the multiple pipeline processing method, and the single pipeline-multiple encoding processing method is all less than the service processing request time, the single pipeline processing method with the lowest processing cost is used. Thus, an image cloud streaming service can be provided to the user terminal. When all of the plurality of pipeline processing methods can process a service faster than the service processing request time, a pipeline processing method having the lowest processing cost can be used to save resources of the cloud streaming server.

제어부(240)는 결정된 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공한다.The control unit 240 provides an image cloud streaming service to the user terminal by performing a procedure of rendering, capturing, encoding, and sending corresponding to the determined pipeline processing method.

예를 들어, 결정된 하나의 파이프라인 처리 방식이 2개의 스트리밍 파이프라인으로 구성된 다중 파이프라인 처리 방식인 경우에는 렌더링을 수행한 뒤에 홀(Odd)과 짝(Even)의 프레임을 차례로 캡처, 인코딩 및 센딩할 수 있다.For example, if the determined pipeline processing method is a multi-pipeline processing method consisting of two streaming pipelines, after rendering, Odd and Even frames are sequentially captured, encoded, and sent. can do.

저장부(250)는 상술한 바와 같이 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.As described above, the storage unit 250 stores various types of information generated in the process of a cloud streaming service according to an embodiment of the present invention.

실시예에 따라, 저장부(250)는 클라우드 스트리밍 서버(110)와 독립적으로 구성되어 클라우드 스트리밍 서비스를 위한 기능을 지원할 수 있다. 이 때, 저장부(250)는 별도의 대용량 스토리지로 동작할 수 있고, 동작 수행을 위한 제어 기능을 포함할 수 있다.According to an embodiment, the storage unit 250 may be configured independently of the cloud streaming server 110 to support a function for a cloud streaming service. In this case, the storage unit 250 may operate as a separate mass storage, and may include a control function for performing the operation.

또한, 상술한 바와 같이 구성되는 클라우드 스트리밍 서버(110)는 하나 이상의 서버로 구현될 수 있다.In addition, the cloud streaming server 110 configured as described above may be implemented as one or more servers.

한편, 클라우드 스트리밍 서버(110)는 메모리가 탑재되어 그 장치 내에서 정보를 저장할 수 있다. 일 구현예의 경우, 메모리는 컴퓨터로 판독 가능한 매체이다. 일 구현 예에서, 메모리는 휘발성 메모리 유닛일 수 있으며, 다른 구현예의 경우, 메모리는 비휘발성 메모리 유닛일 수도 있다. 일 구현예의 경우, 저장장치는 컴퓨터로 판독 가능한 매체이다. 다양한 서로 다른 구현 예에서, 저장장치는 예컨대 하드디스크 장치, 광학디스크 장치, 혹은 어떤 다른 대용량 저장장치를 포함할 수도 있다.Meanwhile, the cloud streaming server 110 is equipped with a memory to store information in the device. In one implementation, the memory is a computer-readable medium. In one implementation, the memory may be a volatile memory unit, and in another implementation, the memory may be a non-volatile memory unit. In one implementation, the storage device is a computer-readable medium. In various different implementations, the storage device may include, for example, a hard disk device, an optical disk device, or some other mass storage device.

도 3은 본 발명의 일실시예에 따른 단일 파이프라인 처리 방식을 나타낸 도면이다.3 is a diagram showing a single pipeline processing method according to an embodiment of the present invention.

도 3를 참조하면, 본 발명의 일실시예에 따른 단일 파이프라인 처리 방식은 도 3과 같이 하나의 스트리밍 파이프라인으로 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행할 수 있다. Referring to FIG. 3, a single pipeline processing method according to an embodiment of the present invention may perform rendering, capturing, encoding, and sending procedures in a single streaming pipeline as shown in FIG. 3.

이 때, 단일 파이프라인 처리 방식으로 각 프레임을 처리할 때에는 하나의 프레임이 처리될 때까지 기다렸다가 다음 프레임을 처리하는 방식으로 하나의 세션을 처리하기 때문에 처리 속도가 늦어질 수 있다.In this case, when each frame is processed by a single pipeline processing method, the processing speed may be slowed because one session is processed by waiting for one frame to be processed and then processing the next frame.

도 4는 본 발명의 일실시예에 따른 다중 파이프라인 처리 방식을 나타낸 도면이다.4 is a diagram showing a method of processing multiple pipelines according to an embodiment of the present invention.

도 4를 참조하면, 본 발명의 일실시예에 따른 다중 파이프라인 처리 방식은 도 4와 같이 다중으로 스트리밍 파이프라인이 구성될 수 있다. Referring to FIG. 4, in the multi-pipeline processing method according to an embodiment of the present invention, as shown in FIG. 4, multiple streaming pipelines may be configured.

이 때, 다중 파이프라인 처리 방식은 스트리밍 파이프라인의 개수만 다중일 뿐 각각의 스트리밍 파이프라인의 처리 절차는 단일 파이프라인 처리 방식과 동일하기 때문에 다중 파이프라인 처리 방식을 구성하는 스트리밍 파이프라인의 개수가 많을수록 하나의 세션을 처리하는 처리 속도가 더 높아질 수 있다.In this case, the multiple pipeline processing method is only the number of streaming pipelines, but the processing procedure of each streaming pipeline is the same as the single pipeline processing method, so the number of streaming pipelines constituting the multiple pipeline processing method is The higher the number, the higher the processing speed for processing one session.

이 때, 도 4와 같이 2개의 스트리밍 파이프라인으로 구성된 다중 파이프라인 처리 방식의 경우에는 렌더링을 수행한 뒤에 홀(Odd)과 짝(Even)의 프레임을 차례로 캡처, 인코딩 및 센딩할 수 있다. 따라서, 프레임 처리 전체가 병렬로 수행될 수 있으므로 단일 파이프라인 처리 방식에 비해 결과를 출력하는 속도가 높아질 수 있다.In this case, in the case of a multi-pipeline processing method composed of two streaming pipelines as shown in FIG. 4, after rendering is performed, Odd and Even frames may be sequentially captured, encoded, and sent. Accordingly, since the entire frame processing can be performed in parallel, the speed of outputting the result may be increased compared to the single pipeline processing method.

도 5는 본 발명의 일실시예에 따른 단일 파이프라인-다중 인코딩 처리 방식을 나타낸 도면이다.5 is a diagram showing a single pipeline-multiple encoding processing method according to an embodiment of the present invention.

도 5를 참조하면, 본 발명의 일실시예에 따른 단일 파이프라인-다중 인코딩 처리 방식은 단일 파이프라인 처리 방식과 유사하지만, 인코딩 시 다중 CPU를 이용하여 설정된 CPU 쓰레드가 인코딩을 수행하기 때문에 인코딩 처리 속도가 높아질 수 있다. 따라서, 단일 파이프라인 처리 방식보다는 단일 파이프라인-다중 인코딩 처리 방식을 사용하였을 때 하나의 세션을 처리하는 속도가 높아질 수 있다.Referring to FIG. 5, the single pipeline-multiple encoding processing method according to an embodiment of the present invention is similar to the single pipeline processing method, but encoding processing is performed by a CPU thread set using multiple CPUs during encoding. Speed can be increased. Therefore, when a single pipeline-multiple encoding processing method is used rather than a single pipeline processing method, the speed of processing one session may be increased.

상기의 도 3, 도 4 및 도 5에서 설명한 파이프라인 처리 방식들 중에서 다중 파이프라인 처리 방식의 처리 속도가 가장 빠르지만 처리 코스트도 가장 높기 때문에, 서비스 처리 요청 시간이 짧은 경우가 아니라면 단일 파이프라인-다중 인코딩 처리 방식 및 단일 파이프라인 처리 방식으로 이미지 클라우드 스트리밍 서비스를 제공하여 클라우드 스트리밍 서버의 자원을 절약할 수 있다.Among the pipeline processing methods described in FIGS. 3, 4 and 5 above, the multi-pipeline processing method has the fastest processing speed, but the processing cost is also the highest, so a single pipeline unless the service processing request time is short- It is possible to save resources of a cloud streaming server by providing an image cloud streaming service with a multi-encoding processing method and a single pipeline processing method.

도 6은 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.6 is a flowchart illustrating an image cloud streaming service method based on a selective streaming pipeline method according to an embodiment of the present invention.

도 6을 참조하면, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공한다(S610). Referring to FIG. 6, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention provides prediction processing time for a plurality of pipeline processing methods (S610).

이 때, 복수개의 파이프라인 처리 방식들을 각각 이용하여 하나의 세션을 처리할 때 걸린 시간의 통계값을 기반으로 예측 처리 시간을 제공할 수 있다. 예를 들어, 복수개의 파이프라인 처리 방식들을 이용하여 세션을 처리할 때마다 세션을 처리하는데 걸린 처리 시간을 저장하고, 저장된 처리 시간들의 평균 처리 시간을 계산함으로써 통계값을 산출할 수 있다. 이렇게 산출된 통계값을 기반으로 특정 파이프라인 처리 방식을 이용하여 서비스를 처리하는데 걸리는 시간을 예측할 수 있다.In this case, a prediction processing time may be provided based on a statistical value of a time taken when processing one session by using a plurality of pipeline processing methods, respectively. For example, each time a session is processed using a plurality of pipeline processing methods, the processing time taken to process the session is stored, and the average processing time of the stored processing times is calculated, thereby calculating a statistical value. Based on the statistics calculated in this way, the time it takes to process a service can be predicted using a specific pipeline processing method.

또한, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 서비스 처리 요구 시간 및 예측 처리 시간을 이용하여 서비스 처리 요구 시간 내에 서비스를 처리하도록 파이프라인 처리 방식들 중 하나를 결정한다(S620). 서비스 처리 요구 시간은 사용자 단말로부터 요청되는 서비스의 종류에 따라 상이할 수 있다. 예를 들어, 게임 어플리케이션과 같이 실시간 응답이 필요한 서비스의 경우에는 서비스 처리 요구 시간이 짧고, 동영상 재생과 같은 서비스의 경우에는 상대적으로 서비스 처리 요구 시간이 길게 요청될 수 있다.In addition, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention is one of the pipeline processing methods to process the service within the service processing request time using the service processing request time and the predicted processing time. It is determined (S620). The service processing request time may vary depending on the type of service requested from the user terminal. For example, in the case of a service requiring a real-time response such as a game application, a service processing request time may be short, and in the case of a service such as a video playback, a relatively long service processing request time may be requested.

이 때, 서비스 처리 요구 시간은 서비스의 결과 화면을 구성하는 각각의 프레임에 대한 제한 프레임 처리 시간을 기반으로 획득할 수 있다. 예를 들어, 서비스의 결과 화면은 복수의 프레임으로 구성될 수 있다. 이 때, 서비스의 종류에 따라 상이할 수 있는 하나의 프레임을 처리하는데 필요한 제한 프레임 처리 시간을 이용하여 서비스의 결과 화면에 상응하는 복수의 프레임을 처리하는데 요구되는 서비스 처리 요구 시간을 계산할 수 있다.In this case, the service processing request time may be obtained based on the limited frame processing time for each frame constituting the service result screen. For example, the service result screen may be composed of a plurality of frames. In this case, the service processing request time required to process a plurality of frames corresponding to the result screen of the service may be calculated by using the limited frame processing time required to process one frame that may be different according to the type of service.

이 때, 복수개의 파이프라인 처리 방식들 중 예측 처리 시간이 서비스 처리 요구 시간 보다 적은 후보 파이프라인 처리 방식들을 구분하고, 후보 파이프라인 처리 방식들 중 처리 코스트가 가장 작은 하나의 파이프라인 처리 방식을 결정할 수 있다.At this time, among the plurality of pipeline processing methods, candidate pipeline processing methods whose predicted processing time is less than the service processing request time are identified, and one of the candidate pipeline processing methods, which has the lowest processing cost, is determined. I can.

이미지 클라우드 스트리밍 서비스를 제공할 때, CPU(Central Process Unit)만을 이용하여 이미지 인코딩을 처리하는 경우에는 처리 시간이 길어져서 원하는 프레임 내에 데이터 처리가 되지 못할 가능성이 존재할 수 있다. 예를 들어, 렌더링, 캡처, 인코딩 및 센딩과 같은 스트리밍 파이프라인을 따라 데이터를 처리할 때, 특히 CPU 기반의 인코딩을 수행하는 경우에는 GPU(Graphic Process Unit)없이 CPU만으로 인코딩을 수행하기 때문에 한 프레임의 처리 시간이 제한 프레임 처리 시간을 넘기게 될 수도 있다.When providing an image cloud streaming service, if image encoding is processed using only a CPU (Central Process Unit), there may be a possibility that data cannot be processed within a desired frame due to a long processing time. For example, when processing data along a streaming pipeline such as rendering, capturing, encoding, and sending, especially when performing CPU-based encoding, encoding is performed with only the CPU without the GPU (Graphic Process Unit), so one frame The processing time of may exceed the limit frame processing time.

따라서, 이와 같은 문제점을 해결하기 위해, 복수개의 파이프라인 처리 방식들 중에서 요청된 서비스의 서비스 처리 요구 시간에 맞추거나 보다 빠르게 서비스를 처리할 수 있는 후보 파이프라인 처리 방식들을 먼저 구분하여 분류할 수 있다. Accordingly, in order to solve such a problem, among a plurality of pipeline processing methods, candidate pipeline processing methods capable of meeting the service processing request time of the requested service or processing the service faster can be first classified and classified. .

또한, 이렇게 분류된 후보 파이프라인 처리 방식들 중 아무거나 선택하여 서비스를 처리하여도 서비스를 처리하는데 있어서는 문제가 없지만, 후보 파이프라인 처리 방식들 각각이 사용하는 클라우드 스트리밍 서버의 자원 소모량이 상이하기 때문에 가능하면 이들 중 자원을 가장 적게 사용하는 파이프라인 처리 방식을 선택하여 서비스를 처리할 수 있다. In addition, even if you select any of the candidate pipeline processing methods classified as described above and process the service, there is no problem in processing the service, but it is possible because the resource consumption of the cloud streaming server used by each of the candidate pipeline processing methods is different. Then, you can process the service by selecting the pipeline processing method that uses the least resources among them.

이와 같이 최소 코스트를 사용하여 서비스를 원활하게 처리할 수 있는 파이프라인 처리 방식을 결정하여 이미지 클라우드 스트리밍 서비스를 제공함으로써 클라우드 스트리밍 서버의 제한적인 자원으로 더 많은 사용자들에게 동시에 서비스를 제공할 수 있다.By providing an image cloud streaming service by determining a pipeline processing method that can smoothly process the service using the minimum cost in this way, it is possible to simultaneously provide the service to more users with limited resources of the cloud streaming server.

이 때, 하나의 파이프라인 처리 방식은 단일 파이프라인 처리 방식, 다중 파이프라인 처리 방식 및 단일 파이프라인-다중 인코딩 처리 방식 중 어느 하나에 상응할 수 있다.In this case, one pipeline processing method may correspond to any one of a single pipeline processing method, a multiple pipeline processing method, and a single pipeline-multiple encoding processing method.

단일 파이프라인 처리 방식은 하나의 스트리밍 파이프라인을 이용하여 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행할 수 있다. 따라서, 서비스 결과 화면의 각 프레임을 처리할 때 하나의 프레임이 처리될 때까지 기다렸다가 다음 프레임을 처리하는 방식으로 서비스를 처리하기 때문에 전체적인 처리 속도가 늦어질 수 있다.The single pipeline processing method can perform rendering, capture, encoding, and sending procedures using one streaming pipeline. Therefore, when processing each frame of the service result screen, the overall processing speed may be slowed because the service is processed in a manner that waits for one frame to be processed and then processes the next frame.

다중 파이프라인 처리 방식은 스트리밍 파이프라인의 개수만 다중일 뿐 각각의 스트리밍 파이프라인의 처리 절차는 단일 파이프라인 처리 방식과 동일할 수 있다. 따라서, 다중 파이프라인 처리 방식을 구성하는 스트리밍 파이프라인의 개수가 많을수록 서비스를 처리하는 속도가 더 빠를 수 있다.In the multiple pipeline processing method, only the number of streaming pipelines is multiple, and the processing procedure of each streaming pipeline may be the same as the single pipeline processing method. Accordingly, as the number of streaming pipelines constituting the multi-pipeline processing method increases, the service processing speed may be faster.

단일 파이프라인-다중 인코딩 처리 방식은 단일 파이프라인 처리 방식과 유사하되, 인코딩 시 다중 CPU를 기반으로 설정된 CPU 쓰레드를 이용하여 인코딩을 수행하기 때문에 인코딩 처리 속도가 단일 파이프라인 처리 방식보다 높아질 수 있다.The single pipeline-multiple encoding processing method is similar to the single pipeline processing method, but when encoding is performed using CPU threads set based on multiple CPUs, encoding processing speed may be higher than that of the single pipeline processing method.

이 때, 처리 코스트는 다중 파이프라인 처리 방식이 가장 크고, 단일 파이프라인 처리 방식이 가장 작을 수 있다.In this case, the processing cost may be the largest in the multi-pipeline processing method, and the smallest in the single pipeline processing method.

따라서, 단일 파이프라인 처리 방식, 다중 파이프라인 처리 방식 및 단일 파이프라인-다중 인코딩 처리 방식에 상응하는 예측 처리 시간이 모두 서비스 처리 요구 시간 보다 적은 경우에는 처리 코스트가 가장 낮은 단일 파이프라인 처리 방식을 이용하여 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공할 수 있다. 복수의 파이프라인 처리 방식이 모두 서비스 처리 요구 시간보다 빠르게 서비스를 처리할 수 있는 경우에는 처리 코스트가 가장 작은 파이프라인 처리 방식을 사용함으로써 클라우드 스트리밍 서버의 자원을 절약할 수 있다.Therefore, if the prediction processing time corresponding to the single pipeline processing method, the multiple pipeline processing method, and the single pipeline-multiple encoding processing method is all less than the service processing request time, the single pipeline processing method with the lowest processing cost is used. Thus, an image cloud streaming service can be provided to the user terminal. When all of the plurality of pipeline processing methods can process a service faster than the service processing request time, a pipeline processing method having the lowest processing cost can be used to save resources of the cloud streaming server.

또한, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 결정된 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공한다(S630).In addition, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention performs a procedure of rendering, capturing, encoding, and sending corresponding to a determined pipeline processing method to provide an image cloud to a user terminal. Provide a streaming service (S630).

예를 들어, 결정된 하나의 파이프라인 처리 방식이 2개의 스트리밍 파이프라인으로 구성된 다중 파이프라인 처리 방식인 경우에는 렌더링을 수행한 뒤에 홀(Odd)과 짝(Even)의 프레임을 차례로 캡처, 인코딩 및 센딩할 수 있다.For example, if the determined pipeline processing method is a multi-pipeline processing method consisting of two streaming pipelines, after rendering, Odd and Even frames are sequentially captured, encoded, and sent. can do.

또한, 도 6에는 도시하지 아니하였으나, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 도 1에 도시된 네트워크와 같은 통신망을 통해 다수의 단말들과 관련된 정보를 송수신할 수 있다. 특히, 클라우드 스트리밍 서비스에 대한 요청을 단말로부터 수신하고, 단말이 요청한 클라우드 스트리밍 서비스에 상응하는 어플리케이션의 실행 결과 화면을 단말로 제공할 수 있다.In addition, although not shown in FIG. 6, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention transmits information related to a plurality of terminals through a communication network such as the network shown in FIG. You can send and receive. In particular, a request for a cloud streaming service may be received from a terminal, and an execution result screen of an application corresponding to the cloud streaming service requested by the terminal may be provided to the terminal.

또한, 도 6에는 도시하지 아니하였으나, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 상술한 바와 같이 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장할 수 있다.In addition, although not shown in FIG. 6, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention is as described above. Information can be saved.

도 7은 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법을 상세하게 나타낸 동작 흐름도이다.7 is an operation flowchart illustrating in detail an image cloud streaming service method based on a selective streaming pipeline method according to an embodiment of the present invention.

도 7을 참조하면, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 사용자 단말로부터 서비스 요청을 수신한다(S710).Referring to FIG. 7, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention receives a service request from a user terminal (S710).

또한, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 서비스 처리 요구 시간을 획득한다(S720). 이 때, 서비스의 결과 화면을 구성하는 각각의 프레임에 대한 제한 프레임 처리 시간을 기반으로 서비스 처리 요구 시간을 획득할 수 있다.In addition, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention acquires a service processing request time (S720). In this case, the service processing request time may be obtained based on the limit frame processing time for each frame constituting the service result screen.

또한, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 파이프라인 처리 방식 별로 예측 처리 시간을 제공한다(S730). 이 때, 복수개의 파이프라인 처리 방식들을 각각 이용하여 하나의 세션을 처리할 때 걸린 시간의 통계값을 기반으로 예측 처리 시간을 제공할 수 있다.In addition, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention provides a prediction processing time for each pipeline processing method (S730). In this case, a prediction processing time may be provided based on a statistical value of a time taken when processing one session by using a plurality of pipeline processing methods, respectively.

또한, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 복수개의 파이프라인 처리 방식들 중 예측 처리 시간이 서비스 처리 요구 시간 보다 적은 후보 파이프라인 처리 방식들을 구분한다(S740).In addition, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention classifies candidate pipeline processing methods whose prediction processing time is less than the service processing request time among a plurality of pipeline processing methods ( S740).

또한, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 구분된 후보 파이프라인 처리 방식들을 이용하여 서비스를 처리할 때 발생하는 처리 코스트를 비교한다(S750).In addition, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention compares the processing cost incurred when the service is processed using classified candidate pipeline processing methods (S750).

또한, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 후보 파이프라인 처리 방식들 중 처리 코스트가 가장 낮은 하나의 파이프라인 처리 방식을 결정한다(S760).In addition, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention determines one pipeline processing method having the lowest processing cost among candidate pipeline processing methods (S760).

또한, 본 발명의 일실시예에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 결정한 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행한다(S770). 이 때, 하나의 파이프라인 처리 방식에 상응하는 절차를 수행함으로써 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공할 수 있다.In addition, the image cloud streaming service method based on the selective streaming pipeline method according to an embodiment of the present invention performs a procedure of rendering, capturing, encoding, and sending corresponding to the determined pipeline processing method (S770). In this case, an image cloud streaming service can be provided to the user terminal by performing a procedure corresponding to one pipeline processing method.

본 발명에 따른 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 모든 형태의 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The image cloud streaming service method based on the selective streaming pipeline method according to the present invention may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like alone or in combination. The program instructions recorded on the medium may be specially designed and configured for the present invention, or may be known and usable to those skilled in computer software. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic media such as floptical disks. -Includes magneto-optical media, and any type of hardware device specially configured to store and execute program instructions such as ROM, RAM, flash memory, and the like. Examples of the program instructions may include not only machine language codes such as those produced by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like. Such a hardware device may be configured to operate as one or more software modules to perform the operation of the present invention, and vice versa.

이상에서와 같이 본 발명에 따른 클라우드 스트리밍 서비스 시스템, 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치는 상기한 바와 같이 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.As described above, the cloud streaming service system according to the present invention, the image cloud streaming service method based on the selective streaming pipeline method, and the apparatus therefor are not limited to the configuration and method of the embodiments described as described above. , The above embodiments may be configured by selectively combining all or part of each of the embodiments so that various modifications can be made.

본 발명에 의하면 복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공하고, 서비스 처리 요구 시간 및 예측 처리 시간을 이용하여 서비스 처리 요구 시간 내에 서비스를 처리하도록 파이프라인 처리 방식들 중 하나를 결정하고, 결정된 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공할 수 있다. 나아가, 그래픽 처리 유닛없이 중앙 처리 유닛만으로 구성된 클라우드 스트리밍 서버를 이용하여 사용자가 요청한 서비스의 요구 처리 시간을 최대한 만족시킬 수 있으며, 서비스 제공자는 하드웨어적으로 클라우드 스트리밍 서버를 증설하기 위한 비용을 절약할 수 있다.According to the present invention, a prediction processing time for a plurality of pipeline processing methods is provided, and one of the pipeline processing methods is determined to process a service within the service processing request time by using the service processing request time and the predicted processing time. , An image cloud streaming service may be provided to the user terminal by performing a procedure of rendering, capturing, encoding, and sending corresponding to the determined pipeline processing method. Furthermore, by using a cloud streaming server composed of only a central processing unit without a graphic processing unit, the processing time required for the service requested by the user can be satisfied as much as possible. have.

110: 클라우드 스트리밍 서버 120-1~ 120-N: 단말 장치
130: 네트워크 210: 통신부
220: 예측 처리 시간 제공부 230: 처리 방식 결정부
240: 제어부 250: 저장부
110: cloud streaming server 120-1 to 120-N: terminal device
130: network 210: communication unit
220: prediction processing time providing unit 230: processing method determining unit
240: control unit 250: storage unit

Claims (14)

복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공하는 예측 처리 시간 제공부;
서비스 처리 요구 시간 및 상기 예측 처리 시간을 이용하여 상기 서비스 처리 요구 시간 내에 서비스를 처리하도록 상기 복수개의 파이프라인 처리 방식들 중 하나의 파이프라인 처리 방식을 결정하는 처리 방식 결정부; 및
결정된 상기 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공하는 제어부
를 포함하고,
상기 처리 방식 결정부는
1차적으로 상기 서비스 처리 요구 시간 내에 처리 가능 여부를 고려하여 상기 복수개의 파이프라인 처리 방식들 중 상기 예측 처리 시간이 상기 서비스 처리 요구 시간보다 적은 후보 파이프라인 처리 방식들을 구분하고, 2차적으로 한정적인 자원을 고려하여 상기 후보 파이프라인 처리 방식들 중 처리 코스트가 가장 작은 파이프라인 처리 방식을 상기 하나의 파이프라인 처리 방식으로 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.
A prediction processing time providing unit that provides a prediction processing time for a plurality of pipeline processing methods;
A processing method determination unit determining one of the plurality of pipeline processing methods to process a service within the service processing request time by using a service processing request time and the predicted processing time; And
A control unit that provides an image cloud streaming service to a user terminal by performing a procedure of rendering, capturing, encoding, and sending corresponding to the determined pipeline processing method.
Including,
The processing method determination unit
Firstly, among the plurality of pipeline processing methods, candidate pipeline processing methods having the predicted processing time less than the service processing request time are classified in consideration of whether processing is possible within the service processing request time, and secondarily limited And determining a pipeline processing method having the lowest processing cost among the candidate pipeline processing methods in consideration of resources as the one pipeline processing method.
삭제delete 청구항 1에 있어서,
상기 하나의 파이프라인 처리 방식은
단일 파이프라인 처리 방식, 다중 파이프라인 처리 방식 및 단일 파이프라인-다중 인코딩 처리 방식 중 어느 하나에 상응하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method according to claim 1,
The above one pipeline processing method is
A cloud streaming server, characterized in that corresponding to any one of a single pipeline processing method, a multiple pipeline processing method, and a single pipeline-multiple encoding processing method.
삭제delete 삭제delete 삭제delete 복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공하는 단계;
서비스 처리 요구 시간 및 상기 예측 처리 시간을 이용하여 상기 서비스 처리 요구 시간 내에 서비스를 처리하도록 상기 복수개의 파이프라인 처리 방식들 중 하나의 파이프라인 처리 방식을 결정하는 단계; 및
결정된 상기 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 사용자 단말로 이미지 클라우드 스트리밍 서비스를 제공하는 단계
를 포함하고,
상기 결정하는 단계는
1차적으로 상기 서비스 처리 요구 시간 내에 처리 가능 여부를 고려하여 상기 복수개의 파이프라인 처리 방식들 중 상기 예측 처리 시간이 상기 서비스 처리 요구 시간보다 적은 후보 파이프라인 처리 방식들을 구분하고, 2차적으로 한정적인 자원을 고려하여 상기 후보 파이프라인 처리 방식들 중 처리 코스트가 가장 작은 파이프라인 처리 방식을 상기 하나의 파이프라인 처리 방식으로 결정하는 것을 특징으로 하는 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법.
Providing prediction processing times for a plurality of pipeline processing methods;
Determining one of the plurality of pipeline processing methods to process a service within the service processing request time using a service processing request time and the predicted processing time; And
Providing an image cloud streaming service to a user terminal by performing a procedure of rendering, capturing, encoding, and sending corresponding to the determined one pipeline processing method.
Including,
The determining step
Firstly, among the plurality of pipeline processing methods, candidate pipeline processing methods having the predicted processing time less than the service processing request time are classified in consideration of whether processing is possible within the service processing request time, and secondarily limited An image cloud streaming service method based on a selective streaming pipeline method, characterized in that a pipeline processing method having the lowest processing cost among the candidate pipeline processing methods in consideration of resources is determined as the one pipeline processing method.
삭제delete 삭제delete 삭제delete 삭제delete 삭제delete 삭제delete 복수개의 파이프라인 처리 방식들에 대한 예측 처리 시간을 제공하고, 서비스 처리 요구 시간 및 상기 예측 처리 시간을 이용하여 상기 서비스 처리 요구 시간 내에 서비스를 처리하도록 상기 복수개의 파이프라인 처리 방식들 중 하나의 파이프라인 처리 방식을 결정하고, 결정된 상기 하나의 파이프라인 처리 방식에 상응하는 렌더링, 캡처, 인코딩 및 센딩의 절차를 수행하여 사용자에게 이미지 클라우드 스트리밍 서비스를 수행하는 클라우드 스트리밍 서버; 및
상기 클라우드 스트리밍 서버로부터 상기 이미지 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하는 단말
을 포함하고,
상기 클라우드 스트리밍 서버는
1차적으로 상기 서비스 처리 요구 시간 내에 처리 가능 여부를 고려하여 상기 복수개의 파이프라인 처리 방식들 중 상기 예측 처리 시간이 상기 서비스 처리 요구 시간보다 적은 후보 파이프라인 처리 방식들을 구분하고, 2차적으로 한정적인 자원을 고려하여 상기 후보 파이프라인 처리 방식들 중 처리 코스트가 가장 작은 파이프라인 처리 방식을 상기 하나의 파이프라인 처리 방식으로 결정하는 것을 특징으로 하는 클라우드 스트리밍 시스템.
One of the plurality of pipeline processing methods to provide a predicted processing time for a plurality of pipeline processing methods, and to process a service within the service processing request time using the service processing request time and the predicted processing time A cloud streaming server that determines a line processing method and performs an image cloud streaming service to a user by performing a procedure of rendering, capturing, encoding, and sending corresponding to the determined pipeline processing method; And
Terminal receiving an application execution result screen corresponding to the image cloud streaming service from the cloud streaming server
Including,
The cloud streaming server
Firstly, among the plurality of pipeline processing methods, candidate pipeline processing methods having the predicted processing time less than the service processing request time are classified in consideration of whether processing is possible within the service processing request time, and secondarily limited And determining a pipeline processing method having the lowest processing cost among the candidate pipeline processing methods in consideration of resources as the one pipeline processing method.
KR1020150000828A 2015-01-05 2015-01-05 System for cloud streaming service, method of image cloud streaming service based on selective streaming pipeline method and apparatus for the same KR102247888B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020150000828A KR102247888B1 (en) 2015-01-05 2015-01-05 System for cloud streaming service, method of image cloud streaming service based on selective streaming pipeline method and apparatus for the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150000828A KR102247888B1 (en) 2015-01-05 2015-01-05 System for cloud streaming service, method of image cloud streaming service based on selective streaming pipeline method and apparatus for the same

Publications (2)

Publication Number Publication Date
KR20160084214A KR20160084214A (en) 2016-07-13
KR102247888B1 true KR102247888B1 (en) 2021-05-04

Family

ID=56505601

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150000828A KR102247888B1 (en) 2015-01-05 2015-01-05 System for cloud streaming service, method of image cloud streaming service based on selective streaming pipeline method and apparatus for the same

Country Status (1)

Country Link
KR (1) KR102247888B1 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012003653A (en) * 2010-06-21 2012-01-05 Mitsubishi Electric Corp Computer system, computer program and pipeline processing method
KR101428472B1 (en) * 2013-02-15 2014-08-08 에스케이플래닛 주식회사 An apparatus for presenting cloud streaming service and a method thereof

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8695008B2 (en) 2011-04-05 2014-04-08 Qualcomm Incorporated Method and system for dynamically controlling power to multiple cores in a multicore processor of a portable computing device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012003653A (en) * 2010-06-21 2012-01-05 Mitsubishi Electric Corp Computer system, computer program and pipeline processing method
KR101428472B1 (en) * 2013-02-15 2014-08-08 에스케이플래닛 주식회사 An apparatus for presenting cloud streaming service and a method thereof

Also Published As

Publication number Publication date
KR20160084214A (en) 2016-07-13

Similar Documents

Publication Publication Date Title
US20170171579A1 (en) Method and Device for Transcoding Live Video
US20170171568A1 (en) Method and device for processing live video
KR102346747B1 (en) System for cloud streaming service, method of cloud streaming service of providing multi-view screen based on resize and apparatus for the same
KR102247886B1 (en) System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same
KR101543295B1 (en) Application error detection method for cloud streaming service, apparatus and system therefor
KR102247888B1 (en) System for cloud streaming service, method of image cloud streaming service based on selective streaming pipeline method and apparatus for the same
KR102271721B1 (en) System for cloud streaming service, method of image cloud streaming service considering terminal performance and apparatus for the same
KR102273144B1 (en) System for cloud streaming service, method of image cloud streaming service using division of the change area and apparatus for the same
KR102094677B1 (en) System for servicing cloud streaming, method of servicing cloud streaming and server for the same
KR102247887B1 (en) System for cloud streaming service, method of cloud streaming service using source information and apparatus for the same
KR102313530B1 (en) System for cloud streaming service, method of image cloud streaming service using split screen and apparatus for the same
KR102313529B1 (en) System for cloud streaming service, method of image cloud streaming service based on optimum rendering and apparatus for the same
KR102313516B1 (en) System for cloud streaming service, method of message-based image cloud streaming service and apparatus for the same
KR102199276B1 (en) System for cloud streaming service, method for processing service based on type of cloud streaming service and apparatus for the same
KR102273143B1 (en) System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same
KR102063093B1 (en) System for cloud streaming service, method of compressing data for preventing memory bottleneck and apparatus for the same
KR102313533B1 (en) System for cloud streaming service, method of image cloud streaming service considering full screen transition and apparatus for the same
KR102265419B1 (en) System for cloud streaming service, method of cloud streaming service using selective encoding processing unit and apparatus for the same
KR102313532B1 (en) System for cloud streaming service, method of image cloud streaming service using animation message and apparatus for the same
KR102225610B1 (en) System for cloud streaming service, method of message-based image cloud streaming service and apparatus for the same
KR102247657B1 (en) System for cloud streaming service, method of cloud streaming service using separate operations of the encoding process unit and apparatus for the same
KR102225609B1 (en) System for cloud streaming service, method of image cloud streaming service considering full screen transition and apparatus for the same
KR102225608B1 (en) System for cloud streaming service, method of image cloud streaming service using animation message and apparatus for the same
KR102272357B1 (en) System for cloud streaming service, method of image cloud streaming service using drawing layer separation and apparatus for the same
KR20160106346A (en) System for cloud streaming service, method of image cloud streaming service based on performance of terminal and apparatus for the same

Legal Events

Date Code Title Description
N231 Notification of change of applicant
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant