CN103605575A - 一种Cloud Foundry平台应用调度***及方法 - Google Patents

Abstract

一种Cloud Foundry平台应用调度***，包括：Cloud Foundry Java构建包适配装置、JMX应用信息获取装置、应用策略调度装置；其中：Cloud Foundry Java构建包适配装置用于添加配置信息到Cloud Foundry Java构建包；JMX应用信息获取装置用于收集应用JMX信息；应用策略调度装置用于根据从JMX应用信息获取装置收集JMX信息，以及设定的应用策略对应用运行实例数进行动态调度。本发明还提供一种Cloud Foundry平台应用调度方法。通过本发明技术，可以根据应用的运行时信息或者负载实时信息基于一定的策略动态调整应用实例数，从而达到应用负载自动均衡。

Description

一种Cloud Foundry平台应用调度***及方法

技术领域

本发明涉及计算机领域，特别是涉及一种在Cloud Foundry平台上基于JMX（Java Management Extensions，Java管理扩展）进行应用调度的***及方法。 

背景技术

Cloud Foundry是VMware公司于2011年4月12日推出的业界第一个开源PaaS（Platform as a Service，平台即服务）云平台，它支持多种框架、语言、运行时环境、云平台及应用服务，使开发人员能够在短时间内进行应用程序的部署和扩展，而不需要考虑基础架构问题。 

JMX是一个为应用程序、设备、***等植入管理功能的框架。JVM（Java Virtual Machine，Java虚拟机）是运行Java应用的一套规范。 

Cloud Foundry的基础服务是进行应用程序的部署和运行，部署的应用程序可以是Java应用或者.Net应用。由于在应用程序运行时，分配多少实例数，在Cloud Foundry中是通过手工命令指定的，无法根据应用的运行时信息或者负载实时信息而进行基于一定策略的调节。 

所以，有必要提出一种新的技术方案，解决根据应用的运行时信息或者负载实时信息动态调整应用实例数而达到应用负载自动均衡的技术问题。 

发明内容

本发明的目的在于提供一种基于JMX技术的Cloud Foundry平台应用调度 ***及方法，可以根据应用的运行时信息或者负载实时信息基于一定的策略动态调整应用实例数，从而达到应用负载自动均衡。 

为了解决以上技术问题，本发明提供一种Cloud Foundry平台应用调度***，包括：Cloud Foundry Java构建包适配装置、JMX应用信息获取装置、应用策略调度装置；其中： 

所述Cloud Foundry Java构建包适配装置，用于添加配置信息到Cloud Foundry Java构建包，以支持类JVM应用的JMX信息收集； 

所述JMX应用信息获取装置，用于收集应用的JMX信息； 

所述应用策略调度装置，用于根据从所述JMX应用信息获取装置收集的JMX信息，以及用户设定的应用策略对应用运行实例数进行动态调度。 

进一步地，所述JMX应用信息获取装置，采用JMX方式收集应用的启动或者停止的JMX信息。 

进一步地，所述JMX信息至少包括以下一种：应用程序总线程数、每秒请求数、每秒发送数据字节数、当前活跃用户数、缓存大小、缓存命中率、空闲堆内存、已使用堆内存、总堆内存、当前活跃线程数、最近请求处理时间、最近请求等待时间、当前请求总数、当前响应总发送字节数、当前有多少请求正在请求队列中待处理、当前拒绝处理的请求数。 

进一步地，所述JMX应用信息获取装置在启动时，其会自动注册到Cloud Foundry消息总线上并监听应用执行代理启动或者停止消息。 

进一步地，所述JMX应用信息获取装置在接收到应用执行代理发布的Cloud Foundry平台启动应用的应用启动消息时，产生收集应用基于JMX统计信息的应用信息收集任务并执行，收集任务执行完成后将收集到的应用基于JMX统计信息的应用信息进行存储和通知***其它组件；当接收到应用执行代理发布的Cloud Foundry平台停止应用的应用停止消息时，所述JMX信息收集装置停止对该应用基于JMX统计消息的收集任务执行。 

进一步地，所述应用调度策略装置包括：策略管理器、策略调度器；其中， 

所述策略管理器，用于对策略规则进行管理； 

所述策略调度器，用于调度策略管理器中的策略，以及管理策略调度规则。 

进一步地，所述策略规则包括：策略的统计信息、统计周期、触发操作、最大值和最小值。 

进一步地，所述策略调度规则包括：规则名称、规则策略、开始时间、结束时间、周期类型、开始条件、结束条件。 

进一步地，所述应用调度策略装置具体用于：按时按条件开启应用策略规则，根据所述JMX应用信息获取装置获取到的信息和采集周期调用相应策略调度规则动作，使Cloud Foundry平台根据这些策略动作动态修改应用运行实例数。 

进一步地，所述应用调度策略装置在启动时，其会自动注册到Cloud Foundry消息总线上并监听消息总线应用启动或者停止消息。 

进一步地，对应用停止消息，所述应用策略调度装置不进行策略调度；对应用启动消息，所述应用策略调度装置对应用是否绑定调度策略进行过滤，对过滤后的绑定调度策略的应用产生相应的策略调度任务，从所述JMX信息获取装置中获取应用基于JMX的统计信息，根据统计信息对策略规则进行匹配，如果符合，触发策略执行，向Cloud Foundry平台的消息总线发送应用实例调整消息，对应用实例数进行动态调度。 

为了解决以上技术问题，本发明还提供一种Cloud Foundry平台应用调度方法，包括： 

步骤1、Cloud Foundry Java构建包适配装置添加配置信息到Cloud Foundry平台Java构建包； 

步骤2、JMX应用信息获取装置收集应用的JMX信息； 

步骤3、应用策略调度装置根据从JMX应用信息获取装置收集的信息，以及用户设定的应用策略对应用运行实例数进行动态调度。 

进一步地，所述步骤2具体包括： 

步骤2.1、JMX应用信息获取装置在启动时，注册到Cloud Foundry消息总线； 

步骤2.2、JMX应用信息获取装置监听消息总线上应用启动或者停止消息； 

步骤2.3、JMX应用信息获取装置当接收到应用执行代理发布的Cloud Foundry平台启动应用的应用启动消息时，JMX信息收集装置产生收集应用基于JMX统计信息的应用信息收集任务并执行，在收集任务执行完成后将收集到的应用基于JMX统计信息的应用信息进行存储和通知***其它组件。当接收到应用执行代理发布的Cloud Foundry平台停止应用的应用停止消息时，JMX信息收集装置停止对该应用基于JMX统计消息的收集任务执行。 

进一步地，所述步骤3具体包括： 

步骤3.1、应用策略调度装置在启动时，注册到Cloud Foundry消息总线； 

步骤3.2、应用策略调度装置监听消息总线上应用启动或者停止消息； 

步骤3.3、对应用停止消息，所述应用策略调度装置不进行策略调度；对应用启动消息，所述应用策略调度装置对应用是否绑定调度策略进行过滤，对过滤后的绑定调度策略的应用产生相应的策略调度任务，从所述JMX信息获取装置中获取应用基于JMX的统计信息，根据统计信息对策略规则进行匹配，如果符合，触发策略执行，向Cloud Foundry平台的消息总线发送应用实例调整消息，对应用实例数进行动态调度。 

与现有技术相比，本发明提供的一种基于JMX技术的Cloud Foundry平台应用调度***及方法，通过Cloud Foundry Java构建包适配装置添加配置信息到Cloud Foundry平台提供的Java构建包以支持JMX应用信息获取装置收信类JVM应用的JMX信息，供应用调度策略装置按时按条件开启应用策略规则，根据JMX应用信息获取装置获取到的信息和采集周期调用相应策略调度规则动作，使Cloud Foundry平台根据这些策略动作可以动态修改应用运行实例数，从而达到应用负载自动均衡。 

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本发明的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中： 

图1是本发明提供的一种基于JMX技术的Cloud Foundry平台应用调度***的结构示意图。 

图2是本发明提供的一种基于JMX技术的Cloud Foundry平台应用调度方法的流程图。 

具体实施方式

为了使本发明所要解决的技术问题、技术方案及有益效果更加清楚、明白，以下结合附图和实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。 

如图1所示，本发明提供了一种基于JMX技术的Cloud Foundry平台应用调度***，包括：Cloud Foundry Java构建包适配装置、JMX应用信息获取装置、应用策略调度装置。其中： 

Cloud Foundry Java构建包适配装置，用于添加配置信息到Cloud Foundry Java构建包，以支持类JVM应用的JMX信息收集。 

Cloud Foundry平台Java构建包是Cloud Foundry的Java-buildpack项目，其支持类JVM应用定义运行时的选项，即添加配置信息内容到其config目录下的javaopts.yml文件中。 

在本发明中，添加配置信息内容如以下表格所示： 

其中，端口号、jmx远程访问密码文件、keystore文件、keystore密码文件、truststore文件、truststore密码文件和policy文件根据Cloud Foundry平台运营者自身配置不同而不同。 

JMX应用信息获取装置：用于收集应用的JMX信息；具体来说，用于Cloud Foundry启动或者停止进行JMX管理应用，在其接收到启动或者停止消息后，对启动或者停止的应用采用JMX方式进行信息收集。 

其中，JMX信息包括但不限于如下，其主要根据提供者而异：应用程序总线程数、每秒请求数、每秒发送数据字节数、当前活跃用户数、缓存大小、缓存命中率、空闲堆内存、已使用堆内存、总堆内存、当前活跃线程数、最近请求处理时间、最近请求等待时间、当前请求总数、当前响应总发送字节数、当前有多少请求正在请求队列中待处理、当前拒绝处理的请求数。 

JMX应用信息获取装置在启动时，其会自动注册到Cloud Foundry消息总线上并监听应用执行代理（DEA，Droplet Execution Agency）启动或者停止消息。在Cloud Foundry平台成功部署应用并启动后，应用执行代理会发布消息 到NATS（NATS是Derek Collison开发的一个轻量级的消息总线产品名称）消息总线上，在Cloud Foundry平台停止应用后，也会在NATS消息总线上收到应用执行代理的停止消息。JMX应用信息获取装置根据收到的应用执行代理的消息内容，启动或者停止JMX应用信息收集任务。 

JMX应用信息获取装置通过以下两种方式进行应用信息收集： 

方式1：监听JMX的MBean（Management Bean，可管理资源对象） 

JMX应用信息获取装置对每一个Java虚拟机建立对应的***，用于对MBean的属性或者其发出的通知进行响应，以获取最新的应用信息数据，例如占用内存、堆内存或者应用在线用户数等。 

方式2：轮询JMX的MBean 

轮询的方式是基于一定的时间间隔，对Java虚拟机进行查询操作，以获取应用最新的信息数据，这种方式与方式1的监听方式相比存在有一定时间延迟。 

JMX应用信息获取装置在获得应用信息后，可以向其它PaaS组件发出消息以通知应用最新状态，也可以将此消息存储在数据库中，以便其它PaaS组件进行分析。 

JMX信息收集装置具体工作过程如下： 

1、JMX应用信息获取装置在启动时，向Cloud Foundry消息总线NATS发送用于注册自已的组件注册消息，以便***中的其它组件可以访问该组件并可监听到该组件生命周期事件，以进行***组件间信息交互。 

2、JMX应用信息获取装置监听Cloud Foundry消息总线NATS应用生命周期和自身生命周期相关消息，并建立消息处理机制。 

3、JMX应用信息获取装置进入消息处理循环，进行消息处理，其主要过程是处理应用启动或停止消息。当接收到应用执行代理发布的Cloud Foundry平台启动应用的应用启动消息时，JMX信息收集装置产生收集应用基于JMX 统计信息的应用信息收集任务并执行，在收集任务执行完成后将收集到的应用基于JMX统计信息的应用信息进行存储和通知***其它组件。当接收到应用执行代理发布的Cloud Foundry平台停止应用的应用停止消息时，JMX信息收集装置停止对该应用基于JMX统计消息的收集任务执行。 

应用调度策略装置：用于根据从JMX应用信息获取装置收集的JMX信息，以及用户设定的应用策略对应用运行实例数进行动态调度。其包括：策略管理器、策略调度器。其中： 

策略管理器，用于对策略规则进行增加、修改、删除、查看或者部署和激活操作等管理，以及提供应用与策略的对应机制，应用本身可以选择已经存在的策略或者定制一定的策略。 

策略规则包括：策略的统计信息、统计周期、触发操作、最大值和最小值。例如，应用运行所在的容器Tomcat当前在线用户数大于20则增加应用实例数，小于5则减小应用实例数这条规则中，统计信息为应用运行所在的容器Tomcat当前在线用户数，触发操作为大于最大值增加实例小于最小值减少实例，最大值为20，最小值为5。 

***初始化时，***中存在一个初始的空白策略。 

策略调度器，用于调度策略管理器中的策略，以及管理策略调度规则。例如，在18:00增加应用实例数和在23:00减少应用实例数的这两个策略，它们生效的时间是不一样的，策略调度器会根据策略的生效时间点应用对应策略。 

策略调度规则包括规则名称、规则策略、开始时间、结束时间、周期类型（无、按天、按周、按月、每天和每周）、开始条件（按时间等)、结束条件（无、按时间、按执行次数等）。 

应用调度策略装置按时按条件开启应用策略规则，按JMX应用信息获取装置获取到的信息和采集周期调用相应策略调度规则动作。根据这些策略动作Cloud Foundry平台可以动态修改应用运行实例数，达到应用负载自动均衡。 

应用策略调度装置具体工作过程如下： 

1、应用策略调度装置在启动时，向Cloud Foundry消息总线NATS发送用于注册自已的组件注册消息，以便***中的其它组件可以访问该组件并可监听到该组件生命周期事件，以进行***组件间信息交互。 

2、应用策略调度装置监听Cloud Foundry消息总线NATS应用生命周期消息（启动或者停止消息），以便实时调度应用。 

3、进入消息处理循环，在消息处理循环中，如果是应用策略调度装置自身生命周期控制类消息，则进行自身控制类消息处理过程。消息处理循环主要是处理应用启动或停止消息。对应用停止消息，应用策略调度装置不进行策略调度。对应用启动消息，应用策略调度装置对应用是否绑定调度策略进行过滤，对过滤后的绑定调度策略的应用产生相应的策略调度任务。策略调度任务从JMX信息获取装置中获取应用本身基于JMX的统计信息，根据统计信息对策略规则进行匹配，如果不符合，策略动作不执行；如果符合，触发策略执行，应用策略调度装置向Cloud Foundry平台的NATS消息总线发送应用实例调整消息，用于增加或者减少应用实例数，对应用实例数进行动态调度，以达到基于策略的调度目标。 

如图2所示，本发明提供了一种基于JMX技术的Cloud Foundry平台应用调度方法，包括： 

步骤1、Cloud Foundry Java构建包适配装置添加配置信息到Cloud Foundry平台Java构建包，以支持类JVM应用的JMX信息收集。 

步骤2、JMX应用信息获取装置收集应用的JMX信息；具体包括： 

步骤2.1、JMX应用信息获取装置在启动时，向Cloud Foundry消息总线NATS发送用于注册自已的组件注册消息，以便***中的其它组件可以访问该组件并可监听到该组件生命周期事件，以进行***组件间信息交互。 

步骤2.2、JMX应用信息获取装置监听Cloud Foundry消息总线NATS应用生命周期（启动或者停止）和自身生命周期（启动或者停止）相关消息，并 建立消息处理机制。 

步骤2.3、JMX应用信息获取装置进入消息处理循环，进行消息处理，其主要过程是处理应用启动或停止消息。当接收到应用执行代理发布的CloudFoundry平台启动应用的应用启动消息时，JMX信息收集装置产生收集应用基于JMX统计信息的应用信息收集任务并执行，在收集任务执行完成后将收集到的应用基于JMX统计信息的应用信息进行存储和通知***其它组件。当接收到应用执行代理发布的Cloud Foundry平台停止应用的应用停止消息时，JMX信息收集装置停止对该应用基于JMX统计消息的收集任务执行。 

步骤3、应用策略调度装置根据从JMX应用信息获取装置收集的信息，以及用户设定的应用策略对应用运行实例数进行动态调度；具体包括： 

步骤3.1、应用策略调度装置在启动时，向Cloud Foundry消息总线NATS发送用于注册自已的组件注册消息，以便***中的其它组件可以访问该组件并可监听到该组件生命周期事件，以进行***组件间信息交互。 

步骤3.2、应用策略调度装置监听Cloud Foundry消息总线NATS应用生命周期（启动或者停止）消息，以便实时调度应用。 

步骤3.3、进入消息处理循环，在消息处理循环中，如果是应用策略调度装置自身生命周期控制类消息，则进行自身控制类消息处理过程。消息处理循环主要是处理应用启动或停止消息。对应用停止消息，应用策略调度装置不进行策略调度。对应用启动消息，应用策略调度装置对应用是否绑定调度策略进行过滤，对过滤后的绑定调度策略的应用产生相应的策略调度任务。策略调度任务从JMX信息获取装置中获取应用本身基于JMX的统计信息，根据统计信息对策略规则进行匹配，如果不符合，策略动作不执行；如果符合，触发策略执行，应用策略调度装置向Cloud Foundry平台的NATS消息总线发送应用实例调整消息，用于增加或者减少应用实例数，对应用实例数进行动态调度，以达到基于策略的调度目标。 

本发明提供的一种基于JMX技术的Cloud Foundry平台应用调度***及方法，通过Cloud Foundry Java构建包适配装置添加配置信息到Cloud Foundry平台提供的Java构建包以支持JMX应用信息获取装置收信类JVM应用的JMX信息，供应用调度策略装置按时按条件开启应用策略规则，根据JMX应用信息获取装置获取到的信息和采集周期调用相应策略调度规则动作，使CloudFoundry平台根据这些策略动作可以动态修改应用运行实例数，从而达到应用负载自动均衡。 

上述说明示出并描述了本发明的一个优选实施例，但如前所述，应当理解本发明并非局限于本文所披露的形式，不应看作是对其他实施例的排除，而可用于各种其他组合、修改和环境，并能够在本文所述发明构想范围内，通过上述教导或相关领域的技术或知识进行改动。而本领域人员所进行的改动和变化不脱离本发明的精神和范围，则都应在本发明所附权利要求的保护范围内。 

Claims (14)

1.一种Cloud Foundry平台应用调度***，其特征在于，所述***包括：Cloud Foundry Java构建包适配装置、JMX应用信息获取装置、应用策略调度装置；其中：

所述Cloud Foundry Java构建包适配装置，用于添加配置信息到CloudFoundry Java构建包，以支持类JVM应用的JMX信息收集；

所述JMX应用信息获取装置，用于收集应用的JMX信息；

所述应用策略调度装置，用于根据从所述JMX应用信息获取装置收集的JMX信息，以及用户设定的应用策略对应用运行实例数进行动态调度。

2.如权利要求1所述的***，其特征在于，所述JMX应用信息获取装置，采用JMX方式收集应用的启动或者停止的JMX信息。

3.如权利要求1或2所述的***，其特征在于，所述JMX信息至少包括以下一种：应用程序总线程数、每秒请求数、每秒发送数据字节数、当前活跃用户数、缓存大小、缓存命中率、空闲堆内存、已使用堆内存、总堆内存、当前活跃线程数、最近请求处理时间、最近请求等待时间、当前请求总数、当前响应总发送字节数、当前有多少请求正在请求队列中待处理、当前拒绝处理的请求数。

4.如权利要求2所述的***，其特征在于，所述JMX应用信息获取装置在启动时，其会自动注册到Cloud Foundry消息总线上并监听应用执行代理启动或者停止消息。

5.如权利要求4所述的***，其特征在于，所述JMX应用信息获取装置在接收到应用执行代理发布的Cloud Foundry平台启动应用的应用启动消息时，产生收集应用基于JMX统计信息的应用信息收集任务并执行，收集任务执行完成后将收集到的应用基于JMX统计信息的应用信息进行存储和通知***其它组件；当接收到应用执行代理发布的Cloud Foundry平台停止应用的应用停止消息时，所述JMX信息收集装置停止对该应用基于JMX统计消息的收集任务执行。

6.如权利要求5所述的***，其特征在于，所述应用调度策略装置包括：策略管理器、策略调度器；其中，

所述策略管理器，用于对策略规则进行管理；

所述策略调度器，用于调度策略管理器中的策略，以及管理策略调度规则。

7.如权利要求6所述的***，其特征在于，所述策略规则包括：策略的统计信息、统计周期、触发操作、最大值和最小值。

8.如权利要求6所述的***，其特征在于，所述策略调度规则包括：规则名称、规则策略、开始时间、结束时间、周期类型、开始条件、结束条件。

9.如权利要求6所述的***，其特征在于，所述应用调度策略装置具体用于：按时按条件开启应用策略规则，根据所述JMX应用信息获取装置获取到的信息和采集周期调用相应策略调度规则动作，使Cloud Foundry平台根据这些策略动作动态修改应用运行实例数。

10.如权利要求6所述的***，其特征在于，所述应用调度策略装置在启动时，其会自动注册到Cloud Foundry消息总线上并监听消息总线应用启动或者停止消息。

11.如权利要求10所述的***，其特征在于，对应用停止消息，所述应用策略调度装置不进行策略调度；对应用启动消息，所述应用策略调度装置对应用是否绑定调度策略进行过滤，对过滤后的绑定调度策略的应用产生相应的策略调度任务，从所述JMX信息获取装置中获取应用基于JMX的统计信息，根据统计信息对策略规则进行匹配，如果符合，触发策略执行，向CloudFoundry平台的消息总线发送应用实例调整消息，对应用实例数进行动态调度。

12.一种Cloud Foundry平台应用调度方法，其特征在于，包括：

步骤1、Cloud Foundry Java构建包适配装置添加配置信息到CloudFoundry平台Java构建包；

步骤2、JMX应用信息获取装置收集应用的JMX信息；

步骤3、应用策略调度装置根据从JMX应用信息获取装置收集的信息，以及用户设定的应用策略对应用运行实例数进行动态调度。

13.如权利要求12所述的方法，其特征在于，所述步骤2具体包括：

步骤2.1、JMX应用信息获取装置在启动时，注册到Cloud Foundry消息总线；

步骤2.2、JMX应用信息获取装置监听消息总线上应用启动或者停止消息；

步骤2.3、JMX应用信息获取装置当接收到应用执行代理发布的CloudFoundry平台启动应用的应用启动消息时，JMX信息收集装置产生收集应用基于JMX统计信息的应用信息收集任务并执行，在收集任务执行完成后将收集到的应用基于JMX统计信息的应用信息进行存储和通知***其它组件。当接收到应用执行代理发布的Cloud Foundry平台停止应用的应用停止消息时，JMX信息收集装置停止对该应用基于JMX统计消息的收集任务执行。

14.如权利要求13所述的方法，其特征在于，所述步骤3具体包括：

步骤3.1、应用策略调度装置在启动时，注册到Cloud Foundry消息总线；

步骤3.2、应用策略调度装置监听消息总线上应用启动或者停止消息；

步骤3.3、对应用停止消息，所述应用策略调度装置不进行策略调度；对应用启动消息，所述应用策略调度装置对应用是否绑定调度策略进行过滤，对过滤后的绑定调度策略的应用产生相应的策略调度任务，从所述JMX信息获取装置中获取应用基于JMX的统计信息，根据统计信息对策略规则进行匹配，如果符合，触发策略执行，向Cloud Foundry平台的消息总线发送应用实例调整消息，对应用实例数进行动态调度。

Images