CN110489204A - 一种基于容器集群的大数据平台架构*** - Google Patents

一种基于容器集群的大数据平台架构*** Download PDF

Info

Publication number
CN110489204A
CN110489204A CN201910585529.7A CN201910585529A CN110489204A CN 110489204 A CN110489204 A CN 110489204A CN 201910585529 A CN201910585529 A CN 201910585529A CN 110489204 A CN110489204 A CN 110489204A
Authority
CN
China
Prior art keywords
interface
layer
container
big data
cluster
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910585529.7A
Other languages
English (en)
Inventor
陈统
黄永健
王勇泽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Xuanyuan Network & Technology Co Ltd
Original Assignee
Guangdong Xuanyuan Network & Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Xuanyuan Network & Technology Co Ltd filed Critical Guangdong Xuanyuan Network & Technology Co Ltd
Priority to CN201910585529.7A priority Critical patent/CN110489204A/zh
Publication of CN110489204A publication Critical patent/CN110489204A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明公开了一种基于容器集群的大数据平台架构***,包括由下至上依次连接的:物理资源层、操作***层、mesos资源管理层、框架层和接口层;各层之间通过分布式协调管理器Zookeeper来进行协作与通讯管理;kubernetes作为框架集成到mesos资源管理层中,通过mesos资源管理层来获取底层物理资源;所述容器集群用于运行Docker应用,所述微服务应用封装于Docker应用中,外部***通过接口层来调取本架构***中的微服务应用。本发明的基于容器集群的大数据平台架构***能够实现快速部署、秒级停起各类应用,支持多种服务的集群部署、负载均衡、灾难恢复和弹性伸缩。

Description

一种基于容器集群的大数据平台架构***
技术领域
本发明涉及一种云计算存储技术领域,尤其涉及一种基于容器集群的大数据平台架构***。
背景技术
目前,大数据时代59%的数据都是无效数据、70%的数据过于复杂、85%的企业数据架构无法适应数据量和复杂性增长的需求、98%的企业无法及时准确地为业务提供正确的信息。如今,大数据挑战和机遇并存,大数据服务平台建设正经历着由简单到复杂、由单一到多元、由局部到整体的全方位一体化的发展过程。然而支撑大数据服务的云数据中心往往存在以下挑战:1、难以在短时间内启动大规模计算资源来应对大量分布式计算节点的需求;2、弹性计算性价比低,每个虚拟机需要消耗大量额外的***资源,在批处理为主的离线分析中,这些资源更是大部分时间都处于闲置状态。
发明内容
为了克服现有技术的不足,本发明的目的在于提供一种基于容器集群的大数据平台架构***,其能解决当前计算资源利用率不高的技术问题。
本发明的目的采用如下技术方案实现:
一种基于容器集群的大数据平台架构***,包括由下至上依次连接的:物理资源层、操作***层、mesos资源管理层、框架层和接口层;各层之间通过分布式协调管理器Zookeeper来进行协作与通讯管理;
kubernetes作为框架集成到mesos资源管理层中,通过mesos资源管理层来获取底层物理资源;所述kubernetes用来管理容器集群中的微服务应用;所述容器集群用于运行Docker应用,所述微服务应用封装于Docker应用中,外部***通过接口层来调取本架构***中的微服务应用。
进一步地,还包括日志管理***ELK,所述日志管理***ELK用于实现平台架构***在生产环境中的日志收集、格式化、过滤、索引、查询。
进一步地,所述框架层用于运行Hadoop、Spark、Storm、Marathon、Chronos、Docker中的数据处理框架以实现计算资源服务调度。
进一步地,所述接口层包括协议接口、服务接口和二次开发接口;所述协议接口,用于为外部***提供标准化的协议接口,包括:通信协议接口、访问协议接口和数据解析接口;所述服务接口,用于为外部***提供应用服务接口,外部***能够通过调用该接口访问平台中的数据和应用,包括数据预处理接口、数据查询接口、数据分析接口和数据挖掘接口;所述二次开发接口用于为第三方平台和研发人员提供开发接口,包括数据接口、算法接口、数据分析接口和数据挖掘接口。
进一步地,所述框架层包括容器调取框架层,所述容器调度框架层通过不断比较集群内的状态信息与实际集群环境是否一致,当发现集群的状态信息与实际状态不一致时,与容器集群节点的控制进程进行通信创建容器实例,使状态信息和实际环境重新一致。
进一步地,还包括高可用键值存储***ETCD,所述高可用键值存储***ETCD存储各种集群状态信息,由多个节点相互通信构成整体对外服务,每个节点均存储了完整的数据,并通过Raft协议保证每个节点维护的数据是一致的。
进一步地,所述容器调取框架层还用于给执行如下步骤:虚拟DNS负责在ETCD存储中查找主机名对应IP分配给容器使用,并通过网络扩展组件实现容器的跨主机通讯,容器网桥的TCP报文包装在一个带有路由信息的UDP报文中,网络扩展组件通过路由信息把报文转发到目标物理主机,目标物理主机上的网络进程负责解包。把TCP报文转发到本机的容器网桥上,从而在不影响容器原有网络机制的情况下,实现容器的跨主机通讯。
进一步地,所述架构***在大规模生产部署时,采用Ansible配置管理工具,实现数据处理平台的一键式安装和删除。
进一步地,所述docker应用通过如下步骤构建实现:
通过编写Dockerfile文件构建Hadoop大数据集群自动化部署相关的Docker镜像,包括Server端镜像和Agent端镜像;利用Server端镜像启动一个Server容器,利用Agent端镜像启动多个Agent端,由Server端对多个Agent端进行统一管理,同时在Server容器中启动Web应用;建立一个由Server端、多Agent端和Web端组成的分布式架构,自动化启动部署Hadoop相关大数据集群的服务。
进一步地,所述分布式协调管理器Zookeeper用于保存平台架构***的非业务性元数据,并动态的通知对应的订阅者。
相比现有技术,本发明的有益效果在于:
本发明的基于容器集群的大数据平台架构***能够实现快速部署、秒级停起各类应用,支持多种服务的集群部署、负载均衡、灾难恢复和弹性伸缩。
该平台架构***还具有如下优点:能对大数据计算资源进行统一管理和调度,为大数据应用提供弹性伸缩能力,实现大数据应用的云端一键部署和扩容;能解决在同一个集群内不同大数据框架之间的共享资源分配,完成了跨框架间的细粒度的资源共享;将不同的框架整合到统一的基础框架上,允许用户跨框架来管理集群资源,不仅可以增大资源是用来和吞吐量,提高平台的灵活性,而且还能实现更快的数据计算和资源的有效利用,可以大大降低基础架构的复杂性和提高其可靠性。
附图说明
图1为本发明的基于容器集群的大数据平台架构***的结构图;
图2为容器调度的工作机制的原理示意图;
图3为虚拟DNS工作机制的原理示意图;
图4为虚拟网络工作机制的具体原理示意图。
具体实施方式
下面,结合附图以及具体实施方式,对本发明做进一步描述,需要说明的是,在不相冲突的前提下,以下描述的各实施例之间或各技术特征之间可以任意组合形成新的实施例。
本发明拟的基于容器集群的大数据平台架构***用于实现应用秒级的启动,大幅度提高***资源利用率,并且具有服务开发、测试、部署与运维一体化的优势,带来很大的经济价值。本研究项目拟针对当前大数据云平台存在的问题,为提高云平台中大数据处理的资源利用率和工具部署提供了一套完整的解决方案。本项目拟通过在云数据中心内部构建一个容器集群和调度***,使计算任务以容器为载体按资源闲置情况分配到集群中的服务器中运行,计算任务可以通过一行代码或用户界面中的一个按钮生成,大大降低了大数据应用的实施成本。
当前主流的大数据架构由不同组件构成,用以满足不同服务需求,Lambda架构是一个结合批处理、流水计算两者的优势来处理大数据的架构,由批处理层、速度层、服务层构成。这种架构设计通过批处理来保证数据的全面性、准确性,同时通过流式计算保证实时性,服务层负责存储批处理和速度层的输出及对外服务,在容器平台上运行Lambda架构不仅可以共享资源,而且可以支持容错。
具体如图1所示,本实施例提供了一种基于容器集群的大数据平台架构***,包括由下至上依次连接的:物理资源层、操作***层、mesos资源管理层、框架层和接口层;各层之间通过分布式协调管理器Zookeeper来进行协作与通讯管理;
kubernetes作为框架集成到mesos资源管理层中,通过mesos资源管理层来获取底层物理资源;所述kubernetes来管理容器集群中的微服务应用;所述容器集群用于运行Docker应用,所述微服务应用封装于Docker应用中,外部***通过接口层来调取本架构***中的微服务应用。其中所述接口层包括协议接口、服务接口和二次开发接口;所述协议接口,用于为外部***提供标准化的协议接口,包括:通信协议接口、访问协议接口和数据解析接口;所述服务接口,用于为外部***提供应用服务接口,外部***能够通过调用该接口访问平台中的数据和应用,包括数据预处理接口、数据查询接口、数据分析接口和数据挖掘接口;所述二次开发接口用于为第三方平台和研发人员提供开发接口,包括数据接口、算法接口、数据分析接口和数据挖掘接口。所述docker应用通过如下步骤构建实现:通过编写Dockerfile文件构建Hadoop大数据集群自动化部署相关的Docker镜像,包括Server端镜像和Agent端镜像;利用Server端镜像启动一个Server容器,利用Agent端镜像启动多个Agent端,由Server端对多个Agent端进行统一管理,同时在Server容器中启动Web应用;建立一个由Server端、多Agent端和Web端组成的分布式架构,自动化启动部署Hadoop相关大数据集群的服务。
上述基于mesos和Docker的***架构由OS操作***层、mesos资源管理层、docker计算逻辑单元层、HDFS分布式存储、大数据框架层、计算资源服务调度层、应用服务层组成;所述大数据框架层包括有Hadoop、Spark、Storm等框架,上述数据框架都要面对两种必不可少的任务运行类型:定期批量汇聚型/阶段性任务以及数据流处理为代表的长期任务。这两类任务的主要要求在于容错能力,即是集群节点发生故障,各任务也必须始终保持运行,Mesos提供两套出色的框架以分别支持这两种任务类别。一种是Marathon,它是一套专门用于实现长期运行任务高容错性的架构,且支持与Zookeeper相配合的HA模式,能够运行Docker并提供REST AP1:另一个是Chronos,支持反复地在特定时间运行定期任务。
还包括日志管理***ELK,所述日志管理***ELK用于实现平台架构***在生产环境中的日志收集、格式化、过滤、索引、查询。所述架构***在大规模生产部署时,采用Ansible配置管理工具,实现数据处理平台的一键式安装和删除。还包括对组件版本的升级及回退,以及生产环境的批量配置修改等操作,简化了复杂的运维配置管理工作。
日志中包含了大量有价值的信息,它们无规律、非结构化地隐藏在分散的数据节点中,运维管理人员通过日志来分析、诊断问题、服务器响应效率及关键业务的变化。本实施例中提供了一个日志集中管理器,负责日志集中汇聚、日志格式化过滤、索引日志内容,快速返回查询结果,具有伸缩性,在各个环节都能够扩容,具有高可用性,在单一节点失效的情况下不影响使用,能通过图形界面查询,并出报表,很好地支持了ELK工具集,即Elasticsearch,Logstash,Kibana完成日志检索、分析、收集,可视化任务。
本实施例中的分布式协调管理器Zookeeper支撑整个平台的协作与通信,承担全局锁的职责,同时要将平台的非业务性元数据保存起来,动态地通知到订阅者,在分布式情况下需要一个控制多任务之间的同步方法。需要满足名称服务、共享资源锁定分布式互斥、共享资源同步访问、配置管理、领导者选择。Mesos支持ZooKeeper分布式程序协调服务,保持Mesos多个Master节点的数据状态一致性。而Kubernetes作为Mesos的一个Framework让tMesos和Kubernetes一起工作。这种模式不仅有支持一部分类似大数据,Spark负载的能力,也能让其他的分析***可以受益于Mesos支持的细粒度的资源分配,在运行高动态的业务负载时这将提升资源的使用和性能。
如图2所示,本实施例采用基于Kubernetes建设的容器调度框架层来监控所有容器集群服务器的状态,对集群的性能起到了极大的缓冲作用,有效提高整个集群的吞吐量。所述容器调度框架层通过不断比较集群内的状态信息与实际集群环境是否一致,当发现集群的状态信息与实际状态不一致时,与容器集群节点的控制进程进行通信创建容器实例,使状态信息和实际环境重新一致。本实施例还包括高可用键值存储***ETCD,所述高可用键值存储***ETCD存储各种集群状态信息,由多个节点相互通信构成整体对外服务,每个节点均存储了完整的数据,并通过Raft协议保证每个节点维护的数据是一致的。
如图3和图4所示,虚拟DNS组件解决动态创建容器导致的IP不可预知,其负责监控集群中容器的创建情况,虚拟DNS负责在ETCD存储中查找主机名对应IP分配给容器使用,并通过网络扩展组件实现容器的跨主机通讯,容器网桥的TCP报文包装在一个带有路由信息的UDP报文中,网络扩展组件通过路由信息把报文转发到目标物理主机,目标物理主机上的网络进程负责解包。把TCP报文转发到本机的容器网桥上,从而在不影响容器原有网络机制的情况下,实现容器的跨主机通讯。
该平台架构***还具有如下优点:能对大数据计算资源进行统一管理和调度,为大数据应用提供弹性伸缩能力,实现大数据应用的云端一键部署和扩容;能解决在同一个集群内不同大数据框架之间的共享资源分配,完成了跨框架间的细粒度的资源共享;将不同的框架整合到统一的基础框架上,允许用户跨框架来管理集群资源,不仅可以增大资源是用来和吞吐量,提高平台的灵活性,而且还能实现更快的数据计算和资源的有效利用,可以大大降低基础架构的复杂性和提高其可靠性。
本实施例还具有如下优势:1、基于容器技术构建弹性伸缩的大数据应用环境。利用容器的快速创建、资源利用率高的特点,由其装载大数据的计算逻辑并由调度***进行动态管理,取代原来在预置物理机或虚拟机作为计算节点的方式,为大数据处理提供弹性伸缩。
2、基于容器的大数据应用云端高效部署。大数据环境的依赖被封装在容器内部,研究人员只需提交或更新云端镜像仓库的镜像,就可以实现大数据应用环境的远程高效部署。
3、基于容器的大数据应用开发及运行管理。管理大数据应用从开发到运行的整个过程:构建源代码将应用打包成容器镜像、将容器部署到云端、镜像仓库管理、服务编排、平台对运行的容器及集群进行调度管理、支持负载均衡及数据卷等功能。
上述实施方式仅为本发明的优选实施方式,不能以此来限定本发明保护的范围,本领域的技术人员在本发明的基础上所做的任何非实质性的变化及替换均属于本发明所要求保护的范围。

Claims (10)

1.一种基于容器集群的大数据平台架构***,其特征在于,包括由下至上依次连接的:物理资源层、操作***层、mesos资源管理层、框架层和接口层;各层之间通过分布式协调管理器Zookeeper来进行协作与通讯管理;
kubernetes作为框架集成到mesos资源管理层中,通过mesos资源管理层来获取底层物理资源;所述kubernetes用来管理容器集群中的微服务应用;所述容器集群用于运行Docker应用,所述微服务应用封装于Docker应用中,外部***通过接口层来调取本架构***中的微服务应用。
2.如权利要求1所述的一种基于容器集群的大数据平台架构***,其特征在于,还包括日志管理***ELK,所述日志管理***ELK用于实现平台架构***在生产环境中的日志收集、格式化、过滤、索引、查询。
3.如权利要求1所述的一种基于容器集群的大数据平台架构***,其特征在于,所述框架层用于运行Hadoop、Spark、Storm、Marathon、Chronos、Docker中的数据处理框架以实现计算资源服务调度。
4.如权利要求1所述的一种基于容器集群的大数据平台架构***,其特征在于,所述接口层包括协议接口、服务接口和二次开发接口;所述协议接口,用于为外部***提供标准化的协议接口,包括:通信协议接口、访问协议接口和数据解析接口;所述服务接口,用于为外部***提供应用服务接口,外部***能够通过调用该接口访问平台中的数据和应用,包括数据预处理接口、数据查询接口、数据分析接口和数据挖掘接口;所述二次开发接口用于为第三方平台和研发人员提供开发接口,包括数据接口、算法接口、数据分析接口和数据挖掘接口。
5.如权利要求1所述的一种基于容器集群的大数据平台架构***,其特征在于,所述框架层包括容器调取框架层,所述容器调度框架层通过不断比较集群内的状态信息与实际集群环境是否一致,当发现集群的状态信息与实际状态不一致时,与容器集群节点的控制进程进行通信创建容器实例,使状态信息和实际环境重新一致。
6.如权利要求5所述的一种基于容器集群的大数据平台架构***,其特征在于,还包括高可用键值存储***ETCD,所述高可用键值存储***ETCD存储各种集群状态信息,由多个节点相互通信构成整体对外服务,每个节点均存储有完整的数据,并通过Raft协议保证每个节点维护的数据是一致的。
7.如权利要求6所述的一种基于容器集群的大数据平台架构***,其特征在于,所述容器调取框架层还用于给执行如下步骤:虚拟DNS负责在ETCD存储中查找主机名对应IP,并将IP分配给容器使用;还用于通过网络扩展组件实现容器的跨主机通讯。
8.如权利要求1所述的一种基于容器集群的大数据平台架构***,其特征在于,所述架构***在大规模生产部署时,采用Ansible配置管理工具,实现数据处理平台的一键式安装和删除。
9.如权利要求1所述的一种基于容器集群的大数据平台架构***,其特征在于,所述Docker应用通过如下步骤构建实现:
通过编写Dockerfile文件构建Hadoop大数据集群自动化部署相关的Docker镜像,包括Server端镜像和Agent端镜像;利用Server端镜像启动一个Server容器,利用Agent端镜像启动多个Agent端,由Server端对多个Agent端进行统一管理,同时在Server容器中启动Web应用;建立一个由Server端、多Agent端和Web端组成的分布式架构,自动化启动部署Hadoop相关大数据集群的服务。
10.如权利要求1所述的一种基于容器集群的大数据平台架构***,其特征在于,所述分布式协调管理器Zookeeper用于保存平台架构***的非业务性元数据,并动态的通知对应的订阅者。
CN201910585529.7A 2019-07-01 2019-07-01 一种基于容器集群的大数据平台架构*** Pending CN110489204A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910585529.7A CN110489204A (zh) 2019-07-01 2019-07-01 一种基于容器集群的大数据平台架构***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910585529.7A CN110489204A (zh) 2019-07-01 2019-07-01 一种基于容器集群的大数据平台架构***

Publications (1)

Publication Number Publication Date
CN110489204A true CN110489204A (zh) 2019-11-22

Family

ID=68546443

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910585529.7A Pending CN110489204A (zh) 2019-07-01 2019-07-01 一种基于容器集群的大数据平台架构***

Country Status (1)

Country Link
CN (1) CN110489204A (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110851237A (zh) * 2019-11-13 2020-02-28 北京计算机技术及应用研究所 一种面向国产平台的容器跨异构集群重构方法
CN111008177A (zh) * 2019-12-03 2020-04-14 中国医学科学院医学信息研究所 微服务应用平台及其资源保存方法和保存装置
CN111274223A (zh) * 2020-01-22 2020-06-12 清华大学 一种一键部署大数据和深度学***台及其构建方法
CN111327681A (zh) * 2020-01-21 2020-06-23 北京工业大学 一种基于Kubernetes的云计算数据平台构建方法
CN111399855A (zh) * 2020-03-09 2020-07-10 山东汇贸电子口岸有限公司 一种基于容器技术的自动化应用实例发布方法
CN111610985A (zh) * 2020-05-13 2020-09-01 麒麟软件有限公司 一种国产平台上的kubernetes集群快速部署方法
CN111984373A (zh) * 2020-08-19 2020-11-24 上海翘腾科技有限公司 一种Kubernetes容器环境下保证环境一致性的方法及***
CN112069021A (zh) * 2020-08-21 2020-12-11 北京五八信息技术有限公司 流量数据的存储方法、装置、电子设备和存储介质
CN113890876A (zh) * 2021-01-27 2022-01-04 贺鑫 一种基于微服务框架的综采工作面数据中台的节点管控方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106302771A (zh) * 2016-08-23 2017-01-04 浪潮电子信息产业股份有限公司 一种基于Docker容器创建的应用的域名配置方法
CN106325975A (zh) * 2016-09-09 2017-01-11 浪潮软件股份有限公司 一种利用Docker容器自动化部署与管理大数据集群的方法
CN106776960A (zh) * 2016-12-05 2017-05-31 公安部第三研究所 基于微容器实现的大数据云平台
CN107066319A (zh) * 2017-01-17 2017-08-18 北京国电通网络技术有限公司 一种面向异构资源的多维调度***
US20170346683A1 (en) * 2016-05-24 2017-11-30 Futurewei Technologies, Inc. Automated Generation of Deployment Workflows for Cloud Platforms Based on Logical Stacks
CN107864222A (zh) * 2017-12-14 2018-03-30 北京航天测控技术有限公司 一种基于PaaS平台的工业大数据计算架构
CN109582441A (zh) * 2018-11-30 2019-04-05 北京百度网讯科技有限公司 用于提供容器服务的***、方法和装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170346683A1 (en) * 2016-05-24 2017-11-30 Futurewei Technologies, Inc. Automated Generation of Deployment Workflows for Cloud Platforms Based on Logical Stacks
CN106302771A (zh) * 2016-08-23 2017-01-04 浪潮电子信息产业股份有限公司 一种基于Docker容器创建的应用的域名配置方法
CN106325975A (zh) * 2016-09-09 2017-01-11 浪潮软件股份有限公司 一种利用Docker容器自动化部署与管理大数据集群的方法
CN106776960A (zh) * 2016-12-05 2017-05-31 公安部第三研究所 基于微容器实现的大数据云平台
CN107066319A (zh) * 2017-01-17 2017-08-18 北京国电通网络技术有限公司 一种面向异构资源的多维调度***
CN107864222A (zh) * 2017-12-14 2018-03-30 北京航天测控技术有限公司 一种基于PaaS平台的工业大数据计算架构
CN109582441A (zh) * 2018-11-30 2019-04-05 北京百度网讯科技有限公司 用于提供容器服务的***、方法和装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
张勋等: "一种基于容器编排技术的资源运维***的设计与实现", 《电信科学》 *

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110851237A (zh) * 2019-11-13 2020-02-28 北京计算机技术及应用研究所 一种面向国产平台的容器跨异构集群重构方法
CN110851237B (zh) * 2019-11-13 2023-09-26 北京计算机技术及应用研究所 一种面向国产平台的容器跨异构集群重构方法
CN111008177A (zh) * 2019-12-03 2020-04-14 中国医学科学院医学信息研究所 微服务应用平台及其资源保存方法和保存装置
CN111327681A (zh) * 2020-01-21 2020-06-23 北京工业大学 一种基于Kubernetes的云计算数据平台构建方法
CN111274223A (zh) * 2020-01-22 2020-06-12 清华大学 一种一键部署大数据和深度学***台及其构建方法
CN111399855A (zh) * 2020-03-09 2020-07-10 山东汇贸电子口岸有限公司 一种基于容器技术的自动化应用实例发布方法
CN111399855B (zh) * 2020-03-09 2023-10-20 山东省电子口岸有限公司 一种基于容器技术的自动化应用实例发布方法
CN111610985B (zh) * 2020-05-13 2023-05-05 麒麟软件有限公司 一种国产平台上的kubernetes集群快速部署方法
CN111610985A (zh) * 2020-05-13 2020-09-01 麒麟软件有限公司 一种国产平台上的kubernetes集群快速部署方法
CN111984373B (zh) * 2020-08-19 2023-07-07 昆山旌展信息科技有限公司 一种Kubernetes容器环境下保证环境一致性的方法及***
CN111984373A (zh) * 2020-08-19 2020-11-24 上海翘腾科技有限公司 一种Kubernetes容器环境下保证环境一致性的方法及***
CN112069021A (zh) * 2020-08-21 2020-12-11 北京五八信息技术有限公司 流量数据的存储方法、装置、电子设备和存储介质
CN112069021B (zh) * 2020-08-21 2024-02-20 北京五八信息技术有限公司 流量数据的存储方法、装置、电子设备和存储介质
CN113890876A (zh) * 2021-01-27 2022-01-04 贺鑫 一种基于微服务框架的综采工作面数据中台的节点管控方法

Similar Documents

Publication Publication Date Title
CN110489204A (zh) 一种基于容器集群的大数据平台架构***
de Assuncao et al. Distributed data stream processing and edge computing: A survey on resource elasticity and future directions
CN110489205A (zh) 一种基于容器集群的教育服务架构***
CN109565515B (zh) 分布式资源管理***中的动态租户结构调整的***、设备和过程
CN101873005B (zh) 一种实现电能量均衡采集的方法
CN105554123B (zh) 大容量感知云计算平台***
CN105025095A (zh) 实现云计算弹***的集群架构
Nastic et al. Polaris scheduler: Edge sensitive and slo aware workload scheduling in cloud-edge-iot clusters
De Benedetti et al. JarvSis: a distributed scheduler for IoT applications
CN111984505B (zh) 一种运维数据采集装置及采集方法
Hu et al. Software-defined edge computing (SDEC): Principles, open system architecture and challenges
CN113672240A (zh) 一种基于容器的多机房批量自动化部署应用的方法及***
CN114301917A (zh) 一种弹性伸缩的设备接入***及其工作方法
CN110489203A (zh) 一种容器调度框架***
CN111124640A (zh) 任务分配方法及***、存储介质、电子装置
CN114385126B (zh) 一种基于K8s的多租户深度学习模型研发***及方法
CN108304168A (zh) 一种边缘计算机操作***
CN116700933B (zh) 一种面向异构算力联邦的多集群作业调度***和方法
Ding et al. Task allocation in hybrid big data analytics for urban IoT applications
Liu et al. KubFBS: A fine‐grained and balance‐aware scheduling system for deep learning tasks based on kubernetes
KR101997602B1 (ko) 디바이스 양방향 m2m 리소스 관리 방법
CN113515356B (zh) 一种轻量级分布式资源管理与任务调度器及方法
CN114090201A (zh) 资源调度方法、装置、设备及存储介质
Herlicq et al. Nextgenemo: an efficient provisioning of edge-native applications
WO2023154051A1 (en) Determining root causes of anomalies in services

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20191122

RJ01 Rejection of invention patent application after publication