CN112737963A - 互联网分布式***、控制方法、电子设备及存储介质 - Google Patents
互联网分布式***、控制方法、电子设备及存储介质 Download PDFInfo
- Publication number
- CN112737963A CN112737963A CN202011556789.0A CN202011556789A CN112737963A CN 112737963 A CN112737963 A CN 112737963A CN 202011556789 A CN202011556789 A CN 202011556789A CN 112737963 A CN112737963 A CN 112737963A
- Authority
- CN
- China
- Prior art keywords
- architecture
- calculation
- service
- backbone
- control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请公开了互联网分布式***、控制方法、电子设备及存储介质,涉及互联网分布式技术领域和搜索领域。具体实现方案为:一种互联网分布式***,包括:控制架构及主干架构,控制架构与所述主干架构之间存在数据通道和控制通道;其中,控制架构,用于利用数据通道采集主干架构的流量数据,对流量数据进行计算和分析;并利用控制通道,采用计算和分析的结果对主干架构进行动态决策;其中,动态决策包括调整服务实例的资源配置、调整服务参数及调整业务流量中的至少一项。本申请能够实现互联网分布式***的高可用、高性能和低成本。
Description
技术领域
本申请涉及互联网技术领域,尤其涉及互联网分布式技术领域和搜索领域。
背景技术
随着互联网技术的快速发展,出现了非常多的互联网服务,用户的使用频率和时长增长也非常快。这导致服务背后的技术***也变得越来越复杂和庞大,并且,互联网服务的技术开发者通过高频的变更,来不断的完善和提升用户的使用体验,这些都对互联网服务产品的稳定性、高性能和成本提出了更大的挑战。如何在日益增长的用户规模、内容数据规模和高频变更下保证互联网分布式***的高可用、高性能和低成本,成为亟需解决的技术难题。
目前的解决方式一般是通过人工的方式处理异常并且实施预案,以保障服务的高可用性;通过人工的参数调优周期性地调整***参数,维持***的高性能;通过人工的资源审计或者治理来降低***的机器成本。或者,采用半自动的方式,在有限的场景下实现自动化调优。
这些方案都依赖于较高的人力投入,无法实现互联网分布式***的高可用、高性能和低成本。
发明内容
本申请提供了一种互联网分布式***、控制方法、电子设备及存储介质。
根据本申请的一方面,提供了一种互联网分布式***,包括:
控制架构及主干架构,控制架构与所述主干架构之间存在数据通道和控制通道;其中,
控制架构,用于利用数据通道采集主干架构的流量数据,对流量数据进行计算和分析;并利用控制通道,采用计算和分析的结果对主干架构进行动态决策;
其中,动态决策包括调整服务实例的资源配置、调整服务参数及调整业务流量中的至少一项。
根据本申请的另一方面,提供了一种互联网分布式***的控制方法,应用于设置在互联网分布式***中的控制架构,方法包括:
利用控制架构与主干架构之间的数据通道采集主干架构的流量数据,对流量数据进行计算和分析;并利用控制架构与主干架构之间的控制通道,采用计算和分析的结果对主干架构进行动态决策;其中,动态决策包括调整服务实例的资源配置、调整服务参数及调整业务流量中的至少一项。
根据本申请的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行上述互联网分布式***的控制方法。
根据本申请的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行上述互联网分布式***的控制方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现本公开任一实施例中的方法。
根据本申请提出的互联网分布式***及其控制方法,在现有的互联网分布式***中增加控制架构,由控制架构采集流量数据,并对流量数据进行计算和分析;利用计算和分析结果对主干架构进行动态决策。可见,本申请通过强化对互联网分布式***的智能控制,实现了互联网分布式***的高可用、高性能和低成本。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请实施例的一种互联网分布式***的结构示意图;
图2是本申请实施例的一种互联网分布式***的框架结构示意图一;
图3是本申请实施例的一种互联网分布式***的框架结构示意图二;
图4是本申请实施例的一种互联网分布式***的控制方法实现流程图;
图5是用来实现本申请实施例的互联网分布式***的控制方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
现有的互联网分布式***架构包括***实时面板和平台(***实时面板&平台)、控制架构。其中,主干架构是互联网分布式***架构的主通路,用于实现用户使用互联网服务产品的完整过程。***实时面板和平台从全局到局部、从宏观到微观查看***运行时的状况,并可以将这些运行状态在平台进行实时展现。本申请实施例提出的互联网分布式***在***实时面板和平台与主干架构之间加入控制架构,参见图1,图1是本申请实施例的一种互联网分布式***的结构示意图。在本申请实施例提出的互联网分布式***中,通过控制架构来精准控制主干架构的正常运转,并在异常时直接控制主干架构的运行,最大化避免或者减少用户流量的损失。控制架构采用完全自动调参机制,可以选择最适合主干架构运行的最优参数,实现零人力投入;通过自动化的数据审计,以及基于数据审计结果的服务实例的自动伸缩、服务实例资源的自动调整,实现最合理的成本机制。
如图1所示,现有的主干架构主要包括:
基础环境/机器:用于提供服务运行的物理环境,包含物理机器上的CPU、内存、磁盘(disk)、网络输入输出(IO)交换机、跨机房网络等资源。
基础架构/容器:基础架构负责容器管理、服务队列管理、核心监控报警等,服务进程一般运行在基础架构/容器内。
业务流量/用户:用于基于场景实现流量的分发调度。
以上三个层次是现有的主干架构中包含的层次,本申请实施例还可以在主干架构中增加一个业务架构/服务模块(简称业务架构模块),该业务架构/服务模块设置于上述基础架构/容器对应的模块与业务流量/用户对应的模块之间,通过强化智能调度、动态参数调整和基于流量优先级的过载保护,当控制架构基于全局状态判断出最优决策后,业务架构模块执行相应的控制。
在上述层次中,可以理解为业务架构模块的控制对应单个实例,是执行的基础单位,属于微观视角;业务流量/用户对应的模块需要全局视角才能做出最优决策,而且是由流量的统一接入层实现的智能分发调度。
互联网分布式***中,***实时面板和平台的作用是从全局到局部、从宏观到微观看到查看的运行时状况,并将这些运行状态在平台进行实时展现。如图1所示,***实时面板和平台提供以下三个方面的功能:
服务稳定性(用户感知稳定性)/性能分析,包括整体/业务/分层可用性分析,以及服务运行状态分析,包括***整体展现稳定性和性能的收集和计算机制。
问题自动分析/定位分析,包括指标突变分析、全链路异常定位、基于报警的自动分析,引入全局状态的分析和关联机制,包括基于日志标识(log id)的全链路自动分析。
稳定性/性能/成本机制,该机制是不断升级和迭代的。本申请实施例可以将这些稳定性/性能/成本机制不断沉淀到控制架构中,能使得***机制不断完善和进化。
基于图1所示的***框架示意图,本申请实施例提出的互联网分布式***包括:
控制架构及主干架构,控制架构与所述主干架构之间存在数据通道和控制通道;其中,
控制架构,用于利用数据通道采集主干架构的流量数据,对流量数据进行计算和分析;并利用控制通道,采用计算和分析的结果对主干架构进行动态决策;
其中,动态决策包括调整服务实例的资源配置、调整服务参数及调整业务流量中的至少一项。
如图1所示,在一些实施方式中,上述控制架构包括计算分析模块(如图1中的全要素指标计算和流量分析模块)和动态决策模块。其中,计算分析模块可以认为是控制架构的基础部分,动态决策模块可以认为是控制架构的核心控制部分。具体地:
在一些实施方式中,计算分析模块,用于利用数据通道从主干架构的基础环境采集流量数据,并对流量数据进行计算和分析;获取***实时面板和平台的计算和分析结果,将计算分析模块的计算和分析结果以及***实时面板和平台的计算和分析结果发送至动态决策模块;
动态决策模块,用于根据计算分析模块的计算和分析的结果、以及***实时面板和平台的计算和分析结果,利用控制通道对主干架构进行动态决策。
在本申请实施方式中,计算分析模块构建实时化更高的流量采集、计算和分析机制。由于控制架构需要依赖数据采集的实时性来做出稳定性控制的决策,一般来说数据采集所耗时间需要以秒为级别,原有传统的基于日志的采集方式在大规模的流量面前就无法满足需要。为了快速采集数据,本申请实施例至少提出如下两种方式:
第一种,计算分析模块监控日志的新增事件,将新增事件的日志发布到消息队列中,通过实时流式计算对新增事件的日志进行指标的分析和计算。
例如,计算分析模块监控日志的新增事件,并将新增的日志发布到消息队列(比如Apache Kafka队列、Apache Pulsar队列),汇聚和计算的算子通过实时流式计算来进行指标的计算和分析。这种方式一般可以做到5秒内得到实时指标。
第二种,计算分析模块对流量数据进行本地汇聚和计算分析,采集本地汇聚和计算分析的结果。
例如,计算分析模块首先做本地的汇聚和计算,然后以秒为周期写入到消息队列中、或者由***的控制服务主动来采集。这种方式一般可以做到2秒内得到实时指标。
一般来说,数据的普通指标可以通过上述第一种方式采集,对于极重要指标可以通过上述第一种方式采集。第一种方式由于采用监控日志的方式采集数据的指标,不需要对服务进行修改,因此所有操作对于服务来说是透明的。第二种方式由于需要在本地进行汇聚和计算,需要对服务进行一定的更改,因此对服务有一定的侵入性。
基于计算分析模块采集的全要素实时指标,动态决策模块可以针对指标信息实现全局最优的决策,使主干架构的可用性更高、性能更强且成本更低。如图1所示,动态决策模块对主干架构的控制至少可以有以下三个层次:
第一层次,动态决策模块根据计算分析模块的计算和分析的结果、以及***实时面板和平台的计算和分析结果确定各个服务在至少一种预设条件下对应的实例数量,并根据该实例数量调整主干架构的服务实例的资源配置,以实现对主干架构的基础架构的控制。
在一些实施方式中,根据采集到的实时指标和历史指标,动态决策模块可以进行资源调度分配,通过平台即服务(PaaS,Platform-as-a-Service)***调整服务的部署来实现更高的可用性、更高的性能和最低的成本。例如,通过调整服务的实例数实现自动的扩容、缩容。又如,在流量增长时调大实例数来应对更大的流量,在流量低峰期缩小实例数以降低机器成本,此外流量突涨时调大实例数也可以增高服务的稳定性和性能。又如,可以通过自动化的审计来调整服务实例的资源配额,以避免资源的浪费,实现服务占用资源的合理化。
第二层次,动态决策模块根据计算分析模块的计算和分析的结果、以及***实时面板和平台的计算和分析结果计算主干架构的全局最优参数,并根据全局最优参数调整主干架构的服务参数,以实现对主干架构的业务架构的调整。其中,调整的服务参数包括服务实例的容量、策略模型、业务请求的超时时间和问题流量的划分标准中的至少一项。
在一些实施方式中,动态决策模块基于采集到的实时指标和历史指标进行动态反馈及参数管理,将计算出的全局最优参数信息生效到主干架构,从而实现更高品质的***服务。比如高峰期因为策略模型复杂导致性能下降,用户感受到响应时间慢,此时可以通过扩容服务实例的方式解决;如果受限于成本,也可以通过采用更简单的策略模型来替代,这样能有效控制高峰期的响应延时和控制成本。又如,如果发生了延时飙高,导致用户的请求大部分超时,那么动态决策模块可以通过降低部分子请求的超时时间,来降低对整体响应时间的影响,另外也可以通过对导致问题流量的情况进行降级来解决。总之,动态决策模块可以基于全局状态制定详细的控制计划,并且基于控制计划控制主干架构的运行。
为了实现动态决策模块对主干架构的业务架构的调整,本申请实施例在主干架构中设置业务架构模块(如图1中的业务架构(服务)),该业务架构模块用于从动态决策模块接收全局最优参数,根据该全局最优参数调整主干架构的服务参数。
第三层次,动态决策模块监控***异常和/或服务异常的情况,根据***异常和/或服务异常的情况对主干架构的业务流量进行切换、屏蔽或降级。
在一些实施方式中,在***出现异常,并且会对用户服务产生影响时进行自动切流、智能屏蔽或降级。例如,在某个机房整体故障时,可以直接将流量切到另外的机房,这样能做到单机房故障不影响用户。又如,某些异常流量会直接导致服务异常,那么可以直接将这部分流量在入口屏蔽掉,避免这些异常流量下发到子***。
从上述介绍可以看出,主干架构从下到上是按照从物理层面到逻辑层面的顺序设计的。其中,基础环境属于硬件设施;基础架构负责容器管理、服务队列管理等,所有的服务都采用基础架构来实现;业务架构是指具体的业务场景(如搜索场景、推荐场景),关注服务本身;业务架构承接的是业务流量,用户能够直接感受自身的业务流量。相应地,本申请实施例提出的控制架构对于上述主干架构的层次有不同的控制逻辑,从下到上的控制逻辑依次为:1)控制容器,实现自动扩缩容;2)通过参数调整去控制业务架构;3)在异常情况下,直接切换流量或屏蔽流量,尽可能减少用户损失。可见,控制架构从下到上的控制逻辑是从基础到业务,从事前避免到事后止损。
本申请实施例通过全要素指标的实时采集,经过动态决策模块的全局最优决策,以及通过上述三个层次的对主干架构的精准智能控制,可以达到更高可用性、更高性能和更低成本,从而实现高品质的***架构。
图2是本申请实施例的一种互联网分布式***的框架结构示意图一。如图2所示,本申请实施例提出的互联网分布式***包括控制架构220及主干架构230。
图3是本申请实施例的一种互联网分布式***的框架结构示意图二。如图3所示,在一些实施方式中,上述***还可以包括***实时面板和平台210。
在一些实施方式中,上述控制架构220可以包括计算分析模块221和动态决策模块222。
图2及图3中的各个架构或模块的在上述实施方式中已有详细介绍,在此不再赘述。
基于本申请实施例提出的互联网分布式***,本申请实施例还提出一种互联网分布式***的控制方法,该方法可以应用于设置在互联网分布式***中的控制架构上。图4是本申请实施例的一种互联网分布式***的控制方法实现流程图,包括:
S401:利用控制架构与主干架构之间的数据通道采集主干架构的流量数据,对该流量数据进行计算和分析;
S402:利用控制架构与主干架构之间的控制通道,采用上述计算和分析的结果对主干架构进行动态决策;其中,动态决策包括调整服务实例的资源配置、调整服务参数及调整业务流量中的至少一项。
可选地,上述步骤S401包括:利用上述数据通道从主干架构的基础环境采集流量数据,并对流量数据进行计算和分析;
相应的,上述步骤S402包括:根据控制架构的计算和分析的结果、以及***互联网分布式***中的实时面板和平台的计算和分析结果,利用上述控制通道对主干架构进行动态决策。
可选地,上述对流量数据进行计算和分析,包括:监控日志的新增事件,将新增事件的日志发布到消息队列中,通过实时流式计算对新增事件的日志进行指标的分析和计算。
或者,可选地,上述对流量数据进行计算和分析包括:对流量数据进行本地汇聚和计算分析,采集本地汇聚和计算分析的结果。
可选地,上述步骤S402中对主干架构进行动态决策,包括:根据控制架构的计算和分析的结果、以及***实时面板和平台的计算和分析结果确定各个服务在至少一种预设条件下对应的实例数量,并根据所述实例数量调整所述主干架构的服务实例的资源配置,以实现对所述主干架构的基础架构的控制。
或者,可选地,上述步骤S402中对主干架构进行动态决策包括:根据控制架构的计算和分析的结果、以及***实时面板和平台的计算和分析结果计算主干架构的全局最优参数,并根据该全局最优参数调整主干架构的服务参数,以实现对主干架构的业务架构的调整;其中,调整的服务参数包括服务实例的容量、策略模型、业务请求的超时时间和问题流量的划分标准中的至少一项。
具体地,可以将全局最优参数发送至主干架构中的业务架构模块,由业务架构模块根据全局最优参数调整主干架构的服务参数。
或者,可选地,上述步骤S402中对主干架构进行动态决策包括:监控***异常和/或服务异常的情况,根据***异常和/或服务异常的情况对主干架构的业务流量进行切换、屏蔽或降级。
根据本申请的实施例,本申请还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
如图5所示,是根据本申请实施例的互联网分布式***的控制方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图5所示,该电子设备包括:一个或多个处理器501、存储器502,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器***)。图5中以一个处理器501为例。
存储器502即为本申请所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本申请所提供的互联网分布式***的控制方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的互联网分布式***的控制方法。
存储器502作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中互联网分布式***的控制方法对应的程序指令/模块。处理器501通过运行存储在存储器502中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的互联网分布式***的控制方法。
存储器502可以包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需要的应用程序;存储数据区可存储根据互联网分布式***的控制方法的电子设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器502可选包括相对于处理器501远程设置的存储器,这些远程存储器可以通过网络连接至互联网分布式***的控制方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
互联网分布式***的控制方法的电子设备还可以包括:输入装置503和输出装置504。处理器501、存储器502、输入装置503和输出装置504可以通过总线或者其他方式连接,图5中以通过总线连接为例。
输入装置503可接收输入的数字或字符信息,以及产生与互联网分布式***的控制方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与虚拟专用服务器(VPS)服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (19)
1.一种互联网分布式***,包括:
控制架构及主干架构,所述控制架构与所述主干架构之间存在数据通道和控制通道;其中,
所述控制架构,用于利用所述数据通道采集所述主干架构的流量数据,对所述流量数据进行计算和分析;并利用所述控制通道,采用所述计算和分析的结果对所述主干架构进行动态决策;
其中,所述动态决策包括调整服务实例的资源配置、调整服务参数及调整业务流量中的至少一项。
2.根据权利要求1所述的***,其中,所述***还包括***实时面板和平台;
所述控制架构包括:
计算分析模块,用于利用所述数据通道从所述主干架构的基础环境采集流量数据,并对所述流量数据进行计算和分析;获取所述***实时面板和平台的计算和分析结果,将计算分析模块的计算和分析结果以及所述***实时面板和平台的计算和分析结果发送至动态决策模块;
所述动态决策模块,用于根据所述计算分析模块的计算和分析的结果、以及所述***实时面板和平台的计算和分析结果,利用所述控制通道对所述主干架构进行动态决策。
3.根据权利要求2所述的***,其中,所述动态决策模块,用于根据所述计算分析模块的计算和分析的结果、以及所述***实时面板和平台的计算和分析结果确定各个服务在至少一种预设条件下对应的实例数量,并根据所述实例数量调整所述主干架构的服务实例的资源配置,以实现对所述主干架构的基础架构的控制。
4.根据权利要求2所述的***,其中,所述动态决策模块,用于根据所述计算分析模块的计算和分析的结果、以及所述***实时面板和平台的计算和分析结果计算所述主干架构的全局最优参数,并根据所述全局最优参数调整所述主干架构的服务参数,以实现对所述主干架构的业务架构的调整;其中,调整的所述服务参数包括服务实例的容量、策略模型、业务请求的超时时间和问题流量的划分标准中的至少一项。
5.根据权利要求4所述的***,其中,所述主干架构包括业务架构模块,所述业务架构模块用于从所述动态决策模块接收所述全局最优参数,根据所述全局最优参数调整所述主干架构的服务参数。
6.根据权利要求2所述的***,其中,所述动态决策模块,用于监控***异常和/或服务异常的情况,根据所述***异常和/或服务异常的情况对所述主干架构的业务流量进行切换、屏蔽或降级。
7.根据权利要求2至6任一所述的***,其中,所述计算分析模块,用于监控日志的新增事件,将所述新增事件的日志发布到消息队列中,通过实时流式计算对所述新增事件的日志进行指标的分析和计算。
8.根据权利要求2至6任一所述的***,其中,所述计算分析模块,用于对所述流量数据进行本地汇聚和计算分析,采集本地汇聚和计算分析的结果。
9.一种互联网分布式***的控制方法,应用于设置在互联网分布式***中的控制架构,所述方法包括:
利用所述控制架构与主干架构之间的数据通道采集所述主干架构的流量数据,对所述流量数据进行计算和分析;
利用所述控制架构与主干架构之间的控制通道,采用所述计算和分析的结果对所述主干架构进行动态决策;其中,所述动态决策包括调整服务实例的资源配置、调整服务参数及调整业务流量中的至少一项。
10.根据权利要求9所述的方法,所述利用所述控制架构与主干架构之间的数据通道采集所述主干架构的流量数据,对所述流量数据进行计算和分析,包括:利用所述数据通道从所述主干架构的基础环境采集流量数据,并对所述流量数据进行计算和分析;
所述采用所述计算和分析的结果对所述主干架构进行动态决策,包括:根据所述控制架构的计算和分析的结果、以及所述***互联网分布式***中的实时面板和平台的计算和分析结果,利用所述控制通道对所述主干架构进行动态决策。
11.根据权利要求10所述的方法,其中,所述对所述主干架构进行动态决策,包括:
根据所述控制架构的计算和分析的结果、以及所述***实时面板和平台的计算和分析结果确定各个服务在至少一种预设条件下对应的实例数量,并根据所述实例数量调整所述主干架构的服务实例的资源配置,以实现对所述主干架构的基础架构的控制。
12.根据权利要求10所述的方法,其中,所述对所述主干架构进行动态决策,包括:
根据所述控制架构的计算和分析的结果、以及所述***实时面板和平台的计算和分析结果计算所述主干架构的全局最优参数,并根据所述全局最优参数调整所述主干架构的服务参数,以实现对所述主干架构的业务架构的调整;其中,调整的所述服务参数包括服务实例的容量、策略模型、业务请求的超时时间和问题流量的划分标准中的至少一项。
13.根据权利要求12所述的方法,其中,所述根据所述全局最优参数调整所述主干架构的服务参数,包括:
将所述全局最优参数发送至所述主干架构中的业务架构模块,由所述业务架构模块根据所述全局最优参数调整所述主干架构的服务参数。
14.根据权利要求10所述的方法,其中,所述对所述主干架构进行动态决策,包括:
监控***异常和/或服务异常的情况,根据所述***异常和/或服务异常的情况对所述主干架构的业务流量进行切换、屏蔽或降级。
15.根据权利要求10至14任一所述的方法,其中,所述对所述流量数据进行计算和分析,包括:
监控日志的新增事件,将所述新增事件的日志发布到消息队列中,通过实时流式计算对所述新增事件的日志进行指标的分析和计算。
16.根据权利要求10至14任一所述的方法,其中,所述对所述流量数据进行计算和分析,包括:
对所述流量数据进行本地汇聚和计算分析,采集本地汇聚和计算分析的结果。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求9-16中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使计算机执行权利要求9-16中任一项所述的方法。
19.一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现根据权利要求9-16中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011556789.0A CN112737963A (zh) | 2020-12-24 | 2020-12-24 | 互联网分布式***、控制方法、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011556789.0A CN112737963A (zh) | 2020-12-24 | 2020-12-24 | 互联网分布式***、控制方法、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112737963A true CN112737963A (zh) | 2021-04-30 |
Family
ID=75615646
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011556789.0A Pending CN112737963A (zh) | 2020-12-24 | 2020-12-24 | 互联网分布式***、控制方法、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112737963A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113190753A (zh) * | 2021-05-10 | 2021-07-30 | 北京百度网讯科技有限公司 | 数据采集方法和装置、电子设备、计算机可读介质 |
CN114338469A (zh) * | 2021-12-15 | 2022-04-12 | 越亮传奇科技股份有限公司 | 基于分布式的idc机房流量分析方法、装置及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1588946A (zh) * | 2004-09-14 | 2005-03-02 | 北京邮电大学 | 在互联网提供服务质量保证业务的管理***及其实现方法 |
US20140146672A1 (en) * | 2012-11-28 | 2014-05-29 | International Business Machines Corporation | Dynamic network traffic management in response to non-network conditions input |
CN109257222A (zh) * | 2018-09-27 | 2019-01-22 | 中国联合网络通信有限公司广东省分公司 | 一种基于业务编排器的城域网网络架构 |
CN110213175A (zh) * | 2019-06-08 | 2019-09-06 | 西安电子科技大学 | 一种面向知识定义网络的智能管控***及管控方法 |
CN110351366A (zh) * | 2019-07-12 | 2019-10-18 | 西安雷迪信息技术有限公司 | 一种互联网应用的服务调度方法、***及计算机可读存储介质 |
-
2020
- 2020-12-24 CN CN202011556789.0A patent/CN112737963A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1588946A (zh) * | 2004-09-14 | 2005-03-02 | 北京邮电大学 | 在互联网提供服务质量保证业务的管理***及其实现方法 |
US20140146672A1 (en) * | 2012-11-28 | 2014-05-29 | International Business Machines Corporation | Dynamic network traffic management in response to non-network conditions input |
CN109257222A (zh) * | 2018-09-27 | 2019-01-22 | 中国联合网络通信有限公司广东省分公司 | 一种基于业务编排器的城域网网络架构 |
CN110213175A (zh) * | 2019-06-08 | 2019-09-06 | 西安电子科技大学 | 一种面向知识定义网络的智能管控***及管控方法 |
CN110351366A (zh) * | 2019-07-12 | 2019-10-18 | 西安雷迪信息技术有限公司 | 一种互联网应用的服务调度方法、***及计算机可读存储介质 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113190753A (zh) * | 2021-05-10 | 2021-07-30 | 北京百度网讯科技有限公司 | 数据采集方法和装置、电子设备、计算机可读介质 |
CN113190753B (zh) * | 2021-05-10 | 2024-04-23 | 北京百度网讯科技有限公司 | 数据采集方法和装置、电子设备、计算机可读介质 |
CN114338469A (zh) * | 2021-12-15 | 2022-04-12 | 越亮传奇科技股份有限公司 | 基于分布式的idc机房流量分析方法、装置及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11082313B2 (en) | Scalable end-to-end quality of service monitoring and diagnosis in software defined networks | |
US11954522B2 (en) | Method for processing tasks in parallel, device and storage medium | |
US9652271B2 (en) | Autonomously managed virtual machine anti-affinity rules in cloud computing environments | |
CN112437018B (zh) | 分布式集群的流量控制方法、装置、设备和存储介质 | |
CN112737963A (zh) | 互联网分布式***、控制方法、电子设备及存储介质 | |
US10552247B2 (en) | Real-time monitoring alert chaining, root cause analysis, and optimization | |
US20160103717A1 (en) | Autoscaling applications in shared cloud resources | |
CN111124819A (zh) | 全链路监控的方法和装置 | |
Al-Sharif et al. | ACCRS: autonomic based cloud computing resource scaling | |
CN103747023A (zh) | 弹性网络带宽服务*** | |
Birje et al. | Cloud monitoring system: basics, phases and challenges | |
KR102176028B1 (ko) | 실시간 통합 모니터링 시스템 및 그 방법 | |
CN103338240B (zh) | 监控自动漂移的云服务器自动监控***及方法 | |
CN103414739B (zh) | 采用自动漂移的云服务器自动监控***及方法 | |
WO2023040259A1 (zh) | 资源告警分析方法、装置、电子设备和存储介质 | |
CN112306836A (zh) | 采样对象确定方法、装置、电子设备和计算机可读存储介质 | |
CN115080209A (zh) | ***资源调度方法、装置、电子设备及存储介质 | |
Zhang et al. | Hierarchical network security situation awareness data fusion method in cloud computing environment | |
CN112351042B (zh) | 攻击流量计算方法、装置、电子设备和存储介质 | |
CN114051001A (zh) | 流量数据处理方法及装置、存储介质及电子设备 | |
Wang et al. | A case for adaptive resource management in Alibaba datacenter using neural networks | |
CN111797314A (zh) | 数据处理方法、装置、设备和存储介质 | |
CN113177060B (zh) | 一种管理sql语句的方法、装置及设备 | |
Chhetri et al. | CL-SLAM: Cross-layer SLA monitoring framework for cloud service-based applications | |
CN112583737B (zh) | 流量调整方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |