CN113037685B - 数据传输方法和电子设备 - Google Patents
数据传输方法和电子设备 Download PDFInfo
- Publication number
- CN113037685B CN113037685B CN201911345039.6A CN201911345039A CN113037685B CN 113037685 B CN113037685 B CN 113037685B CN 201911345039 A CN201911345039 A CN 201911345039A CN 113037685 B CN113037685 B CN 113037685B
- Authority
- CN
- China
- Prior art keywords
- data
- real
- transmission channel
- time data
- transmission
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/12—Applying verification of the received information
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/069—Management of faults, events, alarms or notifications using logs of notifications; Post-processing of notifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Computer Security & Cryptography (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Computer And Data Communications (AREA)
Abstract
本说明书实施例公开了一种数据传输方法和电子设备,用于解决实时数据的传输效率低的技术问题。该方法包括:获取数据;对获取到的数据进行实时性校验,以得到实时数据和非实时数据;基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据;其中,所述第一传输通道的硬件资源指标高于所述第二传输通道的硬件资源指标;对到达数据处理节点的实时数据和非实时数据进行预设处理,本说明书实施例可以提高实时数据的传输效率。
Description
技术领域
本文件涉及大数据传输和应用领域,尤其涉及一种数据传输方法和电子设备。
背景技术
随着大数据的发展,数据的应用场景越来越广泛,数据传输技术也得到了快速发展。目前,数据传输中通常是采用ftp或sftp传输方式,传输的中间过程不进行实时数据校验,最终到达数据处理服务器后再进行校验(即判断数据是实时数据还是非实时数据),并基于校验结果对实时数据和非实时数据分别加以处理。
相关技术中,在数据传输过程中,实时数据与非实时数据在单一的传输通道中进行,导致实时数据的传输效率低,这对于实时处理的***(如控制***需要传感器反馈的实时数据进行控制操作)是致命的缺陷。
发明内容
本说明书实施例提供一种数据传输方法和电子设备,用于解决实时数据的传输效率低的技术问题。
本说明书实施例采用下述技术方案:
第一方面,提供了一种数据传输方法,包括:
获取数据;
对获取到的数据进行实时性校验,以得到实时数据和非实时数据;
基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据;其中,所述第一传输通道的硬件资源指标高于所述第二传输通道的硬件资源指标;
对到达数据处理节点的实时数据和非实时数据进行预设处理。
第二方面,提供了一种电子设备,包括:
数据获取模块,用于获取数据;
数据校验模块,用于对获取到的数据进行实时性校验,以得到实时数据和非实时数据;
数据传输模块,用于基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据;其中,所述第一传输通道的硬件资源指标高于所述第二传输通道的硬件资源指标;
数据处理模块,用于对到达数据处理节点的实时数据和非实时数据进行预设处理。
第三方面,提供了一种电子设备,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如下操作:
获取数据;
对获取到的数据进行实时性校验,以得到实时数据和非实时数据;
基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据;其中,所述第一传输通道的硬件资源指标高于所述第二传输通道的硬件资源指标;
对到达数据处理节点的实时数据和非实时数据进行预设处理。
第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如下操作:
获取数据;
对获取到的数据进行实时性校验,以得到实时数据和非实时数据;
基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据;其中,所述第一传输通道的硬件资源指标高于所述第二传输通道的硬件资源指标;
对到达数据处理节点的实时数据和非实时数据进行预设处理。
本说明书提供的一个或多个实施例:由于实时数据和非实时数据通过不同的传输通道进行隔离传输,便于避免因数据通道拥塞造成的实时数据传输效率低的问题;同时,由于实时数据的传输通道的硬件资源指标高于非实时数据的传输通道的硬件资源指标,便于进一步提高实时数据的传输效率;最后,在数据传输的中间过程中还可以对数据进行实时性校验,便于从实时数据中过滤掉那些已经演变为非实时数据的部分,并将该部分分配到非实时数据的传输通道进行传输,进一步提高了实时数据的传输通道的通畅性,提高实时数据的传输效率。
附图说明
此处所说明的附图用来提供对本文件的进一步理解,构成本文件的一部分,本文件的示意性实施例及其说明用于解释本文件,并不构成对本文件的不当限定。在附图中:
图1为本说明书的一个实施例提供的数据传输方法流程示意图;
图2为本说明书的一个实施例提供的数据传输方法的***架构示意图;
图3为本说明书的一个实施例电子设备结构示意图;
图4为实现本说明书各个实施例的电子设备硬件结构示意图。
具体实施方式
为使本文件的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本文件技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本文件一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本本文件保护的范围。
如图1所示,本说明书的一个实施例提供一种数据传输方法100,包括如下步骤:
S102:获取数据。
在一个例子中,本发明实施例提供的数据传输方法可以由数据传输***来执行,该数据传输传输***包括有起始层、多个中间层以及数据处理层。起始层可以是所有数据的起点,起始层采集到的起始数据要依次经过多个中间层,同时,每一个中间层本身也可以采集原始数据,并将采集到的数据加入到上一个中间层(或起始层)传输过来的中间数据中,并传递给下一个中间层(或数据处理层),最终直至数据到达数据处理层。
可选地,该步骤中提到的获取数据,具体可以是由起始层采集原始数据。
可选地,该步骤中提到的获取数据,具体可以是通过中间层N获取数据,获取到的该数据包括中间层N-1发送的中间数据以及中间层N采集的原始数据,其中,N是≥3的整数。
可选地,本说明书实施例中传输的数据可以包括但不限于:深度包检测(DPI)话单数据;网络地址转换(NAT)话单数据;验证授权和记账(AAA)话单数据、设备告警数据等。其中,上述DPI话单数据是基于数据包的深度检测,通过报文的形式检测到的用户在使用网络时的网络行为。
S104:对获取到的数据进行实时性校验,以得到实时数据和非实时数据。
本说明书各个实施例中提到的实时数据和非实时数据是相对而言的,实时数据在经过一段时间后也可能变为非实时数据。
该步骤中对获取到的数据进行实时性校验,例如,可以校验数据从产出到当前时刻(可以通过时钟同步服务实现)的时间间隔,如果上述时间间隔小于或等于预设阈值,则可以确定是实时数据;如果时间间隔大于上述预设阈值,则确定是非实时数据。
可选地,本发明实施例也可以从数据的用途、要求、类别等进行判断。例如,一些实时性要求不高的数据,例如配置文件数据,则可以直接判定为是非实时数据;而对于一些实时性要求较高的数据,再根据上述方法去校验是实时数据还是非实时数据。
可选地,该步骤该中提到的对获取到的数据进行实时性校验,以得到实时数据和非实时数据包括:对中间层N-1发送的中间数据进行实时性校验,以校验出所述中间数据中的非实时数据,后续可以将该非实时数据隔离到第二传输通道进行传输,以提高实时数据的传输通道的通畅性,提升实时数据的传输效率。
可选地,该步骤可以由上述提到的数据传输***的起始层和/或中间层来执行。
S106:基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据。
其中,上述第一传输通道的硬件资源指标高于第二传输通道的硬件资源指标。
可选地,该硬件质量指标和数据传输能力正相关,即,硬件质量指标越高,该硬件质量指标对应的数据传输通道的数据传输能力越强;硬件质量指标越低,该硬件质量指标对应的数据传输通道的数据传输能力越弱。
该步骤可以使用第一传输通道传输校验得到的实时数据,使用第二传输通道传输校验得到的非实时数据。该实施例中,一个传输通道可以理解为是中间层的一台传输服务器,每一个中间层包括多台传输服务器,即包括多个传输通道;当然,也可以理解为某一台服务器中的一个用于数据传输的传输通道。
在一个例子中,在该实施例执行之前,还可以基于预设的决策树算法,确定(任意一个中间层中)的至少两个传输通道的硬件资源指标;基于确定结果确定上述第一传输通道和第二传输通道。
具体例如,该实施例可以确定上述至少两个传输通道的硬件资源指标的排名,然后根据实时数据和非实时数据的数据量,将排名较高的一个或多个传输通道作为是第一传输通道;然后按照其余的传输通道的排名,选取第二传输通道。
具体例如,上述至少两个(具体是4个)传输通道的硬件资源指标的分数为90;80;75;60,将分数为90和80的两个传输通道作为是第一传输通道,用于传输实时数据;将分数为75和60的两个传输通道作为是第二传输通道,用于传输非实时数据。
又例如,在实时数据和非实时数据的数据量都不是太多(低于一定的阈值)的情况下,可以是将分数为90的传输通道作为是第一传输通道,用于传输实时数据;将分数为80的通道作为是第二传输通道,用于传输非实时数据。
可选地,第一传输通道和第二传输通道均包括多个数据传输进程,以提高实时数据和非实时传输的并发传输效率,提高数据吞吐量。
可选地,该步骤可以由上述提到的数据传输***的起始层和/或中间层来执行。
S108:对到达数据处理节点的实时数据和非实时数据进行预设处理。
可选地,该步骤可以由上述提到的数据传输***的数据处理层来执行。
前述S102至S106具体可以称作是数据的采集、传输过程,该S108则可以对最终得到的实时数据和非实时数据进行预设处理。
该步骤中提到的预设处理,具体可以是在实时数据和非实时数据分离后,在***功能应用上可以利用实时数据和非实时数据进行的业务逻辑处理和分析。
具体例如,上述实时数据包括告警数据,该步骤则可以基于上述告警数据进行检修处理;又例如,上述实时数据包括传感器的反馈数据,该步骤则可以将多个反馈数据进行求平均、加权平均等计算处理,并基于处理结果进行后续的操作。再例如,上述非实时数据包括应用程序的配置文件数据,该步骤则可以存储上述配置文件数据,以供应用程序后续调用使用。
前文提到,本说明书实施例提到的数据传输方法中传输的数据可以包括但不限于:DPI话单数据;NAT话单数据;AAA话单数据、设备告警数据等,该步骤中提到的预设处理可以是将用户的DPI话单和AAA话单、告警数据等通过时间有效性关联到NAT话单,最终形成用户的合成用户话单(xDR)话单,作为后续用户侧分析的基础数据。
该步骤中提到的预设处理还可以是对用户XDR数据(实时数据)进行数据清洗,将用户和地市、区县信息匹配等,可实现实时的地市/区县用户行为呈现。
该步骤中提到的预设处理还可以是对用户的告警数据(实时数据)经过数据筛选和提取、匹配用户资料信息后,可在大屏地图中实时呈现用户的告警闪烁,直观呈现告警情况。
本说明书实施例提供的数据传输方法,获取数据后对获取到的数据进行实时性校验,以得到实时数据和非实时数据,然后通过不同的传输通道将实时数据和非实时数据隔离传输,且实时数据的传输通道的硬件资源指标高于非实时数据的传输通道的硬件资源指标,最后对到达数据处理节点的实时数据和非实时数据进行预设处理。
本说明书实施例提供的数据传输方法,由于实时数据和非实时数据通过不同的传输通道隔离传输,便于避免因数据通道拥塞造成的实时数据传输效率低的问题。
同时,由于实时数据的传输通道的硬件资源指标高于非实时数据的传输通道的硬件资源指标,便于进一步提高实时数据的传输效率。
最后,由于实时数据与非实时数据不是一定的,会随着时间而发生改变,实时数据超过一定时间后会变成非实时数据时,而当非实时数据过多时会堵塞实时数据。本说明书实施例提供的数据传输方法在数据传输的中间过程中还可以对数据进行实时性校验,便于从实时数据中过滤掉那些已经演变为非实时数据的部分,并将该部分分配到非实时数据传输通道进行传输,进一步提高了实时数据的传输通道的通畅性,提高实时数据的传输效率。
可选地,上述实施例中提到基于预设的决策树算法,确定(任意一个中间层中)至少两个传输通道的硬件资源指标;基于确定结果确定所述第一传输通道和所述第二传输通道,具体可以是基于预设的决策树算法以及下述至少之一,确定至少两个传输通道的硬件资源指标:所述至少两个传输通道的网络质量、处理器能力、内存性能以及磁盘性能。
在该实施例中,网络质量、处理器能力、内存性能以及磁盘性能,均可以是与传输通道的硬件资源指标正相关。在一个具体的例子中,网络质量、处理器能力、内存性能以及磁盘性能还分别对应有权重,权重具体为5:2:1:2,在确定传输通道的硬件资源指标时,可以首先分别获取网络质量、处理器能力、内存性能以及磁盘性能对应的分值,然后再乘以权重得到硬件资源指标的分值。
可选地,上述实施例还可以包括如下步骤:显示所述至少两个传输通道的数据流量情况和/或硬件使用情况;在接收到针对所述至少两个传输通道中的目标传输通道的控制指令的情况下,基于所述控制指令启用或停用所述目标传输通道,该实施例提供对数据传输通道的启用和停用管理,便于管理者灵活配置传输上述实时数据和非实时数据。
为详细说明本发明实施例提供的数据传输方法,以下将结合一个具体的实施例进行说明。图2是本发明实施例提供的能够执行上述方法100的数据传输***的架构示意图,通过构建多层数据传输层(见图2中的起始层、中间层1至中间层n,n是大于或等于2的整数),将实时数据和非实时数据分离,各个中间层均包括多台服务器,即包括多个传输通道。通过上层监控平台可以监控数据传输通道的使用情况,采用决策树算法及每个通道实际的各硬件资源数据进行通道选举,并利用不同的数据通道实现实时了数据和非实时数据的分离传输。
以下将对该实施例进行详细介绍,如图2所示,该***架构主要包括:
1、上层监控平台,主要用于数据传输通道的监控和启停。
数据传输通道的监控主要是实时汇总各个传输通道的数据流量情况,展示各数据传输通道的硬件使用情况,这样,用户可以通过监控页面看到数据传输的整体状况并可以手动启用或停用这些数据传输通道。
在该实施例中,每一台服务器采用双agent多进程的方式,实时agent会将非实时数据分离给非实时agent,这样越到后续的中间层,实时数据通道中的实时数据会越来越少,实时数据通道就会更加通畅,这样既避免了实时数据被非实时数据堵塞,又提高了采集任务并发率,提高了数据吞吐量。
2、时钟同步服务,主要为了保证各服务器时间保持一致,应判断数据的实时性需要使用本地***时间,同步时间。
具体地,时钟同步服务可以用于各个中间层对到达的实时数据进行实时性校验,已隔离出该实时数据中已经演变为非实时数据的部分,并分配给非实时数据的传输通道进行传输。
3、数据传输通道,实现数据传输具体的数据管道。
数据传输通道方案共有两层,分别为起始层和多个中间层,起始为采集实时数据的源头(如图2的数据采集客户端A),起到抓取数据并初步判断数据是否是实时数据和效验数据的作用。中间层N可以获取中间层N-1发送的中间数据以及中间层N采集的原始数据,其中,N是≥3的整数。
中间层是指数据传输中间过程中对应的服务器,可以有多个层级,每个层级又含有多台服务器,每台服务器是一个数据传输通道。
4、数据传输通道控制器。
起始层到中间层1以及中间层n之间的实时数据通道以及非实时数据通道选择,都是采用数据通道选择控制器来控制,本说明书实施例提供了选择数据通道的决策机制。
图2中的实时数据处理***以及非实时数据处理***的作用可以参见图1所示的实施例中的S108中的介绍。
本说明书实施例中,数据通道选举控制器采用决策树算法,将每一个传输通道根据实际的各硬件资源数据按照一定权重评定一个预估分数,并根据预估分数和预设传输规则进行实时数据和非实时数据的隔离传输。
每一个传输通道实际的各硬件资源可以由上层监控平台实时提供,包含网络质量、处理器能力、内存性能以及磁盘性能等硬件资源数据,按照权重系数网络质量、处理器能力、内存性能以及磁盘性能=5:2:1:2评定的一个分数(对应于前文中的硬件资源指标)。
数据传输通道控制器可以在每次决策传输通道时,计算待传输通道的分数,优先选择分数高的通道进行传输,且优先将得分高的通道作为实时数据的传输通道。
在确定实时数据的传输通道后,尽量将实时与非实时数据通道选择到不同服务器上,若发生服务器宕机,出现实时数据与非实时数据在同一服务器上时,优先保证实时数据传输通过。
下面结合图2进行举例说明,起始层数据到中间层1时,数据通道选举控制器先获取上传监控平台的硬件资源数据经过权重系数计算出中间层1中每一台服务器的得分情况,假如计算层中间层各服务分数由高到低排列为:服务器A:90,服务器B:80,服务器L:20;数据通道选举控制器会将服务器A分配用于传输实时数据,将服务器B分配用于传输非实时数据。
可选地,数据通道选举控制器并不在每一条数据传输过来时分配选择数据通道,一般在第一次启动时选择;出现数据堵塞和服务器宕机时选择;每隔一定时间(按照实际情况自定义设置)也会重新选择一次,其它正常情况下数据通道会保持不变。
本说明书实施例提供的数据传输方法,通过增加数据通道分类策略,能够将根据数据传输的实际情况,将实时数据和非实时数据进行有效分离,减少了实时数据被堵塞、故障率高和并发率低的情况,提高了实时数据的传输效率。
将实时与非实时数据分离后,当线路出现问题时有灾备线路备用,不会影响现有采集任务的正常运行,达到降低故障率的目的,有效保障数据正常并使数据能及时到达数据处理服务器。
本说明书实施例提供的数据传输方法,不会因为某台服务器宕机导致整个采集链断掉;实时数据有单独线路,不会被其他非实时数据影响,保证了数据的时效性;采用多线程多通道方式可以实现数据吞吐量成倍增加,硬件资源利用率显著增大。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
以上说明书部分详细介绍了数据传输方法实施例,如图3所示,本说明书还提供了一种电子设备,如图3所示,该电子设备300包括:
数据获取模块302,可以用于获取数据;
数据校验模块304,可以用于对获取到的数据进行实时性校验,以得到实时数据和非实时数据;
数据传输模块306,可以用于基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据;其中,所述第一传输通道的硬件资源指标高于所述第二传输通道的硬件资源指标;
数据处理模块308,可以用于对到达数据处理节点的实时数据和非实时数据进行预设处理。
本说明书实施例提供的电子设备实现的功能可以参见图1和图2所示的,实施例,其相同和相应的功能部分可以相互参照。
本说明书实施例提供的电子设备,获取数据后对获取到的数据进行实时性校验,以得到实时数据和非实时数据,然后通过不同的传输通道将实时数据和非实时数据隔离传输,且实时数据的传输通道的硬件资源指标高于非实时数据的传输通道的硬件资源指标,最后对到达数据处理节点的实时数据和非实时数据进行预设处理。
本说明书实施例提供的电子设备,由于实时数据和非实时数据通过不同的传输通道隔离传输,便于避免因数据通道拥塞造成的实时数据传输效率低的问题。
同时,由于实时数据的传输通道的硬件资源指标高于非实时数据的传输通道的硬件资源指标,便于进一步提高实时数据的传输效率。
最后,由于实时数据与非实时数据不是一定的,会随着时间而发生改变,实时数据超过一定时间后会变成非实时数据时,而当非实时数据过多时会堵塞实时数据。本说明书实施例提供的电子设备在数据传输的中间过程中还可以对数据进行实时性校验,便于从实时数据中过滤掉那些已经演变为非实时数据的部分,并将该部分分配到非实时数据传输通道进行传输,进一步提高了实时数据的传输通道的通畅性,提高实时数据的传输效率。
可选地,作为一个实施例,数据获取模块302,具体可以用于:
通过起始层采集原始数据;和/或
通过中间层N获取数据;其中,获取到的该数据包括中间层N-1发送的中间数据以及所述中间层N采集的原始数据,其中,N是≥3的整数。
可选地,作为一个实施例,数据校验模块304,具体可以用于:
对所述中间层N-1发送的中间数据进行实时性校验,以校验出所述中间数据中的非实时数据。
可选地,作为一个实施例,所述电子设备300还包括,传输通道确定模块,可以用于:
基于预设的决策树算法,确定至少两个传输通道的硬件资源指标;
基于确定结果确定所述第一传输通道和所述第二传输通道。
可选地,作为一个实施例,所述传输通道确定模块,具体可以用于:
基于预设的决策树算法以及下述至少之一,确定至少两个传输通道的硬件资源指标:
所述至少两个传输通道的网络质量、处理器能力、内存性能以及磁盘性能。
可选地,作为一个实施例,所述电子设备300还包括,显示及控制模块,可以用于:
显示所述至少两个传输通道的数据流量情况和/或硬件使用情况;
在接收到针对所述至少两个传输通道中的目标传输通道的控制指令的情况下,基于所述控制指令启用或停用所述目标传输通道。
可选地,作为一个实施例,所述第一传输通道和所述第二传输通道均包括多个数据传输进程。
根据本说明书实施例的上述电子设备300可以参照对应前文本说明书实施例的数据传输方法100的流程,并且,该电子设备300中的各个单元/模块和上述其他操作和/或功能分别为了实现数据传输方法100中的相应流程,并且能够达到相同或等同的技术效果,为了简洁,在此不再赘述。
下面将结合图4详细描述根据本说明书实施例的电子设备。参考图4,在硬件层面,电子设备包括处理器,可选地,包括内部总线、网络接口、存储器。其中,如图4所示,存储器可能包含内存,例如高速随机存取存储器(Random-Access Memory,RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少1个磁盘存储器等。当然,该电子设备还可能包括实现其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接,该内部总线可以是工业标准体系结构(Industry Standard Architecture,ISA)总线、外设部件互连标准(Peripheral Component Interconnect,PCI)总线或扩展工业标准结构(ExtendedIndustry Standard Architecture,EISA)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图4中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
存储器,用于存放程序。具体地,程序可以包括程序代码,所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器,并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,在逻辑层面上形成电子设备。处理器,执行存储器所存放的程序,并具体用于执行本说明书前文所述的方法实施例的操作。
上述图1至图3所示实施例揭示的方法、电子设备执行的方法可以应用于处理器中,或者由处理器实现。处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
图4所示的电子设备还可执行图1的方法,并实现数据传输方法在图1和图2所示实施例的功能,本说明书实施例在此不再赘述。
当然,除了软件实现方式之外,本文件的电子设备并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
本说明书实施例还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述各个方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,所述的计算机可读存储介质,如只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等。
本领域内的技术人员应明白,本文件的实施例可提供为方法、***、或计算机程序产品。因此,本文件可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本文件可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本文件是参照根据本说明书实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上仅为本文件的实施例而已,并不用于限制本文件。对于本领域技术人员来说,本文件可以有各种更改和变化。凡在本文件的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本文件的权利要求范围之内。
Claims (8)
1.一种数据传输方法,其特征在于,应用于数据传输***,包括:
获取数据;
对获取到的数据进行实时性校验,以得到实时数据和非实时数据;
基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据至所述数据传输***中的数据处理层;其中,所述第一传输通道的硬件资源指标高于所述第二传输通道的硬件资源指标;
对到达所述数据处理层的实时数据和非实时数据进行预设处理;
所述方法还包括:
基于预设的决策树算法,确定至少两个传输通道的硬件资源指标;
基于确定结果确定所述第一传输通道和所述第二传输通道;
所述方法还包括:
显示所述至少两个传输通道的数据流量情况和/或硬件使用情况;
在接收到针对所述至少两个传输通道中的目标传输通道的控制指令的情况下,基于所述控制指令启用或停用所述目标传输通道。
2.根据权利要求1所述的方法,其特征在于,所述获取数据包括:
通过起始层采集原始数据;和/或
通过中间层N获取数据;其中,获取到的该数据包括中间层N-1发送的中间数据以及所述中间层N采集的原始数据,其中,N是≥3的整数。
3.根据权利要求2所述的方法,其特征在于,所述对获取到的数据进行实时性校验,以得到实时数据和非实时数据包括:
对所述中间层N-1发送的中间数据进行实时性校验,以校验出所述中间数据中的非实时数据。
4.根据权利要求1所述的方法,其特征在于,所述基于预设的决策树算法,确定至少两个传输通道的硬件资源指标包括:
基于预设的决策树算法以及下述至少之一,确定至少两个传输通道的硬件资源指标:
所述至少两个传输通道的网络质量、处理器能力、内存性能以及磁盘性能。
5.根据权利要求1所述的方法,其特征在于,所述第一传输通道和所述第二传输通道均包括多个数据传输进程。
6.一种电子设备,应用于数据传输***,包括:
数据获取模块,用于获取数据;
数据校验模块,用于对获取到的数据进行实时性校验,以得到实时数据和非实时数据;
数据传输模块,用于基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据至所述数据传输***中的数据处理层;其中,所述第一传输通道的硬件资源指标高于所述第二传输通道的硬件资源指标;
数据处理模块,用于对到达所述数据处理层的实时数据和非实时数据进行预设处理;
所述电子设备还包括,传输通道确定模块,用于:
基于预设的决策树算法,确定至少两个传输通道的硬件资源指标;
基于确定结果确定所述第一传输通道和所述第二传输通道;
所述电子设备还包括,显示及控制模块,用于:
显示所述至少两个传输通道的数据流量情况和/或硬件使用情况;
在接收到针对所述至少两个传输通道中的目标传输通道的控制指令的情况下,基于所述控制指令启用或停用所述目标传输通道。
7.一种电子设备,应用于数据传输***,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如下操作:
获取数据;
对获取到的数据进行实时性校验,以得到实时数据和非实时数据;
基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据至所述数据传输***中的数据处理层;其中,所述第一传输通道的硬件资源指标高于所述第二传输通道的硬件资源指标;
对到达所述数据处理层的实时数据和非实时数据进行预设处理;
所述电子设备还包括,传输通道确定模块,用于:
基于预设的决策树算法,确定至少两个传输通道的硬件资源指标;
基于确定结果确定所述第一传输通道和所述第二传输通道;
所述电子设备还包括,显示及控制模块,用于:
显示所述至少两个传输通道的数据流量情况和/或硬件使用情况;
在接收到针对所述至少两个传输通道中的目标传输通道的控制指令的情况下,基于所述控制指令启用或停用所述目标传输通道。
8.一种计算机可读存储介质,应用于数据传输***,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如下操作:
获取数据;
对获取到的数据进行实时性校验,以得到实时数据和非实时数据;
基于预设的第一传输通道和第二传输通道,分别传输校验得到的实时数据和非实时数据至所述数据传输***中的数据处理层;其中,所述第一传输通道的硬件资源指标高于所述第二传输通道的硬件资源指标;
对到达所述数据处理层的实时数据和非实时数据进行预设处理;
所述操作还包括:
基于预设的决策树算法,确定至少两个传输通道的硬件资源指标;
基于确定结果确定所述第一传输通道和所述第二传输通道;
所述操作还包括:
显示所述至少两个传输通道的数据流量情况和/或硬件使用情况;
在接收到针对所述至少两个传输通道中的目标传输通道的控制指令的情况下,基于所述控制指令启用或停用所述目标传输通道。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911345039.6A CN113037685B (zh) | 2019-12-24 | 2019-12-24 | 数据传输方法和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911345039.6A CN113037685B (zh) | 2019-12-24 | 2019-12-24 | 数据传输方法和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113037685A CN113037685A (zh) | 2021-06-25 |
CN113037685B true CN113037685B (zh) | 2022-08-30 |
Family
ID=76451476
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911345039.6A Active CN113037685B (zh) | 2019-12-24 | 2019-12-24 | 数据传输方法和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113037685B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115086784B (zh) * | 2022-06-20 | 2023-03-31 | 苏州金睿澳科物联网科技有限公司 | 一种多通道融合通信的管理***及其方法 |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2000045581A2 (en) * | 1999-01-29 | 2000-08-03 | Data Race, Inc. | Modem transfer mechanism which prioritized data transfers |
CN1476702A (zh) * | 2000-11-24 | 2004-02-18 | 通过交换式数据网络、特别是以太网并行传输实时和非实时临界数据的***和方法 | |
US6810035B1 (en) * | 1999-01-11 | 2004-10-26 | Nokia Mobile Phones Ltd. | Method and arrangement for the parallel utilization of data transmission channels |
CN1653765A (zh) * | 2002-05-07 | 2005-08-10 | 西门子公司 | 通过交换式数据网络传输数据的方法和*** |
CN1866929A (zh) * | 2005-05-17 | 2006-11-22 | 阿尔卡特公司 | 提供实时通信连接的方法 |
CN101150496A (zh) * | 2006-09-22 | 2008-03-26 | 中兴通讯股份有限公司 | 提高重要信息网络传输质量的方法 |
CN101707701A (zh) * | 2009-11-26 | 2010-05-12 | 上海交通大学 | 多流信息传输***及其传输方法 |
CN103763314A (zh) * | 2014-01-06 | 2014-04-30 | 南京信息工程大学 | 实际部署的跌倒检测***中用户层数据的处理方法及装置 |
CN104135359A (zh) * | 2014-07-22 | 2014-11-05 | 南京磐能电力科技股份有限公司 | 一种硬实时级联式多节点同步采样和数据传输方法 |
CN106330377A (zh) * | 2016-08-25 | 2017-01-11 | 中车青岛四方车辆研究所有限公司 | 轨道列车宽带网络实时性数据传输***及方法 |
CN106888165A (zh) * | 2015-12-15 | 2017-06-23 | 中国科学院沈阳自动化研究所 | 一种支持包头压缩的工业sdn网络数据传输方法与*** |
CN108508850A (zh) * | 2017-02-28 | 2018-09-07 | Sap欧洲公司 | 制造过程数据收集和分析 |
CN108811154A (zh) * | 2017-05-05 | 2018-11-13 | 华为技术有限公司 | 数据包传输方法和设备 |
CN110113242A (zh) * | 2019-05-07 | 2019-08-09 | 南京磐能电力科技股份有限公司 | 环形通信网络中多节点同步采样和数据传输方法 |
CN110428156A (zh) * | 2019-07-22 | 2019-11-08 | 阿里巴巴集团控股有限公司 | 用于业务数据校验的方法、装置及电子设备 |
CN112769598A (zh) * | 2020-12-25 | 2021-05-07 | 武汉华中数控股份有限公司 | 一种传输报文模块、网络通信***及其通信实现方法 |
-
2019
- 2019-12-24 CN CN201911345039.6A patent/CN113037685B/zh active Active
Patent Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6810035B1 (en) * | 1999-01-11 | 2004-10-26 | Nokia Mobile Phones Ltd. | Method and arrangement for the parallel utilization of data transmission channels |
WO2000045581A2 (en) * | 1999-01-29 | 2000-08-03 | Data Race, Inc. | Modem transfer mechanism which prioritized data transfers |
CN1476702A (zh) * | 2000-11-24 | 2004-02-18 | 通过交换式数据网络、特别是以太网并行传输实时和非实时临界数据的***和方法 | |
CN1653765A (zh) * | 2002-05-07 | 2005-08-10 | 西门子公司 | 通过交换式数据网络传输数据的方法和*** |
CN1866929A (zh) * | 2005-05-17 | 2006-11-22 | 阿尔卡特公司 | 提供实时通信连接的方法 |
CN101150496A (zh) * | 2006-09-22 | 2008-03-26 | 中兴通讯股份有限公司 | 提高重要信息网络传输质量的方法 |
CN101707701A (zh) * | 2009-11-26 | 2010-05-12 | 上海交通大学 | 多流信息传输***及其传输方法 |
CN103763314A (zh) * | 2014-01-06 | 2014-04-30 | 南京信息工程大学 | 实际部署的跌倒检测***中用户层数据的处理方法及装置 |
CN104135359A (zh) * | 2014-07-22 | 2014-11-05 | 南京磐能电力科技股份有限公司 | 一种硬实时级联式多节点同步采样和数据传输方法 |
CN106888165A (zh) * | 2015-12-15 | 2017-06-23 | 中国科学院沈阳自动化研究所 | 一种支持包头压缩的工业sdn网络数据传输方法与*** |
CN106330377A (zh) * | 2016-08-25 | 2017-01-11 | 中车青岛四方车辆研究所有限公司 | 轨道列车宽带网络实时性数据传输***及方法 |
CN108508850A (zh) * | 2017-02-28 | 2018-09-07 | Sap欧洲公司 | 制造过程数据收集和分析 |
CN108811154A (zh) * | 2017-05-05 | 2018-11-13 | 华为技术有限公司 | 数据包传输方法和设备 |
CN110113242A (zh) * | 2019-05-07 | 2019-08-09 | 南京磐能电力科技股份有限公司 | 环形通信网络中多节点同步采样和数据传输方法 |
CN110428156A (zh) * | 2019-07-22 | 2019-11-08 | 阿里巴巴集团控股有限公司 | 用于业务数据校验的方法、装置及电子设备 |
CN112769598A (zh) * | 2020-12-25 | 2021-05-07 | 武汉华中数控股份有限公司 | 一种传输报文模块、网络通信***及其通信实现方法 |
Non-Patent Citations (2)
Title |
---|
WSN中的一种多传感器数据融合算法;宁宣杰等;《小型微型计算机***》;20090915(第09期);全文 * |
无线网络中实时***区分的转发节点队列调度方法研究;诸方舟等;《计算机应用研究》(第01期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113037685A (zh) | 2021-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108268372B (zh) | Mock测试处理方法、装置、存储介质和计算机设备 | |
CN106487603B (zh) | 一种响应测试方法及装置 | |
CN106713396B (zh) | 服务器调度方法和*** | |
CN111090502B (zh) | 一种流数据任务调度方法和装置 | |
CN109327353B (zh) | 业务流量确定方法、装置及电子设备 | |
CN113220483A (zh) | 一种区块链共识主节点的切换方法及*** | |
US11025709B2 (en) | Load processing method and apparatus | |
CN109951534B (zh) | 一种共识方法、装置和*** | |
CN112311611A (zh) | 数据异常的监测方法、装置和电子设备 | |
CN113037685B (zh) | 数据传输方法和电子设备 | |
CN110909826A (zh) | 一种能源设备的诊断监测方法、装置及电子设备 | |
CN112422361A (zh) | 一种交换机测试方法、设备及介质 | |
CN110503297B (zh) | 业务场景获取方法、装置、电子设备及介质 | |
CN111769984B (zh) | 区块链网络中添加节点的方法及区块链*** | |
CN108667893B (zh) | 数据推荐方法、装置和电子设备 | |
CN109086185B (zh) | 一种存储集群的故障检测方法、装置、设备及存储介质 | |
CN106649064B (zh) | 一种应用操作监测方法及装置 | |
CN110782276B (zh) | 一种访问分流策略干扰判断方法、装置及电子设备 | |
US9479579B2 (en) | Grouping processing method and system | |
CN107919980B (zh) | 一种集群化***的评测方法和装置 | |
CN114281596A (zh) | 一种修复异常数据的方法、装置、电子设备及存储介质 | |
CN112615754A (zh) | 基于大数据的网络波动安全处理方法和装置 | |
CN114546714A (zh) | 一种数据备份方法、***、装置以及存储介质 | |
US20170010935A1 (en) | Dumping resources | |
CN110569475A (zh) | 一种网民影响力的评估方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |