CN107276850B - 一种用电信息采集***统一接口测试并发传输方法及*** - Google Patents
一种用电信息采集***统一接口测试并发传输方法及*** Download PDFInfo
- Publication number
- CN107276850B CN107276850B CN201710494852.4A CN201710494852A CN107276850B CN 107276850 B CN107276850 B CN 107276850B CN 201710494852 A CN201710494852 A CN 201710494852A CN 107276850 B CN107276850 B CN 107276850B
- Authority
- CN
- China
- Prior art keywords
- data transmission
- data
- transmission request
- threshold
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012360 testing method Methods 0.000 title claims abstract description 119
- 238000000034 method Methods 0.000 title claims abstract description 56
- 230000005611 electricity Effects 0.000 title description 6
- 230000005540 biological transmission Effects 0.000 claims abstract description 379
- 230000011218 segmentation Effects 0.000 claims abstract description 15
- 238000004364 calculation method Methods 0.000 claims description 31
- 230000001965 increasing effect Effects 0.000 claims description 16
- 230000009467 reduction Effects 0.000 claims description 10
- 230000008278 dynamic mechanism Effects 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 6
- 230000004044 response Effects 0.000 claims description 6
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 claims description 6
- 230000036962 time dependent Effects 0.000 claims 2
- 238000012545 processing Methods 0.000 abstract description 4
- 230000009286 beneficial effect Effects 0.000 abstract description 2
- 230000008859 change Effects 0.000 description 4
- 238000012216 screening Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 241000135164 Timea Species 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011217 control strategy Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- OVBPIULPVIDEAO-LBPRGKRZSA-N folic acid Chemical compound C=1N=C2NC(N)=NC(=O)C2=NC=1CNC1=CC=C(C(=O)N[C@@H](CCC(O)=O)C(O)=O)C=C1 OVBPIULPVIDEAO-LBPRGKRZSA-N 0.000 description 1
- 238000013467 fragmentation Methods 0.000 description 1
- 238000006062 fragmentation reaction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000002035 prolonged effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/63—Routing a service request depending on the request content or context
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/50—Testing arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/12—Avoiding congestion; Recovering from congestion
- H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/26—Flow control; Congestion control using explicit feedback to the source, e.g. choke packets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/70—Admission control; Resource allocation
- H04L47/80—Actions related to the user profile or the type of traffic
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种用电信息采集***统一接口测试并发传输方法,包括:将待发送的数据传输请求量和上一周期的传输数据量的和作为当前周期的待传数据请求量;根据所述待传数据请求量和传输路径的最大传输量计算负载估计值;根据当前周期的传输数据量的数据请求的反馈信息分别计算可用带宽和拥塞度;根据所述可用带宽、拥塞度和负载估计值按照调整策略自适应的动态调整下一周期的待发送的数据传输请求量;基于动态规划对负载因子的分段阈值进行优化调整。本发明的有益效果为:在数据传输请求量调整上测试端则根据传输反馈的网络参数分别执行不同的策略,基于最优控制算法实现数据传输请求量关键分段阈值的动态调整,保障了测试数据并行处理的高效性。
Description
技术领域
本发明涉及用电信息采集领域,并且更具体地,涉及一种用电信息采集***统一接口测试并发传输方法及***。
背景技术
着智能电能表的推广应用及用电信息采集***建设的快速推进,营销计量集约化、精益化管理水平得到了极大提高,用电信息采集***已全面进入深化应用阶段,截至2016年8月,***累计已为营销、安质、运检、运监、发策、信息等众多应用***提供业务及数据支撑,涉及16个国网统推业务应用***和数十个省公司自建业务应用***,为实现保障高效数据交互的应用,用电信息采集***致力于构建高效的自动测试***,由于基于webservice的接***互方式在面临海量数据交互时存在效率低的原因,故亟需发展高效的数据传输策略。
传统数据传输改进往往是采用固定的模式对数据请求进行发送,然而传输通道可能存在各种各样的干扰,例如高频电磁干扰、传输线发生断裂和通讯拥塞等,从而导致接口传递的数据出现错误和丢失;由于在最底层的计算机通信网络提供的服务是不可靠的分组传送,所以当传送过程中出现错误以及在网络硬件失效或网络负荷太重时,数据包有可能丢失、延迟、重复和乱序,影响数据传输和处理的效率和可靠性;且作为数据传输端的webservice接口平台对网络负载的均衡提出更高的要求。传统的数据传输方法在面临如上问题时,其数据传输性能会大幅降低。
因此,亟需研究一种基于反馈信息、自适应于网络传输环境变化的数据传输方法。
发明内容
本发明提供了一种用电信息采集***统一接口测试并发传输方法及***,解决了数据传输性能低的问题。
为了解决上述问题,根据本发明的一个方面,提供了一种用电信息采集***统一接口测试并发传输方法,所述方法包括:
将待发送的数据传输请求量和上一周期的传输数据量的和作为当前周期的待传数据请求量;
根据所述待传数据请求量和传输路径的最大传输量计算负载估计值;
根据当前周期的传输数据量的数据请求的反馈信息分别计算可用带宽和拥塞度,其中所述反馈信息包括:数据请求响应速率和数据传输请求信息;
根据所述可用带宽、拥塞度和负载估计值按照调整策略自适应的动态调整下一周期的待发送的数据传输请求量;
基于动态规划对负载因子的分段阈值进行优化调整。
优选地,其中所述负载估计值的计算方法为:
优选地,其中所述可用带宽的计算方法为:
其中,Bn为在tn时刻第n个数据请求传输完毕时估计的可用带宽;tn-1为第n-1个数据传输请求数据传输完毕的时刻;Ln为第n个数据传输请求传输的数据量;RTT为tn时刻数据传输请求的端到端时延估计,以第n个数据传输请求的端到端往返时间进行确定;πn为比例因子。
优选地,其中所述比例因子的计算方法为:
其中,Dtra(n-1)表示第n-1个数据传输请求量,P为数据传输请求的大小。
优选地,其中所述拥塞度的计算方法为:
其中,g为加权因子,g的取值范围为(0,1);F为上一个时间间隔tρ返回的数据传输请求完成比例,α为上一个时间间隔tρ内发送数据传输请求重传次数最大值,M为上一个时间间隔tρ内测试方完成传输的数据传输请求量,T为上一个时间间隔tρ内测试端发送的数据传输请求量。
优选地,其中所述数据传输请求完成比例F的计算方法为:
优选地,其中所述根据所述可用带宽、拥塞度和负载估计值按照调整策略自适应的动态调整下一周期的待发送的数据传输请求量,包括:
若负载估计值小于负载因子的阈值,测试端则采用“快速启动”策略快速的增加数据传输请求量;其中,快速的增加数据传输请求量的计算方法为:
其中,Dtra为数据传输请求量,α为数据传输请求量的増长因子,RTTmin为测试端观测到的最小RTT值;
若负载估计值大于负载因子阈值并且小于等于异步反馈阈值,测试端则采用“平缓增长”策略增加数据传输请求量;其中,增加数据传输请求量的计算方法为:
若负载估计值大于异步反馈阈值并且小于等于1,测试端则采用“线性增长”策略增加数据传输请求量;其中,所述增加数据传输请求量的计算方法为:
Dtra←Dtra+1;
若负载估计值大于1,测试端则采用“回归发送”策略降低数据传输请求量,权衡收敛于公平的速度和传输路径利用率;其中,所述降低数据传输请求量的计算方法为:
Dtra←Dtra·γ,
其中,γ为数据传输请求量降低比率。
优选地,其中所述基于动态规划对负载因子的分段阈值进行优化调整的方法包括:
步骤(2):按照调整策略的动态机制实时调整数据传输的请求量,对负载因子阈值范围内的数据进行遍历赋值,其中,对负载因子阈值范围内的数据进行遍历赋值的方法为:
接收速率均值的计算公式为:
其中,V为测试端数据传输的接受速率,R为测试端的接收数据量,t为测试端完成接收数据传输请求的时间,Vk为接收速率均值;当负载因子阈值取时,为在本次数据传输过程中,测试端在负载因子为内的完成接收数据传输请求的时间;为在此过程中的接收数据量;为负载因子阈值取时的测试端数据接收速率。
步骤(4):将前后两次的接收速率均值的差值与测试端数据接收速率增长阈值进行比较,
若0<(Vk-Vk-1)<ε,选取本次迭代的最大记为Vmax,其所对应的阈值赋值给ρl,k=k+1,以阈值ρl进行数据动态传输,n置0,若Vk≥Vmax,重新进入此步骤;若Vk<Vmax,进入步骤(2);
若(Vk-Vk-1)<0且n≤3,则k=k-1,将第k次迭代的集合ρk内最大值赋值给ρmax,最小值赋值给ρmin,n=n+1,并返回步骤(2);
若(Vk-Vk-1)<0且n>3,返回步骤(1),最优阈值ρl根据网络传输状态实时优化,直至数据传输完毕为止。
根据本发明的另一个方面,提供了一种用电信息采集***统一接口测试并发传输***,所述***包括:待传数据请求量计算单元、负载估计值计算单元、可用带宽和拥塞度计算单元、下一周期的数据传输请求量调整单元和负载因子的分段阈值调整单元,
所述待传数据请求量计算单元,用于将待发送的数据传输请求量和上一周期的传输数据量的和作为当前周期的待传数据请求量;
所述负载估计值计算单元,用于根据所述待传数据请求量和传输路径的最大传输量计算负载估计值;
所述可用带宽和拥塞度计算单元,用于根据当前周期的传输数据量的数据请求的反馈信息分别计算可用带宽和拥塞度,其中所述反馈信息包括:数据请求响应速率和数据传输请求信息;
所述下一周期的数据传输请求量调整单元,用于根据所述可用带宽、拥塞度和负载估计值按照调整策略自适应的动态调整下一周期的待发送的数据传输请求量;
所述负载因子的分段阈值调整单元,用于基于动态规划对负载因子的分段阈值进行优化调整。
优选地,其中所述负载估计值通过以下方式计算:
优选地,其中所述可用带宽通过以下方式计算:
其中,Bn为在tn时刻第n个数据请求传输完毕时估计的可用带宽;tn-1为第n-1个数据传输请求数据传输完毕的时刻;Ln为第n个数据传输请求传输的数据量;RTT为tn时刻数据传输请求的端到端时延估计,以第n个数据传输请求的端到端往返时间进行确定;πn为比例因子。
优选地,其中所述比例因子通过以下方式计算:
其中,Dtra(n-1)表示第n-1个数据传输请求量,P为数据传输请求的大小。
优选地,其中所述拥塞度通过以下方式计算:
其中,g为加权因子,g的取值范围为(0,1);F为上一个时间间隔tρ返回的数据传输请求完成比例,α为上一个时间间隔tρ内发送数据传输请求重传次数最大值,M为上一个时间间隔tρ内测试方完成传输的数据传输请求量,T为上一个时间间隔tρ内测试端发送的数据传输请求量。
优选地,其中所述数据传输请求完成比例F通过以下方式计算:
优选地,其中所述下一周期的数据传输请求量调整单元,具体用于:
若负载估计值小于负载因子的阈值,测试端则采用“快速启动”策略快速的增加数据传输请求量;其中,快速的增加数据传输请求量通过以下方式计算:
其中,Dtra为数据传输请求量,α为数据传输请求量的増长因子,RTTmin为测试端观测到的最小RTT值;
若负载估计值大于负载因子阈值并且小于等于异步反馈阈值,测试端则采用“平缓增长”策略增加数据传输请求量;其中,增加数据传输请求量通过以下方式计算:
若负载估计值大于异步反馈阈值并且小于等于1,测试端则采用“线性增长”策略增加数据传输请求量;其中,所述增加数据传输请求量通过以下方式计算:
Dtra←Dtra+1;
若负载估计值大于1,测试端则采用“回归发送”策略降低数据传输请求量,权衡收敛于公平的速度和传输路径利用率;其中,所述降低数据传输请求量过以下方式计算:
Dtra←Dtra·γ,
其中,γ为数据传输请求量降低比率。
优选地,其中所述负载因子的分段阈值调整单元,具体用于:
步骤(2):按照调整策略的动态机制实时调整数据传输的请求量,对负载因子阈值范围内的数据进行遍历赋值,其中,对负载因子阈值范围内的数据进行遍历赋值的方法为:
接收速率均值的计算公式为:
其中,V为测试端数据传输的接受速率,R为测试端的接收数据量,t为测试端完成接收数据传输请求的时间,Vk为接收速率均值;当负载因子阈值取时,为在本次数据传输过程中,测试端在负载因子为内的完成接收数据传输请求的时间;为在此过程中的接收数据量;为负载因子阈值取时的测试端数据接收速率。
步骤(4):将前后两次的接收速率均值的差值与测试端数据接收速率增长阈值进行比较,
若0<(Vk-Vk-1)<ε,选取本次迭代的最大记为Vmax,其所对应的阈值赋值给ρl,k=k+1,以阈值ρl进行数据动态传输,n置0,若Vk≥Vmax,重新进入此步骤;若Vk<Vmax,进入步骤(2);
若(Vk-Vk-1)<0且n≤3,则k=k-1,将第k次迭代的集合ρk内最大值赋值给ρmax,最小值赋值给ρmin,n=n+1,并返回步骤(2);
若(Vk-Vk-1)<0且n>3,返回步骤(1),最优阈值ρl根据网络传输状态实时优化,直至数据传输完毕为止。
本发明的有益效果在于:
本发明的技术方案提出了一种基于自适应动态反馈传输机制的数据传输请求的调整,根据周期性预测传输路径的负载估计值、可用带宽和拥塞度,在数据传输请求量调整上测试端则根据传输反馈的网络参数分别执行不同的策略,基于最优控制算法实现数据传输请求量关键分段阈值的动态调整,减少传输网络的时变性和反馈数据的延时影响,实现自适应动态调整的数据传输请求数量,达到了提高网络吞吐量,实现了基于web service接口数据传输的负载均衡,保障了测试数据并行处理的高效性。
附图说明
通过参考下面的附图,可以更为完整地理解本发明的示例性实施方式:
图1为根据本发明实施方式的用电信息采集***统一接口测试并发传输方法100的流程图;以及
图2为根据本发明实施方式的用电信息采集***统一接口测试并发传输***200的结构示意图。
具体实施方式
现在参考附图介绍本发明的示例性实施方式,然而,本发明可以用许多不同的形式来实施,并且不局限于此处描述的实施例,提供这些实施例是为了详尽地且完全地公开本发明,并且向所属技术领域的技术人员充分传达本发明的范围。对于表示在附图中的示例性实施方式中的术语并不是对本发明的限定。在附图中,相同的单元/元件使用相同的附图标记。
除非另有说明,此处使用的术语(包括科技术语)对所属技术领域的技术人员具有通常的理解含义。另外,可以理解的是,以通常使用的词典限定的术语,应当被理解为与其相关领域的语境具有一致的含义,而不应该被理解为理想化的或过于正式的意义。
图1为根据本发明实施方式的用电信息采集***统一接口测试并发传输方法100的流程图。如图1所示,所述方法100用于对用电信息采集***统一接口进行测试并发传输,所述方法主要采用传输路径负载估计值改善数据传输的效率和公平性,借鉴标准TCP协议的思想,但采用完全不同的策略,根据周期性预测传输路径的负载因子,并将负载因子映射至3个不同效用区域,即低负载、高负载和过载。在低负载区域,测试端采用“快速启动”策略调整数据传输请求量,以尽可能快的收敛于高的带宽利用率,同时避免不必要的数据包丢失;在高负载区域,引入因子Uth将其分为两个不重叠的子区域,即同步増(ρl<ρ≤Uth)和异步增(Uth<ρ≤1),分别采用“平缓增长”、“线性增长”调整数据传输请求量,加速数据传输流收敛于公平,分界值Uth由网络的可用带宽和拥塞度确定;在过载区域,采用“回归发送”操作降低数据传输请求量,忽略随后的负载估计反馈,更合理的降低拥塞窗口,即高带宽流的窗口降低比率大,否则较小。
优选地,所述电信息采集***统一接口测试并发传输方法100从步骤101处开始,在步骤101将待发送的数据传输请求量和上一周期的传输数据量的和作为当前周期的待传数据请求量。
优选地,在步骤102根据所述待传数据请求量和传输路径的最大传输量计算负载估计值。优选地,其中所述负载估计值的计算方法为:
优选地,在步骤103根据当前周期的传输数据量的数据请求的反馈信息分别计算可用带宽和拥塞度,其中所述反馈信息包括:数据请求响应速率和数据传输请求信息。优选地,其中所述可用带宽的计算方法为:
其中,Bn为在tn时刻第n个数据请求传输完毕时估计的可用带宽;tn-1为第n-1个数据传输请求数据传输完毕的时刻;Ln为第n个数据传输请求传输的数据量;RTT为tn时刻数据传输请求的端到端时延估计,以第n个数据传输请求的端到端往返时间进行确定;πn为比例因子。
优选地,其中所述比例因子的计算方法为:
其中,Dtra(n-1)表示第n-1个数据传输请求量,P为数据传输请求的大小。
优选地,其中所述拥塞度的计算方法为:
其中,g为加权因子,g的取值范围为(0,1);F为上一个时间间隔tρ返回的数据传输请求完成比例,α为上一个时间间隔tρ内发送数据传输请求重传次数最大值,M为上一个时间间隔tρ内测试方完成传输的数据传输请求量,T为上一个时间间隔tρ内测试端发送的数据传输请求量。
优选地,其中所述数据传输请求完成比例F的计算方法为:
其中,在时间间隔tρ内积压的数据传输请求越多,重传次数越多,将使cl的值増加,直至达到上限1。利用估计的cl值,可通过以下方法自适应的调整负载因子γ:
γ=γmax-cl(γmax-γmin),
其中,γmax为γ的最大值,记为0.875,γmin为γ的最,小值,记为0.375,大多数情况网络处于过载,则表明网络拥塞即将出现,为避免拥塞,数据传输请求量应降低更多,若数据请求重传增加,基于被测方是以基于web service接口方式进行数据传输,数据传输中断后数据必须重传,故应降低数据传输请求量,以保障数据传输有效性,避免无效传输。
优选地,在步骤104根据所述可用带宽、拥塞度和负载估计值按照调整策略自适应的动态调整下一周期的待发送的数据传输请求量。其中,负载估计值进行的是“快速启动”、“平缓增长”、“线性增长”、“回归发送”四个阶段的分类;可用带宽调整的是“平缓增长”数据传输请求量;拥塞度确定可自适应的调整负载因子的分段阈值。
在本发明的实施方式中,采用“快速启动”、“平缓增长”、“线性增长”和“回归发送”的动态机制来实时调整数据传输请求量发送请求,从而在保证数据传输可靠性和抗干扰性的基础上实现数据的最大效率传输。“快速启动”主要是将数据传输请求以指数级增长,这样可以很快地将数据传输请求量大小增长到接近最大;“平缓增长”减少了突发数据量的产生,减轻了数据传输缓冲队列的压力,尽量维持稳定数据传输发送请求,避免数据传输请求的丢失概率增加;“线性增长”主要是将数据传输请求大小加1发送,这样使得数据传输请求大小以最低线性方式增长,直至达到数据传输请求最大值,或确认时间达到最大为止;“回归发送”是指网络状态变差或数据传输请求满载时,数据传输丢包增多,发送的数据包收到确认时间变长,将数据传输请求量按比例降低,重新开始启动发送。
优选地,其中所述根据所述可用带宽、拥塞度和负载估计值按照调整策略自适应的动态调整下一周期的待发送的数据传输请求量,包括:
若负载估计值小于负载因子的阈值,测试端则采用“快速启动”策略快速的增加数据传输请求量;其中,快速的增加数据传输请求量的计算方法为:
其中,Dtra为数据传输请求量,α为数据传输请求量的増长因子,RTTmin为测试端观测到的最小RTT值;
若负载估计值大于负载因子阈值并且小于等于异步反馈阈值,测试端则采用“平缓增长”策略增加数据传输请求量;其中,增加数据传输请求量的计算方法为:
若负载估计值大于异步反馈阈值并且小于等于1,测试端则采用“线性增长”策略增加数据传输请求量;其中,所述增加数据传输请求量的计算方法为:
Dtra←Dtra+1;
若负载估计值大于1,测试端则采用“回归发送”策略降低数据传输请求量,权衡收敛于公平的速度和传输路径利用率;其中,所述降低数据传输请求量的计算方法为:
Dtra←Dtra·γ,
其中,γ为数据传输请求量降低比率。
优选地,在步骤105基于动态规划对负载因子的分段阈值进行优化调整。基于设定负载估计的状态值,确定数据传输请求量变化阶段调整,根据动态规划最优控制实时优化分段阈值,利用可用带宽估计和拥塞度估计动态调整数据传输请求变化量,基于反馈信息有效增强网络数据传输性能,降低接口网络负担,提高接口吞吐能力,保证***的整体处理能力。
优选地,其中所述基于动态规划对负载因子的分段阈值进行优化调整的方法包括:
步骤(1):对调整参数进行初始化设置,其中所述调整参数包括:迭代次数k、返回上限n和负载因子阈值范围首先将迭代次数k设为0,返回上限n设为0,然后对ρl进行初始化阈值范围,ρmin为ρl的最小取值,ρmax为ρl的最大取值且初始为1,记
步骤(2):按照调整策略的动态机制实时调整数据传输的请求量,对负载因子阈值范围内的数据进行遍历赋值,其中,对负载因子阈值范围内的数据进行遍历赋值的方法为:
其中,遍历阈值记录历次时间段内所发送的数据传输请求为测试端完成接收数据传输请求的时间及接收数据量每一次的赋值,都经历一次完整的“快速启动”、“平缓增长”、“线性增长”、“回归发送”数据传输过程,在此过程中,每一次的ρ经历从到1的变化。
接收速率均值的计算公式为:
其中,V为测试端数据传输的接受速率,R为测试端的接收数据量,t为测试端完成接收数据传输请求的时间,Vk为接收速率均值;当负载因子阈值取时,为在本次数据传输过程中,测试端在负载因子为内的完成接收数据传输请求的时间;为在此过程中的接收数据量;为负载因子阈值取时的测试端数据接收速率。
步骤(4):将前后两次的接收速率均值的差值与测试端数据接收速率增长阈值进行比较,
若0<(Vk-Vk-1)<ε,选取本次迭代的最大记为Vmax,其所对应的阈值赋值给ρl,k=k+1,以阈值ρl进行数据动态传输,n置0,若Vk≥Vmax,重新进入此步骤;若Vk<Vmax,进入步骤(2)。其中,若0<(Vk-Vk-1)<ε,说明本次ρ的取值[ρmin,ρmax]比上一次而言,已经导致数据接收速率增长很小,故此时[ρmin,ρmax]已经很小,且相当接近最优值,我们此时选取本次获取最大传输速率的取值赋值给ρl作为最优质,并在下一次传输时以ρl为传输阈值。若Vk≥Vmax,此时进入下一次数据传输请求发送,若本次Vk≥Vmax,说明目前网络传输状态稳定且上一次选取的最优阈值ρl合理,数据接收速率大于或等于之前的最大值,故返回步骤(5),下一次发送数据传输请求的最优阈值ρl不变。若Vk<Vmax,说明此时ρl不是最优阈值,需进行重新筛选,故返回步骤(2)继续基于最近次的阈值范围[ρmin,ρmax]进行最优值筛选.导致这种情况发生的可能是网络传输小波动或者上一次选取的ρl不合理。
若(Vk-Vk-1)<0且n≤3,则k=k-1,将第k次迭代的集合ρk内最大值赋值给ρmax,最小值赋值给ρmin,n=n+1,并返回步骤(2)。若(Vk-Vk-1)<0且n≤3,说明此时本次数据传输速率低于上一次,这类情况可能是暂时的网络传输状态小波动,故k减一,采用上一次的[ρmin,ρmax]阈值空间进行最优阈值筛选,并且n+1。
若(Vk-Vk-1)<0且n>3,返回步骤(1),最优阈值ρl根据网络传输状态实时优化,直至数据传输完毕为止。若(Vk-Vk-1)<0且n>3,说明[ρmin,ρmax]经历了三次回访,此时仍是本次比上一次数据传输速率低,说明此时网络传输状态发生较大变动,故返回步骤(1)进行重新最优阈值筛选。整体最优阈值实时根据网络传输状态调整最优阈值ρl在步骤(4)产生,并且会基于小范围的网络传输状态的波动进行小范围调整。若网络传输状态不稳定而存在较大波动,则返回步骤(1)初始化重新进行阈值筛选。最优阈值ρl根据网络传输状态实时优化,直至数据传输完毕。
测试端接收数据的反馈信息,对数据传输请求量进行动态调整时,由于传输路径信息的时变性及反馈数据的延时性,而传输策略的决定性因素是阈值ρl的取值,在“快速启动”阶段的数据传输请求量迅速增长,达到短时间内提升数据传输率,在阈值ρl后,此时数据传输请求量维持在一个较高的水平,且变化相对缓慢,在整个数据传输过程中占比为75%以上,基于动态规划的最优阈值控制策略,对阈值ρl进行动态优化调整。
图2为根据本发明实施方式的用电信息采集***统一接口测试并发传输***200的结构示意图。如图2所示,所述一种用电信息采集***统一接口测试并发传输***200包括:待传数据请求量计算单元201、负载估计值计算单元202、可用带宽和拥塞度计算单元203、下一周期的数据传输请求量调整单元204和负载因子的分段阈值调整单元205。
优选地,所述待传数据请求量计算单元201,用于将待发送的数据传输请求量和上一周期的传输数据量的和作为当前周期的待传数据请求量。
优选地,所述负载估计值计算单元202,用于根据所述待传数据请求量和传输路径的最大传输量计算负载估计值。优选地,其中所述负载估计值通过以下方式计算:
优选地,所述可用带宽和拥塞度计算单元203,用于根据当前周期的传输数据量的数据请求的反馈信息分别计算可用带宽和拥塞度,其中所述反馈信息包括:数据请求响应速率和数据传输请求信息。优选地,其中所述可用带宽通过以下方式计算:
其中,Bn为在tn时刻第n个数据请求传输完毕时估计的可用带宽;tn-1为第n-1个数据传输请求数据传输完毕的时刻;Ln为第n个数据传输请求传输的数据量;RTT为tn时刻数据传输请求的端到端时延估计,以第n个数据传输请求的端到端往返时间进行确定;πn为比例因子。
优选地,其中所述比例因子通过以下方式计算:
其中,Dtra(n-1)表示第n-1个数据传输请求量,P为数据传输请求的大小。
优选地,其中所述拥塞度通过以下方式计算:
其中,g为加权因子,g的取值范围为(0,1);F为上一个时间间隔tρ返回的数据传输请求完成比例,α为上一个时间间隔tρ内发送数据传输请求重传次数最大值,M为上一个时间间隔tρ内测试方完成传输的数据传输请求量,T为上一个时间间隔tρ内测试端发送的数据传输请求量。
优选地,其中所述数据传输请求完成比例F通过以下方式计算:
优选地,所述下一周期的数据传输请求量调整单元204,用于根据所述可用带宽、拥塞度和负载估计值按照调整策略自适应的动态调整下一周期的待发送的数据传输请求量。优选地,其中所述下一周期的数据传输请求量调整单元204,具体用于:
若负载估计值小于负载因子的阈值,测试端则采用“快速启动”策略快速的增加数据传输请求量;其中,快速的增加数据传输请求量通过以下方式计算:
其中,Dtra为数据传输请求量,α为数据传输请求量的増长因子,RTTmin为测试端观测到的最小RTT值;
若负载估计值大于负载因子阈值并且小于等于异步反馈阈值,测试端则采用“平缓增长”策略增加数据传输请求量;其中,增加数据传输请求量通过以下方式计算:
若负载估计值大于异步反馈阈值并且小于等于1,测试端则采用“线性增长”策略增加数据传输请求量;其中,所述增加数据传输请求量通过以下方式计算:
Dtra←Dtra+1;
若负载估计值大于1,测试端则采用“回归发送”策略降低数据传输请求量,权衡收敛于公平的速度和传输路径利用率;其中,所述降低数据传输请求量过以下方式计算:
Dtra←Dtra·γ,
其中,γ为数据传输请求量降低比率。
优选地,所述负载因子的分段阈值调整单元205,用于基于动态规划对负载因子的分段阈值进行优化调整。优选地,其中所述负载因子的分段阈值调整单元205,具体用于:
步骤(2):按照调整策略的动态机制实时调整数据传输的请求量,对负载因子阈值范围内的数据进行遍历赋值,其中,对负载因子阈值范围内的数据进行遍历赋值的方法为:
接收速率均值的计算公式为:
其中,V为测试端数据传输的接受速率,R为测试端的接收数据量,t为测试端完成接收数据传输请求的时间,Vk为接收速率均值;当负载因子阈值取时,为在本次数据传输过程中,测试端在负载因子为内的完成接收数据传输请求的时间;为在此过程中的接收数据量;为负载因子阈值取时的测试端数据接收速率。
步骤(4):将前后两次的接收速率均值的差值与测试端数据接收速率增长阈值进行比较,
若0<(Vk-Vk-1)<ε,选取本次迭代的最大记为Vmax,其所对应的阈值赋值给ρl,k=k+1,以阈值ρl进行数据动态传输,n置0,若Vk≥Vmax,重新进入此步骤;若Vk<Vmax,进入步骤(2);
若(Vk-Vk-1)<0且n≤3,则k=k-1,将第k次迭代的集合ρk内最大值赋值给ρmax,最小值赋值给ρmin,n=n+1,并返回步骤(2);
若(Vk-Vk-1)<0且n>3,返回步骤(1),最优阈值ρl根据网络传输状态实时优化,直至数据传输完毕为止。
本发明的实施例的电信息采集***统一接口测试并发传输***200与本发明的另一个实施例的电信息采集***统一接口测试并发传输方法100相对应,在此不再赘述。
已经通过参考少量实施方式描述了本发明。然而,本领域技术人员所公知的,正如附带的专利权利要求所限定的,除了本发明以上公开的其他的实施例等同地落在本发明的范围内。
通常地,在权利要求中使用的所有术语都根据他们在技术领域的通常含义被解释,除非在其中被另外明确地定义。所有的参考“一个/所述/该[装置、组件等]”都被开放地解释为所述装置、组件等中的至少一个实例,除非另外明确地说明。这里公开的任何方法的步骤都没必要以公开的准确的顺序运行,除非明确地说明。
Claims (16)
1.一种用电信息采集***统一接口测试并发传输方法,其特征在于,所述方法包括:
将待发送的数据传输请求量和上一周期的传输数据量的和作为当前周期的待传数据请求量;
根据所述待传数据请求量和传输路径的最大传输量计算负载估计值;
根据当前周期的传输数据量的数据请求的反馈信息分别计算可用带宽和拥塞度,其中所述反馈信息包括:数据请求响应速率和数据传输请求信息;
根据所述可用带宽、拥塞度和负载估计值按照调整策略自适应的动态调整下一周期的待发送的数据传输请求量;
基于动态规划对负载因子的分段阈值进行优化调整。
7.根据权利要求1所述的方法,其特征在于,所述根据所述可用带宽、拥塞度和负载估计值按照调整策略自适应的动态调整下一周期的待发送的数据传输请求量,包括:
若负载估计值小于负载因子的阈值,测试端则采用“快速启动”策略快速的增加数据传输请求量;其中,快速的增加数据传输请求量的计算方法为:
其中,Dtra为数据传输请求量,α为数据传输请求量的増长因子,RTTmin为测试端观测到的最小RTT值;
若负载估计值大于负载因子阈值并且小于等于异步反馈阈值,测试端则采用“平缓增长”策略增加数据传输请求量;其中,增加数据传输请求量的计算方法为:
若负载估计值大于异步反馈阈值并且小于等于1,测试端则采用“线性增长”策略增加数据传输请求量;其中,所述增加数据传输请求量的计算方法为:
Dtra←Dtra+1;
若负载估计值大于1,测试端则采用“回归发送”策略降低数据传输请求量,权衡收敛于公平的速度和传输路径利用率;其中,所述降低数据传输请求量的计算方法为:
Dtra←Dtra·γ,
其中,γ为数据传输请求量降低比率。
8.根据权利要求1所述的方法,其特征在于,所述基于动态规划对负载因子的分段阈值进行优化调整的方法包括:
步骤(2):按照调整策略的动态机制实时调整数据传输的请求量,对负载因子阈值范围内的数据进行遍历赋值,其中,对负载因子阈值范围内的数据进行遍历赋值的方法为:
接收速率均值的计算公式为:
其中,V为测试端数据传输的接受速率,R为测试端的接收数据量,t为测试端完成接收数据传输请求的时间,Vk为接收速率均值;当负载因子阈值取时,为在本次数据传输过程中,测试端在负载因子为内的完成接收数据传输请求的时间;为在此过程中的接收数据量;为负载因子阈值取时的测试端数据接收速率;
步骤(4):将前后两次的接收速率均值的差值与测试端数据接收速率增长阈值进行比较,
若0<(Vk-Vk-1)<ε,选取本次迭代的最大记为Vmax,其所对应的阈值赋值给ρl,k=k+1,以阈值ρl进行数据动态传输,n置0,若Vk≥Vmax,重新进入此步骤;若Vk<Vmax,进入步骤(2);
若(Vk-Vk-1)<0且n≤3,则k=k-1,将第k次迭代的集合ρk内最大值赋值给ρmax,最小值赋值给ρmin,n=n+1,并返回步骤(2);
若(Vk-Vk-1)<0且n>3,返回步骤(1),最优阈值ρl根据网络传输状态实时优化,直至数据传输完毕为止;其中,ε为测试端数据接收速率增长阈值。
9.一种用电信息采集***统一接口测试并发传输***,其特征在于,所述***包括:待传数据请求量计算单元、负载估计值计算单元、可用带宽和拥塞度计算单元、下一周期的数据传输请求量调整单元和负载因子的分段阈值调整单元,
所述待传数据请求量计算单元,用于将待发送的数据传输请求量和上一周期的传输数据量的和作为当前周期的待传数据请求量;
所述负载估计值计算单元,用于根据所述待传数据请求量和传输路径的最大传输量计算负载估计值;
所述可用带宽和拥塞度计算单元,用于根据当前周期的传输数据量的数据请求的反馈信息分别计算可用带宽和拥塞度,其中所述反馈信息包括:数据请求响应速率和数据传输请求信息;
所述下一周期的数据传输请求量调整单元,用于根据所述可用带宽、拥塞度和负载估计值按照调整策略自适应的动态调整下一周期的待发送的数据传输请求量;
所述负载因子的分段阈值调整单元,用于基于动态规划对负载因子的分段阈值进行优化调整。
15.根据权利要求9所述的***,其特征在于,所述下一周期的数据传输请求量调整单元,具体用于:
若负载估计值小于负载因子的阈值,测试端则采用“快速启动”策略快速的增加数据传输请求量;其中,快速的增加数据传输请求量通过以下方式计算:
其中,Dtra为数据传输请求量,α为数据传输请求量的増长因子,RTTmin为测试端观测到的最小RTT值;
若负载估计值大于负载因子阈值并且小于等于异步反馈阈值,测试端则采用“平缓增长”策略增加数据传输请求量;其中,增加数据传输请求量通过以下方式计算:
若负载估计值大于异步反馈阈值并且小于等于1,测试端则采用“线性增长”策略增加数据传输请求量;其中,所述增加数据传输请求量通过以下方式计算:
Dtra←Dtra+1;
若负载估计值大于1,测试端则采用“回归发送”策略降低数据传输请求量,权衡收敛于公平的速度和传输路径利用率;其中,所述降低数据传输请求量过以下方式计算:
Dtra←Dtra·γ,
其中,γ为数据传输请求量降低比率。
16.根据权利要求9所述的***,其特征在于,所述负载因子的分段阈值调整单元,具体用于:
步骤(2):按照调整策略的动态机制实时调整数据传输的请求量,对负载因子阈值范围内的数据进行遍历赋值,其中,对负载因子阈值范围内的数据进行遍历赋值的方法为:
接收速率均值的计算公式为:
其中,V为测试端数据传输的接受速率,R为测试端的接收数据量,t为测试端完成接收数据传输请求的时间,Vk为接收速率均值;当负载因子阈值取时,为在本次数据传输过程中,测试端在负载因子为内的完成接收数据传输请求的时间;为在此过程中的接收数据量;为负载因子阈值取时的测试端数据接收速率;
步骤(4):将前后两次的接收速率均值的差值与测试端数据接收速率增长阈值进行比较,
若0<(Vk-Vk-1)<ε,选取本次迭代的最大记为Vmax,其所对应的阈值赋值给ρl,k=k+1,以阈值ρl进行数据动态传输,n置0,若Vk≥Vmax,重新进入此步骤;若Vk<Vmax,进入步骤(2);
若(Vk-Vk-1)<0且n≤3,则k=k-1,将第k次迭代的集合ρk内最大值赋值给ρmax,最小值赋值给ρmin,n=n+1,并返回步骤(2);
若(Vk-Vk-1)<0且n>3,返回步骤(1),最优阈值ρl根据网络传输状态实时优化,直至数据传输完毕为止;其中,ε为测试端数据接收速率增长阈值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710494852.4A CN107276850B (zh) | 2017-06-26 | 2017-06-26 | 一种用电信息采集***统一接口测试并发传输方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710494852.4A CN107276850B (zh) | 2017-06-26 | 2017-06-26 | 一种用电信息采集***统一接口测试并发传输方法及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107276850A CN107276850A (zh) | 2017-10-20 |
CN107276850B true CN107276850B (zh) | 2020-11-03 |
Family
ID=60068888
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710494852.4A Active CN107276850B (zh) | 2017-06-26 | 2017-06-26 | 一种用电信息采集***统一接口测试并发传输方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107276850B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110290428B (zh) * | 2019-06-26 | 2021-08-20 | 腾讯科技(深圳)有限公司 | 一种拥塞控制方法、装置、终端及存储介质 |
CN110311756B (zh) * | 2019-07-08 | 2022-06-07 | 山东省地质矿产勘查开发局八〇一水文地质工程地质大队 | 一种地下物质探测监控***及探测监控方法 |
CN110661727B (zh) * | 2019-08-14 | 2022-09-30 | 平安普惠企业管理有限公司 | 数据传输优化方法、装置、计算机设备和存储介质 |
CN111935025B (zh) * | 2020-07-08 | 2023-10-17 | 腾讯科技(深圳)有限公司 | 一种tcp传输性能的控制方法、装置、设备和介质 |
CN116192759A (zh) * | 2022-12-13 | 2023-05-30 | 网易(杭州)网络有限公司 | 数据传输量的调整方法、装置、电子设备及存储介质 |
CN117952506B (zh) * | 2024-03-18 | 2024-06-18 | 青岛山科人工智能有限公司 | 一种模块化输送线***的拓扑结构更新方法、介质及*** |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1953351A (zh) * | 2005-10-21 | 2007-04-25 | 国际商业机器公司 | 用于数据传输的自适应控制的方法和装置 |
CN101056259A (zh) * | 2007-05-21 | 2007-10-17 | 中南大学 | 一种用于高速网络中的协同工作式拥塞控制方法 |
CN101075960A (zh) * | 2007-06-22 | 2007-11-21 | 清华大学 | 高速网络中基于路由器显式虚拟负载反馈的流量控制方法 |
CN101964755A (zh) * | 2010-11-03 | 2011-02-02 | 中南大学 | 高带宽延时网络中基于带宽估计的显式拥塞控制方法 |
CN102104912A (zh) * | 2011-03-24 | 2011-06-22 | 黄东 | 一种基于异构业务的无线mesh网络的拥塞控制方法 |
CN104092625A (zh) * | 2014-05-28 | 2014-10-08 | 中南大学 | 一种用于dcn中的自适应请求分批调度方法 |
CN104202257A (zh) * | 2014-09-12 | 2014-12-10 | 大连大学 | 一种基于带宽估计的卫星网络拥塞控制方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1249972A1 (en) * | 2001-04-09 | 2002-10-16 | Telefonaktiebolaget L M Ericsson (Publ) | Method of controlling a queue buffer |
CN101388833A (zh) * | 2008-07-18 | 2009-03-18 | 广东工业大学 | 基于自适应阈值机制的网络控制方法 |
US8130776B1 (en) * | 2009-08-28 | 2012-03-06 | Massachusetts Institute Of Technology | Method and apparatus providing network coding based flow control |
US9148623B2 (en) * | 2013-06-11 | 2015-09-29 | Qualcomm Incorporated | Apparatus and methods for modem assisted video telephony |
-
2017
- 2017-06-26 CN CN201710494852.4A patent/CN107276850B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1953351A (zh) * | 2005-10-21 | 2007-04-25 | 国际商业机器公司 | 用于数据传输的自适应控制的方法和装置 |
CN101056259A (zh) * | 2007-05-21 | 2007-10-17 | 中南大学 | 一种用于高速网络中的协同工作式拥塞控制方法 |
CN101075960A (zh) * | 2007-06-22 | 2007-11-21 | 清华大学 | 高速网络中基于路由器显式虚拟负载反馈的流量控制方法 |
CN101964755A (zh) * | 2010-11-03 | 2011-02-02 | 中南大学 | 高带宽延时网络中基于带宽估计的显式拥塞控制方法 |
CN102104912A (zh) * | 2011-03-24 | 2011-06-22 | 黄东 | 一种基于异构业务的无线mesh网络的拥塞控制方法 |
CN104092625A (zh) * | 2014-05-28 | 2014-10-08 | 中南大学 | 一种用于dcn中的自适应请求分批调度方法 |
CN104202257A (zh) * | 2014-09-12 | 2014-12-10 | 大连大学 | 一种基于带宽估计的卫星网络拥塞控制方法 |
Non-Patent Citations (2)
Title |
---|
One more bit is enough;Yong Xia;《ACM SIGCOMM Computer Communication Review》;20050826;第2005卷(第4期);37-48 * |
具有显式反馈的拥塞控制***研究进展;张慧翔;《计算机科学》;20071225;第34卷(第12期);18-36 * |
Also Published As
Publication number | Publication date |
---|---|
CN107276850A (zh) | 2017-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107276850B (zh) | 一种用电信息采集***统一接口测试并发传输方法及*** | |
EP2754274B1 (en) | A method for avoiding network congestion and an apparatus thereof | |
US9178789B2 (en) | System and method for transmission control protocol slow-start | |
CN104994036B (zh) | 一种多路径传输协议中的动态数据调度方法 | |
KR20220007698A (ko) | 속도 최적화된 정체 관리 | |
CN105049369A (zh) | 异构无线网络中基于mptcp的视频传输拥塞控制方法 | |
RU2008101646A (ru) | Фоновое совместное использование полосы пропускания сети после шлюзовых устройств | |
CN103905328A (zh) | 一种数据传输控制***、方法及相关装置 | |
CN108173778A (zh) | 基于业务分类的电力信息采集***数据处理方法 | |
CN102594434B (zh) | 面向卫星网络的传输控制机制改进方法 | |
Wang et al. | OSIA: Out-of-order Scheduling for In-order Arriving in concurrent multi-path transfer | |
US20220248259A1 (en) | Data processing method and apparatus | |
CN117938755B (zh) | 一种数据流量控制方法、网络交换子***及智能计算平台 | |
CN104283605A (zh) | 基于udp协议的卫星网络数据传输方法及装置 | |
CN101969432B (zh) | 基于随机回退的tcp拥塞窗口的控制方法 | |
CN102143551A (zh) | 基于网络负载预测的无线竞争接入控制退避方法 | |
Lu et al. | FAMD: A Flow-Aware Marking and Delay-based TCP algorithm for datacenter networks | |
CN109787861B (zh) | 网络数据延迟控制方法 | |
Yildirim et al. | Balancing tcp buffer vs parallel streams in application level throughput optimization | |
CN109150743B (zh) | 一种网络拥塞控制策略切换方法及*** | |
US8767746B1 (en) | Wireless scheduler bandwidth estimation for quick start | |
CN112019443B (zh) | 多路径数据传输方法及装置 | |
CN104580006A (zh) | 一种移动网络发送速率控制方法、装置及*** | |
WO2021013260A1 (zh) | 一种网络传输控制方法及装置 | |
US9882751B2 (en) | Communication system, communication controller, communication control method, and medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |