CN112398705A - 网络质量评测方法、装置、设备和存储介质 - Google Patents
网络质量评测方法、装置、设备和存储介质 Download PDFInfo
- Publication number
- CN112398705A CN112398705A CN201910758990.8A CN201910758990A CN112398705A CN 112398705 A CN112398705 A CN 112398705A CN 201910758990 A CN201910758990 A CN 201910758990A CN 112398705 A CN112398705 A CN 112398705A
- Authority
- CN
- China
- Prior art keywords
- data
- test
- public
- test case
- same
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 95
- 238000013441 quality evaluation Methods 0.000 title abstract description 46
- 238000012360 testing method Methods 0.000 claims abstract description 449
- 238000012216 screening Methods 0.000 claims abstract description 97
- 238000005259 measurement Methods 0.000 claims description 73
- 238000012545 processing Methods 0.000 claims description 42
- 238000012163 sequencing technique Methods 0.000 claims description 19
- 238000011156 evaluation Methods 0.000 claims description 9
- 238000010606 normalization Methods 0.000 claims description 3
- 238000001303 quality assessment method Methods 0.000 claims description 3
- 230000002159 abnormal effect Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 15
- 238000004590 computer program Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000007613 environmental effect Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/02—Capturing of monitoring data
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请实施例提供一种网络质量评测方法、装置、设备和存储介质,其中,网络质量评测方法包括:根据获取的众测数据确定目标测试用例;采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选;所述测试用例匹配模型中预置有与每一测试用例对应的筛选条件;通过所述测试用例匹配模型内对应的筛选条件对所述众测数据进行筛选,将筛选后的众测数据作为有效众测数据进行网络质量评测,提高了网络质量评测的置信度。
Description
技术领域
本申请涉及通信领域,涉及但不限于一种网络质量评测方法、装置、设备和存储介质。
背景技术
网络质量众测是使用真实的用户终端,在网络环境中执行模拟用户业务操作过程发起测试,获得在业务执行过程中性能数据和操作结果数据。通过众测的形式,采用真实终端对网络质量进行测试,利用采集到的众测数据,评价网络质量,但是,无法有效全面的剔除影响网络质量评测的众测数据,导致网络质量评测的置信度降低。
发明内容
有鉴于此,本申请实施例提供一种网络质量评测方法、装置、设备和存储介质。
本申请实施例的技术方案是这样实现的:
第一方面,本申请实施例提供一种网络质量评测方法,所述方法包括:根据获取的众测数据确定目标测试用例;采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选;所述测试用例匹配模型中预置有与每一测试用例对应的筛选条件;将筛选后的众测数据作为有效众测数据,对当前网络质量进行评测。
第二方面,本申请实施例提供一种网络质量评测的装置,所述装置包括:确定单元,用于根据获取的众测数据确定目标测试用例;
筛选单元,用于采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选;所述测试用例匹配模型中预置有与每一测试用例对应的筛选条件;
评测单元,用于将筛选后的众测数据作为有效众测数据,对当前网络质量进行评测。
第三方面,本申请实施例提供网络质量评测设备,所述设备至少包括:处理器和配置为存储可执行指令的存储介质,其中:所述处理器配置为执行存储的可执行指令;
所述可执行指令配置为执行上述的网络质量评测方法。
第四方面,本申请实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机可执行指令,该计算机可执行指令配置为执行上述的网络质量评测方法。
本申请实施例提供一种网络质量评测方法、装置、设备和存储介质,其中,根据获取的众测数据确定目标测试用例;采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选;所述测试用例匹配模型中预置有与每一测试用例对应的筛选条件;如此,通过所述测试用例匹配模型内对应的筛选条件对所述众测数据进行筛选,将筛选后的众测数据作为有效众测数据,有效的剔除了对质量评测有干扰的数据,提高了网络质量评测的置信度。
附图说明
在附图(其不一定是按比例绘制的)中,相似的附图标记可在不同的视图中描述相似的部件。具有不同字母后缀的相似附图标记可表示相似部件的不同示例。附图以示例而非限制的方式大体示出了本文中所讨论的各个实施例。
图1为本申请实施例提供的应用场景示意图;
图2A至图2E为本申请实施例提供的网络质量评测方法的实现流程示意图;
图3为本申请实施例提供的网络质量评测方法的实现流程示意图;
图4为本申请实施例提供的网络质量评测方法的实现流程示意图;
图5为本申请实施例提供的网络质量评测方法的实现流程示意图;
图6为本申请实施例提供的剔除环境异常数据的实现流程示意图;
图7为本申请实施例提供的测试用例全过程完全匹配模型的工作流程示意图;
图8为本申请实施例提供的去集中处理方法的实现流程示意图;
图9为本申请实施例提供的网络质量评测装置的组成结构示意图;
图10为本申请实施例提供的网络质量评测设备的组成结构示意图。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本申请的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。
终端可以以各种形式来实施。例如,本申请中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant,PDA)、便捷式媒体播放器(Portable Media Player,PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端,以及诸如数字TV、台式计算机等固定终端。
后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本申请的实施方式的构造也能够应用于固定类型的终端。
图1为本申请实施例提供的应用场景示意图。参考图1,本申请实施例所提供的众测***包括测试设备10、多个终端设备20和网络30,所述多个终端设备20和所述测试设备10通过所述网络30通信连接,每个终端设备20上安装有众测应用。
所述测试设备10通过所述众测应用向每个所述终端设备20推送测试任务,所述测试任务包括多个测试用例。所述测试设备10接收参与测试的终端设备20发送的测试任务的测试反馈,即众测数据,所述测试反馈包括带有被执行测试用例的标识。
本实施例中,通过上述众测的形式,采用终端设备20对网络30的质量进行测试。所述测试任务是对网络30质量进行测试的任务。
本实施例中,采集到的众测数据包含终端信息、网络信息和业务质量信息,用于评价网络质量情况。
图2A为本申请实施例所提供的网络质量评测方法的实现流程示意图。参考图2A,所述网络质量评测方法包括以下步骤:
步骤S201,根据获取的众测数据确定目标测试用例。
这里,本实施例提供的方法可以由测试设备来完成。在一种实施方式中,测试设备向终端设备发送测试任务,终端设备在完成测试任务后向测试设备发送的众测数据,其中,测试任务中可以包括测试用例,也可以包括测试用例的标识。当测试任务包括测试用例的标识时,终端设备根据测试用例的标识从本地获取目标测试用例,或者终端设备根据测试用例的标识请求目标测试用例,以完成测试任务。
所述众测数据可以是参与测试的终端设备20(参考图1)所发送的测试反馈。在实施时,测试设备通过终端设备发送的众测数据来确定目标测试用例,例如众测数据中可以包括被执行过的测试用例的标识,通过解析所述众测数据得到目标测试用例。再如,可以将测试任务的标识与测试用例的标识形成映射关系表,而终端设备返回的众测数据可以由测试设备确定测试任务的标识,在实现时,众测数据中可以包括测试任务的标识,测试设备根据测试任务的标识通过查表来确定对应的目标测试用例。
步骤S202,采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选;所述测试用例匹配模型中预置有与每一测试用例对应的筛选条件。
所述测试用例匹配模型内预设有筛选条件,筛选条件目的是筛选出与所述测试设备10推送的测试用例相匹配的众测数据,在实现时,通过将筛选条件对应于所述测试设备10(参考图1)推送的测试用例的各执行步骤,以实现筛选目的。这样,通过将所述目标测试用例与对应的筛选条件进行匹配,把匹配后与所述测试用例匹配模型中不匹配的数据进行处理,以实现对所述众测数据进行筛选。
步骤S203,将筛选后的众测数据作为有效众测数据,对当前网络质量进行评测。
本实施例中,使用所述测试用例匹配模型进行匹配,并将筛选之后的众测数据作为有效的众测数据,由于使用有效的众测数据进行评测,因此能够提高网络质量评测的置信度。
在其他实施例中,所述筛选条件是根据测试用例的执行步骤确定的,因此,在某种意义上,测试用例匹配模型又是测试用例的执行过程的匹配模型,在一些实施例中,会对测试用例的全部执行过程进行匹配,这样的模型称为测试用例全过程完全匹配模型。这里的测试用例是所推送的测试任务中的测试用例,筛选条件根据测试用例的步骤进行确定,以保障所述筛选条件筛选得到符合要求的众测数据。由于所述众测数据中包括带有被执行的测试用例的标识,这里筛选符合要求的众测数据,即是筛选出所述众测数据中所执行的测试用例的各步骤与所述测试用例中各步骤相同的众测数据。
本实施例与图2A所示的实施例的不同在于,所述筛选条件包括:所述目标测试用例的访问地址范围在预设的访问地址范围内,且在同一行政区域范围内不同访问地址的众测数据比例均衡。参考图2B,该网络质量评测方法包括以下步骤:
步骤S201,根据获取的众测数据确定目标测试用例。
步骤S2021,删除不在所述预设的访问地址范围内的众测数据。
这里,预设的访问地址是与测试任务中的测试用例中设置的访问地址相同,删除不在所述预设的访问地址范围内的众测数据,可以筛选出目标测试用例的访问地址范围在预设的访问地址范围内的众测数据;
步骤S2022,对所述同一行政区域范围内相同访问地址的众测数据进行归一化处理。
这里,归一化处理所述同一行政区域范围内相同访问地址的众测数据可以使得在同一行政区域范围内不同访问地址的众测数据比例均衡。
上述步骤S2021与步骤S2022提供了一种实现步骤S202的方式。
步骤S203,将筛选后的众测数据作为有效众测数据,对当前网络质量进行评测。
本申请实施例中,采用上述任意所述筛选条件对众测数据进行筛选,筛选出与访问地址符合要求,且在同一行政区域内的比例均衡的众测数据。
本申请实施例与图2A所示的实施例的不同在于,所述筛选条件包括:所述目标测试用例的访问地址被解析后的资源地址与所述目标测试用例的访问地址之间的对应关系满足预设的第一条件。其中,所述第一条件指的是所述目标测试用例的访问地址被解析后的资源地址与所述目标测试用例的访问地址之间一一对应。
参考图2C,该网络质量评测方法包括以下步骤:
步骤S201,根据获取的众测数据确定目标测试用例。
步骤S2023,删除多个访问地址对应同一个资源地址的众测数据。
这里,删除多个访问地址对应同一个资源地址的众测数据,可以使得所述目标测试用例的访问地址被解析后的资源地址与所述目标测试用例的访问地址之间的对应关系正常,即筛选出满足所述第一条件的众测数据。
上述步骤S2023提供了一种实现步骤S202的方式。
步骤S203,将筛选后的众测数据作为有效众测数据,对当前网络质量进行评测。
本实施例中,采用上述任意所述筛选条件对众测数据进行筛选,筛选出资源地址与访问地址对应关系正常的众测数据。
本实施例与图2A所示的实施例的不同在于,所述筛选条件包括:所述目标测试用例所在的资源服务器的地址分布均匀;资源服务器的地址与所述目标测试用例的访问地址之间的对应关系满足预设的第二条件,且所述资源服务器的地址被访问行政区域数不唯一;所述资源服务器与终端之间的对应关系满足预设的第三条件。其中,所述第二条件指的是所述资源服务器的地址与所述目标测试用例的访问地址之间是一一对应的;所述第三条件指的是在同一个终端设备中所有的众测数据仅对应一个所述资源服务器,且同一终端上的所述众测数据的数量在一定数量之内。
参考图2D,该网络质量评测方法包括以下步骤:
步骤S201,根据获取的众测数据确定目标测试用例。
步骤S2024,删除同一终端中,对应一个资源服务器且数量超过阈值的众测数据。
这里,可以使得筛选出资源服务器与终端之间的对应关系满足预设的第三条件的众测数据。
步骤S2025,删除资源服务器中,资源所在服务器被访问行政区域唯一且此服务器上数量超过阈值的众测数据。
这里,可以使得筛选出资源服务器的地址与所述目标测试用例的访问地址之间的对应关系满足预设的第二条件,且所述资源服务器的地址被访问行政区域数不唯一的众测数据。
这里,步骤S2025提供了一种实现步骤S202的方式。
步骤S203,将筛选后的众测数据作为有效众测数据,对当前网络质量进行评测。
本实施例中,采用上述任意所述筛选条件对众测数据进行筛选,筛选出资源服务器与终端之间的满足对应关系的数据。
本实施例与图2A所示的实施例的不同在于,所述筛选条件包括:所述众测数据的访问资源大小在预设的大小范围内。参考图2E,该网络质量评测方法包括以下步骤:
步骤S201,根据获取的众测数据确定目标测试用例。
步骤S2026,删除资源大小超出预设大小的众测数据;删除相同访问地址、不同行政区域中,资源大小差距超过阈值的众测数据。
这里,所述众测数据为访问成功后的众测数据,将资源大小不在预设范围的众测数据进行删除。
上述步骤S2026提供了一种实现步骤S202的方式,筛选出资源大小符合对应要求的众测数据,利用该众测数据进行评测置信度高。
步骤S203,将筛选后的众测数据作为有效众测数据,对当前网络质量进行评测。
本实施例中,采用上述任意所述筛选条件对众测数据进行筛选,筛选出与所述筛选条件相符的众测数据作为有效的众测数据,使用所述有效的众测数据进行评测,提高网络质量评测的置信度。
在其他实施例中,采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选可以采用上述任意一种或几种筛选步骤的组合。
基于以上实施例,本申请实施例还提供一种网络质量评测方法,还包括步骤:对所述众测数据进行同一终端或同一地点的去集中处理,将所述去集中处理之后的众测数据与所述目标测试用例对应的筛选条件进行匹配;或者,对筛选后的众测数据进行同一终端或同一地点的去集中处理,并将去集中处理后的众测数据作为有效数据。
本实施例中,所述去集中处理的目的是对相同终端反复测试和相同地点使用不同终端多次测试所得到的众测数据进行处理。由于在好点或者坏点进行过量集中测试,会影响整体的网络质量评价,因此需要分别对这两种情况进行集中测试样本处理。
需要说明的是,这里同一终端指的是相同类型的终端设备,即终端设备的标识相同;同一地点指的是同一个位置,即在定位***中,经纬度相同的地点。所述好点和坏点指的是:在某一个测试地点测出来质量好的地点就是好点,反之就是坏点;一般情况下测试网络质量好的测试地点或者测试网络质量差的测试地点是均匀的。
需要说明的是,对相同终端反复测试和相同地点使用不同终端多次测试所得到的众测数据如不进行剔除,或对所述众测数据统计过程中不做特殊处理,会对网络质量评测结果造成影响,即结果无法体现真实网络质量。
本实施例中,将采用测试用例匹配模型进行筛选后的众测数据进行去集中处理,即将采用测试用例匹配模型进行筛选后的众测数据进行同一终端或同一地点的去集中处理,并将去集中处理后的众测数据作为有效数据,使得对网络质量评测结果置信度提高。
在其他实施例中,先进行去集中处理,再将所述去集中处理后的众测数据采用测试用例匹配模型进行筛选,将筛选后的众测数据作为有效数据,使得对网络质量评测结果置信度提高。
需要说明的是,图2B的实施例至图2E所示的实施例均提供了一种实现步骤S202的方式,各实施例之间可以组合形成新的实施例。
图3为本申请实施例提供的网络质量评测方法的实现流程示意图。参考图3,所述网络质量评测方法包括:
步骤S301,根据获取的众测数据确定目标测试用例。
步骤S302,采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选;所述测试用例匹配模型中预置有与每一测试用例对应的筛选条件。
所述测试用例匹配模型内预设有筛选条件,筛选条件目的是筛选出与所述测试设备10推送的测试用例相同的用例。所述筛选条件对应与所述测试设备10(参考图1)推送的测试用例的各执行步骤。通过将所述目标测试用例与对应的筛选条件进行匹配,把匹配后与所述测试用例匹配模型中不匹配的数据进行处理,以实现对所述众测数据进行筛选。
步骤S303,对所述众测数据按照终端标识进行分组,得到具有相同终端标识的众测数据。
这里,由于所获取到的众测数据是很多终端设备反馈的数据,不同的终端设备具有不同的终端标识,首先对所述众测数据按照终端标识进行分组,得到具有相同终端标识的众测数据。
步骤S304,将所述具有相同终端标识的众测数据按测试时间进行排序,得到排序结果。
这里,相同终端标识的众测数据是在不同时间点测试所得,所以,对相同终端标识的众测数据按测试时间进行排序,可以得到所述众测数据的按时间的排序结果。
步骤S305,从所述排序结果中,删除排列序号超出预设的第一阈值的众测数据。
这里,所述第一阈值指的是在同一终端设备上最多允许的测试次数。
例如,在同一终端设备上最多允许测试三次,则所述第一阈值为3。在所述排序结果是按照时间进行排序的,那么在第一阈值为3的时候,删除排列序号超过3的众测数据。以实现对相同终端的众测数据的去集中处理。
步骤S306,将处理的众测数据作为有效众测数据,对当前网络质量进行评测。
本实施例中,使用所述测试用例匹配模型进行匹配并进行筛选,之后再针对相同终端反复测试众测数据进行去集中处理,将处理之后的众测数据作为有效的众测数据进行评测,因此能够提高网络质量评测的置信度。
本申请实施例提供的网络质量评测方法,参考图4,该方法包括:
步骤S401,根据获取的众测数据确定目标测试用例。
步骤S402,采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选;所述测试用例匹配模型中预置有与每一测试用例对应的筛选条件。
所述测试用例匹配模型内预设有筛选条件,筛选条件目的是筛选出与所述测试设备10推送的测试用例相同的用例。所述筛选条件对应与所述测试设备10(参考图1)推送的测试用例的各执行步骤。通过将所述目标测试用例与对应的筛选条件进行匹配,把匹配后与所述测试用例匹配模型中不匹配的数据进行处理,以实现对所述众测数据进行筛选。
步骤S403,对所述众测数据按照经纬度进行网格化划分,得到在同一网格内的众测数据。
这里,对所述众测数据按照经纬度进行网格化划分,是将得到所述众测数据的测试区域的全球定位***(Global Positioning System,GPS)信息按照经纬度进行网格化划分,网格化划分之后,每个网格内具有众测数据,同一网格内的众测数据即是同一测试地点所测得的结果。
步骤S404,对所述同一网格内的众测数据按测试时间进行排序,得到排序结果。
这里,对所述同一网格内的众测数据按测试时间进行排序,即可以将在同一测试地点的测得的众测数据进行排序,得到同一地点测得的众测数据的排序结果。
步骤S405,从所述排序结果中,删除排列序号超出预设的第二阈值的众测数据。
这里,所述第二阈值为在同一个测试地点允许测试的最大次数。通过控制所述第二阈值的值,从而去除同一测试地点多次测量的无效数据。例如,在某一地点,允许测试的次数为三次,则所述第二阈值的值为3。那么,当在同一测试地点测得10个结果时,排列序号从0开始,即排列序号为0、1、2、3、4、5、6、7、8、9,删除排列序号为3、4、5、6、7、8、9的众测数据。当然排列序号也可以从1开始,那么将删除序号为4至10的众测数据。
步骤S406,将处理后的众测数据作为有效众测数据,对当前网络质量进行评测。
本实施例中,使用所述测试用例匹配模型进行匹配并进行筛选,之后再针对相同地点的多次测试情况进行去集中处理,将处理后的数据作为有效众测数据进行评测,提高了网络质量评测的置信度。
在一些实施例中,基于真实测试用例全过程完全匹配的众测有效数据识别模型和针对集中测试数据进行去集中处理实现网络质量评测,图5为本申请实施例中提供的网络质量评测方法的实现流程示意图,参考图5,所述网络质量评测步骤具体包括:
S501,采集网络质量众测数据。
S502,对测试环境相关的异常数据进行剔除。
这里,对测试环境相关的异常数据进行剔除即对测试数据(即前述实施例中所述众测数据)中终端、网络、测试状态、测试结果异常的数据进行剔除。
S503,测试用例全过程完全匹配模型(即前述实施例中所述的测试用例匹配模型),剔除异常样本数据。
这里,使用测试用例全过程完全匹配模型,对测试数据全流程与测试用例进行匹配,识别无效的众测数据,对众测测试过程有干预的测试样本进行剔除。
使用测试用例全过程完全匹配模型,对测试数据(即前文实施例所述的众测数据)全流程(指前文实施例中所述的众测数据被执行过程标记的测试用例)与测试用例进行匹配,识别对众测测试过程有干预的测试样本(有干预的样本指的是需要被剔除的无效的众测数据),剔除异常样本数据。其中,对众测测试过程有干预的测试样本也就是与模型不匹配的数据。
S504,去集中测试(即前文实施例所述的去集中处理)。
这里,针对相同终端或相同地点的集中测试样本进行去集中处理,实现有效网络众测数据的识别。
无论是在好点或者在坏点进行过量的集中测试,都会影响整体的网络质量评价,在众测实施过程中发现集中测试的场景主要包括使用相同终端反复测试的情况,以及在相同地点使用不同终端多次测试,需要分别对这两种情况进行集中测试样本处理。
针对相同终端的集中测试情况,设定同一终端测试报告数的阈值Threshold_a(即前文实施例所述的第一阈值),对同一终端下的测试按时间进行排序,仅保留前几次在设定阈值内的测试数据。
由于同一款终端一次测试会产生比较多的测试报告(一个测试报告包括若干众测数据,这里测试报告指的是前文实施例中的众测数据),对终端的集中数据处理算法如下:对所有测试样本按测试终端(Terminal)进行分组,相同终端的测试样本按测试时间(Report_time)排序,同一次测试任务(Report_name相同)的样本标记为相同的序号(Test_times),按时间依次递增,最后按设定阈值(Threshold_a)进行筛选,同一终端仅保留在阈值设定范围内的数据,即保留Test_times<Threshold_a的数据。
图6为本申请实施例提供的剔除环境异常数据方法的实现流程示意图。参考图6,所述剔除环境异常数据的过程包括步骤:
步骤S601,终端异常剔除。
本实施例中,终端异常的情况包括未获取到终端相关信息,CPU内存占用率超过阈值等。终端异常剔除包括:删除终端信息异常的众测数据,还包括:删除CPU内存占用率超过阈值的众测数据。
步骤S602,网络异常剔除。
网络异常是指测试状态异常,包括未获取到网络类型,网络信号强度不在正常可使用范围内的情况。所述网络异常剔除包括:删除无网络类型数据的众测数据;网络异常还包括:删除网络信号强度不在正常范围内的众测数据。这里网络信号强度不在正常范围内可以指的是,网络信号强度不在测试环境所需的网络信号强度范围之外的情况。
步骤S603,测试状态异常剔除。
所述测试状态包括测试过程中出现的与测试工具相关的测试状态码异常的众测数据。
测试状态异常剔除包括:删除测试异常终止的众测数据;还包括:删除测试工具异常的众测数据。
步骤S604,测试结果异常剔除。
测试结果异常包括测试指标值不在正常范围内,或由于数据的偶然性导致不同指标值之间冲突的众测数据。所述测试结果异常剔除包括:删除测试指标值不在正常范围内的众测数据;还包括:删除测试指标值之间冲突的众测数据。
本实施例中,通过对所测得众测数据中终端、网络、测试状态,测试结果等异常的数据进行剔除,实现对测试环境中异常数据的剔除,从而保留不受测试环境影响的众测数据,进而采用所述众测数据进行后续的筛选过程,以达到网络质量评价的准确性。
图7为本申请实施例提供的测试用例全过程完全匹配模型的工作流程示意图。参考图7,所述测试用例全过程完全匹配模型的工作流程包括步骤:
S701,假设测试用例全过程完全匹配模型包括:所有测试样本访问地址在预置的用例访问地址范围内,同一行政区域范围内不同访问地址测试样本数比例均衡。对应地,测试用例全过程完全匹配模型的筛选步骤包括:删除不在预置的用例访问地址范围内的测试样本,对同一行政区域范围内样本处理,避免样本数不均衡。
S702,假设测试用例全过程完全匹配模型包括:用例测试地址被解析后的资源地址与测试访问地址对应关系正常。对应地,测试用例全过程完全匹配模型的筛选步骤包括:多个访问地址对应同一个资源地址的数据标记为异常数据。
S703,假设测试用例全过程完全匹配模型包括:所在资源服务器地理地点分布均匀,资源所在服务器IP与用例测试地址的对应关系正常,资源所在服务器与终端的对应关系正常,资源所在服务器IP被访问行政区域数不唯一。对应地,测试用例全过程完全匹配模型的筛选步骤包括:多个样本仅对应一个资源服务器,且样本数量超过阈值的样本标记异常,资源所在服务器被访问行政区域唯一,且此服务器上样本量超过设定阈值,相关标记为异常样本
S704,假设测试用例全过程完全匹配模型包括:访问成功样本中资源大小在正常范围内。对应地,测试用例全过程完全匹配模型的筛选步骤包括:删除访问成功样本中资源大小异常的样本,相同访问地址不同行政区域的资源大小差距超过阈值的样本标记异常。
图8为本申请实施例提供的去集中处理方法的流程示意图。参考图8,对同一终端的集中数据处理过程包括以下步骤:
步骤S801,查出所有终端。
这里,查出所有终端,对所有测试样本按测试终端标识进行分组。
步骤S802,找出某个终端中的所有众测数据。
这里,找出某个终端中的所有众测数据,使得找出所有具有相同标识的众测数据。
步骤S803,将相同标识的众测数据按测试时间排序。
步骤S804,获取某一个众测数据。
步骤S805,如果为此终端的第一个数据,进入步骤S806;如果不是此终端的第一个数据,进入步骤S807。
步骤S806,进行测试序号标记测试时间(Test_times)=0,则将该数据报告名(Report_name)记录为当前任务名称,即Report_name=当前任务名称。
步骤S807,如果任务名称是为Report_name,进入步骤S808;如果不是,进入步骤S809。
步骤S808,把当前测试序号标记设置为Test_times。
步骤S809,标记Test_times=Test_times,Report_name=当前任务名称。
步骤S810,检查所有众测数据是否遍历完成,如果是,进入步骤S811;如果不是,退回步骤S804。
步骤S811,检查所有终端标识遍历是否完成,若完成进入S812,若不是退回步骤S802。
步骤S812,删除所有Test_times大于或等于第一阈值(Threshold_a)的众测数据。
最后,结束同一终端去集中处理任务。
针对相同地点的集中测试,设定集中地点测试的阈值为Threshold_b(即前文所述的第二阈值),根据测试地点的GPS信息将数据按照经纬度进行网格化划分,同一网格内的样本进行测试次数统计,删除同一地点测试次数大于Threshold_b的数据。
其中,对于同一地点多次测量的去集中处理的算法包括:
设每个点样本的测试地点GPS信息表示为(lng,lat),其中,样本可以包括许多众测数据,lng表示经度值,lat表示维度值;设置网格(Grid)大小经度范围(LngInterval)和纬度范围(LatInterval),Grid的中心点的坐标设为(x,y)。
本实施例中,设置经度范围为x-LngInterval/2至x+LngInterval/2;纬度范围为y-LatInterval/2至y+LatInterval/2。
对满足x-LngInterval/2<lng<x+LngInterval/2且y-LatInterval/2<lat<y+LatInterval/2条件的众测数据按时间排序,并按顺序进行排列并标记序号,删除排列序号大于第二阈值(Threshold_b)的众测数据。
基于前述的实施例,本申请实施例提供一种网络质量评测装置,参考图9,图9为本申请实施例提供的网络质量评测装置的组成结构示意图,所述装置900包括:确定单元901、筛选单元902和评测单元903。
其中,所述确定单元901用于根据获取的众测数据确定目标测试用例;
所述筛选单元902用于采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选;所述测试用例匹配模型中预置有与每一测试用例对应的筛选条件;
所述评测单元903用于将筛选后的众测数据作为有效众测数据,对当前网络质量进行评测。
在其他实施例中,所述筛选条件是根据所述测试用例的执行步骤确定的。
在其他实施例中,所述筛选条件包括:所述目标测试用例的访问地址范围在预设的访问地址范围内,且在同一行政区域范围内不同访问地址的众测数据比例均衡。对应地,所述筛选单元包括:第一删除模块,用于删除不在所述预设的访问地址范围内的众测数据;第一处理单元,用于对所述同一行政区域范围内相同访问地址的众测数据进行归一化处理,以使得在同一行政区域范围内不同访问地址的众测数据比例均衡。
在其他实施例中,所述筛选条件还包括:所述目标测试用例的访问地址被解析后的资源地址与所述目标测试用例的访问地址之间的对应关系满足预设的第一条件;对应地,所述筛选单元包括:第二删除模块,用于删除多个访问地址对应同一个资源地址的众测数据。
在其他实施例中,所述筛选条件还包括:所述目标测试用例所在的资源服务器的地址分布均匀;所述资源服务器的地址与所述目标测试用例的访问地址之间的对应关系满足预设的第二条件,且所述资源服务器的地址被访问行政区域数不唯一;所述资源服务器与终端之间的对应关系满足预设的第三条件;
对应地,所述筛选单元包括:第三删除模块,用于删除同一终端中,对应一个资源服务器且数量超过阈值的众测数据;第四删除模块,用于删除资源服务器中,资源所在服务器被访问行政区域唯一且此服务器上数量超过阈值的众测数据。
在其他实施例中,所述筛选条件还包括:所述众测数据的访问资源大小在预设的大小范围内;对应地,所述筛选单元,包括:第五删除模块,用于删除资源大小超出预设大小的众测数据;第六删除模块,用于删除相同访问地址、不同行政区域中,资源大小差距超过阈值的众测数据。
在其他实施例中,所述筛选单元902还包括,上述任意一种或几种筛选单元的的组合。
在其他实施例中,所述网络质量评测装置还包括去集中处理单元。所述去集中处理单元用于对所述众测数据进行同一终端或同一地点的去集中处理,将所述去集中处理之后的众测数据与所述目标测试用例对应的筛选条件进行匹配;或者对筛选后的众测数据进行同一终端或同一地点的去集中处理,并将去集中处理后的众测数据作为有效数据。
在其他实施例中,所述去集中处理单元包括:分组模块、第一排序模块和第七删除模块。所述分组模块用于对所述众测数据按照终端标识进行分组,得到具有相同终端标识的众测数据。所述第一排序模块用于将所述具有相同终端标识的众测数据按测试时间进行排序,得到排序结果。所述第七删除模块用于从所述排序结果中,删除排列序号超出预设的第一阈值的众测数据。
在其他实施例中,所述去集中处理单元包括网格划分模块、第二排序模块以和第八删除模块。所述网格划分模块,用于对所述众测数据按照经纬度进行网格化划分,得到在同一网格内的众测数据。所述第二排序模块,用于对所述同一网格内的众测数据按测试时间进行排序,得到排序结果。所述第八删除模块,用于从所述排序结果中,删除排列序号超出预设的第二阈值的众测数据。
需要说明的是,本申请实施例中,如果以软件功能模块的形式实现上述的网络质量评测方法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台终端执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本申请实施例不限制于任何特定的硬件和软件结合。
对应的,本申请实施例提供一种网络质量评测设备,图10为本申请实施例所提供的网络质量评测设备1000的组成结构示意图。参考图10,所述网络质量评测设备1000至少包括:处理器1001、通信接口1002和配置为存储可执行指令的存储介质1003,其中:处理器1001通常控制所述网络质量评测设备1000的总体操作。
通信接口1002可以使网络质量评测设备通过网络与其他终端或服务器通信。
存储介质1003配置为存储由处理器1001可执行的指令和应用,还可以缓存待处理器1001和网络质量评测设备1000中各模块待处理或已处理的数据,可以通过闪存(FLASH)或随机访问存储器(Random Access Memory,RAM)实现。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本发明的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。应理解,在本发明的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器等)执行本申请各个实施例所描述的方法。
本申请是参照根据本申请实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程网络质量评测设备的处理器以产生一个机器,使得通过计算机或其他可编程网络质量评测设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程网络质量评测设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程网络质量评测设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。
Claims (12)
1.一种网络质量评测方法,其特征在于,所述方法包括:
根据获取的众测数据确定目标测试用例;
采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选;所述测试用例匹配模型中预置有与每一测试用例对应的筛选条件;
将筛选后的众测数据作为有效众测数据,对当前网络质量进行评测。
2.如权利要求1中所述方法,其特征在于,所述筛选条件是根据测试用例的执行步骤确定的。
3.如权利要求1中所述方法,其特征在于,所述筛选条件包括:所述目标测试用例的访问地址范围在预设的访问地址范围内,且在同一行政区域范围内不同访问地址的众测数据比例均衡;
对应地,所述采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,包括:
删除不在所述预设的访问地址范围内的众测数据;
对所述同一行政区域范围内相同访问地址的众测数据进行归一化处理,以使得在同一行政区域范围内不同访问地址的众测数据比例均衡。
4.如权利要求1中所述方法,其特征在于,所述筛选条件还包括:所述目标测试用例的访问地址被解析后的资源地址与所述目标测试用例的访问地址之间的对应关系满足预设的第一条件;
对应地,所述采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,还包括:
删除多个访问地址对应同一个资源地址的众测数据。
5.如权利要求1至4任一项中所述方法,其特征在于,所述筛选条件还包括:
所述目标测试用例所在的资源服务器的地址分布均匀;
资源服务器的地址与所述目标测试用例的访问地址之间的对应关系满足预设的第二条件,且所述资源服务器的地址被访问行政区域数不唯一;
所述资源服务器与终端之间的对应关系满足预设的第三条件;
对应地,所述采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,包括:
删除同一终端中,对应一个资源服务器且数量超过阈值的众测数据;
删除资源服务器中,资源所在服务器被访问行政区域唯一且此服务器上数量超过阈值的众测数据。
6.如权利要求1至4任一项中所述方法,其特征在于,所述筛选条件还包括:所述众测数据的访问资源大小在预设的大小范围内;
对应地,所述采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,包括:
删除资源大小超出预设大小的众测数据;
删除相同访问地址、不同行政区域中,资源大小差距超过阈值的众测数据。
7.如权利要求1至4任一项中所述方法,其特征在于,所述方法还包括:
对所述众测数据进行同一终端或同一地点的去集中处理,将所述去集中处理之后的众测数据与所述目标测试用例对应的筛选条件进行匹配;
或者,
对筛选后的众测数据进行同一终端或同一地点的去集中处理,并将去集中处理后的众测数据作为有效数据。
8.如权利要求7中所述方法,其特征在于,所述对所述众测数据进行同一终端或同一地点的去集中处理,包括:
对所述众测数据按照终端标识进行分组,得到具有相同终端标识的众测数据;
将所述具有相同终端标识的众测数据按测试时间进行排序,得到排序结果;
从所述排序结果中,删除排列序号超出预设的第一阈值的众测数据。
9.如权利要求7中所述方法,其特征在于,所述对所述众测数据进行相同终端或同一地点的去集中处理,包括:
对所述众测数据按照经纬度进行网格化划分,得到在同一网格内的众测数据;
对所述同一网格内的众测数据按测试时间进行排序,得到排序结果;
从所述排序结果中,删除排列序号超出预设的第二阈值的众测数据。
10.一种网络质量评测装置,其特征在于,所述装置包括:
确定单元,用于根据获取的众测数据确定目标测试用例;
筛选单元,用于采用测试用例匹配模型,将所述众测数据与所述目标测试用例对应的筛选条件进行匹配,以实现对所述众测数据进行筛选;所述测试用例匹配模型中预置有与每一测试用例对应的筛选条件;
评测单元,用于将筛选后的众测数据作为有效众测数据,对当前网络质量进行评测。
11.一种网络质量评测设备,其特征在于,所述设备至少包括:处理器和配置为存储可执行指令的存储介质,其中:所述处理器配置为执行存储的可执行指令;
所述可执行指令配置为执行上述权利要求1至9任一项所提供的网络质量评测方法。
12.一种存储介质,其特征在于,所述存储介质中存储有计算机可执行指令,所述计算机可执行指令配置为执行上述权利要求1至9任一项所提供的网络质量评测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910758990.8A CN112398705B (zh) | 2019-08-16 | 2019-08-16 | 网络质量评测方法、装置、设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910758990.8A CN112398705B (zh) | 2019-08-16 | 2019-08-16 | 网络质量评测方法、装置、设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112398705A true CN112398705A (zh) | 2021-02-23 |
CN112398705B CN112398705B (zh) | 2022-07-22 |
Family
ID=74601913
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910758990.8A Active CN112398705B (zh) | 2019-08-16 | 2019-08-16 | 网络质量评测方法、装置、设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112398705B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113286324A (zh) * | 2021-05-13 | 2021-08-20 | 江苏南工科技集团有限公司 | 基于5g技术的物联网感知终端设备通信质量均衡分析方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104536881A (zh) * | 2014-11-28 | 2015-04-22 | 南京慕测信息科技有限公司 | 基于自然语言分析的众测错误报告优先级排序方法 |
CN104579854A (zh) * | 2015-02-12 | 2015-04-29 | 北京航空航天大学 | 众包测试方法 |
CN106294182A (zh) * | 2016-08-24 | 2017-01-04 | 腾讯科技(深圳)有限公司 | 一种确定众测反馈有效性的方法、测试设备及*** |
CN108829597A (zh) * | 2018-06-13 | 2018-11-16 | 中国平安人寿保险股份有限公司 | 软件众测方法及装置、计算机装置及可读存储介质 |
CN108874655A (zh) * | 2017-05-15 | 2018-11-23 | 华为技术有限公司 | 一种处理众包测试数据的方法及装置 |
CN109886651A (zh) * | 2019-02-20 | 2019-06-14 | 福建省农村信用社联合社 | 一种机构内部的众测管理方法及*** |
-
2019
- 2019-08-16 CN CN201910758990.8A patent/CN112398705B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104536881A (zh) * | 2014-11-28 | 2015-04-22 | 南京慕测信息科技有限公司 | 基于自然语言分析的众测错误报告优先级排序方法 |
CN104579854A (zh) * | 2015-02-12 | 2015-04-29 | 北京航空航天大学 | 众包测试方法 |
CN106294182A (zh) * | 2016-08-24 | 2017-01-04 | 腾讯科技(深圳)有限公司 | 一种确定众测反馈有效性的方法、测试设备及*** |
CN108874655A (zh) * | 2017-05-15 | 2018-11-23 | 华为技术有限公司 | 一种处理众包测试数据的方法及装置 |
CN108829597A (zh) * | 2018-06-13 | 2018-11-16 | 中国平安人寿保险股份有限公司 | 软件众测方法及装置、计算机装置及可读存储介质 |
CN109886651A (zh) * | 2019-02-20 | 2019-06-14 | 福建省农村信用社联合社 | 一种机构内部的众测管理方法及*** |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113286324A (zh) * | 2021-05-13 | 2021-08-20 | 江苏南工科技集团有限公司 | 基于5g技术的物联网感知终端设备通信质量均衡分析方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112398705B (zh) | 2022-07-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110413506B (zh) | 测试用例推荐方法、装置、设备及存储介质 | |
US20220044162A1 (en) | Blockchain-based secure federated learning | |
CN107329894B (zh) | 应用程序***测试方法、装置及电子设备 | |
CN113366478A (zh) | 利用独立存储的校验密钥实现对在区块链中维护的仪器测量数据进行审计 | |
EP3764705B1 (en) | Positioning method, positioning device, server, and computer-readable storage medium | |
CN110096430B (zh) | 第三方sdk准入测试方法、装置、终端及存储介质 | |
CN111026647B (zh) | 代码覆盖率的获取方法、装置、计算机设备和存储介质 | |
CN111985789A (zh) | 一种车载终端信息安全威胁分析和风险评估***及方法 | |
CN112398705B (zh) | 网络质量评测方法、装置、设备和存储介质 | |
CN114328566A (zh) | 关系图谱的更新方法、装置、介质、设备及生成方法 | |
CN111984527A (zh) | 软件的性能测试方法、装置、设备和介质 | |
CN109582751B (zh) | 一种检索效果的度量方法及服务器 | |
CN109040744B (zh) | 预测视频业务的关键质量指标的方法、装置及存储介质 | |
CN113205130B (zh) | 一种数据审核方法、装置、电子设备及存储介质 | |
CN108280024B (zh) | 流量分配策略测试方法、装置及电子设备 | |
CN111885485B (zh) | 一种网络质量的评估方法和装置 | |
CN108777648B (zh) | 一种网络设备测试方法及装置 | |
CN116893961A (zh) | 一种软件成分分析工具评估方法、装置、设备及介质 | |
CN113076451B (zh) | 异常行为识别和风险模型库的建立方法、装置及电子设备 | |
CN113031995B (zh) | 一种更新规则的方法、装置、存储介质以及电子设备 | |
CN112540919B (zh) | 测试设备确定方法及装置 | |
CN115034686A (zh) | 作业行为量化方法、装置、计算机设备和存储介质 | |
CN112506765A (zh) | 软件测试方法、装置、设备及存储介质 | |
CN108173689B (zh) | 负载均衡数据的输出*** | |
CN111400147B (zh) | 一种业务质量测试方法、装置和*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |