CN116841870A - 一种测试方法、***、装置、设备及存储介质 - Google Patents
一种测试方法、***、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN116841870A CN116841870A CN202310662354.1A CN202310662354A CN116841870A CN 116841870 A CN116841870 A CN 116841870A CN 202310662354 A CN202310662354 A CN 202310662354A CN 116841870 A CN116841870 A CN 116841870A
- Authority
- CN
- China
- Prior art keywords
- test
- data
- target
- item
- plan
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003860 storage Methods 0.000 title claims abstract description 17
- 238000010998 test method Methods 0.000 title claims abstract description 13
- 238000012360 testing method Methods 0.000 claims abstract description 599
- 238000000034 method Methods 0.000 claims abstract description 28
- 238000013142 basic testing Methods 0.000 claims abstract description 18
- 238000003066 decision tree Methods 0.000 claims description 41
- 238000012216 screening Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 8
- 238000004590 computer program Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 6
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- DWSYCUKCNSVBRA-UHFFFAOYSA-N 4-(5-methylsulfonyltetrazol-1-yl)phenol Chemical compound CS(=O)(=O)C1=NN=NN1C1=CC=C(C=C1)O DWSYCUKCNSVBRA-UHFFFAOYSA-N 0.000 description 1
- 101710167643 Serine/threonine protein phosphatase PstP Proteins 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3688—Test management for test execution, e.g. scheduling of test suites
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3692—Test management for test results analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Computer Hardware Design (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开提供了一种测试方法、***、装置、设备及存储介质,涉及计算机技术领域。一种测试方法应用于服务端,包括:接收客户端发送的测试项目对应的测试数据;根据测试数据,确定目标测试项目;根据预设优先级规则,确定目标测试项目的测试优先级;根据基础测试计划和测试优先级,生成动态测试计划;将动态测试计划发送至客户端,以使客户端根据动态测试计划对待测试产品进行测试,得到测试结果。本公开可以实现测试计划的动态调整,从而提高测试效率。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及一种测试方法、***、装置、设备及存储介质。
背景技术
在产品出厂前需要对其组件或功能等进行测试,通常由测试平台基于预设配置文件对产品进行测试,然而,这种方法无法根据历史测试结果等实时动态调整测试计划,会导致测试效率低下,另外该方法只能由测试人员在线下进行测试管理操作,例如现场进行测试程序的导入和测试状况的监控等,不仅存在操作周期长、及时性差的问题,而且极度依赖测试人员的注意力和操作能力等,即不防呆。
发明内容
本公开提供了一种测试方法、***、装置、设备及存储介质,以至少解决现有技术中存在的以上技术问题。
根据本公开的第一方面,提供了一种测试方法,该方法应用于服务端,包括:接收客户端发送的测试项目对应的测试数据;根据所述测试数据,确定目标测试项目;根据预设优先级规则,确定所述目标测试项目的测试优先级;根据基础测试计划和所述测试优先级,生成动态测试计划;将所述动态测试计划发送至客户端,以使所述客户端根据所述动态测试计划对待测试产品进行测试,得到测试结果。
在一可实施方式中,所述根据所述测试数据,确定目标测试项目,包括:根据预设动态测试规则,筛选测试项目中的必测项目;根据所述测试数据,判断所述测试项目在预设时间段内的良率是否满足第一预设阈值,得到判断结果;将所述必测项目和判断结果为是对应的测试项目确定为目标测试项目。
在一可实施方式中,所述根据预设优先级规则,确定所述目标测试项目的测试优先级,包括:根据所述目标测试项目对应的目标测试数据,构建数据集合;根据所述数据集合,构建决策树,所述决策树的根节点为目标测试项目的历史良率标签;根据所述决策树和所述预设优先级规则,确定所述目标测试项目的测试优先级。
在一可实施方式中,所述根据所述目标测试项目对应的目标测试数据,构建数据集合,包括:提取目标测试数据中的数据类别标签;根据所述目标测试数据,确定所述目标测试项目在所述数据类别标签下的取值,得到目标测试项目对应的子数据;根据所述子数据,生成所述数据集合。
在一可实施方式中,所述确定所述目标测试项目在所述数据类别标签下的取值,包括:对于所述数据类别标签中的历史良率标签,计算所述目标测试数据对应的局部产品数量与整体产品数量的比值;所述比值满足第二预设阈值,将所述目标测试项目的初始良率确定为所述目标测试项目的历史良率;所述比值不满足第二预设阈值,根据滑动窗口算法和所述目标测试项目的初始良率,计算目标测试项目的历史良率;对于其他数据类别标签,根据所述目标测试数据,确定所述目标测试项目在其他数据类别标签下的取值。
在一可实施方式中,所述根据所述数据集合,构建决策树,包括:以所述数据类别标签中的历史良率标签为根节点,计算在每个历史良率子区间下其他数据类别标签的信息增益,将最大信息增益对应的数据类别标签确定为对应历史良率子区间下的子节点;在所述子节点对应的每个取值子区间下,计算剩余数据类别标签的信息增益,将最大信息增益对应的数据类别标签确定为对应取值子区间下的子节点,直到所述子节点为测试项目标签,得到初始决策树;根据所述目标测试项目在数据类别标签下的取值,确定所述初始决策树中每个测试项目标签子节点对应的目标测试项目,得到所述决策树。
根据本公开的第二方面,提供了一种测试方法,该方法应用于客户端,包括:接收服务端发送的动态测试计划;根据所述动态测试计划,对待测试产品进行测试,得到测试数据和测试结果;将所述测试数据发送至所述服务端,以使所述服务端根据所述测试数据,生成新的动态测试计划。
根据本公开的第三方面,提供了一种测试***,该***包括:客户端、服务端和数据库;所述客户端包括全测模块和动态测试模块,所述客户端用于根据所述服务端发送的动态测试计划,对待测试产品进行测试,得到测试数据和测试结果,并将所述测试数据发送至所述服务端;所述服务端用于根据客户端发送的测试数据确定目标测试项目,以及根据基础测试计划和所述目标测试项目的测试优先级,生成动态测试计划,并将所述动态测试计划发送至所述客户端;所述数据库用于存储预设数据和对待测试产品进行测试的过程中产生的测试数据。
根据本公开的第四方面,提供了一种测试装置,该装置应用于服务端,包括:第一接收模块,用于接收客户端发送的测试项目对应的测试数据;筛选模块,用于根据所述测试数据,确定目标测试项目;确定模块,用于根据预设优先级规则,确定所述目标测试项目的测试优先级;生成模块,用于根据基础测试计划和所述测试优先级,生成动态测试计划;第一发送模块,用于将所述动态测试计划发送至客户端,以使所述客户端根据所述动态测试计划对待测试产品进行测试,得到测试结果。
根据本公开的第五方面,提供了一种测试装置,该装置应用于客户端,包括:第二接收模块,用于接收服务端发送的动态测试计划;测试模块,用于根据所述动态测试计划,对待测试产品进行测试,得到测试数据和测试结果;第二发送模块,用于将所述测试数据发送至所述服务端,以使所述服务端根据所述测试数据,生成新的动态测试计划。
根据本公开的第六方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开所述的方法。
根据本公开的第七方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行本公开所述的方法。
本公开的一种测试方法、***、装置、设备及存储介质,根据测试项目对应的测试数据确定目标测试项目,确定目标测试项目的测试优先级,并根据基础测试计划和测试优先级生成动态测试计划,将动态测试计划发送至客户端,以使客户端根据动态测试计划对待测试产品进行测试,得到测试结果。由此,本公开可以实现测试计划的动态调整,从而提高测试效率,另外,本公开根据算法自动生成动态测试计划并导入,避免了操作周期长、及时性差的问题,而且降低了对测试人员注意力和操作能力的依赖,可以防呆。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过参考附图阅读下文的详细描述,本公开示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中,以示例性而非限制性的方式示出了本公开的若干实施方式,其中:
在附图中,相同或对应的标号表示相同或对应的部分。
图1示出了本公开实施例一种测试方法的流程示意图一;
图2示出了本公开实施例一种测试方法的流程示意图二;
图3示出了本公开一种决策树的示意图;
图4示出了本公开实施例一种测试方法的流程示意图三;
图5示出了本公开实施例一种测试***的结构示意图;
图6示出了本公开实施例一种测试装置的结构示意图一;
图7示出了本公开实施例一种测试装置的结构示意图二;
图8示出了本公开实施例一种电子设备的组成结构示意图。
具体实施方式
为使本公开的目的、特征、优点能够更加的明显和易懂,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而非全部实施例。基于本公开中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
图1示出了本公开实施例一种测试方法的流程示意图一,如图1所示,该方法应用于服务端,包括:
步骤S101,接收客户端发送的测试项目对应的测试数据。
在本实施例中,测试数据为客户端对被测试产品进行测试产生的数据,包括被测试产品每个测试项目的测试次数、测试时长和每次测试的结果等,其中,测试项目为被测试产品需要进行测试的项目,例如,若被测试产品为笔记本,则测试项目可以分为屏幕、键盘、扬声器和主板等项目。
步骤S102,根据测试数据,确定目标测试项目。
在本实施例中,对测试计划进行动态调整的过程中,可以根据测试数据确定目标测试项目,其中,目标测试项目为对新的被测试产品进行测试时仍需进行测试的项目。具体地,对于同一批次生产的相同的产品,若已测试产品的某一测试项目的良率小于第一阈值,即该测试项目的良率较小,则将该测试项目确定为目标测试项目,后续对该批次中未测试的产品进行测试时仍需对目标测试项目进行测试;若已测试产品的某一测试项目的良率大于第二阈值,即该测试项目的良率较大,则后续对该批次中未测试的产品进行测试时无需对该测试项目进行测试。
步骤S103,根据预设优先级规则,确定目标测试项目的测试优先级。
在本实施例中,预设优先级规则为提前设定的确定目标测试项目优先级的规则,例如,可以设定目标测试项目的优先级根据其良率的增大而降低,即目标测试项目的良率越大则其优先级越低,从而可以根据预设优先级规则确定目标测试项目的测试优先级。需要强调的是,预设优先级规则还可以为其他规则,本公开不对其进行限定。
步骤S104,根据基础测试计划和测试优先级,生成动态测试计划。
在本实施例中,基础测试计划为提前设定的对被测试产品进行测试的基础计划,在实际应用中,通常根据测试项目是否可以并行测试、测试时是否需要界面显示等信息生成基础测试计划。在生成动态测试计划时,需要结合基础测试计划和测试优先级,例如,若基础测试计划为:第一组[A B C D E],第二组[F G H I J],其中,A~J为不同的测试项目,第一组中的测试项目可以并行测试,第二组中的测试项目可以并行测试;目标测试项目包括A、B、D、E、F、G、H、I,且目标测试项目的测试优先级为:(H>I>E>D>A>F>G>B),则动态测试计划为:第一组[H I F G],第二组[E D A B]。
步骤S105,将动态测试计划发送至客户端,以使客户端根据动态测试计划对待测试产品进行测试,得到测试结果。
在本实施例中,生成动态测试计划之后,将动态测试计划发送至客户端,以使客户端根据动态测试计划对待测试产品进行测试,得到测试结果。以步骤S104中的动态测试计划(第一组[H I F G],第二组[E D A B])为例,其相对于基础测试计划(第一组[A B C DE],第二组[F G H I J])减少了两个测试项目,从而提高了测试效率。
本公开中的一种测试方法可以实现测试计划的动态调整,从而提高测试效率,另外,本公开根据算法自动生成动态测试计划并导入,避免了操作周期长、及时性差的问题,而且降低了对测试人员注意力和操作能力的依赖,可以防呆。
在本公开的一个实施例中,步骤S102根据测试数据,确定目标测试项目,包括:
根据预设动态测试规则,筛选测试项目中的必测项目;根据测试数据,判断测试项目在预设时间段内的良率是否满足第一预设阈值,得到判断结果;将必测项目和判断结果为是对应的测试项目确定为目标测试项目。
在本实施例中,预设动态测试规则为提前设定的进行测试计划动态调整时的规则,预设动态测试规则中包括待测试产品的必测项目,必测项目在测试计划的调整过程中始终需要测试,即必测项目始终为目标测试项目,例如,若待测试产品为手机,且手机的通话功能为必测项目,则即使已测试手机的通话功能的良率等满足无需测试的要求,后续对相同型号的手机进行测试时仍需对其通话功能进行测试,即通话功能始终为目标测试项目。
在本实施例中,由于测试数据中包括被测试产品每个测试项目的测试次数、测试时长和每次测试的结果等,因此可以根据每次测试的结果计算测试项目在预设时间段内的良率,例如,计算测试项目在最近一周的良率,即计算测试项目最近一周内测试结果为合格的测试次数与测试项目最近一周内总测试次数的比值,若测试项目的良率满足第一预设阈值,则将该测试项目确定为目标测试项目。具体地,第一预设阈值可以根据实际情况自行设定,可以将第一预设阈值设置的较小,即测试项目的良率较小时,将测试项目确定为目标测试项目。
本公开中的一种测试方法将测试项目中的必测项目和预设时间段内的良率满足第一预设阈值的测试项目确定为目标测试项目,从而可以确定准确的目标测试项目,进一步保证后续生成的动态测试计划的准确性。
图2示出了本公开实施例一种测试方法的流程示意图二,如图2所示,步骤S103根据预设优先级规则,确定目标测试项目的测试优先级,包括:
步骤S201,根据目标测试项目对应的目标测试数据,构建数据集合。
在本实施例中,数据集合为每个目标测试项目对应的目标测试数据组成的集合,例如,数据集合D可以表示为D={(I1,AR1,T1,TS1,…),(I2,AR2,T2,TS2,…)……},其中,I表示测试项目标签Item,AR表示测试项目的历史良率标签AllPastRate,T表示测试项目的平均测试时间标签Time,TS表示测试项目的平均测试次数标签Times。
在一可实施方式中,根据目标测试项目对应的目标测试数据构建数据集合时,首先提取目标测试数据中的数据类别标签,数据类别标签用于对目标测试数据中的数据进行分类,例如,数据类别标签可以包括测试项目标签Item、历史良率标签AllPastRate、平均测试时间标签Time和平均测试次数标签Times等;然后根据目标测试数据,确定目标测试项目在数据类别标签下的取值,例如,对于某一个目标测试项目,其测试项目标签的取值即其项目名称I1,历史良率标签的取值为其历史整体良率AR1,平均测试时间标签的取值为其多次测试时间的平均值T1,平均测试次数标签的取值为多个已测试产品在该目标测试项目下测试次数的平均值TS1,即该目标测试项目对应的子数据为(I1,AR1,T1,TS1),根据所有目标测试项目对应的子数据即可生成数据集合。
在一可实施方式中,根据目标测试数据确定目标测试项目在数据类别标签下的取值时,由于目标测试数据只是同一批次待测试产品中已测试产品对应的目标测试数据,因此根据目标测试数据计算出的每个目标测试项目的良率只是局部良率,还需要根据局部良率确定整体良率,并将该整体良率作为历史良率。具体地,对于数据类别标签中的历史良率标签,计算目标测试数据对应的局部产品数量与整体产品数量的比值,若该比值满足第二预设阈值,则将目标测试项目的初始良率(即局部良率)确定为目标测试项目的历史良率;若该比值不满足第二预设阈值,则根据滑动窗口算法和目标测试项目的初始良率,计算目标测试项目的历史良率,另外,对于其他数据类别标签,可以直接根据目标测试数据,确定目标测试项目在其他数据类别标签下的取值,其中,第二预设阈值可以为30%~100%。
在一可实施方式中,局部产品数量即目标测试数据对应的已测试产品的数量,整体产品数量即同一批次中所有待测试产品的数量,可以根据如下公式(一)计算局部产品数量与整体产品数量的比值E:
其中,Testnum为局部产品数量,Allnum为整体产品数量,若比值E满足第二预设阈值,则直接将目标测试项目的初始良率(即局部良率)确定为目标测试项目的历史良率。具体地,可以用伯努利大数定律来推导比值E满足第二预设阈值时的历史良率:
其中,E为局部产品数量与整体产品数量的比值,n为整体产品数量,testi为第i个产品,为第i个产品的在该目标测试项目下的测试结果,测试结果只有0(不合格)和1(合格)两种状态,呈现二项分布,TestPastRate为局部良率,AllPastRate为整体良率。根据公式(二)可以得出,当比值E满足第二预设阈值,即比值E较大时,可以将目标测试项目的初始良率(即局部良率)确定为目标测试项目的历史良率(即整体良率)。
在一可实施方式中,若局部产品数量与整体产品数量的比值不满足第二预设阈值,即比值E较小时,滑动窗口算法和目标测试项目的初始良率对目标测试项目的历史良率进行估算。具体地,对于某一个目标测试项目来说,首先确定滑动窗口大小,例如,若局部产品数量为20000,则可以取2000作为滑动窗口大小,之后计算第1~2000个局部产品在该目标测试项目下的良率并将滑动窗口向右滑动一位,计算第2~2001个局部产品的在该目标测试项目下的良率/>以此类推,最终可以得到序列W:W={w1,w2,w3,……,w18001},根据序列W可以推断出序列中的第n个良率也就是第n~(n+2000)个产品在该目标测试项目下的良率为wn,然后以该序列中的良率为纵坐标,局部产品的序号为横坐标绘制良率曲线,良率曲线为一条连续变化的曲线,每个局部产品的序号对应的纵坐标即可近似为该局部产品合格的概率,wn即为第(n+2000)个产品合格的概率,最后对曲线对应的所有纵坐标取均值从而得到历史良率。
步骤S202,根据数据集合,构建决策树。
在本实施例中,可以根据数据集合,构建决策树,由于确定目标测试项目优先级的核心在于不同目标测试项目的历史良率,因此,将目标数据项目的历史良率标签确定为决策树的根节点,其中,决策树可以为ID3决策树算法。
在一可实施方式中,在构建决策树之前还需要根据数据集合确定每个数据类别标签下的子区间,具体地,对于测试项目标签这样的离散信息不做处理,对于历史良率、平均测试时间和平均测试次数等这样的连续性数据进行离散化,例如,数据集合中的最大历史良率为MaxAR,最小历史良率为MinAR,则对MinAR~MaxAR这个区间进行离散化,可以采用等距离散法等对其进行离散化,即按照相同间隔对MinAR~MaxAR这个区间进行离散化,保证每个区间的数据量相同,从而得到历史良率标签下的所有子区间。平均测试时间和平均测试次数等的离散化方式与历史良率离散化方式相同,此处不再赘述。
在一可实施方式中,构建决策树时,首先以数据类别标签中的历史良率标签为根节点,计算在每个历史良率子区间下其他数据类别标签的信息增益,将最大信息增益对应的数据类别标签确定为对应历史良率子区间下的子节点;然后在子节点对应的每个取值子区间下,计算剩余数据类别标签的信息增益,将最大信息增益对应的数据类别标签确定为对应取值子区间下的子节点,直到子节点为测试项目标签,得到初始决策树,最后根据目标测试项目在数据类别标签下的取值,确定初始决策树中每个测试项目标签子节点对应的目标测试项目,得到决策树。
图3示出了本公开一种决策树的示意图,如图3所示,以历史良率标签AllPastRate作为根节点,之后计算在每个历史良率子区间下其他数据类别标签的信息增益,如分别计算在(0.89,0.91]、(0.91,0.96]和(0.96,1]这三个历史良率子区间下的其他数据类别标签的信息增益,然后将最大信息增益对应的数据类别标签确定为对应历史良率子区间下的子节点,例如,若(0.89,0.91]这个历史良率子区间下平均测试次数标签Times的信息增益最大,则将平均测试次数标签Times作为(0.89,0.91]这个历史良率子区间下的子节点;若(0.91,0.96]这个历史良率子区间下平均测试时间标签Time的信息增益最大,则将平均测试时间标签Time作为这个历史良率子区间下的子节点,以此类推,从而得到根节点对应的第一层子节点;之后对于(0.89,0.91]这个历史良率子区间下的子节点平均测试次数标签Times来说,分别计算在[1,3]和(3,5]两个平均测试次数子区间下剩余数据类别标签的信息增益,若在[1,3]这个平均测试次数子区间下测试项目标签Item的信息增益最大,则将测试项目标签Item作为[1,3]这个平均测试次数子区间下的子节点,由于该子节点为测试项目标签Item,因此该子节点对应的分支构建完毕;若在(3,5]这个平均测试次数子区间下平均测试时间标签Time的信息增益最大,则将平均测试时间标签Time作为(3,5]这个平均测试次数子区间下的子节点,以此类推,直到决策树的所有分支构建完毕,从而得到初始决策树;最后基于数据集合中目标测试项目在数据类别标签下的取值,确定初始决策树中每个测试项目标签子节点对应的目标测试项目,得到决策树,例如,若对于目标测试项目Item1来说,其历史良率位于子区间(0.89,0.91]内,则判断其平均测试次数,若其平均测试次数位于子区间[1,3]内,则平均测试次数子区间[1,3]下的测试项目标签Item对应的取值为Item1。
在一可实施方式中,可以根据如下公式(三)计算数据类别标签的信息增益Info_gain:
Info_gain=Entropy-∑i∈Ipi×Entropyi公式(三)
其中,Entropy为节点的信息熵,用以衡量决策树节点的信息量,pi为数据集合中目标测试项目落入每个取值子区间的概率,即每个取值子区间内的目标测试项目占所有目标测试项目的比例,I为取值子区间的编号集合,Entropyi为节点下每个子节点的信息熵,具体地,可以根据如下公式(四)计算节点的信息熵Entropy:
其中,n为节点的取值子区间的总数,pi为数据集合中目标测试项目落入每个取值子区间的概率,即每个取值子区间内的目标测试项目占所有目标测试项目的比例。
步骤S203,根据决策树和预设优先级规则,确定目标测试项目的测试优先级。
在本实施例中,决策树可以体现出目标测试项目的特征,根据决策树和预设优先级规则,可以确定目标测试项目的测试优先级。以图3为例,若预设优先级规则为:目标测试项目的优先级随历史良率、平均测试次数和平均测试时间的增大而降低,则图3中的Times子节点下的目标测试项目的优先级均高于Time子节点下的目标测试项目的优先级,对于Times子节点下的目标测试项目来说,Item1的优先级高于Time子节点下的目标测试项目的优先级,以此类推,可以得到所有目标测试项目的测试优先级。
在一可实施方式中,若决策树确定出多个目标测试项目的优先级相同,则可以根据目标测试数据等信息对优先级相同的多个目标测试项目的优先级进行微调,以图3为例,若Times子节点下的[1,3]子区间内包括Item1和Item2,则可以根据Item1和Item2的历史良率以及平均测试次数确定Item1和Item2的优先级,如若Item1的历史良率小于Item2的历史良率,则确定Item1的优先级高于Item2的优先级。
本公开中的一种测试方法,根据数据集合构建决策树,并根据决策树和预设优先级规则确定目标测试项目的测试优先级,可以提高确定测试优先级的效率和准确率。
图4示出了本公开实施例一种测试方法的流程示意图三,如图4所示,一种测试方法应用于客户端,包括:
步骤S301,接收服务端发送的动态测试计划;
步骤S302,根据动态测试计划,对待测试产品进行测试,得到测试数据和测试结果;
步骤S303,将测试数据发送至服务端,以使服务端根据测试数据,生成新的动态测试计划。
在本实施例中,动态测试计划为服务端根据客户端发送的测试数据生成的测试计划,客户端根据动态测试计划对待测试产品进行测试,并将测试数据发送至服务端,服务端可以根据测试数据生成新的动态测试计划,并将测试数据等信息更新到数字化看板实时展现测试状况。
本公开中的一种测试方法根据动态测试计划对待测试产品进行测试,可以提高测试效率,另外,服务端将测试数据等信息更新至数字化看板展现测试状况,测试人员无需现场观察测试状况,减少了人力消耗。
图5示出了本公开实施例一种测试***的结构示意图,如图5所示,该***包括:客户端、服务端和数据库;
客户端包括全测模块和动态测试模块,客户端用于根据服务端发送的动态测试计划,对待测试产品进行测试,得到测试数据和测试结果,并将测试数据发送至服务端;
服务端用于根据客户端发送的测试数据确定目标测试项目,以及根据基础测试计划和目标测试项目的测试优先级,生成动态测试计划,并将动态测试计划发送至客户端;
数据库用于存储预设数据和对待测试产品进行测试的过程中产生的测试数据。
在本实施例中,客户端可以基于制造智能测试平台(MSTP,Manufacture SmartTest Platform)进行设置,客户端中包括多条测试线,如图1中的LineA、LineB、LineC、…、LineN等,每条测试线都包括全测模块和动态测试模块,全测模块对被测试产品(UUT,UnitUnder Test)的所有测试项目均进行测试,动态测试模块用于对动态测试计划中的目标测试项目进行测试,优选地,全测模块中UUT的数量可以为所有UUT的20%,动态测试模块中的UUT的数量可以为所有UUT的80%;服务端可以为动态智能测试(DST,Dynamic Smart Test)服务端;数据库中可以包括多个表格,用于存储不同的数据,例如图1中的Mark表格用于存储要解析的BaseData(基础测试数据)的数据标志位,BaseData表格用于存储客户端对UUT进行测试后产生的基础测试数据,TestItem_Model表格用于按UUT的种类和型号等存储测试项目数据,Dynamic_Model表格用于按UUT的种类和型号等存储动态测试数据和预设数据,Process_Model表格用于按UUT的种类和型号等存储基础测试计划,Station表格用于按不同测试平台存储测试数据,Error表格用于存储异常数据,数据库中还可以包括其他表格,本公开不对其进行限定。
在本实施例中,若初次对UUT进行测试,则可以由全测模块对UUT进行测试,并将测试数据发送至服务端,服务端根据测试数据确定目标测试项目,并根据基础测试计划和目标测试项目的测试优先级,生成动态测试计划,将动态测试计划发送至客户端,客户端利用全测模块对未测试产品中20%的UUT进行全测,也就是根据基础测试计划对20%的UUT进行全部测试项目的测试,并利用动态测试模块对未测试产品中80%的UUT进行动态测试,即对80%的UUT只进行目标测试项目的测试,这样全测模块对应的测试数据包括所有测试项目的测试结果,若其中非目标测试项目的测试结果较差,服务端可以根据全测模块对应的测试数据将该非目标测试项目调整为目标测试项目,从而避免后续非目标测试项目测试结果较差,影响测试准确率的情况。
在一可实施方式中,客户端还与制造执行***(MES,Manufacturing ExecutionSystem)连接,在需要对待测试产品进行测试时,客户端首先进行初始化,然后发送测试请求至MES,在对待测试产品测试结束后,客户端还需要将测试结果发送至MES。
图6示出了本公开实施例一种测试装置的结构示意图一,如图6所示,该装置应用于服务端,包括:
第一接收模块10,用于接收客户端发送的测试项目对应的测试数据;筛选模块11,用于根据测试数据,筛选目标测试项目;确定模块12,用于根据预设优先级规则,确定目标测试项目的测试优先级;生成模块13,用于根据基础测试计划和测试优先级,生成动态测试计划;第一发送模块14,用于将动态测试计划发送至客户端,以使客户端根据动态测试计划对待测试产品进行测试,得到测试结果。
在一可实施方式中,筛选模块11还用于:根据预设动态测试规则,筛选测试项目中的必测项目;根据测试数据,判断测试项目在预设时间段内的良率是否满足第一预设阈值,得到判断结果;将必测项目和判断结果为是对应的测试项目确定为目标测试项目。
在一可实施方式中,确定模块12包括:第一构建子模块,用于根据目标测试项目对应的目标测试数据,构建数据集合;第二构建子模块,用于根据数据集合,构建决策树,决策树的根节点为目标数据项目的历史良率标签;确定子模块,用于根据决策树和预设优先级规则,确定目标测试项目的测试优先级。
在一可实施方式中,第一构建子模块还用于:提取目标测试数据中的数据类别标签;根据目标测试数据,确定目标测试项目在数据类别标签下的取值,得到目标测试项目对应的子数据;根据子数据,生成数据集合。
在一可实施方式中,第一构建子模块还用于:对于数据类别标签中的历史良率标签,计算目标测试数据对应的局部产品数量与整体产品数量的比值;比值满足第二预设阈值,将目标测试项目的初始良率确定为目标测试项目的历史良率;比值不满足第二预设阈值,根据滑动窗口算法和目标测试项目的初始良率,计算目标测试项目的历史良率;对于其他数据类别标签,根据目标测试数据,确定目标测试项目在其他数据类别标签下的取值。
在一可实施方式中,第二构建子模块还用于:以数据类别标签中的历史良率标签为根节点,计算在每个历史良率区间下其他数据类别标签的信息增益,将最大信息增益对应的数据类别标签确定为对应历史良率区间下的子节点;在子节点对应的每个取值区间下,计算剩余数据类别标签的信息增益,将最大信息增益对应的数据类别标签确定为对应取值区间下的子节点,直到子节点为测试项目标签,得到初始决策树;根据目标测试项目在数据类别标签下的取值,确定初始决策树中每个测试项目标签子节点对应的目标测试项目,得到决策树。
图7示出了本公开实施例一种测试装置的结构示意图二,如图7所示,该装置应用于客户端,包括:
第二接收模块20,用于接收服务端发送的动态测试计划;测试模块21,用于根据动态测试计划,对待测试产品进行测试,得到测试数据和测试结果;第二发送模块22,用于将测试数据发送至服务端,以使服务端根据测试数据,生成新的动态测试计划。
根据本公开的实施例,本公开还提供了一种电子设备和一种可读存储介质。
图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示,设备800包括计算单元801,其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序,来执行各种适当的动作和处理。在RAM 803中,还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元808,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如一种测试方法。例如,在一些实施例中,一种测试方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时,可以执行上文描述的一种测试方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行一种测试方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或隐含地包括至少一个该特征。在本公开的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
以上所述,仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以所述权利要求的保护范围为准。
Claims (12)
1.一种测试方法,其特征在于,所述方法应用于服务端,包括:
接收客户端发送的测试项目对应的测试数据;
根据所述测试数据,确定目标测试项目;
根据预设优先级规则,确定所述目标测试项目的测试优先级;
根据基础测试计划和所述测试优先级,生成动态测试计划;
将所述动态测试计划发送至客户端,以使所述客户端根据所述动态测试计划对待测试产品进行测试,得到测试结果。
2.根据权利要求1所述的方法,其特征在于,所述根据所述测试数据,确定目标测试项目,包括:
根据预设动态测试规则,筛选测试项目中的必测项目;
根据所述测试数据,判断所述测试项目在预设时间段内的良率是否满足第一预设阈值,得到判断结果;
将所述必测项目和判断结果为是对应的测试项目确定为目标测试项目。
3.根据权利要求1所述的方法,其特征在于,所述根据预设优先级规则,确定所述目标测试项目的测试优先级,包括:
根据所述目标测试项目对应的目标测试数据,构建数据集合;
根据所述数据集合,构建决策树,所述决策树的根节点为目标测试项目的历史良率标签;
根据所述决策树和所述预设优先级规则,确定所述目标测试项目的测试优先级。
4.根据权利要求3所述的方法,其特征在于,所述根据所述目标测试项目对应的目标测试数据,构建数据集合,包括:
提取目标测试数据中的数据类别标签;
根据所述目标测试数据,确定所述目标测试项目在所述数据类别标签下的取值,得到目标测试项目对应的子数据;
根据所述子数据,生成所述数据集合。
5.根据权利要求4所述的方法,其特征在于,所述确定所述目标测试项目在所述数据类别标签下的取值,包括:
对于所述数据类别标签中的历史良率标签,计算所述目标测试数据对应的局部产品数量与整体产品数量的比值;
所述比值满足第二预设阈值,将所述目标测试项目的初始良率确定为所述目标测试项目的历史良率;
所述比值不满足第二预设阈值,根据滑动窗口算法和所述目标测试项目的初始良率,计算目标测试项目的历史良率;
对于其他数据类别标签,根据所述目标测试数据,确定所述目标测试项目在其他数据类别标签下的取值。
6.根据权利要求5所述的方法,其特征在于,所述根据所述数据集合,构建决策树,包括:
以所述数据类别标签中的历史良率标签为根节点,计算在每个历史良率子区间下其他数据类别标签的信息增益,将最大信息增益对应的数据类别标签确定为对应历史良率子区间下的子节点;
在所述子节点对应的每个取值子区间下,计算剩余数据类别标签的信息增益,将最大信息增益对应的数据类别标签确定为对应取值子区间下的子节点,直到所述子节点为测试项目标签,得到初始决策树;
根据所述目标测试项目在数据类别标签下的取值,确定所述初始决策树中每个测试项目标签子节点对应的目标测试项目,得到所述决策树。
7.一种测试方法,其特征在于,所述方法应用于客户端,包括:
接收服务端发送的动态测试计划;
根据所述动态测试计划,对待测试产品进行测试,得到测试数据和测试结果;
将所述测试数据发送至所述服务端,以使所述服务端根据所述测试数据,生成新的动态测试计划。
8.一种测试***,其特征在于,所述***包括:客户端、服务端和数据库;
所述客户端包括全测模块和动态测试模块,所述客户端用于根据所述服务端发送的动态测试计划,对待测试产品进行测试,得到测试数据和测试结果,并将所述测试数据发送至所述服务端;
所述服务端用于根据客户端发送的测试数据确定目标测试项目,以及根据基础测试计划和所述目标测试项目的测试优先级,生成动态测试计划,并将所述动态测试计划发送至所述客户端;
所述数据库用于存储预设数据和对待测试产品进行测试的过程中产生的测试数据。
9.一种测试装置,其特征在于,所述装置应用于服务端,包括:
第一接收模块,用于接收客户端发送的测试项目对应的测试数据;
筛选模块,用于根据所述测试数据,确定目标测试项目;
确定模块,用于根据预设优先级规则,确定所述目标测试项目的测试优先级;
生成模块,用于根据基础测试计划和所述测试优先级,生成动态测试计划;
第一发送模块,用于将所述动态测试计划发送至客户端,以使所述客户端根据所述动态测试计划对待测试产品进行测试,得到测试结果。
10.一种测试装置,其特征在于,所述装置应用于客户端,包括:
第二接收模块,用于接收服务端发送的动态测试计划;
测试模块,用于根据所述动态测试计划,对待测试产品进行测试,得到测试数据和测试结果;
第二发送模块,用于将所述测试数据发送至所述服务端,以使所述服务端根据所述测试数据,生成新的动态测试计划。
11.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法,或者,执行权利要求7中所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使计算机执行根据权利要求1-6中任一项所述的方法,或者,执行权利要求7中所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310662354.1A CN116841870A (zh) | 2023-06-05 | 2023-06-05 | 一种测试方法、***、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310662354.1A CN116841870A (zh) | 2023-06-05 | 2023-06-05 | 一种测试方法、***、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116841870A true CN116841870A (zh) | 2023-10-03 |
Family
ID=88167948
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310662354.1A Pending CN116841870A (zh) | 2023-06-05 | 2023-06-05 | 一种测试方法、***、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116841870A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117093503A (zh) * | 2023-10-17 | 2023-11-21 | 杭银消费金融股份有限公司 | 一种客户端测试管理方法与*** |
-
2023
- 2023-06-05 CN CN202310662354.1A patent/CN116841870A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117093503A (zh) * | 2023-10-17 | 2023-11-21 | 杭银消费金融股份有限公司 | 一种客户端测试管理方法与*** |
CN117093503B (zh) * | 2023-10-17 | 2024-02-06 | 杭银消费金融股份有限公司 | 一种客户端测试管理方法与*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114500339B (zh) | 一种节点带宽监测方法、装置、电子设备及存储介质 | |
CN113795039B (zh) | 运营商网络切换方法、装置、设备和计算机可读存储介质 | |
CN116841870A (zh) | 一种测试方法、***、装置、设备及存储介质 | |
CN111259090B (zh) | 关系数据的图生成方法、装置、电子设备和存储介质 | |
CN114816393A (zh) | 信息生成方法、装置、设备以及存储介质 | |
CN113326449B (zh) | 预测交通流量的方法、装置、电子设备和介质 | |
CN116302218B (zh) | 函数信息的添加方法、装置、设备以及存储介质 | |
CN115481594B (zh) | 计分板实现方法、计分板、电子设备及存储介质 | |
CN113449062B (zh) | 轨迹处理方法、装置、电子设备和存储介质 | |
CN114116924A (zh) | 基于图谱数据的数据查询方法、图谱数据构建方法和装置 | |
CN116614379B (zh) | 迁移服务的带宽调整方法、装置及相关设备 | |
CN113051470B (zh) | 位置精度评估方法及装置、电子设备、计算机可读介质 | |
CN115860077B (zh) | 状态数据的处理方法、装置、设备以及存储介质 | |
CN112861024B (zh) | 确定路网矩阵的方法、装置、电子设备及存储介质 | |
CN116302661B (zh) | 一种异常预测方法、装置、电子设备及存储介质 | |
CN112819285B (zh) | 航班的匹配处理、训练方法、装置和设备 | |
CN116756460B (zh) | 组合数据获取方法、装置及相关设备 | |
CN114816758B (zh) | 资源分配方法和装置 | |
CN118152766A (zh) | 一种数据检测方法、装置及电子设备 | |
CN116108311A (zh) | 内容处理方法、装置、设备以及存储介质 | |
CN113362428A (zh) | 用于配置颜色的方法、装置、设备、介质和产品 | |
CN117933390A (zh) | 模型混合精度确定方法、装置、设备及存储介质 | |
CN116167519A (zh) | 一种监测量预测方法、装置、设备及介质 | |
CN117331924A (zh) | 一种数据模型匹配度核查方法、装置、设备及存储介质 | |
CN116226234A (zh) | 数据快速查询方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |