CN117033209A - Ai模型训练方法、bios测试方法、装置、设备及存储介质 - Google Patents
Ai模型训练方法、bios测试方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117033209A CN117033209A CN202310999988.6A CN202310999988A CN117033209A CN 117033209 A CN117033209 A CN 117033209A CN 202310999988 A CN202310999988 A CN 202310999988A CN 117033209 A CN117033209 A CN 117033209A
- Authority
- CN
- China
- Prior art keywords
- test
- model
- training
- open
- bios
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012360 testing method Methods 0.000 title claims abstract description 793
- 238000012549 training Methods 0.000 title claims abstract description 156
- 238000000034 method Methods 0.000 title claims abstract description 104
- 238000003860 storage Methods 0.000 title abstract description 10
- 238000011156 evaluation Methods 0.000 claims abstract description 100
- 238000012795 verification Methods 0.000 claims abstract description 39
- 238000013515 script Methods 0.000 claims abstract description 22
- 230000008569 process Effects 0.000 claims description 51
- 238000004590 computer program Methods 0.000 claims description 16
- 238000007781 pre-processing Methods 0.000 claims description 11
- 238000004140 cleaning Methods 0.000 claims description 6
- 238000010200 validation analysis Methods 0.000 claims description 5
- 238000010998 test method Methods 0.000 abstract description 6
- 238000013473 artificial intelligence Methods 0.000 description 146
- 238000003062 neural network model Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 230000002159 abnormal effect Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000005856 abnormality Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000012417 linear regression Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000013210 evaluation model Methods 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3684—Test management for test design, e.g. generating new test cases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/22—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
- G06F11/2247—Verification or detection of system hardware configuration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/22—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
- G06F11/2273—Test methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/10—Pre-processing; Data cleansing
- G06F18/15—Statistical pre-processing, e.g. techniques for normalisation or restoring missing data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Quality & Reliability (AREA)
- Computer Hardware Design (AREA)
- Probability & Statistics with Applications (AREA)
- Debugging And Monitoring (AREA)
Abstract
本公开提供了一种AI模型训练方法、BIOS测试方法、装置、设备及存储介质,涉及信息技术领域,所述方法包括:获取人工测试的测试用例集合,其中,所述测试用例集合包括多个测试用例,所述测试用例包括训练集和验证集;根据测试项选择与所述测试项匹配的Open AI测试模型;通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新;通过所述验证集对所述Open AI测试模型进行性能评估。如此,能够解决传统自动化测试脚本无法兼容不同设备平台的BIOS测试,并在每次设备升级时要对应修改代码的问题。
Description
技术领域
本公开涉及信息技术领域,特别是涉及一种AI模型训练方法、BIOS测试方法、装置、设备及存储介质。
背景技术
随着信息技术的发展,通信安全技术也得到高速发展。通信安全技术正在朝着更准确、更快速的方向发展。交换机设备也在向着更精密更高端方向发展。AI(ArtificialIntelligence,人工智能)技术近年来获得了***性突破发展,人们可以通过AI进行聊天、写作、绘画等诸多操作。AI进入人们生活的日子越来越近。AI替代人工工作的日子也是指日可待。AI是让机器通过数据自主学习并提高预测或决策准确性的过程。通过模型训练实现不断优化模型参数的过程,以使模型能够更好地对未知数据进行预测或决策。
测试过程有明确的测试步骤和测试结果,测试会因配置差异、***差异、环境差异产生不同测试结果。在人工测试过程中测试者会判断这些差异是否与已知问题有个,是否在可控范围、问题是否在可控范围、测试是否通过。
其中,BIOS(Basic Input Output System,基本输入输出***)测试难点在于不同交换机的BIOS来自不同的平台或不同的上游公司,不同项目BIOS测试时要面对不同的操作过程,要识别不同的表述的结果。不同阶段的机器测试结果都是不一样的,传统自动化测试脚本在每次设备升级时要对应修改代码,自动化测试的意义大打折扣。
发明内容
有鉴于此,本申请旨在提出一种AI模型训练方法、BIOS测试方法、装置、设备及存储介质,能够解决上述传统自动化测试脚本在每次设备升级时要对应修改代码的问题。
本申请实施例第一方面,提供一种AI模型训练方法,所述方法包括:
获取人工测试的测试用例集合,其中,所述测试用例集合包括多个测试用例,所述测试用例包括训练集和验证集;
根据测试项选择与所述测试项匹配的Open AI测试模型;
通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新;
通过所述验证集对所述Open AI测试模型进行性能评估。
在一种实施方式中,在所述获取人工测试的测试用例集合之前,还包括:
对所述人工测试中的产生的数据进行预处理,其中,所述预处理包括清洗数据、数据转换以及数据归一化;
对预处理后的所述数据进行整理得到所述测试用例集合。
在一种实施方式中,所述通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新,包括:
基于所述测试项确定与所述测试项对应的目标测试用例,其中,所述测试用例集合中包括所述目标测试用例,所述目标测试用例包括目标训练集和目标验证集,所述目标训练集包括多个目标测试步骤的截图和目标测试结果的截图;
通过选定的所述Open AI测试模型对BIOS显示界面的截图进行图像识别和/或文字识别,得到第一识别结果;
通过选定的所述Open AI测试模型对所述多个目标测试步骤的截图和目标测试结果的截图进行图像识别和/或文字识别,得到第二识别结果;
通过选定的所述Open AI测试模型对所述第一识别结果和所述第二识别结果进行对比,确定所述测试项在训练时所对应的当前测试步骤和/或当前测试结果;
通过选定的所述Open AI测试模型判断所述当前测试步骤是否与所述目标测试步骤相同,以及判断所述当前测试结果是否与所述目标测试结果相同;
在所述当前测试步骤与所述目标测试步骤不同时,或在所述当前测试结果与所述目标测试结果不同时,对所述Open AI测试模型的模型参数进行更新。
在一种实施方式中,在所述对所述Open AI测试模型的模型参数进行更新之后,还包括:
基于更新后的所述模型参数,重新对所述训练集和所述测试项对选定的所述OpenAI测试模型进行对应的训练。
在一种实施方式中,所述通过所述验证集对所述Open AI测试模型进行性能评估,包括:
通过所述验证集中包含的多个评价指标对所述Open AI测试模型进行性能评估,其中,所述评价指标包括测试效率评价指标和测试速度评价指标,包括:
获取所述Open AI测试模型在训练所述测试项过程中的测试效率和测试速度;
将所述测试效率与所述测试效率评价指标进行对比,以及将所述测试速度与所述测试速度评价指标进行对比;
在所述测试效率与所述测试效率评价指标之间的第一差距小于第一预设阈值且所述测试速度与所述测试速度评价指标之间的第二差距小于第二预设阈值时,确定所述Open AI测试模型测试完成。
在一种实施方式中,在所述通过所述验证集对所述Open AI测试模型进行性能评估之后,还包括:
输出与所述测试项对应的测试报告;
在确定所述测试效率与所述测试效率评价指标之间的第一差距大于或等于第一预设阈值且所述测试速度与所述测试速度评价指标之间的第二差距大于或等于第二预设阈值之后,依据所述测试报告对所述Open AI测试模型的超参数进行调整。
在一种实施方式中,在所述获取人工测试的测试用例集合之前,还包括:
通过所述Open AI测试模型打开所述串口助手软件;
利用所述串口助手软件获取所述BIOS显示界面的图像信息;
根据所述图像信息获取交换机设备信息;
通过所述Open AI测试模型基于所述交换机设备信息查找所述交换机的BIOS镜像路径,并将所述BIOS镜像路径规划到脚本。
本申请实施例第二方面,提供一种BIOS测试方法,所述方法包括:
通过如上述第一方面所述的训练完成的AI测试模型自动打开串口助手软件,并配置相关参数;
利用所述串口助手软件获取BIOS显示界面中的交换机设备信息和测试用例集合;
依据所述交换机设备信息查找所述交换机的BIOS镜像路径,并将所述BIOS镜像路径规划到脚本;
依据测试用例集合中的目标测试用例,通过如上述第一方面所述的训练完成的AI测试模型执行BIOS测试。
本申请实施例第三方面,提供一种AI模型训练装置,所述装置包括:
第一获取模块,用于获取人工测试的测试用例集合,其中,所述测试用例集合包括多个测试用例,所述测试用例包括训练集和验证集;
选择模块,用于根据测试项选择与所述测试项匹配的Open AI测试模型;
训练模块,用于通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新;
评估模块,用于通过所述验证集对所述Open AI测试模型进行性能评估。
本申请实施例第四方面,提供一种BIOS测试装置,其特征在于,所述装置包括:
第一操作模块,用于通过如第二方面所述的训练完成的AI测试模型自动打开串口助手软件,并配置相关参数;
第二获取模块,用于利用所述串口助手软件获取BIOS显示界面中的交换机设备信息和测试用例集合;
第二操作模块,用于依据所述交换机设备信息查找所述交换机的BIOS镜像路径和镜像版本信息,并将所述BIOS镜像路径规划到脚本;
第三操作模块,用于依据测试用例集合中的目标测试用例,通过如第二方面所述的训练完成的AI测试模型执行BIOS测试。
本申请实施例第五方面,提供一种设备,包括存储器、处理器以及存储在存储器上的计算机程序,其中,所述处理器执行所述计算机程序以实现如第一方面所述的AI模型训练方法或如第二方面所述的BIOS测试方法。
本申请实施例第六方面,提供一种可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如第一方面所述的AI模型训练方法或如第二方面所述的BIOS测试方法。
本申请的有益效果:
本申请实施例提供一种AI模型训练方法、BIOS测试方法、装置、设备及存储介质,所述方法包括:获取人工测试的测试用例集合,其中,所述测试用例集合包括多个测试用例,所述测试用例包括训练集和验证集;根据测试项选择与所述测试项匹配的Open AI测试模型;通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新;通过所述验证集对所述Open AI测试模型进行性能评估。通过人工测试的测试用例对AI模型进行训练,从而能够达到使得训练后的AI模型的测试效果接近人工测试的测试效果,兼容不同设备平台,也无需在每次设备升级时对应地修改代码的技术效果。
附图说明
构成本申请的一部分的附图用来提供对本申请的进一步理解,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。
为了更清楚地说明本申请的技术方案,下面将对本申请的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本公开一实施例中提供的一种AI模型训练方法的流程图;
图2是本公开一实施例中提供的一种AI模型训练方法中对每一测试项进行训练的流程图;
图3是本公开一实施例中提供的一种BIOS测试方法的流程图;
图4是本公开一实施例中提供的一种AI模型训练装置的框架示意图;
图5是本公开一实施例中提供的一种BIOS测试装置的框架示意图。
具体实施方式
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
现有的自动化测试在针对BIOS的各个测试项的测试过程中,由于不同平台存在BIOS测试因不同设备存在跨平台问题,不同平台存在显示差异、操作差异、菜单差异,需要设置不同的代码实现来针对不同平台差异的BIOS测试过程,无法实现高度智能化测试。
具体的,BIOS测试时可能存在配置差异,这种差异一般相同的设备相同的版本时内存条厂家不同、内存条的插槽不同、***硬盘的插槽不同、测试时的日期和时间不同、交换机启动项的差异、交换机有效电源数量差异。这些差异现有自动化测试的解决方案是通过统一配置解决,要求内存和硬盘槽位固定,厂家信息要通过修改脚本内的配置信息,时间跨度大问题一般是通过忽略差异年限,这样有些限制,不能实现满足手动测试的测试效果。
Open AI是厂家提供的一种大模型,能够根据AI模型的功能进行相应的训练,并且Open AI测试模型的训练过程BIOS测试工作的全过程很匹配,Open AI测试模型的训练是指让机器通过数据自主学***台差异,区分配置差异,区分环境差异,针对上述的问题Open AI测试模型在测试时可以把配置差异全部训练。不同配置时,Open AI测试模型通过不同的测试步骤和判断不同测试结果实现测试,从而不需要修改测试代码。使测试更精准,更智能,可以实现接近人工测试的测试过程。
图1是本公开一实施例中提供的一种AI模型训练方法的流程图,如图1所示,本实施例提供的一种AI模型训练方法,所述方法包括:
在步骤S101中,获取人工测试的测试用例集合,其中,所述测试用例集合包括多个测试用例,所述测试用例包括训练集和验证集;
在步骤S102中,根据测试项选择与所述测试项匹配的Open AI测试模型;
在步骤S103中,通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新;
在步骤S104中,通过所述验证集对所述Open AI测试模型进行性能评估。
首先,在步骤S101中,获取人工测试的测试用例集合,其中,所述测试用例集合包括多个测试用例,所述测试用例包括训练集和验证集。测试人员可以针对以往通过人工测试对不同平台的BIOS测试的相关测试数据进行记录和整合,进而获取针对不同平台的BIOS测试的测试用例集合,其中,测试用例集合包括多个测试用例,测试用例包括训练集和验证集,测试用例是为某个特殊目标而编制的一组测试输入、执行条件以及预期结果,用于核实是否满足某个特定软件的需求。测试用例的内容包括测试目标、测试环境、输入数据、测试步骤、预期结果、测试脚本等,最终形成文档。
在本申请的实施例中,测试用例的形式可以是人工测试BIOS的测试过程中各个步骤的截图或log。测试用例包括训练集和验证集,训练集用于更新Open AI测试模型的模型参数,验证集用于评估Open AI测试模型的性能。
进一步,在步骤S102中,根据测试项选择与所述测试项匹配的Open AI测试模型。可以根据BIOS测试不同的测试项选择不同的测试模型,常见的Open AI测试模型包括线性回归、逻辑回归、决策树、神经网络等。根据BIOS测试的特点应选择神经网络模型进行训练,比如,由于BIOS有对应的菜单显示界面,显示有设备信息和修改启动项、修改密码等操作,可以通过图像识别处理来获取BIOS的菜单显示界面的界面信息,因此,选择神经网络模型进行训练较为合适。除此之外,还需要针对BIOS测试中的每个测试用例进行相应的训练,可以根据测试的难易程度选择合适AI模型或多种AI模型的组合。再比如,通过服务器获取最新BIOS版本的操作是在固定路径获取BIOS的版本信息,相对简单,因此可以采用线性回归模型实现来训练。
通过选定的Open AI测试模型进行训练,能够适配不同BIOS平台、适配不同版本、适配不同测试环境、适配不同设备、设备不同配置等。不同平台的BIOS的测试目录不一致,测试步骤和测试结果都是不同的,而测试用例可能是完全一致的,通过神经网络模型的训练实现相同的测试用例适配不同的机器平台。即相同平台的不同测试用例可以使用不同Open AI测试模型,不同平台的相同测试用例可以使用相同的Open AI测试模型,从而达到通过AI模型的控制实现BIOS测试的高度智能化。
进一步,在步骤S103中,通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新。Open AI测试模型的模型训练过程是让机器通过数据不断优化Open AI测试模型的模型参数的过程,从而能够使Open AI测试模型能够更好地对未知数据进行预测或决策。Open AI测试模型的模型训练过程的核心是优化算法,例如梯度下降算法、随机梯度下降算法等。在Open AI测试模型的模型训练过程中,依据人工测试的测试用例中所包含的训练集对Open AI测试模型的模型参数进行更新,以使通过Open AI测试模型对BIOS测试的测试结果与人工测试的测试用例的测试结果匹配。
最后,在步骤S104中,通过所述验证集对所述Open AI测试模型进行性能评估。模型评估是指通过一些评价指标来评估模型的性能,例如准确率、召回率、精确率等。评估指标的选择需要根据具体问题来确定。在BIOS测试过程可以通过人工测试获取的测试用例中的验证集对Open AI测试模型测试效率、测试速度进行比对和判断,得到Open AI测试模型的性能评估结果,并针对性的对所选择的Open AI测试模型的评估指标进行优化。
通过上述实施例,能够通过人工测试的测试用例对Open AI测试模型进行训练、模型参数调整以及模型性能评估,进而得到能够实现接近人工测试的测试过程的Open AI测试模型。
可选地,在所述获取人工测试的多个测试用例之前,还包括:
对所述人工测试中的产生的数据进行预处理,其中,所述预处理包括清洗数据、数据转换以及数据归一化;
对预处理后的所述数据进行整理得到所述测试用例。
首先,在获取测试用例之前,需要对以往人工测试过程中产生的数据进行预处理,数据的预处理是模型训练的第一步,通常包括数据清洗、数据转换、数据归一化等操作。清洗数据可以去除数据中的噪声和异常值,转换数据可以将非数字数据转化为数字数据,而归一化可以将不同规模的数据放缩到同一个范围内。
进一步,通过该过程得到的处理后的数据进行整理,能够得到以往人工进行BIOS测试过程所对应的测试用例。
通过上述实施例,能够对人工测试过程中产生的数据进行预处理并整理得到测试用例,从而便于通过测试用例对Open AI测试模型进行模型训练。
可选地,所述通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新,包括:
基于所述测试项确定与所述测试项对应的目标测试用例,其中,所述测试用例集合中包括所述目标测试用例,所述目标测试用例包括目标训练集和目标验证集,所述目标训练集包括多个目标测试步骤的截图和目标测试结果的截图;
通过选定的所述Open AI测试模型对BIOS显示界面的截图进行图像识别和/或文字识别,得到第一识别结果;
通过选定的所述Open AI测试模型对所述多个目标测试步骤的截图和目标测试结果的截图进行图像识别和/或文字识别,得到第二识别结果;
通过选定的所述Open AI测试模型对所述第一识别结果和所述第二识别结果进行对比,确定所述测试项在训练时所对应的当前测试步骤和/或当前测试结果;
通过选定的所述Open AI测试模型判断所述当前测试步骤是否与所述目标测试步骤相同,以及判断所述当前测试结果是否与所述目标测试结果相同;
在所述当前测试步骤与所述目标测试步骤不同时,或在所述当前测试结果与所述目标测试结果不同时,对所述Open AI测试模型的模型参数进行更新。
首先,基于所述测试项确定与所述测试项对应的目标测试用例,其中,所述测试用例集合中包括所述目标测试用例,所述目标测试用例包括目标训练集和目标验证集,所述目标训练集包括多个目标测试步骤的截图和目标测试结果的截图。由于需要通过不同测试项对Open AI测试模型进行训练,而不同测试项所对应的人工测试的测试用例并不相同,因此,需要获取与测试项对应的目标测试用例,其中,测试用例集合中包括多个测试用例,每个测试用例包括训练集和验证集,当某一个测试用例作为目标测试用例时,则该测试用例所对应的训练集则为目标训练集,该测试用例所对应的验证集则为目标验证集,从而能够根据目标测试用例中的目标训练集和目标验证集对Open AI测试模型进行训练、模型参数更新以及性能评估。其中,目标训练集是包含以往人工测试过程中获取的针对该测试项的多个目标测试步骤的截图和目标测试结果的截图或log,其中,截图可以是之前人工手动测试结果,也可以是Open AI测试模型进行训练过程的迭代测试结果,通过截图或log的形式能够便于神经网络模型进行识别。
进一步,通过选定的所述Open AI测试模型对BIOS显示界面的截图进行图像识别和/或文字识别,得到第一识别结果。在队Open AI测试模型针对该测试项进行训练时,OpenAI测试模型能够获取当前BIOS菜单显示界面上截图,并通过图像识别和/或文字识别的方式对截图进行识别,从而得到第一识别结果,第一识别结果包含截图中的文字信息和图像信息,Open AI测试模型能够根据截图中的文字信息和图像信息进行相应的判断。
进一步,通过选定的所述Open AI测试模型对所述多个目标测试步骤的截图和目标测试结果的截图进行图像识别和/或文字识别,得到第二识别结果。Open AI测试模型还需要对目标测试用例中的目标训练集包含的多个目标测试步骤的截图和目标测试结果的截图进行图像识别和/或文字识别,从而得到第二识别结果,第二识别结果包含截图中的文字信息和图像信息,Open AI测试模型能够根据截图中的文字信息和图像信息进行相应的判断。
进一步,通过选定的所述Open AI测试模型对所述第一识别结果和所述第二识别结果进行对比,确定所述测试项在训练时所对应的当前测试步骤和/或当前测试结果。由于该测试项与目标测试用例的相对于的,因此测试步骤是固定的,测试结果也是确定的,通过Open AI测试模型训练测试步骤和匹配的测试结果,即Open AI测试模型能够将获取到的第一识别结果和第二识别结果进行对比,对比其中的文字信息和图像信息,进而确定出训练时所对应的当前测试步骤和/或当前测试结果。从而在训练过程中,对每一个测试步骤和测试结果进行训练和验证,以使该测试项的测试过程与人工测试相同。
进一步,通过选定的所述Open AI测试模型判断所述当前测试步骤是否与所述目标测试步骤相同,以及判断所述当前测试结果是否与所述目标测试结果相同。还需要确定Open AI测试模型的当前测试步骤与目标测试步骤是否相同和当前测试结果与目标测试结果是否相同,由此来判断Open AI测试模型针对该测试项的训练是否完成。
最后,在所述当前测试步骤与所述目标测试步骤不同时,或在所述当前测试结果与所述目标测试结果不同时,对所述Open AI测试模型的模型参数进行更新。在确定OpenAI测试模型的当前测试步骤与目标测试步骤不相同或当前测试结果与目标测试结果不相同时,表示Open AI测试模型针对该测试项的训练存在异常,因此需要针对Open AI测试模型的模型参数进行更新,从而能够将更新后的模型参数用于后续次数的训练过程中。
通过上述实施例,能够针对某一个测试项选择与该测试项所对应的目标测试用例对Open AI测试模型进行训练,并依据目标测试用例中所包含的目标测试步骤和目标测试结果作为训练过程中的参考信息,从而确定Open AI测试模型针对该测试项的训练是否完成,并在训练异常时,对模型参数进行更新。
可选地,在所述对所述Open AI测试模型的模型参数进行更新之后,还包括:
基于更新后的所述模型参数,重新对所述训练集和所述测试项对选定的所述OpenAI测试模型进行对应的训练。
由于对Open AI测试模型的训练通常并不能一次性的训练完成,因此,在首次针对某个测试项进行训练时,可能会出现网络问题、其他程序干扰等问题,训练存在异常的情况下并通过上述实施例对Open AI测试模型的模型参数进行更新后,还需要基于更新后的模型参数再次针对该测试项进行至少一次的模型训练,并在训练存在异常的情况下对模型参数再次进行更新即通过多次训练排除这种异常。在以后的批量测试过程中的每一次测试都是一次训练过程,通过大量的训练解决异常导致的测试失败。
通过上述实施例,能够在每一次的训练过程中对Open AI测试模型进行优化,最终达到接近人工测试的技术效果。
可选地,所述通过所述验证集对所述Open AI测试模型进行性能评估,包括:
通过所述验证集中包含的多个评价指标对所述Open AI测试模型进行性能评估,其中,所述评价指标包括测试效率评价指标和测试速度评价指标,包括:
获取所述Open AI测试模型在训练所述测试项过程中的测试效率和测试速度;
将所述测试效率与所述测试效率评价指标进行对比,以及将所述测试速度与所述测试速度评价指标进行对比;
在所述测试效率与所述测试效率评价指标之间的第一差距小于第一预设阈值且所述测试速度与所述测试速度评价指标之间的第二差距小于第二预设阈值时,确定所述Open AI测试模型测试完成。
首先,通过所述验证集中包含的多个评价指标对所述Open AI测试模型进行性能评估,其中,所述评价指标包括测试效率评价指标和测试速度评价指标。验证集中包含针对该测试项训练的Open AI测试模型的多个评价指标,用于对Open AI测试模型的性能进行评估,例如准确率、召回率、精确率等,评估指标的选择需要根据具体的测试项来确定。在BIOS测试过程可以根据测试效率、测试速度判断优化选择Open AI测试模型。因此,验证集中至少包括测试效率评价指标和测试速度评价指标。
其中,评价模型的性能分为以下几个步骤:
首先,获取所述Open AI测试模型在训练所述测试项过程中的测试效率和测试速度。需要在训练Open AI测试模型的过程中,采集获取针对测试项的测试效率和测试速度。
进一步,将所述测试效率与所述测试效率评价指标进行对比,以及将所述测试速度与所述测试速度评价指标进行对比。将获取到的测试效率和测试速度分别与训练过程所对应的测试项的测试效率评价指标和测试速度评价指标进行对比。
最后,在所述测试效率与所述测试效率评价指标之间的第一差距小于第一预设阈值且所述测试速度与所述测试速度评价指标之间的第二差距小于第二预设阈值时,确定所述Open AI测试模型测试完成。可以针对每箱评价指标设置预设阈值,如针对测试效率评价指标可以设置第一预设阈值,针对测试速度评价指标可以设置第二预设阈值,第一预设阈值和第二预设阈值可根据实际情况进行标定,在此不做具体限定。进而判断针对该测试项的测试效率与测试效率评价指标之间的第一差距是否小于第一预设阈值,和判断测试速度与测试速度评价指标之间的第二差距是否小于第二预设阈值,在差距都满足小于预设阈值的情况下,才能确定Open AI测试模型测试完成。
通过上述实施例,能够通过评价指标对Open AI测试模型的性能进行评价。
可选地,在所述通过所述验证集对所述Open AI测试模型进行性能评估之后,还包括:
输出与所述测试项对应的测试报告;
在确定所述测试效率与所述测试效率评价指标之间的第一差距大于或等于第一预设阈值且所述测试速度与所述测试速度评价指标之间的第二差距大于或等于第二预设阈值之后,依据所述测试报告对所述Open AI测试模型的超参数进行调整。
首先,输出与所述测试项对应的测试报告。在每次测试完成后,输出完整的测试报告,从而让测试人员能够根据测试报告的内容调整和优化Open AI测试模型的超参数,实现测试结果的精准识别。对于BIOS测试,由于超参数是不可预知的默认状态,因前期的不成功测试导致的BIOS默认状态的不可预测。经深入的Open AI测试模型的训练、学习过程,细化状态识别的能力,能够处理各种突发事件。
进一步,在确定所述测试效率与所述测试效率评价指标之间的第一差距大于或等于第一预设阈值且所述测试速度与所述测试速度评价指标之间的第二差距大于或等于第二预设阈值之后,依据所述测试报告对所述Open AI测试模型的超参数进行调整。在确定Open AI测试模型的测试速度或测试效率与评价指标差距过大时,让测试人员能够根据测试报告的内容调整和优化Open AI测试模型的超参数,例如,不同平台的串口波特率不同,导致的菜单响应时间不一致,在测试开始时确定串口波特率,波特率低的机器留更长的信息反馈时间。
通过上述实施例,能够基于评价指标对Open AI测试模型的性能进行评价,并在Open AI测试模型的性能与评价指标差距过大时,让测试人员针对测试报告进行超参数的调整和优化,从而能够进一步提升Open AI测试模型的性能。
可选地,在所述获取人工测试的测试用例集合之前,还包括:
通过所述Open AI测试模型打开所述串口助手软件;
利用所述串口助手软件获取所述BIOS显示界面的图像信息;
根据所述图像信息获取交换机设备信息;
通过所述Open AI测试模型基于所述交换机设备信息查找所述交换机的BIOS镜像路径,并将所述BIOS镜像路径规划到脚本。
首先,需要训练Open AI测试模型能够自动打开串口助手软件,通过串口助手软件能够判断下一步操作和确认测试结果。
进一步,利用所述串口助手软件获取所述BIOS显示界面的图像信息。串口助手软件能够通过图像识别或文字识别的方式识别并获取BIOS显示界面的图像信息,图像信息包括BIOS的测试目录,例如,图像识别可以通过Open CV识别获取BIOS显示界面的图像信息,Open CV是通常的图像处理设备,也可以使用其他屏幕图像获取的AI工具,文字识别可以通过Transformer OCR模型,用于文本识别任务,该模型结合了Transformer神经网络和Encoder-Decoder结构,能够将图像划分成固定大小的块,然后在图像块上使用Transformer编码器来提取特征,并在译码器中对输出序列进行建模。同样也可以通过CRNN(Convolutional Recurrent Neural Network,卷积递归神经网络)模型,该模型结合了卷积神经网络和循环神经网络,可以用于对图像中的文字进行分类和识别,除此之外,通过EAST(Efficient accurate scene text detector,高效精准的场景文本检测器)或CRAFT模型(Character-Region Awareness For Text detection,基于字符区域感知的文本检测)来进行文本检测。
进一步,根据所述图像信息获取交换机设备信息。训练获取交换机设备信息的测试过程,进入BIOS的显示页面,根据上述步骤通过图像识别或文字识别即可获取交换机设备信息,对照人工测试的所提供的截图能够识别并判断是否是本交换机设备信息,从而判断测试过程是否与人工测试一致。
进一步,通过所述Open AI测试模型基于所述交换机设备信息查找所述交换机的BIOS镜像路径,并将所述BIOS镜像路径规划到脚本。由于不同交换机的版本之间存在差异,显著的是版本信息等关键信息,因此,在做升降级测试时,要通过版本判断是否通过测试。传统的自动化测试时一般是把BIOS版本升级到最新版本,并准备好测试的BIOS版本放到指定路径,每次版本升级要改自动化测试脚本的版本信息。
而在Open AI测试模型进行的BIOS测试中,Open AI测试模型通过交换机设备信息在服务器查找对应的交换机的BIOS镜像路径,BIOS镜像路径带有BIOS版本信息。因此可以把BIOS镜像路径规划到脚本,通过判断发布的最新版本自动处理升降级测试和判断版本信息,从而可实现测试版本不关注的测试过程。
通过上述实施例,能够实现在交换机版本不同时,无需更改测试脚本的版本信息。
图2是本公开一实施例中提供的一种AI模型训练方法中对每一测试项进行训练的流程图,如图2所示,实施例提供的一种AI模型训练方法,以神经网络模型进行训练为例进行如下说明:
在对Open AI测试模型进行训练时,根据BIOS测试的特点,Open AI测试模型通常选用神经网络模型进行训练,因此,Open AI通过串口助手软件获取交换机设备信息、ip地址、BIOS版本、BMC版本等,根据所选定的测试项,对神经网络模型进行上述实施例所述的模型训练、模型性能评估以及超参数调整等过程。若训练失败,则重新针对该测试项进行神经网络模型的训练,在针对该测试项训练完成后,进入下一测试项的相应训练,直至针对所有的测试项对神经网络模型的训练结束。
图3是本公开一实施例中提供的一种BIOS测试方法的流程图,如图3所示,本实施例提供的一种BIOS测试方法,所述方法包括:
在步骤S201中,通过如上述实施例所述的训练完成的AI测试模型自动打开串口助手软件,并配置相关参数;
在步骤S202中,利用所述串口助手软件获取BIOS显示界面中的交换机设备信息和测试用例集合;
在步骤S203中,依据所述交换机设备信息查找所述交换机的BIOS镜像路径,并将所述BIOS镜像路径规划到脚本;
在步骤S204中,依据测试用例集合中的目标测试用例,通过如上述实施例所述的训练完成的AI测试模型执行BIOS测试。
首先,在步骤S201中,通过如上述实施例所述的训练完成的AI测试模型自动打开串口助手软件,并配置相关参数。通过训练完成的Open AI测试模型能够自动打开串口助手软件,并配置相关参数,使得交换机设备的数据能够发送到打开的串口助手软件中,从而通过串口助手软件执行后续步骤。
进一步,在步骤S202中,利用所述串口助手软件获取BIOS显示界面中的交换机设备信息和测试用例集合。利用串口助手软件通过相应的图像识别模型或文字识别模型对BIOS显示界面,直接获取交换机设备信息、IP地址、BIOS版本、BMC版本等全部设备信息,从而用作后续对BIOS测试的信息进行比对,并且还能通过串口助手软件获取BIOS显示界面中测试人员上传的测试用例集合,根据测试用例集合对比BIOS显示界面的信息,通过Open AI测试模型判断测试步骤和测试结果是否与预期一致。
进一步,在步骤S203中,依据所述交换机设备信息查找所述交换机的BIOS镜像路径,并将所述BIOS镜像路径规划到脚本。由于不同交换机的版本之间存在差异,显著的是版本信息等关键信息,因此,在做升降级测试时,要通过版本判断是否通过测试。传统的自动化测试时一般是把BIOS版本升级到最新版本,并准备好测试的BIOS版本放到指定路径,每次版本升级要改自动化测试脚本的版本信息。
进一步,在步骤S204中,依据测试用例集合中的目标测试用例,通过如上述实施例所述的训练完成的AI测试模型执行BIOS测试。通过测试完成的Open AI测试模型按照测试用例集合中的目标测试用例中包含的测试步骤进行相应的BIOS测试,并对比目标测试用例中包含的测试结果,看是否一致,若一致则表示通过训练完成的Open AI测试模型对BIOS进行测试成功。
在其他实施例中,在训练Open AI测试模型的过程中出现异常时,Open AI测试模型能够将信息记录反馈给测试人员,即Open AI测试模型在判断脚本已被迫停止时可以把错误进行记录反馈给测试人员,并继续在错误的位置向下执行。
例如,当Open AI测试模型为神经网络模型时,神经网络模型能够按照测试用例执行训练的每个步骤,由于该神经网络模型是单独的线程/进程。每个步骤可以调用自己的AI模型实现独立测试。这个AI模型起监视作用,当有测试用例因网络环境异常或其他程序干扰得到了异常数据导致训练失败时,此时,AI模型的监视进程可以重新发起出错的测试用例,解决一个测试用例错误导致整个批量测试错的结果。实现单个用例测试的精准纠错。
通过上述实施例,能够通过训练完成的Open AI测试模型仿真人工测试的步骤对BIOS进行测试,从而使测试更精准,更智能,更贴近人工测试的测试过程。
图4是本申请一实施例提供的一种AI模型训练装置的框架示意图,如图4所示,本申请一实施例提供一种AI模型训练装置,所述装置包括:
第一获取模块11,用于获取人工测试的测试用例集合,其中,所述测试用例集合包括多个测试用例,所述测试用例包括训练集和验证集;
选择模块12,用于根据测试项选择与所述测试项匹配的Open AI测试模型;
训练模块13,用于通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新;
评估模块14,用于通过所述验证集对所述Open AI测试模型进行性能评估。
可选地,所述装置还包括:
数据预处理模块,用于在所述获取人工测试的测试用例集合之前,对所述人工测试中的产生的数据进行预处理,其中,所述预处理包括清洗数据、数据转换以及数据归一化;
数据整理模块,用于对预处理后的所述数据进行整理得到所述测试用例集合。
可选地,所述训练模块13,包括:
第一确定单元,用于基于所述测试项确定与所述测试项对应的目标测试用例,其中,所述测试用例集合中包括所述目标测试用例,所述目标测试用例包括目标训练集和目标验证集,所述目标训练集包括多个目标测试步骤的截图和目标测试结果的截图;
第一识别单元,用于通过选定的所述Open AI测试模型对BIOS显示界面的截图进行图像识别和/或文字识别,得到第一识别结果;
第二识别单元,用于通过选定的所述Open AI测试模型对所述多个目标测试步骤的截图和目标测试结果的截图进行图像识别和/或文字识别,得到第二识别结果;
对比单元,用于通过选定的所述Open AI测试模型对所述第一识别结果和所述第二识别结果进行对比,确定所述测试项在训练时所对应的当前测试步骤和/或当前测试结果;
判断单元,用于通过选定的所述Open AI测试模型判断所述当前测试步骤是否与所述目标测试步骤相同,以及判断所述当前测试结果是否与所述目标测试结果相同;
更新单元,用于在所述当前测试步骤与所述目标测试步骤不同时,或在所述当前测试结果与所述目标测试结果不同时,对所述Open AI测试模型的模型参数进行更新。
可选地,所述装置还包括:
二次训练单元,用于在所述对所述Open AI测试模型的模型参数进行更新之后,基于更新后的所述模型参数,重新对所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练。
可选地,所述评估模块14,包括:
评估单元,用于通过所述验证集中包含的多个评价指标对所述Open AI测试模型进行性能评估,其中,所述评价指标包括测试效率评价指标和测试速度评价指标;
可选地,所述评估单元,包括:
获取单元,用于获取所述Open AI测试模型在训练所述测试项过程中的测试效率和测试速度;
对比单元,用于将所述测试效率与所述测试效率评价指标进行对比,以及将所述测试速度与所述测试速度评价指标进行对比;
第二确定单元,用于在所述测试效率与所述测试效率评价指标之间的第一差距小于第一预设阈值且所述测试速度与所述测试速度评价指标之间的第二差距小于第二预设阈值时,确定所述Open AI测试模型测试完成。
可选地,所述装置还包括:
输出单元,用于在所述通过所述验证集对所述Open AI测试模型进行性能评估之后,输出与所述测试项对应的测试报告;
调整单元,用于在确定所述测试效率与所述测试效率评价指标之间的第一差距大于或等于第一预设阈值且所述测试速度与所述测试速度评价指标之间的第二差距大于或等于第二预设阈值之后,依据所述测试报告对所述Open AI测试模型的超参数进行调整。
可选地,所述装置还包括:
第一操作单元,用于在所述获取人工测试的测试用例集合之前,通过所述Open AI测试模型打开所述串口助手软件;
第二操作单元,用于利用所述串口助手软件获取所述BIOS显示界面的图像信息;
第三操作单元,用于根据所述图像信息获取交换机设备信息;
第四操作单元,用于通过所述Open AI测试模型基于所述交换机设备信息查找所述交换机的BIOS镜像路径,并将所述BIOS镜像路径规划到脚本。
图5是本申请一实施例提供的一种BIOS测试装置的框架示意图,如图5所示,本申请一实施例提供一种BIOS测试装置,所述装置包括:
第一操作模块21,用于通过如上述实施例所述的训练完成的AI测试模型自动打开串口助手软件,并配置相关参数;
第二获取模块22,用于利用所述串口助手软件获取BIOS显示界面中的交换机设备信息和测试用例集合;
第二操作模块23,用于依据所述交换机设备信息查找所述交换机的BIOS镜像路径和镜像版本信息,并将所述BIOS镜像路径规划到脚本;
第三操作模块24,用于依据测试用例集合中的目标测试用例,通过如上述实施例所述的训练完成的AI测试模型执行BIOS测试。
基于同一发明构思,本申请另一实施例还提供了一种设备,包括存储器、处理器以及存储在存储器上的计算机程序,其中,所述处理器执行所述计算机程序以实现如上述实施例所述的AI模型训练方法或如上述实施例所述的BIOS测试方法。
基于同一发明构思,本申请另一实施例还提供了一种可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如上述实施例所述的AI模型训练方法或如上述实施例所述的BIOS测试方法。
对于装置而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白,本申请实施例的实施例可提供为方法、装置、或计算机程序产品。因此,本申请实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请实施例是参照根据本申请实施例的方法、终端设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本申请实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本申请实施例范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本申请所提供的一种AI模型训练方法、BIOS测试方法、装置、设备及存储介质,进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上,本说明书内容不应理解为对本申请的限制。
Claims (12)
1.一种AI模型训练方法,其特征在于,所述方法包括:
获取人工测试的测试用例集合,其中,所述测试用例集合包括多个测试用例,所述测试用例包括训练集和验证集;
根据测试项选择与所述测试项匹配的Open AI测试模型;
通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新;
通过所述验证集对所述Open AI测试模型进行性能评估。
2.根据权利要求1所述的AI模型训练方法,其特征在于,在所述获取人工测试的测试用例集合之前,还包括:
对所述人工测试中的产生的数据进行预处理,其中,所述预处理包括清洗数据、数据转换以及数据归一化;
对预处理后的所述数据进行整理得到所述测试用例集合。
3.根据权利要求1所述的AI模型训练方法,其特征在于,所述通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新,包括:
基于所述测试项确定与所述测试项对应的目标测试用例,其中,所述测试用例集合中包括所述目标测试用例,所述目标测试用例包括目标训练集和目标验证集,所述目标训练集包括多个目标测试步骤的截图和目标测试结果的截图;
通过选定的所述Open AI测试模型对BIOS显示界面的截图进行图像识别和/或文字识别,得到第一识别结果;
通过选定的所述Open AI测试模型对所述多个目标测试步骤的截图和目标测试结果的截图进行图像识别和/或文字识别,得到第二识别结果;
通过选定的所述Open AI测试模型对所述第一识别结果和所述第二识别结果进行对比,确定所述测试项在训练时所对应的当前测试步骤和/或当前测试结果;
通过选定的所述Open AI测试模型判断所述当前测试步骤是否与所述目标测试步骤相同,以及判断所述当前测试结果是否与所述目标测试结果相同;
在所述当前测试步骤与所述目标测试步骤不同时,或在所述当前测试结果与所述目标测试结果不同时,对所述Open AI测试模型的模型参数进行更新。
4.根据权利要求3所述的AI模型训练方法,其特征在于,在所述对所述Open AI测试模型的模型参数进行更新之后,还包括:
基于更新后的所述模型参数,重新对所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练。
5.根据权利要求1所述的AI模型训练方法,其特征在于,所述通过所述验证集对所述Open AI测试模型进行性能评估,包括:
通过所述验证集中包含的多个评价指标对所述Open AI测试模型进行性能评估,其中,所述评价指标包括测试效率评价指标和测试速度评价指标;
获取所述Open AI测试模型在训练所述测试项过程中的测试效率和测试速度;
将所述测试效率与所述测试效率评价指标进行对比,以及将所述测试速度与所述测试速度评价指标进行对比;
在所述测试效率与所述测试效率评价指标之间的第一差距小于第一预设阈值且所述测试速度与所述测试速度评价指标之间的第二差距小于第二预设阈值时,确定所述OpenAI测试模型测试完成。
6.根据权利要求5所述的AI模型训练方法,其特征在于,在所述通过所述验证集对所述Open AI测试模型进行性能评估之后,还包括:
输出与所述测试项对应的测试报告;
在确定所述测试效率与所述测试效率评价指标之间的第一差距大于或等于第一预设阈值且所述测试速度与所述测试速度评价指标之间的第二差距大于或等于第二预设阈值之后,依据所述测试报告对所述Open AI测试模型的超参数进行调整。
7.根据权利要求3所述的AI模型训练方法,其特征在于,在所述获取人工测试的测试用例集合之前,还包括:
通过所述Open AI测试模型打开所述串口助手软件;
利用所述串口助手软件获取所述BIOS显示界面的图像信息;
根据所述图像信息获取交换机设备信息;
通过所述Open AI测试模型基于所述交换机设备信息查找所述交换机的BIOS镜像路径,并将所述BIOS镜像路径规划到脚本。
8.一种BIOS测试方法,其特征在于,所述方法包括:
通过如权利要求1-7任一所述的训练完成的AI测试模型自动打开串口助手软件,并配置相关参数;
利用所述串口助手软件获取BIOS显示界面中的交换机设备信息和测试用例集合;
依据所述交换机设备信息查找所述交换机的BIOS镜像路径和镜像版本信息,并将所述BIOS镜像路径规划到脚本;
依据测试用例集合中的目标测试用例,通过如权利要求1-7任一所述的训练完成的AI测试模型执行BIOS测试。
9.一种AI模型训练装置,其特征在于,所述装置包括:
第一获取模块,用于获取人工测试的测试用例集合,其中,所述测试用例集合包括多个测试用例,所述测试用例包括训练集和验证集;
选择模块,用于根据测试项选择与所述测试项匹配的Open AI测试模型;
训练模块,用于通过所述训练集和所述测试项对选定的所述Open AI测试模型进行对应的训练,并针对所述Open AI测试模型的模型参数进行更新;
评估模块,用于通过所述验证集对所述Open AI测试模型进行性能评估。
10.一种BIOS测试装置,其特征在于,所述装置包括:
第一操作模块,用于通过如权利要求1-7任一所述的训练完成的AI测试模型自动打开串口助手软件,并配置相关参数;
第二获取模块,用于利用所述串口助手软件获取BIOS显示界面中的交换机设备信息和测试用例集合;
第二操作模块,用于依据所述交换机设备信息查找所述交换机的BIOS镜像路径和镜像版本信息,并将所述BIOS镜像路径规划到脚本;
第三操作模块,用于依据测试用例集合中的目标测试用例,通过如权利要求1-7任一所述的训练完成的AI测试模型执行BIOS测试。
11.一种设备,其特征在于,包括存储器、处理器以及存储在存储器上的计算机程序,其中,所述处理器执行所述计算机程序以实现如权利要求1-7任一项所述的AI模型训练方法或如权利要求8所述的BIOS测试方法。
12.一种可读介质,其特征在于,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1-7任一项所述的AI模型训练方法或如权利要求8所述的BIOS测试方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310999988.6A CN117033209A (zh) | 2023-08-09 | 2023-08-09 | Ai模型训练方法、bios测试方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310999988.6A CN117033209A (zh) | 2023-08-09 | 2023-08-09 | Ai模型训练方法、bios测试方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117033209A true CN117033209A (zh) | 2023-11-10 |
Family
ID=88636738
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310999988.6A Pending CN117033209A (zh) | 2023-08-09 | 2023-08-09 | Ai模型训练方法、bios测试方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117033209A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117850848A (zh) * | 2024-03-07 | 2024-04-09 | 四川华鲲振宇智能科技有限责任公司 | 一种自动识别服务器类型自动升级bios的方法 |
-
2023
- 2023-08-09 CN CN202310999988.6A patent/CN117033209A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117850848A (zh) * | 2024-03-07 | 2024-04-09 | 四川华鲲振宇智能科技有限责任公司 | 一种自动识别服务器类型自动升级bios的方法 |
CN117850848B (zh) * | 2024-03-07 | 2024-05-31 | 四川华鲲振宇智能科技有限责任公司 | 一种自动识别服务器类型自动升级bios的方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110688288B (zh) | 基于人工智能的自动化测试方法、装置、设备及存储介质 | |
US11327874B1 (en) | System, method, and computer program for orchestrating automatic software testing | |
CN110705598B (zh) | 智能模型管理方法、装置、计算机设备及存储介质 | |
EP2245551B1 (en) | Identification of elements of currently-executing component script | |
CN111858242A (zh) | 一种***日志异常检测方法、装置及电子设备和存储介质 | |
US11455150B2 (en) | Accelerating application modernization | |
WO2016077604A1 (en) | Method and apparatus for facilitating speech application testing | |
CN111913133A (zh) | 分布式故障诊断维修方法、装置、设备及计算机可读介质 | |
CN109743311A (zh) | 一种WebShell检测方法、装置及存储介质 | |
CN117033209A (zh) | Ai模型训练方法、bios测试方法、装置、设备及存储介质 | |
CN113377484A (zh) | 弹窗处理方法及装置 | |
CN114237754B (zh) | 一种数据加载方法、装置、电子设备以及存储介质 | |
CN112905451B (zh) | 应用程序的自动化测试方法及装置 | |
US11567489B2 (en) | Method and device for efficient fault analysis through simulated faults in a digital twin | |
CN113312258A (zh) | 一种接口测试方法、装置、设备及存储介质 | |
CN117435999A (zh) | 一种风险评估方法、装置、设备以及介质 | |
CN116431522A (zh) | 一种低代码对象存储网关自动化测试方法及*** | |
CN117113080A (zh) | 数据处理和代码处理方法、装置、一体机和存储介质 | |
CN109063846B (zh) | 机器学习的运行方法、装置、设备及存储介质 | |
CN110968518A (zh) | 自动化测试日志文件的分析方法及装置 | |
CN115858884A (zh) | 一种日志校验方法、装置和产品 | |
CN110309059A (zh) | Ui界面测试方法、***、计算机设备和存储介质 | |
CN113126881B (zh) | ***配置方法、装置、设备、可读存储介质及分布式存储*** | |
CN111597119A (zh) | 测试脚本更新方法、装置、存储介质及处理器 | |
CN117234765B (zh) | 一种国产操作***内核性能下降补丁自动二分定位方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |