CN105302717A - 一种大数据平台的检测方法及装置 - Google Patents
一种大数据平台的检测方法及装置 Download PDFInfo
- Publication number
- CN105302717A CN105302717A CN201510638546.4A CN201510638546A CN105302717A CN 105302717 A CN105302717 A CN 105302717A CN 201510638546 A CN201510638546 A CN 201510638546A CN 105302717 A CN105302717 A CN 105302717A
- Authority
- CN
- China
- Prior art keywords
- test case
- test
- container
- perform
- data platform
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Debugging And Monitoring (AREA)
Abstract
本发明提供了一种大数据平台的检测方法及装置,该方法,包括:预先设置用于验证待测大数据平台的每种功能是否正常的功能测试执行容器,预先设置用于验证待测大数据平台的组件的运行性能的性能测试执行容器;调用用于测试所述待测大数据平台的测试用例;获取所述测试用例中的任务类型;如果所述任务类型为功能验证类,则调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测;如果所述任务类型为性能验证类,则调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测。本发明提供了一种大数据平台的检测方法及装置,能够对大数据平台进行检测。
Description
技术领域
本发明涉及计算机技术领域,特别涉及一种大数据平台的检测方法及装置。
背景技术
近几年来,随着计算机和信息技术的迅猛发展和普及应用,行业应用***的规模迅速扩大,行业应用所产生的数据呈***性增长。动辄达到数百TB甚至数十至数百PB规模的行业/企业大数据已远远超出了现有传统的计算技术和信息***的处理能力,因此,寻求有效的大数据处理技术、方法和手段已经成为现实世界的迫切需求。由于大数据行业应用需求日益增长,未来越来越多的研究和应用领域将需要使用大数据并行计算技术,大数据技术将渗透到每个涉及到大规模数据和复杂计算的应用领域。不仅如此,以大数据处理为中心的计算技术将对传统计算技术产生革命性的影响,广泛影响计算机体系结构、操作***、数据库、编译技术、程序设计技术和方法、软件工程技术、多媒体信息处理技术、人工智能以及其他计算机应用技术,并与传统计算技术相互结合产生很多新的研究热点和课题。
随着大数据技术的广泛应用,搭建大数据平台、使用大数据计算也不再是高端神秘的技术领域,很多传统的软件开发者也开始接触大数据的概念。随着大数据技术的应用越来越广泛,对大数据平台的性能要求也越来越高。现有技术中还没有针对大数据平台的性能检测的方法。
发明内容
有鉴于此,本发明提供了一种大数据平台的检测方法及装置,能够对大数据平台进行检测。
一方面,本发明提供了一种大数据平台的检测方法,包括:预先设置用于验证待测大数据平台的每种功能是否正常的功能测试执行容器,预先设置用于验证待测大数据平台的组件的运行性能的性能测试执行容器,还包括:
S1:调用用于测试所述待测大数据平台的测试用例;
S2:获取所述测试用例中的任务类型;
S3:如果所述任务类型为功能验证类,则调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测;如果所述任务类型为性能验证类,则调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测。
进一步地,所述S3中,所述调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测,包括:
通过所述功能测试执行容器从所述测试用例中获取运行所述待测功能所需要的参数、数据处理次数、所述待测功能运行成功的标准、第一待处理数据;
通过所述功能测试执行容器根据所述运行所述待测功能所需要的参数运行所述待测功能;
通过所述功能功能测试执行容器将所述待处理数据通过所述待测功能进行所述数据处理次数次处理;
通过所述功能测试执行容器根据所述待测功能运行成功的标准,判断所述待测功能是否正常。
进一步地,所述S3中,所述调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测,包括:
通过所述性能测试执行容器从所述测试用例中获取压力环境参数、第二待处理数据;
通过所述性能测试执行容器根据所述压力环境参数在所述待测大数据平台上构建对应的压力环境;
通过所述性能测试执行容器调用所述待测组件在所述压力环境下处理所述第二待处理数据,记录所述待测组件的性能参数。
进一步地,所述S1,包括:通过restful应用程序编程接口api调用所述测试用例。
进一步地,所述S1,包括:通过执行shell命令调用所述测试用例。
进一步地,该方法还包括:预先设置多个测试用例模板;
在所述S1之前,还包括:
确定外部选择的测试用例模板;
接收外部输入的被选择的所述测试用例模板对应的待填充参数;
根据所述待填充参数填充和所述被选择的所述测试用例模板,生成所述测试用例。
另一方面,本发明提供的一种大数据平台的检测装置,包括:
第一设置单元,用于设置用于验证待测大数据平台的功能是否正常的功能测试执行容器,设置用于验证待测大数据平台的组件的运行性能的性能测试执行容器;
调用单元,用于调用用于测试所述待测大数据平台的测试用例;
获取单元,用于获取所述测试用例中的任务类型;
检测单元,用于当所述任务类型为功能验证类时,则调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测;当所述任务类型为性能验证类时,则调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测。
进一步地,所述检测单元,在执行所述调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测时,具体执行:
通过所述功能测试执行容器从所述测试用例中获取运行所述待测功能所需要的参数、数据处理次数、所述待测功能运行成功的标准、第一待处理数据,通过所述功能测试执行容器根据所述运行所述待测功能所需要的参数运行所述待测功能,通过所述功能功能测试执行容器将所述待处理数据通过所述待测功能进行所述数据处理次数次处理,通过所述功能测试执行容器根据所述待测功能运行成功的标准,判断所述待测功能是否正常。
进一步地,所述检测单元,在执行所述调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测时,具体执行:
通过所述性能测试执行容器从所述测试用例中获取压力环境参数、第二待处理数据,通过所述性能测试执行容器根据所述压力环境参数在所述待测大数据平台上构建对应的压力环境,通过所述性能测试执行容器调用所述待测组件在所述压力环境下处理所述第二待处理数据,记录所述待测组件的性能参数。
进一步地,所述调用单元,用于通过restful应用程序编程接口api调用所述测试用例。
进一步地,所述调用单元,用于通过执行shell命令调用所述测试用例。
进一步地,该装置还包括:
第二设置单元,用于设置多个测试用例模板;
还包括:测试用例生成单元,用于确定外部选择的测试用例模板,接收外部输入的被选择的所述测试用例模板对应的待填充参数,根据所述待填充参数填充和所述被选择的所述测试用例模板,生成所述测试用例。
本发明提供了一种大数据平台的检测方法及装置,大数据平台的检测主要分为功能测试和组件的性能测试,针对这两种不同的测试可以设置对应的功能测试执行容器和性能测试执行容器,根据测试用例中的任务类型来调用对应的执行容器,然后通过执行容器执行测试用例来对待测大数据平台进行测试。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例提供的一种大数据平台的检测方法的流程图;
图2是本发明一实施例提供的另一种大数据平台的检测方法的流程图;
图3是本发明一实施例提供的一种大数据平台的检测装置的示意图;
图4是本发明一实施例提供的另一种大数据平台的检测装置的示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例,基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明实施例提供了一种大数据平台的检测方法,该方法可以包括以下步骤:
S0:预先设置用于验证待测大数据平台的功能是否正常的功能测试执行容器,预先设置用于验证待测大数据平台的组件的运行性能的性能测试执行容器;
S1:调用用于测试所述待测大数据平台的测试用例;
S2:获取所述测试用例中的任务类型;
S3:如果所述任务类型为功能验证类,则调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测;如果所述任务类型为性能验证类,则调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测。
本发明实施例提供的一种大数据平台的检测方法,大数据平台的检测主要分为功能测试和组件的性能测试,针对这两种不同的测试可以设置对应的功能测试执行容器和性能测试执行容器,根据测试用例中的任务类型来调用对应的执行容器,然后通过执行容器执行测试用例来对待测大数据平台进行测试。
在一种可能的实现方式中,所述S3中,所述调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测,包括:
通过所述功能测试执行容器从所述测试用例中获取运行所述待测功能所需要的参数、数据处理次数、所述待测功能运行成功的标准、第一待处理数据;
通过所述功能测试执行容器根据所述运行所述待测功能所需要的参数运行所述待测功能;
通过所述功能功能测试执行容器将所述待处理数据通过所述待测功能进行所述数据处理次数次处理;
通过所述功能测试执行容器根据所述待测功能运行成功的标准,判断所述待测功能是否正常。
尽管各家厂商对于hadoop生态***的各种组件或多或少会进行一些改造,但也都是基于开源的hadoop平台版本,少有对于基本功能的改变,即使是有,也是内部逻辑的优化,外部调用方式变动很小,因此,可以根据开源hadoop的功能和调用方式,构造通用的测试功能的测试用例,用于验证大数据平台的功能。另外,可以将测试中得出的通过与否、响应时间等参数,连同本次测试的日志、启动参数、使用模板等数据,一起记录到预先设置的数据库中。这类测试功能的测试用例可随***一起给出;对于特殊功能,可通过改造测试用例的方式进行定制。
针对测试待测大数据平台的各种功能,具体地,测试用例可以为以下形式:HDTesttaskstartFuncsamples/tasks/scenarios/hdfs/BaseHDFSTest.json。通过功能测试执行容器读入测试用例。
举例来说,需要对大数据平台的hdfs(Hadoop分布式文件***,HadoopDistributedFileSystem)的文件上传功能进行测试,对应的测试用例可以通过以下代码实现:
通过该测试用例,该使用test用户一次性上传10个文件,每个文件大小为1024m,整体完成时间不超过10000ms则算作任务成功。在该测试用例中,数据处理次数为1次,待测功能运行成功的标准为整体完成时间不超过10000ms,第一待处理数据为每个文件大小为1024m的10文件,待测功能所需要的参数包括:test用户的账号、密码。
在针对大数据平台的hdfs的功能测试中,针对hdfs的测试用例中可以对hdfs的多个功能进行测试,例如:上传、删除、复制、移动、变更所属用户等多类功能。执行容器依次执行测试用例中定义的功能项,跳过失败的功能项,并最终读取各步执行信息,生成执行报告。
在一种可能的实现方式中,所述S3中,所述调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测,包括:
通过所述性能测试执行容器从所述测试用例中获取压力环境参数、第二待处理数据;
通过所述性能测试执行容器根据所述压力环境参数在所述待测大数据平台上构建对应的压力环境;
通过所述性能测试执行容器调用所述待测组件在所述压力环境下处理所述第二待处理数据,记录所述待测组件的性能参数。
对于大数据平台,各种组件的性能参数也是用户主要测试的项目。比如Hbase单条查询并发数、mapreduceterasort响应时间、hdfsio速度等等。而这些性能数据都需要通过实际运行才能得出,需要为待测大数据平台搭建压力环境,在对应的压力环境下来实现性能的检测,压力环境参数包括:线程数、并发数、用户数、循环数;通过实现多线程、多并发、多用户、多循环这些条件来实现对应的压力环境。
举例来说,在进行测试时,通过性能测试执行容器,循环或并发调用第二待处理数据,以使待测组件对第二待处理数据循环或者并发处理第二待处理数据,并进行性能参数的记录,已达到统计大数据平台性能的目的,性能参数包括:Hbase单条查询并发数、mapreduceterasort响应时间、hdfsio速度等。
性能测试的测试用例可以为以下形式:HDTesttaskstartPerfsamples/tasks/scenarios/hbase/BaseHbaseTest.json。
举例来说,对hbase按rowKey单条查询的性能进行测试,对应的测试用例可以通过以下代码实现:
该测试用例中使用两个用户并发对hbase进行rowkey查询,每个用户起100个并发线程进行查询,每个线程循环进行20次查询操作。压力环境参数包括:并发线程数为每个用户100个、用户数为2个、循环测试为每个线程循环20次。另外,在该测试用例中还包括用户账户、密码。
在一种可能的实现方式中,所述S1,包括:通过restfulapi(ApplicationProgrammingInterface,应用程序编程接口)调用所述测试用例。通过该方式可以调用远程的测试用例。
在一种可能的实现方式中,所述S1,包括:通过执行shell命令调用所述测试用例。通过该方式可以调用本地的测试用例。
在一种可能的实现方式中,该方法还包括:预先设置多个测试用例模板;
确定外部选择的测试用例模板;
接收外部输入的被选择的所述测试用例模板对应的待填充参数;
根据所述待填充参数填充和所述被选择的所述测试用例模板,生成所述测试用例。
在该实现方式中,一个测试用例模板中可实现多个同类型的功能测试,比如一个hdfs模板,可针对文件操作的上传、删除、复制、移动、变更所属用户等多类功能进行测试。另外,一个测试用例模板中可以用于性能测试,比如Hbase模板,该Hbase模板中的待填充参数包括:压力环境参数、第二待处理数据等,压力环境参数包括:线程数、并发数、用户数、循环数等,还可以包括待测功能所需要的参数、数据处理次数、所述待测功能运行成功的标准、第一待处理数据等;也可以包括任务类型,另外,任务类型也可以预先设置在测试用例模板中,用户根据需要选择即可。根据这些待填充参数可以生成对Hbase进行性能测试的测试用例。
另外,在进行测试之前,获取待测大数据平台各模块的接口api地址、账号密码、操作权限,将这些信息保存在数据库中,以待进行测试时按需调用;具体可以通过以下形式实现:
HDTestdeploymentcreate--hdfsurl=hdfs://10.53.132.52:9000--username=root--password=123456
在整个测试过程中,会产生大量的数据,可以将这些数据记录到数据库中,为了方便操作人员阅读,可以将这些数据按统一的格式整理成测试报告;目前有许多开源工具支持按格式生成html文件或pdf文件等,此处可根据具体情况进行选择,以方便用户查看为准。测试报告中可以包括:功能测试的结果、性能测试的结果、性能测试中的性能参数等。
另外,在生成测试用例时,可以通过组件化的方式生成。预先编写各项单项操作,然后可以调整各项单项操作组织顺序、重复次数、运行分支等,从而形成测试用例。
还有,测试用例可以预先存储在测试用例模板库中,用户可以根据需要到测试用例模板库中调用对应的测试用例,更加方便快捷。
为使本发明的目的、技术方案和优点更加清楚,下面结合附图及具体实施例对本发明作进一步地详细描述。
如图2所示,本发明实施例提供了一种大数据平台的检测方法,该方法可以包括以下步骤:
步骤201:预先设置用于验证待测大数据平台的每种功能是否正常的功能测试执行容器,预先设置用于验证待测大数据平台的组件的运行性能的性能测试执行容器,预先设置多个测试用例模板。
步骤202:确定外部选择的测试用例模板,接收外部输入的被选择的所述测试用例模板对应的待填充参数,根据所述待填充参数填充和所述被选择的所述测试用例模板,生成测试用例。
步骤203:调用用于测试所述待测大数据平台的测试用例。
具体地,可以通过restful应用程序编程接口api调用所述测试用例;也可以通过执行shell命令调用所述测试用例。
步骤204:获取所述测试用例中的任务类型。
步骤205:判断任务类型是否功能验证类,如果是,则执行步骤206,否则,执行步骤207。
在该实施例中,任务类型只有两类:功能验证类和性能验证类。
步骤206:调用所述功能测试执行容器执行所述测试用例,通过所述功能测试执行容器从所述测试用例中获取运行所述待测功能所需要的参数、数据处理次数、所述待测功能运行成功的标准、第一待处理数据,根据所述运行所述待测功能所需要的参数运行所述待测功能,将所述待处理数据通过所述待测功能进行所述数据处理次数次处理,根据所述待测功能运行成功的标准,判断所述待测功能是否正常。
步骤207:调用所述性能测试执行容器执行所述测试用例,通过所述性能测试执行容器从所述测试用例中获取压力环境参数、第二待处理数据,根据所述压力环境参数在所述待测大数据平台上构建对应的压力环境,调用所述待测组件在所述压力环境下处理所述第二待处理数据,记录所述待测组件的性能参数。
如图3、图4所示,本发明实施例提供了一种大数据平台的检测装置。装置实施例可以通过软件实现,也可以通过硬件或者软硬件结合的方式实现。从硬件层面而言,如图3所示,为本发明实施例提供的一种大数据平台的检测装置所在设备的一种硬件结构图,除了图3所示的处理器、内存、网络接口、以及非易失性存储器之外,实施例中装置所在的设备通常还可以包括其他硬件,如负责处理报文的转发芯片等等。以软件实现为例,如图4所示,作为一个逻辑意义上的装置,是通过其所在设备的CPU将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。本实施例提供的一种大数据平台的检测装置,包括:
第一设置单元401,用于设置用于验证待测大数据平台的功能是否正常的功能测试执行容器,设置用于验证待测大数据平台的组件的运行性能的性能测试执行容器;
调用单元402,用于调用用于测试所述待测大数据平台的测试用例;
获取单元403,用于获取所述测试用例中的任务类型;
检测单元404,用于当所述任务类型为功能验证类时,则调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测;当所述任务类型为性能验证类时,则调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测。
在一种可能的实现方式中,所述检测单元404,在执行所述调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测时,具体执行:
通过所述功能测试执行容器从所述测试用例中获取运行所述待测功能所需要的参数、数据处理次数、所述待测功能运行成功的标准、第一待处理数据,通过所述功能测试执行容器根据所述运行所述待测功能所需要的参数运行所述待测功能,通过所述功能功能测试执行容器将所述待处理数据通过所述待测功能进行所述数据处理次数次处理,通过所述功能测试执行容器根据所述待测功能运行成功的标准,判断所述待测功能是否正常。
在一种可能的实现方式中,所述检测单元404,在执行所述调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测时,具体执行:
通过所述性能测试执行容器从所述测试用例中获取压力环境参数、第二待处理数据,通过所述性能测试执行容器根据所述压力环境参数在所述待测大数据平台上构建对应的压力环境,通过所述性能测试执行容器调用所述待测组件在所述压力环境下处理所述第二待处理数据,记录所述待测组件的性能参数。
在一种可能的实现方式中,所述调用单元402,用于通过restful应用程序编程接口api调用所述测试用例。
在一种可能的实现方式中,所述调用单元402,用于通过执行shell命令调用所述测试用例。
在一种可能的实现方式中,该装置还包括:第二设置单元,用于设置多个测试用例模板。
该装置还包括:测试用例生成单元,用于确定外部选择的测试用例模板,接收外部输入的被选择的所述测试用例模板对应的待填充参数,根据所述待填充参数填充和所述被选择的所述测试用例模板,生成所述测试用例。
该装置可与待测大数据平台一起部署,共用物理机,但由于进行性能测试时为了生成负载,对宿主机会有较大的性能压力,为了测试结果准确,可以将该装置与待测大数据平台分开,单独部署。
上述装置内的各单元之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,具体内容可参见本发明方法实施例中的叙述,此处不再赘述。
本发明实施例提供的一种大数据平台的检测方法及装置,具有如下有益效果:
1、本发明实施例提供的一种大数据平台的检测方法及装置,大数据平台的检测主要分为功能测试和组件的性能测试,针对这两种不同的测试可以设置对应的功能测试执行容器和性能测试执行容器,根据测试用例中的任务类型来调用对应的执行容器,然后通过执行容器执行测试用例来对待测大数据平台进行测试。
2、本发明实施例提供的一种大数据平台的检测方法及装置,能够给测试用例模板自动生成测试用例,根据测试用例自动对待测大数据平台的功能、性能进行检测,大大提高测试效率和可信性,同时也让日常自动化巡检变得简单,具有很高的实用价值。
需要说明的是,在本文中,诸如第一和第二之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个〃〃〃〃〃〃”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同因素。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储在计算机可读取的存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质中。
最后需要说明的是:以上所述仅为本发明的较佳实施例,仅用于说明本发明的技术方案,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所做的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (10)
1.一种大数据平台的检测方法,其特征在于,包括:预先设置用于验证待测大数据平台的每种功能是否正常的功能测试执行容器,预先设置用于验证待测大数据平台的组件的运行性能的性能测试执行容器,还包括:
S1:调用用于测试所述待测大数据平台的测试用例;
S2:获取所述测试用例中的任务类型;
S3:如果所述任务类型为功能验证类,则调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测;如果所述任务类型为性能验证类,则调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测。
2.根据权利要求1所述的方法,其特征在于,所述S3中,所述调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测,包括:
通过所述功能测试执行容器从所述测试用例中获取运行所述待测功能所需要的参数、数据处理次数、所述待测功能运行成功的标准、第一待处理数据;
通过所述功能测试执行容器根据所述运行所述待测功能所需要的参数运行所述待测功能;
通过所述功能功能测试执行容器将所述待处理数据通过所述待测功能进行所述数据处理次数次处理;
通过所述功能测试执行容器根据所述待测功能运行成功的标准,判断所述待测功能是否正常。
3.根据权利要求1所述的方法,其特征在于,所述S3中,所述调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测,包括:
通过所述性能测试执行容器从所述测试用例中获取压力环境参数、第二待处理数据;
通过所述性能测试执行容器根据所述压力环境参数在所述待测大数据平台上构建对应的压力环境;
通过所述性能测试执行容器调用所述待测组件在所述压力环境下处理所述第二待处理数据,记录所述待测组件的性能参数。
4.根据权利要求1所述的方法,其特征在于,
所述S1,包括:通过restful应用程序编程接口api调用所述测试用例;
和/或,
所述S1,包括:通过执行shell命令调用所述测试用例。
5.根据权利要求1-4中任一所述的方法,其特征在于,还包括:预先设置多个测试用例模板;
在所述S1之前,还包括:
确定外部选择的测试用例模板;
接收外部输入的被选择的所述测试用例模板对应的待填充参数;
根据所述待填充参数填充和所述被选择的所述测试用例模板,生成所述测试用例。
6.一种大数据平台的检测装置,其特征在于,包括:
第一设置单元,用于设置用于验证待测大数据平台的功能是否正常的功能测试执行容器,设置用于验证待测大数据平台的组件的运行性能的性能测试执行容器;
调用单元,用于调用用于测试所述待测大数据平台的测试用例;
获取单元,用于获取所述测试用例中的任务类型;
检测单元,用于当所述任务类型为功能验证类时,则调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测;当所述任务类型为性能验证类时,则调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测。
7.根据权利要求6所述的装置,其特征在于,所述检测单元,在执行所述调用所述功能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测功能进行检测时,具体执行:
通过所述功能测试执行容器从所述测试用例中获取运行所述待测功能所需要的参数、数据处理次数、所述待测功能运行成功的标准、第一待处理数据,通过所述功能测试执行容器根据所述运行所述待测功能所需要的参数运行所述待测功能,通过所述功能功能测试执行容器将所述待处理数据通过所述待测功能进行所述数据处理次数次处理,通过所述功能测试执行容器根据所述待测功能运行成功的标准,判断所述待测功能是否正常。
8.根据权利要求6所述的装置,其特征在于,所述检测单元,在执行所述调用所述性能测试执行容器执行所述测试用例,根据所述测试用例对待测大数据平台的待测组件的性能进行检测时,具体执行:
通过所述性能测试执行容器从所述测试用例中获取压力环境参数、第二待处理数据,通过所述性能测试执行容器根据所述压力环境参数在所述待测大数据平台上构建对应的压力环境,通过所述性能测试执行容器调用所述待测组件在所述压力环境下处理所述第二待处理数据,记录所述待测组件的性能参数。
9.根据权利要求6所述的装置,其特征在于,
所述调用单元,用于通过restful应用程序编程接口api调用所述测试用例;
和/或,所述调用单元,用于通过执行shell命令调用所述测试用例。
10.根据权利要求6-9中任一所述的装置,其特征在于,还包括:
第二设置单元,用于设置多个测试用例模板;
还包括:测试用例生成单元,用于确定外部选择的测试用例模板,接收外部输入的被选择的所述测试用例模板对应的待填充参数,根据所述待填充参数填充和所述被选择的所述测试用例模板,生成所述测试用例。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510638546.4A CN105302717A (zh) | 2015-09-30 | 2015-09-30 | 一种大数据平台的检测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510638546.4A CN105302717A (zh) | 2015-09-30 | 2015-09-30 | 一种大数据平台的检测方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN105302717A true CN105302717A (zh) | 2016-02-03 |
Family
ID=55200006
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510638546.4A Pending CN105302717A (zh) | 2015-09-30 | 2015-09-30 | 一种大数据平台的检测方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105302717A (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106850321A (zh) * | 2017-04-05 | 2017-06-13 | 无锡华云数据技术服务有限公司 | 一种集群服务器的模拟测试*** |
CN107609026A (zh) * | 2017-08-09 | 2018-01-19 | 中南大学 | 一种数据密集型应用集成测试方法及*** |
CN107885834A (zh) * | 2017-11-09 | 2018-04-06 | 郑州云海信息技术有限公司 | 一种Hadoop大数据组件统一验证*** |
CN107967212A (zh) * | 2017-12-05 | 2018-04-27 | 广州酷狗计算机科技有限公司 | Rf用例的生成方法、装置和*** |
CN108205477A (zh) * | 2016-12-16 | 2018-06-26 | 上海仪电(集团)有限公司中央研究院 | 服务器压力测试方法 |
CN109460363A (zh) * | 2018-11-09 | 2019-03-12 | 贵州医渡云技术有限公司 | 自动化测试方法、装置、电子设备及计算机可读介质 |
CN109542794A (zh) * | 2018-12-04 | 2019-03-29 | 中国航空工业集团公司西安航空计算技术研究所 | 一种应用于嵌入式***的软件自动测试方法 |
CN109901999A (zh) * | 2019-01-31 | 2019-06-18 | 国核自仪***工程有限公司 | 基于uvm的可编程逻辑的仿真方法和*** |
CN110489201A (zh) * | 2018-05-15 | 2019-11-22 | ***通信集团浙江有限公司 | 容器性能测试装置及方法 |
CN110633150A (zh) * | 2019-09-12 | 2019-12-31 | 广东浪潮大数据研究有限公司 | 容器调度性能的测试方法及装置 |
CN113806150A (zh) * | 2021-08-16 | 2021-12-17 | 济南浪潮数据技术有限公司 | 一种存储服务器远程测试的方法、***、设备和存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103678098A (zh) * | 2012-09-06 | 2014-03-26 | 百度在线网络技术(北京)有限公司 | 一种hadoop程序测试的方法和*** |
KR20140072726A (ko) * | 2012-12-05 | 2014-06-13 | 경북대학교 산학협력단 | 단위 테스트 케이스 재사용 기반의 함수 테스트 장치 및 그 함수 테스트 방법 |
CN104298601A (zh) * | 2014-10-24 | 2015-01-21 | 浪潮电子信息产业股份有限公司 | 一种基于Hadoop平台的软件***测试方法 |
-
2015
- 2015-09-30 CN CN201510638546.4A patent/CN105302717A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103678098A (zh) * | 2012-09-06 | 2014-03-26 | 百度在线网络技术(北京)有限公司 | 一种hadoop程序测试的方法和*** |
KR20140072726A (ko) * | 2012-12-05 | 2014-06-13 | 경북대학교 산학협력단 | 단위 테스트 케이스 재사용 기반의 함수 테스트 장치 및 그 함수 테스트 방법 |
CN104298601A (zh) * | 2014-10-24 | 2015-01-21 | 浪潮电子信息产业股份有限公司 | 一种基于Hadoop平台的软件***测试方法 |
Non-Patent Citations (1)
Title |
---|
代亮等: "大数据测试技术研究", 《计算机应用研究》 * |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108205477A (zh) * | 2016-12-16 | 2018-06-26 | 上海仪电(集团)有限公司中央研究院 | 服务器压力测试方法 |
CN106850321A (zh) * | 2017-04-05 | 2017-06-13 | 无锡华云数据技术服务有限公司 | 一种集群服务器的模拟测试*** |
CN107609026A (zh) * | 2017-08-09 | 2018-01-19 | 中南大学 | 一种数据密集型应用集成测试方法及*** |
CN107609026B (zh) * | 2017-08-09 | 2020-11-06 | 中南大学 | 一种数据密集型应用集成测试方法及*** |
CN107885834B (zh) * | 2017-11-09 | 2021-07-20 | 浪潮云信息技术股份公司 | 一种Hadoop大数据组件统一验证*** |
CN107885834A (zh) * | 2017-11-09 | 2018-04-06 | 郑州云海信息技术有限公司 | 一种Hadoop大数据组件统一验证*** |
CN107967212A (zh) * | 2017-12-05 | 2018-04-27 | 广州酷狗计算机科技有限公司 | Rf用例的生成方法、装置和*** |
CN110489201A (zh) * | 2018-05-15 | 2019-11-22 | ***通信集团浙江有限公司 | 容器性能测试装置及方法 |
CN110489201B (zh) * | 2018-05-15 | 2021-11-30 | ***通信集团浙江有限公司 | 容器性能测试装置及方法 |
CN109460363A (zh) * | 2018-11-09 | 2019-03-12 | 贵州医渡云技术有限公司 | 自动化测试方法、装置、电子设备及计算机可读介质 |
CN109542794A (zh) * | 2018-12-04 | 2019-03-29 | 中国航空工业集团公司西安航空计算技术研究所 | 一种应用于嵌入式***的软件自动测试方法 |
CN109901999A (zh) * | 2019-01-31 | 2019-06-18 | 国核自仪***工程有限公司 | 基于uvm的可编程逻辑的仿真方法和*** |
CN109901999B (zh) * | 2019-01-31 | 2021-01-29 | 国核自仪***工程有限公司 | 基于uvm的可编程逻辑的仿真方法和*** |
CN110633150A (zh) * | 2019-09-12 | 2019-12-31 | 广东浪潮大数据研究有限公司 | 容器调度性能的测试方法及装置 |
CN113806150A (zh) * | 2021-08-16 | 2021-12-17 | 济南浪潮数据技术有限公司 | 一种存储服务器远程测试的方法、***、设备和存储介质 |
CN113806150B (zh) * | 2021-08-16 | 2024-02-13 | 济南浪潮数据技术有限公司 | 一种存储服务器远程测试的方法、***、设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105302717A (zh) | 一种大数据平台的检测方法及装置 | |
CN107273286B (zh) | 针对任务应用的场景自动化测试平台及方法 | |
US20080028378A1 (en) | Utilizing prior usage data for software build optimization | |
CN101964036B (zh) | 漏洞检测方法及装置 | |
US10613964B2 (en) | Conditional debugging of server-side production code | |
US8549502B2 (en) | Compiler with user-defined type inference rules | |
CN103092751B (zh) | 一种云环境下基于用户行为模型的web应用性能测试*** | |
US10353809B2 (en) | System and method for executing integration tests in multiuser environment | |
CN110888818A (zh) | 测试用例配置***与方法,自动化测试***与方法 | |
US9063778B2 (en) | Fair stateless model checking | |
US10592703B1 (en) | Method and system for processing verification tests for testing a design under test | |
WO2019109553A1 (zh) | 功能及性能测试脚本的创建方法、装置、设备及存储介质 | |
US20110173594A1 (en) | Selective Loading of Code Elements for Code Analysis | |
CN110928777B (zh) | 测试用例的处理方法、装置、设备及存储介质 | |
Panigrahi et al. | An approach to prioritize the regression test cases of object-oriented programs | |
CA2811617C (en) | Commit sensitive tests | |
CN112650676A (zh) | 软件测试方法、装置、设备及存储介质 | |
US9396095B2 (en) | Software verification | |
CN105279092A (zh) | 一种软件测试的方法及装置 | |
US11169910B2 (en) | Probabilistic software testing via dynamic graphs | |
CN110289043B (zh) | 存储设备测试方法、装置、电子设备 | |
US10579761B1 (en) | Method and system for reconstructing a graph presentation of a previously executed verification test | |
US11057416B2 (en) | Analyze code that uses web framework using local parameter model | |
CN111045891B (zh) | 基于java多线程的监控方法、装置、设备以及存储介质 | |
CN108415822B (zh) | 一种随机测试方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20160203 |
|
WD01 | Invention patent application deemed withdrawn after publication |