CN111708711B - Ab测试方法及装置、存储介质及电子设备 - Google Patents
Ab测试方法及装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN111708711B CN111708711B CN202010580963.9A CN202010580963A CN111708711B CN 111708711 B CN111708711 B CN 111708711B CN 202010580963 A CN202010580963 A CN 202010580963A CN 111708711 B CN111708711 B CN 111708711B
- Authority
- CN
- China
- Prior art keywords
- service
- app
- abtest
- module
- client
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010998 test method Methods 0.000 title claims abstract description 18
- 238000000034 method Methods 0.000 claims abstract description 113
- 230000008569 process Effects 0.000 claims abstract description 69
- 238000012360 testing method Methods 0.000 claims abstract description 65
- 238000012544 monitoring process Methods 0.000 claims abstract description 15
- 238000012423 maintenance Methods 0.000 abstract description 16
- 238000011161 development Methods 0.000 abstract description 15
- 230000002452 interceptive effect Effects 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000012356 Product development Methods 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3684—Test management for test design, e.g. generating new test cases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3688—Test management for test execution, e.g. scheduling of test suites
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明提供了一种AB测试方法及装置、存储介质及电子设备,该方法包括:当目标APP启动时执行APP主业务;监控APP主业务的执行过程,在监控到APP主业务执行对应的时机时启动桩模块;获取配置项,确定客户端信息;基于客户端信息判断客户端是否满足任一执行条件;若满足任一执行条件,则确定当前满足的执行条件对应的目标策略;桩模块执行目标策略的逻辑代码,在桩模块结束执行逻辑代码时完成AB测试。应用该方法,在APP主业务中***桩模块,由桩模块执行ABtest业务对应的逻辑代码,使得ABtest业务抽象到桩模块中,将APP主业务与ABtest业务解耦,降低对APP的开发和维护的难度,提高开发和维护的效率。
Description
技术领域
本发明涉及软件开发技术领域,特别是涉及一种AB测试方法及装置、存储介质及电子设备。
背景技术
随着计算机技术的快速发展,各种APP随着用户的需求应运而生。在现实的对APP的产品开发、设计和维护中,需要遇到多个设计方案的选择。AB测试是一种APP的优化方法,在APP需要开发和设计时,可以根据APP的业务制定两个及以上的执行的方案,并将每个方案的对应版本同时上线进行试运行。在AB测试的过程中,可根据规定的时间收集每个版本的点击量、转化率等数据,以通过各个数据确定每个版本的可行性和用户体验,并从各个版本中选定最优的版本投入正式的使用。
现有技术在进行AB测试时,通常是将AB测试的ABTest业务与APP的主业务紧密耦合,并在运行APP主业务过程中直接执行ABtest业务。在实际应用过程中,ABTest业务通常需要随着开发和维护的需求进行变化,但由于ABTest业务与APP的主业务紧密联系,耦合度高,在进行开发和维护的过程中还需要对ABtest业务进行特殊处理,使得对APP的开发和维护的难度升高,降低了APP的开发和维护的效率。
发明内容
有鉴于此,本发明提供一种AB测试方法,通过该方法,可以在APP主业务中***桩模块,由桩模块执行ABtest业务对应的逻辑代码,将APP主业务与ABtest业务解耦,降低对APP的开发和维护的难度,提高开发和维护的效率。
本发明还提供了一种AB测试装置,用以保证上述方法在实际中的实现及应用。
一种AB测试方法,包括:
当用户通过客户端启动目标APP时,执行所述目标APP的APP主业务;
调用预先设置的内核模块实时监控所述APP主业务的执行过程,并在监控到所述APP主业务执行至需要进行AB测试的ABtest业务对应的时机时,启动预先***所述APP主业务中的桩模块;
应用所述内核模块获取所述ABtest业务对应的配置项,并确定所述客户端的客户端信息,所述配置项包括所述ABtest业务对应的待执行的多个策略的逻辑代码,及每个所述策略对应的执行条件;
基于所述客户端信息,判断所述客户端是否满足所述配置项中的任一执行条件;
若所述客户端满足所述配置项中的任一执行条件,则确定所述客户端当前满足的执行条件对应的策略为目标策略;
应用所述桩模块执行所述目标策略的逻辑代码,并在所述桩模块结束执行所述目标策略的逻辑代码时,完成所述目标APP在所述客户端中进行AB测试的过程。
上述的方法,可选的,在所述APP主业中务***所述桩模块的过程,包括:
确定所述APP主业务的生命周期,所述生命周期为所述APP主业务从开始执行至结束执行的过程;
确定所述生命周期中所述ABtest业务对应的执行的时机及位置,并基于所述时机及位置,在所述APP主业务中***所述ABtest业务对应的桩模块,所述时机为所述APP主业务的生命周期中,开始执行所述ABtest业务的具体的点,所述位置指的是在所述目标APP的页面中执行所述ABtest业务的区域。
上述的方法,可选的,还包括:
接收服务端上传的所述ABtest业务对应的初始配置项,所述初始配置项中包含多个初始数据,各个所述初始数据为各个所述策略的逻辑代码对应的代码数据,及每个所述策略对应的执行条件对应的条件数据;
确定所述APP主业务所支持执行的数据类型,并将所述初始配置项中的各个所述初始数据转换成所述数据类型对应的数据,获得最终的所述ABtest业务对应的配置项;
将所述配置项存储至预先设置的ABtest配置源模块中。
上述的方法,可选的,所述应用所述内核模块获取所述ABtest业务对应的配置项,包括:
开启所述内核模块与所述ABtest配置源之间预先设置的访问接口,并通过所述访问接口,读取所述ABtest配置源模块中存储的所述ABtest业务对应的配置项。
上述的方法,可选的,所述基于所述客户端信息,判断所述客户端是否满足所述配置项中的任一执行条件,包括:
获取所述客户端信息中包含多个信息参数,各个信息参数分别为设备参数、客户端参数、用户参数、时间参数和网络参数;
确定各个所述执行条件对应的各个条件参数的参数类型,并从所述客户端信息中挑选与各个所述参数类型一致的信息参数;
将已选中的各个所述信息参数,与每个所述执行条件对应的各个条件参数进行匹配;
若已选中的各个所述信息参数与任一执行条件对应的各个条件参数一致,则确定所述客户端满足该执行条件。
上述的方法,可选的,所述应用所述桩模块执行所述目标策略的逻辑代码,包括:
确定所述ABtest业务对应的业务类型,并基于所述业务类型向所述APP主业务请求获取执行所述业务类型所需的配置对象;
当所述APP主业务返回所述业务类型所需的配置对象,应用所述桩模块基于所述配置对象执行所述目标策略的逻辑代码。
上述的方法,可选的,还包括:
创建数据回调模块,并将所述数据回调模块与所述桩模块关联;
当应用所述桩模块基于所述配置对象执行所述目标策略的逻辑代码时,触发所述数据回调模块监控所述桩模块执行所述目标策略的逻辑代码的过程,并生成所述桩模块执行所述目标策略的逻辑代码的过程对应的日志数据;
当所述桩模块结束执行所述目标策略的逻辑代码时,将所述日志数据上报至预先设置的数据服务端。
一种AB测试装置,包括:
第一执行单元,用于当用户通过客户端启动目标APP时,执行所述目标APP的APP主业务;
监控单元,用于调用预先设置的内核模块实时监控所述APP主业务的执行过程,并在监控到所述APP主业务执行至需要进行AB测试的ABtest业务对应的时机时,启动预先***所述APP主业务中的桩模块;
获取单元,用于应用所述内核模块获取所述ABtest业务对应的配置项,并确定所述客户端的客户端信息,所述配置项包括所述ABtest业务对应的待执行的多个策略的逻辑代码,及每个所述策略对应的执行条件;
判断单元,用于基于所述客户端信息,判断所述客户端是否满足所述配置项中的任一执行条件;
确定单元,用于若所述客户端满足所述配置项中的任一执行条件,则确定所述客户端当前满足的执行条件对应的策略为目标策略;
第二执行单元,用于应用所述桩模块执行所述目标策略的逻辑代码,并在所述桩模块结束执行所述目标策略的逻辑代码时,完成所述目标APP在所述客户端中进行AB测试的过程。
一种存储介质,所述存储介质包括存储的指令,其中,在所述指令运行时控制所述存储介质所在的设备执行上述的AB测试方法。
一种电子设备,包括存储器,以及一个或者一个以上的指令,其中一个或者一个以上指令存储于存储器中,且经配置以由一个或者一个以上处理器执行上述的AB测试方法。
与现有技术相比,本发明包括以下优点:
本发明提供了一种AB测试方法,包括:当用户通过客户端启动目标APP时,执行目标APP的APP主业务;调用内核模块实时监控APP主业务的执行过程,并在监控到APP主业务执行至需要进行AB测试的ABtest业务对应的时机时,启动APP主业务中的桩模块;应用内核模块获取ABtest业务对应的配置项,并确定客户端的客户端信息,判断客户端是否满足配置项中的任一执行条件;若满足任一执行条件,则确定客户端当前满足的执行条件对应的策略为目标策略;应用桩模块执行所述目标策略的逻辑代码,并在桩模块结束执行目标策略的逻辑代码时,完成所述目标APP在客户端中进行AB测试的过程。应用本发明提供的方法,预先在APP主业务中***桩模块,由桩模块执行ABtest业务对应的逻辑代码,使得ABtest业务被抽象到桩模块当中,从而将APP主业务与ABtest业务解耦,降低对APP的开发和维护的难度,提高APP的开发和维护的效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本发明提供的一种AB测试方法的方法流程图;
图2为本发明提供的一种AB测试方法的又一方法流程图;
图3为本发明提供的一种AB测试方法的再一方法流程图;
图4为本发明提供的一种AB测试装置的装置结构图;
图5为本发明提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本申请中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本发明可用于众多通用或专用的计算装置环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器装置、包括以上任何装置或设备的分布式计算环境等等。
本发明实施例提供了一种AB测试方法,该方法可以应用在客户端,所述方法的方法流程图如图1所示,具体包括:
S101:当用户通过客户端启动目标APP时,执行所述目标APP的APP主业务;
在本发明实施例中,APP主业务是目标APP的整个主程序,用户可以通过机械唤醒、轻触等方式启动客户端中的目标APP。客户端在接收到用户对目标APP的启动指令之后,执行该目标APP的APP主业务,即开始执行该目标APP的主程序。
S102:调用预先设置的内核模块实时监控所述APP主业务的执行过程,并在监控到所述APP主业务执行至需要进行AB测试的ABtest业务对应的时机时,启动预先***所述APP主业务中的桩模块;
在本发明实施例中,在主业务当中分成多个子业务,每个子业务分别用于实现目标APP的各种功能,而ABtest业务则是主业务中的需要进行AB测试的一个子业务,并针对目标APP中某个功能进行测试的子程序。
其中,内核模块是ABtest内核,其设置于客户端中,用于实时监控APP主业务的执行过程,并在APP主业务中***桩模块,实现对桩模块进行调度。在执行该APP主业务前,可以预先对该内核模块进行初始化。时机指的是在APP主业务中,开始执行该ABtest业务的具体的点。该桩模块是设置于APP主业务中的实现ABtest业务的插件,无需涉及任何的依赖项,即可以直接对该ABtest业务对应的代码进行测试。
需要说明的是,在对目标APP进行AB测试之前,需要在该APP主业务中***桩模块。在APP主业务内确定需要执行AB测试的ABtest业务时,才由内核模块启动该桩模块,否则,无需启动桩模块。
S103:应用所述内核模块获取所述ABtest业务对应的配置项,并确定所述客户端的客户端信息,所述配置项包括所述ABtest业务对应的待执行的多个策略的逻辑代码,及每个所述策略对应的执行条件;
在本发明实施例中,该ABtest业务对应的配置项是多种服务端配置的数据,即,包含各个待执行的策略及每个策略对应的执行条件。客户端信息中包含客户端地址、客户端对应设备的设备型号、该用户的用户信息等。其中,该执行条件是由开发人员在对目标APP进行AB测试时,需要指定执行每一个策略的设备号、客户端地址等条件参数。例如,配置项包含两种策略,分别为策略A和策略B,策略A对应的执行条件为:设备型号为型号A执行策略A,而策略B对应的执行条件为:设备型号为型号B执行策略B。
需要说明的是,配置项中的每个策略分别有该策略对应的实现过程的逻辑代码,而每个策略的逻辑代码均为该ABtest业务的一部分。
S104:基于所述客户端信息,判断所述客户端是否满足所述配置项中的任一执行条件;
在本发明实施例中,已经确定每个策略对应的执行条件,但并非当前执行该APP主业务的客户端能够满足设定的各个执行条件,通过判断该客户端是否满足该配置项中的任一执行条件,以确定是否需要继续进行AB测试。
S105:若所述客户端满足所述配置项中的任一执行条件,则确定所述客户端当前满足的执行条件对应的策略为目标策略;
在本发明实施例中,若该客户端满足任一执行条件,则继续进行AB测试。
S106:应用所述桩模块执行所述目标策略的逻辑代码,并在所述桩模块结束执行所述目标策略的逻辑代码时,完成所述目标APP在所述客户端中进行AB测试的过程。
在本发明实施例中,在确定ABtest业务当前需要执行的目标策略后,由桩模块实现执行该目标策略的逻辑代码,在桩模块结束执行该目标策略的逻辑代码后,则跳出桩模块,可以继续执行APP主业务中其他的的功能业务,完成当前的AB测试。
本发明实施例提供的AB测试方法中,在启动目标APP时,执行该目标APP中的APP主业务,并通过内核模块对该APP主业务的执行过程进行监控。在APP主业务执行至需要进行AB测试的时机后,启动预先***在APP主业务中的桩模块,并通过内核模块获取进行AB测试时ABtest业务对应的配置项,以通过该配置项确定AB测试对应的多个需要进行测试的策略,以及每个策略对应的执行条件。当客户端满足配置项当中的任何一个执行条件后,由桩模块执行该执行条件对应的策略的逻辑代码,以实现在该客户端进行AB测试的过程。
需要说明的是,在APP主业务中,可以同时***多个桩模块,每个桩模块对应目标APP中需要进行AB测试的多个功能。若APP主业务中***的是多个桩模块,则APP主业务执行到每一个桩模块所在时机时,均执行上述步骤S102至S106的过程,此处将不复赘述。
进一步说明,桩模块是安插在APP主业务中的插件,可以将APP主业务和AB测试对应的ABtest业务进行隔离。
可选的,在结束AB测试后,可以将该桩模块进行删除。
基于上述实施例提供的方法,对AB测试方法的具体实施过程进行举例说明:
聊天软件A在使用过程中,技术人员需要对该聊天软件进行升级,其中,需要更改用户列表的显示方式。为此,技术人员开发了两种用户列表显示方式,一种是显示用户名和用户头像;另一种是仅显示用户名。技术人员在完成两种列表显示方式的ABtest业务编辑后,将该聊天软件A的APP主业务及ABtest业务对应的配置项进行发布。各个安装有该聊天软件A的客户端在对其进行更新后,在APP主业务中***桩模块。当用户通过客户端启动聊天软件A时,客户端执行APP主业务,并通过内核模块监控APP主业务执行过程。当执行到ABtest业务对应的时机时可以确定聊天软件A需要显示用户列表,启动该桩模块,并获取ABtest业务对应的配置项,并通过该配置项,确定该客户端对用户列表显示的方式是显示用户名和用户头像,还是仅显示用户名。若该客户端需要对用户列表显示的方式是显示用户名和用户头像,则执行该显示方式对应的逻辑代码,并在结束显示用户列表时,结束当前的AB测试过程。
应用本发明实施例提供的方法,预先在APP主业务中***桩模块,由桩模块执行ABtest业务对应的策略的逻辑代码,使得ABtest业务被抽象到桩模块当中,从而将APP主业务与ABtest业务解耦,降低对APP的开发和维护的难度,提高APP的开发和维护的效率。
本发明实施例提供的方法中,为了保证将APP主业务与ABtest业务解耦,需要在APP主业务中***桩模块。其中,***桩模块的过程,具体可以包括:
确定所述APP主业务的生命周期,所述生命周期为所述APP主业务从开始执行至结束执行的过程;
确定所述生命周期中所述ABtest业务对应的执行的时机及位置,并基于所述时机及位置,在所述APP主业务中***所述ABtest业务对应的桩模块,所述时机为所述APP主业务的生命周期中,开始执行所述ABtest业务的具体的点,所述位置指的是在所述目标APP的页面中执行所述ABtest业务的区域。
在本发明实施例提供的AB测试方法中,通过生命周期以及***桩模块的想法,将ABtest业务抽象至桩模块当中。该ABtest业务的通过生命周期进行抽象,根据APP主业务的开始执行至结束执行的过程,确定在整个执行过程中对该ABtest业务进行执行的具体的点以及在页面中执行的区域。基于ABtest业务对应的时机和位置,在该APP主业务中***桩模块。
需要说明的是,该桩模块可以是由内核模块根据APP主业务的生命周期,确定ABtest业务对应的时机和位置后进行插桩,即,将桩模块与APP主业务进行关联,以通过桩模块实现ABtest业务对应的执行过程。
本发明实施例提供的方法,一方面,ABtest业务对应的时机用自定义生命周期来抽象,可以适应各种App主业务。任何业务都有自身的生命周期,只需要根据实际情况,定义好生命周期的时机,即可方便的在这些时机点***桩模块。各时机的点可以是自定义的,具有很高的灵活性,且可读性高便于后期维护。另一方面,通过生命周期和***桩的技术,可以将多个ABtest业务分别被抽象到对应的插件,使得ABtest业务与App自身主业务耦合低,可扩展性高,且所有的插件都是基于相同的抽象,便于统一管理。
本发明实施例提供的方法中,在进行AB测试之前,需要对需要执行的各个策略对应的数据进行处理,以保证在以后的开发和维护时进行统一的管理,对配置项进行处理的过程如图2所示,具体可以包括:
S201:接收服务端上传的所述ABtest业务对应的初始配置项,所述初始配置项中包含多个初始数据,各个所述初始数据为各个所述策略的逻辑代码对应的代码数据,及每个所述策略对应的执行条件对应的条件数据;
在本发明实施例中,技术人员在服务端配置好目标APP的配置项,在服务端所配置的配置项则为初始配置项。服务端再按照技术人员设定的AB测试的测试范围,将该初始配置项上传至该测试范围内的各个客户端。
其中,该配置项中的各个代码数据可以是包含其对应的策略的逻辑代码的代码文件,各个条件数据包含其对应的策略的各个条件参数的参数文件。
S202:确定所述APP主业务所支持执行的数据类型,并将所述初始配置项中的各个所述初始数据转换成所述数据类型对应的数据,获得最终的所述ABtest业务对应的配置项;
在本发明实施例中,在进行AB测试的过程中,若需要执行ABtest业务,需要该ABtest业务对应的配置项为APP能够进行识别的配置项,因此根据APP主业务所支持的数据类型,将该初始配置项中的各个初始数据转换成APP能够识别的数据,获得最终的数据。
需要说明的是,数据的转换过程可以是由客户端中的内核模块完成,也可以由ABtest配置源模块完成。
S203:将所述配置项存储至预先设置的ABtest配置源模块中。
在本发明实施例中,ABtest配置源可以是应用数据源Data Source技术,将多种服务端配置的ABTest业务对应的配置项,同步到本地并且转换成统一的格式存储的存储模块。因此,在进行数据格式的转换后,将该配置项存储至该ABtest配置源中。
本发明实施例提供的AB测试方法中,若需要对目标APP进行AB测试,需要预先设置好配置项。技术人员通过服务端配好ABtest业务对应的配置项,并由服务端上传至客户端,客户端根据目标APP所支持的数据类型,将服务端上传的配置项中的各个数据的数据类型进行转换,以保证在进行AB测试时,配置项中的数据能够符合目标APP的执行要求。将已转换的数据对应的配置项存储在ABtest配置源当中,当需要执行该ABtest业务时,可从ABtest配置源中获取配置项,以实现该ABtest业务的执行过程。本发明实施例提供的方法,可以将配置项中的各个数据转换成目标APP所支持的数据类型,以方便后续对配置项的调用,方便对配置项中各个数据的管理。
在本发明中,在将配置项存储入ABtest配置源后,当启动目标APP并在执行APP主业务至ABtest业务对应的时机时,需要从该ABtest配置源中获取该配置项,具体过程可以包括:
开启所述内核模块与所述ABtest配置源之间预先设置的访问接口,并通过所述访问接口,读取所述ABtest配置源模块中存储的所述ABtest业务对应的配置项。
在本发明实施例提供的AB测试方法中,配置项存储在ABtest配置源当中,方便对配置项中的各个数据进行维护和管理。目标APP的APP主业务执行至ABtest业务对应的时机时,则开启该内核模块和ABtest配置源之间的访问接口,该访问接口可以是API接口。通过访问接口可以直接读取ABtest配置源中的数据,即,读取该ABtest业务对应的配置项。
应用本发明实施例提供的方法,通过统一的访问接口读取ABtest配置源中的数据,可以方便后续的统一管理,节省开发和维护的成本。
本发明实施例提供的方法,基于上述步骤S104的内容,根据该客户端的客户端信息,判断该客户端是否满足该配置项中的任意执行条件的过程,具体可以包括:
获取所述客户端信息中包含多个信息参数,各个信息参数分别为设备参数、客户端参数、用户参数、时间参数和网络参数;
确定各个所述执行条件对应的各个条件参数的参数类型,并从所述客户端信息中挑选与各个所述参数类型一致的信息参数;
将已选中的各个所述信息参数,与每个所述执行条件对应的各个条件参数进行匹配;
若已选中的各个所述信息参数与任一执行条件对应的各个条件参数一致,则确定所述客户端满足该执行条件。
本发明实施例提供的AB测试方法中,该客户端信息中包含了多个信息参数,分别包括设备参数、客户端参数、用户参数、时间参数和网络参数。设备参数可以是用户当前所使用的设备的设备号、设备版本等;客户端参数可以是该客户端的客户端号、客户端地址等;用户参数可以是该用户的姓名、年龄、联系方式等;时间参数可以是当前时间段;网络参数可以是该客户端当前无连接网络的网络号码。另外,每个执行条件可以包括多个条件参数,每个条件参数可以是指定执行该执行条件对应的策略的设备条件参数、客户端条件参数、用户条件参数、时间条件参数和网络条件参数。每个条件参数均对应一种参数类型,并根据各个执行条件对应的各个条件参数的参数类型,从客户端信息中挑选出各个参数类型一样的信息类型。
例如,各个执行条件的各个条件参数分别为设备条件参数和网络条件参数,则确定各个执行条件对应的参数类型为设备参数类型和网络参数类型。并挑选出客户端信息中的设备参数和网络参数分别与每个执行条件对应的设备条件参数和网络条件参数。若该设备参数和网络参数与任意一个执行条件对应的设备条件参数和网络条件参数一致,则确定该客户端满足该执行条件。
需要说明的是,各个策略对应的执行条件的设置主要根据目标APP以及ABtest业务的应用场景进行设置相关的条件参数,在每个执行条件对应的各个条件参数中,可以存在部分条件参数一致的执行条件。
应用本发明提供的方法,可以根据各个信息参数和条件参数,确定需要在该客户端执行的目标策略对应的逻辑代码,保证对ABtest业务的成功执行。
本发明实施例提供的方法中,基于上述步骤S106的内容,在确定目标策略后,可以应用该桩模块执行对应的逻辑代码,具体应用桩模块执行该目标策略的逻辑代码的过程如图3所示,可以包括:
S301:确定所述ABtest业务对应的业务类型,并基于所述业务类型向所述APP主业务请求获取执行所述业务类型所需的配置对象;
在本发明实施例中,ABtest业务的业务类型可以抽象为三种业务,具体可以包括:展示业务、交互业务和内部业务。该展示业务:展示业务抽象的来看通常是在App的某个页面内,根据ABTest业务的配置项,展示不同的UI,根据这个抽象,只需要App主业务提供容器视图。该交互业务:即用户主动触发的点击、手势等操作,需要根据ABTest业务的配置项进行不同的页面跳转、UI状态变化等等,根据这个抽象,只需要App主业务提供ABTest业务所需的交互组件,即可由桩模块来实现具体的该交互组件与用户的交互过程;该内部业务:即用户触发、或者App主业务自身运行到某个时机,需要处理一些用户无感知的业务,无感知业务区别于展示业务和交互业务,如请求服务接口等,和交互业务类似,只需要App主业务提供ABTest业务所需的数据和对象等服务配置,即可由桩模块实现用户无感知的过程。
可以理解的是,上述的容器视图、交互组件、数据和对象等服务配置均为配置对象。每种业务类型均对应至少一种配置对象,根据ABtest业务对应的业务类型,请求APP主业务获取对应的配置对象。
S302:当所述APP主业务返回所述业务类型所需的配置对象,应用所述桩模块基于所述配置对象执行所述目标策略的逻辑代码。
在本发明实施例中,桩模块需要依赖于配置对象来执行目标策略的逻辑代码。
例如,若业务类型为展示业务,只需要App主业务提供容器视图,即可由桩模块来实现不同的ABTest业务的展示UI;若业务类型为交互业务,只需要App主业务提供ABTest业务所需的交互组件,即可由桩模块来实现具体的该交互组件与用户的交互过程;若业务类型为内部业务,只需要App主业务提供ABTest业务所需的数据和对象等服务配置,即可由桩模块实现用户无感知的过程。
本发明实施例提供的AB测试方法中,在由桩模块实现执行ABtest业务的过程中,需要根据目标策略执行对应的逻辑代码,由于ABtest业务包含不同的业务类型,可以由桩模块主动向APP主业务获取该ABtest业务对应的业务类型对应的配置对象。APP主业务根据业务类型提供对应的配置对象,再由桩模块依赖于APP主业务返回的配置对象实现目标策略的逻辑代码。
需要说明的是,桩模块无法感知在APP主业务对应的生命周期中,具体启动该桩模块的时机。但是APP主业务能够获知其对应的生命周期中的当前时机是否需要启动桩模块执行ABtest业务对应的逻辑代码。并且APP主业务在确定桩模块需要配置对象时,根据桩模块的请求将该配置对象返回至桩模块,以使桩模块能够依赖于该配置对象执行逻辑代码。
应用本发明实施例提供的方法,桩模块结合ABtest业务对应的业务类型获得对应的配置对象,以保证将ABtest业务的执行过程与APP主业务隔离开,对APP主业务和ABtest业务解耦,并且能够成功执行对应的逻辑代码。
本发明实施例提供的方法中,在APP主业务中***桩模块后,能够将APP主业务和ABtest业务解耦,此时,为获取AB测试过程中每个策略相关的执行数据需要回调每次进行AB测试的相关日志数据,其具体过程为:
创建数据回调模块,并将所述数据回调模块与所述桩模块关联;
当应用所述桩模块基于所述配置对象执行所述目标策略的逻辑代码时,触发所述数据回调模块监控所述桩模块执行所述目标策略的逻辑代码的过程,并生成所述桩模块执行所述目标策略的逻辑代码的过程对应的日志数据;
当所述桩模块结束执行所述目标策略的逻辑代码时,将所述日志数据上报至预先设置的数据服务端。
本发明实施例提供的AB测试方法中,在APP主业务***桩模块时,可以同时创建数据回调模块,该数据回调模块具有监控和回调的功能。在每次应用桩模块执行逻辑代码时,数据回调模块会实时根据桩模块的执行过程进行监控,并生成对应的日志数据,并在桩模块的结束执行目标策略的逻辑代码时,由回调模块将日志数据上传至数据服务端。
其中,该数据服务端是用于根据日志数据对每个策略的点击量、转化率等数据进行统计的服务器。该数据服务端可以是上述实施例中上传初始配置项的服务端。
应用本发明提供的方法,可以通过数据回调的方式实施获取每次进行AB测试的相关日志数据,以确定每个策略的可行性,技术人员也可以从各个策略中选取最优的策略。
上述各个实施例的具体实施过程及其衍生方式,均在本发明的保护范围之内。
与图1所述的方法相对应,本发明实施例还提供了一种AB测试装置,用于对图1中方法的具体实现,本发明实施例提供的AB测试装置可以应用计算机终端或各种移动设备中,其结构示意图如图4所示,具体包括:
第一执行单元401,用于当用户通过客户端启动目标APP时,执行所述目标APP的APP主业务;
监控单元402,用于调用预先设置的内核模块实时监控所述APP主业务的执行过程,并在监控到所述APP主业务执行至需要进行AB测试的ABtest业务对应的时机时,启动预先***所述APP主业务中的桩模块;
获取单元403,用于应用所述内核模块获取所述ABtest业务对应的配置项,并确定所述客户端的客户端信息,所述配置项包括所述ABtest业务对应的待执行的多个策略的逻辑代码,及每个所述策略对应的执行条件;
判断单元404,用于基于所述客户端信息,判断所述客户端是否满足所述配置项中的任一执行条件;
确定单元405,用于若所述客户端满足所述配置项中的任一执行条件,则确定所述客户端当前满足的执行条件对应的策略为目标策略;
第二执行单元406,用于应用所述桩模块执行所述目标策略的逻辑代码,并在所述桩模块结束执行所述目标策略的逻辑代码时,完成所述目标APP在所述客户端中进行AB测试的过程。
本发明实施例提供的装置中,在启动目标APP时,第一执行单元执行目标APP的APP主业务,并由监控单元监控APP主业务的执行过程,在执行到特定时机时,启动桩模块。获取单元应用内核模块获取ABtest业务对应的配置项,机客户端信息,判断单元则根据该客户端信息判断客户端是否满足配置项中的任一执行条件,并在确定该客户端满足任一执行条件后,确定单元确定配置项中该执行条件对应的策略为目标策略。最终,第二执行单元应用桩模块执行该目标策略的逻辑代码,以实现AB测试的过程。
应用本发明提供的装置,可以在APP主业务中***桩模块,由桩模块执行ABtest业务对应的逻辑代码,使得ABtest业务抽象到桩模块中,将APP主业务与ABtest业务解耦,降低对APP的开发和维护的难度,提高开发和维护的效率。
本发明实施例提供的装置中,还包括:
插桩单元,用于确定所述APP主业务的生命周期,所述生命周期为所述APP主业务从开始执行至结束执行的过程;确定所述生命周期中所述ABtest业务对应的执行的时机及位置,并基于所述时机及位置,在所述APP主业务中***所述ABtest业务对应的桩模块,所述时机为所述APP主业务的生命周期中,开始执行所述ABtest业务的具体的点,所述位置指的是在所述目标APP的页面中执行所述ABtest业务的区域。
本发明实施例提供的装置中,还包括:
数据转换单元,用于接收服务端上传的所述ABtest业务对应的初始配置项,所述初始配置项中包含多个初始数据,各个所述初始数据为各个所述策略的逻辑代码对应的代码数据,及每个所述策略对应的执行条件对应的条件数据;确定所述APP主业务所支持执行的数据类型,并将所述初始配置项中的各个所述初始数据转换成所述数据类型对应的数据,获得最终的所述ABtest业务对应的配置项;将所述配置项存储至预先设置的ABtest配置源模块中。
本发明实施例提供的装置中,所述获取单元403,包括:
第一获取子单元,用于开启所述内核模块与所述ABtest配置源之间预先设置的访问接口,并通过所述访问接口,读取所述ABtest配置源模块中存储的所述ABtest业务对应的配置项。
本发明实施例提供的装置中,所述判断单元404,包括:
第二获取子单元,用于获取所述客户端信息中包含多个信息参数,各个信息参数分别为设备参数、客户端参数、用户参数、时间参数和网络参数;
第一确定子单元,用于确定各个所述执行条件对应的各个条件参数的参数类型,并从所述客户端信息中挑选与各个所述参数类型一致的信息参数;
匹配子单元,用于将已选中的各个所述信息参数,与每个所述执行条件对应的各个条件参数进行匹配;
第二确定子单元,用于若已选中的各个所述信息参数与任一执行条件对应的各个条件参数一致,则确定所述客户端满足该执行条件。
本发明实施例提供的装置中,所述第二执行单元406,包括:
第三确定子单元,用于确定所述ABtest业务对应的业务类型,并基于所述业务类型向所述APP主业务请求获取执行所述业务类型所需的配置对象;
执行子单元,用于当所述APP主业务返回所述业务类型所需的配置对象,应用所述桩模块基于所述配置对象执行所述目标策略的逻辑代码。
本发明实施例提供的装置中,还包括:
关联单元,用于创建数据回调模块,并将所述数据回调模块与所述桩模块关联;
触发单元,用于当应用所述桩模块基于所述配置对象执行所述目标策略的逻辑代码时,触发所述数据回调模块监控所述桩模块执行所述目标策略的逻辑代码的过程,并生成所述桩模块执行所述目标策略的逻辑代码的过程对应的日志数据;
回调单元,用于当所述桩模块结束执行所述目标策略的逻辑代码时,将所述日志数据上报至预先设置的数据服务端。
以上本发明实施例公开的AB测试装置中各个单元和子单元的具体工作过程,可参见本发明上述实施例公开的AB测试方法中的对应内容,这里不再进行赘述。
本发明实施例还提供了一种存储介质,所述存储介质包括存储的指令,其中,在所述指令运行时控制所述存储介质所在的设备执行上述AB测试方法。
本发明实施例还提供了一种电子设备,其结构示意图如图5所示,具体包括存储器501,以及一个或者一个以上的指令502,其中一个或者一个以上指令502存储于存储器501中,且经配置以由一个或者一个以上处理器503执行所述一个或者一个以上指令502进行以下操作:
当用户通过客户端启动目标APP时,执行所述目标APP的APP主业务;
调用预先设置的内核模块实时监控所述APP主业务的执行过程,并在监控到所述APP主业务执行至需要进行AB测试的ABtest业务对应的时机时,启动预先***所述APP主业务中的桩模块;
应用所述内核模块获取所述ABtest业务对应的配置项,并确定所述客户端的客户端信息,所述配置项包括所述ABtest业务对应的待执行的多个策略的逻辑代码,及每个所述策略对应的执行条件;
基于所述客户端信息,判断所述客户端是否满足所述配置项中的任一执行条件;
若所述客户端满足所述配置项中的任一执行条件,则确定所述客户端当前满足的执行条件对应的策略为目标策略;
应用所述桩模块执行所述目标策略的逻辑代码,并在所述桩模块结束执行所述目标策略的逻辑代码时,完成所述目标APP在所述客户端中进行AB测试的过程。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于***或***实施例而言,由于其基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。以上所描述的***及***实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现。
为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种AB测试方法,其特征在于,包括:
当用户通过客户端启动目标APP时,执行所述目标APP的APP主业务;
调用预先设置的内核模块实时监控所述APP主业务的执行过程,并在监控到所述APP主业务执行至需要进行AB测试的ABtest业务对应的时机时,启动预先***所述APP主业务中的桩模块;
应用所述内核模块获取所述ABtest业务对应的配置项,并确定所述客户端的客户端信息,所述配置项包括所述ABtest业务对应的待执行的多个策略的逻辑代码,及每个所述策略对应的执行条件;
基于所述客户端信息,判断所述客户端是否满足所述配置项中的任一执行条件;
若所述客户端满足所述配置项中的任一执行条件,则确定所述客户端当前满足的执行条件对应的策略为目标策略;
应用所述桩模块执行所述目标策略的逻辑代码,并在所述桩模块结束执行所述目标策略的逻辑代码时,完成所述目标APP在所述客户端中进行AB测试的过程。
2.根据权利要求1所述的方法,其特征在于,在所述APP主业中务***所述桩模块的过程,包括:
确定所述APP主业务的生命周期,所述生命周期为所述APP主业务从开始执行至结束执行的过程;
确定所述生命周期中所述ABtest业务对应的执行的时机及位置,并基于所述时机及位置,在所述APP主业务中***所述ABtest业务对应的桩模块,所述时机为所述APP主业务的生命周期中,开始执行所述ABtest业务的具体的点,所述位置指的是在所述目标APP的页面中执行所述ABtest业务的区域。
3.根据权利要求1所述的方法,其特征在于,还包括:
接收服务端上传的所述ABtest业务对应的初始配置项,所述初始配置项中包含多个初始数据,各个所述初始数据为各个所述策略的逻辑代码对应的代码数据,及每个所述策略对应的执行条件对应的条件数据;
确定所述APP主业务所支持执行的数据类型,并将所述初始配置项中的各个所述初始数据转换成所述数据类型对应的数据,获得最终的所述ABtest业务对应的配置项;
将所述配置项存储至预先设置的ABtest配置源模块中。
4.根据权利要求1或3任意一项所述的方法,其特征在于,所述应用所述内核模块获取所述ABtest业务对应的配置项,包括:
开启所述内核模块与所述ABtest配置源之间预先设置的访问接口,并通过所述访问接口,读取所述ABtest配置源模块中存储的所述ABtest业务对应的配置项。
5.根据权利要求1所述的方法,其特征在于,所述基于所述客户端信息,判断所述客户端是否满足所述配置项中的任一执行条件,包括:
获取所述客户端信息中包含多个信息参数,各个信息参数分别为设备参数、客户端参数、用户参数、时间参数和网络参数;
确定各个所述执行条件对应的各个条件参数的参数类型,并从所述客户端信息中挑选与各个所述参数类型一致的信息参数;
将已选中的各个所述信息参数,与每个所述执行条件对应的各个条件参数进行匹配;
若已选中的各个所述信息参数与任一执行条件对应的各个条件参数一致,则确定所述客户端满足该执行条件。
6.根据权利要求1所述的方法,其特征在于,所述应用所述桩模块执行所述目标策略的逻辑代码,包括:
确定所述ABtest业务对应的业务类型,并基于所述业务类型向所述APP主业务请求获取执行所述业务类型所需的配置对象;
当所述APP主业务返回所述业务类型所需的配置对象,应用所述桩模块基于所述配置对象执行所述目标策略的逻辑代码。
7.根据权利要求6所述的方法,其特征在于,还包括:
创建数据回调模块,并将所述数据回调模块与所述桩模块关联;
当应用所述桩模块基于所述配置对象执行所述目标策略的逻辑代码时,触发所述数据回调模块监控所述桩模块执行所述目标策略的逻辑代码的过程,并生成所述桩模块执行所述目标策略的逻辑代码的过程对应的日志数据;
当所述桩模块结束执行所述目标策略的逻辑代码时,将所述日志数据上报至预先设置的数据服务端。
8.一种AB测试装置,其特征在于,包括:
第一执行单元,用于当用户通过客户端启动目标APP时,执行所述目标APP的APP主业务;
监控单元,用于调用预先设置的内核模块实时监控所述APP主业务的执行过程,并在监控到所述APP主业务执行至需要进行AB测试的ABtest业务对应的时机时,启动预先***所述APP主业务中的桩模块;
获取单元,用于应用所述内核模块获取所述ABtest业务对应的配置项,并确定所述客户端的客户端信息,所述配置项包括所述ABtest业务对应的待执行的多个策略的逻辑代码,及每个所述策略对应的执行条件;
判断单元,用于基于所述客户端信息,判断所述客户端是否满足所述配置项中的任一执行条件;
确定单元,用于若所述客户端满足所述配置项中的任一执行条件,则确定所述客户端当前满足的执行条件对应的策略为目标策略;
第二执行单元,用于应用所述桩模块执行所述目标策略的逻辑代码,并在所述桩模块结束执行所述目标策略的逻辑代码时,完成所述目标APP在所述客户端中进行AB测试的过程。
9.一种存储介质,其特征在于,所述存储介质包括存储的指令,其中,在所述指令运行时控制所述存储介质所在的设备执行如权利要求1~7任意一项所述的AB测试方法。
10.一种电子设备,其特征在于,包括存储器,以及一个或者一个以上的指令,其中一个或者一个以上指令存储于存储器中,且经配置以由一个或者一个以上处理器执行如权利要求1~7任意一项所述的AB测试方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010580963.9A CN111708711B (zh) | 2020-06-23 | 2020-06-23 | Ab测试方法及装置、存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010580963.9A CN111708711B (zh) | 2020-06-23 | 2020-06-23 | Ab测试方法及装置、存储介质及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111708711A CN111708711A (zh) | 2020-09-25 |
CN111708711B true CN111708711B (zh) | 2023-04-07 |
Family
ID=72542253
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010580963.9A Active CN111708711B (zh) | 2020-06-23 | 2020-06-23 | Ab测试方法及装置、存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111708711B (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69814078D1 (de) * | 1998-10-15 | 2003-06-05 | Halmon Laboratoira Beheer B V | Verbessertes Verfahren zur Bestimmung von Allergien |
CN103246597A (zh) * | 2012-02-07 | 2013-08-14 | 腾讯科技(深圳)有限公司 | 一种参数的测试方法和设备 |
CN107092555A (zh) * | 2016-08-05 | 2017-08-25 | 北京小度信息科技有限公司 | 一种测试应用程序的方法及*** |
CN108762846A (zh) * | 2018-05-30 | 2018-11-06 | 努比亚技术有限公司 | 插件化实时推荐方法、服务器及计算机可读存储介质 |
CN109101425A (zh) * | 2018-08-14 | 2018-12-28 | 阿里巴巴集团控股有限公司 | 一种动态化的页面ab测试的指标埋点方法和装置 |
CN109471795A (zh) * | 2018-10-16 | 2019-03-15 | 平安普惠企业管理有限公司 | 分组测试方法、装置、计算机设备及存储介质 |
CN109753424A (zh) * | 2017-11-06 | 2019-05-14 | 北京京东尚科信息技术有限公司 | Ab测试的方法和装置 |
CN109948016A (zh) * | 2017-10-31 | 2019-06-28 | 北京嘀嘀无限科技发展有限公司 | 应用信息推送方法、装置、服务器和计算机可读存储介质 |
CN110096396A (zh) * | 2019-03-18 | 2019-08-06 | 北京奇艺世纪科技有限公司 | 分组测试的控制方法、分布式应用***及存储介质 |
CN110601922A (zh) * | 2019-09-18 | 2019-12-20 | 北京三快在线科技有限公司 | 一种对照实验的实现方法、装置、电子设备和存储介质 |
CN110765182A (zh) * | 2019-10-29 | 2020-02-07 | 北京达佳互联信息技术有限公司 | 数据统计方法、装置、电子设备及存储介质 |
-
2020
- 2020-06-23 CN CN202010580963.9A patent/CN111708711B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69814078D1 (de) * | 1998-10-15 | 2003-06-05 | Halmon Laboratoira Beheer B V | Verbessertes Verfahren zur Bestimmung von Allergien |
CN103246597A (zh) * | 2012-02-07 | 2013-08-14 | 腾讯科技(深圳)有限公司 | 一种参数的测试方法和设备 |
CN107092555A (zh) * | 2016-08-05 | 2017-08-25 | 北京小度信息科技有限公司 | 一种测试应用程序的方法及*** |
CN109948016A (zh) * | 2017-10-31 | 2019-06-28 | 北京嘀嘀无限科技发展有限公司 | 应用信息推送方法、装置、服务器和计算机可读存储介质 |
CN109753424A (zh) * | 2017-11-06 | 2019-05-14 | 北京京东尚科信息技术有限公司 | Ab测试的方法和装置 |
CN108762846A (zh) * | 2018-05-30 | 2018-11-06 | 努比亚技术有限公司 | 插件化实时推荐方法、服务器及计算机可读存储介质 |
CN109101425A (zh) * | 2018-08-14 | 2018-12-28 | 阿里巴巴集团控股有限公司 | 一种动态化的页面ab测试的指标埋点方法和装置 |
CN109471795A (zh) * | 2018-10-16 | 2019-03-15 | 平安普惠企业管理有限公司 | 分组测试方法、装置、计算机设备及存储介质 |
CN110096396A (zh) * | 2019-03-18 | 2019-08-06 | 北京奇艺世纪科技有限公司 | 分组测试的控制方法、分布式应用***及存储介质 |
CN110601922A (zh) * | 2019-09-18 | 2019-12-20 | 北京三快在线科技有限公司 | 一种对照实验的实现方法、装置、电子设备和存储介质 |
CN110765182A (zh) * | 2019-10-29 | 2020-02-07 | 北京达佳互联信息技术有限公司 | 数据统计方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111708711A (zh) | 2020-09-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10956179B1 (en) | Third party integration of plugins and widgets | |
CN113645071B (zh) | 一种集群部署方法、***、介质及电子终端 | |
US8660833B2 (en) | Method, computer program product and apparatus for providing an interactive network simulator | |
WO2020015191A1 (zh) | 业务规则的发布管理方法、电子装置及可读存储介质 | |
CN111142884B (zh) | 小程序的版本部署方法、装置、电子设备及存储介质 | |
CN110955600B (zh) | 接口测试方法及装置 | |
CN109359020A (zh) | 启动时间测试方法及装置、计算机装置及存储介质 | |
CN109684188B (zh) | 测试方法和装置 | |
US20150339628A1 (en) | Online software service system and method | |
CN111352836A (zh) | 一种压力测试方法及相关装置 | |
EP3567600B1 (en) | Improving a runtime environment for imaging applications on a medical device | |
CN109739704A (zh) | 一种接口测试方法、服务端及计算机可读存储介质 | |
CN116414370A (zh) | 基于低代码的平台构建方法、装置、介质及电子设备 | |
US20160124757A1 (en) | Monitoring a mobile device application | |
CN111612135B (zh) | 用于信息交互的方法和装置 | |
CN107203471B (zh) | 联调方法、服务平台及计算机存储介质 | |
CN111523676B (zh) | 辅助机器学习模型上线的方法及装置 | |
CN111708711B (zh) | Ab测试方法及装置、存储介质及电子设备 | |
KR20120102967A (ko) | 애플리케이션 검증 시스템 및 방법 | |
CN112559124A (zh) | 一种模型管理***以及目标操作指令的处理方法和装置 | |
US10073689B2 (en) | Managing application lifecycles within a federation of distributed software applications | |
CN116662132A (zh) | 评估方法、虚拟部署方法、计算机设备和存储介质 | |
CN111488268A (zh) | 自动化测试的调度方法和调度装置 | |
CN115016775A (zh) | 接口模拟方法及装置、存储介质及电子设备 | |
CN111880996B (zh) | 一种裸机数据采集方法、装置、设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |