CN112230898A - 模型应用交互***、方法、可读存储介质及电子设备 - Google Patents
模型应用交互***、方法、可读存储介质及电子设备 Download PDFInfo
- Publication number
- CN112230898A CN112230898A CN202011144653.9A CN202011144653A CN112230898A CN 112230898 A CN112230898 A CN 112230898A CN 202011144653 A CN202011144653 A CN 202011144653A CN 112230898 A CN112230898 A CN 112230898A
- Authority
- CN
- China
- Prior art keywords
- model
- module
- called
- engineering
- strategy
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 66
- 230000003993 interaction Effects 0.000 title claims abstract description 22
- 238000011156 evaluation Methods 0.000 claims abstract description 40
- 238000012549 training Methods 0.000 claims abstract description 19
- 238000012545 processing Methods 0.000 claims abstract description 14
- 230000006870 function Effects 0.000 claims description 59
- 230000008569 process Effects 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 9
- 238000005516 engineering process Methods 0.000 claims description 9
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 238000005538 encapsulation Methods 0.000 claims description 4
- 238000012805 post-processing Methods 0.000 claims description 4
- 238000013500 data storage Methods 0.000 claims description 3
- 238000001556 precipitation Methods 0.000 claims description 2
- 238000012986 modification Methods 0.000 abstract description 9
- 230000004048 modification Effects 0.000 abstract description 9
- 238000004891 communication Methods 0.000 abstract description 7
- 238000011161 development Methods 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 6
- 238000010801 machine learning Methods 0.000 description 5
- 238000004806 packaging method and process Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 238000003672 processing method Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000011144 upstream manufacturing Methods 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000008021 deposition Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/20—Software design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/60—Software deployment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/70—Software maintenance or management
- G06F8/71—Version control; Configuration management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Security & Cryptography (AREA)
- Quality & Reliability (AREA)
- Computer Hardware Design (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Stored Programmes (AREA)
Abstract
本公开实施例公开了一种模型应用交互***、方法、可读存储介质及电子设备,其中,该***包括:策略模块、工程模块、共用模块,其中,策略模块用于训练生成初始模型,策略模块还包括离线策略测评单元,离线策略测评单元用于对初始模型进行测评;共用模块用于对策略模块生成的初始模型进行处理,得到供工程模块使用的被调用模型;工程模块用于配置被调用模型以供用户使用;策略模块、工程模块和共用模块的技术栈一致,且策略模块与工程模块解耦。本公开实施例可以提高模型部署的效率,降低修改代码出现问题的概率,提高了模型测评的效率,并且为解决项目异构打基础,同时也能提升策略人员和工程人员的沟通效率,提高开发效率。
Description
技术领域
本公开涉及计算机技术领域,尤其是一种模型应用交互***、方法、可读存储介质及电子设备。
背景技术
在机器学习领域,存在工程和策略协同工作的情况。这是因为机器学习包含两部分内容:一、线下模型训练和模型迭代;二、将产出的模型部署成线上服务。这两部分内容的协同工作构成了完整的机器学习。而这两部分内容的侧重点不一样,模型训练侧重于高效的模型产出,算法的选型和评测。因此对于训练代码的结构、程序的健壮性、扩展性都不做过多的考虑,一般都是野蛮生长模式,更注重产出的模型质量。而线上服务则像普通web服务一样,需要保证线上服务的高可用、高性能、易扩展,代码结构清晰易读。
目前的协同工作通常通过策略产出模型文件以及对应的模型前后处理代码,将其交付给工程人员,工程人员将此代码重构到工程服务中去,然后通过统一的评测数据评测模型的准确性。如果模型准确性有偏差,需要策略人员和工程人员协调分析,找到偏差点,解决处理。
发明内容
本公开的实施例提供了一种模型应用交互***、方法、计算机可读存储介质及电子设备。
本公开的实施例提供了一种模型应用交互***,该***包括:策略模块、工程模块、共用模块,其中,策略模块用于训练生成初始模型,策略模块还包括离线策略测评单元,离线策略测评单元用于对初始模型进行测评;共用模块用于对策略模块生成的初始模型进行处理,得到供工程模块使用的被调用模型;工程模块用于配置被调用模型以供用户使用;策略模块、工程模块和共用模块的技术栈一致,且策略模块与工程模块解耦。
在一些实施例中,工程模块包括控制单元和服务单元,其中,控制单元用于接收待利用被调用模型进行识别的待识别信息,以及对识别后得到的信息进行处理,服务单元用于从共用模块中提取被调用模型,利用被调用模型,对待识别信息执行预设功能。
在一些实施例中,被调用模型的数量为至少两个,服务单元还用于:
将至少两个被调用模型组装为完整模型,利用完整模型,对待识别信息执行预设功能。
在一些实施例中,共用模块包括模型封装单元,用于对初始模型进行封装,基于封装后的模型生成用于对工程模块输入的信息进行处理的被调用模型。
在一些实施例中,共用模块还包括模板匹配单元,用于设置被调用模型的模板匹配功能,以对封装后的模型输出的信息进行模板匹配。
在一些实施例中,共用模块还包括以下至少一种:数据后处理单元,用于设置所述被调用模型的信息转换功能,所述信息转换功能用于将匹配后信息转换为预设结构的结果数据;数据沉淀单元,用于设置被调用模型的数据存储功能,所述信息存储功能用于将结果数据和对应的待识别信息发送到预设的数据库中存储。
在一些实施例中,模型封装单元和模板匹配单元通过工厂模式实现。
在一些实施例中,工程模块还包括工程评测单元,用于对工程模块配置的被调用模型进行评测。
在一些实施例中,工程模块采用预设的模型服务组件加载被调用模型,并采用预设的接口为用户端提供服务;策略模块将初始模型加载成模型对象,并使用模型对象执行初始模型的功能。
根据本公开实施例的另一个方面,提供了一种模型应用交互方法,该方法包括:策略模块基于预设的训练样本,训练得到执行预设功能的初始模型;对初始模型进行测评,如果通过测评,将初始模型发送到共用模块;共用模块对初始模型进行处理,得到被调用模型并将被调用模型发送到工程模块;工程模块配置被调用模型以供用户使用。
在一些实施例中,所述工程模块配置所述被调用模型以供用户使用,包括:所述工程模块接收待利用被调用模型进行识别的待识别信息,以及对识别后得到的信息进行处理;从所述共用模块中提取被调用模型,利用所述被调用模型,对所述待识别信息执行预设功能。
在一些实施例中,所述被调用模型的数量为至少两个;以及所述从所述共用模块中提取被调用模型,利用所述被调用模型,对所述待识别信息执行预设功能,包括:所述工程模块将至少两个所述被调用模型组装为完整模型,利用所述完整模型,对所述待识别信息执行预设功能。
在一些实施例中,所述共用模块对所述初始模型进行处理,得到被调用模型并将所述被调用模型发送到工程模块,包括:所述共用模块对所述初始模型进行封装,基于封装后的模型生成用于对所述工程模块输入的信息进行处理的被调用模型。
在一些实施例中,所述共用模块对所述初始模型进行处理,得到被调用模型并将所述被调用模型发送到工程模块,还包括:所述共用模块设置所述被调用模型的模板匹配功能,以对所述封装后的模型输出的信息进行模板匹配。
在一些实施例中,该方法还包括:所述共用模块执行如下至少一个步骤:将匹配后信息转换为预设结构的结果数据;将结果数据和对应的待识别信息发送到预设的数据库中存储。
在一些实施例中,在所述工程模块配置所述被调用模型以供用户使用之后,所述方法还包括:所述工程模块对所述工程模块配置的被调用模型进行评测。
在一些实施例中,所述工程模块配置所述被调用模型以供用户使用,包括:所述工程模块采用预设的模型服务组件加载被调用模型,并采用预设的接口为用户端提供服务;在所述策略模块基于预设的训练样本,训练得到执行预设功能的初始模型之后,所述方法还包括:所述策略模块将所述初始模型加载成模型对象,并使用所述模型对象执行所述初始模型的功能。
根据本公开实施例的另一个方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序用于执行上述模型应用交互方法。
根据本公开实施例的另一个方面,提供了一种电子设备,电子设备包括:处理器;用于存储处理器可执行指令的存储器;处理器,用于从存储器中读取可执行指令,并执行指令以实现上述模型应用交互方法。
基于本公开上述实施例提供的模型应用交互***、方法、计算机可读存储介质及电子设备,通过将策略模块和工程模块解耦,对策略模块和工程模块解耦的修改互相不影响,提高模型部署的效率。通过设置共用模块,为策略模块和工程模块提供沟通的中间服务,共用模块可以由策略模块和工程模块共同维护,为策略模块和工程模块的修改提供了便利,并降低了修改代码出现问题的概率。通过设置策略评测单元,可以使策略模块随时随地做服务测评,不用像工程那样启动笨重的应用中间件进行测评,提高了模型测评的效率。通过统一技术栈可以使策略和工程使用同一套代码协同开发,为解决项目异构打基础,同时也能提升策略人员和工程人员的沟通效率,提高开发效率。
下面通过附图和实施例,对本公开的技术方案做进一步的详细描述。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是本公开一示例性实施例提供的模型应用交互***的结构图。
图2是本公开另一示例性实施例提供的模型应用交互***的结构图。
图3是本公开一示例性实施例提供的模型应用交互方法的流程图。
图4是本公开一示例性实施例提供的电子设备的结构图。
具体实施方式
下面,将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。
应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。
还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
另外,本公开中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。
还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本公开实施例可以应用于终端设备、计算机***、服务器等电子设备,其可与众多其它通用或专用计算***环境或配置一起操作。适于与终端设备、计算机***、服务器等电子设备一起使用的众所周知的终端设备、计算***、环境和/或配置的例子包括但不限于:个人计算机***、服务器计算机***、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的***、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机***、大型计算机***和包括上述任何***的分布式云计算技术环境,等等。
终端设备、计算机***、服务器等电子设备可以在由计算机***执行的计算机***可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机***/服务器可以在分布式云计算环境中实施,分布式云计算环境中,任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算***存储介质上。
申请概述
目前的协同工作方式有以下几点问题:
1、大量的重复工作。策略人员代码产出后还需要工程人员读懂代码,并将其重构成线上服务风格的代码。此过程对于工程人员来说耗时大、有效产出低。
2、模型和代码的交付一般通过文件来交付,没有严格的控制,极易出现漏交、错交的问题。而且交付后,工程人员解读重构的过程中极易引入偏差,导致测评结果不一致。
3、偏差排查较为困难,耗时极大,大大降低整个工作效率。比如交付的是python代码,而工程使用c++作为技术栈,此时因为技术栈的不一样,极易导致代码理解错误。
示例性***
图1示出了可以应用本公开的实施例的模型应用交互***的示例性***架构100。
如图1所示,***架构100可以包括策略模块101、工程模块102、共用模块103。策略模块101、工程模块102、共用模块103可以设置在至少一台电子设备上。例如,策略模块101、工程模块102、共用模块103可以分别设置在不同的电子设备上,这些电子设备通过网络连接。再例如,策略模块101、工程模块102、共用模块103可以是设置在同一电子设备上的实现各自功能的模块。需要说明的是,上述模块可以为软件模块、硬件模块或软硬件相结合的模块。上述电子设备可以,包括但不限于服务器、笔记本电脑、台式计算机、PAD(平板电脑)等等的各种设备。
上述策略模块101用于训练生成初始模型。初始模型可以是实现各种功能的模型,例如图像识别模型、文字识别模型、语音识别模型等。通常,策略模块101可以预先收集训练样本,基于机器学习方法,使用训练样本训练得到上述初始模型。
策略模块101还包括离线策略测评单元1011,离线策略测评单元1011用于对初始模型进行测评。测评内容可以包括但不限于测试模型的识别准确性、执行效率、执行稳定性等。离线策略评测单元在测评时处于离线状态,即实现了将评测与工程应用完全解耦,即可以随时随地对模型进行测评,不用像工程那样启动笨重的应用中间件。
共用模块103用于对策略模块101生成的初始模型进行处理,得到供工程模块102使用的被调用模型。其中,对初始模型进行处理的方式可以包括多种,例如,对初始模型进行封装、调整模型的调用方式、设置被调用模型更多的功能等。共用模块103可以同时被策略模块101和工程模块102调用,策略模块101得到训练后的模型后,发送到共用模块103,由共用模块103对模型进行处理,而无需策略模块101参与,共用模块103生成的被调用模型提交给工程模块102,有工程模块102将被调用模型部署到线上。
工程模块102用于配置被调用模型以供用户使用。具体地,工程模块102可以提供服务入口,并对待进行的服务进行调度,即提取实现预设功能的被调用模型。
策略模块101、工程模块102和共用模块103的技术栈一致,且策略模块101与工程模块102解耦。其中,技术栈是指为实上述***的功能而采用的各种技术的组合。作为示例,上述各模块均使用python作为主栈开发语言,使用tensorflow或pytorch作为训练框架。使用flask做服务框架(工程模块102使用flask做web服务,策略模块101使用flask-script做cli服务),统一python版本和依赖库版本,保证环境完全一致。
通常,策略模块101在离线状态下工作,工程模块102在在线状态下工作,从而使策略模块101和工程模块102解耦,即修改策略模块101的代码不影响工程服务,修改工程模块102的代码不影响策略测评。
本公开的上述实施例提供的***,通过将策略模块101和工程模块102解耦,对策略模块101和工程模块102解耦的修改互相不影响,提高模型部署的效率。通过设置共用模块103,为策略模块101和工程模块102提供沟通的中间服务,共用模块103可以由策略模块101和工程模块102共同维护,为策略模块101和工程模块102的修改提供了便利,并降低了修改代码出现问题的概率。通过设置策略评测单元,可以使策略模块101随时随地做服务测评,不用像工程那样启动笨重的应用中间件进行测评,提高了模型测评的效率。通过统一技术栈可以使策略和工程使用同一套代码协同开发,为解决项目异构打基础,同时也能提升策略人员和工程人员的沟通效率,提高开发效率。
在一些可选的实现方式中,如图2所示,工程模块102可以包括控制单元1021和服务单元1022,其中,控制单元1021用于接收待利用被调用模型进行识别的待识别信息,以及对识别后得到的信息进行处理。服务单元1022用于从共用模块103中提取被调用模型,利用被调用模型,对待识别信息执行预设功能。
具体地,控制单元1021是服务入口,包含执行预设功能(例如图像识别、语音识别等)需要的参数信息以及将执行预设功能后返回的信息做进一步处理(例如字段正则、异常兼容等)。即控制单元1021属于一个调度层,决定此次执行预设功能应该调用服务单元1022的哪些服务。服务单元1022根据控制单元1021的指示,从共用模块103中提取被调用模型以执行相应的服务。
作为示例,当上述***应用于身份证识别服务时,控制单元1021会构建一个服务方法,该方法需要接收一个待识别的图片信息,然后调用服务单元1022中的图片识别服务做信息识别,图片识别服务可以利用图片识别模型进行信息识别,接着控制单元1021将识别得到的信息做字段正则、异常兼容等处理。
本实现方式通过在工程模块102设置控制单元1021和服务单元1022,可以有针对性地接收待识别信息以及对待识别信息执行相应的预设功能,进一步提高利用被调用模型在线执行预设功能的效率。
在一些可选的实现方式中,被调用模型的数量为至少两个,服务单元1022还用于:将至少两个被调用模型组装为完整模型,利用完整模型,对待识别信息执行预设功能。即服务单元1022用于进行服务组装,将共同维护的底层服务模块组装成一个完整的功能模块。比如一个识别服务,需要调用的被调用模型包括摆正模型、检测模型和识别模型,服务单元1022将这三种被调用模型组装成一个完整的功能模块,将待识别信息输入该功能模块,可以输出识别结果。
本实现方式通过将至少两个被调用模型组装为完整模型,可以降低服务单元1022的结构的复杂性,有助于提高执行预设功能的效率。
在一些可选的实现方式中,如图2所示,共用模块103包括模型封装单元1031,用于对初始模型进行封装,基于封装后的模型生成用于对工程模块102输入的信息进行处理的被调用模型。
具体地,模型封装单元1031可以将初始模型所需的前后数据处理方法以及参数格式处理方法封装成被调用模型,方便不同的上游调用。例如,统一初始模型输入输出数据的格式,同时支持多种模型调用方式(例如TF-serving方式、load_model方式等)。共用模块103可以将封装后的模型作为被调用模型,也可以对封装后的
作为示例,当初始模型为身份证识别模型时,可以将身份证识别模型和前后处理方法统一封装成一个用于进行身份证识别的被调用模型。例如输入为224*224*3大小的图片,输出为对应的文本。模型封装单元1031隐藏其他具体实现细节。上游只需要传固定规格的参数,同时指示模型封装单元1031使用何种模型调用方式(例如load_model、TF-serving等)即可。
共用模块103可以将封装后的模型作为被调用模型,也可以对封装后的模型进行进一步处理(例如增加目标匹配功能),得到被调用模型。
本实现方式通过在共用模块103中设置模型封装单元1031,可以隐藏使用初始模型的具体实现细节,使被调用模型更易使用,便于策略模块101的使用人员和工程模块102的使用人员的操作。
在一些可选的实现方式中,如图2所示,共用模块103还包括模板匹配单元1032,用于设置被调用模型的模板匹配功能,以对封装后的模型输出的信息进行模板匹配。
具体地,模板匹配是一种通用结构化数据的方式。例如,图片中所有信息识别出来后,需要正确地确定各种信息之间的对应关系。比如识别出几个文本信息:“姓名”、“性别”、“男”、“张三”。如何将“姓名”和“张三”对应上,就需要找到图片中文本对应关系,模板匹配就是将图片的内容提前做成模板,识别出来后使用模板套出文本之间的关系。
模板匹配单元1032可以在上述封装后的模型的基础上,使被调用模型增加模板匹配功能,使被调用模型处理更多的数据,丰富被调用模型的功能,提高工程模块102使用被调用模型的效率。
在一些可选的实现方式中,如图2所示,共用模块103还包括以下至少一种:
数据后处理单元1033,用于设置被调用模型的信息转换功能,信息转换功能用于将匹配后信息转换为预设结构的结果数据;
数据沉淀单元1034,用于设置被调用模型的数据存储功能,信息存储功能用于将结果数据和对应的待识别信息(例如图片、音频等信息)发送到预设的数据库中存储。
上述预设结构的结果数据可以是符合设定的数据结构的数据,结果数据的结构更加严谨。例如对待识别信息进行识别后得到的数据不完整,可以自动填补缺少的数据,使结果数据更加完整,便于被调用。上述预设的数据库中由于存储了互相对应的待识别信息和结果数据,可以便于后续进行识别效果分析,有助于调整模型参数,提高模型的识别精度。
在一些可选的实现方式中,模型封装单元1031和模板匹配单元1032通过工厂模式实现。具体地,工厂模式(Factory Pattern)是面向对象程序设计语言中常用的设计模式之一。这种类型的设计模式属于创建型模式,它提供了一种创建对象的最佳方式。该模式的调用方式简单,如果要创建一个对象,只要知道其名称即可;扩展性高,如果想增加一个产品,只要扩展一个工厂类即可;可以屏蔽产品的具体实现,调用者只关心产品的接口。本实现方式通过使用工厂模式,可以简化被调用模型的调用方式,提高***的使用便利性,有助于提高***开发效率。
在一些可选的实现方式中,如图2所示,工程模块102还包括工程评测单元1023,用于对工程模块102配置的被调用模型进行评测。工程测评单元1023可以对在线服务进行测评,有助于及时调整被调用模型的参数,提高被调用模型的识别精度。
在一些可选的实现方式中,工程模块102采用预设的模型服务组件加载被调用模型,并采用预设的接口为用户端提供服务。
具体地,对于工程模块102来说,需要使用一个单独的模型服务,比如(TensorFlow-serving)。通过该模型服务来加载模型文件,然后以接口(例如restful、grpc等)的方式提供服务。然后在模型调用中,将grpc或restful调用封装成call()方法。
策略模块101将初始模型加载成模型对象,并使用模型对象执行初始模型的功能。
具体地,对于策略模块101,上述模型服务的复杂性太高,可以直接借助于Python中的第三方类库的model_load方法,直接将模型文件加载成一个model对象,然后使用此对象的predict方法做模型推理。此方法简单,可以提高策略模块101进行模型测评的效率。
本实现方式通过对策略模块101和工程模块102设置不同的模型调用方式,可以有针对性地对策略模块101和工程模块102提供模型服务,提高模型执行的效率和准确性。
示例性方法
图3是本公开一示例性实施例提供的模型应用交互方法的流程示意图。本实施例可应用在如图1所示的模型应用交互***,如图3所示,该方法包括如下步骤:
步骤301,策略模块基于预设的训练样本,训练得到执行预设功能的初始模型。
在本实施例中,初始模型可以是实现各种功能的模型,例如图像识别模型、文字识别模型、语音识别模型等。通常,策略模块可以预先收集训练样本,基于机器学习方法,使用训练样本训练得到上述初始模型。
步骤302,策略模块对初始模型进行测评,如果通过测评,将初始模型发送到共用模块。
在本实施例中,策略模块可以对初始模型进行测评。测评内容可以包括但不限于测试模型的识别准确性、执行效率、执行稳定性等。离线策略评测单元在测评时处于离线状态,即实现了将评测与工程应用完全解耦,即可以随时随地对模型进行测评,不用像工程那样启动笨重的应用中间件。
当测评结果符合相应的预设条件时,确定通过测评,例如,当识别准确率大于预设准确率阈值时确定测评通过。
步骤303,共用模块对初始模型进行处理,得到被调用模型并将被调用模型发送到工程模块。
在本实施例中,对初始模型进行处理的方式可以包括多种,例如,对初始模型进行封装、调整模型的调用方式、设置被调用模型更多的功能等。共用模块可以同时被策略模块和工程模块调用,策略模块得到训练后的模型后,发送到共用模块,由共用模块对模型进行处理,而无需策略模块参与,共用模块生成的被调用模型提交给工程模块,有工程模块将被调用模型部署到线上。
步骤304,工程模块配置被调用模型以供用户使用。
在本实施例中,工程模块可以提供服务入口,并对待进行的服务进行调度,即提取实现预设功能的被调用模型。
本公开的上述实施例提供的方法,通过共用模块为策略模块和工程模块提供沟通的中间服务,共用模块可以由策略模块和工程模块共同维护,为策略模块和工程模块的修改提供了便利,并降低了修改代码出现问题的概率。通过在测量模块对初始模型进行评测,可以使策略模块随时随地做服务测评,不用像工程那样启动笨重的应用中间件进行测评,提高了模型测评的效率。
在一些可选的实现方式中,在步骤304中,工程模块还可以接收待利用被调用模型进行识别的待识别信息,以及对识别后得到的信息进行处理。然后从共用模块中提取被调用模型,利用被调用模型,对待识别信息执行预设功能。
在一些可选的实现方式中,被调用模型的数量为至少两个,在步骤304中,工程模块还可以将至少两个被调用模型组装为完整模型,利用完整模型,对待识别信息执行预设功能。
在一些可选的实现方式中,在步骤303中,共用模块还可以对初始模型进行封装,基于封装后的模型生成用于对工程模块输入的信息进行处理的被调用模型。
在一些可选的实现方式中,在步骤303中,共用模块还可以设置被调用模型的模板匹配功能,以对封装后的模型输出的信息进行模板匹配。
在一些可选的实现方式中,在步骤303之后,共用模块还可以执行如下至少一个步骤:
步骤一,将匹配后信息转换为预设结构的结果数据。
步骤二,将结果数据和对应的待识别信息发送到预设的数据库中存储。
在一些可选的实现方式中,在步骤304中或之后,工程模块还可以对工程模块配置的被调用模型进行评测。
在一些可选的实现方式中,在步骤304中,工程模块可以采用预设的模型服务组件加载被调用模型,并采用预设的接口为用户端提供服务;
在步骤301之后,策略模块可以将初始模型加载成模型对象,并使用模型对象执行初始模型的功能。
示例性电子设备
下面,参考图4来描述根据本公开实施例的电子设备。图4图示了根据本公开实施例的电子设备的框图。
如图4所示,电子设备400包括一个或多个处理器401和存储器402。
处理器401可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备400中的其他组件以执行期望的功能。
存储器402可以包括一个或多个计算机程序产品,计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器401可以运行程序指令,以实现上文的本公开的各个实施例的模型应用交互方法以及/或者其他期望的功能。在计算机可读存储介质中还可以存储诸如训练样本、待识别信息等各种内容。
在一个示例中,电子设备400还可以包括:输入装置403和输出装置404,这些组件通过总线***和/或其他形式的连接机构(未示出)互连。
例如,该输入装置403可以是鼠标、键盘、麦克风等设备。
该输出装置404可以向外部输出各种信息,包括被调用模型、模型输出的信息等。该输出设备404可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图4中仅示出了该电子设备400中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备400还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的模型应用交互方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的模型应用交互方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于***实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本公开实施为记录在记录介质中的程序,这些程序包括用于实现根据本公开的方法的机器可读指令。因而,本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (10)
1.一种模型应用交互***,包括:策略模块、工程模块、共用模块,其中,所述策略模块用于训练生成初始模型,所述策略模块还包括离线策略测评单元,所述离线策略测评单元用于对所述初始模型进行测评;所述共用模块用于对所述策略模块生成的初始模型进行处理,得到供所述工程模块使用的被调用模型;所述工程模块用于配置所述被调用模型以供用户使用;
所述策略模块、所述工程模块和所述共用模块的技术栈一致,且所述策略模块与所述工程模块解耦。
2.根据权利要求1所述的***,其中,所述工程模块包括控制单元和服务单元,其中,所述控制单元用于接收待利用所述被调用模型进行识别的待识别信息,以及对识别后得到的信息进行处理,所述服务单元用于从所述共用模块中提取被调用模型,利用所述被调用模型,对所述待识别信息执行预设功能。
3.根据权利要求2所述的***,其中,所述被调用模型的数量为至少两个,所述服务单元还用于:
将至少两个所述被调用模型组装为完整模型,利用所述完整模型,对所述待识别信息执行预设功能。
4.根据权利要求1所述的***,其中,所述共用模块包括模型封装单元,用于对所述初始模型进行封装,基于封装后的模型生成用于对所述工程模块输入的信息进行处理的被调用模型。
5.根据权利要求4所述的***,其中,所述共用模块还包括模板匹配单元,用于设置所述被调用模型的模板匹配功能,以对所述封装后的模型输出的信息进行模板匹配。
6.根据权利要求5所述的***,其中,所述共用模块还包括以下至少一种:
数据后处理单元,用于设置所述被调用模型的信息转换功能,所述信息转换功能用于将所述匹配后信息转换为预设结构的结果数据;
数据沉淀单元,用于设置被调用模型的数据存储功能,所述信息存储功能用于将所述结果数据和对应的待识别信息发送到预设的数据库中存储。
7.根据权利要求1-6之一所述的***,其中,所述工程模块采用预设的模型服务组件加载所述被调用模型,并采用预设的接口为用户端提供服务;
所述策略模块将所述初始模型加载成模型对象,并使用所述模型对象执行所述初始模型的功能。
8.一种模型应用交互方法,所述方法包括:
策略模块基于预设的训练样本,训练得到执行预设功能的初始模型;对所述初始模型进行测评,如果通过所述测评,将所述初始模型发送到共用模块;
所述共用模块对所述初始模型进行处理,得到被调用模型并将所述被调用模型发送到工程模块;
所述工程模块配置所述被调用模型以供用户使用。
9.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于实现上述权利要求8所述的方法的功能。
10.一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求8所述的方法的功能。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011144653.9A CN112230898A (zh) | 2020-10-23 | 2020-10-23 | 模型应用交互***、方法、可读存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011144653.9A CN112230898A (zh) | 2020-10-23 | 2020-10-23 | 模型应用交互***、方法、可读存储介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112230898A true CN112230898A (zh) | 2021-01-15 |
Family
ID=74110040
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011144653.9A Pending CN112230898A (zh) | 2020-10-23 | 2020-10-23 | 模型应用交互***、方法、可读存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112230898A (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160148115A1 (en) * | 2014-11-26 | 2016-05-26 | Microsoft Technology Licensing | Easy deployment of machine learning models |
CN108804630A (zh) * | 2018-05-31 | 2018-11-13 | 江苏运时数据软件股份有限公司 | 一种面向行业应用的大数据智能分析服务*** |
CN109343857A (zh) * | 2018-08-22 | 2019-02-15 | 中国平安人寿保险股份有限公司 | 线上部署机器学习模型的方法、设备和存储介质 |
CN109685160A (zh) * | 2019-01-18 | 2019-04-26 | 创新奇智(合肥)科技有限公司 | 一种在线模型自动训练及部署方法及*** |
CN111310934A (zh) * | 2020-02-14 | 2020-06-19 | 北京百度网讯科技有限公司 | 一种模型生成方法、装置、电子设备和存储介质 |
CN111324379A (zh) * | 2020-01-15 | 2020-06-23 | 携程旅游网络技术(上海)有限公司 | 基于通用soa服务的模型部署*** |
CN111527499A (zh) * | 2017-11-22 | 2020-08-11 | 亚马逊技术股份有限公司 | 提供商网络中的机器学习模型的基于动态准确度的部署和监测 |
CN111612158A (zh) * | 2020-05-22 | 2020-09-01 | 云知声智能科技股份有限公司 | 模型部署方法、装置、设备和存储介质 |
-
2020
- 2020-10-23 CN CN202011144653.9A patent/CN112230898A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160148115A1 (en) * | 2014-11-26 | 2016-05-26 | Microsoft Technology Licensing | Easy deployment of machine learning models |
CN111527499A (zh) * | 2017-11-22 | 2020-08-11 | 亚马逊技术股份有限公司 | 提供商网络中的机器学习模型的基于动态准确度的部署和监测 |
CN108804630A (zh) * | 2018-05-31 | 2018-11-13 | 江苏运时数据软件股份有限公司 | 一种面向行业应用的大数据智能分析服务*** |
CN109343857A (zh) * | 2018-08-22 | 2019-02-15 | 中国平安人寿保险股份有限公司 | 线上部署机器学习模型的方法、设备和存储介质 |
CN109685160A (zh) * | 2019-01-18 | 2019-04-26 | 创新奇智(合肥)科技有限公司 | 一种在线模型自动训练及部署方法及*** |
CN111324379A (zh) * | 2020-01-15 | 2020-06-23 | 携程旅游网络技术(上海)有限公司 | 基于通用soa服务的模型部署*** |
CN111310934A (zh) * | 2020-02-14 | 2020-06-19 | 北京百度网讯科技有限公司 | 一种模型生成方法、装置、电子设备和存储介质 |
CN111612158A (zh) * | 2020-05-22 | 2020-09-01 | 云知声智能科技股份有限公司 | 模型部署方法、装置、设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10642913B2 (en) | Intent and bot based query guidance | |
CN111399853B (zh) | 机器学习模型与自定义算子的模板化部署方法 | |
AU2018360802B2 (en) | System and method for a blockchain-based network transitioned by a legal contract | |
CN112015396B (zh) | 基于dsl的智能合约代码生成方法、装置、设备及存储介质 | |
US20140100910A1 (en) | System and Method for Audits with Automated Data Analysis | |
US20100146479A1 (en) | Architecture view generation method and system | |
US20060265469A1 (en) | XML based scripting framework, and methods of providing automated interactions with remote systems | |
US20200233793A1 (en) | Behavior driven development test framework for application programming interfaces and webservices | |
WO2015199748A1 (en) | Rest service source code generation | |
WO2018210096A1 (zh) | 一种基于规则引擎的规则配置方法、终端、设备以及存储介质 | |
CN114217887A (zh) | 微服务编排方法、执行方法、装置及服务器 | |
CN113971110A (zh) | 接口测试方法、装置、设备与计算机可读存储介质 | |
CN114238381A (zh) | 数据质量校验方法、设备及计算机可读存储介质 | |
CN111190750B (zh) | 一种数据处理方法以及*** | |
CN114745449B (zh) | 一种报文处理方法及装置、存储介质及电子设备 | |
CN116911588A (zh) | 业务流程执行方法、装置、设备及存储介质 | |
CN109376076A (zh) | 一种用于集成***的测试方法及装置 | |
CN113721898A (zh) | 机器学习模型部署方法、***、计算机设备及存储介质 | |
CN115525534A (zh) | 基于swagger的接口测试的测试用例生成方法、生成平台 | |
CN112230898A (zh) | 模型应用交互***、方法、可读存储介质及电子设备 | |
CN111506305A (zh) | 工具包生成方法、装置、计算机设备及可读存储介质 | |
Mayer et al. | On the applicability of workflow management systems for the preservation of business processes | |
CN112035650A (zh) | 信息处理方法、装置、计算机可读存储介质及电子设备 | |
CN110502483B (zh) | 数据处理方法、装置、计算机设备和存储介质 | |
CN113609026A (zh) | 对服务器进行压力测试的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |