CN112817635B - 一种模型处理方法和数据处理*** - Google Patents

Abstract

本发明提供一种模型处理方法和数据处理***，涉及大数据处理领域，该模型处理方法包括：获取待发布的模型，以及用于模型发布的目标端口；基于所述模型发布的目标端口将所述待发布的模型发布为模型服务。本发明实施例模型发布为模型服务的实现过程简单便捷，提高模型发布效率。

Description

一种模型处理方法和数据处理***

技术领域

本发明涉及数据处理技术领域，尤其涉及一种模型处理方法和数据处理***。

背景技术

随着社会信息化和智能化水平提高，使用大数据***训练业务模型，并使用训练好的业务模型实现大数据业务智能化处理也逐渐成为大数据行业的通用手段。通常模型进行部署后才可以供用户使用，然而现有的模型部署实现过程复杂，对于数据分析处理***的资源等要求高。

发明内容

本发明实施例提供一种模型处理方法和数据处理***，可以解决现有方案中模型发布过程复杂，对数据处理***要求高的问题。

为解决上述技术问题，本发明提供一种模型处理方法，所述模型处理方法包括：

获取待发布的模型，以及用于模型发布的目标端口；

基于所述模型发布的目标端口将所述待发布的模型发布为模型服务。

可选的，上述模型处理方法中，所述获取待发布的模型，以及用于模型发布的目标端口的步骤包括：

获取已发布模型的运行状态；

根据所述已发布模型的运行状态确定当前使用的模型发布端口；

根据当前使用的模型发布端口和端口配置信息，确定模型发布的所述目标端口。

可选的，上述模型处理方法中，所述获取待发布的模型的步骤包括：

显示模板模型列表；

基于第一选择操作从所述模板模型列表中确定目标模型；

将第一模型文件导入到选择的所述目标模型中，得到所述待发布的模型。

可选的，上述模型处理方法中，所述方法还包括：

获取配置的模型描述信息；

基于所述模型描述信息生成模板模型。

可选的，上述模型处理方法中，在将第一模型文件导入到选择的所述目标模型中之前，所述方法包括，

确定第一模型文件类型与目标模型支持的文件类型是否匹配；

若匹配，则将第一模型文件导入到选择的所述目标模型中。

可选的，上述模型处理方法中，所述将第一模型文件导入到选择的所述目标模型中的步骤在之后，所述方法还包括：

获取所述第一模型文件的标识；

根据所述标识，检测所述目标模型中与所述标识对应的第二模型文件，得到检测结果；

基于所述检测结果，确定所述待发布模型的版本号。

可选的，上述模型处理方法中，所述根据当前使用的模型发布端口和端口配置信息，确定模型发布的所述目标端口的步骤包括：

显示根据当前使用的模型发布端口和端口配置信息确定的至少一个候选发布端口；

基于选择操作从所述至少一个候选发布端口中确定至少一个目标端口；

所述基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤包括：

基于所述至少一个目标端口，将所述待发布的模型发布为至少一个模型服务。

可选的，上述模型处理方法中，所述基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤之后，所述方法还包括：

获取所述模型服务的元信息，

基于所述模型服务的元信息，配置所述模型服务的调用地址。

可选的，上述模型处理方法中，所述模型服务的元信息包括模型服务版本信息，所述基于所述模型服务的元信息，配置所述模型服务的调用地址的步骤包括：

为所述模型服务版本信息相同的至少两个模型服务，配置一个调用地址。

可选的，上述模型处理方法中，所述基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤之后，所述方法还包括：

响应于第二选择操作，确定所述第二选择操作指示的发布模型为待测试模型；

基于所述待测试模型，确定所述待测试模型对应的模型服务；

运行所述模型服务进行测试。

可选的，上述模型处理方法中，所述基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤之后，所述方法还包括：

响应于第三选择操作，确定所述第三选择操作指示的发布模型为待评估模型；

基于所述待评估模型，确定所述待评估模型对应的模型服务；

基于所述待评估模型的类型确定评估方法；

基于所述评估方法运行所述模型服务进行评估。

可选的，上述模型处理方法还包括：

响应于第四选择操作，确定所述第四选择操作指示的模型为待迁移模型；

基于所述待迁移模型的模型描述信息生成预设文件；

基于所述待迁移模型的模型文件以及所述预设文件对所述待迁移模型进行模型迁移。

本发明提供一种数据处理***，所述数据处理***包括：

模型管理模块，用于获取待发布的模型，以及用于模型发布的目标端口；

模型服务模块，用于基于所述模型发布的目标端口将所述待发布的模型发布为模型服务。

可选的，上述数据处理***还包括：

模型监控模块，用于获取已发布模型的运行状态；根据所述已发布模型的运行状态确定当前使用的模型发布端口；

所述模型管理模块还用于接收所述模型监控模块发送的当前使用的模型发布端口，根据当前使用的模型发布端口和端口配置信息，确定模型发布的所述目标端口。

可选的，上述数据处理***中，所述模型管理模块还包括：

第一显示子模块，用于显示模板模型列表；

第一确定子模块，用于基于第一选择操作从所述模板模型列表中确定目标模型；

第一生成子模块，用于将第一模型文件导入到选择的所述目标模型中，得到所述待发布的模型。

可选的，上述数据处理***中，所述模型管理模块还包括：

第一获取子模块，用于获取配置的模型描述信息；

第二生成子模块，用于基于所述模型描述信息生成模板模型。

可选的，上述数据处理***中，所述模型管理模块还包括：

校验子模块，用于在将第一模型文件导入到选择的所述目标模型中之前，确定第一模型文件类型与目标模型支持的文件类型是否匹配；若匹配，则将第一模型文件导入到选择的所述目标模型中。

可选的，上述数据处理***中，所述模型管理模块还包括：

第二获取子模块，用于获取所述第一模型文件的标识；

检测子模块，用于根据所述标识，检测所述目标模型中与所述标识对应的第二模型文件，得到检测结果；

第二确定子模块，用于基于所述检测结果，确定所述待发布模型的版本号。

可选的，上述数据处理***中，所述模型管理模块还包括：

第二显示子模块，用于显示根据当前使用的模型发布端口和端口配置信息确定的至少一个候选发布端口；

选择子模块，用于基于选择操作从所述至少一个候选发布端口中确定至少一个目标端口；

所述模型服务模块还包括：

发布子模块，用于基于所述至少一个目标端口，将所述待发布的模型发布为至少一个模型服务。

可选的，上述数据处理***还包括：

获取模块，用于获取所述模型服务的元信息，

配置模块，用于基于所述模型服务的元信息，配置所述模型服务的调用地址。

可选的，上述数据处理***中，所述模型服务的元信息包括模型服务版本信息，所述配置模块还用于：

为所述模型服务版本信息相同的至少两个模型服务，配置一个调用地址。

可选的，上述数据处理***还包括：

第三确定模块，用于响应于第二选择操作，确定所述第二选择操作指示的发布模型为待测试模型；

第一生成模块，用于基于所述待测试模型，确定所述待测试模型对应的模型服务；

测试模块，用于运行所述模型服务进行测试。

可选的，上述数据处理***还包括：

第四确定模块，用于响应于第三选择操作，确定所述第三选择操作指示的发布模型为待评估模型

第五确定模块，用于基于所述待评估模型，确定所述待评估模型对应的模型服务；

第六确定模块，用于基于所述待评估模型的类型确定评估方法；

评估模块，用于基于所述评估方法运行所述模型服务进行评估。

可选的，上述数据处理***还包括：

第七确定模块，用于响应于第四选择操作，确定所述第四选择操作指示的模型为待迁移模型；

第二生成模块，用于基于所述待迁移模型的模型描述信息生成预设文件；

迁移模块，用于基于所述待迁移模型的模型文件以及所述预设文件对所述待迁移模型进行模型迁移。

本发明还提供一种数据处理***，其包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如上述的模型处理方法的步骤。

本发明还提供一种计算机可读存储介质，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如上述模型处理方法的步骤。

本发明实施例通过为待发布模型提供模型发布端口，简化模型发布的实现过程，采用本发明提供的降低对数据处理***的要求，提高模型发布效率，且可实现模型服务的随时暂停和重新启动。

本发明实施例还可以对发布模型的实时监控，了解模型的运行状态和性能，从而可以监控释放出的模型发布端口，进一步准确了解可使用的模型发布端口。

本发明实施例还可以将同一模型文件对应的模型可以发布为多个模型服务，并且同一模型不同版本可以独立发布为一个模型服务，实现负载均衡。

本发明实施例还支持模型从测试环境到生产环境的一键迁移，将模型的数据从测试环境导出，然后导入到生产环境中，不需要用户设置复杂的参数，降低操作复杂度。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对本发明实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获取其他的附图。

图1是本发明实施例提供的一种模型处理方法的流程图；

图2是本发明实施例提供的一种模型发布界面的示意图；

图3是本发明实施例提供的一种数据处理***的结构图；

图4是本发明实施例提供的一种模型服务发布架构的示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获取的所有其他实施例，都属于本发明保护的范围。

参见图1，图1是本发明实施例提供的模型处理方法的流程图，所述模型处理方法应用于数据处理***，如图1所示，所述模型处理方法包括以下步骤：

步骤101，获取待发布的模型，以及用于模型发布的目标端口。

步骤102，基于所述模型发布的目标端口将所述待发布的模型发布为模型服务。

结合针对上述步骤，具体进行阐释。

可选的，步骤101获取待发布的模型，以及用于模型发布的目标端口包括：显示模板模型列表；基于第一选择操作从所述模板模型列表中确定目标模型，将第一模型文件导入到选择的所述目标模型中，得到所述待发布的模型。

其中，模板模型至少包括：模板模型类型、模型名称、特征变量配置、目标特征变量配置等模型描述信息。

其中，导入的第一模型文件可以由用户从其他***中下载导入的或使用本***中已有的模型文件。

模型管理界面显示多个模板模型，用户可以从模型管理界面显示的多个模板模型选择目标模型，响应于导入操作，，将第一模型文件导入到该目标模型中，生成待发布的模型。其中，待发布模型中包括一个第一模型文件。

可选的，所述显示模板模型列表的步骤之前，所述方法还包括：

获取配置的模型描述信息；

基于所述模型描述信息生成模板模型

具体的，用户可以在数据处理***中创建模板模型。具体的，显示模型管理界面，响应于用户在模型管理界面的创建操作，显示模板模型创建界面，在模板模型创建界面输入的所述模板模型的模型描述信息，从而根据所述模型描述信息生成模板模型。

其中，模型描述信息包括但不限于下述至少之一：模板模型类型、模型名称、特征变量配置、目标特征变量配置。其中，特征变量配置包括：输入的字段名称、字段的描述、字段类型、是否允许空值的填充、是否允许缺失值的填充等。目标特征变量配置包括名称、字段的描述、字段类型等。其中，特征变量配置和目标特征变量配置支持以表格形式进行配置，也支持通过CSV形式进行配置。

需要说明的是，刚新建的模板模型为空模型，即该新建的模板模型中还没有模型文件，其只包含模型描述信息。

进一步的，用户还可以对模板模型进行编辑、删除、导出等操作。

可选的，

在将第一模型文件导入到选择的所述目标模型中之前，该方法还包括：

确定第一模型文件类型与目标模型支持的文件类型是否匹配；

若匹配，则将第一模型文件导入到选择的所述目标模型中。

具体的，导入第一模型文件之前，会根据选择的模板模型的类型对上传的模型文件进行校验，若上传的模型文件类型与选择的模板模型的类型匹配，则可以上传该模型文件，得到待发布的模型。。若上传的模型文件类型与选择的第一模型的类型不匹配，则该模型文件上传失败。示例性的，模板模型类型为pmml时，则上传的模型文件的后缀必须是pmml，否则模型文件上传失败。

可选的，在将第一模型文件导入到选择的所述目标模型中之前，该方法还包括：

获取所述第一模型文件的标识；

根据所述标识，检测所述目标模型中与所述标识对应的第二模型文件，得到检测结果；

基于所述检测结果，确定所述待发布模型的版本号。

另外，在上传模型文件之前，会对模型文件的标识进行对比，保证同一模型之下没有重复的模型文件存在。例如该标识可以是MD5值、哈希值等。具体的，获取第一模型文件标识，将该第一模型文件的标识与目标模型中已有的模型文件对应标识进行比较，若检测到与该一模型文件的标识对应的标识，则确定该第一模型文件已导入该目标模型中；若未检测到与该一模型文件的标识对应的标识，则确定该第一模型文件未导入该目标模型中，因此，将第一模型文件导入目标模型后得到的待发布模型为新版本，待发布的模型的版本号自动+1。通过上述方法，使得每次上传新的模型文件，生成的待发布的模型的版本号自动+1，无需用户设置。

需要说明的是，模型服务在模型版本的基础上进行发布，例如，如上传的模型文件为该第一模型的第7个模型文件，则使用该第7个模型文件进行发布的模型服务相当于第二模型的第7个版本进行发布；同时还可以使用已有版本进行模型服务发布(即原有的模型文件还可以进行发布)。

可选的，所述获取待发布用于模型发布的目标端口的步骤包括：

获取已发布模型的运行状态；

根据所述已发布模型的运行状态确定当前使用的模型发布端口；

根据当前使用的模型发布端口和端口配置信息，确定模型发布的所述目标端口。

其中，端口配置信息中至少包括用于模型发布的端口范围。

具体的，通过监控已发布模型的运行状态，获取当前使用的模型发布端口。从配置文件中获取模型发布端口范围，从而根据当前使用的模型发布端口情况以及对应的模型发布端口范围确定模型发布的目标端口。

其中，获取当前使用的模型发布端口可以是：从数据处理***中获取所有正在使用的模型服务端口；或者，可以基于用户选择的机器，选择与该机器对应的当前正在使用的模型服务端口。

可选的，所述根据当前使用的模型发布端口和端口配置信息，确定模型发布的所述目标端口的步骤包括：

显示根据当前使用的模型发布端口和端口配置信息确定的至少一个候选发布端口；

基于选择操作从所述至少一个候选发布端口中确定至少一个目标端口；

可选的，步骤102基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤包括：基于所述至少一个目标端口，将所述待发布的模型发布为至少一个模型服务。

具体的，图2所示，由用户在模型发布界面选择机器进行发布，如选择使用172.20.3.83进行发布，由该机器预置的端口配置信息和根据已发布模型的运行状态确定的当前端口使用情况二者共同来确定具体发布的端口。具体的，基于用户选择的机器172.20.3.83，从预置的端口配置信息中获取与该机器对应的模型发布端口范围，从而根据确定的当前端口使用情况以及该机器对应的模型发布端口范围确定至少一个发布端口。

基于上述这种发布方式，可以将同一版本的模型发布为多个模型服务，当需要处理的数据量比较大时，可以调用多个模型服务同时处理，实现负载均衡，可以实现实时处理，提高数据处理效率。

进一步的，在实现负载均衡时可以使用轮询的方式进行分配。即数据分配给多个模型服务的时候，会通过网关进行转发，具体可以为：首先网关gateway接收将模型服务调用请求，然后网关从数据管理***中获取已经发布的模型服务，从而将数据分配给对应的模型服务，从而实现负载均衡。

可选的是，步骤102基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤包括：获取待发布模型对应的模型发布信息；基于模型发布信息以及该目标端口进行模型服务发布。进一步的，得到该模型服务对应的模型服务地址。

其中，模型发布信息包括模型描述信息、模型文件信息、模型服务名称。其中，这里的模型描述信息即为该待发布模型对应的模板模型的描述信息；模型文件信息即为第一模型文件的信息，例如，第一模型文件的存储地址、第一模型文件名等。

另外，数据处理***还支持灰度发布，灰度发布是指在黑与白之间，能够平滑过渡的一种发布方式。灰度发布是增量发布的一种类型，灰度发布是在原有版本模型服务可用的情况下，同时部署一个新版本模型服务，采用灰度发布的新版本模型服务不会占据所有的数据，而是和原版模型服务一起以某种方式各自分配数据，进行效果的对比，即为同个模型在不同版本间的模型服务一同使用的分流方法。

可选的，在步骤102基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤之后，所述方法还包括：

获取所述模型服务的元信息，

基于所述模型服务的元信息，配置所述模型服务的调用地址。其中，所述模型服务的元信息包括模型服务版本信息，所述基于所述模型服务的元信息，配置所述模型服务的调用地址的步骤包括：为所述模型服务版本信息相同的至少两个模型服务，配置一个调用地址。

具体的，一个模型服务对应一个模型文件，模型服务版本信息与模型文件版本信息对应，模型服务的调用地址可以通过模型服务对应的模型文件的版本信息来生成的。使用同一模型文件发布的多个模型服务使用同一调用地址，即同一模型文件发布的多个模型服务对外暴露一个模型服务的调用地址。

本发明实施例通过为待发布模型提供模型发布端口，不需要使用容器，即可实现模型的发布，提高模型发布效率，且可实现模型服务的随时暂停和重新启动。

本发明实施例还可以将同一模型可以发布为多个模型服务，并且同一模型不同版本可以独立发布为一个模型服务，实现负载均衡。

可选的，本发明实施例提供的模型处理方法支持已发布模型的测试具体的，所述方法还包括：

响应于第二选择操作，确定所述第二选择操作指示的发布模型为待测试模型；

基于所述待测试模型，确定所述待测试模型对应的模型服务；

运行所述模型服务进行测试。

具体的，从数据处理***中选择待测试模型，基于用户选择待测试模型的模型版本信息，确定对应的模型服务，然后将根据模型创建时填充的输入特征填写的将要输入的特征发送给确定出的模型服务，运行所述模型服务进行测试。进一步的，在进行预测并返回之后，根据输出结果的配置名称在前端界面进行展示，即点击执行测试后，如果数据没有问题，模型文件可以使用数据进行预测在前端界面展示预测结果。如果测试结果有问题，显示相应的报错信息。

本发明实施例还可以对发布的模型服务的实时监控，了解模型的运行状态和性能，从而可以监控释放出的模型发布端口，进一步准确了解可使用的模型发布端口。对发布的模型服务的实时监控还包括：监控调用的频率tps，进行成功预测的个数，以及平均调用时间等。

可选的，本发明实施例提供的模型处理方法支持已发布模型的评估，具体的，所述方法还包括：

响应于第三选择操作，确定所述第三选择操作指示的发布模型为待评估模型；

基于所述待评估模型，确定所述待评估模型对应的模型服务；

基于所述待评估模型的类型确定评估方法；

基于所述评估方法运行所述模型服务进行评估。

具体的，从数据处理***中选择待评估模型，基于用户选择待测试模型的模型版本信息，确定对应的模型服务其中，评估文件包含进行预测的数据和实际结果，在数据处理***在进行评估之前，会根据选择的用于待评估模型的类型来选择对应的评估方法，然后基于选择的评估方法进行对应的评估，如分类模型会评估auc，召回率等，回归模型会评估均方根误差、r-squared等。进一步的，进行评估之前，还需要上传用于评估的评估文件，以便运行模型服务进行评估。其中，评估文件包含进行预测的数据和实际结果。

可选的，本发明实施例提供的模型处理方法支持对模型进行迁移，所述方法还包括：

响应于第四选择操作，确定所述第四选择操作指示的模型为待迁移模型；

基于所述待迁移模的模型描述信息生成预设文件；

基于所述待迁移模型的模型文件以及所述预设文件对所述待迁移模型进行模型迁移。

具体的，在创建模板模型时，会将模板模型的模型描述信息存储至数据库中。响应于模型迁移，从数据库中获取该模型对应的模型描述信息，并将这些信息导出生成预设文件，例如该预设文件可以是json格式的文件，同时导出模型文件(即模型的本体)。通过将模型的描述信息导出成json文件，可以直接将json文件和模型文件导入到生产环境中，由于json文件中包含模型的描述信息，因此用户不需要到再设置模型参数，数据处理***可以直接通过解析json文件获取模型的参数，实现模型在不同环境中之间的一键迁移，降低操作复杂度。模型迁移是将已部署的模型从一个环境迁移到另一个环境例如从测试环境到生产环境进行部署。

本发明实施例还支持模型从测试环境到生产环境的一键迁移，将模型服务的数据从测试环境导出，然后导入到生产环境中，不需要用户设置复杂的参数，降低操作复杂度。

基于以上实施例提供的模型处理方法，本发明实施例还提供了实施上述方法的数据处理***，请参照图3，本发明实施例提供的数据处理***300包括：

模型管理模块301，用于获取待发布的模型，以及用于模型发布的目标端口；

模型服务模块302，用于基于所述模型发布的目标端口将所述待发布的模型发布为模型服务。

所述模型管理模块包括端口配置信息和模型信息。

可选的，所述数据处理***还包括：

模型监控模块，用于获取已发布模型的运行状态；根据所述已发布模型的运行状态确定当前使用的模型发布端口；

所述模型管理模块还用于接收所述模型监控模块发送的当前使用的模型发布端口，根据当前使用的模型发布端口和端口配置信息，确定模型发布的所述目标端口。

示例性的，数据处理***中模型服务发布架构如图4所示。模型管理模块，所述模型管理模块中包括预置的端口配置信息以及模板模型，其中模拟模型内暂时无模型文件，所述端口配置信息中包括模型发布端口范围。所述模型管理模块中包括了对模板模型以及导入模板模型中的模型文件的管理操作，模板模型的管理包括创建、删除等操作，模型文件的管理包括文件的上传存储等操作。模型监控模块，用于监控已发布模型的运行状态，以及存储当前使用的模型发布端口。模型服务模块，用于将模型文件发布为模型服务，并且将模型服务的监控内容发送给模型监控模块。发布模型服务时，模型管理模块从模型监控模块中获取当前使用的模型发布端口，并且模型管理模块根据自身预置的模型发布端口范围和当前使用的模型发布端口，为当前待发布的模型文件分配模型发布端口，该模型服务模块基于该模型发布端口将该模型文件发布为模型服务。模型服务模块将模型服务的运行信息发送给监控模块。监控模块基于监测到的运行信息确定当前在使用的端口情况，并在模型管理模块发出请求时将当前使用的端口情况发送给模型管理模块。

用户在模型发布界面点击发布服务之后，可以选择集群中的一台机器进行模型服务的发布，发布过程为首先模型管理模块从模型监控模块获得已经创建了模型服务的端口，从而基于自身存储的该机器的模型发布端口范围以及获得所有已经创建了模型服务的端口筛选出可以发布新模型服务的所有端口，然后从中选择随机一个端口，并将该端口信息，以及待发布模型的模型发布信息发送给模型服务模块，模型服务模块基于端口信息和待发布模型的模型发布信息将模型发布为模型服务，并生成对应的模型服务地址。其中，待发布模型的模型发布信息包括：模型文件的地址、模型名称、模型服务名称等。模型文件的地址是模型文件保存的位置，在读取模型的时候建立连接，获取模型文件。

其中，模型管理模块从模型监控模块获得已经创建了模型服务的端口可以是：从模型监控模块获取所有正在使用的模型服务端口；或者，可以基于选择的机器，选择与该机器对应的当前正在使用的模型服务端口。

可选的，所述模型管理模块还包括：

第一显示子模块，用于显示模板模型列表；

第一确定子模块，用于基于第一选择操作从所述模板模型列表中确定目标模型；

第一生成子模块，用于将第一模型文件导入到选择的所述目标模型中，得到所述待发布的模型。

可选的，所述模型管理模块还包括：

第一获取子模块，用于获取配置的模型描述信息；

第二生成子模块，用于基于所述模型描述信息生成模板模型。

可选的，所述模型管理模块还包括：

校验子模块，用于在将第一模型文件导入到选择的所述目标模型中之前，确定第一模型文件类型与目标模型支持的文件类型是否匹配；若匹配，则将第一模型文件导入到选择的所述目标模型中。

可选的，所述模型管理模块还包括：

第二获取子模块，用于获取所述第一模型文件的标识；

检测子模块，用于根据所述标识，检测所述目标模型中与所述标识对应的第二模型文件，得到检测结果；

第二确定子模块，用于基于所述检测结果，确定所述待发布模型的版本号。

可选的，所述模型管理模块还包括：

第二显示子模块，用于显示根据当前使用的模型发布端口和端口配置信息确定的至少一个候选发布端口；

选择子模块，用于基于选择操作从所述至少一个候选发布端口中确定至少一个目标端口；

所述模型服务模块还包括：

发布子模块，用于基于所述至少一个目标端口，将所述待发布的模型发布为至少一个模型服务。

可选的，所述数据处理***还包括：

获取模块，用于获取所述模型服务的元信息，

配置模块，用于基于所述模型服务的元信息，配置所述模型服务的调用地址。

可选的，所述模型服务的元信息包括模型服务版本信息，所述配置模块还用于：

为所述模型服务版本信息相同的至少两个模型服务，配置一个调用地址。

可选的，所述数据处理***还包括：

第三确定模块，用于响应于第二选择操作，确定所述第二选择操作指示的发布模型为待测试模型；

第一生成模块，用于基于所述待测试模型，确定所述待测试模型对应的模型服务；

测试模块，用于运行所述模型服务进行测试。

可选的，所述数据处理***还包括：

第四确定模块，用于响应于第三选择操作，确定所述第三选择操作指示的发布模型为待评估模型

第五确定模块，用于基于所述待评估模型，确定所述待评估模型对应的模型服务；

第六确定模块，用于基于所述待评估模型的类型确定评估方法；

评估模块，用于基于所述评估方法运行所述模型服务进行评估。

可选的，所述数据处理***还包括：

第七确定模块，用于响应于第四选择操作，确定所述第四选择操作指示的模型为待迁移模型；

第二生成模块，用于基于所述待迁移模型的模型描述信息生成预设文件；

迁移模块，用于基于所述待迁移模型的模型文件以及所述预设文件对所述待迁移模型进行模型迁移。

本发明实施例提供一种数据处理***，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如上述实施例所述的模型处理方法的步骤。

本发明实施例提供一种计算机可读存储介质，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如上述实施例所述的模型处理方法的步骤。

本发明实施例还提供一种可读存储介质，可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述数据处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。其中，所述的计算机可读存储介质，如只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random Access Memory，简称RAM)、磁碟或者光盘等。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims (22)

1.一种模型处理方法，其特征在于，所述方法包括：

获取待发布的模型，以及用于模型发布的目标端口；

基于所述模型发布的目标端口将所述待发布的模型发布为模型服务；

所述基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤之后，所述方法还包括：

获取所述模型服务的元信息，

基于所述模型服务的元信息，配置所述模型服务的调用地址；

所述模型发布包括：由用户在模型发布界面选择机器进行发布，从预置的端口配置信息中获取与该机器对应的模型发布端口范围，从而根据确定的当前端口使用情况以及该机器对应的模型发布端口范围确定至少一个发布端口；并将所述发布端口信息，以及待发布模型的模型发布信息发送给模型服务模块，模型服务模块基于所述发布端口信息和待发布模型的模型发布信息将模型发布为模型服务。

2.根据权利要求1所述的模型处理方法，其特征在于，所述获取待发布的模型的步骤包括：

显示模板模型列表；

基于第一选择操作从所述模板模型列表中确定目标模型；

将第一模型文件导入到选择的所述目标模型中，得到所述待发布的模型。

3.根据权利要求2所述的模型处理方法，其特征在于所述方法还包括：

获取配置的模型描述信息；

基于所述模型描述信息生成模板模型。

4.根据权利要求2所述的模型处理方法，其特征在于，在将第一模型文件导入到选择的所述目标模型中之前，所述方法包括：

确定第一模型文件类型与目标模型支持的文件类型是否匹配；

若匹配，则将第一模型文件导入到选择的所述目标模型中。

5.根据权利要求4所述的模型处理方法，其特征在于，所述将第一模型文件导入到选择的所述目标模型中的步骤在之后，所述方法还包括：

获取所述第一模型文件的标识；

根据所述标识，检测所述目标模型中与所述标识对应的第二模型文件，得到检测结果；

基于所述检测结果，确定所述待发布模型的版本号。

6.根据权利要求1所述的模型处理方法，其特征在于，所述根据当前使用的模型发布端口和端口配置信息，确定模型发布的所述目标端口的步骤包括：

显示根据当前使用的模型发布端口和端口配置信息确定的至少一个候选发布端口；

基于选择操作从所述至少一个候选发布端口中确定至少一个目标端口；

所述基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤包括：

基于所述至少一个目标端口，将所述待发布的模型发布为至少一个模型服务。

7.根据权利要求1所述的模型处理方法，其特征在于，所述模型服务的元信息包括模型服务版本信息，所述基于所述模型服务的元信息，配置所述模型服务的调用地址的步骤包括：

为所述模型服务版本信息相同的至少两个模型服务，配置一个调用地址。

8.根据权利要求2所述的模型处理方法，其特征在于，所述基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤之后，所述方法还包括：

响应于第二选择操作，确定所述第二选择操作指示的发布模型为待测试模型；

基于所述待测试模型，确定所述待测试模型对应的模型服务；

运行所述模型服务进行测试。

9.根据权利要求2所述的模型处理方法，其特征在于，所述基于所述模型发布的目标端口将所述待发布的模型发布为模型服务的步骤之后，所述方法还包括：

响应于第三选择操作，确定所述第三选择操作指示的发布模型为待评估模型；

基于所述待评估模型，确定所述待评估模型对应的模型服务；

基于所述待评估模型的类型确定评估方法；

基于所述评估方法运行所述模型服务进行评估。

10.根据权利要求2所述的模型处理方法，其特征在于，所述方法还包括：

响应于第四选择操作，确定所述第四选择操作指示的模型为待迁移模型；

基于所述待迁移模型的模型描述信息生成预设文件；

基于所述待迁移模型的模型文件以及所述预设文件对所述待迁移模型进行模型迁移。

11.一种数据处理***，其特征在于，所述数据处理***包括：

模型管理模块，用于获取待发布的模型，以及用于模型发布的目标端口；

模型服务模块，用于基于所述模型发布的目标端口将所述待发布的模型发布为模型服务；

所述数据处理***还包括：

获取模块，用于获取所述模型服务的元信息，

配置模块，用于基于所述模型服务的元信息，配置所述模型服务的调用地址；

所述模型发布包括：由用户在模型发布界面选择机器进行发布，从预置的端口配置信息中获取与该机器对应的模型发布端口范围，从而根据确定的当前端口使用情况以及该机器对应的模型发布端口范围确定至少一个发布端口；并将所述发布端口信息，以及待发布模型的模型发布信息发送给模型服务模块，模型服务模块基于所述发布端口信息和待发布模型的模型发布信息将模型发布为模型服务。

12.根据权利要求11所述的数据处理***，其特征在于，所述模型管理模块还包括：

第一显示子模块，用于显示模板模型列表；

第一确定子模块，用于基于第一选择操作从所述模板模型列表中确定目标模型；

第一生成子模块，用于将第一模型文件导入到选择的所述目标模型中，得到所述待发布的模型。

13.根据权利要求12所述的数据处理***，其特征在于，所述模型管理模块还包括：

第一获取子模块，用于获取配置的模型描述信息；

第二生成子模块，用于基于所述模型描述信息生成模板模型。

14.根据权利要求12所述的数据处理***，其特征在于，所述模型管理模块还包括：

校验子模块，用于在将第一模型文件导入到选择的所述目标模型中之前，确定第一模型文件类型与目标模型支持的文件类型是否匹配；若匹配，则将第一模型文件导入到选择的所述目标模型中。

15.根据权利要求14所述的数据处理***，其特征在于，所述模型管理模块还包括：

第二获取子模块，用于获取所述第一模型文件的标识；

检测子模块，用于根据所述标识，检测所述目标模型中与所述标识对应的第二模型文件，得到检测结果；

第二确定子模块，用于基于所述检测结果，确定所述待发布模型的版本号。

16.根据权利要求11所述的数据处理***，其特征在于，所述模型管理模块还包括：

第二显示子模块，用于显示根据当前使用的模型发布端口和端口配置信息确定的至少一个候选发布端口；

选择子模块，用于基于选择操作从所述至少一个候选发布端口中确定至少一个目标端口；

所述模型服务模块还包括：

发布子模块，用于基于所述至少一个目标端口，将所述待发布的模型发布为至少一个模型服务。

17.根据权利要求11所述的数据处理***，其特征在于，所述模型服务的元信息包括模型服务版本信息，所述配置模块还用于：

为所述模型服务版本信息相同的至少两个模型服务，配置一个调用地址。

18.根据权利要求12所述的数据处理***，其特征在于，所述数据处理***还包括：

第三确定模块，用于响应于第二选择操作，确定所述第二选择操作指示的发布模型为待测试模型；

第一生成模块，用于基于所述待测试模型，确定所述待测试模型对应的模型服务；

测试模块，用于运行所述模型服务进行测试。

19.根据权利要求12所述的数据处理***，其特征在于，所述数据处理***还包括：

第四确定模块，用于响应于第三选择操作，确定所述第三选择操作指示的发布模型为待评估模型

第五确定模块，用于基于所述待评估模型，确定所述待评估模型对应的模型服务；

第六确定模块，用于基于所述待评估模型的类型确定评估方法；

评估模块，用于基于所述评估方法运行所述模型服务进行评估。

20.根据权利要求12所述的数据处理***，其特征在于，所述数据处理***还包括：

第七确定模块，用于响应于第四选择操作，确定所述第四选择操作指示的模型为待迁移模型；

第二生成模块，用于基于所述待迁移模型的模型描述信息生成预设文件；

迁移模块，用于基于所述待迁移模型的模型文件以及所述预设文件对所述待迁移模型进行模型迁移。

21.一种数据处理***，其特征在于，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至10中任一项所述的模型处理方法的步骤。

22.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如权利要求1至10中任一项所述的模型处理方法的步骤。

Images