CN112685139B - 基于K8S和Kubeedge的云边深度学习模型管理***及模型训练方法 - Google Patents
基于K8S和Kubeedge的云边深度学习模型管理***及模型训练方法 Download PDFInfo
- Publication number
- CN112685139B CN112685139B CN202110030466.6A CN202110030466A CN112685139B CN 112685139 B CN112685139 B CN 112685139B CN 202110030466 A CN202110030466 A CN 202110030466A CN 112685139 B CN112685139 B CN 112685139B
- Authority
- CN
- China
- Prior art keywords
- model
- cloud
- deep learning
- training
- task
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 180
- 238000013136 deep learning model Methods 0.000 title claims abstract description 96
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000013135 deep learning Methods 0.000 claims abstract description 101
- 238000004891 communication Methods 0.000 claims abstract description 37
- 238000007726 management method Methods 0.000 claims description 76
- 238000013523 data management Methods 0.000 claims description 42
- 238000012544 monitoring process Methods 0.000 claims description 33
- 230000008569 process Effects 0.000 claims description 23
- 230000004927 fusion Effects 0.000 claims description 13
- 238000013500 data storage Methods 0.000 claims description 12
- 238000003860 storage Methods 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000002085 persistent effect Effects 0.000 claims description 3
- 230000006870 function Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000013468 resource allocation Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供一种基于K8S和Kubeedge的云边深度学习模型管理***及模型训练方法。所述***包括云端服务器、边缘智能设备和云边通信模块,首先在云端服务器上创建深度学习任务,根据用户配置参数构建深度学习模型并进行预训练,如果需要云边协同训练时,通过云边通信模块将边缘侧深度学习任务以及预训练模型传输给边缘智能设备,利用采集的样本数据对预训练模型再次进行训练,并将训练后的模型上传回云端服务器,通过云端服务器进行模型参数的融合,生成云边协同训练后的模型,本发明借助边缘智能设备采集的应用场景的样本数据训练深度模型,让云端服务器的模型掌握不同应用场景的环境差异和需求,从而解决样本不足和应用环境间差异的问题。
Description
技术领域
本发明涉及深度学习和容器应用的管理与部署技术领域,具体涉及一种基于K8S和Kubeedge的云边深度学习模型管理***及云边协同模型训练方法。
背景技术
随着物联网和深度学习的快速发展,深度学习模型在边缘智能设备的研究与应用已经成为了产业界和学术界关注的热点之一。得益于人工智能技术的发展,物联网结合人工智能的AIOT技术将嵌入式边缘设备智能化。边缘侧智能设备中的传感器、控制器、接口和应用通过网络相互连接,催生了诸如家电自动控制、个性化照明***、健康管理等一系列的智能应用。在这些智能应用上部署经过训练的深度学习模型可以根据用户需要让边缘智能设备进行智能决策,从而构建出更加舒适、智能的生活环境。
为了提升边缘侧智能设备的智能化水平,基于深度学***。目前,基于深度学习模型的训练,需要大量的标注样本以提高模型的泛化能力与决策精确度,但在某些领域下存在着数据分布不均匀、缺乏样本数据和不同环境的个性化需求等难题,通过常规的深度学习训练方法无法满足这些领域需求。
基于深度学习模型的自动化控制***目的是为用户在日常生活中提供便利并且保证用户在使用中的满意度。智能化的自动化控制***受到越来越多的人来关注,其原因在于智能化自动化控制***的目的不仅仅为了给人们带来便利,也为社会的资源分配带来了极大的改善,在应用的同时节省了人力物力和财力。智能化自动控制***的运行方式是利用已经训练好的深度学习模型进行自动控制和少量的人工维护,在减少人为干预的情况下让边缘智能设备尽可能的满足用户的需求。但是实际生活中的应用场景往往复杂且环境中具有一定的差异,导致无法训练出可以满足某一领域下所有应用场景的深度学习模型,所以研究如何能在样本数据不足、环境间具有差异的情况下训练出满足用户需求的高响应、高精度的深度学习模型已经成为研究界和产业界普遍关注的焦点。由于应用场景间的需求和环境状态存在差异,所以需要在模型中整合这些需求和差异,以此提升整个深度学习模型的决策能力,对整个智能化自动控制***的生产应用至关重要。
然而现有的深度学***台来解决缺少训练样本和应用环境间具有差异的难题。
发明内容
针对现有技术的不足,本发明提出一种基于K8S和Kubeedge的云边深度学习模型管理***及模型训练方法,该方法通过用户对深度学习模型的参数配置,能够在云端服务器和边缘端智能设备协同训练深度学习模型,解决传统深度学习模型在某些领域缺少训练样本和应用环境间具有差异的问题。
为实现上述技术效果,本发明提出了一种基于K8S和Kubeedge的云边深度学习模型管理***,包括云端服务器、边缘智能设备和云边通信模块,所述云端服务器包括云端任务管理模块、云端数据管理模块和云端任务运行控制模块;所述边缘智能设备包括边缘侧任务管理模块、边缘侧数据管理模块、边缘侧任务运行控制模块;
所述云端任务管理模块用于深度学习任务的创建、深度学习任务的取消;
所述云端任务运行控制模块用于根据云端深度学习任务生成深度学习模型并进行训练,训练结束后得到的模型定义为预训练模型,还用于对训练过程进行监控生成监控日志;
所述云端数据管理模块用于管理预训练模型、边缘侧模型,并采用加权融合的方式更新预训练模型参数值,得到最终的云边协同训练后的模型,还用于将模型文件以及监控日志存储到云端服务器的数据库中;
所述云边通信模块用于云端服务器和边缘智能设备之间的消息通信,所述消息通信包括云端服务器向边缘智能设备发送的边缘侧深度学习任务、云端服务器和边缘智能设备之间深度学习模型的发送、云端服务器向边缘智能设备发送的控制命令,所述控制命令包括取消边缘智能设备上的训练任务、上传边缘智能设备上训练后的模型;
所述边缘侧任务管理模块用于接收云边通信模块传输的预训练模型和边缘侧深度学习任务,并对边缘侧深度学习任务进行解析,获取自定义数据的存储格式、预设精确度,其中自定义数据的存储格式发送给边缘侧数据管理模块,预设精确度发送给边缘侧任务运行控制模块;
所述边缘侧数据管理模块用于采集训练深度学习模型的样本数据,配置样本数的存储格式、对边缘侧模型和样本数据进行管理,并存储至本地数据库中,所述管理包括对模型的查询和删除,对样本数据的添加、查询和删除,所述样本数据为连接边缘智能设备的传感器采集到的数据;
所述边缘侧任务运行控制模块用于根据样本数据对预训练模型进行训练,达到预设精确度后结束训练,训练后生成的模型具备边缘个性化数据特征定义为边缘侧模型。
所述云端任务管理模块包括云端深度学习任务创建单元、云端深度学习任务取消单元;
所述云端深度学***台中的KubeClient进行上传,解析用户对任务的配置参数,并创建深度学习任务,所述配置参数包括待构建深度学习模型的配置参数、自定义数据存储格式、配置是否需要进行云边协同训练及边缘智能设备上训练深度学习模型所要达到的预设精确度;所述深度学习任务包括云端深度学习任务和边缘侧深度学习任务,云端深度学习任务负责云端服务器上深度学习模型的配置和训练,边缘侧深度学习任务包含自定义数据存储格式和边缘智能设备上训练模型所要达到的预设精确度;
所述云端深度学习任务取消单元用于通过KubeClient将创建的任务进行取消。
所述云端任务运行控制模块包括深度学习记录单元、深度学习任务训练单元、深度学习任务监控单元;
所述深度学习记录单元用于对深度学习模型训练过程中生成的监控日志进行记录;
所述深度学习任务训练单元用于在云端服务器上根据云端深度学习任务生成深度学习模型,并进行训练,保存训练后的模型作为预训练模型;
所述深度学习任务监控单元用于实时监控训练过程并生成监控日志,方便用户进行错误排查。
所述云端数据管理模块包括深度学习模型管理单元、任务日志管理单元;
所述深度学习模型管理单元用于将预训练模型存储至云端服务器的数据库中,当需要云边协同训练时,通过云边通信模块将预训练模型传输给边缘智能设备,并将边缘智能设备上传的边缘侧模型存储至云端服务器的数据库中,还用于将预训练模型和边缘侧模型通过加权融合的方式更新预训练模型参数值,生成最终的云边协同训练后的模型;
所述任务日志管理单元用于对监控日志进行持久化记录,将所有的操作记录存储在云端服务器的数据库中。
所述边缘侧数据管理模块包括边缘侧模型管理单元、边缘侧数据采集单元、自定义数据管理单元;
所述边缘侧数据采集单元用于与边缘智能设备的传感器或控制器连接采集数据,作为在边缘智能设备上训练深度学习模型的样本数据;
所述自定义数据管理单元用于根据用户自定义的数据存储格式对样本数据进行数据存储格式的处理,并将处理后的数据存储到本地数据库中;
所述边缘侧模型管理单元用于管理边缘侧任务运行控制模块训练后的模型、样本数据,还用于将训练过程中生成的每个迭代周期模型决策的精确度、模型的召回率、模型的误差以及训练后的模型参数定期存储到本地数据库中。
所述对预训练后的模型进行训练具体表述为:当达到最大迭代次数时,模型的精确度如果小于预设精确度,则控制边缘侧数据采集模块再次采集样本数据,利用新采集的样本数据对模型再次进行训练,直到模型的精确度大于等于预设精确度,训练结束。
所述加权融合的方式具体表述为:对预训练模型和边缘侧模型中的相应模型参数值进行加权平均计算,更新预训练模型参数的具体值。
一种运用基于K8S和Kubeedge的云边深度学习模型管理***的云边协同模型训练方法,包括:
步骤1:用户在K8S平台上进行所需任务的配置,并通过KubeClient发送给云端服务器,通过云端深度学习任务创建单元解析用户对任务的配置参数,并创建深度学习任务,根据任务的配置参数,将创建的深度学习任务发送给云端任务运行模块和云边通信模块;
步骤2:云端深度学习任务训练单元根据云端深度学习任务生成深度学习模型并进行训练,训练过程中深度学习任务监控单元负责对模型的训练过程进行监控,深度学习任务记录单元将模型训练过程中产生的日志进行记录并传输给云端数据管理模块,由任务日志管理单元存储到云端服务器的数据库中,训练结束后保存模型文件到在云端预设的文件夹Q1中,云端数据管理模块中的深度学习模型管理单元将预训模型以文件形式存储到云端数据库中,如果需要进行云边协同训练,深度学习模型管理单元还需将预训练模型通过云边通信模块传送给边缘智能设备;
步骤3:根据用户对任务的配置判断是否需要进行云边协同训练,如果需要云边协同训练,则执行步骤4,否则执行结束;
步骤4:云端通信模块将云端上传的预训练模型存储到在边缘智能设备上预设的文件夹Q2中,边缘侧任务管理模块通过云边通信模块获取预训练模型的文件路径和边缘侧深度学习任务并进行解析,将解析的自定义数据格式传输给边缘侧数据管理模块中的自定义数据管理单元,将预设精确度和预训练模型的文件路径传输给边缘侧任务运行控制模块;
步骤5:通过边缘侧数据采集单元采集样本数据,使用自定义数据管理单元对所采集的样本数据进行数据格式的转换,形成深度学习模型所需要的数据格式,存储到本地数据库中;
步骤6:利用样本数据在边缘侧任务运行控制模块上对存储在文件夹Q2中的预训练模型进行训练,直到深度学习模型满足所要达到的预设精确度,结束训练,结束训练后生成的模型具备边缘个性化数据特征作为边缘侧模型,并存储到在边缘智能设备上预设的文件夹Q3中,边缘侧模型管理单元将边缘侧模型以文件形式存储到本地数据库中,同时将边缘侧模型以文件形式通过云边通信模块上传回云端服务器;
步骤7:云边通信模块将上传回的边缘侧模型存储到在云端预设的文件夹Q4中,利用深度模型管理单元将预训练模型和边缘侧模型通过加权融合的方式更新预训练模型参数值,生成最终的云边协同训练后的模型。
本发明的有益效果是:
本发明提出了一种基于K8S和Kubeedge的云边深度学习模型管理***及模型训练方法,该方法的基本思想是通过Kubeedge在云端服务器上对深度学习模型进行预训练然后将预训练模型和训练任务部署到边缘端智能设备上,边缘智能设备对所在应用场景的数据进行实时采集,根据采集到的样本数据对预训练模型再次进行训练得到边缘侧模型,并定期将边缘侧模型上传到云端服务器进行模型融合,让云端服务器的模型掌握不同应用场景的环境差异和需求,从而解决样本不足和应用环境间差异的问题。
附图说明
图1为本发明中的基于K8S和Kubeedge的云边深度学习模型管理***框图。
图2为本发明中的运用基于K8S和Kubeedge的云边深度学习模型管理***的云边协同模型训练方法流程图。
具体实施方式
下面结合附图和具体实施实例对发明做进一步说明。为解决深度学***台,借助深度学习和物联网技术,能够自动收集边缘应用环境的信息并进行训练深度学习模型,将所学得的经验按照模型参数定期共享给云端服务器上的模型,增强云端服务器上模型的泛化能力和决策精度,达到无论处在任何应用环境,模型都能做用户所需的决策动作。
如图1所示,一种基于K8S和Kubeedge的云边深度学习模型管理***,采用Python语言设计实现,包括云端服务器、边缘智能设备和云边通信模块,所述云端服务器包括云端任务管理模块、云端数据管理模块和云端任务运行控制模块;所述边缘智能设备包括边缘侧任务管理模块、边缘侧数据管理模块、边缘侧任务运行控制模块;
所述云端任务管理模块用于深度学习任务的创建、深度学习任务的取消;
所述云端任务管理模块包括云端深度学习任务创建单元、云端深度学习任务取消单元;
所述云端深度学***台的开源容器集群管理***)平台中的KubeClient进行上传,解析用户对任务的配置参数,并创建深度学习任务,所述配置参数包括待构建深度学习模型的配置参数(如深度学习训练次数、深度学习模型的神经网络层数、深度学习模型的学习率等)、自定义数据存储格式、配置是否需要进行云边协同训练及边缘智能设备上训练深度学习模型所要达到的预设精确度;所述深度学习任务包括云端深度学习任务和边缘侧深度学习任务,云端深度学习任务负责云端服务器上深度学习模型的配置和训练,边缘侧深度学习任务包含自定义数据存储格式和边缘智能设备上训练模型所要达到的预设精确度;
例如用户使用json格式对任务进行配置任务名称、任务id、模型生成文件名、是否需要云边协同训练、参与协同训练的边缘节点id等,然后将配置好的json文件使用K8S平台中的KubeClient上传到云端服务器中,按照配置文件创建出任务对象;
所述云端深度学习任务取消单元用于通过KubeClient将创建的任务进行取消,取消任务时,通过调用任务取消函数,输入任务id后函数查找此任务判断其运行状态并进行取消。
所述云端任务运行控制模块用于根据云端深度学习任务生成深度学习模型并进行训练,训练结束后得到的模型定义为预训练模型,还用于对训练过程进行监控生成监控日志;
所述云端任务运行控制模块包括深度学习记录单元、深度学习任务训练单元、深度学习任务监控单元;
所述深度学习记录单元用于对深度学习模型训练过程中生成的监控日志进行记录;
所述深度学习任务训练单元用于在云端服务器上根据云端深度学习任务生成深度学习模型,并进行训练,保存训练后的模型作为预训练模型;
所述深度学习任务监控单元用于实时监控训练过程并生成监控日志,方便用户进行错误排查。
所述云端数据管理模块用于管理预训练模型、边缘侧模型,并采用加权融合的方式更新预训练模型参数值,得到最终的云边协同训练后的模型,还用于将模型文件以及监控日志存储到云端服务器的数据库中;
所述云端数据管理模块包括深度学习模型管理单元、任务日志管理单元;
所述深度学习模型管理单元用于将预训练模型存储至云端服务器的数据库中,当需要云边协同训练时,通过云边通信模块将预训练模型传输给边缘智能设备,并将边缘智能设备上传的边缘侧模型存储至云端服务器的数据库中,还用于将预训练模型和边缘侧模型通过加权融合的方式更新预训练模型参数值,生成最终的云边协同训练后的模型;
所述加权融合的方式具体表述为:对预训练模型和边缘侧模型中的相应模型参数值进行加权平均计算,更新预训练模型参数的具体值。
所述任务日志管理单元用于对监控日志进行持久化记录,将所有的操作记录存储在云端服务器的数据库中。
所述云边通信模块用于云端服务器和边缘智能设备之间的消息通信,所述消息通信包括云端服务器向边缘智能设备发送的边缘侧深度学习任务、云端服务器和边缘智能设备之间深度学习模型的发送、云端服务器向边缘智能设备发送的控制命令,所述控制命令包括取消边缘智能设备上的训练任务、上传边缘智能设备上训练后的模型;
消息的处理过程涉及消息封装、消息传递、消息接收、消息解析,其中消息分为MQTT消息、FTP消息和Command消息,所述MQTT消息负责接收和发送文本消息,如模型的配置文件;所述FTP消息负责神经网络模型或其参数文件的转储,存储和下载;所述Command消息负责云边深度学习训练过程的控制,如向云端上传模型、从云端下载模型和云端向边缘端分发参数等。
所述边缘侧任务管理模块用于接收云边通信模块传输的预训练模型和边缘侧深度学习任务,并对边缘侧深度学习任务进行解析,获取自定义数据的存储格式、预设精确度,其中自定义数据的存储格式发送给边缘侧数据管理模块,预设精确度发送给边缘侧任务运行控制模块;
所述边缘侧数据管理模块用于采集训练深度学习模型的样本数据,配置样本数的存储格式、对边缘侧模型和样本数据进行管理,并存储至本地数据库中,所述管理包括对模型的查询和删除,对样本数据的添加、查询和删除,所述样本数据为连接边缘智能设备的传感器采集到的数据(如光照强度、人脸图片),如以json格式进行存储;
所述边缘侧数据管理模块包括边缘侧模型管理单元、边缘侧数据采集单元、自定义数据管理单元;
所述边缘侧数据采集单元用于与边缘智能设备的传感器或控制器(如距离传感器、光照传感器、摄像头等)连接采集数据,作为在边缘智能设备上训练深度学习模型的样本数据;
所述自定义数据管理单元用于根据用户自定义的数据存储格式对样本数据进行数据存储格式的处理,并将处理后的数据存储到本地数据库中;
所述边缘侧模型管理单元用于管理边缘侧任务运行控制模块训练后的模型、样本数据,还用于将训练过程中生成的每个迭代周期模型决策的精确度、模型的召回率、模型的误差以及训练后的模型参数定期存储到本地数据库中。
所述边缘侧任务运行控制模块用于根据样本数据对预训练模型进行训练,达到预设精确度后结束训练,训练后生成的模型具备边缘个性化数据特征定义为边缘侧模型。
如图2所示,一种运用基于K8S和Kubeedge的云边深度学习模型管理***的云边协同模型训练方法,包括如下步骤:
步骤1:用户在K8S平台上进行所需任务的配置,并通过KubeClient发送给云端服务器,通过云端深度学习任务创建单元解析用户对深度学习任务的配置参数,并创建深度学习任务,根据任务的配置参数,将创建的深度学习任务发送给云端任务运行模块和云边通信模块;
步骤2:云端深度学习任务训练单元根据云端深度学习任务生成深度学习模型并进行训练,训练过程中深度学习任务监控单元负责对模型的训练过程进行监控(如模型的迭代次数、此时模型的精确度),深度学习任务记录单元将模型训练过程中产生的日志进行记录并传输给云端数据管理模块,由任务日志管理单元存储到云端数据库中,训练结束后保存模型文件到在云端预设的文件夹Q1中,云端数据管理模块中的深度学习模型管理单元将预训模型以文件形式存储到云端服务器的数据库中,如果需要进行云边协同训练,深度学习模型管理单元还需将预训练模型通过云边通信模块传送给边缘智能设备;
步骤3:根据用户对任务的配置判断是否需要进行云边协同训练,如果需要云边协同训练,则执行步骤4,否则执行结束;
步骤4:云端通信模块将云端上传的预训练模型存储到在边缘智能设备上预设的文件夹Q2中,边缘侧任务管理模块通过云边通信模块获取预训练模型的文件路径和边缘侧深度学习任务并进行解析,将解析的自定义数据格式函数传输给边缘侧数据管理模块中的自定义数据管理单元,将预设精确度和预训练模型的文件路径传输给边缘侧任务运行控制模块;
步骤5:通过边缘侧数据采集单元采集样本数据,使用自定义数据管理单元对所采集的样本数据进行数据格式的转换,生成深度学习模型所需要的数据格式,存储到本地数据库中;
步骤6:利用样本数据在边缘侧任务运行控制模块上函数函数对存储在文件夹Q2中的预训练模型进行训练,直到深度学习模型满足所要达到的预设精确度,结束训练,结束训练后生成的模型具备边缘个性化数据特征作为边缘侧模型,并存储到在边缘智能设备上预设的文件夹Q3中,边缘侧模型管理单元将边缘侧模型以文件形式存储到本地数据库中,同时将边缘侧模型以文件形式通过云边通信模块上传回云端服务器;
步骤7:云边通信模块将上传回的边缘侧模型存储到在云端预设的文件夹Q4中,利用深度模型管理单元将预训练模型和边缘侧模型通过加权融合的方式更新预训练模型参数值,生成最终的云边协同训练后的模型。
Claims (7)
1.一种基于K8S和Kubeedge的云边深度学习模型管理***,其特征在于,包括云端服务器、边缘智能设备和云边通信模块,所述云端服务器包括云端任务管理模块、云端数据管理模块和云端任务运行控制模块;所述边缘智能设备包括边缘侧任务管理模块、边缘侧数据管理模块、边缘侧任务运行控制模块;
所述云端任务管理模块用于深度学习任务的创建、深度学习任务的取消;
所述云端任务运行控制模块用于根据云端深度学习任务生成深度学习模型并进行训练,训练结束后得到的模型定义为预训练模型,还用于对训练过程进行监控生成监控日志;
所述云端数据管理模块用于管理预训练模型、边缘侧模型,并采用加权融合的方式更新预训练模型参数值,得到最终的云边协同训练后的模型,还用于将模型文件以及监控日志存储到云端服务器的数据库中;
所述加权融合的方式具体表述为:对预训练模型和边缘侧模型中的相应模型参数值进行加权平均计算,更新预训练模型参数的具体值;
所述云边通信模块用于云端服务器和边缘智能设备之间的消息通信,所述消息通信包括云端服务器向边缘智能设备发送的边缘侧深度学习任务、云端服务器和边缘智能设备之间深度学习模型的发送、云端服务器向边缘智能设备发送的控制命令,所述控制命令包括取消边缘智能设备上的训练任务、上传边缘智能设备上训练后的模型;
所述边缘侧任务管理模块用于接收云边通信模块传输的预训练模型和边缘侧深度学习任务,并对边缘侧深度学习任务进行解析,获取自定义数据的存储格式、预设精确度,其中自定义数据的存储格式发送给边缘侧数据管理模块,预设精确度发送给边缘侧任务运行控制模块;
所述边缘侧数据管理模块用于采集训练深度学习模型的样本数据,配置样本数的存储格式、对边缘侧模型和样本数据进行管理,并存储至本地数据库中,所述管理包括对模型的查询和删除,对样本数据的添加、查询和删除,所述样本数据为连接边缘智能设备的传感器采集到的数据;
所述边缘侧任务运行控制模块用于根据样本数据对预训练模型进行训练,达到预设精确度后结束训练,训练后生成的模型具备边缘个性化数据特征定义为边缘侧模型。
2.根据权利要求1所述的一种基于K8S和Kubeedge的云边深度学习模型管理***,其特征在于,所述云端任务管理模块包括云端深度学习任务创建单元、云端深度学习任务取消单元;
所述云端深度学***台中的KubeClient进行上传,解析用户对任务的配置参数,并创建深度学习任务,所述配置参数包括待构建深度学习模型的配置参数、自定义数据存储格式、配置是否需要进行云边协同训练及边缘智能设备上训练深度学习模型所要达到的预设精确度;所述深度学习任务包括云端深度学习任务和边缘侧深度学习任务,云端深度学习任务负责云端服务器上深度学习模型的配置和训练,边缘侧深度学习任务包含自定义数据存储格式和边缘智能设备上训练模型所要达到的预设精确度;
所述云端深度学习任务取消单元用于通过KubeClient将创建的任务进行取消。
3.根据权利要求1所述的一种基于K8S和Kubeedge的云边深度学习模型管理***,其特征在于,所述云端任务运行控制模块包括深度学习记录单元、深度学习任务训练单元、深度学习任务监控单元;
所述深度学习记录单元用于对深度学习模型训练过程中生成的监控日志进行记录;
所述深度学习任务训练单元用于在云端服务器上根据云端深度学习任务生成深度学习模型,并进行训练,保存训练后的模型作为预训练模型;
所述深度学习任务监控单元用于实时监控训练过程并生成监控日志,方便用户进行错误排查。
4.根据权利要求1所述的一种基于K8S和Kubeedge的云边深度学习模型管理***,其特征在于,所述云端数据管理模块包括深度学习模型管理单元、任务日志管理单元;
所述深度学习模型管理单元用于将预训练模型存储至云端服务器的数据库中,当需要云边协同训练时,通过云边通信模块将预训练模型传输给边缘智能设备,并将边缘智能设备上传的边缘侧模型存储至云端服务器的数据库中,还用于将预训练模型和边缘侧模型通过加权融合的方式更新预训练模型参数值,生成最终的云边协同训练后的模型;
所述任务日志管理单元用于对监控日志进行持久化记录,将所有的操作记录存储在云端服务器的数据库中。
5.根据权利要求1所述的一种基于K8S和Kubeedge的云边深度学习模型管理***,其特征在于,所述边缘侧数据管理模块包括边缘侧模型管理单元、边缘侧数据采集单元、自定义数据管理单元;
所述边缘侧数据采集单元用于与边缘智能设备的传感器或控制器连接采集数据,作为在边缘智能设备上训练深度学习模型的样本数据;
所述自定义数据管理单元用于根据用户自定义的数据存储格式对样本数据进行数据存储格式的处理,并将处理后的数据存储到本地数据库中;
所述边缘侧模型管理单元用于管理边缘侧任务运行控制模块训练后的模型、样本数据,还用于将训练过程中生成的每个迭代周期模型决策的精确度、模型的召回率、模型的误差以及训练后的模型参数定期存储到本地数据库中。
6.根据权利要求1所述的一种基于K8S和Kubeedge的云边深度学习模型管理***,其特征在于,所述对预训练后的模型进行训练具体表述为:当达到最大迭代次数时,模型的精确度如果小于预设精确度,则控制边缘侧数据采集模块再次采集样本数据,利用新采集的样本数据对模型再次进行训练,直到模型的精确度大于等于预设精确度,训练结束。
7.一种运用基于权利要求1-6任一项所述管理***的云边协同模型训练方法,其特征在于,包括如下步骤:
步骤1:用户在K8S平台上进行所需任务的配置,并通过KubeClient发送给云端服务器,通过云端深度学习任务创建单元解析用户对任务的配置参数,并创建深度学习任务,根据任务的配置参数,将创建的深度学习任务发送给云端任务运行模块和云边通信模块;
步骤2:云端深度学习任务训练单元根据云端深度学习任务生成深度学习模型并进行训练,训练过程中深度学习任务监控单元负责对模型的训练过程进行监控,深度学习任务记录单元将模型训练过程中产生的日志进行记录并传输给云端数据管理模块,由任务日志管理单元存储到云端数据库中,训练结束后保存模型文件到在云端预设的文件夹Q1中,云端数据管理模块中的深度学习模型管理单元将预训模型以文件形式存储到云端服务器的数据库中,如果需要进行云边协同训练,深度学习模型管理单元还需将预训练模型通过云边通信模块传送给边缘智能设备;
步骤3:根据用户对任务的配置判断是否需要进行云边协同训练,如果需要云边协同训练,则执行步骤4,否则执行结束;
步骤4:云端通信模块将云端上传的预训练模型存储到在边缘智能设备上预设的文件夹Q2中,边缘侧任务管理模块通过云边通信模块获取预训练模型的文件路径和边缘侧深度学习任务并进行解析,将解析的自定义数据格式传输给边缘侧数据管理模块中的自定义数据管理单元,将预设精确度和预训练模型的文件路径传输给边缘侧任务运行控制模块;
步骤5:通过边缘侧数据采集单元采集样本数据,使用自定义数据管理单元对所采集的样本数据进行数据格式的转换,生成深度学习模型所需要的数据格式,存储到本地数据库中;
步骤6:利用样本数据在边缘侧任务运行控制模块上对存储在文件夹Q2中的预训练模型进行训练,直到深度学习模型满足所要达到的预设精确度,结束训练,结束训练后生成的模型具备边缘个性化数据特征作为边缘侧模型,并存储到在边缘智能设备上预设的文件夹Q3中,边缘侧模型管理单元将边缘侧模型以文件形式存储到本地数据库中,同时将边缘侧模型以文件形式通过云边通信模块上传回云端服务器;
步骤7:云边通信模块将上传回的边缘侧模型存储到在云端预设的文件夹Q4中,利用深度模型管理单元将预训练模型和边缘侧模型通过加权融合的方式更新预训练模型参数值,生成最终的云边协同训练后的模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110030466.6A CN112685139B (zh) | 2021-01-11 | 2021-01-11 | 基于K8S和Kubeedge的云边深度学习模型管理***及模型训练方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110030466.6A CN112685139B (zh) | 2021-01-11 | 2021-01-11 | 基于K8S和Kubeedge的云边深度学习模型管理***及模型训练方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112685139A CN112685139A (zh) | 2021-04-20 |
CN112685139B true CN112685139B (zh) | 2024-07-19 |
Family
ID=75457183
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110030466.6A Active CN112685139B (zh) | 2021-01-11 | 2021-01-11 | 基于K8S和Kubeedge的云边深度学习模型管理***及模型训练方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112685139B (zh) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113221981A (zh) * | 2021-04-28 | 2021-08-06 | 之江实验室 | 一种面向边缘深度学习的数据协同处理优化方法 |
CN113536660B (zh) * | 2021-06-12 | 2023-05-23 | 武汉所为科技有限公司 | 用于暖通云边协同的智能***训练方法、模型及存储介质 |
US20230043505A1 (en) * | 2021-08-09 | 2023-02-09 | International Business Machines Corporation | Deep learning software model modification |
CN113673684B (zh) * | 2021-08-24 | 2024-08-02 | 东北大学 | 基于输入修剪的边缘端dnn模型加载***及方法 |
CN114489938B (zh) * | 2022-01-05 | 2024-06-25 | 汕头大学 | 一种基于云边协同模式的用户侧QoS预测模型构建方法 |
CN114519002A (zh) * | 2022-01-07 | 2022-05-20 | 南京航空航天大学 | 评估cpu多线程环境对深度学习模型训练差异影响的测试方法 |
CN114385601B (zh) * | 2022-03-24 | 2022-07-08 | 山东省计算中心(国家超级计算济南中心) | 基于超算的云边协同高通量海洋数据智能处理方法及*** |
CN114928587B (zh) * | 2022-05-18 | 2023-05-09 | 山东浪潮科学研究院有限公司 | 一种基于云边协同***的AIoT设备复用建模化方法 |
CN115174151B (zh) * | 2022-06-08 | 2023-06-16 | 重庆移通学院 | 一种基于云边端架构下的安全策略自主形成方法 |
CN117149361B (zh) * | 2023-10-30 | 2023-12-29 | 北京万界数据科技有限责任公司 | 一种训练模型多端协同优化*** |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109543829A (zh) * | 2018-10-15 | 2019-03-29 | 华东计算技术研究所(中国电子科技集团公司第三十二研究所) | 在终端和云端上混合部署深度学习神经网络的方法和*** |
CN110443298A (zh) * | 2019-07-31 | 2019-11-12 | 华中科技大学 | 一种基于云-边缘协同计算的ddnn及其构建方法和应用 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10782691B2 (en) * | 2018-08-10 | 2020-09-22 | Buffalo Automation Group Inc. | Deep learning and intelligent sensing system integration |
CN111245950B (zh) * | 2020-01-20 | 2023-03-10 | 南京邮电大学 | 基于深度学习的工业物联网边缘资源智能调度***及方法 |
CN111090631B (zh) * | 2020-03-24 | 2020-06-19 | 中国人民解放军国防科技大学 | 分布式环境下的信息共享方法、装置和电子设备 |
CN112099510B (zh) * | 2020-09-25 | 2022-10-18 | 东南大学 | 一种基于端边云协同的智能体控制方法 |
-
2021
- 2021-01-11 CN CN202110030466.6A patent/CN112685139B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109543829A (zh) * | 2018-10-15 | 2019-03-29 | 华东计算技术研究所(中国电子科技集团公司第三十二研究所) | 在终端和云端上混合部署深度学习神经网络的方法和*** |
CN110443298A (zh) * | 2019-07-31 | 2019-11-12 | 华中科技大学 | 一种基于云-边缘协同计算的ddnn及其构建方法和应用 |
Also Published As
Publication number | Publication date |
---|---|
CN112685139A (zh) | 2021-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112685139B (zh) | 基于K8S和Kubeedge的云边深度学习模型管理***及模型训练方法 | |
US20210302923A1 (en) | Backup of an industrial automation plant in the cloud | |
US11783725B2 (en) | Snapshot management architecture for process control operator training system lifecycle | |
US20220156435A1 (en) | Using cloud-based data for industrial simulation | |
CN108093030B (zh) | 一种基于云服务器的人工智能模型部署方法 | |
US9971317B2 (en) | Cloud-level industrial controller loop gain tuning based on industrial application type | |
US10208947B2 (en) | Cloud-level analytics for boiler networks | |
KR101825881B1 (ko) | 빅 데이터 분석을 이용한 제조 공정 관리 방법 및 이를 이용한 제조 공정 관리 시스템 | |
US20150277406A1 (en) | Multiple controllers configuration management interface for system connectivity | |
CN109491253B (zh) | 一种在线学习型个性化智能家居***及其控制方法 | |
CN107491045A (zh) | 用于自动控制***的可扩展分析架构 | |
CN107491044A (zh) | 用于自动控制***的可扩展分析架构 | |
CN107272608A (zh) | 云平台中的工业设备和***证明 | |
CN110866588B (zh) | 一种实现智能虚拟数字动物的可学习能力模型个性化的训练学习方法与*** | |
WO2021138939A1 (zh) | 一种云脑机器人*** | |
CN113467771B (zh) | 一种基于模型的工业边云协同***和方法 | |
Borghesi et al. | Iotwins: Design and implementation of a platform for the management of digital twins in industrial scenarios | |
JP2019215880A (ja) | 支援システム | |
CN108594665A (zh) | 一种基于Bluetooth的家庭智能物联网终端管理***和控制方法 | |
CN109116815A (zh) | 一种基于mqtt注塑机管理***、方法及存储介质 | |
CN213069562U (zh) | 基于物联网的镀膜设备远程控制***及镀膜设备 | |
CN113903481A (zh) | 基于人工智能和虚拟芯片的物联网应用处理方法及*** | |
KR102686512B1 (ko) | 인공지능 모듈을 구비하는 산업용 통신 프로토콜 변환 장치 및 데이터 수집 게이트웨이 | |
CN104123584A (zh) | 基于信息***的组织优化方法 | |
US20210034775A1 (en) | Selective knowledge corpus sharing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |