CN112668726A - 一种高效通信且保护隐私的个性化联邦学习方法 - Google Patents

Abstract

本发明提供一种高效通信且保护隐私的个性化联邦学***衡的问题。

Description

一种高效通信且保护隐私的个性化联邦学习方法

技术领域

本发明涉及联邦学习技术领域，更具体的，涉及一种高效通信且保护隐私的个性化联邦学习方法。

背景技术

机器学***均(FedAvg)算法来聚合来自各个客户端的模型更新，参与联邦训练的各方在训练结束后得到的是一个统一的全局模型。现有的联邦学***衡，导致全局模型效果损失明显。

现有技术中，如2020年08月28日公开的中国专利，一种在隐私保护下的去中心化联邦机器学***衡。

发明内容

本发明为克服现有的个性化联邦学***衡的技术缺陷，提供一种高效通信且保护隐私的个性化联邦学习方法。

为解决上述技术问题，本发明的技术方案如下：

一种高效通信且保护隐私的个性化联邦学习方法，包括以下步骤：

S1：从中央服务器拉取当前全局模型W_t到所有客户端中，初始化各个客户端的本地模型

其中，i为客户端序号，t为当前个性化联邦学习的轮数；

S2：在客户端i中执行E轮本地训练，得到新的本地模型

S3：基于对分层参数组合进行可变频率更新的方式，将

的模型参数发送到中央服务器；

S4：在中央服务器中对接收到的模型参数聚合，得到聚合结果W_t+1；

S5：基于对分层参数组合进行可变频率更新的方式，根据W_t+1将所有客户端的本地模型更新为

S6：判断是否完成预定迭代次数；

若是，则完成个性化联邦学习；

若否，则令t＝t+1，并返回步骤S2进行下一轮个性化联邦学习。

优选的，在步骤S2中，每轮个性化联邦学习中只选取k个客户端执行本地训练；其中，客户端总个数为K，k在K中的占比为C。

优选的，在步骤S2中，依照预先设定的数据批大小B将客户端i上的数据分成

个批次，并设为集合

对于

根据以下公式执行本地训练，得到本地模型

其中，N_i为客户端i上的数据量，b_i为集合

中的元素，

为客户端i上执行本地训练前的模型参数，η为学习率，l为客户端上的损失函数。

优选的，当个性化联邦学习的训练对象为深度神经网络模型时，将深度神经网络模型视作全局层和个性化层的组合；

其中，将深度神经网络模型的浅层网络部分定义为全局层，负责提取客户端数据的全局特征；将深度神经网络模型的深层网络部分定义为个性化层，负责捕获客户端数据的个性化特征。

优选的，在步骤S3中，对分层参数组合进行可变频率更新的方式具体包括：

若当前处于个性化联邦学习的早期，即0<t≤T*p，且t％f_earlier≠0时或者当前处于个性化联邦学习的后期，即T*p<t≤T，且t％f_latet≠0时，则只将浅层部分的模型参数发送到中央服务器；

若当前处于个性化联邦学习的早期，即0<t≤T*p，且t％f_earlier＝0时或者当前处于个性化联邦学习的后期，即T*p<t≤T，且t％f_later＝0时，则将所有层的模型参数发送至中央服务器；

其中，t为个性化联邦学习的当前轮数，T为个性化联邦学习的总轮数，p为个性化联邦学习前期的轮数占比，f_earlier为个性化联邦学习前期发送所有层的模型参数至中央服务器的周期，f_later为个性化联邦学习后期发送所有层的模型参数至中央服务器的周期。

优选的，还包括：对从客户端发往中央服务器的模型参数添加高斯噪声。

优选的，在客户端i中按照以下公式只将浅层部分的模型参数发送到中央服务器，并添加高斯噪声：

其中，

为从客户端i发送到中央服务器的模型参数；M为掩蔽矩阵，用于掩蔽深层参数参与聚合；dp∈(0,1]，用于控制噪声的影响程度；RN～N(0,σ²)，即RN服从均值为0，方差为σ²的正态分布。

优选的，在客户端i中按照以下公式将所有层的模型参数发送至中央服务器，并添加高斯噪声：

其中，

为从客户端i发送到中央服务器的模型参数；dp∈(0,1]，用于控制噪声的影响程度；RN～N(0,σ²)，即RN服从均值为0，方差为σ²的正态分布。

优选的，个性化联邦学习中客户端在前期发送所有层的模型参数至服务器的频率要高于后期发送的频率，即

优选的，在步骤S4中，

在每轮个性化联邦学习中通过以下公式对中央服务器接收到的模型参数进行聚合操作，得到聚合结果W_t+1：

其中，K为客户端的总个数，C为每轮参与个性化联邦学习的客户端占比，N_i为客户端i上的数据量，N为每轮参与个性化联邦学习的全部客户端上的数据量，

为发送到中央服务器的模型参数。

与现有技术相比，本发明技术方案的有益效果是：

本发明提供了一种高效通信且保护隐私的个性化联邦学***衡；同时，能够减少个性化联邦学习中的参数通信量，实现轻便高效的通信效率。

附图说明

图1为本发明的技术方案实施步骤流程示意图；

图2为本发明中采用深度神经网络模型进行图像分类任务的示意图；

图3为本发明中个性化联邦学习的可变频率示意图；

图4为本发明中个性化联邦学习的分层参数示意图。

具体实施方式

附图仅用于示例性说明，不能理解为对本专利的限制；

为了更好说明本实施例，附图某些部件会有省略、放大或缩小，并不代表实际产品的尺寸；

对于本领域技术人员来说，附图中某些公知结构及其说明可能省略是可以理解的。

下面结合附图和实施例对本发明的技术方案做进一步的说明。

实施例1

如图1所示，一种高效通信且保护隐私的个性化联邦学习方法，包括以下步骤：

S1：从中央服务器拉取当前全局模型W_t到所有客户端中，初始化各个客户端的本地模型

其中，i为客户端序号，t为当前个性化联邦学习的轮数；

S2：在客户端i中执行E轮本地训练，得到新的本地模型

S3：基于对分层参数组合进行可变频率更新的方式，将

的模型参数发送到中央服务器；

S4：在中央服务器中对接收到的模型参数聚合，得到聚合结果W_t+1；

S5：基于对分层参数组合进行可变频率更新的方式，根据W_t+1将所有客户端的本地模型更新为

S6：判断是否完成预定迭代次数；

若是，则完成个性化联邦学习；

若否，则令t＝t+1，并返回步骤S2进行下一轮个性化联邦学习。

更具体的，在步骤S2中，每轮个性化联邦学习中只选取k个客户端执行本地训练；其中，客户端总个数为K，k在K中的占比为C。

在具体实施过程中，考虑到客户端与中央服务器通信的带宽与延迟限制，每次在K个客户端中选择占比为C的客户端，构成集合St参与当前第t轮的个性化联邦学习。被选中的客户端需要完成预先设定轮数E的本地训练。

更具体的，在步骤S2中，依照预先设定的数据批大小B将客户端i上的数据分成

个批次，并设为集合

对于

根据以下公式执行本地训练，得到本地模型

其中，N_i为客户端i上的数据量，b_i为集合

中的元素，

为客户端i上执行本地训练前的模型参数，η为学习率，l为客户端上的损失函数。

更具体的，当个性化联邦学习的训练对象为深度神经网络模型时，以采用深度神经网络模型进行图像分类任务为例：图像中包含的普遍且一般性的特征通常由深度神经网络模型的浅层网络部分捕获，而更高级且特有的特征则由深层网络部分识别。如图2所示，靠近输入图片的浅层网络部分提取的往往是低阶特征，靠近输出的深层网络部分提取的是高阶特征。在个性化联邦学习中，根据全局模型与客户端本地模型的定义：全局模型主要关注于客户端上数据的普遍低阶特征，本地模型则主要聚焦于客户端上数据的特有高阶特征。因此我们将用于个性化联邦学习的深度神经网络模型视作全局模型和个性化模型的组合，其中将深度神经网络模型的浅层网络部分定义为全局层，深层网络部分定义为个性化层。

更具体的，在步骤S3中，对分层参数组合进行可变频率更新的方式具体包括：

若当前处于个性化联邦学习的早期，即0<t≤T*p，且t％f_earlier≠0时或者当前处于个性化联邦学习的后期，即T*p<t≤T，且t％f_later≠0时，则只将浅层部分的模型参数发送到中央服务器；

若当前处于个性化联邦学习的早期，即0<t≤T*p，且t％f_earlier＝0时或者当前处于个性化联邦学习的后期，即T*p<t≤T，且t％f_later＝0时，则将所有层的模型参数发送至中央服务器；

其中，t为个性化联邦学习的当前轮数，T为个性化联邦学习的总轮数，p为个性化联邦学习前期的轮数占比，f_earlier为个性化联邦学习前期发送所有层的模型参数至中央服务器的周期，f_later为个性化联邦学习后期发送所有层的模型参数至中央服务器的周期。

在具体实施过程中，如图3-4所示，采用基于可变频率的分层参数方式进行个性化联邦学***均；在后期，每8轮执行一次所有层参数的聚合平均。

更具体的，还包括：对从客户端发往中央服务器的模型参数添加高斯噪声。

在具体实施过程中，基于差分隐私按层为客户端发往中央服务器的模型参数中添加高斯噪声，对真实参数进行加密，进一步地保护客户端隐私。

更具体的，在客户端i中按照以下公式只将浅层部分的模型参数发送到中央服务器，并添加高斯噪声：

其中，

为从客户端i发送到中央服务器的模型参数；M为掩蔽矩阵，用于掩蔽深层参数参与聚合；dp∈(0,1]，用于控制噪声的影响程度；RN～N(0,σ²)，即RN服从均值为0，方差为σ²的正态分布。

更具体的，在客户端i中按照以下公式将所有层的模型参数发送至中央服务器，并添加高斯噪声：

其中，

为从客户端i发送到中央服务器的模型参数；dp∈(0,1]，用于控制噪声的影响程度；RN～N(0,σ²)，即RN服从均值为0，方差为σ²的正态分布。

更具体的，个性化联邦学习中客户端在前期发送所有层的模型参数至服务器的频率要高于后期发送的频率，即

在具体实施过程中，按照累积学***衡个性化联邦学习中的全局模型和个性化模型的效果。

更具体的，在步骤S4中，

在每轮个性化联邦学习中通过以下公式对中央服务器接收到的模型参数进行聚合操作，得到聚合结果W_t+1：

其中，K为客户端的总个数，C为每轮参与个性化联邦学习的客户端占比，N_i为客户端i上的数据量，N为每轮参与个性化联邦学习的全部客户端上的数据量，

为发送到中央服务器的模型参数。

在具体实施过程中，当0<t≤T*p且t％f_earlier≠0时或T*p<t≤T且t％f_later≠0时，客户端仅发送深度神经网络模型浅层部分的参数进行所有层参数聚合，因此在中央服务器执行操作后，在步骤S5中各客户端也仅需更新本地模型浅层部分的参数，保持深层部分参数不变，即客户端上个性化层的参数只取决于自身数据。而当0<t≤T*p且t％f_earlier＝0时或T*p<t≤T且t％f_later＝0时，客户端发送了网络模型的所有参数至中央服务器，中央服务器按照前后期不同的预设周期(f_earlier和f_later)对其执行周期性的聚合平均，在步骤S5中各客户端将需要更新所有层的参数。

显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。

Claims (10)

1.一种高效通信且保护隐私的个性化联邦学习方法，其特征在于，包括以下步骤：

S1：从中央服务器拉取当前全局模型W_t到所有客户端中，初始化各个客户端的本地模型

其中，i为客户端序号，t为当前个性化联邦学习的轮数；

S2：在客户端i中执行E轮本地训练，得到新的本地模型

S3：基于对分层参数组合进行可变频率更新的方式，将

的模型参数发送到中央服务器；

S4：在中央服务器中对接收到的模型参数聚合，得到聚合结果W_t+1；

S5：基于对分层参数组合进行可变频率更新的方式，根据W_t+1将所有客户端的本地模型更新为

S6：判断是否完成预定迭代次数；

若是，则完成个性化联邦学习；

若否，则令t＝t+1，并返回步骤S2进行下一轮个性化联邦学习。

2.根据权利要求1所述的一种高效通信且保护隐私的个性化联邦学习方法，其特征在于，在步骤S2中，每轮个性化联邦学习中只选取k个客户端执行本地训练；其中，客户端总个数为K，k在K中的占比为C。

3.根据权利要求1所述的一种高效通信且保护隐私的个性化联邦学习方法，其特征在于，在步骤S2中，依照预先设定的数据批大小B将客户端i上的数据分成

个批次，并设为集合

对于

根据以下公式执行本地训练，得到本地模型

其中，N_i为客户端i上的数据量，b_i为集合

中的元素，

为客户端i上执行本地训练前的模型参数，η为学习率，l为客户端上的损失函数。

4.根据权利要求1所述的一种高效通信且保护隐私的个性化联邦学习方法，其特征在于，当个性化联邦学习的训练对象为深度神经网络模型时，将深度神经网络模型视作全局层和个性化层的组合；

其中，将深度神经网络模型的浅层网络部分定义为全局层，负责提取客户端数据的全局特征；将深度神经网络模型的深层网络部分定义为个性化层，负责捕获客户端数据的个性化特征。

5.根据权利要求1所述的一种高效通信且保护隐私的个性化联邦学习方法，其特征在于，在步骤S3中，对分层参数组合进行可变频率更新的方式具体包括：

若当前处于个性化联邦学习的早期，即0<t≤T*p，且t％f_earlier≠0时或者当前处于个性化联邦学习的后期，即T*p<t≤T，且t％f_later≠0时，则只将浅层部分的模型参数发送到中央服务器；

若当前处于个性化联邦学习的早期，即0<t≤T*p，且t％f_earlier＝0时或者当前处于个性化联邦学习的后期，即T*p<t≤T，且t％f_later＝0时，则将所有层的模型参数发送至中央服务器；

其中，t为个性化联邦学习的当前轮数，T为个性化联邦学习的总轮数，p为个性化联邦学习前期的轮数占比，f_earlier为个性化联邦学习前期发送所有层的模型参数至中央服务器的周期，f_later为个性化联邦学习后期发送所有层的模型参数至中央服务器的周期。

6.根据权利要求5所述的一种高效通信且保护隐私的个性化联邦学习方法，其特征在于，还包括：对从客户端发往中央服务器的模型参数添加高斯噪声。

7.根据权利要求6所述的一种高效通信且保护隐私的个性化联邦学习方法，其特征在于，在客户端i中按照以下公式只将浅层部分的模型参数发送到中央服务器，并添加高斯噪声：

其中，

为从客户端i发送到中央服务器的模型参数；M为掩蔽矩阵，用于掩蔽深层参数参与聚合；dp∈(0,1]，用于控制噪声的影响程度；RN～N(0,σ²)，即RN服从均值为0，方差为σ²的正态分布。

8.根据权利要求6所述的一种高效通信且保护隐私的个性化联邦学习方法，其特征在于，在客户端i中按照以下公式将所有层的模型参数发送至中央服务器，并添加高斯噪声：

其中，

为从客户端i发送到中央服务器的模型参数；dp∈(0,1]，用于控制噪声的影响程度；RN～N(0,σ²)，即RN服从均值为0，方差为σ²的正态分布。

9.根据权利要求6所述的一种高效通信且保护隐私的个性化联邦学习方法，其特征在于，个性化联邦学习中客户端在前期发送所有层的模型参数至服务器的频率要高于后期发送的频率，即

10.根据权利要求1所述的一种高效通信且保护隐私的个性化联邦学习方法，其特征在于，在步骤S4中，

在每轮个性化联邦学习中通过以下公式对中央服务器接收到的模型参数进行聚合操作，得到聚合结果W_t+1：

其中，K为客户端的总个数，C为每轮参与个性化联邦学习的客户端占比，N_i为客户端i上的数据量，N为每轮参与个性化联邦学习的全部客户端上的数据量，

为发送到中央服务器的模型参数。

Images