CN114466309A - 一种基于无人机的高效通信无线联邦学习架构构建方法 - Google Patents

一种基于无人机的高效通信无线联邦学习架构构建方法 Download PDF

Info

Publication number
CN114466309A
CN114466309A CN202111560663.5A CN202111560663A CN114466309A CN 114466309 A CN114466309 A CN 114466309A CN 202111560663 A CN202111560663 A CN 202111560663A CN 114466309 A CN114466309 A CN 114466309A
Authority
CN
China
Prior art keywords
unmanned aerial
aerial vehicle
formula
edge device
representing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
CN202111560663.5A
Other languages
English (en)
Inventor
石远明
付敏
黄少明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ShanghaiTech University
Original Assignee
ShanghaiTech University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ShanghaiTech University filed Critical ShanghaiTech University
Priority to CN202111560663.5A priority Critical patent/CN114466309A/zh
Publication of CN114466309A publication Critical patent/CN114466309A/zh
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02—Services making use of location information
    • H04W4/029—Location-based management or tracking services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B17/00—Monitoring; Testing
    • H04B17/30—Monitoring; Testing of propagation channels
    • H04B17/309—Measuring or estimating channel quality parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B17/00—Monitoring; Testing
    • H04B17/30—Monitoring; Testing of propagation channels
    • H04B17/382—Monitoring; Testing of propagation channels for resource allocation, admission control or handover
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B17/00—Monitoring; Testing
    • H04B17/30—Monitoring; Testing of propagation channels
    • H04B17/391—Modelling the propagation channel
    • H04B17/3911—Fading models or fading generators
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W24/00—Supervisory, monitoring or testing arrangements
    • H04W24/02—Arrangements for optimising operational condition

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Quality & Reliability (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

本发明针对模拟通信***，提出了一种基于无人机的高效通信无线联邦学习架构构建方法。本发明基于模拟通信场景下的无线联邦学习的收敛性分析结论，构建基于无人机的高效通信无线联邦学习架构的资源调度机制，实现了无人机基站端去噪因子、边缘设备端传输功率和无人机轨迹的联合优化，从而降低了整个无线联邦学习***的训练损失以及提高了整个无线联邦学习***的训练精度。由于传输距离的限制，传统的地面基站的无线信道环境通常较差，进而导致了模型训练精度的下降。本发明通过无人机基站端去噪因子、边缘设备端传输功率和无人机轨迹的联合优化来提升整个无线联邦学习***的性能。

Description

一种基于无人机的高效通信无线联邦学习架构构建方法
技术领域
本发明针对模拟通信***，提出了一种基于无人机的高效通信无线联邦学习架构构建方法，属于通信工程领域。
背景技术
基于大数据应用的未来物联网要求机器学习架构能够实现低延时的数据收集和高有效的数据分析，然而传统机器学习架构在实际部署中的缺陷也愈发明显，其要求一个云处理中心去储存和处理收集来自边缘设备的原始数据。为了打破数据孤岛和保障数据隐私，一种新型的架构——联邦学习架构得到了越来越多的关注。在联邦学习架构中，边缘设备基于本地的数据来计算更新信息，云处理中心只需要对边缘设备的更新信息进行聚合以迭代更新全局模型。
在实际复杂动态的无线通信环境中，联邦学习的部署依然面临着许多艰巨的挑战。其中，随着边缘设备计算能力突飞猛进地发展，无线通信延时已经成为联邦学习实际落地的主要瓶颈。最近的研究工作将无人机视为协助地面无线网络通信的一种充满前景的替代方案。相比于传统的地面基站，无人机是低成本的并且可以灵活地部署在地面基站难以覆盖到的范围，从而缓解长距离传输带来的信道衰落。由于其天然的高度优势，无人机可以与边缘设备建立视线(Line-of-Sight)连接，从而减少路径遮挡和反射带来的性能损失。由于其可控的高机动性，无人机可以跟踪设备的移动轨迹，从而降低***对边缘设备传输功率的要求。
发明内容
本发明的目的是：本发明基于模拟通信场景下的无线联邦学习架构的收敛性分析结论，构建基于无人机的高效通信无线联邦学习架构的资源调度机制，从而优化整个联邦学习的整体性能。
为了达到上述目的，本发明的技术方案是提供了一种基于无人机的高效通信无线联邦学习架构构建方法，其特征在于利用无人机的高机动性来提升无线联邦学习***的整体性能，包括以下步骤：
步骤1、构建无人机轨迹模型及信道模型
设无人机在高度为H的平面内进行移动，每个时刻无人机的位置q(t)表示为
Figure BDA0003420454840000011
0表示无人机任务开始时刻，T表示无人机任务结束时刻；无人机在一个预定位置[x0,y0]开始执行任务，同时在任务结束后需要返回该预定位置；利用时间离散技术将总时长为T的任务平均地分割为N个时间戳，即T＝Nδ，其中，δ为单个时间戳的时长，则无人机的轨迹限制条件表示为下式(1)：
Figure BDA0003420454840000021
式(1)中，qn表示在时间戳n无人机的位置，qn＝q(nδ)，n＝1,…,N；Vmax表示无人机的最大速度；q0、qN分别表示任务执行时无人机的初始位置以及任务结束后无人机的返回位置；
设无人机和边缘设备上均装配单天线，且无人机移动带来的多普勒效应能够被完美的补偿，则在时间戳n，无人机和边缘设备k之间的信道
Figure BDA0003420454840000022
建模为：
Figure BDA0003420454840000023
式(2)中，
Figure BDA0003420454840000024
表示小尺度衰落信道，其满足
Figure BDA0003420454840000025
Figure BDA0003420454840000026
表示大尺度衰落信道能量增益，
Figure BDA0003420454840000027
β0表示基准距离(d0＝1m)时的信道能量增益，α≥2表示路径衰落指数，
Figure BDA0003420454840000028
表示无人机基站和边缘设备k之间的距离，ck表示边缘设备k的水平坐标；k＝1,…,K，K表示边缘设备的总数；
步骤2、构建模拟通信场景下的高效通信无线联邦学习架构
考虑包含一个无人机基站和K个边缘设备的多用户联邦学习***，整个***旨在去联合地训练一个共同的机器学习模型，优化模拟环境下的多用户联邦学习***的收敛性间隙来提高联邦学习的训练精度，其在数学上表示为如下式所示的优化问题：
Figure BDA0003420454840000029
式(3)中，
Figure BDA00034204548400000210
表示边缘设备k在时间戳n的传输功率；Pk表示峰值功率限制；
Figure BDA00034204548400000211
表示平均功率限制；ηn表示无人机基站在时间戳n的去噪因子；Γ表示边缘设备基于接收到的全局模型和本地数据集计算出的梯度信息的方差上界；
Figure BDA00034204548400000317
表示整个多用户联邦学习***的学习率；
式(3)中，MSEn表示在时间戳n的信号估计的均方误差，且有：
Figure BDA0003420454840000031
式中，
Figure BDA0003420454840000032
表示期望；
Figure BDA0003420454840000033
Figure BDA0003420454840000034
表示边缘设备k在时间戳n的传输信息
Figure BDA0003420454840000035
的第j个元素；
Figure BDA0003420454840000036
Figure BDA0003420454840000037
表示无人机基站在时间戳n的接收信号的第j个元素，
Figure BDA0003420454840000038
表示边缘设备k在时间戳n的传输预编码系数，设置
Figure BDA0003420454840000039
来补偿相位偏移，
Figure BDA00034204548400000310
表示能量为σ2的高斯白噪声；
步骤3、采用块坐标下降和连续凸近似技术求解式(3)所示的优化问题，包括以下步骤：
步骤301、在给定边缘设备端传输功率
Figure BDA00034204548400000311
和无人机轨迹{qn}的条件下优化无人机基站端去噪因子{ηn}，式(3)所示的优化问题等效为：
Figure BDA00034204548400000312
式(4)所示问题解耦到N个子问题，令
Figure BDA00034204548400000313
则第n个子问题转为凸问题：
Figure BDA00034204548400000314
通过设置优化目标函数的一阶导数为零，得到最优解(ηn)★的闭式表达式：
Figure BDA00034204548400000315
步骤302、在给定无人机基站端去噪因子{ηn}和无人机轨迹{qn}的条件下优化边缘设备端传输功率
Figure BDA00034204548400000316
式(3)所示的优化问题等效为：
Figure BDA0003420454840000041
式(7)所示问题解耦为K个子问题，第k个子问题是针对第k个边缘设备在时间序列N内的优化
Figure BDA0003420454840000042
式(8)所示问题是一个线性限制条件的二次规划问题，即凸问题，能够使用标准的优化求解器进行求解；
步骤303、在给定无人机基站端去噪因子{ηn}和边缘设备端传输功率
Figure BDA0003420454840000043
的条件下优化无人机轨迹{qn}，具体包括以下内容：
步骤3031、定义中间量
Figure BDA0003420454840000044
Figure BDA0003420454840000045
步骤3032、式(3)所示的优化问题等效为：
Figure BDA0003420454840000046
步骤3033、为了求解式(10)所示的问题，定义松弛变量
Figure BDA0003420454840000047
Figure BDA0003420454840000048
则，
Figure BDA0003420454840000049
是关于S的凸函数，即
Figure BDA00034204548400000410
步骤3034、利用凸函数
Figure BDA00034204548400000411
对
Figure BDA00034204548400000412
在任意点
Figure BDA00034204548400000413
处的一阶泰勒展开
Figure BDA00034204548400000414
均是其线性下界，
Figure BDA00034204548400000415
表示第n轮用户位置的当前优化结果，则有：
Figure BDA00034204548400000416
式(11)中，
Figure BDA0003420454840000051
表示
Figure BDA0003420454840000052
中的
Figure BDA0003420454840000053
Figure BDA0003420454840000054
运用同样的一节泰勒展开技术到凸函数
Figure BDA0003420454840000055
对qn在任意点
Figure BDA0003420454840000056
则有：
Figure BDA0003420454840000057
步骤304、通过交替地求解式(6)、式(8)以及式(12)所示问题来迭代优化无人机基站端去噪因子{ηn}、边缘设备端传输功率
Figure BDA0003420454840000058
和无人机轨迹{qn}，从而得到式(3)所示的优化问题的解。
优选的，步骤2中，所述机器学习模型表示为：
Figure BDA0003420454840000059
式(13)中，
Figure BDA00034204548400000510
表示联邦学习的模型参数，f(·)表示本地目标损失函数，F(·)表示全局目标损失函数，
Figure BDA00034204548400000511
表示边缘设备k的本地数据集，ξ表示本地数据集
Figure BDA00034204548400000512
中的一个数据样本，
Figure BDA00034204548400000513
表示K个边缘设备的整体数据集。
优选的，步骤2中，设每个边缘设备上的本地数据集的样本量一样，即
Figure BDA00034204548400000514
则模拟通信场景下的基于无人机的高效通信无线联邦学习架构的每轮训练过程包含三个阶段：
第一个阶段：全局模型分发
无人机基站向所有边缘设备广播当前时间戳n的全局模型参数wn；
第二个阶段：本地梯度计算
边缘设备k基于接收到的全局模型参数
Figure BDA00034204548400000515
和本地数据集
Figure BDA00034204548400000516
计算出梯度信息
Figure BDA00034204548400000517
在边缘设备端的预处理操作
Figure BDA00034204548400000518
中引入归一化技术来保证传输信号零均值、单位方差和各元素独立的性质，则有：
Figure BDA0003420454840000061
式(14)中，
Figure BDA0003420454840000062
表示在时间戳n的传输信息，
Figure BDA0003420454840000063
表示全体边缘设备的梯度均值；ln表示全体边缘设备的梯度标准差；
Figure BDA0003420454840000064
表示边缘设备k的梯度均值，
Figure BDA0003420454840000065
Figure BDA0003420454840000066
Figure BDA0003420454840000067
表示梯度信息
Figure BDA0003420454840000068
中的第j个元素，d表示梯度信息的维度大小；
Figure BDA0003420454840000069
表示边缘设备k的梯度标准差，
Figure BDA00034204548400000610
第三个阶段：全局模型更新
在上行通信过程中，每个边缘设备使用空中计算技术来同时同频地依次传输信息sk的每个元素
Figure BDA00034204548400000611
无人机基站使用后处理操作ψn(·)来恢复更新信息，其中，无人机基站的目标信号中的第j个元素
Figure BDA00034204548400000612
表示为，
Figure BDA00034204548400000613
Figure BDA00034204548400000614
无人机基站估计到的实际信号中的第j个元素
Figure BDA00034204548400000615
表示为，
Figure BDA00034204548400000616
Figure BDA00034204548400000617
无人机基站基于估计到的实际信号
Figure BDA00034204548400000618
产生新一轮的全局模型参数wn+1，即有，
Figure BDA00034204548400000619
优选的，步骤2中，针对上述的模拟通信场景下的无线联邦学习架构，可以推导出非凸损失函数下的联邦学习的收敛性分析结论。
假设一(光滑性)：本地损失函数f:
Figure BDA00034204548400000620
都是L-Lipschitz光滑的(L>0)，且满足：
Figure BDA00034204548400000621
也可以写作：
Figure BDA00034204548400000622
假设二(有界方差)：对于每个梯度信息
Figure BDA00034204548400000623
其方差都是有上界的，即有：
Figure BDA00034204548400000624
式中，gk,j表示梯度信息中的第j个元素，Γ表示方差上界。
结论一：基于上述的假设一和假设二，同时设置学习率
Figure BDA0003420454840000071
经过N轮迭代后全局的损失函数有上界：
Figure BDA0003420454840000072
式中，w★表示联邦学习损失函数的全局最优点；
期望
Figure BDA0003420454840000073
表示针对传输信号变量和高斯白噪音变量的期望；
MSEn表示在时间戳n的信号估计的均方误差。
根据推导出来的结论一，可以看出联邦学习的收敛性间隙主要由第二项
Figure BDA0003420454840000074
主导的。因此，本发明旨在功率限制和无人机轨迹限制的条件下，优化模拟环境下的无线联邦***的收敛性间隙来提高联邦学习的训练精度。
优选的，第二个阶段中，边缘设备k采用全梯度下降方式来计算所述梯度信息，即
Figure BDA0003420454840000075
本发明基于模拟通信场景下的无线联邦学习的收敛性分析结论，构建基于无人机的高效通信无线联邦学习架构的资源调度机制，实现了无人机基站端去噪因子、边缘设备端传输功率和无人机轨迹的联合优化，从而降低了整个无线联邦学习***的训练损失以及提高了整个无线联邦学习***的训练精度。由于传输距离的限制，传统的地面基站的无线信道环境通常较差，进而导致了模型训练精度的下降。本发明通过无人机基站端去噪因子、边缘设备端传输功率和无人机轨迹的联合优化来提升整个无线联邦学习***的性能。
附图说明
图1表示实验设置中边缘设备位置、无人机预定位置以及无人机飞行轨迹；
图2表示中心化的机器学习方法、基于无人机轨迹优化算法下的联邦学习方法以及无人机固定在预设位置的联邦学习方法的训练损失函数和轮数的收敛关系；
图3表示中心化的机器学习方法、基于无人机轨迹优化算法下的联邦学习方法以及无人机固定在预设位置的联邦学习方法的训练精度和轮数的收敛关系；
图中可见通过本发明的无人机轨迹优化可以有效地降低无线联邦学习的训练损失以及提高无线联邦学习的训练精度。
具体实施方式
下面结合具体实施例，进一步阐述本发明。应理解，这些实施例仅用于说明本发明而不用于限于本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，这些等价形式同样落于本申请所附权利要求书所限定的范围。
本实施例公开的一种基于无人机的高效通信无线联邦学习架构构建方法具体包括以下内容：
步骤1、构建无人机轨迹模型及信道模型
首先，本发明考虑无人机在高度为H的平面内进行移动，则每个时刻无人机的位置q(t)可以表示为
Figure BDA0003420454840000081
0表示无人机任务开始时刻，T表示无人机任务结束时刻。假设无人机在一个预定位置[x0,y0]开始执行任务，同时在任务结束后需要返回该预定位置，即q(0)＝q(T)＝[x0,y0]。这里预定位置的假设也是基于实际场景下的考虑，例如充电桩和/或数据储存点。规定无人机的最大速度为Vmaxm/s，数学上可以表示为
Figure BDA0003420454840000082
其中，
Figure BDA0003420454840000083
和
Figure BDA0003420454840000084
分别代表x(t)和y(t)在t时刻的时间导数。为了设计一个易于实现的算法，本实施例采用时间离散技术去处理连续无人机轨迹优化问题。特别地，总时长为T的任务被平均地分割为N个时间戳，即T＝Nδ，其中，δ为单个时间戳的时长。在给定无人机最大速度Vmax和飞行高度H的条件下，需要谨慎地选择时间戳的时长δ，去实现算法精确度和复杂度之间的权衡，使得在每个时间戳内，无人机和边缘设备之间的距离近似保持常数，即δVmax≤H。由此，连续时间T内的无人机轨迹优化问题就可以近似为长度为N的离散轨迹序列优化问题，即qn＝q(nδ)，qn表示在时间戳n无人机的位置，n＝1,…,n。则，无人机的轨迹限制条件就可以写作：
Figure BDA0003420454840000085
q0＝qN＝[x0，y0]
最近，高通(Qualcomm)公司的现场试验已经验证高海拔飞行的无人机与地面设备的通信信道是由视线(Line-of-Sight)链路主导的。同时，本发明考虑无人机和边缘设备上均装配单天线，且假设无人机移动带来的多普勒效应可以被完美的补偿。则，在时间戳n，无人机和边缘设备k之间的信道
Figure BDA0003420454840000086
可以建模为：
Figure BDA0003420454840000091
其中，
Figure BDA0003420454840000092
表示小尺度衰落信道，其满足
Figure BDA0003420454840000093
Figure BDA0003420454840000094
表示大尺度衰落信道能量增益；将
Figure BDA0003420454840000095
建模为
Figure BDA0003420454840000096
其中，β0表示基准距离(d0＝1m)时的信道能量增益，α≥2表示路径衰落指数；
Figure BDA0003420454840000097
表示无人机基站和边缘设备k之间的距离，ck表示边缘设备k的水平坐标；k＝1,…,K，K表示边缘设备的总数。
步骤2、构建模拟通信场景下的高效通信无线联邦学习架构
本实施例考虑包含一个无人机基站和K个边缘设备的多用户联邦学习***，整个***旨在去联合地训练一个共同的机器学习模型，该机器学习模型在数学上可以表示为：
Figure BDA0003420454840000098
式中，
Figure BDA0003420454840000099
表示联邦学习的模型参数，f(·)表示本地目标损失函数，F(·)表示全局目标损失函数，
Figure BDA00034204548400000910
表示边缘设备k的本地数据集，ξ表示本地数据集
Figure BDA00034204548400000911
中的一个数据样本，
Figure BDA00034204548400000912
表示K个边缘设备的整体数据集。为了简单起见，假设每个边缘设备上的本地数据集的样本量一样，即
Figure BDA00034204548400000913
考虑模拟通信场景下的联邦学习任务，并聚焦于整个联邦学习***的瓶颈——从边缘设备向无人机基站上传计算梯度的过程，并采用空中计算技术来提高分布式边缘设备梯度信息的聚合效率。模拟通信场景下的基于无人机的高效通信无线联邦学习架构的每轮训练过程包含三个阶段：
(1)全局模型分发：无人机基站向所有边缘设备广播当前时间戳n的全局模型wn。
(2)本地梯度计算：边缘设备k基于接收到的全局模型
Figure BDA00034204548400000914
和本地数据集
Figure BDA00034204548400000915
计算出梯度信息
Figure BDA00034204548400000916
这里可以采用全梯度下降方式来计算梯度信息，即
Figure BDA00034204548400000917
在边缘设备端的预处理操作
Figure BDA00034204548400000918
中引入归一化技术来保证传输信号零均值、单位方差和各元素独立的性质
Figure BDA00034204548400000919
Figure BDA00034204548400000920
Figure BDA00034204548400000921
表示在时间戳n的传输信息，
Figure BDA00034204548400000922
表示期望，Id表示d×d大小的单位矩阵，0d表示d×d大小的全零矩阵)，具体操作如下：
Figure BDA0003420454840000101
式中，
Figure BDA0003420454840000102
表示全体边缘设备的梯度均值；ln表示全体边缘设备的梯度标准差；
Figure BDA0003420454840000103
表示边缘设备k的梯度均值，
Figure BDA0003420454840000104
Figure BDA0003420454840000105
表示梯度信息
Figure BDA0003420454840000106
中的第j个元素，d表示梯度信息的维度大小；
Figure BDA0003420454840000107
表示边缘设备k的梯度标准差，
Figure BDA0003420454840000108
(3)全局模型更新：在上行通信过程中，每个边缘设备使用空中计算技术来同时同频地依次传输信息sk的每个元素
Figure BDA0003420454840000109
无人机基站使用后处理操作ψn(·)来恢复更新信息。其中，无人机基站的目标信号中的第j个元素
Figure BDA00034204548400001010
可以表示为：
Figure BDA00034204548400001011
式中，
Figure BDA00034204548400001012
考虑信道衰落和噪音的影响，无人机基站估计到的实际信号中的第j个元素
Figure BDA00034204548400001013
可以表示为：
Figure BDA00034204548400001014
式中，
Figure BDA00034204548400001015
ηn表示无人机基站的去噪因子，为了压制噪声项；
Figure BDA00034204548400001016
表示无人机基站在时间戳n接收信号的第j个元素；
Figure BDA00034204548400001017
表示边缘设备k在时间戳n的传输预编码系数，为了进行传输功率控制和信道衰落补偿；
Figure BDA00034204548400001018
表示能量为σ2的高斯白噪声。
紧接着，无人机基站基于估计到的实际信号
Figure BDA00034204548400001019
产生新一轮的全局模型wn+1，即有：
Figure BDA00034204548400001020
式中，
Figure BDA00034204548400001021
表示整个联邦学习的学习率。
步骤3、无线联邦学习架构的收敛性分析及问题建模
针对上述的模拟通信场景下的无线联邦学习架构，可以推导出非凸损失函数下的联邦学习的收敛性分析结论。
假设一(光滑性)：本地损失函数f:
Figure BDA0003420454840000111
都是L-Lipschitz光滑的(L>0)，且满足：
Figure BDA0003420454840000112
也可以写作：
Figure BDA0003420454840000113
假设二(有界方差)：对于每个梯度信息
Figure BDA0003420454840000114
其方差都是有上界的，即有：
Figure BDA0003420454840000115
式中，gk,j表示梯度信息中的第j个元素，Γ表示方差上界。
结论一：基于上述的假设一和假设二，同时设置学习率
Figure BDA0003420454840000116
经过N轮迭代后全局的损失函数有上界：
Figure BDA0003420454840000117
式中，w★表示联邦学习损失函数的全局最优点；
期望
Figure BDA0003420454840000118
表示针对传输信号变量和高斯白噪音变量的期望；
MSEn表示在时间戳n的信号估计的均方误差，且有：
Figure BDA0003420454840000119
式中，移动设备的传输预编码系数
Figure BDA00034204548400001110
来补偿相位偏移，
Figure BDA00034204548400001111
表示边缘设备k在时间戳n的传输功率。根据推导出来的结论一，可以看出联邦学习的收敛性间隙主要由第二项
Figure BDA00034204548400001112
主导的。因此，本发明旨在功率限制和无人机轨迹限制的条件下，优化模拟环境下的无线联邦***的收敛性间隙来提高联邦学习的训练精度，其在数学上可以表示为：
Figure BDA0003420454840000121
Figure BDA0003420454840000122
Figure BDA0003420454840000123
Figure BDA0003420454840000124
q0＝qN＝[x0,y0]
式中，Pk表示峰值功率限制，
Figure BDA0003420454840000125
表示平均功率限制。
虽然上述的优化问题中的所有限制条件都是凸的，但是其难点在于因为无人机基站端去噪因子{ηn}、边缘设备端传输功率
Figure BDA0003420454840000126
和无人机轨迹{qn}在时序上的深度耦合所带来的非凸目标函数。为了去解决这个难题，本发明采用块坐标下降和连续凸近似技术去求解原问题。
步骤4、设计问题求解算法
本发明提出一个基于块坐标下降技术的高效交替迭代算法优化变量解耦。具体来说，本发明首先考虑在给定边缘设备端传输功率
Figure BDA0003420454840000127
和无人机轨迹{qn}的条件下优化无人机基站端去噪因子{ηn}，则原问题就可以等效为
Figure BDA0003420454840000128
上述问题可以解耦到N个子问题。令
Figure BDA0003420454840000129
第n个子问题可以转为凸问题：
Figure BDA00034204548400001210
通过设置优化目标函数的一阶导数为零，可以得到最优解(ηn)★的闭式表达式：
Figure BDA00034204548400001211
紧接着，在给定无人机基站端去噪因子{ηn}和无人机轨迹{qn}的条件下优化边缘设备端传输功率
Figure BDA00034204548400001212
则原问题就可以等效为：
Figure BDA0003420454840000131
Figure BDA0003420454840000132
上述问题可以解耦为K个子问题。则第k个子问题是针对第k个边缘设备在时间序列N内的优化
Figure BDA0003420454840000133
上述问题是一个线性限制条件的二次规划问题，即凸问题，可以使用标准的优化求解器进行求解。
最后，在给定无人机基站端去噪因子{ηn}和边缘设备端传输功率
Figure BDA0003420454840000134
的条件下优化无人机轨迹{qn}。在这一步，本发明将运用连续凸近似技术，具体包括以下内容：
定义中间量
Figure BDA0003420454840000135
Figure BDA0003420454840000136
Figure BDA0003420454840000137
进一步，原问题就可以等效为
Figure BDA0003420454840000138
Figure BDA0003420454840000139
q0＝qN＝[x0，y0]
为了求解上述的问题，定义松弛变量
Figure BDA00034204548400001310
则，
Figure BDA00034204548400001311
是关于S的凸函数，即
Figure BDA00034204548400001312
紧接着，利用凸函数
Figure BDA00034204548400001313
对
Figure BDA00034204548400001314
在任意点
Figure BDA00034204548400001315
处的一阶泰勒展开
Figure BDA00034204548400001316
均是其线性下界，
Figure BDA00034204548400001317
表示第n轮用户位置的当前优化结果，则有：
Figure BDA0003420454840000141
式中，
Figure BDA0003420454840000142
表示
Figure BDA0003420454840000143
中的
Figure BDA0003420454840000144
Figure BDA0003420454840000145
运用同样的一节泰勒展开技术到凸函数
Figure BDA0003420454840000146
对qn在任意点
Figure BDA0003420454840000147
则，问题就可以转化为凸问题：
Figure BDA0003420454840000148
则，本发明就可以通过交替地求解问题(1)、(2)和(3)来迭代优化无人机基站端去噪因子{ηn}、边缘设备端传输功率
Figure BDA0003420454840000149
和无人机轨迹{qn}，从而得到原问题的解。

Claims (5)

1.一种基于无人机的高效通信无线联邦学习架构构建方法，其特征在于利用无人机的高机动性来提升无线联邦学习***的整体性能，包括以下步骤：
步骤1、构建无人机轨迹模型及信道模型
设无人机在高度为H的平面内进行移动，每个时刻无人机的位置q(t)表示为
Figure FDA0003420454830000011
0表示无人机任务开始时刻，T表示无人机任务结束时刻；无人机在一个预定位置[x0,y0]开始执行任务，同时在任务结束后需要返回该预定位置；利用时间离散技术将总时长为T的任务被平均地分割为N个时间戳，即T＝Nδ，其中，δ为单个时间戳的时长，则无人机的轨迹限制条件表示为下式(1)：
Figure FDA0003420454830000012
式(1)中，qn表示在时间戳n无人机的位置，qn＝q(nδ)，n＝1,…,N；Vmax表示无人机的最大速度；q0、qN分别表示任务执行时无人机的初始位置以及任务结束后无人机的返回位置；
设无人机和边缘设备上均装配单天线，且无人机移动带来的多普勒效应能够被完美的补偿，则在时间戳n，无人机和边缘设备k之间的信道
Figure FDA0003420454830000013
建模为：
Figure FDA0003420454830000014
式(2)中，
Figure FDA0003420454830000015
表示小尺度衰落信道，其满足
Figure FDA0003420454830000016
Figure FDA0003420454830000017
表示大尺度衰落信道能量增益，
Figure FDA0003420454830000018
β0表示基准距离(d0＝1m)时的信道能量增益，α≥2表示路径衰落指数，
Figure FDA0003420454830000019
表示无人机基站和边缘设备k之间的距离，ck表示边缘设备k的水平坐标；k＝1,…,K，K表示边缘设备的总数；
步骤2、构建模拟通信场景下的高效通信无线联邦学习架构
考虑包含一个无人机基站和K个边缘设备的多用户联邦学习***，整个***旨在去联合地训练一个共同的机器学习模型，优化模拟环境下的多用户联邦学习***的收敛性间隙来提高联邦学习的训练精度，其在数学上表示为如下式所示的优化问题：
Figure FDA0003420454830000021
式(3)中，
Figure FDA0003420454830000022
表示边缘设备k在时间戳n的传输功率；Pk表示峰值功率限制；
Figure FDA0003420454830000023
表示平均功率限制；ηn表示无人机基站在时间戳n的去噪因子；Γ表示边缘设备基于接收到的全局模型和本地数据集计算出的梯度信息的方差上界；
Figure DEST_PATH_BDA00034204548400000317
表示整个多用户联邦学习***的学习率；
式(3)中，MSEn表示在时间戳n的信号估计的均方误差，且有：
Figure FDA0003420454830000025
式中，
Figure FDA0003420454830000026
表示期望；
Figure FDA0003420454830000027
Figure FDA0003420454830000028
表示边缘设备k在时间戳n的传输信号
Figure FDA0003420454830000029
的第j个元素；
Figure FDA00034204548300000210
Figure FDA00034204548300000211
表示无人机基站在时间戳n的接收信号的第j个元素，
Figure FDA00034204548300000212
表示边缘设备k在时间戳n的传输预编码系数，设置
Figure FDA00034204548300000213
来补偿相位偏移，
Figure FDA00034204548300000214
表示能量为σ2的高斯白噪声；
步骤3、采用块坐标下降和连续凸近似技术求解式(3)所示的优化问题，包括以下步骤：
步骤301、在给定边缘设备端传输功率
Figure FDA00034204548300000215
和无人机轨迹{qn}的条件下优化无人机基站端去噪因子{ηn}，式(3)所示的优化问题等效为：
Figure FDA00034204548300000216
式(4)所示问题解耦到N个子问题，令
Figure FDA00034204548300000217
则第n个子问题转为凸问题：
Figure FDA0003420454830000031
通过设置优化目标函数的一阶导数为零，得到最优解(ηn)★的闭式表达式：
Figure FDA0003420454830000032
步骤302、在给定无人机基站端去噪因子{ηn}和无人机轨迹{qn}的条件下优化边缘设备端传输功率
Figure FDA0003420454830000033
式(3)所示的优化问题等效为：
Figure FDA0003420454830000034
式(7)所示问题解耦为K个子问题，第k个子问题是针对第k个边缘设备在时间序列N内的优化
Figure FDA0003420454830000035
式(8)所示问题是一个线性限制条件的二次规划问题，即凸问题，能够使用标准的优化求解器进行求解；
步骤303、在给定无人机基站端去噪因子{ηn}和边缘设备端传输功率
Figure FDA0003420454830000036
的条件下优化无人机轨迹{qn}，具体包括以下内容：
步骤3031、定义中间量
Figure FDA0003420454830000037
Figure FDA0003420454830000038
步骤3032、式(3)所示的优化问题等效为：
Figure FDA0003420454830000041
步骤3033、为了求解式(10)所示的问题，定义松弛变量
Figure FDA0003420454830000042
Figure FDA0003420454830000043
则，
Figure FDA0003420454830000044
是关于s的凸函数，即
Figure FDA0003420454830000045
步骤3034、利用凸函数
Figure FDA0003420454830000046
对
Figure FDA0003420454830000047
在任意点
Figure FDA0003420454830000048
处的一阶泰勒展开
Figure FDA0003420454830000049
均是其线性下界，
Figure FDA00034204548300000410
表示第n轮用户位置的当前优化结果，则有：
Figure FDA00034204548300000411
式(11)中，
Figure FDA00034204548300000412
表示
Figure FDA00034204548300000413
中的
Figure FDA00034204548300000414
Figure FDA00034204548300000415
运用同样的一节泰勒展开技术到凸函数
Figure FDA00034204548300000416
对qn在任意点
Figure FDA00034204548300000417
则有：
Figure FDA00034204548300000418
步骤304、通过交替地求解式(6)、式(8)以及式(12)所示问题来迭代优化无人机基站端去噪因子{ηn}、边缘设备端传输功率
Figure FDA00034204548300000419
和无人机轨迹{qn}，从而得到式(3)所示的优化问题的解。
2.如权利要求1所述的一种基于无人机的高效通信无线联邦学习架构构建方法，其特征在于，步骤2中，所述机器学习模型表示为：
Figure FDA00034204548300000420
式(13)中，
Figure FDA00034204548300000421
表示联邦学习的模型参数，f(·)表示本地目标损失函数，F(·)表示全局目标损失函数，
Figure FDA00034204548300000422
表示边缘设备k的本地数据集，ξ表示本地数据集
Figure FDA00034204548300000423
中的一个数据样本，
Figure FDA00034204548300000424
表示K个边缘设备的整体数据集。
3.如权利要求2所述的一种基于无人机的高效通信无线联邦学习架构构建方法，其特征在于，步骤2中，设每个边缘设备上的本地数据集的样本量一样，即
Figure FDA0003420454830000051
则模拟通信场景下的基于无人机的高效通信无线联邦学习架构的每轮训练过程包含三个阶段：
第一个阶段：全局模型参数分发
无人机基站向所有边缘设备广播当前时间戳n的全局模型参数wn；
第二个阶段：本地梯度计算
边缘设备k基于接收到的全局模型参数
Figure FDA0003420454830000052
和本地数据集
Figure FDA0003420454830000053
计算出梯度信息
Figure FDA0003420454830000054
在边缘设备端的预处理操作
Figure FDA0003420454830000055
中引入归一化技术来保证传输信号零均值、单位方差和各元素独立的性质，则有：
Figure FDA0003420454830000056
式(14)中，
Figure FDA0003420454830000057
表示在时间戳n的传输信息，
Figure FDA0003420454830000058
表示全体边缘设备的梯度均值；ιn表示全体边缘设备的梯度标准差；
Figure FDA0003420454830000059
表示边缘设备k的梯度均值，
Figure FDA00034204548300000510
Figure FDA00034204548300000511
Figure FDA00034204548300000512
表示梯度信息
Figure FDA00034204548300000513
中的第j个元素，d表示梯度信息的维度大小；
Figure FDA00034204548300000514
表示边缘设备k的梯度标准差，
Figure FDA00034204548300000515
第三个阶段：全局模型更新
在上行通信过程中，每个边缘设备使用空中计算技术来同时同频地依次传输信息sk的每个元素
Figure FDA00034204548300000516
无人机基站使用后处理操作ψn(·)来恢复更新信息，其中，无人机基站的目标信号中的第j个元素
Figure FDA00034204548300000517
表示为，
Figure FDA00034204548300000518
Figure FDA00034204548300000519
无人机基站估计到的实际信号中的第j个元素
Figure FDA00034204548300000520
表示为，
Figure FDA00034204548300000521
Figure FDA00034204548300000522
无人机基站基于估计到的实际信号
Figure FDA00034204548300000523
产生新一轮的全局模型参数wn+1，即有，
Figure FDA00034204548300000524
4.如权利要求3所述的一种基于无人机的高效通信无线联邦学习架构构建方法，其特征在于，步骤2中，针对上述的模拟通信场景下的无线联邦学习架构，可以推导出非凸损失函数下的联邦学习的收敛性分析结论：
假设一)光滑性：本地损失函数
Figure FDA0003420454830000061
都是L-Lipschitz光滑的(L>0)，且满足：
Figure FDA0003420454830000062
也可以写作：
Figure FDA0003420454830000063
假设二)有界方差：对于每个梯度信息
Figure FDA0003420454830000064
其方差都是有上界的，即有：
Figure FDA0003420454830000065
式中，gk,j表示梯度信息中的第j个元素，Γ表示方差上界。
结论一：基于上述的假设一和假设二，同时设置学习率
Figure FDA0003420454830000066
经过N轮迭代后全局的损失函数有上界：
Figure FDA0003420454830000067
式中，w★表示联邦学习损失函数的全局最优点；期望
Figure FDA0003420454830000068
表示针对传输信号变量和高斯白噪音变量的期望；MSEn表示在时间戳n的信号估计的均方误差；
根据推导出来的结论一，可以看出联邦学习的收敛性间隙主要由第二项
Figure FDA0003420454830000069
主导的，因此，在功率限制和无人机轨迹限制的条件下，优化模拟环境下的无线联邦***的收敛性间隙来提高联邦学习的训练精度。
5.如权利要求4所述的一种基于无人机的高效通信无线联邦学习架构构建方法，其特征在于，第二个阶段中，边缘设备k采用全梯度下降方式来计算所述梯度信息，即
Figure FDA00034204548300000610
CN202111560663.5A 2021-12-20 2021-12-20 一种基于无人机的高效通信无线联邦学习架构构建方法 Withdrawn CN114466309A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111560663.5A CN114466309A (zh) 2021-12-20 2021-12-20 一种基于无人机的高效通信无线联邦学习架构构建方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111560663.5A CN114466309A (zh) 2021-12-20 2021-12-20 一种基于无人机的高效通信无线联邦学习架构构建方法

Publications (1)

Publication Number Publication Date
CN114466309A true CN114466309A (zh) 2022-05-10

Family

ID=81406347

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111560663.5A Withdrawn CN114466309A (zh) 2021-12-20 2021-12-20 一种基于无人机的高效通信无线联邦学习架构构建方法

Country Status (1)

Country Link
CN (1) CN114466309A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115173924A (zh) * 2022-07-06 2022-10-11 多彩贵州印象网络传媒股份有限公司 一种基于云边协同技术的无人机无人巡检管理***
CN115441925A (zh) * 2022-07-26 2022-12-06 广东工业大学 一种基于空地通信网络的无线计算***
CN116128070A (zh) * 2023-01-10 2023-05-16 上海科技大学 基于无线空中计算和多比特量化压缩感知的联邦学习方法
CN116778363A (zh) * 2023-06-25 2023-09-19 河海大学 一种基于联邦学习的低通信量库区水环境风险识别方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115173924A (zh) * 2022-07-06 2022-10-11 多彩贵州印象网络传媒股份有限公司 一种基于云边协同技术的无人机无人巡检管理***
CN115441925A (zh) * 2022-07-26 2022-12-06 广东工业大学 一种基于空地通信网络的无线计算***
CN115441925B (zh) * 2022-07-26 2024-02-09 广东工业大学 一种基于空地通信网络的无线计算***
CN116128070A (zh) * 2023-01-10 2023-05-16 上海科技大学 基于无线空中计算和多比特量化压缩感知的联邦学习方法
CN116128070B (zh) * 2023-01-10 2023-09-19 上海科技大学 基于无线空中计算和多比特量化压缩感知的联邦学习方法
CN116778363A (zh) * 2023-06-25 2023-09-19 河海大学 一种基于联邦学习的低通信量库区水环境风险识别方法
CN116778363B (zh) * 2023-06-25 2024-04-30 河海大学 一种基于联邦学习的低通信量库区水环境风险识别方法

Similar Documents

Publication Publication Date Title
CN114466309A (zh) 一种基于无人机的高效通信无线联邦学习架构构建方法
CN111885504B (zh) 一种辅助移动车辆无线通信的无人机轨迹优化方法
CN110381444B (zh) 一种无人机轨迹优化及资源分配方法
CN109067490B (zh) 蜂窝网联下多无人机协同移动边缘计算***资源分配方法
CN113364495B (zh) 一种多无人机轨迹和智能反射面相移联合优化方法及***
CN109831797A (zh) 一种推动功率受限的无人机基站带宽和轨迹联合优化方法
CN112327907B (zh) 一种无人机路径规划方法
CN110428115A (zh) 基于深度强化学习的动态环境下的最大化***效益方法
CN105023068A (zh) 一种基于规则挖掘的航班进离场协同调度方法
CN113784314B (zh) 一种智能反射表面辅助下的无人机数据与能量传输方法
CN113660681A (zh) 一种应用于无人机集群辅助传输的多智能体资源优化方法
CN113625751A (zh) 面向空地一体联邦学习的无人机位置与资源联合优化方法
Shen et al. Number and operation time minimization for multi-UAV-enabled data collection system with time windows
CN114020024B (zh) 基于蒙特卡洛树搜索的无人机路径规划方法
Yang et al. Federated imitation learning for UAV swarm coordination in urban traffic monitoring
CN113552898A (zh) 一种非确定干扰环境下的无人机鲁棒轨迹规划方法
CN116939681A (zh) 一种基于智能超表面和空中计算的联邦学习***
CN116131981A (zh) 一种融合无人机特性的空地信道建模仿真方法
CN112383893B (zh) 一种基于分时的可充式传感网络无线功率传输方法
KR102416342B1 (ko) 3차원 셀룰러 네트워크에서 간헐적 인식 연합 학습 방법
Mao et al. ML-based delay–angle-joint path loss prediction for UAV mmWave channels
Shoer et al. Predicting path loss distributions of a wireless communication system for multiple base station altitudes from satellite images
Linpei et al. Energy-efficient computation offloading assisted by RIS-based UAV
CN114489146B (zh) 一种多无人机数据收集***的调度与轨迹规划方法
CN113163493B (zh) Uav轨迹、传感节点调度及任务执行时间联合优化方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WW01 Invention patent application withdrawn after publication

Application publication date: 20220510

WW01 Invention patent application withdrawn after publication