CN113052331A - 一种基于区块链的物联网个性化联邦学习方法 - Google Patents

一种基于区块链的物联网个性化联邦学习方法 Download PDF

Info

Publication number
CN113052331A
CN113052331A CN202110191251.2A CN202110191251A CN113052331A CN 113052331 A CN113052331 A CN 113052331A CN 202110191251 A CN202110191251 A CN 202110191251A CN 113052331 A CN113052331 A CN 113052331A
Authority
CN
China
Prior art keywords
model
block chain
federal learning
edge computing
personalized
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110191251.2A
Other languages
English (en)
Inventor
王荣
蔡维德
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN202110191251.2A priority Critical patent/CN113052331A/zh
Publication of CN113052331A publication Critical patent/CN113052331A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/20—Ensemble learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/602—Providing cryptographic facilities or services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/64—Protecting data integrity, e.g. using checksums, certificates or signatures
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16Y—INFORMATION AND COMMUNICATION TECHNOLOGY SPECIALLY ADAPTED FOR THE INTERNET OF THINGS [IoT]
    • G16Y30/00—IoT infrastructure
    • G16Y30/10—Security thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Bioethics (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Mathematical Physics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开一种基于区块链的物联网个性化联邦学习方法，涉及区块链技术领域，该方法包括：终端设备和边缘计算设备注册和认证，各个终端设备和边缘计算设备向区块链进行注册，区块链对各个设备进行认证，并发放证书；区块链智能合约创建联邦学习任务，初始化训练模型及参数；终端设备加载数据样本，卸载到边缘计算设备上，进行本地模型训练；边缘计算设备将本地训练模型参数加密之后，上传至区块链，区块链节点共识通过之后，产生新的区块；智能合约对模型参数进行聚合，聚合模型参数，并更新整体的模型；智能合约判断是否达到模型预设收敛条件，如果没有则进行下一轮训练，如果到达则终止联邦学习任务；边缘计算设备基于全局模型信息结合自己数据，训练个性化模型。本发明解决传统的联邦学习的全局模型却无法满足物联网设备在存储计算和通信能力方面的异构性，同时提高了隐私数据的安全性以及***的拜占庭容错性。

Description

一种基于区块链的物联网个性化联邦学习方法
技术领域
本发明涉及针对区块链领域，特别是涉及一种基于区块链的物联网个性化联邦学习方法。
背景技术
联邦学习***作为一个多个客户端贡献本地数据合作训练一个统一的模型的学习方法，其局限性在于该模型只依赖于一个单一的中央服务器，容易受到服务器故障的影响。传统的联邦学习的目的是为了获得一个全局共享的模型，供所有参与者使用。但当各个参与者数据分布不一致时，全局模型却无法满足每个联邦学习参与者对性能的需求，有的参与者甚至无法获得一个比仅采用本地数据训练模型更优的模型。
基于此，提出一种基于区块链的物联网个性化联邦学习方法，解决物联网环境中的异构性问题和提高联邦学习拜占庭容错性以及提高数据的隐私性。
发明内容
有鉴于现有技术的上述缺陷，本发明所要解决的技术问题是提供本发明针对目前技术发展的需求和不足之处，提供一种基于区块链的物联网个性化联邦学习方法。
首先，本发明提供一种基于区块链的联邦学习激励方法，解决上述技术问题采的技术方案如下：
S01、终端设备和边缘计算设备注册和认证，各个终端设备和边缘计算设备向区块链进行注册，区块链对各个设备进行认证，并发放证书；
S02、区块链智能合约创建联邦学习任务，初始化训练模型及参数；
S03、终端设备加载数据样本，卸载到边缘计算设备上，进行本地模型训练；
S04、边缘计算设备将本地训练模型参数加密之后，上传至区块链，区块链节点共识通过之后，产生新的区块；
S05、智能合约对模型参数进行聚合，聚合模型参数，并更新整体的模型；智能合约判断是否达到模型预设收敛条件，如果没有则进行下一轮训练，如果到达则终止联邦学习任务；
S06、边缘计算设备基于全局模型信息结合自己数据，训练个性化模型。
具体的，所涉及物联网设备可以是各种智能终端，如手机、眼镜、手表、摄像头、监控设备等。客户端是通过区块链进行认证，认证方式可以是数字证书、令牌认证等认证方式。区块链可以是公有链、联盟链、私有链。智能合约是运行在区块链上，用户可以通过模板创建联邦学***均，也可以是中位数取值。区块链将更新之后的模型下发至各参与边缘计算设备，从而开始新一轮的训练学习。每个设备根据自己的本地数据重新定义全局模型得到个性化模型，其中全局模型分低层参数和高层参数，个性化模型是通过本地数据对全局模型的高层参数进行微调，来学习本设备的特定特征。
附图说明
后文将参照附图以示例性而非限制性的方式详细描述本发明的一些具体实施例。附图中相同的附图标记标示了相同或类似的部件或部分。本领域技术人员应该理解，这些附图未必是按比例绘制的。本发明的目标及特征考虑到如下结合附图的描述将更加明显，附图中：
图1为本发明基于区块链的物联网个性化联邦学习流程图。
图2为本发明***架构示意图。
具体实施方式
为了使得本发明能够针对其发明要点更加明显易懂，下面将结合附图和实例对本发明作进一步的说明。在下面的描述中阐述了很多细节和具体实例，提供这些实例是为了能够更透彻地理解本发明，并且能够将本发明完整形象地传达给本领域的技术人员。虽然本发明能够以很多不同于此描述的其它方式实施，但是本领域技术人员可以在不违背本发明内涵的情况下做相应的推广，因此本发明不受下面公开的具体实例及具体附图所限制。
下面将附图结合具体实施方式对本发明的技术加以详细说明。
本发明本实施例提出基于区块链的物联网个性化联邦学习方法，该方法的实现过程包括：
S1.终端设备C1、C2、C3、C4和边缘计算设备E1、E2、E3、E4分别向区块链B进行注册，区块链B验证各个设备注册信息，通过认证之后向各个设备发放证书。
S2.用户U1根据联邦学习的智能合约模板创建智能合约S1，智能合约S1运行区块链B上，创建联邦学习任务T，初始化训练模型M及参数ω。
S3.边缘计算设备E1、E2、E3、E4分别从区块链B下载训练模型M及参数ω，终端设备C1、C2、C3、C4各自加载数据样本卸载到各自连接的边缘计算设备上，通过执行程序P在本地计算进行训练，采用梯度下降方法训练，计算梯度，梯度计算公式如下：
Figure BDA0002944213190000031
本地更新模型参数ω，并将更新之后的参数ω进行加密上传到区块链B上。
S4.边缘计算设备E1、E2、E3、E4分别将本地训练模型参数加密之后，上传至区块链B，共识通过之后，产生新的区块。
S5.智能合约S1对模型参数进行聚合，聚合模型参数ω，并更新整体的模型M；聚合公式如下：
Figure BDA0002944213190000032
智能合约判断是否达到模型预设收敛条件，如果没有则进行下一轮训练，如果到达则终止联邦学习任务。
S6.边缘计算设备E1、E2、E3、E4基于全局模型M信息结合自己数据，训练个性化模型M*。

Claims (10)

1.一种基于区块链的物联网个性化联邦学习方法，其特征在于，该方法的实现过程包括：
S01、终端设备和边缘计算设备注册和认证，各个终端设备和边缘计算设备向区块链进行注册，区块链对各个设备进行认证，并发放证书；
S02、区块链智能合约创建联邦学习任务，初始化训练模型及参数；
S03、终端设备加载数据样本，卸载到边缘计算设备上，进行本地模型训练；
S04、边缘计算设备将本地训练模型参数加密之后，上传至区块链，区块链节点共识通过之后，产生新的区块；
S05、智能合约对模型参数进行聚合，聚合模型参数，并更新整体的模型；智能合约判断是否达到模型预设收敛条件，如果没有则进行下一轮训练，如果到达则终止联邦学习任务；
S06、边缘计算设备基于全局模型信息结合自己数据，训练个性化模型。
2.根据权利要求1所述的一种基于区块链的物联网个性化联邦学习方法，其特征在于，所述步骤S01中物联网设备可以是各种智能终端，如手机、眼镜、手表、摄像头、监控设备等。
3.根据权利要求1所述的一种基于区块链的物联网个性化联邦学习方法，其特征在于，所述步骤S01中认证方式可以是数字证书、令牌认证等认证方式。
4.根据权利要求1所述的一种基于区块链的物联网个性化联邦学习方法，其特征在于，所述步骤S01中区块链可以是公有链、联盟链、私有链。
5.根据权利要求1所述的一种基于区块链的物联网个性化联邦学习方法，其特征在于，所述步骤S02中智能合约是运行在区块链上，用户可以通过模板创建联邦学习任务。
6.根据权利要求1所述的一种基于区块链的物联网个性化联邦学习方法，其特征在于，所述步骤S03终端设备加载数据样本卸载到边缘计算设备上，是通过加密的方式进行传输，本地模型训练是通过梯度训练的方法。
7.根据权利要求1所述的一种基于区块链的物联网个性化联邦学习方法，其特征在于，所述步骤S04加密方式可以是RSA算法、DSA算法、ECC算法、DH算法等非对称加密算法。
8.根据权利要求1所述的一种基于区块链的物联网个性化联邦学***均，也可以是中位数取值。
9.根据权利要求1所述的一种基于区块链的物联网个性化联邦学习方法，其特征在于，所述步骤S05下一轮训练，区块链将更新之后的模型下发至各参与边缘计算设备，从而开始新一轮的训练学习。
10.根据权利要求1所述的一种基于区块链的物联网个性化联邦学习方法，其特征在于，所述步骤S06训练个性化模型，每个设备根据自己的本地数据重新定义全局模型得到个性化模型，其中全局模型分低层参数和高层参数，个性化模型是通过本地数据对全局模型的高层参数进行微调，来学习设备的特定特征。
CN202110191251.2A 2021-02-19 2021-02-19 一种基于区块链的物联网个性化联邦学习方法 Pending CN113052331A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110191251.2A CN113052331A (zh) 2021-02-19 2021-02-19 一种基于区块链的物联网个性化联邦学习方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110191251.2A CN113052331A (zh) 2021-02-19 2021-02-19 一种基于区块链的物联网个性化联邦学习方法

Publications (1)

Publication Number Publication Date
CN113052331A true CN113052331A (zh) 2021-06-29

Family

ID=76509294

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110191251.2A Pending CN113052331A (zh) 2021-02-19 2021-02-19 一种基于区块链的物联网个性化联邦学习方法

Country Status (1)

Country Link
CN (1) CN113052331A (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113518007A (zh) * 2021-07-06 2021-10-19 华东师范大学 一种基于联邦学习的多物联网设备异构模型高效互学习方法
CN113762528A (zh) * 2021-09-10 2021-12-07 北京航空航天大学 一种基于区块链的联邦信用评估方法
CN113782111A (zh) * 2021-09-16 2021-12-10 平安科技（深圳）有限公司 一种基于药物研发模型的协同训练方法、***及存储介质
CN113852601A (zh) * 2021-08-11 2021-12-28 杭州师范大学 一种基于智能合约的车联网矩阵计算安全卸载可验证方法
CN114187006A (zh) * 2021-11-03 2022-03-15 杭州未名信科科技有限公司 一种基于区块链监管的联邦学习方法
CN114219097A (zh) * 2021-11-30 2022-03-22 华南理工大学 一种基于异构资源之上的联邦学习训练和预测方法及***
CN114491623A (zh) * 2021-12-30 2022-05-13 北京邮电大学 一种基于区块链的异步联邦学习方法及***
CN114580009A (zh) * 2022-01-13 2022-06-03 吉林省元依科技有限公司 基于联邦学习的区块链数据管理方法、***及存储介质
CN114978893A (zh) * 2022-04-18 2022-08-30 西安交通大学 一种基于区块链的去中心化联邦学习方法及***
CN114996762A (zh) * 2022-07-19 2022-09-02 山东省计算中心（国家超级计算济南中心） 一种基于联邦学习的医疗数据共享与隐私保护方法和***
CN115376031A (zh) * 2022-10-24 2022-11-22 江西省科学院能源研究所 基于联邦自适应学习的公路无人机巡检数据处理方法
CN116489163A (zh) * 2023-06-16 2023-07-25 清华大学 基于多链的边缘个性化协作学习方法及装置
CN117610644A (zh) * 2024-01-19 2024-02-27 南京邮电大学 一种基于区块链的联邦学习优化方法
CN118018324A (zh) * 2024-04-07 2024-05-10 深圳鸿祥源科技有限公司 基于区块链的物联网终端管理方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110569033A (zh) * 2019-09-12 2019-12-13 北京工商大学 一种数字化交易类智能合约基础代码生成方法
CN111212110A (zh) * 2019-12-13 2020-05-29 清华大学深圳国际研究生院 一种基于区块链的联邦学习***及方法
CN111368319A (zh) * 2020-03-04 2020-07-03 西安电子科技大学 一种联邦学习环境下基于区块链的数据安全访问方法
CN111552986A (zh) * 2020-07-10 2020-08-18 鹏城实验室 基于区块链的联邦建模方法、装置、设备及存储介质
CN111698322A (zh) * 2020-06-11 2020-09-22 福州数据技术研究院有限公司 一种基于区块链和联邦学习的医疗数据安全共享方法
CN112118295A (zh) * 2020-08-21 2020-12-22 深圳大学 文件缓存方法、装置、边缘节点以及计算机可读存储介质
CN112202928A (zh) * 2020-11-16 2021-01-08 绍兴文理学院 传感边缘云区块链网络可信卸载协作节点选择***及方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110569033A (zh) * 2019-09-12 2019-12-13 北京工商大学 一种数字化交易类智能合约基础代码生成方法
CN111212110A (zh) * 2019-12-13 2020-05-29 清华大学深圳国际研究生院 一种基于区块链的联邦学习***及方法
CN111368319A (zh) * 2020-03-04 2020-07-03 西安电子科技大学 一种联邦学习环境下基于区块链的数据安全访问方法
CN111698322A (zh) * 2020-06-11 2020-09-22 福州数据技术研究院有限公司 一种基于区块链和联邦学习的医疗数据安全共享方法
CN111552986A (zh) * 2020-07-10 2020-08-18 鹏城实验室 基于区块链的联邦建模方法、装置、设备及存储介质
CN112118295A (zh) * 2020-08-21 2020-12-22 深圳大学 文件缓存方法、装置、边缘节点以及计算机可读存储介质
CN112202928A (zh) * 2020-11-16 2021-01-08 绍兴文理学院 传感边缘云区块链网络可信卸载协作节点选择***及方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
KIM H, ET AL: "Blockchained on-device federated learning", IEEE COMMUNICATIONS LETTERS, pages 1279 - 1283 *
方俊杰等: "面向边缘人工智能计算的区块链技术综述", 应用科学学报, pages 1 - 21 *
蔡维德等: "基于区块链的应用***开发方法研究", 软件学报, pages 1474 - 1487 *
蔡维德等: "能源区块链应用的基础设施互链网技术研究", 电力信息与通信技术, pages 23 - 29 *

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113518007A (zh) * 2021-07-06 2021-10-19 华东师范大学 一种基于联邦学习的多物联网设备异构模型高效互学习方法
CN113852601A (zh) * 2021-08-11 2021-12-28 杭州师范大学 一种基于智能合约的车联网矩阵计算安全卸载可验证方法
CN113852601B (zh) * 2021-08-11 2023-04-28 杭州师范大学 一种基于智能合约的车联网矩阵计算安全卸载可验证方法
CN113762528A (zh) * 2021-09-10 2021-12-07 北京航空航天大学 一种基于区块链的联邦信用评估方法
CN113782111A (zh) * 2021-09-16 2021-12-10 平安科技（深圳）有限公司 一种基于药物研发模型的协同训练方法、***及存储介质
CN113782111B (zh) * 2021-09-16 2023-07-18 平安科技（深圳）有限公司 一种基于药物研发模型的协同训练方法、***及存储介质
WO2023040149A1 (zh) * 2021-09-16 2023-03-23 平安科技（深圳）有限公司 一种基于药物研发模型的协同训练方法、***及存储介质
CN114187006A (zh) * 2021-11-03 2022-03-15 杭州未名信科科技有限公司 一种基于区块链监管的联邦学习方法
CN114219097A (zh) * 2021-11-30 2022-03-22 华南理工大学 一种基于异构资源之上的联邦学习训练和预测方法及***
CN114219097B (zh) * 2021-11-30 2024-04-09 华南理工大学 一种基于异构资源之上的联邦学习训练和预测方法及***
CN114491623A (zh) * 2021-12-30 2022-05-13 北京邮电大学 一种基于区块链的异步联邦学习方法及***
CN114491623B (zh) * 2021-12-30 2024-06-07 北京邮电大学 一种基于区块链的异步联邦学习方法及***
CN114580009A (zh) * 2022-01-13 2022-06-03 吉林省元依科技有限公司 基于联邦学习的区块链数据管理方法、***及存储介质
CN114978893A (zh) * 2022-04-18 2022-08-30 西安交通大学 一种基于区块链的去中心化联邦学习方法及***
CN114978893B (zh) * 2022-04-18 2024-04-12 西安交通大学 一种基于区块链的去中心化联邦学习方法及***
CN114996762A (zh) * 2022-07-19 2022-09-02 山东省计算中心（国家超级计算济南中心） 一种基于联邦学习的医疗数据共享与隐私保护方法和***
CN115376031A (zh) * 2022-10-24 2022-11-22 江西省科学院能源研究所 基于联邦自适应学习的公路无人机巡检数据处理方法
CN116489163B (zh) * 2023-06-16 2023-09-19 清华大学 基于多链的边缘个性化协作学习方法及装置
CN116489163A (zh) * 2023-06-16 2023-07-25 清华大学 基于多链的边缘个性化协作学习方法及装置
CN117610644A (zh) * 2024-01-19 2024-02-27 南京邮电大学 一种基于区块链的联邦学习优化方法
CN117610644B (zh) * 2024-01-19 2024-04-16 南京邮电大学 一种基于区块链的联邦学习优化方法
CN118018324A (zh) * 2024-04-07 2024-05-10 深圳鸿祥源科技有限公司 基于区块链的物联网终端管理方法

Similar Documents

Publication Publication Date Title
CN113052331A (zh) 一种基于区块链的物联网个性化联邦学习方法
CN112861152B (zh) 一种基于许可链的联邦学习激励方法及***
WO2021164365A1 (zh) 图神经网络模型训练方法、装置及***
US11997220B2 (en) Scalable certificate management system architectures
US11757650B2 (en) Distributed self sovereign identities for network function virtualization
Deebak et al. A lightweight blockchain-based remote mutual authentication for AI-empowered IoT sustainable computing systems
CN111543070A (zh) 受信任iot设备配置和装载
US20190012592A1 (en) Secure federated neural networks
CN112132292A (zh) 基于区块链的纵向联邦学习数据处理方法、装置及***
US11210416B2 (en) System and method for maintaining graphs having a policy engine and blockchain
CN111191283A (zh) 基于联盟区块链的北斗定位信息安全加密方法及装置
CN112527912A (zh) 基于区块链网络的数据处理方法、装置及计算机设备
CN114978635B (zh) 跨域认证方法及装置、用户注册方法及装置
CN112990276A (zh) 基于自组织集群的联邦学习方法、装置、设备及存储介质
US20210232981A1 (en) Method and system for incremental training of machine learning models on edge devices
CN113746638B (zh) Nft存储方法、nft还原方法、计算机设备和存储介质
US20210357386A1 (en) Method for split-ledger inventory and activity tracking
CN113626866A (zh) 一种面向联邦学习的本地化差分隐私保护方法、***、计算机设备及存储介质
CN111880919A (zh) 数据调度方法、***和计算机设备
Veith et al. The road to trustworthy 6G: A survey on trust anchor technologies
CN114553440A (zh) 基于区块链和属性签名的跨数据中心身份认证方法及***
WO2021089051A1 (en) Methods and systems for management and control of communication network
CN116489637A (zh) 一种面向元宇宙的基于隐私保护的移动边缘计算方法
CN109981591A (zh) 单一客户端生成私钥的密钥管理方法、电子设备
CN114978893A (zh) 一种基于区块链的去中心化联邦学习方法及***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20210629

WD01 Invention patent application deemed withdrawn after publication