CN110428056A - 使用区块链的分散式机器学习的***和方法 - Google Patents

使用区块链的分散式机器学习的***和方法 Download PDF

Info

Publication number
CN110428056A
CN110428056A CN201810872876.3A CN201810872876A CN110428056A CN 110428056 A CN110428056 A CN 110428056A CN 201810872876 A CN201810872876 A CN 201810872876A CN 110428056 A CN110428056 A CN 110428056A
Authority
CN
China
Prior art keywords
physical computing
computing nodes
node
training
iteration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810872876.3A
Other languages
English (en)
Other versions
CN110428056B (zh
Inventor
S·马纳莫汉
K·L·沙斯特里
V·加格
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hewlett Packard Enterprise Development LP
Original Assignee
Hewlett Packard Enterprise Development LP
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Enterprise Development LP filed Critical Hewlett Packard Enterprise Development LP
Publication of CN110428056A publication Critical patent/CN110428056A/zh
Application granted granted Critical
Publication of CN110428056B publication Critical patent/CN110428056B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/20—Ensemble learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G06N5/043—Distributed expert systems; Blackboards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/06—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols the encryption apparatus using shift registers or memories for block-wise or stream coding, e.g. DES systems or RC4; Hash functions; Pseudorandom sequence generators
    • H04L9/0618—Block ciphers, i.e. encrypting groups of characters of a plain text message using fixed encryption transformation
    • H04L9/0637—Modes of operation, e.g. cipher block chaining [CBC], electronic codebook [ECB] or Galois/counter mode [GCM]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/32—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials
    • H04L9/3236—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials using cryptographic hash functions
    • H04L9/3239—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials using cryptographic hash functions involving non-keyed hash functions, e.g. modification detection codes [MDCs], MD5, SHA or RIPEMD
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/50—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols using hash chains, e.g. blockchains or hash trees
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/12—Applying verification of the received information

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Medical Informatics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Retry When Errors Occur (AREA)
  • Computer And Data Communications (AREA)

Abstract

本申请涉及使用区块链的分散式机器学***台可以用于在一系列迭代中对分散式机器学习进行协调。对于每次迭代，可以使用分布式分类帐来协调节点。智能合约形式的规则可以强制节点参与模型构建和参数共享的迭代，以及提供逻辑用于选举用作该迭代的主节点的节点。主节点从节点中获得模型参数，并基于获得的参数生成最终参数。主节点可以将其状态写入分布式分类帐，从而表明最终参数是可用的。每个节点可以经由其分布式分类帐的副本发现主节点的状态，并获得最终参数以及将最终参数应用于其本地模型，由此从其他节点中学习。

Description

使用区块链的分散式机器学习的***和方法
背景技术
有效的模型构建需要大量数据。虽然已经开发了分布式计算以使用多个计算机来协调大型计算任务，但是难以应用于大规模机器学习(“ML”)问题。分布式模型构建中存在一些实际问题，例如协调和部署困难、安全性问题、***延迟的影响、容错、参数大小等。虽然可以在可以严格控制计算机的单个数据中心环境中处理这些和其他问题，但是将数据中心外部的模型构建移动到真正的分散式环境中会产生这些和额外的挑战，尤其是在开放网络中操作时。例如，在分布式计算环境中，跨分布式设备的大型训练数据集并且有时是私有训练数据集的可访问性可能是禁止的，并且随着时间的推移网络的拓扑和规模的变化使得协调和实时缩放变得困难。
发明内容
根据所公开的技术的各种实施例，可以使用具有多个物理计算节点的区块链网络的分布式分类帐(distributed ledger)来协调和促进经由多次训练迭代进行的分散式机器学习。每个节点可以向区块链网络进行登记以在第一时间处参与训练机器学习模型的第一迭代。每个节点可以参与一致决策(consensus decision)以对另一个物理计算节点进行登记从而参与第一迭代。一致决策仅应用于第一迭代，并且可能不会对第二物理计算节点进行注册以参与后续的迭代。
在对训练迭代所需的指定数量的节点进行注册后，每个节点可以获得本地可访问但是在区块链网络中的其他物理计算节点处不可访问的本地训练数据集。每个参与者节点可以在第一迭代期间基于本地训练数据集训练第一本地模型，并且基于第一本地模型获得至少第一训练参数。以这种方式，每个参与者节点可以在本地可访问但不应该或不能与其他节点共享的数据上进行训练。每个参与者节点可以生成区块链事务，该区块链事务包括参与者节点准备好共享第一训练参数的指示，并且可以将第一训练参数传输或以其他方式提供给主节点。
主节点可以基于第一物理计算节点准备好共享第一训练参数的指示来生成将作为分类账区块(ledger block)被添加到分布式分类帐的每个副本的新事务。可以由一致决策从参与者节点中选举主节点，或者可以基于将在迭代中登记的是第一节点来简单地选择主节点。主节点可以从每个参与者节点获得训练参数，并基于获得的训练参数创建最终训练参数。在生成最终训练参数后，主节点可以向区块链网络广播最终训练参数可用的指示，并且可以放弃用于当前迭代的主节点的状态。
每个参与者节点可以从区块链网络获得一个或多个最终训练参数，该一个或多个最终训练参数由主节点基于第一训练参数以及在第二物理计算节点处生成并且从第二物理计算节点共享的至少第二训练参数来生成。然后，每个参与者节点可以将一个或多个最终训练参数应用于第一本地模型。应当注意，即使没有参与当前迭代的节点也可以咨询分布式分类帐以同步到训练参数的最新集合。以这种方式，分散式机器学习可以随着节点可用性的变化而动态地缩放，同时在节点变得可用或加入网络时向该节点提供通过分散式机器学习而学习到的更新的训练参数。
通过以下结合附图的详细描述，所公开的技术的其他特征和方面将变得显而易见，附图通过示例的方式示出了根据所公开的技术的实施例的特征。发明内容并不旨在限制本文描述的任何发明的范围，该范围仅由所附的权利要求限定。
附图说明
参考以下附图详细描述根据一个或多个不同实施例的本文公开的技术。提供附图仅用于说明的目的，并且仅描绘了所公开技术的典型或示例实施例。提供这些附图是为了便于读者理解所公开的技术，而不应视为限制其广度、范围或适用性。
图1示出了根据本发明的示例实施方式的使用区块链的机器学习中的分散式模型构建的***的示例。
图2示出了根据本发明的示例实施方式的用于使用区块链的机器学习中的分散式模型构建的区块链网络中的节点的示例。
图3示出了根据本发明的示例实施方式的使用区块链的模型构建的迭代过程的示例。
图4示出了根据本发明的示例实施方式的参与使用区块链的模型构建的迭代的节点处的过程的示例。
图5示出了根据本发明的示例实施方式的在主节点处的过程的示例，该主节点被选举用于在使用区块链的模型构建的迭代中基于来自参与者节点的训练参数生成最终训练参数。
图6示出了根据本发明的示例实施方式的模型构建区块链区块的示例。
图7示出了根据本发明的示例实施方式的模型构建区块链事务的示例。
图8A示出了根据本发明的示例实施方式的用于分散式模型构建的训练迭代的区块链网络中的所有可用节点的第一子集的使用。
图8B示出了根据本发明的示例实施方式的用于分散式模型构建的训练迭代的区块链网络中的所有可用节点的第二子集的使用。
附图并非旨在穷举或将本发明限制于所公开的精确形式。应当理解，本发明可以通过修改和变更来实施，并且所公开的技术仅受到权利要求及其等同物的限制。
具体实施方式
本公开涉及在区块链网络中的多次迭代中的节点处的分散式并行机器学习。可以利用可以用作节点的边缘设备处的计算能力来执行模型训练。这些节点可以称为“边缘”***，因为它们可以放置在现实世界与大型信息技术基础设施交互的边界处或边界附近。例如，自动地面车辆当前包括可以与固定服务器资产通信的多于一个计算设备。更广泛地说，在诸如消费电子产品、电器、无人机等各种环境中的诸如“物联网”(或“IoT”)设备的边缘设备越来越多地配备有计算能力和网络能力。另一个示例包括智能城市中的实时交通管理，该智能城市将数据转移到数据中心。然而，如本文所述，为了效率和规模，这些边缘设备可以被分散，从而作为区块链网络中的节点来执行并行机器学习。
使用本文的公开内容，可以将模型构建推送到这些和其他节点，从而解决对输入数据模式的改变、缩放***，以及协调跨越节点的模型构建活动。将模型构建移动到更靠近生成数据或以其他方式可访问的位置，为在数据生成的位置处执行数据的高效实时分析提供了新的机会，而不必在数据中心对数据进行聚类以及这样做的相关问题。在不需要将所有输入数据整合到一个物理位置(数据中心或IT基础设施的“核心”)的情况下，所公开的***、方法和非暂时性机器可读存储介质可以减少模型适应环境条件的变化的时间，并做出更精确的预测。因此，无论是在自主车辆背景和实施中还是在其他IoT或网络连接的背景中，***的应用可以变得真正自主和分散化。
区块链网络中的节点可以登记以参与迭代。并非所有节点都必须登记以参与给定的迭代，但是所有节点都可以从迭代中获得更新的训练参数。登记以参与机器学习迭代的节点可以共同生成是否基于请求节点的状态和/或凭证来登记该节点的一致决策。
登记以参与迭代的每个节点(本文也称为“参与者节点”)可以使用在节点处本地可访问但是可能在其他节点处不可访问的训练数据来训练本地模型。例如，训练数据可以包括不应该与其他节点共享的敏感信息或其他私人信息，但是可以共享通过机器学习从这种数据中学习到的训练参数。当在节点处获得训练参数时，节点可以广播其准备好共享训练参数的指示。节点可以通过生成区块链事务来这样做，该区块链事务包括表明可以在何处获得训练参数(诸如统一资源指示符地址)的指示和信息。当一些或所有参与者节点准备好共享其各自的训练参数时，主节点(也称为“主计算节点”)可以将指示写入分布式分类帐。如本文所述，准备好共享训练参数以便主节点写入指示的参与者节点的最小数量可以由一个或多个规则来限定，这些规则可以被编码在智能合约中。
可以选择在迭代中登记的第一节点作为主节点，或者可以通过一致决策选举主节点。主节点可以从每个节点获得训练参数，然后将它们融合以生成融合训练参数的集合。主节点可以广播其已经完成生成融合训练参数的指示，例如通过编写表明状态变化的区块链事务。这种状态变化(以事务的形式)可以作为区块被记录到具有这种指示的分布式分类帐。节点可以定期监视分布式分类帐以确定主节点是否已经完成融合，并且如果是，则获得融合训练参数。然后，每个节点可以将融合训练参数应用于其本地模型，并且然后更新其状态，该状态被写入分布式分类帐。
通过表明主节点已经完成融合，主节点还释放其作为迭代的主节点的状态。在下一次迭代中，可以(但不一定)相同地来选择新的主节点。训练可以迭代直到训练参数收敛。一旦训练参数不再收敛，就可以重新开始训练迭代，由此通过区块链网络根据需要不断地改善模型。
因为如本文所述的分散式机器学习在多次迭代中发生，并且节点的不同集合可以登记以参与任何一次迭代，所以分散式模型构建活动可以随着节点可用性的变化而动态地缩放。例如，即使自主车辆计算机上线(例如在运行中)或离线(例如关闭汽车点火装置)，***也可以在可用节点处继续执行机器学习的迭代。使用分布式分类帐，当车辆上线时，它们可以例如从对等车辆接收分布式分类帐的更新版本，并获得在车辆离线时学习到的最新参数。
此外，动态缩放不会导致模型精确度降低。通过使用分布式分类帐来协调活动和智能合约，从而通过不允许陈旧或以其他方式未初始化的节点参与迭代来实施同步，可以避免陈旧梯度(stale gradient)问题。使用分散式分类帐和智能合约也可以使***容错。通过动态地缩放参与者节点以及同步学习到的参数，可以在不降低模型精确度的情况下无缝地处理节点重启和其他停机。
此外，可以简化实施用于实验的ML模型的构建应用程序，因为分散式应用程序对于网络拓扑和节点在***中的角色可以是不可知论的(agnostic)。
图1示出了根据本发明的实施方式的使用区块链的机器学习中的分散式模型构建的***100的示例。***100可以包括模型构建区块链网络110(也称为区块链网络110)，该模型构建区块链网络110包括多个物理计算节点10(也统称为节点10或单独地称为节点10)。节点10的特定数量、配置及其之间的连接可以变化。这样，图1中所示的节点10的布置仅用于说明目的。节点10可以是固定设备或移动设备。现在将描述节点10的进一步细节的示例。虽然在图中仅详细示出了节点10中的一个，但是可以以所示的方式配置每个节点10。
节点10可以包括一个或多个传感器12、一个或多个致动器14、其他设备16、一个或多个处理器20(为了方便，在本文中也可互换地称为多个处理器20，(多个)处理器20或处理器20)、一个或多个存储设备40和/或其他组件。传感器12、致动器14和/或其他设备16可以生成可由节点10本地访问的数据。这种数据可能不能被模型构建区块链网络110中的其他参与者节点10访问。
分布式分类帐42可以包括参考至少另一个区块(例如前一个区块)的一系列数据区块。以这种方式，数据区块可以链接在一起。在Satoshi Nakamoto(bitcoin.org)的众所周知的***“Bitcoin：A Peer-to-Peer Electronic Cash System(比特币：对等电子现金***)”中描述了分布式分类帐的示例，其内容通过引用整体并入本文。分布式分类帐42可以存储表明在迭代期间节点10的与其机器学习相关的状态的区块。因此，分布式分类帐42可以存储节点10的状态转换的不可变记录。以这种方式，分布式分类帐42可以存储模型44的当前状态和历史状态。
如本文所述，可以基于本地可访问数据在节点10处对模型44进行本地训练，并且然后基于在其他参与者节点10处学习到的模型参数来更新模型44。如本文其他地方所述，模型44的性质将基于节点10本身的特定实施方式。例如，模型44可以包括与下列相关的被训练参数：自驱动车辆特征(例如与物体检测相关的传感器信息)、与干燥时间和控制相关的干燥器电器、用于网络配置的网络配置特征、与例如入侵检测等网络安全相关的安全特征，和/或其他基于背景的模型。
智能合约46可以包括配置节点以按照与分散式机器学习相关的一些方式运行的规则。例如，规则可以指定确定性状态转换、何时以及如何选举主节点、何时启动机器学习的迭代、是否允许节点登记参加迭代、同意一致决策所需的节点的数量、同意一致决策所需的投票节点的百分比，和/或节点10可以采取用于分散式机器学习的其他动作。
处理器20可以获得节点10本地可访问但其他参与者节点10不一定可访问的其他数据。这样的本地可访问数据可以包括例如不应该与其他设备共享的私有数据，但是可以共享从私有数据中学习到的模型参数。
处理器20可以由一个或多个计算机程序指令来编程。例如，处理器20可以被编程以执行应用层22、机器学习框架24(示为并且也称为ML框架24)、接口层26和/或用于执行各种操作的其他指令，每个都将在本文更详细地描述。如本文所使用的，为方便起见，当各种指令实际上对处理器20(并因此对节点10)进行编程以执行操作时，各种指令将被描述为执行操作。
应用层22可以执行节点10上的应用程序。例如，应用层22可以包括区块链代理(未示出)，该区块链代理对节点10进行编程以跨越区块链网络110参与分散式机器学习和/或用作分散式机器学习中的主节点，如本文所述。每个节点10可以用相同的区块链代理编程，从而确保每个节点根据分散式模型构建规则的相同集合(例如使用智能合约46编码的规则)来行动。例如，区块链代理可以对每个节点10进行编程以作为参与者节点以及主节点(如果被选举为服务该角色的话)。应用层22可以通过ML框架24执行机器学习。
ML框架24可以基于在节点10处本地可访问的数据来训练模型。例如，ML框架24可以根据来自传感器12、致动器14和/或其他设备或节点10能够访问的数据源的数据来生成模型参数。在实施方式中，ML框架24可以使用TensorFlowTM机器学习框架，但是也可以使用其他框架。在这些实施方式中的一些中，第三方框架应用程序编程接口(“API”)可以用于访问由机器学习框架提供的某些模型构建功能。例如，节点10可以对TensorFlowTM或其他机器学习框架执行API调用。
应用层22可以使用接口层26与区块链网络110交互并参与区块链网络110，以便跨越多个参与者节点10进行分散式机器学习。接口层26可以使用区块链例如通过下列操作来与其他节点通信：广播区块链事务，并且对于在本文其他地方描述的选举的主节点，基于那些事务以及基于主节点的活动将区块写入分布式分类账42。
现在参考图2，其示出了区块链网络中的节点10的示例，该区块链用于使用区块链的机器学习中的分散式模型构建，应用层22可以包括发起模型训练的区块链代理。应用层22可以使用分布式分类帐42来根据智能合约46在与其他参与者节点10的迭代期间协调并行模型构建。
接口层26可以包括用于经由网络与其他参与者节点10通信的消息传送接口(messaging interface)。消息传送接口可以被配置为安全超文本传输协议(“HTTPS”)微服务器204。也可以使用其他类型的消息传送接口。接口层26可以使用区块链API206来基于区块链规范进行对区块链功能的调用。区块链功能的示例包括但不限于：读取和写入区块链事务208，以及读取区块链区块和将区块链区块写入分布式分类账42。区块链规范的一个示例是以太坊规范。也可以使用其他区块链规范。
一致引擎(consensus engine)210可以包括将数据写入分布式分类帐42的功能。例如，在一些实例中，主节点(例如，参与者节点10中的一个)可以使用一致引擎210来决定何时融合来自节点10的本地参数、何时将其状态212由于融合了本地参数已经变化的指示写入到分布式分类帐42，和/或何时执行其他动作。在一些实例中，任何参与者节点10(无论是否是主节点)都可以使用一致引擎210来执行一致决策，诸如是否对节点进行登记以参与机器学习的迭代。
在一些实施方式中，封装和部署220可以将模型44封装和部署为容器化对象(containerized object)。例如但不限于，封装和部署220可以使用容器技术(Docker)平台来生成包括模型44的容器技术文件。也可以使用其他容器化平台。以这种方式，节点10处的各种应用程序可以以独立于平台的方式访问和使用模型44。因此，模型不仅可以基于来自区块链网络中的节点的集体参数来构建，而且还可以在不同的环境中被封装和部署。
现在将参考图2，图2示出了参与使用区块链的机器学习的迭代的节点的示意图。每个节点10(包括被选举为主节点的节点10)可以如图1和图2所示地被更详细地配置。
模型构建(本文也称为机器学习或模型训练)的每次迭代可以包括多个阶段，例如第一阶段和第二阶段。在第一阶段中，每个参与者节点10使用其本地训练数据集独立于其他参与者节点10来训练其本地模型，其本地训练数据集可以由参与者节点本地访问但不能由其他节点访问。这样，每个参与者节点10可以生成从本地训练数据集得到的模型参数。在第二阶段中，参与者节点10可以各自通过区块链网络110共享模型参数。例如，每个参与者节点10可以将其模型参数共享给主节点，该主节点从区块链网络110中的节点中选举出。主节点可以组合来自参与者节点10的参数以生成用于当前迭代的最终参数。最终参数可以被分发给参与者节点10，每个参与者节点10更新它们的本地状态。
现在参考图3描述模型构建的迭代的进一步的细节，图3示出了根据本文描述的***和方法的一个实施例的使用区块链的模型构建的迭代的过程300的示例。
在操作302中，每个参与者节点10可以进行登记以参与模型构建的迭代。在实施方式中，智能合约46可以对用于对节点10进行登记以参与模型构建的迭代的规则进行编码。规则可以指定所需凭证、有效状态信息和/或其他登记先决条件。所需凭证可以对被允许参与模型构建的迭代的节点10施加许可。在这些示例中，区块链网络110可以被配置为私有区块链，其中仅允许授权节点参与迭代。
授权信息和预期凭证可以被编码在智能合约46内或可用于区块链网络110上的节点的其他存储信息内。有效状态信息可以禁止表现出某些受限语义状态的节点参与迭代。受限语义状态可以包括，例如，具有未初始化的参数值、是在迭代(通过区块链网络110中的其他参与者节点10)开始之后请求登记参加该迭代的新节点、陈旧节点或重新启动的节点，和/或将会污染或以其他方式破坏模型构建迭代的其他状态。可以针对迭代将陈旧节点或重新启动的节点挂起(place on hold)，以便它们可以例如在迭代完成之后将它们的本地参数同步到最新的值。
一旦参与者节点10已经被登记，区块链网络110就可以记录参与者节点10的身份(identity)，以便用于迭代的所有参与者节点10的标识是已知的。这种记录可以经由分布式分类账42中的条目来进行。参与者节点10的身份可以在做出战略决策时由一致引擎210使用。
上述登记特征可以使模型构建活动容错，因为模型构建网络(即，区块链网络110)的拓扑在迭代级别上被确定。这允许在诸如自主车辆的现实世界环境中进行部署，在现实世界环境中网络的形状和大小可以动态地变化。
在操作304中，每个参与者节点可以在其本地训练数据集上执行本地模型训练。例如，应用层22可以与机器学习框架24接口连接以在其本地训练数据集上对模型进行本地训练，该本地训练数据集可以是本地来源，或者可在参与者节点10处但是不能在其他参与者节点10处访问。
在操作306中，每个参与者节点10可以基于本地训练生成本地参数，并且可以使本地参数准备好通过区块链网络110共享。例如，在本地训练周期完成之后，本地参数可以被序列化为可以与网络的其余部分共享的紧凑包(compact package)。可以通过使本地参数可用于下载和/或使它们通过对等或其他数据传输协议主动上传来促进这种共享。
在操作308中，每个参与者节点10可以向区块链网络110报到(check in)以进行协调。例如，每个参与者节点10可以向网络中的其他参与者节点10发信号通知它准备好共享其本地参数。特别地，每个参与者节点10可以(使用例如区块链API 206)编写区块链事务并经由消息传送接口和区块链API来广播该区块链事务。这种区块链事务可以表明参与者节点的状态(例如，它准备好共享其本地参数)、获得位置参数的机制、获得本地参数的位置，和/或传达节点准备就绪以便共享或识别如何获得本地参数的其他信息。可以在事务队列或事务池中对事务进行排队，从该事务队列或事务池中选择事务。在一些示例中，这些事务可以被加时间戳并且以先进先出(“FIFO”)方式进行选择。
在操作310中，参与者节点可以共同选举用于迭代的主节点。例如，智能合约46可以编码用于选举主节点的规则。这种规则可以规定参与者节点10应该如何投票选举主节点(针对节点投票选举主节点的实施方式)。这些规则可以指定某一数量和/或百分比的参与者节点10应该在主节点应该被选举之前准备好共享其本地参数，从而启动迭代的共享阶段。然而，应该注意，主节点的选择可以在参与者节点10准备好共享本地参数之前发生。例如，可以选择登记参加迭代的第一个节点作为主节点。因此，主节点本身的选举(或选择)可以不触发到共享阶段的转换。相反，智能合约46的规则可以指定何时应该启动第二阶段，从而确保这种转变以确定的方式发生。
可以以各种方式来选举主节点以进行登记，该各种方式不同于选举第一节点或者也包括选举第一节点。例如，可以将特定节点预定义为主节点。当启动迭代时，特定节点可以成为主节点。在这些实例中的一些实例中，在特定节点对于给定迭代不可用的情况下，可以预定义一个或多个备份节点以用作主节点。在其他示例中，节点可以声明它不应该是主节点。这在节点具有不同计算能力的异构计算环境中可能是有利的。一个示例是无人机网络，其中无人机可以声明它不应该是主节点，并且命令中心可以被声明为主节点。在又一些其他示例中，可以使用投票机制来选举主节点。这种投票可以由在智能合约中编码的规则来管理。这在节点具有类似的计算能力的均匀计算环境中可能是有利的，例如在自主车辆的网络中。可以根据特定需要并基于本文的公开内容，使用其他方式来选举主节点。
在操作312中，不是主节点的参与者节点10可以定期检查主节点的状态，以基于由参与者节点共享的本地参数来监视主节点是否已经完成参数的生成。例如，每个参与者节点可以检查其分布式分类帐42的本地副本，主节点把其用于迭代的状态记录在该分布式分类帐42的一个或多个区块上。
在操作314中，主节点可以进入共享阶段，其中一些或所有参与者节点准备好共享其本地参数。例如，主节点可以从节点10获得本地参数，该节点10的状态表明它们准备好共享。使用区块链API 206，主节点可以识别下列两者的事务：(1)表明参与者节点10准备好共享其本地参数，以及(2)未在分布式分类账42中发信号通知。在一些情况下，事务队列中的事务尚未写入分布式分类帐42。一旦写入分类帐，主节点可以(通过区块链API 206)从事务队列中移除该事务，或以其他方式将事务标记为事务队列中的确认事务。主节点可以识别提交事务的相应的参与者节点10，并获得本地参数(其位置可以编码在事务中)。主节点可以组合来自参与者节点10的本地参数，以基于组合的本地参数生成用于迭代的最终参数。应当注意，主节点本身可以具有根据其本地训练数据集生成的本地参数，在这种情况下，它也可以将其本地参数与获得的本地参数组合。
在实施方式中，主节点可以例如使用区块链API 206，将事务作为区块写入到分布式分类账42上。
在操作316中，主节点可以发信号通知组合的完成。例如，主节点可以传输表明其状态(它将本地参数组合成最终参数)的区块链事务。该区块链事务还可以表明在何处和/或如何获得用于迭代的最终参数。在某些情况下，可以将区块链事务写入分布式分类帐42。
在操作318中，每个参与者节点10可以获得最终参数并且在其本地模型上应用最终参数。例如，参与者节点10可以检查其分布式分类帐42的本地副本，以确定主节点的状态表明最终参数是可用的。然后，参与者节点10可以获得最终参数。
在操作320中，主节点可以发信号通知迭代的完成，并且可以放弃作为用于迭代的主节点的控制。这种指示可以被编码在分布式分类账42中，以便其他参与者节点10检测并转换到下一状态(该状态可以将模型应用于其特定实现和/或准备另一迭代)。
通过在分布式分类账42上记录状态并记录相关功能，区块链网络110可以在可用于参与的参与者节点10的数量不断变化(例如当节点上线和离线时，无论是因为它们被打开/关闭、与网络连接连接/断开连接，和/或节点可用性可能发生变化的其他原因)时有效地管理节点重启和动态缩放。
分布式分类帐42和相关功能的使用有助于通过智能合约46经由确保状态数据的全局可见性和确定性状态转换来实现状态完整性。应当注意，可以重复进行图3的处理操作步骤，直到参数收敛为止。
图4示出了根据本发明的实施方式的参与使用区块链的模型构建的迭代的节点处的过程400的示例。
在操作402中，参与者节点10可以向区块链网络11进行登记以参与模型训练的迭代。在给定迭代开始时，节点可以查询指定模型标识符(表示正在构建的模型)、模型的最大迭代次数、当前迭代、模型构建的参与者的最小数量、参与者标识符的阵列和强判据(majority criterion)和/或其他模型构建信息的注册表结构。当***被设置用于分散式机器学习时，可以创建该结构。该结构的一些或所有参数可以作为智能合约被存储。
节点可以首先检查模型标识符是否存在。如果它不存在，则节点将在结构中创建新条目。由于区块链事务的序列化属性，创建新条目的第一个节点将获胜(因为此时没有其他节点竞争以创建条目)。
如果模型标识符确实存在，则节点可以将其自身登记为参与者，并且一旦达到参与者的最小数量，就可以如本文所述地进行模型构建。
在操作404中，参与者节点10可以参与一致决策以对请求参与迭代的第二节点进行登记。一致决策可以基于诸如下列因素等因素：请求节点的凭证/许可中的一个或多个、当前状态、是否具有陈旧数据和/或其他因素。
在操作406中，参与者节点10可以获得本地训练数据。本地训练数据可在参与者节点10处访问，但是其他参与者节点10不可访问。这种本地训练数据可以在参与者节点10处生成(例如，诸如来自传感器12、致动器14和/或其他设备16)、在参与者节点10处输入(例如，诸如来自用户)，或者以其他方式可由参与者节点10访问。应当注意，此时，在参与者节点10已经将其本地训练参数更新为来自模型训练的最近迭代(刚好在当前迭代之前的迭代)的最近融合参数之后，参与者节点10将在其本地训练数据上进行训练。
在操作408中，参与者节点10可以基于本地训练数据集来训练本地模型。这种模型训练可以基于在本地训练数据集上执行的机器学习框架24。
在操作410中，参与者节点10可以获得至少一个本地训练参数。例如，本地训练参数可以是参与者节点10处的模型训练的输出。
在操作412中，参与者节点10可以生成区块链事务，该区块链事务表明参与者节点10准备好共享其(多个)本地训练参数。这样做可以向区块链网络110的其余部分广播它已经完成其本地迭代训练。参与者节点10还可以将其训练参数序列化以便共享。
在操作414中，参与者节点10可以将其(多个)训练参数提供给主节点，主节点由参与者节点10连同区块链网络110中的一个或多个其他参与者节点10一起选举。需要注意的是，参与者节点10可以通过将其(多个)训练参数传输到主节点，或者使其(多个)训练参数经由对等连接或其他连接协议而可用于由主节点检索，来提供其(多个)训练参数。
在操作416中，参与者节点10可以获得在主节点处生成的最终训练参数，该主节点基于由参与者节点10以及用于迭代的其他参与者节点10提供的(多个)训练参数来生成最终训练参数。
在操作418中，参与者节点10可以将最终训练参数应用于本地模型，并更新其状态(从而表明本地模型已经用当前迭代的最终训练参数来更新)。
图5示出了根据本发明的实施方式的在主节点处的过程500的示例，该主节点被选举以基于来自使用区块链的模型构建的迭代中的参与者节点的训练参数来生成最终训练参数。
在操作502中，主节点可以生成表明正在进行共享阶段的分布式分类帐区块。例如，主节点可以编写表明其状态的分布式分类帐区块。这种状态可以向参与者节点10表明主节点正根据从参与者节点10获得的训练参数来生成最终参数。
在操作504中，主节点可以从参与者节点10获得区块链事务。这些事务可以各自包括参与者节点10准备好共享其本地训练参数的指示和/或表明如何获得本地训练参数的信息。
在操作506中，主节点可以将事务写入分布式分类帐区块，并将该区块添加到分布式分类帐42。
在操作508中，主节点可以识别由提交事务的参与者节点10生成的训练参数的位置。主节点可以获得这些训练参数，这些参数共同表示来自参与者节点10的训练参数，每个参与者节点10在其各自的本地训练数据集上执行本地模型训练。
在操作510中，主节点可以基于获得的训练参数来生成最终训练参数。例如，主节点可以融合获得的训练参数以生成最终训练参数。
在操作512中，主节点可以使最终训练参数可用于参与者节点10。每个参与者节点10可以获得最终训练参数以使用该最终训练参数来更新其本地模型。
在操作514中，主节点可以更新其状态以表明最终训练参数是可用的。这样做也可以释放其作为迭代的主节点的状态，并释放迭代完成的信号。在一些实例中，主节点可以监视指定数量的参与者节点和/或其他节点(诸如区块链网络110中的未参与当前迭代的节点)是否已获得最终训练参数，并且仅在达到指定的数量和/或百分比之后释放其作为主节点的状态。该数量或百分比可以被编码在智能合约46中。
图6示出了根据本发明的实施方式的模型构建区块链区块600(也称为区块600)的示例。在给定的迭代期间，主节点可以将事务写入区块600，该区块600被添加到分布式分类账42。事务可以由参与者节点10(包括主节点)提交，以便向区块链网络110广播状态信息。区块600可以包括前一区块散列、证据信息、模型构建区块链事务的标识和/或其他区块信息。
区块600的特定格式和配置可以取决于用于实施区块链网络110的区块链平台。前一区块散列可以包括前一区块的散列的值。这样，区块600可以链接到分布式分类帐42中的另一个(前一)区块。证明信息可以包括例如权益证明(proof of stake)或工作证明(proofof work)，这取决于实现哪种类型的区块链。对于权益证明实施方式，证明信息可以包括生成区块600的主节点被选举为主节点的证据。这样的信息可以包括节点凭证信息(诸如标识符)、表明主节点被选举的投票信息，和/或表明主节点的权益证明的其他信息。
在工作证明实施方式中，证明信息可以表明来自主节点的、表明主节点(诸如通过区块链API 206)实际执行写入区块600所需的工作的散列值或其他质询响应(challengeresponse)。区块600可以包括正被写入区块600(其被添加到分布式分类帐42)的事务的标识。因此，事务数据和区块600可以用于跨越节点10协调分散式机器学习。这是因为每个节点10可以具有分布式分类账42的副本并且能够监视机器学习的迭代的进度。例如，区块600可以记录由参与者节点10广播以表明它们准备好共享它们的本地参数的这些节点的状态。在某些情况下，事务可以表明主节点的状态。
图7示出了根据本发明的实施方式的模型构建区块链事务700(也称为“事务700”)的示例。事务700可以包括节点标识信息、事务标识信息、节点状态信息、参数位置信息和/或其他事务信息。
节点标识信息可以包括提供事务700的参与者节点10的标识。事务标识信息可以从其他事务中唯一地识别事务。节点状态信息可以包括表明生成事务的参与者节点10的状态的信息。参数位置信息可以包括在何处或以其他方式如何获得由生成事务的参与者节点10准备共享的参数的位置。也可以存储其他事务信息，例如创建事务时的时间戳。
图8A示出了根据本发明的实施方式的用于分散式模型构建的训练迭代的区块链网络中的所有可用节点的第一子集。图8A示意性地示出仅区块链网络110的节点10的子集可以参与模型训练的迭代(示为迭代“A”)，其结果是从迭代“A”生成最终参数。图8B示出了根据本发明的实施方式的用于分散式模型构建的训练迭代的区块链网络中的所有可用节点的第二子集。图8A示意性地示出区块链网络110的节点10的另一个子集可以参与模型训练的另一次迭代(被示为迭代“B”)，其结果是从迭代“B”生成最终参数。其他数量和身份的节点10可以参与其他迭代，包括区块链网络110中的所有节点10。这样，***可以基于节点10的拓扑或可用性来缩放和动态调整参与模型训练的迭代的节点10。
如贯穿本文中所使用的，术语“模型构建”和“模型训练”可互换使用以表示执行训练数据集上的机器学习以生成模型的一个或多个参数。
尽管在图1中示出为单个组件，但是节点10可以包括多个独立的组件(例如，计算机设备)，每个组件都被编程有至少一些本文所述的功能。一个或多个处理器20每个可以包括由计算机程序指令编程的一个或多个物理处理器。提供本文描述的各种指令是出于说明性目的。可以使用其他配置和数量的指令，只要(多个)处理器20被编程为执行本文描述的功能。
此外，应该理解的是，尽管在图1中将各种指令示出为共同位于单个处理单元内，但是在(多个)处理器20包括多个处理单元的实施方式中，可以远离其他指令来执行一个或多个指令。
由本文描述的不同指令提供的功能的描述是出于说明性目的，并且不旨在限制，因为任何指令可以提供比所描述的更多或更少的功能。例如，可以消除一个或多个指令，并且其功能中的一些或全部可以由指令中的其他指令提供。作为另一个示例，(多个)处理器20可以由一个或多个额外的指令编程，这些额外的指令可以执行本文归属于指令中的一条指令的一些或全部功能。
本文描述的各种指令可以存储在存储设备40中，存储设备40可以包括随机存取存储器(RAM)、只读存储器(ROM)和/或其他存储器。存储设备可以存储将由处理器20执行的计算机程序指令(例如，前文所述的指令)以及可以由处理器20操纵的数据。存储设备可以包括一个或多个非暂时性机器可读存储介质，例如软盘、硬盘、光盘、磁带或用于存储计算机可执行指令和/或数据的其他物理存储介质。
本文描述的分布式分类账42、事务队列、模型44、智能合约46、本地参数、最终参数、本地训练数据集和/或其他信息可以存储在诸如存储设备40的各种存储设备中。根据特定的存储和检索要求，也可以使用其他存储装置。例如，可以使用一个或多个数据库来存储本文描述的各种信息。数据库可以包括或接口连接到例如由Oracle Corporation(甲骨文公司)商业销售的OracleTM关系数据库。也可以使用、包含或访问其他数据库，例如InformixTM、DB2(Database 2)或其他数据存储，包括基于文件或查询格式、平台或资源(例如OLAP(在线分析处理)、SQL(结构化查询语言)、SAN(存储区域网络)、微机数据库***(Microsoft AccessTM)或其他)的数据存储。数据库可以包括驻留在一个或多个物理设备中以及一个或多个物理位置中的一个或多个这种数据库。数据库可以存储多种类型的数据和/或文件以及相关联的数据或文件描述、管理信息或任何其他数据。
图1中示出的节点可以经由网络耦接到其他参与者节点10，该网络可以包括下列中的任意一个或多个：例如因特网、内联网、PAN(个人局域网)、LAN(局域网)、WAN(广域网)、SAN(存储区域网络)、MAN(城域网)、无线网络、蜂窝通信网络、公共交换电话网络和/或其他网络。在图1中，以及在其他附图中，可以使用与所描绘的实体不同数量的实体。此外，根据各种实施方式，本文描述的组件可以以硬件和/或配置硬件的软件来实施。
在图3-图5中(以及其他附图中)描绘的各种处理操作和/或数据流程在本文被更详细地描述。所描述的操作可以使用上面详细描述的一些或所有***组件来完成，并且在一些实施方式中，可以以不同的顺序执行各种操作，并且可以省略各种操作。额外的操作可以连同所描绘的流程图中所示的一些或所有操作一起执行。可以同时执行一个或多个操作。因此，所示(并且在下面更详细地描述)的操作本质上是示例性的，因此不应视为限制性的。
考虑到本文公开的本发明的说明书和实践，本发明的其他实施方式、用途和优点对于本领域技术人员而言是显而易见的。该说明书应仅被视为示例性的，并且因此本发明的范围仅由所附的权利要求限制。
尽管上面已经描述了所公开技术的各种实施例，但是应该理解，它们仅以示例的方式而不是以限制的方式呈现。同样地，各种图示可以描绘用于所公开的技术的示例架构或其他配置，其被完成以帮助理解可以包括在所公开的技术中的特征和功能。所公开的技术不限于所示出的示例架构或配置，而是可以使用各种替代架构和配置来实现期望的特征。实际上，对于本领域技术人员来说，可以如何实施替代的功能、逻辑或物理划分和配置以实施本文公开的技术的期望特征将是显而易见的。此外，可以对各种划分应用除本文描述的名称之外的多个不同的组成模块名称。另外，关于流程图、操作描述和方法权利要求，本文呈现的步骤的顺序不应强制要求实施各种实施例以按相同顺序执行所述的功能，除非上下文另有指示。
尽管以上根据各种示例性实施例和实施方式描述了所公开的技术，但是应当理解，在一个或多个单独的实施例中描述的各种特征、方面和功能不限于它们到对它们进行描述的特定实施例的适用性，而是可以单独或以各种组合被应用于所公开的技术的一个或多个其他实施例，无论是否描述了这种实施例以及这种特征是否作为所描述的实施例的一部分呈现。因此，本文公开的技术的广度和范围不应受任何上述示例性实施例的限制。
除非另有明确说明，否则本文件中使用的术语和短语及其变体应被解释为开放式的而非限制性的。作为前述内容的示例：术语“包括”应理解为“包括但不限于”等含义；术语“示例”用于提供讨论中的项目的示例性实例，而不是其详尽或限制其列表；术语“一”或“某一”应理解为“至少一个”，“一个或多个”等；并且诸如“常规的”，“传统的”，“正常的”，“标准的”，“已知的”和类似含义的术语的形容词不应被解释为将所描述的项目限制在给定时间段或者限制为给定时间的可用项目，而是应该阅读为包含现在或将来的任何时间可能可用或可知的常规的、传统的、正常的或标准的技术。同样地，在本文件涉及本领域普通技术人员显而易见或已知的技术的情况下，此类技术包括现在或将来的任何时间本领域技术人员显而易见的或可知的技术。
在某些情况下，诸如“一个或多个”，“至少”，“但不限于”或其他类似短语的拓宽单词和短语的存在不应被阅读为意味着在可能缺少这种拓宽短语的情况下预期或要求更窄的情况。术语“模块”的使用并不暗示着作为模块的一部分被描述或要求保护的组件或功能都在共同的封装件中配置。实际上，模块的各种组件中的任何一个或全部，无论是控制逻辑还是其他组件，都可以组合在单个封装件中或独立地维护，并且可以进一步分布在多个分组或封装件中，或跨越多个位置来分布。
另外，本文阐述的各种实施例是根据示例性框图、流程图和其他图示来描述的。在阅读本文之后，对于本领域普通技术人员将变得显而易见的是，可以在不限制所示示例的情况下实现所示实施例及其各种替代方案。例如，框图及其随附的描述不应被解释为强制要求特定的体系结构或配置。

Claims (15)

1.一种经由多次训练迭代进行分散式机器学习的***，所述***包括：
包括多个物理计算节点的区块链网络的至少第一物理计算节点，所述第一物理计算节点被编程用于：
向所述区块链网络进行登记以在第一时间处参与训练机器学习模型的第一迭代；
参与一致决策以对所述区块链网络的第二物理计算节点进行登记，从而参与所述第一迭代，其中所述一致决策仅应用于所述第一迭代并且不对所述第二物理计算节点进行注册以参与后续的迭代；
获得能够在所述第一物理计算节点处本地访问但在所述多个物理计算节点中的其他物理计算节点处不能访问的本地训练数据集；
在所述第一迭代期间基于所述本地训练数据集来训练第一本地模型；
基于所述第一本地模型获得至少第一训练参数；
生成区块链事务，所述区块链事务包括所述第一物理计算节点准备好共享所述第一训练参数的指示；
将所述第一训练参数传输到主节点，所述主节点基于所述第一物理计算节点准备好共享所述第一训练参数的指示来生成将作为分类帐区块被添加到所述分布式分类帐的每个副本的新事务；
从所述区块链网络获得一个或多个最终训练参数，所述一个或多个最终训练参数由所述主节点基于所述第一训练参数和在所述第二物理计算节点处生成并从所述第二物理计算节点共享的至少第二训练参数来生成；以及
将所述一个或多个最终训练参数应用于所述第一本地模型。
2.如权利要求1所述的***，其中为了共享所述第一训练参数，所述第一物理计算节点进一步被编程用于：
使所述第一训练参数序列化以便共享到所述区块链网络；
将所述第一物理计算节点准备好共享所述第一训练参数的指示传输到所述区块链网络的至少一个其他物理计算节点。
3.如权利要求2所述的***，进一步包括：
所述主节点，所述主节点从参与所述第一迭代的物理计算节点的集合中选择，所述主节点被编程用于：
至少获得所述第一训练参数和所述第二训练参数；
基于所述第一训练参数和所述第二训练参数生成所述一个或多个最终训练参数；
生成事务，所述事务包括所述主节点已经生成所述一个或多个最终训练参数的指示；
使所述事务作为区块被写入所述分布式分类账上；
释放所述主节点的作为主节点的状态，这允许通过不同的主节点进入模型构建的第二迭代；以及
使所述一个或多个最终训练参数可用于所述多个物理计算节点。
4.如权利要求3所述的***，其中，所述第一物理计算节点进一步被编程用于：
监控所述第一物理计算节点的所述分布式分类账的副本；
确定所述主节点已经基于在所述分布式分类帐中生成的区块而生成所述最终参数；
获得所述一个或多个最终训练参数；以及
将所述最终训练参数应用于所述第一本地模型。
5.如权利要求3所述的***，其中所述第一物理计算节点进一步被编程用于：
参与一致决策以从所述多个物理计算节点中选举所述主节点。
6.如权利要求1所述的***，其中为了参与所述一致决策以对第二物理计算节点进行登记，所述第一物理计算节点进一步被编程用于：
从通过所述第一物理计算节点编码的智能合约中获得一个或多个规则；以及
基于所述一个或多个规则确定所述第二物理计算节点是否具有参与所述第一迭代的许可。
7.如权利要求6所述的***，其中，为了参与所述一致决策以对第二物理计算节点进行登记，所述第一物理计算节点进一步被编程用于：
确定所述第二物理计算节点的当前状态；以及
基于所述一个或多个规则确定所述当前状态是否是参与所述第一迭代的可准许状态。
8.如权利要求1所述的***，进一步包括所述区块链网络中的不参与所述第一迭代的第三物理计算节点，所述第三物理计算节点被编程用于：
在所述第一迭代完成之后接收所述分布式分类帐的当前副本；
获得所述一个或多个最终训练参数；以及
将所述一个或多个最终训练参数应用于所述第三物理计算节点处的第三本地模型。
9.一种通过多次训练迭代进行分散式机器学习的方法，所述方法包括：
由包括多个物理计算节点的区块链网络的第一物理计算节点，向所述区块链网络进行登记，以在第一时间处参与训练机器学习模型的第一迭代；
由所述第一物理计算节点与所述区块链网络中的至少一个其他节点生成一致决策，以对所述区块链网络的第二物理计算节点进行登记，从而参与所述第一迭代，其中所述一致决策仅应用于所述第一迭代并且不对所述第二物理计算节点进行注册以参与后续的迭代；
由所述第一物理计算节点获得在所述第一物理计算节点处能够本地访问但在所述多个物理计算节点中的其他物理计算节点处不能访问的本地训练数据集；
由所述第一物理计算节点在所述第一迭代期间基于所述本地训练数据集来训练第一本地模型；
由所述第一物理计算节点基于所述第一本地模型获得至少第一训练参数；
由所述第一物理计算节点生成区块链事务，所述区块链事务包括所述第一物理计算节点准备好共享所述第一训练参数的指示；
由所述第一物理计算节点将所述第一训练参数传输到主节点，所述主节点基于所述第一物理计算节点准备好共享所述第一训练参数的指示来生成将被添加到所述分布式分类帐的每个副本的分类账区块；
由所述第一物理计算节点从所述区块链网络的至少一个第二其他物理计算节点获得一个或多个最终训练参数，所述一个或多个最终训练参数由所述主节点基于所述第一训练参数和在所述第二物理计算节点处生成并从所述第二物理计算节点共享的至少第二训练参数来生成；以及
由所述第一物理计算节点将所述一个或多个最终训练参数应用于所述第一本地模型。
10.如权利要求9所述的方法，其中共享所述第一训练参数包括：
由所述第一物理计算节点将所述第一训练参数序列化以便共享到所述区块链网络；
由所述第一物理计算节点将所述第一物理计算节点准备好共享所述第一训练参数的指示发送到所述区块链网络的至少一个其他物理计算节点。
11.如权利要求10所述的方法，进一步包括：
由所述主节点至少获得所述第一训练参数和所述第二训练参数，所述主节点从参与所述第一迭代的物理计算节点的集合中选择；
由所述主节点基于所述第一训练参数和所述第二训练参数生成所述一个或多个最终训练参数；
由所述主节点生成包括所述主节点已经生成所述一个或多个最终训练参数的指示的区块；
由所述主节点将所述区块写入所述分布式分类账；
由所述主节点释放该主节点作为主节点的状态，这允许通过不同的主节点进入模型构建的第二迭代；以及
由所述主节点使所述一个或多个最终训练参数可用于所述多个物理计算节点。
12.如权利要求11所述的方法，所述方法进一步包括：
由所述第一物理计算节点监视所述第一物理计算节点的所述分布式分类帐的副本；
由所述第一物理计算节点确定所述主节点已经基于所述分布式分类帐中的所生成的区块而生成所述最终参数；
由所述第一物理计算节点获得所述一个或多个最终训练参数；以及
由所述第一物理计算节点将所述最终训练参数应用于所述第一本地模型。
13.如权利要求11所述的方法，其中参与所述一致决策以对第二物理计算节点进行登记包括：
由所述第一物理计算节点从智能合约中获得一个或多个规则，所述智能合约通过所述第一物理计算节点编码；以及
由所述第一物理计算节点基于所述一个或多个规则确定所述第二物理计算节点是否具有参与所述第一迭代的许可。
14.一种包含指令的非暂时性机器可读存储介质，所述指令能够由包括多个物理计算节点的区块链网络的至少第一物理计算节点的处理器执行，所述指令对所述处理器编程以用于：
向所述区块链网络进行登记以在第一时间处参与训练机器学习模型的第一迭代；
参与一致决策以对所述区块链网络的第二物理计算节点进行登记，从而参与所述第一迭代，其中所述一致决策仅应用于所述第一迭代并且不对所述第二物理计算节点进行注册以参与后续的迭代；
获得能够在所述第一物理计算节点处本地访问但在所述多个物理计算节点中的其他物理计算节点处不能访问的本地训练数据集；
在所述第一迭代期间基于所述本地训练数据集来训练第一本地模型；
基于所述第一本地模型获得至少第一训练参数；
对所述第一物理计算节点准备好共享所述第一训练参数的指示进行广播；
将所述第一训练参数传输到主节点，所述主节点基于所述第一物理计算节点准备好共享所述第一训练参数的指示来生成将被添加到所述分布式分类帐的每个副本的分类帐区块；
从所述区块链网络获得一个或多个最终训练参数，所述一个或多个最终训练参数由所述主节点使用至少所述第一训练参数和在所述第二物理计算节点处生成并从所述第二物理计算节点共享的至少第二训练参数来融合；以及
将所述一个或多个最终训练参数应用于所述第一本地模型。
15.根据权利要求14所述的非暂时性机器可读存储介质，其中为了共享所述第一训练参数，所述指令进一步对所述处理器进行编程以用于：
将所述第一训练参数序列化以便共享到所述区块链网络；
将所述第一物理计算节点准备好共享所述第一训练参数的指示传输到所述区块链网络的至少一个其他物理计算节点。
CN201810872876.3A 2018-04-30 2018-08-02 使用区块链的分散式机器学习的***和方法 Active CN110428056B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
IN201841016309 2018-04-30
IN201841016309 2018-04-30

Publications (2)

Publication Number Publication Date
CN110428056A true CN110428056A (zh) 2019-11-08
CN110428056B CN110428056B (zh) 2023-07-14

Family

ID=63103748

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810872876.3A Active CN110428056B (zh) 2018-04-30 2018-08-02 使用区块链的分散式机器学习的***和方法

Country Status (3)

Country Link
US (1) US11605013B2 (zh)
EP (1) EP3564873B1 (zh)
CN (1) CN110428056B (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112180898A (zh) * 2020-09-27 2021-01-05 深圳市元征科技股份有限公司 参数位置确定方法、装置、设备及存储介质
CN113221163A (zh) * 2021-04-29 2021-08-06 深圳大学 一种训练模型的方法及***
CN113268776A (zh) * 2019-12-09 2021-08-17 支付宝(杭州)信息技术有限公司 基于区块链的模型联合训练方法及装置
CN113767386A (zh) * 2020-01-27 2021-12-07 慧与发展有限责任合伙企业 使用针对群学习的同态加密的安全参数合并
CN113767385A (zh) * 2020-01-27 2021-12-07 慧与发展有限责任合伙企业 使用区块链在针对机器学习的分散模型构建中商业化数据的***和方法
CN113935469A (zh) * 2021-10-26 2022-01-14 城云科技（中国）有限公司 基于去中心化联邦学习的模型训练方法
CN114358316A (zh) * 2022-01-14 2022-04-15 中国人民解放军总医院 联邦学习***及其大规模影像训练方法和装置
WO2022089198A1 (en) * 2020-10-29 2022-05-05 International Business Machines Corporation Blockchain for artificial intelligence training
CN114761952A (zh) * 2019-12-03 2022-07-15 维萨国际服务协会 提供安全联合机器学习的技术
US11605013B2 (en) 2018-04-30 2023-03-14 Hewlett Packard Enterprise Development Lp System and method of decentralized machine learning using blockchain
CN116664129A (zh) * 2023-07-28 2023-08-29 杭州趣链科技有限公司 区块链账本数据迭代方法、电子设备及可读存储介质
US11748337B2 (en) 2018-04-30 2023-09-05 Hewlett Packard Enterprise Development Lp System and method of decentralized management of multi-owner nodes using blockchain
US11966818B2 (en) 2019-02-21 2024-04-23 Hewlett Packard Enterprise Development Lp System and method for self-healing in decentralized model building for machine learning using blockchain

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3564883B1 (en) 2018-04-30 2023-09-06 Hewlett Packard Enterprise Development LP System and method of decentralized management of device assets outside a computer network
US11569981B1 (en) * 2018-08-28 2023-01-31 Amazon Technologies, Inc. Blockchain network based on machine learning-based proof of work
CN109492420B (zh) * 2018-12-28 2021-07-20 深圳前海微众银行股份有限公司 基于联邦学习的模型参数训练方法、终端、***及介质
US11144666B2 (en) * 2019-01-18 2021-10-12 Toyota Motor North America, Inc. Selective data access and data privacy via blockchain
US11423254B2 (en) * 2019-03-28 2022-08-23 Intel Corporation Technologies for distributing iterative computations in heterogeneous computing environments
US11694110B2 (en) 2019-06-12 2023-07-04 International Business Machines Corporation Aggregated machine learning verification for database
US11983608B2 (en) * 2019-06-12 2024-05-14 International Business Machines Corporation Efficient verification of machine learning applications
SG11202001975SA (en) 2019-07-11 2020-04-29 Alibaba Group Holding Ltd Shared blockchain data storage
CN111448781B (zh) * 2019-07-11 2022-08-26 创新先进技术有限公司 一种计算机实现的用于通信共享的区块链数据的方法
WO2019179539A2 (en) 2019-07-11 2019-09-26 Alibaba Group Holding Limited Shared blockchain data storage
CN114514515A (zh) * 2019-07-23 2022-05-17 动态Ad有限责任公司 区块链账本验证和服务
CN111295650B (zh) 2019-12-05 2023-05-16 支付宝(杭州)信息技术有限公司 在基于区块链的***中执行映射迭代
CN111226209B (zh) * 2019-12-05 2024-03-01 支付宝(杭州)信息技术有限公司 在基于区块链的***中执行映射迭代
US11563679B1 (en) * 2019-12-12 2023-01-24 Architecture Technology Corporation Distributed ledger adjustment in response to disconnected peer
US20210191826A1 (en) * 2019-12-20 2021-06-24 Johnson Controls Technology Company Building system with ledger based software gateways
US11483154B2 (en) 2020-02-19 2022-10-25 International Business Machines Corporation Artificial intelligence certification of factsheets using blockchain
CN111352996B (zh) * 2020-02-26 2023-09-19 百度在线网络技术（北京）有限公司 基于区块链网络的数据共享方法、装置、设备及介质
CN111340493B (zh) * 2020-03-04 2023-05-05 江苏大学 一种多维度分布式异常交易行为检测方法
CN111353717A (zh) * 2020-03-05 2020-06-30 中国工商银行股份有限公司 区块链共识节点推选***及方法
CN113259147B (zh) * 2020-06-28 2022-07-26 中兴通讯股份有限公司 网元管理方法、装置、计算机设备、介质
CN111901309B (zh) * 2020-07-03 2022-03-22 北京邮电大学 一种数据安全共享方法、***及装置
US11651293B2 (en) * 2020-07-22 2023-05-16 International Business Machines Corporation Hierarchical decentralized distributed deep learning training
CN112434313A (zh) * 2020-11-11 2021-03-02 北京邮电大学 数据共享方法、***、电子设备及存储介质
CA3143855A1 (en) * 2020-12-30 2022-06-30 Atb Financial Systems and methods for federated learning on blockchain
JP2024505553A (ja) * 2021-02-01 2024-02-06 ジェイピーモルガン・チェース・バンク，ナショナル・アソシエーション ピアツーピアネットワークを使用する連合学習のためのシステムおよび方法
CN113076553B (zh) * 2021-03-11 2023-10-17 佳讯飞鸿（北京）智能科技研究院有限公司 一种智能体节点插件管理方法
CN113835390B (zh) * 2021-08-16 2023-09-05 国网新源控股有限公司 基于区块链的抽水蓄能电站分布式控制方法及相关设备
CN113591041B (zh) * 2021-09-28 2021-12-31 环球数科集团有限公司 一种防止代码注入或源码反编译的分布式编码***
US20230134759A1 (en) * 2021-11-01 2023-05-04 Ic Manage Inc Heliotropic work from home time zone expedition server coordinates Evolving FileTile (EFT) updates among local computation centers (LCC) by selectively relaying indicia As Soon After Commitment (ASAC) into version control to cause inter-center EFT demands to be queued earlier than local application start
CN114726868B (zh) * 2022-02-24 2024-03-08 北京工业大学 一种面向分布式网络的分级分片区块链架构
US20230325528A1 (en) * 2022-04-12 2023-10-12 Jpmorgan Chase Bank, N.A. Systems and methods for privacy preserving, network analytics, and anomaly detection on decentralized, private, permissioned distributed ledger networks
CN114707663B (zh) * 2022-04-15 2024-02-23 中国电信股份有限公司 分布式机器学习方法、装置、电子设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130290223A1 (en) * 2012-04-27 2013-10-31 Yahoo! Inc. Method and system for distributed machine learning
CN106656798A (zh) * 2016-12-30 2017-05-10 先锋支付有限公司 一种计算决策路径的方法及分布式节点
CN107864198A (zh) * 2017-11-07 2018-03-30 济南浪潮高新科技投资发展有限公司 一种基于深度学习训练任务的区块链共识方法
CN107967539A (zh) * 2017-11-29 2018-04-27 暨南大学 基于机器学习和区块链技术的预测以太坊上交易的燃料限制的方法

Family Cites Families (76)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8565435B2 (en) 2010-08-16 2013-10-22 International Business Machines Corporation Efficient implementation of fully homomorphic encryption
US10490304B2 (en) 2012-01-26 2019-11-26 Netspective Communications Llc Device-driven non-intermediated blockchain system over a social integrity network
US20170140145A1 (en) 2012-05-14 2017-05-18 Netspective Communications Llc Computer-controlled physically distributed collaborative asynchronous digital transactions
US9569517B1 (en) 2013-11-27 2017-02-14 Google Inc. Fault tolerant distributed key-value storage
US9413779B2 (en) 2014-01-06 2016-08-09 Cisco Technology, Inc. Learning model selection in a distributed network
US20150324690A1 (en) 2014-05-08 2015-11-12 Microsoft Corporation Deep Learning Training System
WO2015175722A1 (en) * 2014-05-13 2015-11-19 Nant Holdings Ip, Llc Healthcare transaction validation via blockchain proof-of-work, systems and methods
US9692748B2 (en) 2014-09-24 2017-06-27 Oracle International Corporation Unified provisioning of applications on devices in an enterprise system
US9990587B2 (en) 2015-01-22 2018-06-05 Preferred Networks, Inc. Machine learning heterogeneous edge device, method, and system
US9875510B1 (en) 2015-02-03 2018-01-23 Lance Kasper Consensus system for tracking peer-to-peer digital records
US9967334B2 (en) 2015-03-02 2018-05-08 Dell Products Lp Computing device configuration and management using a secure decentralized transaction ledger
US10635471B2 (en) 2015-05-15 2020-04-28 Joshua Paul Davis System and method for an autonomous entity
US9779557B2 (en) 2015-08-18 2017-10-03 Carfit Corp. Automotive activity monitor
US9940386B2 (en) 2015-08-28 2018-04-10 Accenture Global Services Limited Distributed model-building
US10007585B2 (en) 2015-09-21 2018-06-26 TigerIT Americas, LLC Fault-tolerant methods, systems and architectures for data storage, retrieval and distribution
EP3362965A4 (en) * 2015-10-13 2019-08-07 Transactive Grid Inc. USING A DISTRIBUTED CONSENSUS CONTROL BASED ON A BLOCK CHAIN
US20170116693A1 (en) 2015-10-27 2017-04-27 Verimatrix, Inc. Systems and Methods for Decentralizing Commerce and Rights Management for Digital Assets Using a Blockchain Rights Ledger
EP3166251B1 (en) 2015-11-09 2020-10-28 Certsign S.A. Fully homomorphic encryption from monoid algebras
CN105488675B (zh) 2015-11-25 2019-12-24 布比（北京）网络技术有限公司 一种区块链的分布式共享总账构建方法
US20170169358A1 (en) 2015-12-09 2017-06-15 Samsung Electronics Co., Ltd. In-storage computing apparatus and method for decentralized machine learning
US11087234B2 (en) 2016-01-29 2021-08-10 Verizon Media Inc. Method and system for distributed deep machine learning
CN107025205B (zh) 2016-01-30 2021-06-22 华为技术有限公司 一种分布式***中的训练模型的方法及设备
US10728103B2 (en) 2016-03-21 2020-07-28 Dell Products L.P. Edge device resourcing using recursive ledger chaining
US10346406B2 (en) 2016-03-28 2019-07-09 International Business Machines Corporation Decentralized autonomous edge compute coordinated by smart contract on a blockchain
US10992649B2 (en) 2016-04-01 2021-04-27 Consensys Software Inc. Systems and methods for privacy in distributed ledger transactions
WO2017173271A1 (en) 2016-04-01 2017-10-05 Jpmorgan Chase Bank, N.A. Systems and methods for providing data privacy in a private distributed ledger
US20170302663A1 (en) 2016-04-14 2017-10-19 Cisco Technology, Inc. BLOCK CHAIN BASED IoT DEVICE IDENTITY VERIFICATION AND ANOMALY DETECTION
US20200348662A1 (en) 2016-05-09 2020-11-05 Strong Force Iot Portfolio 2016, Llc Platform for facilitating development of intelligence in an industrial internet of things system
CN106228446B (zh) 2016-05-12 2019-09-13 北京众享比特科技有限公司 基于私有区块链的资产交易平台***及方法
WO2017198291A1 (en) 2016-05-18 2017-11-23 Rwe International Se Peer-to-peer network and node of a peer-to-peer network
US11172367B2 (en) 2016-05-25 2021-11-09 Nokia Technologies Oy Method, device and system for utilizing block chain to define trusted circle
AU2017100968A4 (en) 2016-07-18 2017-09-07 Brontech Pty Ltd System for issuance, verification and use of digital identities on a public or private ledger.
MX2019000713A (es) * 2016-07-18 2019-11-28 Nant Holdings Ip Llc Sistemas, aparatos y metodos para maquina de aprendizaje distribuido.
CN107665154B (zh) 2016-07-27 2020-12-04 浙江清华长三角研究院 基于rdma与消息传递的可靠数据分析方法
US10417217B2 (en) 2016-08-05 2019-09-17 Chicago Mercantile Exchange Inc. Systems and methods for blockchain rule synchronization
CN106445711B (zh) 2016-08-28 2019-04-30 杭州云象网络技术有限公司 一种应用于区块链的拜占庭容错共识方法
US11128603B2 (en) 2016-09-30 2021-09-21 Nec Corporation Method and system for providing a transaction forwarding service in blockchain implementations
US20180157688A1 (en) 2016-12-03 2018-06-07 Dell Products, Lp Ledger-chained distributed information handling systems and methods
CN106911513B (zh) 2016-12-14 2019-12-13 中国电子科技集团公司第三十研究所 一种基于去中心化网络的可信设备管理方法
WO2018130267A1 (en) 2017-01-10 2018-07-19 Huawei Technologies Co., Ltd. Systems and methods for fault tolerance recover during training of a model of a classifier using a distributed system
US20180247191A1 (en) 2017-02-03 2018-08-30 Milestone Entertainment Llc Architectures, systems and methods for program defined entertainment state system, decentralized cryptocurrency system and system with segregated secure functions and public functions
US10169770B2 (en) 2017-04-10 2019-01-01 Wildfire Systems, Inc. Digital communications monetization system
US10360500B2 (en) 2017-04-20 2019-07-23 Sas Institute Inc. Two-phase distributed neural network training system
CN107395353B (zh) 2017-04-24 2020-01-31 阿里巴巴集团控股有限公司 一种区块链共识方法及装置
CN107103087A (zh) 2017-05-02 2017-08-29 成都中远信电子科技有限公司 区块链大数据商情分析***
US11138103B1 (en) 2017-06-11 2021-10-05 Pure Storage, Inc. Resiliency groups
CN107332900A (zh) 2017-06-27 2017-11-07 山东浪潮商用***有限公司 一种支撑物联网融合业务的私有区块链管理平台
US20190138929A1 (en) * 2017-07-07 2019-05-09 Darwinai Corporation System and method for automatic building of learning machines using learning machines
AU2018300147B2 (en) 2017-07-11 2020-07-16 Hedera Hashgraph, Llc Methods and apparatus for efficiently implementing a distributed database within a network
CN107395349A (zh) 2017-08-16 2017-11-24 深圳国微技术有限公司 一种基于自认证公钥体制的区块链网络密钥分发方法
CN107579848B (zh) 2017-08-30 2020-08-25 上海保险交易所股份有限公司 实用拜占庭容错共识机制中动态更改共识节点的方法
US10671435B1 (en) 2017-10-19 2020-06-02 Pure Storage, Inc. Data transformation caching in an artificial intelligence infrastructure
US11042934B2 (en) * 2017-11-13 2021-06-22 Bank Of America Corporation Crypto-machine learning enabled blockchain based profile pricer
US10057243B1 (en) 2017-11-30 2018-08-21 Mocana Corporation System and method for securing data transport between a non-IP endpoint device that is connected to a gateway device and a connected service
US10812463B2 (en) 2017-12-08 2020-10-20 International Business Machines Corporation Secure access to an enterprise computing environment
KR20190070163A (ko) 2017-12-12 2019-06-20 엔에이치엔 주식회사 네트워크를 통해 서로 통신하는 노드들 각각의 자원 운영 방법, 그리고 그러한 노드들 중 어느 하나로 동작하는 컴퓨터 장치
US10547679B1 (en) 2018-01-02 2020-01-28 Architecture Technology Corporation Cloud data synchronization based upon network sensing
CN108268638B (zh) 2018-01-18 2020-07-17 浙江工业大学 一种基于Spark框架的生成对抗网络分布式实现方法
CN108491266B (zh) 2018-03-09 2021-11-16 联想(北京)有限公司 基于区块链的数据处理方法、装置及电子设备
US11157833B2 (en) * 2018-03-14 2021-10-26 International Business Machines Corporation Learning service blockchain
US11475372B2 (en) 2018-03-26 2022-10-18 H2O.Ai Inc. Evolved machine learning models
US20190332921A1 (en) * 2018-04-13 2019-10-31 Vosai, Inc. Decentralized storage structures and methods for artificial intelligence systems
US11281658B2 (en) 2018-04-16 2022-03-22 Bc Development Labs Gmbh Trustless stateless incentivized remote node network using minimal verification clients
US11625711B2 (en) 2018-04-24 2023-04-11 Duvon Corporation Autonomous exchange via entrusted ledger key management
US11416767B2 (en) 2018-04-27 2022-08-16 Docusign International (Emea) Limited Generative adversarial network model training using distributed ledger
EP3564873B1 (en) 2018-04-30 2022-11-30 Hewlett Packard Enterprise Development LP System and method of decentralized machine learning using blockchain
US20190347540A1 (en) 2018-05-10 2019-11-14 Fmr Llc AI-Based Context Evaluation Engine Apparatuses, Methods and Systems
CN109033757B (zh) 2018-07-19 2022-04-05 湖南岳麓山数据科学与技术研究院有限公司 一种数据共享方法及***
CN110795228B (zh) 2018-08-03 2023-08-25 伊姆西Ip控股有限责任公司 用于训练深度学习模型的方法和制品、以及计算***
US20200057920A1 (en) 2018-08-20 2020-02-20 CrowdCare Corporation System and Method of Quotation Engine for AI Asset Training
CN109685501B (zh) 2018-12-04 2023-04-07 暨南大学 基于区块链激励机制下可审计的隐私保护深度学习平台建设方法
US20200218940A1 (en) 2019-01-08 2020-07-09 International Business Machines Corporation Creating and managing machine learning models in a shared network environment
US11469878B2 (en) 2019-01-28 2022-10-11 The Toronto-Dominion Bank Homomorphic computations on encrypted data within a distributed computing environment
CN109889326B (zh) 2019-02-19 2022-03-22 北京工业大学 一种基于区块链的物联网架构以及已验证数据证明共识方法
CN110490330A (zh) 2019-08-16 2019-11-22 安徽航天信息有限公司 一种基于区块链的分布式机器学习***
US20210134095A1 (en) 2019-11-01 2021-05-06 Zeptive, Inc. Cartridge-accepting device with an authentication circuit

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130290223A1 (en) * 2012-04-27 2013-10-31 Yahoo! Inc. Method and system for distributed machine learning
CN106656798A (zh) * 2016-12-30 2017-05-10 先锋支付有限公司 一种计算决策路径的方法及分布式节点
CN107864198A (zh) * 2017-11-07 2018-03-30 济南浪潮高新科技投资发展有限公司 一种基于深度学习训练任务的区块链共识方法
CN107967539A (zh) * 2017-11-29 2018-04-27 暨南大学 基于机器学习和区块链技术的预测以太坊上交易的燃料限制的方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
A. BESIR KURTULMUS ET AL: "Trustless Machine Learning Contracts; Evaluating and Exchanging Machine Learning Models on the Ethereum Blockchain", 《CORR》 *
JING CHEN ET AL: "Algorand", 《ARXIV.ORG》 *

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11605013B2 (en) 2018-04-30 2023-03-14 Hewlett Packard Enterprise Development Lp System and method of decentralized machine learning using blockchain
US11748337B2 (en) 2018-04-30 2023-09-05 Hewlett Packard Enterprise Development Lp System and method of decentralized management of multi-owner nodes using blockchain
US11966818B2 (en) 2019-02-21 2024-04-23 Hewlett Packard Enterprise Development Lp System and method for self-healing in decentralized model building for machine learning using blockchain
CN114761952A (zh) * 2019-12-03 2022-07-15 维萨国际服务协会 提供安全联合机器学习的技术
CN114761952B (zh) * 2019-12-03 2023-10-27 维萨国际服务协会 提供安全联合机器学习的技术
CN113268776B (zh) * 2019-12-09 2023-03-07 支付宝(杭州)信息技术有限公司 基于区块链的模型联合训练方法及装置
CN113268776A (zh) * 2019-12-09 2021-08-17 支付宝(杭州)信息技术有限公司 基于区块链的模型联合训练方法及装置
US11748835B2 (en) 2020-01-27 2023-09-05 Hewlett Packard Enterprise Development Lp Systems and methods for monetizing data in decentralized model building for machine learning using a blockchain
CN113767386A (zh) * 2020-01-27 2021-12-07 慧与发展有限责任合伙企业 使用针对群学习的同态加密的安全参数合并
CN113767386B (zh) * 2020-01-27 2023-06-06 慧与发展有限责任合伙企业 在分布式网络中操作的网络节点
US11887204B2 (en) 2020-01-27 2024-01-30 Hewlett Packard Enterprise Development Lp Systems and methods for monetizing data in decentralized model building for machine learning using a blockchain
US11876891B2 (en) 2020-01-27 2024-01-16 Hewlett Packard Enterprise Development Lp Secure parameter merging using homomorphic encryption for swarm learning
CN113767385A (zh) * 2020-01-27 2021-12-07 慧与发展有限责任合伙企业 使用区块链在针对机器学习的分散模型构建中商业化数据的***和方法
CN112180898A (zh) * 2020-09-27 2021-01-05 深圳市元征科技股份有限公司 参数位置确定方法、装置、设备及存储介质
CN112180898B (zh) * 2020-09-27 2022-04-19 深圳市元征科技股份有限公司 参数位置确定方法、装置、设备及存储介质
WO2022089198A1 (en) * 2020-10-29 2022-05-05 International Business Machines Corporation Blockchain for artificial intelligence training
CN113221163A (zh) * 2021-04-29 2021-08-06 深圳大学 一种训练模型的方法及***
CN113935469A (zh) * 2021-10-26 2022-01-14 城云科技（中国）有限公司 基于去中心化联邦学习的模型训练方法
CN113935469B (zh) * 2021-10-26 2022-06-24 城云科技（中国）有限公司 基于去中心化联邦学习的模型训练方法
CN114358316A (zh) * 2022-01-14 2022-04-15 中国人民解放军总医院 联邦学习***及其大规模影像训练方法和装置
CN116664129B (zh) * 2023-07-28 2023-11-10 武汉趣链数字科技有限公司 区块链账本数据迭代方法、电子设备及可读存储介质
CN116664129A (zh) * 2023-07-28 2023-08-29 杭州趣链科技有限公司 区块链账本数据迭代方法、电子设备及可读存储介质

Also Published As

Publication number Publication date
US11605013B2 (en) 2023-03-14
CN110428056B (zh) 2023-07-14
US20190332955A1 (en) 2019-10-31
EP3564873A1 (en) 2019-11-06
EP3564873B1 (en) 2022-11-30

Similar Documents

Publication Publication Date Title
CN110428056A (zh) 使用区块链的分散式机器学习的***和方法
Buchman Tendermint: Byzantine fault tolerance in the age of blockchains
CN103703464B (zh) 用于分布式配置管理的方法及装置
Ghosh Distributed systems: an algorithmic approach
US9984140B1 (en) Lease based leader election system
CN110537182A (zh) 为区块链云服务提供代表性状态转移代理服务的***和方法
CN102037463B (zh) 使用全局确认的提交进行分布式事务的基于日志的复制
Xu et al. BESIFL: Blockchain-empowered secure and incentive federated learning paradigm in IoT
CN106462449B (zh) 具有多项目事务支持的多数据库日志
CN102882927A (zh) 一种云存储数据同步框架及其实现方法
US11610173B2 (en) Intelligent collaborative project management
CN109074362A (zh) 分布式***中的拆分和移动范围
US11657035B2 (en) Methods, devices and systems for real-time checking of data consistency in a distributed heterogenous storage system
CN104239439A (zh) 选择性的数据库复制
CN112162959B (zh) 一种医疗数据共享方法及装置
US20210383187A1 (en) Decentralized machine learning system and a method to operate the same
US20200250203A1 (en) COMPUTING SYSTEM PROVIDING BLOCKCHAIN-FACILITATED SEMANTIC INTEROPERABILITY BETWEEN MULTIPLE DISPARATE SYSTEMS OF RECORD (SORs) AND RELATED METHODS
Urdapilleta et al. S elforganization of modular activity of grid cells
CN108700922A (zh) 数据中心管理
CN112104504B (zh) 一种大规模资源访问的事务管理框架、设计方法及云平台
US20210382860A1 (en) Methods for monitoring a blockchain based on schematized transactions and devices thereof
Li et al. A trustless federated framework for decentralized and confidential deep learning
Mathur et al. Hydra: A peer to peer distributed training & data collection framework
US20220116446A1 (en) Information Processing System and Method of Controlling Information Processing System
Geihs et al. Agent Team Management Using Distributed Ledger Technology

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant