CN117094421B - 非对称纵向联邦学习方法、装置、电子设备及存储介质 - Google Patents
非对称纵向联邦学习方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN117094421B CN117094421B CN202311333893.7A CN202311333893A CN117094421B CN 117094421 B CN117094421 B CN 117094421B CN 202311333893 A CN202311333893 A CN 202311333893A CN 117094421 B CN117094421 B CN 117094421B
- Authority
- CN
- China
- Prior art keywords
- prediction
- gradient information
- data set
- coordination
- equipment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 77
- 238000012549 training Methods 0.000 claims description 95
- 238000004422 calculation algorithm Methods 0.000 claims description 33
- 238000000605 extraction Methods 0.000 claims description 24
- 238000004590 computer program Methods 0.000 claims description 15
- 230000004044 response Effects 0.000 claims description 12
- 230000003993 interaction Effects 0.000 abstract description 8
- 238000010586 diagram Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 6
- 238000012502 risk assessment Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 3
- 238000012417 linear regression Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
- G06F21/44—Program or device authentication
- G06F21/445—Program or device authentication by mutual authentication, e.g. between devices or programs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2211/00—Indexing scheme relating to details of data-processing equipment not covered by groups G06F3/00 - G06F13/00
- G06F2211/007—Encryption, En-/decode, En-/decipher, En-/decypher, Scramble, (De-)compress
- G06F2211/008—Public Key, Asymmetric Key, Asymmetric Encryption
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- Computer Security & Cryptography (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Bioethics (AREA)
- Computer Hardware Design (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Databases & Information Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请公开了一种非对称纵向联邦学习方法、装置、电子设备及存储介质,涉及联邦学习技术领域。该方法包括:确定预测任务;向第一预测设备和第二预测设备分别发送第一请求,协调设备和第二预测设备同域,与第一预测设备不同域;接收第一预测设备和第二预测设备各自与预测任务相关的数据集,并确定两个数据集的交集,作为目标数据集;向第一预测设备和第二预测设备发送目标数据集以及第二请求;接收第一预测设备和第二预测设备各自获得的预测任务的中间预测结果,根据预测任务的两个中间预测结果,获得预测任务的预测结果。本申请减少了纵向联邦学习的参数和中间数据的不必要出域和交互,提升了纵向联邦学习的安全合规性和隐私保护能力。
Description
技术领域
本申请涉及纵向联邦学习技术领域,具体而言,本申请涉及一种非对称纵向联邦学习方法、装置、电子设备及存储介质。
背景技术
随着大数据的发展,大多数行业数据呈现数据孤岛现象,出于数据安全与客户隐私保护的考虑,发展出联邦学习技术。联邦学习技术按照数据集不同,分为横向联邦学习、纵向联邦学习等分支。
当前纵向联邦学习方法中,默认遵从参与方“地位对等”假设,业界称之为“对称式”。但是,在实际场景中,这种对称式的联邦学习方法存在数据违规出域以及隐私信息泄露的风险,并且会与某些行业规范相违背,存在不合规的风险。
发明内容
本发明实施例提供一种克服上述问题或者至少部分地解决上述问题的非对称纵向联邦学习方法、装置、电子设备及存储介质。
根据本申请实施例的第一方面,提供了一种非对称纵向联邦学习方法,方法应用于协调设备,包括:
确定预测任务;
向第一预测设备和第二预测设备分别发送第一请求,第一请求用于获得相应设备中与预测任务相关的数据集;第二预测设备与协调设备同域,第一预测设备与协调设备不同域且第一预测设备与第二预测设备不同域;
分别接收第一预测设备和第二预测设备各自与预测任务相关的数据集,并确定两个数据集的交集,作为目标数据集;
向第一预测设备和第二预测设备发送目标数据集以及第二请求,第二请求用于指示相应的设备根据目标数据集以及各自的预测模型获得预测任务的中间预测结果;
接收第一预测设备和第二预测设备各自获得的预测任务的中间预测结果,根据预测任务的两个中间预测结果,获得预测任务的预测结果。
作为一种可选地实施方式,根据预测任务的两个中间预测结果,获得预测任务的预测结果,包括:
对两个中间预测结果进行解密,得到两个解密后的中间预测结果,对两个解密后的中间预测结果进行计算,得到预测任务的预测结果。
作为一种可选地实施方式,向第一预测设备和第二预测设备分别发送第一请求,之前还包括:
接收第一预测设备发送的第三请求以及与训练任务相关的第一样本数据集,将第三请求发送给第二预测设备,使得第二预测设备响应于第三请求,获得与训练任务相关的第二样本数据集;
接收第二预测设备发送的与训练任务相关的第二样本数据集,将第一样本数据集以及第二样本数据集取交集,获得目标样本数据集,将目标样本数据集发送给第一预测设备和第二预测设备,并指示第一预测设备和第二预测设备根据目标样本数据集生成相应的中间结果;
接收第一预测设备发送的第一中间结果,将第一中间结果发送给第二预测设备,使得第二预测设备根据第一中间结果生成中间梯度信息;
接收第二预测设备发送的中间梯度信息、第二梯度信息,将中间梯度信息发送给第一预测设备,使得第一预测设备根据中间梯度信息生成对应的梯度信息;
接收第一预测设备发送的第一梯度信息,将第一梯度信息和第二梯度信息融合后使用预设的算法进行计算,得到第三梯度信息,将第三梯度信息进行拆分,得到第一预测设备对应的第四梯度信息和第二预测设备对应的第五梯度信息;
将第四梯度信息发送给第一预测设备,使得第一预测设备根据第四梯度信息对第一梯度信息进行更新;以及将第五梯度信息发送给第二预测设备,使得第二预测设备根据第五梯度信息对第二梯度信息进行更新;
接收第二预测设备发送的损失值。
作为一种可选地实施方式,在上述各实施例的基础上,作为一种可选地实施例,接收第二预测设备发送的损失值,之后还包括:
获得训练任务的累计执行次数和累计执行时间;
若接收到的第二预测设备的损失值大于预设的损失值,且训练任务的累计执行次数小于预设的次数和/或训练任务的累计执行时间小于预设的时间,则指示相应的设备重新执行训练任务,获得第二预测设备发送的损失值。
根据本申请实施例的第二方面,提供了一种非对称纵向联邦学习方法,方法应用于第一预测设备,第一预测设备包括第一预测模型,第一预测模型通过纵向联邦学习的模型训练方法对待训练的第一预测模型训练得到,包括:
响应于协调设备发送的第一请求,获得与预测任务相关的第一数据集,将第一数据集发送给协调设备;
接收协调设备发送的目标数据集和第二请求,响应于第二请求,对目标数据集中每个目标数据进行特征提取,得到每个目标数据的特征数据,通过第一预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到预测任务的第一中间预测结果,将第一中间预测结果发送给协调设备。
作为一种可选地实施方式,待训练的第一预测模型包括至少一个第一参数;
纵向联邦学习的模型训练方法,包括:
确定与预测任务相对应的训练任务;
向协调设备发送第三请求以及与训练任务相关的第一样本数据集,第三请求用于获得相应设备中与训练任务相关的目标样本数据集;
接收协调设备发送的目标样本数据集,对目标样本数据集中每个目标样本数据进行特征提取,获得每个目标样本数据的特征数据,使用预设的纵向联邦学习算法对每个目标样本数据的特征数据进行计算,得到每个目标样本数据的特征数据的中间结果,将所有特征数据的中间结果作为第一中间结果,将第一中间结果发送给协调设备;
接收协调设备发送的第二预测设备的中间梯度信息,根据中间梯度信息,以及第一中间结果,得到所有特征数据对应的梯度信息,作为第一梯度信息,将第一梯度信息发送给协调设备;
接收协调设备发送的第四梯度信息,根据第四梯度信息对第一梯度信息进行更新,得到更新后的第一梯度信息,根据更新后的第一梯度信息,对每个第一参数的参数值进行更新,得到第一预测模型。
根据本申请实施例的第三方面,提供了一种非对称纵向联邦学习方法,方法应用于第二预测设备,第二预测设备包括第二预测模型,第二预测模型通过纵向联邦学习的模型训练方法对待训练的第二预测模型训练得到,包括:
响应于协调设备发送的第一请求,获得与预测任务相关的第二数据集,将第二数据集发送给协调设备;
接收协调设备发送的目标数据集和第二请求,响应于第二请求,对目标数据集进行特征提取,得到每个目标数据的特征数据,通过第二预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到预测任务的第二中间预测结果,将第二中间预测结果发送给协调设备。
作为一种可选地实施方式,待训练的第二预测模型包括至少一个第二参数;
纵向联邦学习模型的模型训练方法,包括:
接收协调设备发送的第三请求,响应于第三请求,向协调设备发送与训练任务相关的第二样本数据集;
接收协调设备发送的目标样本数据集,对目标样本数据集中每个目标样本数据进行特征提取,获得每个目标样本数据的特征数据,使用预设的纵向联邦学习算法对每个目标样本数据的特征数据进行计算,得到每个目标样本数据的特征数据的中间结果,将所有特征数据的中间结果作为第二中间结果,将第二中间结果发送给协调设备;
接收协调设备发送的第一中间结果,根据第一中间结果以及第二中间结果,获得第一预测设备计算自身梯度信息所需的中间梯度信息,将中间梯度信息发送给协调设备;
根据第二中间结果,计算所有特征数据对应的梯度信息,作为第二梯度信息,将第二梯度信息发送给协调设备;
根据自身预设的标签数据以及第二中间结果,确定所有特征数据对应的损失值;
接收协调设备发送的第五梯度信息,根据第五梯度信息对第二梯度信息进行更新,得到更新后的第二梯度信息,根据更新后的第二梯度信息,对每个第二参数的参数值进行更新,得到第二预测模型;
将损失值发送给协调设备。
根据本申请实施例的第四方面,提供了一种非对称纵向联邦学习装置,装置应用于协调设备,包括:
确定预测任务模块:确定预测任务;
第一请求发送模块:向第一预测设备和第二预测设备分别发送第一请求,第一请求用于获得相应设备中与预测任务相关的数据集;第二预测设备与协调设备同域,第一预测设备与协调设备不同域且第一预测设备与第二预测设备不同域;
目标数据集获取模块:分别接收第一预测设备和第二预测设备各自与预测任务相关的数据集,并确定两个数据集的交集,作为目标数据集;
中间预测结果获取模块:向第一预测设备和第二预测设备发送目标数据集以及第二请求,第二请求用于指示相应的设备根据目标数据集以及各自的预测模型获得预测任务的中间预测结果;
预测结果获取模块:接收第一预测设备和第二预测设备各自获得的预测任务的中间预测结果,根据预测任务的两个中间预测结果,获得预测任务的预测结果。
根据本申请实施例的第五方面,提供了一种非对称纵向联邦学习装置,装置应用于第一预测设备,第一预测设备包括第一预测模型,第一预测模型通过纵向联邦学习的模型训练方法对待训练的第一预测模型训练得到,包括:
第一数据集发送模块:响应于协调设备发送的第一请求,获得与预测任务相关的第一数据集,将第一数据集发送给协调设备;
第一中间预测结果发送模块:接收协调设备发送的目标数据集和第二请求,响应于第二请求,对目标数据集中每个目标数据进行特征提取,得到每个目标数据的特征数据,通过第一预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到预测任务的第一中间预测结果,将第一中间预测结果发送给协调设备。
根据本申请实施例的第六方面,提供了一种非对称纵向联邦学习装置,装置应用于第二预测设备,第二预测设备包括第二预测模型,第二预测模型通过纵向联邦学习的模型训练方法对待训练的第二预测模型训练得到,包括:
第二数据集发送模块:响应于协调设备发送的第一请求,获得与预测任务相关的第二数据集,将第二数据集发送给协调设备;
第二中间预测结果发送模块:接收协调设备发送的目标数据集和第二请求,响应于第二请求,对目标数据集进行特征提取,得到每个目标数据的特征数据,通过第二预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到预测任务的第二中间预测结果,将第二中间预测结果发送给协调设备。
根据本申请实施例的第七方面,提供了一种电子设备,包括存储器、处理器及存储在存储器上的计算机程序,其特征在于,处理器执行计算机程序以实现上述第一方面、第二方面和第三方面的任一项方法的步骤。
根据本申请实施例的第八方面,提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,计算机程序被处理器执行时实现上述第一方面、第二方面和第三方面的任一项方法的步骤。
本发明实施例提供的技术方案,获得了如下技术效果:
本申请实施例的技术方案,通过将协调设备和其中一个预测设备部署在同一个域,使得与协调设备处于同一个域的预测设备成为受保护的一方,由协调设备作为中间方处理纵向联邦学习过程的数据,预测设备之间不需要直接进行交互,使得受保护方一侧的数据不出域,避免了受保护方一侧的数据违规出域以及隐私泄露的问题,提高了纵向联邦学习的安全合规性和隐私保护能力。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对本申请实施例描述中所需要使用的附图作简单地介绍。
图1为本申请实施例提供的计算机***的结构示意图;
图2为本申请实施例提供的一种应用于协调设备的非对称纵向联邦学习方法的流程示意图;
图3为本申请实施例提供的一种应用于第一预测设备的非对称纵向联邦学习方法的流程示意图;
图4为本申请实施例提供的一种应用于第二预测设备的非对称纵向联邦学习方法的流程示意图;
图5为本申请实施例提供的一种获得预测任务的预测结果的交互示意图;
图6为本申请实施例提供的一种获得预测设备的预测模型的交互示意图;
图7为本申请实施例提供的一种应用于协调设备的非对称纵向联邦学习装置的结构示意图;
图8为本申请实施例提供的一种应用于第一预测设备的非对称纵向联邦学习装置的结构示意图;
图9为本申请实施例提供的一种应用于第二预测设备的非对称纵向联邦学习装置的结构示意图;
图10为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面详细描述本申请的实施例,实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本申请,而不能解释为对本发明的限制。
本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”和“该”也可包括复数形式。应该进一步理解的是,本申请的说明书中使用的措辞“包括”是指存在特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。
本申请提供的非对称纵向联邦学习方法、装置、电子设备及存储介质,旨在解决现有技术的如上技术问题。
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本申请的实施例进行描述。
如图1所示,其示例性地示出了本申请实施例提供的计算机***的结构示意图,如图所示,该***包括终端101和服务器102,终端101通过网络103与服务器102进行通信连接。
在本实施例中,终端101可以是任何类型的移动计算设备,包括移动计算机(例如个人数字助理(PDA)、膝上型计算机、笔记本计算机、诸如平板计算机、上网本等)、移动电话(例如,蜂窝电话)、可穿戴式计算设备(例如智能手表、头戴式设备,包括智能眼镜)或其他类型的移动设备。在一些实施例中,终端101也可以是固定式计算设备,例如台式计算机、游戏机、智能电视等。
服务器102可以存储和运行可以执行本文所描述的各种方法的指令,其分别可以是单个服务器或服务器集群或云服务器,或者其中的任两个或三个可以是同一服务器或同一服务器集群或云服务器。应理解,本文所提及的服务器典型地为具有大量存储器和处理器资源的服务器计算机,但是其他实施例也是可能的。
网络103的示例包括局域网(LAN)、广域网(WAN)、个域网(PAN)、和/或诸如因特网之类的通信网络的组合。服务器102以及终端101的每一个可以包括能够通过网络103进行通信的至少一个通信接口(未示出)。这样的通信接口可以是下列各项中的一个或多个:任何类型的网络接口(例如,网络接口卡(NIC))、有线或无线(诸如IEEE 802.11无线LAN(WLAN))无线接口、以太网接口、通用串行总线(USB)接口、蜂窝网络接口、BluetoothTM接口、近场通信(NFC)接口等。
本申请实施例提供的计算机***的结构示意图,如图1所示,终端101可以包括显示屏以及可以经由显示屏与消费者交互的终端应用。终端101可以例如经由网络103与服务器102进行交互,例如向其发送数据或从其接收数据。终端应用可以为本地应用程序、网页(Web)应用程序或者作为轻量化应用的小程序(LiteApp,例如手机小程序)。在终端应用为需要安装的本地应用程序的情况下,可以将终端应用安装在终端101中。在终端应用为Web应用程序的情况下,可以通过浏览器访问终端应用。在终端应用为小程序的情况下,可以通过搜索终端应用的相关信息(如终端应用的名称等)、扫描终端应用的图形码(如条形码、二维码等)等方式来在终端101上直接打开终端应用,而无需安装终端应用。
本申请实施例中提供了一种应用于协调设备的非对称纵向联邦学习方法的流程图,该方法应用于协调设备,如图2所示,该方法包括:
S101、确定预测任务。
本申请实施例中,在纵向联邦学习中,当各参与方完成联合训练后,实际预测时由各参与方基于各自的预测模型计算中间预测结果,最后合并各参与方的中间预测结果获得最终结果,这一过程也称为在线推理。以金融领域的银行贷款场景为例,银行需要通过在线推理方式进行客户的风险评估,以确定是否为其提供贷款;银行一方面结合己方数据获得客户的风险预测结果,另一方面将客户的数据标识发送给电信运营商,以获得基于电信运营商数据的风险预测结果,最后结合两方预测结果获得客户的贷款风险评估,因而,预测任务就是客户的贷款风险评估,预测的结果就是客户的贷款风险评估,银行基于客户的贷款风险评估确定是否要给客户发放贷款。
需要说明的是,在确定预测任务之前,双方需要基于纵向联邦学习对各自的预测模型进行训练,得到各自训练好的预测模型。
S102、向第一预测设备和第二预测设备分别发送第一请求,第一请求用于获得相应设备中与预测任务相关的数据集;第二预测设备与协调设备同域,第一预测设备与协调设备不同域且第一预测设备与第二预测设备不同域。
本申请实施例中,第一预测设备和第二预测设备分别属于不同的公司,例如:第一预测设备属于电信运营商,第二预测设备属于银行,协调设备和第二预测设备同域,可以理解为协调设备也属于银行。可以理解为,在金融领域的银行贷款场景中,银行对数据的隐私以及安全合规性更加的敏感,属于“受保护方”,电信运营商相对来说,属于“弱保护方”,通常情况下,需要根据具体场景下,双方企业各自对数据的安全级别要求以及敏感程度来确定哪一方属于“受保护方”,哪一方属于“弱保护方”。本申请实施例不对具体的场景中的“受保护方”和“弱保护方”进行限定。
在确定预测任务之后,协调设备分别向第一预测设备和第二预测设备发送第一请求,用于获得联合推理所需的数据集,以金融领域的银行贷款场景为例,银行和电信运营商有很多相同的客户,在进行联合推理之前,需要确定双方共同的客户,此时,需要银行和电信运营商将自身包括的数据集进行对齐,数据集可以是客户的身份证号,也可以是客户的手机号等,本申请实施例不对数据集中的数据类型进行限定。
需要说明的是,数据集中的数据涉及到客户的隐私,且不同企业对数据的敏感性程度存在一定的差异,因此,对于数据敏感的企业就需要一个协调设备作为中间方来完成数据集的对齐功能,同时,为了进一步确保该中间方不会将自身的数据泄露出去,需要该中间方属于数据敏感企业,这样就确保对数据敏感的企业自身的数据不会被泄露给其他的企业。
本申请实施例提供的技术方案,实现了数据敏感一方的企业的数据不出域,也就是说,数据对齐过程中双方企业的“地位”是不对等的,只有一方企业的数据需要出域,克服了现有技术中双方企业的数据交换是“对称式”的,数据敏感一方存在数据违规出域以及隐私泄露的问题。
还需要说明的是,本申请实施例中,不同场景的纵向联邦学习的推理过程中,双方企业交换的数据集是不同的,并不限于本申请实施例提到的身份证号或者手机号,本申请实施例不对交互的数据类型进行限定。
S103、分别接收第一预测设备和第二预测设备各自与预测任务相关的数据集,并确定两个数据集的交集,作为目标数据集。
本申请实施例中,第一预测设备和第一预测申请接收到第一请求后,将各自的数据集发送给协调设备,用于将彼此之间的数据进行对齐。以金融领域的银行贷款场景为例,银行和电信运营商将自身客户的身份证号作为数据集发送给协调设备,由于银行和电信运营商的客户不可能是完全重合的,所以需要将双方的客户取交集,剔除掉不相同的客户,获得双方共同的客户,作为目标数据集。
需要说明的是,第一预测设备和第二预测设备发送给协调设备的数据集是加密过的,例如:电信运营商基于非对称加密算法生成密钥对,根据哈希算法和密钥对中公钥对自身的数据集进行加密,得到加密后的数据集,将加密后的数据集以及公钥发送给协调设备,由协调设备将公钥发送给银行,银行根据接收到的公钥以及哈希算法,对自身的数据集进行加密,得到加密后的数据集。
S104、向第一预测设备和第二预测设备发送目标数据集以及第二请求,第二请求用于指示相应的设备根据目标数据集以及各自的预测模型获得预测任务的中间预测结果。
本申请实施例中,协调设备在获得目标数据集之后,就开始进行联合推理的过程了,目的在于获得预测任务的预测结果。协调设备将目标数据集以及第二请求发送给第一预测设备和第二预测设备,这里的第二请求可以是联合推理请求,使得第一预测设备和第二预测设备根据接收到的目标数据集和联合推理请求,获得中间预测结果。
第一预测设备和第二预测设备获得目标数据集后,获得目标数据集中各目标数据对应的特征数据,将各目标数据的特征数据带入到自身训练好的预测模型中,得到各目标数据的特征数据的中间结果,将所有中间结果进行加密,得到中间预测结果,并将自身获得的中间预测结果发送给协调设备。
S105、接收第一预测设备和第二预测设备各自获得的预测任务的中间预测结果,根据预测任务的两个中间预测结果,获得预测任务的预测结果。
本申请实施例中,在获得第一预测设备和第二预测设备各自发送的中间预测结果之后,聚合两个中间预测结果,得到预测任务的预测结果。
以线性回归算法作为预设的纵向联邦学习算法为例进行说明,在第一预测设备和第二预测设备各自获得训练好的预测模型之后,获得各自的模型参数以及特征数据,分别为第一预测设备的模型参数,特征数据/>;以及第二预测设备的模型参数/>,特征数据。因此,第一预测设备的中间预测结果为/>,第二预测设备的中间预测结果为/>。因此,预测任务的预测结果y的计算公式如下所示:
。
在上述各实施例的基础上,作为一种可选地实施例,根据预测任务的两个中间预测结果,获得预测任务的预测结果,包括:
对两个中间预测结果进行解密,得到两个解密后的中间预测结果,对两个解密后的中间预测结果进行计算,得到预测任务的预测结果。
本申请实施例中协调设备生成密钥对,将密钥对中的公钥发送给第一预测设备和第二预测设备,使得第一预测设备和第二预测设备根据接收到的公钥对中间结果的加密,得到中间预测结果。
本申请实施例中第一预测设备和第二预测设备发送的中间预测结果是加密过的,则需要先对中间预测结果进行解密,再对两个中间预测结果进行汇总。
需要说明的是,本申请实施例中,协调设备可以基于同态加密算法生成密钥对,密钥对中包括用于加密的公钥,以及用于解密的私钥。第一预测设备和第二预测设备使用同态加密的公钥对各自的中间结果进行加密,得到各自的中间预测结果;协调设备使用同态加密的私钥对两个中间预测结果进行解密。
在上述各实施例的基础上,作为一种可选地实施例,向第一预测设备和第二预测设备分别发送第一请求,之前还包括:
接收第一预测设备发送的第三请求以及与训练任务相关的第一样本数据集,将第三请求发送给第二预测设备,使得第二预测设备响应于第三请求,获得与训练任务相关的第二样本数据集;
接收第二预测设备发送的与训练任务相关的第二样本数据集,将第一样本数据集以及第二样本数据集取交集,获得目标样本数据集,将目标样本数据集发送给第一预测设备和第二预测设备,并指示第一预测设备和第二预测设备根据目标样本数据集生成相应的中间结果;
接收第一预测设备发送的第一中间结果,将第一中间结果发送给第二预测设备,使得第二预测设备根据第一中间结果生成中间梯度信息;
接收第二预测设备发送的中间梯度信息、第二梯度信息,将中间梯度信息发送给第一预测设备,使得第一预测设备根据中间梯度信息生成对应的梯度信息;
接收第一预测设备发送的第一梯度信息,将第一梯度信息和第二梯度信息融合后使用预设的算法进行计算,得到第三梯度信息,将第三梯度信息进行拆分,得到第一预测设备对应的第四梯度信息和第二预测设备对应的第五梯度信息;
将第四梯度信息发送给第一预测设备,使得第一预测设备根据第四梯度信息对第一梯度信息进行更新;以及将第五梯度信息发送给第二预测设备,使得第二预测设备根据第五梯度信息对第二梯度信息进行更新;
接收第二预测设备发送的损失值。
本申请实施例中,协调设备接收到的第一梯度信息和第二梯度信息都是加密过的,因此,需要先对第一梯度信息和第二梯度信息进行解密,将解密后的第一梯度信息和第二梯度信息融合之后,得到第三梯度信息,使用预设的算法对第三梯度信息进行计算,预设的算法包括但不限于:机器学习的反向传播算法,从而实现对第三梯度信息优化,再将第三梯度信息按照第一预测设备和第二预测设备各自的特征进行拆分,得到第一预测设备对应的第四梯度信息和第二预测设备对应的第五梯度信息,将第四梯度信息发送给第一预测设备,将第五梯度信息发送给第二预测设备。
本申请实施例中,协调设备可以基于同态加密算法生成密钥对,密钥对中包括加密的公钥,以及解密的私钥,协调设备将公钥发送给第一预测设备和第二预测设备,使得第一预测设备和第二预测设备基于接收到的公钥,对自身的梯度信息进行加密。
本申请实施例中,第一预测设备和第二预测设备在获得目标样本数据集之后,需要对各自的待训练的预测模型进行初始化,同时,还需要将训练参数进行对齐,使得双方使用同样的训练参数,此时,协调设备就会将其中一方发送过来的训练参数转发给另一方,最终使双方的训练参数保持一致。
在上述各实施例的基础上,作为一种可选地实施例,接收第二预测设备发送的损失值,之后还包括:
获得训练任务的累计执行次数和累计执行时间;
若接收到的第二预测设备的损失值大于预设的损失值,且训练任务的累计执行次数小于预设的次数和/或训练任务的累计执行时间小于预设的时间,则指示相应的设备重新执行训练任务,获得第二预测设备发送的损失值。
本申请实施例中,协调设备在接收到第二预测设备发送的损失值后,需要判断该损失值是否大于预设的损失值,如果接收到的损失值大于预设的损失值,则说明第一预测设备和第二预测设备的预测模型的参数还需要继续训练,反之,如果接收到的损失值小于等于预设的损失值,则说明第一预测设备和第二预测设备的预测模型的参数已经训练好了,不需要再执行训练任务了。
需要说明的是,在对第一预测设备和第二预测设备的参数迭代过程中,考虑到训练任务的执行效率,需要对训练任务的累计执行次数以及累计执行时间给出一个预设值,当训练任务的累计执行次数和/或累计执行的时间达到甚至超过这个预设值之后,则需要停止训练任务。例如:训练任务累计执行的次数不超过1000次,当执行到第1000次时,若协调设备接收到的损失值还是大于预设的损失值,则停止执行训练任务,防止因为软件的错误,导致训练任务进入死循环。
本申请实施例中提供了一种应用于第一预测设备的非对称纵向联邦学习方法的流程示意图,该方法应用于第一预测设备,第一预测设备包括第一预测模型,第一预测模型通过纵向联邦学习的模型训练方法对待训练的第一预测模型训练得到,如图3所示,该方法包括:
S201、响应于协调设备发送的第一请求,获得与预测任务相关的第一数据集,将第一数据集发送给协调设备。
本申请实施例中,第一预测设备在接收到第一请求后,将自身的第一数据集发送给协调设备,以金融领域的银行贷款场景为例,第一预测设备为电信运营商,则第一数据集可以是所有客户的手机号,也可以是所有客户的身份证号。
可选地,第一预测设备在发送第一数据集之前,可以对客户的数据进行加密,得到第一数据集,例如,可以基于非对称加密算法,生成公钥,使用哈希算法和公钥对自身的数据集进行加密,得到第一数据集。第一预测设备将第一数据集以及公钥发送给协调设备。
S202、接收协调设备发送的目标数据集和第二请求,响应于第二请求,对目标数据集中每个目标数据进行特征提取,得到每个目标数据的特征数据,通过第一预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到预测任务的第一中间预测结果,将第一中间预测结果发送给协调设备。
本申请实施例中,对于目标数据的特征提取,可以理解为获得目标数据的每个特征对应的特征值,以金融领域的银行贷款场景为例,第一预测设备为电信运营商,目标数据为客户可以是手机号或者身份证,特征可以为客户的话费账单、欠费记录等,则特征数据就是客户的话费账单、欠费记录的实际数值,将这些特征数据输入到第一预测模型,则可以基于这些特征数据得到该客户的信用评估的中间结果,也就是这些特征数据的中间结果,再将得到的中间结果进行加密,得到加密后的中间结果,目标数据集中所有目标数据的加密后的中间结果,作为第一中间预测结果,将第一中间预测结果发送给协调设备。
需要说明的是,本申请实施例中,协调设备可以基于同态加密算法生成密钥对,密钥对中包括用于加密的公钥,以及用于解密的私钥。第一预测设备和第二预测设备使用同态加密的公钥对各自的中间结果进行加密,得到各自的中间预测结果。
在上述各实施例的基础上,作为一种可选地实施例,待训练的第一预测模型包括至少一个第一参数;
纵向联邦学习的模型训练方法,包括:
确定与预测任务相对应的训练任务;
向协调设备发送第三请求以及与训练任务相关的第一样本数据集,第三请求用于获得相应设备中与训练任务相关的目标样本数据集;
接收协调设备发送的目标样本数据集,对目标样本数据集中每个目标样本数据进行特征提取,获得每个目标样本数据的特征数据,使用预设的纵向联邦学习算法对每个目标样本数据的特征数据进行计算,得到每个目标样本数据的特征数据的中间结果,将所有特征数据的中间结果作为第一中间结果,将第一中间结果发送给协调设备;
接收协调设备发送的第二预测设备的中间梯度信息,根据中间梯度信息,以及第一中间结果,得到所有特征数据对应的梯度信息,作为第一梯度信息,将第一梯度信息发送给协调设备;
接收协调设备发送的第四梯度信息,根据第四梯度信息对第一梯度信息进行更新,得到更新后的第一梯度信息,根据更新后的第一梯度信息,对每个第一参数的参数值进行更新,得到第一预测模型。
本申请实施例中,预设的纵向联邦学习算法包括但不限于:使用线性回归算法。同时,在获得所有特征数据的梯度信息之后,还需要对梯度信息进行加密,得到第一梯度信息。
需要说明的是,第一预测模型的参数是动态更新的,可以理解为,模型的参数在初始化的时候会有一个初始值,训练任务每执行一次就会对模型的参数进行更新,将更新后的参数值作为下一次迭代时的初始值,直到训练任务停止执行,得到最终的参数值。
本申请实施例中提供了一种应用于第二预测设备的非对称纵向联邦学习方法的流程示意图,该方法应用于第二预测设备,第二预测设备包括第二预测模型,第二预测模型通过纵向联邦学习的模型训练方法对待训练的第二预测模型训练得到,如图4所示,该方法包括:
S301、响应于协调设备发送的第一请求,获得与预测任务相关的第二数据集,将第二数据集发送给协调设备。
本申请实施例中,第二预测设备在接收到第一请求后,将自身的第二数据集发送给协调设备,以金融领域的银行贷款场景为例,第二预测设备为银行,则第二数据集可以是所有客户的手机号,也可以是所有客户的身份证号。
可选地,第二预测设备将自身的数据集加密之后,得到第二数据集,例如:接收协调设备发送的第一预测设备的公钥,根据哈希算法和公钥对自身的数据集进行加密,得到第二数据集。第二预测设备将第二数据集发送给协调设备。
S302、接收协调设备发送的目标数据集和第二请求,响应于第二请求,对目标数据集进行特征提取,得到每个目标数据的特征数据,通过第二预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到预测任务的第二中间预测结果,将第二中间预测结果发送给协调设备。
本申请实施例中,对于目标数据的特征提取,可以理解为获得目标数据的每个特征对应的特征值,以金融领域的银行贷款场景为例,第二预测设备为银行,目标数据为客户的手机号或者身份证,特征可以为客户的***欠款金额、消费贷款金额、***违约记录等,则特征数据就是客户的***欠款金额、消费贷款金额、***违约记录的实际数值,将这些特征数据输入到第二预测模型,则可以基于这些特征数据得到该客户的信用评估,也就是这些特征数据的中间结果,再将得到的客户的信用评估进行加密,得到加密后的中间结果,目标数据集中所有目标数据的加密后的中间结果,作为第一中间预测结果,将第二中间预测结果发送给协调设备。
需要说明的是,本申请实施例中,协调设备可以基于同态加密算法生成密钥对,密钥对中包括用于加密的公钥,以及用于解密的私钥。第一预测设备和第二预测设备使用同态加密的公钥对各自的中间结果进行加密,得到各自的中间预测结果。
在上述各实施例的基础上,作为一种可选地实施例,待训练的第二预测模型包括至少一个第二参数;
纵向联邦学习模型的模型训练方法,包括:
接收协调设备发送的第三请求,响应于第三请求,向协调设备发送与训练任务相关的第二样本数据集;
接收协调设备发送的目标样本数据集,对目标样本数据集中每个目标样本数据进行特征提取,获得每个目标样本数据的特征数据,使用预设的纵向联邦学习算法对每个目标样本数据的特征数据进行计算,得到每个目标样本数据的特征数据的中间结果,将所有特征数据的中间结果作为第二中间结果,将第二中间结果发送给协调设备;
接收协调设备发送的第一中间结果,根据第一中间结果以及第二中间结果,获得第一预测设备计算自身梯度信息所需的中间梯度信息,将中间梯度信息发送给协调设备;
根据第二中间结果,计算所有特征数据对应的梯度信息,作为第二梯度信息,将第二梯度信息发送给协调设备;
根据自身预设的标签数据以及第二中间结果,确定所有特征数据对应的损失值;
接收协调设备发送的第五梯度信息,根据第五梯度信息对第二梯度信息进行更新,得到更新后的第二梯度信息,根据更新后的第二梯度信息,对每个第二参数的参数值进行更新,得到第二预测模型;
将损失值发送给协调设备。
本申请实施例中,预设的纵向联邦学习算法包括但不限于:使用线性回归算法。同时,在获得所有特征数据的梯度信息之后,还需要对梯度信息进行加密,得到第二梯度信息。
需要说明的是,第一预测模型的参数是动态更新的,可以理解为,模型的参数在初始化的时候会有一个初始值,训练任务每执行一次就会对模型的参数进行更新,将更新后的参数值作为下一次迭代时的初始值,直到训练任务停止执行,得到最终的参数值。
还需要说明的是,第二预测设备计算的损失值也是动态更新的,可以理解为,训练任务每执行一次就会重新计算一次损失值,将重新计算的损失值发送给协调设备,协调设备会将接收到的损失值和预设的损失值进行判断,并综合考虑训练任务累计执行的次数和/或训练任务累计执行的时间,从而指示是否重新计算损失值。
请参见图5,其示例性地示出了本申请实施例的一种获得预测任务的预测结果的交互示意图,如图所示,整体的交互过程包括以下步骤:
步骤001、协调设备响应于预测任务的联合推理请求,生成安全求交请求;
步骤002、协调设备向第二预测设备发送安全求交请求;
步骤003、协调设备向第一预测设备发送安全求交请求;
步骤004、第二预测设备将自身加密的第二数据集发送给协调设备;
步骤005、第一预测设备将自身加密的第一数据集发送给协调设备;
步骤006、协调设备根据接收到的第一数据集和第二数据集,获得目标数据集;
步骤007、协调设备将目标数据集发送给第二预测设备;
步骤008、协调设备将目标数据集发送给第一预测设备;
步骤009、第二预测设备根据接收到的目标数据集以及第二预测模型,生成第二中间预测结果,并将第二中间预测结果发送给协调设备;
步骤010、第一预测设备根据接收到的目标数据集以及第一预测模型,生成第一中间预测结果,并将第一中间预测结果发送给协调设备;
步骤011、协调设备根据第一中间预测结果和第二中间预测结果,生成预测任务的预测结果。
需要说明的是,图5中虚线框中的第二预测设备和协调设备同域,可以理解为属于同一个企业,第一预测设备属于另一个企业。本申请实施例中第二预测设备也称作“受保护方”,协调设备也称作“增强联邦协调方”,第一预测设备也称作“弱保护方”。
请参见图6,其示例性地示出了本申请实施例的一种获得预测设备的预测模型的交互示意图,如图所示,整体的交互过程包括以下步骤:
步骤101、第一预测设备向协调设备发送安全求交请求以及自身的第一样本数据集;
步骤102、协调设备将安全求交请求发送给第二预测设备;
步骤103、第二预测设备响应于安全求交请求,生成第二样本数据集,并将第二样本数据集发送给协调设备;
步骤104、协调设备根据第一样本数据集和第二样本数据集,获得目标样本数据集;
步骤105、协调设备将目标样本数据集和同态加密公钥发送给第一预测设备;
步骤106、协调设备将目标样本数据集和同态加密公钥发送给第二预测设备;
步骤107、第二预测设备初始化待训练的第二预测模型的参数以及训练任务的参数,将训练参数发送给协调设备;
步骤108、协调设备将第二预测设备的训练参数发送给第一预测设备;
步骤109、第一预测设备初始化待训练的第一预测模型的参数,并将自身的训练参数和第二预测设备的训练参数对齐;
步骤110、第二预测设备对目标样本数据集进行特征提取,得到特征数据,根据预设的纵向联邦学习算法对特征数据进行计算,得到第二中间结果;
步骤111、第一预测设备对目标样本数据集进行特征提取,得到特征数据,根据预设的纵向联邦学习算法对特征数据进行计算,得到第一中间结果,并将第一中间结果发送给协调设备;
步骤112、协调设备将接收到的第一中间结果发送给第二预测设备;
步骤113、第二预测设备根据第一中间结果和第二中间结果,得到中间梯度信息,将中间梯度信息发送给协调设备;
步骤114、协调设备将中间梯度信息发送给第一预测设备;
步骤115、第二预测设备根据第二中间结果,得到自身的梯度信息和损失值,将自身的梯度信息使用同态加密公钥加密,得到第二梯度信息,将第二梯度信息发送给协调设备;
步骤116、第一预测设备根据中间梯度信息以及第一中间结果,得到自身的梯度信息,将自身的梯度信息使用同态加密公钥加密,得到第一梯度信息,将第一梯度信息发送给协调设备;
步骤117、协调设备将第一梯度信息和第二梯度信息解密后进行融合,得到第三梯度信息,将第三梯度信息拆分,得到第一预测设备对应的第四梯度信息和第二预测设备对应的第五梯度信息;
步骤118、协调设备将第四梯度信息发送给第一预测设备;
步骤119、协调设备将第五梯度信息发送给第二预测设备;
步骤120、第一预测设备根据第四梯度信息对第一梯度信息进行更新,根据更新后的第一梯度信息,对待训练的第一预测模型的参数进行更新,得到第一预测模型;
步骤121、第二预测设备根据第五梯度信息对第二梯度信息进行更新,根据更新后的第二梯度信息,对待训练的第二预测模型的参数进行更新,得到第二预测模型;
步骤122、第二预测设备将损失值发送给协调设备;
步骤123、协调设备根据损失值判断是否继续执行训练任务。
本申请的实施例提供了一种应用于协调设备的非对称纵向联邦学习装置1000,如图7所示,该装置包括:
确定预测任务模块1001:确定预测任务;
第一请求发送模块1002:向第一预测设备和第二预测设备分别发送第一请求,第一请求用于获得相应设备中与预测任务相关的数据集;第二预测设备与协调设备同域,第一预测设备与协调设备不同域且第一预测设备与第二预测设备不同域;
目标数据集获取模块1003:分别接收第一预测设备和第二预测设备各自与预测任务相关的数据集,并确定两个数据集的交集,作为目标数据集;
中间预测结果获取模块1004:向第一预测设备和第二预测设备发送目标数据集以及第二请求,第二请求用于指示相应的设备根据目标数据集以及各自的预测模型获得预测任务的中间预测结果;
预测结果获取模块1005:接收第一预测设备和第二预测设备各自获得的预测任务的中间预测结果,根据预测任务的两个中间预测结果,获得预测任务的预测结果。
本申请的实施例提供了一种应用于第一预测设备的非对称纵向联邦学习装置2000,如图8所示,该装置包括:
第一数据集发送模块2001:响应于协调设备发送的第一请求,获得与预测任务相关的第一数据集,将第一数据集发送给协调设备;
第一中间预测结果发送模块2002:接收协调设备发送的目标数据集和第二请求,响应于第二请求,对目标数据集中每个目标数据进行特征提取,得到每个目标数据的特征数据,通过第一预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到预测任务的第一中间预测结果,将第一中间预测结果发送给协调设备。
本申请的实施例提供了一种应用于第二预测设备的非对称纵向联邦学习装置3000,如图9所示,该装置包括:
第二数据集发送模块3001:响应于协调设备发送的第一请求,获得与预测任务相关的第二数据集,将第二数据集发送给协调设备;
第二中间预测结果发送模块3002:接收协调设备发送的目标数据集和第二请求,响应于第二请求,对目标数据集进行特征提取,得到每个目标数据的特征数据,通过第二预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到预测任务的第二中间预测结果,将第二中间预测结果发送给协调设备。
本申请实施例提供的装置可执行本申请实施例提供的非对称纵向联邦学习的方法,其实现原理相类似,本申请各实施例的装置中的各模块所执行的动作是与本申请各实施例的非对称纵向联邦学习方法中的步骤相对应的,对于装置的各模块的详细功能描述具体可以参见前文中所示的对应方法中的描述,此处不再赘述。
在一个可选实施例中提供了一种电子设备,如图10所示,图10所示的电子设备4000包括:处理器4001和存储器4003。其中,处理器4001和存储器4003相连,如通过总线4002相连。可选地,电子设备4000还可以包括收发器4004,收发器4004可以用于该电子设备与其他电子设备之间的数据交互,如数据的发送和/或数据的接收等。需要说明的是,实际应用中收发器4004不限于一个,该电子设备4000的结构并不构成对本申请实施例的限定。
处理器4001可以是CPU(Central Processing Unit,中央处理器),通用处理器,DSP(Digital Signal Processor,数据信号处理器),ASIC(Application SpecificIntegrated Circuit,专用集成电路),FPGA(Field Programmable Gate Array,现场可编程门阵列)或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本申请公开内容所描述的各种示例性的逻辑方框,模块和电路。处理器4001也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,DSP和微处理器的组合等。
总线4002可包括一通路,在上述组件之间传送信息。总线4002可以是PCI(Peripheral Component Interconnect,外设部件互连标准)总线或EISA(ExtendedIndustry Standard Architecture,扩展工业标准结构)总线等。总线4002可以分为地址总线、数据总线、控制总线等。为便于表示,图10中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
存储器4003可以是ROM(Read Only Memory,只读存储器)或可存储静态信息和指令的其他类型的静态存储设备,RAM(Random Access Memory,随机存取存储器)或者可存储信息和指令的其他类型的动态存储设备,也可以是EEPROM(Electrically ErasableProgrammable Read Only Memory,电可擦可编程只读存储器)、CD-ROM(Compact DiscRead Only Memory,只读光盘)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质、其他磁存储设备、或者能够用于携带或存储计算机程序并能够由计算机读取的任何其他介质,在此不做限定。
存储器4003用于存储执行本申请实施例的计算机程序,并由处理器4001来控制执行。处理器4001用于执行存储器4003中存储的计算机程序,以实现前述方法实施例所示的步骤。
其中,电子设备包可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图10所示的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
本申请实施例提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时可实现前述方法实施例的步骤及相应内容。与现有技术相比可实现:
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
本申请实施例还提供了一种计算机程序产品,包括计算机程序,计算机程序被处理器执行时可实现前述方法实施例的步骤及相应内容。与现有技术相比可实现前述方法实施例的步骤及相应内容。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”、“1”、“2”等(如果存在)是用于区别类似的数据,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除图示或文字描述以外的顺序实施。
应该理解的是,虽然本申请实施例的流程图中通过箭头指示各个操作步骤,但是这些步骤的实施顺序并不受限于箭头所指示的顺序。除非本文中有明确的说明,否则在本申请实施例的一些实施场景中,各流程图中的实施步骤可以按照需求以其他的顺序执行。此外,各流程图中的部分或全部步骤基于实际的实施场景,可以包括多个子步骤或者多个阶段。这些子步骤或者阶段中的部分或全部可以在同一时刻被执行,这些子步骤或者阶段中的每个子步骤或者阶段也可以分别在不同的时刻被执行。在执行时刻不同的场景下,这些子步骤或者阶段的执行顺序可以根据需求灵活配置,本申请实施例对此不限制。
以上仅是本申请部分实施场景的可选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请的方案技术构思的前提下,采用基于本申请技术思想的其他类似实施手段,同样属于本申请实施例的保护范畴。
Claims (10)
1.一种非对称纵向联邦学习方法,其特征在于,所述方法应用于协调设备,包括:
确定预测任务;
向第一预测设备和第二预测设备分别发送第一请求,所述第一请求用于获得相应设备中与所述预测任务相关的数据集;所述第二预测设备与所述协调设备同域,所述第一预测设备与所述协调设备不同域且所述第一预测设备与所述第二预测设备不同域;
分别接收所述第一预测设备和所述第二预测设备各自与所述预测任务相关的数据集,并确定两个数据集的交集,作为目标数据集;
向所述第一预测设备和所述第二预测设备发送所述目标数据集以及第二请求,所述第二请求用于指示相应的设备根据所述目标数据集以及各自的预测模型获得所述预测任务的中间预测结果;
接收所述第一预测设备和所述第二预测设备各自获得的所述预测任务的中间预测结果,根据所述预测任务的两个中间预测结果,获得所述预测任务的预测结果;
所述向第一预测设备和第二预测设备分别发送第一请求,之前还包括:
接收第一预测设备发送的第三请求以及与训练任务相关的第一样本数据集,将所述第三请求发送给第二预测设备,使得所述第二预测设备响应于所述第三请求,获得与所述训练任务相关的第二样本数据集;
接收所述第二预测设备发送的与所述训练任务相关的第二样本数据集,将所述第一样本数据集以及所述第二样本数据集取交集,获得目标样本数据集,将所述目标样本数据集发送给所述第一预测设备和所述第二预测设备,并指示所述第一预测设备和所述第二预测设备根据所述目标样本数据集生成相应的中间结果;
接收所述第一预测设备发送的第一中间结果,将所述第一中间结果发送给所述第二预测设备,使得所述第二预测设备根据所述第一中间结果生成中间梯度信息;
接收所述第二预测设备发送的所述中间梯度信息、第二梯度信息,将所述中间梯度信息发送给所述第一预测设备,使得所述第一预测设备根据所述中间梯度信息生成对应的梯度信息;
接收所述第一预测设备发送的第一梯度信息,将所述第一梯度信息和所述第二梯度信息融合后使用预设的算法进行计算,得到第三梯度信息,将所述第三梯度信息进行拆分,得到所述第一预测设备对应的第四梯度信息和所述第二预测设备对应的第五梯度信息;
将所述第四梯度信息发送给所述第一预测设备,使得所述第一预测设备根据所述第四梯度信息对所述第一梯度信息进行更新;以及将所述第五梯度信息发送给所述第二预测设备,使得所述第二预测设备根据所述第五梯度信息对所述第二梯度信息进行更新;
接收所述第二预测设备发送的损失值。
2.根据权利要求1所述的方法,其特征在于,所述根据所述预测任务的两个中间预测结果,获得所述预测任务的预测结果,包括:
对两个中间预测结果进行解密,得到两个解密后的中间预测结果,对所述两个解密后的中间预测结果进行计算,得到预测任务的预测结果。
3.根据权利要求1所述的方法,其特征在于,所述接收所述第二预测设备发送的损失值,之后还包括:
获得所述训练任务的累计执行次数和累计执行时间;
若接收到的第二预测设备的损失值大于预设的损失值,且所述训练任务的累计执行次数小于预设的次数和/或所述训练任务的累计执行时间小于预设的时间,则指示相应的设备重新执行所述训练任务,获得所述第二预测设备发送的损失值。
4.一种非对称纵向联邦学习方法,其特征在于,所述方法应用于第一预测设备,所述第一预测设备包括第一预测模型,所述第一预测模型通过纵向联邦学习的模型训练方法对待训练的第一预测模型训练得到,包括:
响应于协调设备发送的第一请求,获得与预测任务相关的第一数据集,将所述第一数据集发送给所述协调设备;所述第一请求用于获得相应设备中与所述预测任务相关的数据集;第二预测设备与所述协调设备同域,所述第一预测设备与所述协调设备不同域且所述第一预测设备与所述第二预测设备不同域;
接收所述协调设备发送的目标数据集和第二请求,响应于所述第二请求,对所述目标数据集中每个目标数据进行特征提取,得到每个目标数据的特征数据,通过第一预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到所述预测任务的第一中间预测结果,将所述第一中间预测结果发送给所述协调设备;
所述待训练的第一预测模型包括至少一个第一参数;
所述纵向联邦学习的模型训练方法,包括:
确定与所述预测任务相对应的训练任务;
向协调设备发送第三请求以及与所述训练任务相关的第一样本数据集,所述第三请求用于获得相应设备中与所述训练任务相关的目标样本数据集;
接收所述协调设备发送的目标样本数据集,对所述目标样本数据集中每个目标样本数据进行特征提取,获得每个目标样本数据的特征数据,使用预设的纵向联邦学习算法对每个目标样本数据的特征数据进行计算,得到每个目标样本数据的特征数据的中间结果,将所有特征数据的中间结果作为第一中间结果,将所述第一中间结果发送给所述协调设备;
接收所述协调设备发送的第二预测设备的中间梯度信息,根据所述中间梯度信息,以及所述第一中间结果,得到所有特征数据对应的梯度信息,作为第一梯度信息,将所述第一梯度信息发送给所述协调设备;
接收所述协调设备发送的第四梯度信息,根据所述第四梯度信息对所述第一梯度信息进行更新,得到更新后的第一梯度信息,根据所述更新后的第一梯度信息,对每个第一参数的参数值进行更新,得到第一预测模型。
5.一种非对称纵向联邦学习方法,其特征在于,所述方法应用于第二预测设备,所述第二预测设备包括第二预测模型,所述第二预测模型通过纵向联邦学习的模型训练方法对待训练的第二预测模型训练得到,包括:
响应于协调设备发送的第一请求,获得与预测任务相关的第二数据集,将所述第二数据集发送给所述协调设备;所述第一请求用于获得相应设备中与所述预测任务相关的数据集;所述第二预测设备与所述协调设备同域,第一预测设备与所述协调设备不同域且所述第一预测设备与所述第二预测设备不同域;
接收所述协调设备发送的目标数据集和第二请求,响应于所述第二请求,对所述目标数据集进行特征提取,得到每个目标数据的特征数据,通过第二预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到所述预测任务的第二中间预测结果,将所述第二中间预测结果发送给所述协调设备;
所述待训练的第二预测模型包括至少一个第二参数;
所述纵向联邦学习模型的模型训练方法,包括:
接收所述协调设备发送的第三请求,响应于所述第三请求,向所述协调设备发送与训练任务相关的第二样本数据集;
接收所述协调设备发送的目标样本数据集,对所述目标样本数据集中每个目标样本数据进行特征提取,获得每个目标样本数据的特征数据,使用预设的纵向联邦学习算法对每个目标样本数据的特征数据进行计算,得到每个目标样本数据的特征数据的中间结果,将所有特征数据的中间结果作为第二中间结果,将所述第二中间结果发送给所述协调设备;
接收所述协调设备发送的第一中间结果,根据所述第一中间结果以及所述第二中间结果,获得第一预测设备计算自身梯度信息所需的中间梯度信息,将所述中间梯度信息发送给所述协调设备;
根据所述第二中间结果,计算所有特征数据对应的梯度信息,作为第二梯度信息,将所述第二梯度信息发送给所述协调设备;
根据预设的标签数据以及所述第二中间结果,确定所有特征数据对应的损失值;
接收所述协调设备发送的第五梯度信息,根据所述第五梯度信息对所述第二梯度信息进行更新,得到更新后的第二梯度信息,根据所述更新后的第二梯度信息,对每个第二参数的参数值进行更新,得到第二预测模型;
将所述损失值发送给所述协调设备。
6.一种非对称纵向联邦学习装置,其特征在于,所述装置应用于协调设备,包括:
确定预测任务模块:确定预测任务;
第一请求发送模块:向第一预测设备和第二预测设备分别发送第一请求,所述第一请求用于获得相应设备中与所述预测任务相关的数据集;所述第二预测设备与所述协调设备同域,所述第一预测设备与所述协调设备不同域且所述第一预测设备与所述第二预测设备不同域;
目标数据集获取模块:分别接收所述第一预测设备和所述第二预测设备各自与所述预测任务相关的数据集,并确定两个数据集的交集,作为目标数据集;
中间预测结果获取模块:向所述第一预测设备和所述第二预测设备发送所述目标数据集以及第二请求,所述第二请求用于指示相应的设备根据所述目标数据集以及各自的预测模型获得所述预测任务的中间预测结果;
预测结果获取模块:接收所述第一预测设备和所述第二预测设备各自获得的所述预测任务的中间预测结果,根据所述预测任务的两个中间预测结果,获得所述预测任务的预测结果;
所述向第一预测设备和第二预测设备分别发送第一请求,之前还包括:
接收第一预测设备发送的第三请求以及与训练任务相关的第一样本数据集,将所述第三请求发送给第二预测设备,使得所述第二预测设备响应于所述第三请求,获得与所述训练任务相关的第二样本数据集;
接收所述第二预测设备发送的与所述训练任务相关的第二样本数据集,将所述第一样本数据集以及所述第二样本数据集取交集,获得目标样本数据集,将所述目标样本数据集发送给所述第一预测设备和所述第二预测设备,并指示所述第一预测设备和所述第二预测设备根据所述目标样本数据集生成相应的中间结果;
接收所述第一预测设备发送的第一中间结果,将所述第一中间结果发送给所述第二预测设备,使得所述第二预测设备根据所述第一中间结果生成中间梯度信息;
接收所述第二预测设备发送的所述中间梯度信息、第二梯度信息,将所述中间梯度信息发送给所述第一预测设备,使得所述第一预测设备根据所述中间梯度信息生成对应的梯度信息;
接收所述第一预测设备发送的第一梯度信息,将所述第一梯度信息和所述第二梯度信息融合后使用预设的算法进行计算,得到第三梯度信息,将所述第三梯度信息进行拆分,得到所述第一预测设备对应的第四梯度信息和所述第二预测设备对应的第五梯度信息;
将所述第四梯度信息发送给所述第一预测设备,使得所述第一预测设备根据所述第四梯度信息对所述第一梯度信息进行更新;以及将所述第五梯度信息发送给所述第二预测设备,使得所述第二预测设备根据所述第五梯度信息对所述第二梯度信息进行更新;
接收所述第二预测设备发送的损失值。
7.一种非对称纵向联邦学习装置,其特征在于,所述装置应用于第一预测设备,所述第一预测设备包括第一预测模型,所述第一预测模型通过纵向联邦学习的模型训练方法对待训练的第一预测模型训练得到,包括:
第一数据集发送模块:响应于协调设备发送的第一请求,获得与预测任务相关的第一数据集,将所述第一数据集发送给所述协调设备;所述第一请求用于获得相应设备中与所述预测任务相关的数据集;第二预测设备与所述协调设备同域,所述第一预测设备与所述协调设备不同域且所述第一预测设备与所述第二预测设备不同域;
第一中间预测结果发送模块:接收所述协调设备发送的目标数据集和第二请求,响应于所述第二请求,对所述目标数据集中每个目标数据进行特征提取,得到每个目标数据的特征数据,通过第一预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到所述预测任务的第一中间预测结果,将所述第一中间预测结果发送给所述协调设备;
所述待训练的第一预测模型包括至少一个第一参数;
所述纵向联邦学习的模型训练方法,包括:
确定与所述预测任务相对应的训练任务;
向协调设备发送第三请求以及与所述训练任务相关的第一样本数据集,所述第三请求用于获得相应设备中与所述训练任务相关的目标样本数据集;
接收所述协调设备发送的目标样本数据集,对所述目标样本数据集中每个目标样本数据进行特征提取,获得每个目标样本数据的特征数据,使用预设的纵向联邦学习算法对每个目标样本数据的特征数据进行计算,得到每个目标样本数据的特征数据的中间结果,将所有特征数据的中间结果作为第一中间结果,将所述第一中间结果发送给所述协调设备;
接收所述协调设备发送的第二预测设备的中间梯度信息,根据所述中间梯度信息,以及所述第一中间结果,得到所有特征数据对应的梯度信息,作为第一梯度信息,将所述第一梯度信息发送给所述协调设备;
接收所述协调设备发送的第四梯度信息,根据所述第四梯度信息对所述第一梯度信息进行更新,得到更新后的第一梯度信息,根据所述更新后的第一梯度信息,对每个第一参数的参数值进行更新,得到第一预测模型。
8.一种非对称纵向联邦学习装置,其特征在于,所述装置应用于第二预测设备,所述第二预测设备包括第二预测模型,所述第二预测模型通过纵向联邦学习的模型训练方法对待训练的第二预测模型训练得到,包括:
第二数据集发送模块:响应于协调设备发送的第一请求,获得与预测任务相关的第二数据集,将所述第二数据集发送给所述协调设备;所述第一请求用于获得相应设备中与所述预测任务相关的数据集;所述第二预测设备与所述协调设备同域,第一预测设备与所述协调设备不同域且所述第一预测设备与所述第二预测设备不同域;
第二中间预测结果发送模块:接收所述协调设备发送的目标数据集和第二请求,响应于所述第二请求,对所述目标数据集进行特征提取,得到每个目标数据的特征数据,通过第二预测模型对每个目标数据的特征数据进行计算,得到每个目标数据的特征数据对应的中间结果,对所有特征数据对应的中间结果进行加密,得到所述预测任务的第二中间预测结果,将所述第二中间预测结果发送给所述协调设备;
所述待训练的第二预测模型包括至少一个第二参数;
所述纵向联邦学习模型的模型训练方法,包括:
接收所述协调设备发送的第三请求,响应于所述第三请求,向所述协调设备发送与训练任务相关的第二样本数据集;
接收所述协调设备发送的目标样本数据集,对所述目标样本数据集中每个目标样本数据进行特征提取,获得每个目标样本数据的特征数据,使用预设的纵向联邦学习算法对每个目标样本数据的特征数据进行计算,得到每个目标样本数据的特征数据的中间结果,将所有特征数据的中间结果作为第二中间结果,将所述第二中间结果发送给所述协调设备;
接收所述协调设备发送的第一中间结果,根据所述第一中间结果以及所述第二中间结果,获得第一预测设备计算自身梯度信息所需的中间梯度信息,将所述中间梯度信息发送给所述协调设备;
根据所述第二中间结果,计算所有特征数据对应的梯度信息,作为第二梯度信息,将所述第二梯度信息发送给所述协调设备;
根据预设的标签数据以及所述第二中间结果,确定所有特征数据对应的损失值;
接收所述协调设备发送的第五梯度信息,根据所述第五梯度信息对所述第二梯度信息进行更新,得到更新后的第二梯度信息,根据所述更新后的第二梯度信息,对每个第二参数的参数值进行更新,得到第二预测模型;
将所述损失值发送给所述协调设备。
9.一种电子设备,包括存储器、处理器及存储在存储器上的计算机程序,其特征在于,所述处理器执行所述计算机程序以实现权利要求1-5任意一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-5任意一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311333893.7A CN117094421B (zh) | 2023-10-16 | 2023-10-16 | 非对称纵向联邦学习方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311333893.7A CN117094421B (zh) | 2023-10-16 | 2023-10-16 | 非对称纵向联邦学习方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117094421A CN117094421A (zh) | 2023-11-21 |
CN117094421B true CN117094421B (zh) | 2023-12-15 |
Family
ID=88770122
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311333893.7A Active CN117094421B (zh) | 2023-10-16 | 2023-10-16 | 非对称纵向联邦学习方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117094421B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110110229A (zh) * | 2019-04-25 | 2019-08-09 | 深圳前海微众银行股份有限公司 | 一种信息推荐方法及装置 |
CN112101609A (zh) * | 2020-07-24 | 2020-12-18 | 西安电子科技大学 | 关于用户还款及时性的预测***、方法、装置及电子设备 |
CN112132676A (zh) * | 2020-09-16 | 2020-12-25 | 建信金融科技有限责任公司 | 联合训练目标模型的贡献度的确定方法、装置和终端设备 |
WO2021004551A1 (zh) * | 2019-09-26 | 2021-01-14 | 深圳前海微众银行股份有限公司 | 纵向联邦学习***优化方法、装置、设备及可读存储介质 |
CN113537633A (zh) * | 2021-08-09 | 2021-10-22 | 中国电信股份有限公司 | 基于纵向联邦学习的预测方法、装置、设备、介质和*** |
CN114168295A (zh) * | 2021-12-10 | 2022-03-11 | 深圳致星科技有限公司 | 混合架构***及基于历史任务效果的任务调度方法 |
WO2022222110A1 (zh) * | 2021-04-22 | 2022-10-27 | Oppo广东移动通信有限公司 | 应用于移动通信***的联邦学习方法、装置、终端及介质 |
WO2023130705A1 (zh) * | 2022-01-10 | 2023-07-13 | 华为技术有限公司 | 用户数据处理的***、方法以及装置 |
-
2023
- 2023-10-16 CN CN202311333893.7A patent/CN117094421B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110110229A (zh) * | 2019-04-25 | 2019-08-09 | 深圳前海微众银行股份有限公司 | 一种信息推荐方法及装置 |
WO2021004551A1 (zh) * | 2019-09-26 | 2021-01-14 | 深圳前海微众银行股份有限公司 | 纵向联邦学习***优化方法、装置、设备及可读存储介质 |
CN112101609A (zh) * | 2020-07-24 | 2020-12-18 | 西安电子科技大学 | 关于用户还款及时性的预测***、方法、装置及电子设备 |
CN112132676A (zh) * | 2020-09-16 | 2020-12-25 | 建信金融科技有限责任公司 | 联合训练目标模型的贡献度的确定方法、装置和终端设备 |
WO2022222110A1 (zh) * | 2021-04-22 | 2022-10-27 | Oppo广东移动通信有限公司 | 应用于移动通信***的联邦学习方法、装置、终端及介质 |
CN113537633A (zh) * | 2021-08-09 | 2021-10-22 | 中国电信股份有限公司 | 基于纵向联邦学习的预测方法、装置、设备、介质和*** |
CN114168295A (zh) * | 2021-12-10 | 2022-03-11 | 深圳致星科技有限公司 | 混合架构***及基于历史任务效果的任务调度方法 |
WO2023130705A1 (zh) * | 2022-01-10 | 2023-07-13 | 华为技术有限公司 | 用户数据处理的***、方法以及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN117094421A (zh) | 2023-11-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110245510B (zh) | 用于预测信息的方法和装置 | |
JP6892513B2 (ja) | 信頼できる実行環境に基づいたオフチェーンスマートコントラクトサービス | |
WO2015131394A1 (en) | Method and apparatus for verifying processed data | |
CN112613956B (zh) | 一种招投标处理方法和装置 | |
CN112199709A (zh) | 基于多方的隐私数据联合训练模型的方法和装置 | |
CN108306891B (zh) | 使用待交换数据来执行机器学习的方法、设备和*** | |
CN110035052A (zh) | 一种查看历史交易信息的方法、装置及电子设备 | |
WO2022156594A1 (zh) | 联邦模型训练方法、装置、电子设备、计算机程序产品及计算机可读存储介质 | |
CN112417485B (zh) | 一种基于可信执行环境的模型训练方法、***及装置 | |
CN113051239A (zh) | 数据共享方法、应用其的模型的使用方法及相关设备 | |
CN113409134A (zh) | 基于联邦学习的企业融资授信方法及装置 | |
CN116226289A (zh) | 基于区块链的电子凭证管理方法、装置、设备及存储介质 | |
CN116781425B (zh) | 一种业务数据获取方法、装置、设备及存储介质 | |
CN111861462B (zh) | 基于区块链的金融产品交易方法及装置 | |
CN113722738A (zh) | 数据保护方法、装置、介质及电子设备 | |
CN113259353A (zh) | 信息处理方法、装置和电子设备 | |
CN117094421B (zh) | 非对称纵向联邦学习方法、装置、电子设备及存储介质 | |
CN115599959A (zh) | 数据共享方法、装置、设备及存储介质 | |
CN113609156B (zh) | 数据的查询与写入方法、装置、电子设备及可读存储介质 | |
US20230418794A1 (en) | Data processing method, and non-transitory medium and electronic device | |
CN115906140A (zh) | 招投标数据处理方法、装置、设备及存储介质 | |
CN115001828A (zh) | 交易数据的安全访问方法、***、电子设备及介质 | |
CN110492998B (zh) | 加解密数据的方法 | |
CN112199695A (zh) | 应收账款融资的处理方法、装置、电子装置和存储介质 | |
CN111861489A (zh) | 基于区块链的金融产品交易份额确定方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |