CN116204773A - 一种因果特征的筛选方法、装置、设备及存储介质 - Google Patents
一种因果特征的筛选方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN116204773A CN116204773A CN202211411484.XA CN202211411484A CN116204773A CN 116204773 A CN116204773 A CN 116204773A CN 202211411484 A CN202211411484 A CN 202211411484A CN 116204773 A CN116204773 A CN 116204773A
- Authority
- CN
- China
- Prior art keywords
- data
- feature
- causal
- screened
- features
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000001364 causal effect Effects 0.000 title claims abstract description 105
- 238000000034 method Methods 0.000 title claims abstract description 71
- 238000012216 screening Methods 0.000 title claims abstract description 66
- 238000003860 storage Methods 0.000 title claims abstract description 18
- 238000012545 processing Methods 0.000 claims description 30
- 238000004364 calculation method Methods 0.000 claims description 23
- 238000000586 desensitisation Methods 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 16
- 238000000546 chi-square test Methods 0.000 claims description 14
- 230000004927 fusion Effects 0.000 claims description 10
- 238000009826 distribution Methods 0.000 claims description 7
- 238000001514 detection method Methods 0.000 abstract description 14
- 238000010187 selection method Methods 0.000 abstract description 4
- 238000004891 communication Methods 0.000 description 8
- 238000010801 machine learning Methods 0.000 description 6
- 238000007781 pre-processing Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 201000010099 disease Diseases 0.000 description 3
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000013145 classification model Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000003999 initiator Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种因果特征的筛选方法、装置、设备及存储介质,所述方法包括:获取包含因果特征的待筛选数据,待筛选数据包括横向联邦场景数据与纵向联邦场景数据;对待筛选数据中的特征与标签变量进行条件独立性判断;根据条件独立性判断结果,对待筛选数据中的特征依次进行筛选,确定最终的因果特征集合。本发明提供的因果特征的筛选方法,通过将差分隐私和因果特征选择方法结合,保证数据不出库的前提下,实现多个参与方的联邦特征条件独立性检测,进而完成联邦学习环境下基于约束的因果特征选择,避免协调方泄露统计结果隐私信息,解决工程实施中无法找到绝对可信第三方的问题,可以满足不同联邦场景下的条件独立性判断需求。
Description
技术领域
本发明涉及因果科学技术领域,尤其涉及一种因果特征的筛选方法、装置、设备及存储介质。
背景技术
特征选择作为一种特征维数约减技术,广泛应用于高维数据分析场景中。但传统的特征选择算法一般是基于特征与类属性之间的相关性进行筛选,因为相关性不代表特征与类属性之间的因果性,因此会导致预测分类模型缺乏可解释性、可操作性和鲁棒性。因果特征选择是发现类属性的贝叶斯网络的子结构,即马尔可夫毯(Markovblanket,MB),该MB由类属性的父母(直接原因),孩子(PC,直接结果)和配偶(SP,直接结果的其他直接原因)组成,从而明确地推导出局部类属性和特征之间的因果关系,可以构建可解释、可操作且健壮的预测分类模型。
在现有技术中,在多参与方联邦学习场景中,数据可用不可见的特性给因果特征选择应用设置了很多障碍,例如:1)基于数据隐私安全考虑,各参与方不共享原始数据,只交互加密的中间数据;2)当前联邦学习场景中一般采用可信第三方做协调方,进行中间数据的处理或模型融合,然而,在实际生产中找到一个真正可信的第三方十分困难,协调方可以通过解密方式获取中间交互数据结果,存在数据隐私泄露的风险。
发明内容
本发明提供了一种因果特征的筛选方法、装置、设备及存储介质,以实现在多参与方联邦学习场景中进行特征选择。
根据本发明的一方面,提供了一种因果特征的筛选方法,包括:
获取包含所述因果特征的待筛选数据,所述待筛选数据包括横向联邦场景数据与纵向联邦场景数据;
对所述待筛选数据中的特征与标签变量进行条件独立性判断;
根据条件独立性判断结果,对所述待筛选数据中的特征依次进行筛选,确定最终的因果特征集合。
进一步地,获取包含所述因果特征的待筛选数据,包括:
获取包含所述因果特征的原始数据;
若在横向联邦场景下,则对所述原始数据进行特征对齐、联邦特征工程与特征值脱敏处理;若在纵向联邦场景下,则对所述原始数据进行样本标识对齐、本地特征工程与特征值脱敏处理;
将处理后的所述原始数据作为所述待筛选数据。
进一步地,对所述待筛选数据中的特征与标签变量进行条件独立性判断,包括:
分别对所述横向联邦场景数据与所述纵向联邦场景数据进行列联表统计;
根据列联表统计结果对所述待筛选数据中的特征与标签变量进行条件独立性判断。
进一步地,对所述横向联邦场景数据进行列联表统计,包括:
统计所述横向联邦场景数据对应的候选特征、标签变量与条件特征的第一样本频数,生成本地样本频数列联表;
在所述第一样本频数中加入噪声,得到第一隐私样本频数;
根据所述第一隐私样本频数进行列联表融合计算,生成横向联邦样本频数列联表作为列联表统计结果。
进一步地,对所述纵向联邦场景数据进行列联表统计,包括:
对所述纵向联邦场景数据对应的候选特征、标签变量与条件特征分别进行特征分箱处理,得到各自对应的样本标识集合;
根据特征分箱处理结果,确定不同特征值组合下的样本交集,作为第二样本频数;
在所述第二样本频数中加入噪声,得到第二隐私样本频数作为列联表统计结果。
进一步地,所述噪声满足条件独立性噪声约束条件。
进一步地,根据特征分箱处理结果,确定不同特征值组合下的样本交集,包括:
根据分箱处理结果进行哈希处理,得到所述候选特征、标签变量与条件特征各自对应的哈希化样本标识集合;
根据候选特征对应的第一随机因子对所述特征分箱结果进行加密;
利用密文对加密后的特征分箱结果进行比较,根据不同特征值组合下的样本标识的交集确定所述样本交集。
进一步地,根据列联表统计结果对所述待筛选数据中的特征与标签变量进行条件独立性判断,包括:
根据所述列联表统计结果确定卡方检验值与自由度;
根据所述卡方检验值与自由度查询卡方分布表确定所述特征与标签变量是否满足条件独立。
进一步地,根据条件独立性判断结果,对所述待筛选数据中的特征依次进行筛选,确定最终的因果特征集合,包括:
依次筛选待筛选数据中的特征,若所述特征与标签变量满足条件独立,则将对应的特征添加至候选马尔可夫毯;
对所述候选马尔可夫毯中的特征进行二次筛选,将去除假阳性特征的候选马尔可夫毯确定为最终的因果特征集合。
根据本发明的另一方面,提供了一种因果特征的筛选装置,包括:
待筛选数据获取模块,用于获取包含所述因果特征的待筛选数据,所述待筛选数据包括横向联邦场景数据与纵向联邦场景数据;
条件独立性判断模块,用于对所述待筛选数据中的特征与标签变量进行条件独立性判断;
因果特征集合确定模块,用于根据条件独立性判断结果,对所述待筛选数据中的特征依次进行筛选,确定最终的因果特征集合。
可选的,待筛选数据获取模块还用于:
获取包含所述因果特征的原始数据;
若在横向联邦场景下,则对所述原始数据进行特征对齐、联邦特征工程与特征值脱敏处理;若在纵向联邦场景下,则对所述原始数据进行样本标识对齐、本地特征工程与特征值脱敏处理;
将处理后的所述原始数据作为所述待筛选数据。
可选的,条件独立性判断模块还用于:
分别对所述横向联邦场景数据与所述纵向联邦场景数据进行列联表统计;
根据列联表统计结果对所述待筛选数据中的特征与标签变量进行条件独立性判断。
可选的,条件独立性判断模块还用于:
统计所述横向联邦场景数据对应的候选特征、标签变量与条件特征的第一样本频数,生成本地样本频数列联表;
在所述第一样本频数中加入噪声,得到第一隐私样本频数;
根据所述第一隐私样本频数进行列联表融合计算,生成横向联邦样本频数列联表作为列联表统计结果。
可选的,条件独立性判断模块还用于:
对所述纵向联邦场景数据对应的候选特征、标签变量与条件特征分别进行特征分箱处理,得到各自对应的样本标识集合;
根据特征分箱处理结果,确定不同特征值组合下的样本交集,作为第二样本频数;
在所述第二样本频数中加入噪声,得到第二隐私样本频数作为列联表统计结果。
可选的,所述噪声满足条件独立性噪声约束条件。
可选的,条件独立性判断模块还用于:
根据分箱处理结果进行哈希处理,得到所述候选特征、标签变量与条件特征各自对应的哈希化样本标识集合;
根据候选特征对应的第一随机因子对所述特征分箱结果进行加密;
利用密文对加密后的特征分箱结果进行比较,根据不同特征值组合下的样本标识的交集确定所述样本交集。
可选的,条件独立性判断模块还用于:
根据所述列联表统计结果确定卡方检验值与自由度;
根据所述卡方检验值与自由度查询卡方分布表确定所述特征与标签变量是否满足条件独立。
可选的,因果特征集合确定模块还用于:
依次筛选待筛选数据中的特征,若所述特征与标签变量满足条件独立,则将对应的特征添加至候选马尔可夫毯;
对所述候选马尔可夫毯中的特征进行二次筛选,将去除假阳性特征的候选马尔可夫毯确定为最终的因果特征集合。
根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的因果特征的筛选方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的因果特征的筛选方法。
本发明实施例提供了一种因果特征的筛选方法,首先获取包含因果特征的待筛选数据,待筛选数据包括横向联邦场景数据与纵向联邦场景数据,然后对待筛选数据中的特征与标签变量进行条件独立性判断,最后根据条件独立性判断结果,对待筛选数据中的特征依次进行筛选,确定最终的因果特征集合。本发明实施例提供的因果特征的筛选方法,通过将差分隐私和因果特征选择方法结合,保证数据不出库的前提下,实现多个参与方的联邦特征条件独立性检测,进而完成联邦学习环境下基于约束的因果特征选择,避免协调方泄露统计结果隐私信息,解决工程实施中无法找到绝对可信第三方的问题,可以满足不同联邦场景下的条件独立性判断需求。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种因果特征的筛选方法的流程图;
图2是根据本发明实施例二提供的一种因果特征的筛选方法的流程图;
图3是根据本发明实施例二提供的一种横向联邦场景下的因果特征选择框架;
图4是根据本发明实施例二提供的一种纵向联邦场景下的因果特征选择框架;
图5为根据本发明实施例三提供的一种因果特征的筛选装置的结构示意图;
图6是实现本发明实施例四的因果特征的筛选方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1为本发明实施例一提供了一种因果特征的筛选方法的流程图,本实施例可适用于对因果特征进行筛选的情况,该方法可以由因果特征的筛选装置来执行,该因果特征的筛选装置可以采用硬件和/或软件的形式实现,该因果特征的筛选装置可配置于电子设备中。如图1所示,该方法包括:
S110、获取包含因果特征的待筛选数据,待筛选数据包括横向联邦场景数据与纵向联邦场景数据。
其中,因果特征为存在因果关系的特征。联邦机器学习是一个机器学习框架,能有效帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下,进行数据使用和机器学习建模,进一步地,横向联邦学习也称为按样本划分的联邦学习(Sample-PartitionedFederated Learning或Example-Partitioned Federated Learning),可以应用于联邦学习的各个参与方的数据集有相同的特征空间和不同的样本空间的场景;在数据集上具有相同的样本空间、不同的特征空间的参与方所组成的联邦学习归类为纵向联邦学习(Vertical Federated Learning,VFL),也可以理解为按特征划分的联邦学习。
举例说明,一家银行和电商展开合作,银行有信贷的标签,电商有消费数据,双方得到一批相同的用户后,银行想评估电商的数据效果,但是银行不想公开自己的信贷标签,电商也不想公开自己的消费数据,在此情况下,可以采用联邦学习方法中的纵向联邦学习;对于同一家银行下属不同子公司之间或不同银行之间,他们的用户不同,而数据特征基本相同,此时不同子公司或不同银行之间的业务合作可以采用联邦学习方法中的横向联邦学习。联邦学习通过加密的分布式机器学习框架,可以让各企业在不共享数据的基础上进行联合训练,解决“数据孤岛”的难题。
在本实施例中,在因果特征筛选开始之前,需要对各参与方数据进行预处理,并将预处理之后的数据作为待筛选数据。数据预处理可以是样本对齐、本地和联邦特征工程、数据脱敏等操作,根据数据类型,横向联邦场景数据与纵向联邦场景数据可以采用不同的预处理方式。
S120、对待筛选数据中的特征与标签变量进行条件独立性判断。
在本步骤中,我们主要关心一个随机变量(某一特征)与另一个随机变量(标签)之间是否相互独立?如果独立,就可以说该特征对该标签变量的确定不起作用,即我们根本无法根据该特征出现与否来判断该样本是否属于这个标签对应的分类。
可选的,条件独立性判断方法有基于列联表的卡方检验方法、基于线性相关性的F检验方法,以及基于互信息的条件独立性检验方法等。本发明实施例不限于条件独立性判断的特定方法,以卡方检验为例,卡方检验是数理统计中一种常用的检验两个变量条件独立性的方法,其最基本的思想就是通过观察实际值与理论值的偏差来确定理论的正确与否。具体做的时候常常先假设两个变量确实是独立的,然后观察实际值与理论值的偏差程度,如果偏差足够小,我们就认为误差是很自然的样本误差,是测量手段不够精确导致或者偶然发生的,两者确实是独立的,此时就接受原假设;如果偏差大到一定程度,使得这样的误差不太可能是偶然产生或者测量不精确所致,我们就认为两者实际上不是相互独立的,即否定原假设,而接受备择假设。
对于其他条件独立性判断方法,例如基于互信息的方法和基于相关性的F检测方法,其计算方式不同,但都是在联邦数据的统计结果基础上实现的条件独立性检测,不同的是统计对象有差异。
S130、根据条件独立性判断结果,对待筛选数据中的特征依次进行筛选,确定最终的因果特征集合。
在本实施例中,基于条件独立性判断结果,协调方可以依此进行因果特征选择。
可选的,可以对所有待筛选特征依次进行筛选,将当前特征作为候选特征,若候选特征与标签变量不独立,则将该候选特征加入到候选特征集合中,否则,将抛弃该特征,并选择下一个特征作为候选特征继续进行判断,直到特征都被筛选过。
本发明实施例首先获取包含因果特征的待筛选数据,待筛选数据包括横向联邦场景数据与纵向联邦场景数据,然后对待筛选数据中的特征与标签变量进行条件独立性判断,最后根据条件独立性判断结果,对待筛选数据中的特征依次进行筛选,确定最终的因果特征集合。本发明实施例提供的因果特征的筛选方法,通过将差分隐私和因果特征选择方法结合,保证数据不出库的前提下,实现多个参与方的联邦特征条件独立性检测,进而完成联邦学习环境下基于约束的因果特征选择,避免协调方泄露统计结果隐私信息,解决工程实施中无法找到绝对可信第三方的问题,可以满足不同联邦场景下的条件独立性判断需求。
实施例二
图2为本发明实施例二提供的一种因果特征的筛选方法的流程图,本实施例为上述实施例的细化。如图2所示,该方法包括:
S210、获取包含因果特征的原始数据。
其中,原始数据为预处理之前的数据。
在本实施例中,根据实际需求,可以获取用于因果特征筛选的原始数据,原始数据可以由联邦学习中的各参与方提供。
S220、若在横向联邦场景下,则对原始数据进行特征对齐、联邦特征工程与特征值脱敏处理;若在纵向联邦场景下,则对原始数据进行样本标识对齐、本地特征工程与特征值脱敏处理。
在本实施例中,根据横向联邦场景与纵向联邦场景的不同,可以以不同的方式分别进行预处理。假设有2个参与方A和B,1个协调方C,特征变量集为F,标签变量为Y,则在横向联邦场景中,每个参与方都拥有特征集F和标签变量Y;纵向联邦场景中,参与方A拥有部分特征FA(FA∈F),参与方B拥有其余部分特征FB(FB∈F)和标签变量Y。
具体的,横向联邦场景进行可以进行特征对齐、联邦特征工程与特征值脱敏处理;纵向联邦场景可以进行样本标识(ID)对齐、本地特征工程与特征值脱敏处理。
其中,特征工程是机器学习建模的最重要的一个环节,联邦特征工程与传统的特征工程最大的不同在于其中的特征处理(以及可能的监控环节)依赖于加密后的数据,同时也需要在云端进行数据的整合与计算。特征对齐是为了保证持有方参与联邦学习的特征都相同而去除不重合的特征;样本ID对齐是隐私保护集合求交技术(Private SetIntersection,PSI),指数据持有方能够计算得到各方数据集合的交集部分,而不暴露交集以外的任何数据集合信息;特征值脱敏是对原始数据进行加密处理,目的是去除或保护原始数据的隐私信息。
S230、将处理后的原始数据作为待筛选数据。
在本实施例中,将原始数据进行上述处理后即可作为待筛选数据。
S240、分别对横向联邦场景数据与纵向联邦场景数据进行列联表统计。
其中,列联表(contingency table)是观测数据按两个或更多属性(定性变量)分类时所列出的频数表,它是由两个以上的变量进行交叉分类的频数分布表。列联表统计(Contingency Table Analysis)基于列联表所进行的相关统计分析与推断,列联表分析的基本问题是,判明所考察的各属性之间有无关联,即是否独立。
在本实施例中,对待筛选数据进行因果特征筛选时首先需进行列联表统计,根据横向联邦场景与纵向联邦场景的不同有不同的列联表统计方式。
可选的,对横向联邦场景数据进行列联表统计的方式可以是:统计横向联邦场景数据对应的候选特征、标签变量与条件特征的第一样本频数,生成本地样本频数列联表;在第一样本频数中加入噪声,得到第一隐私样本频数;根据第一隐私样本频数进行列联表融合计算,生成横向联邦样本频数列联表作为列联表统计结果。
在本实施例中,上述噪声满足条件独立性噪声约束条件。
具体的,在横向联邦学习场景中,列联表统计是经过本地列联表统计、本地基于条件独立性噪音约束的差分隐私方法加密统计结果、联邦列联表融合计算三个步骤实现的。具体实现步骤如下:
1)本地列联表统计:各参与方在本地分别统计候选特征、标签变量和条件特征之间的样本频数,生成本地样本频数列联表。
2)条件独立性噪音约束的隐私计算:各参与方将统计的列联表中所有样本频数使用条件独立性噪音约束的隐私计算方法进行加密处理。假设x表示列联表中样本频数变量,r(x)表示该频数添加的噪声,可以采用差分隐私拉普拉斯机制噪声或高斯机制噪声,k(x)为基于列联表的条件独立性检测方法函数,f(x)为经过差分隐私处理后的样本频数。基于条件独立性噪音约束的差分隐私方法的原理就是:保证|k(x)-k(x+r(x))|的结果在给定显著性水平(一般为0.05)下条件独立性检测值最大变化范围内尽可能小。假设自由度为n,经查卡方检验临界值表得知,显著性水平为0.05下的条件独立性检测值为k1,显著性水平为0.1的条件独立性检测值为k2。因此,在给定显著性水平0.05下条件独立性检测值最大变化值为:k1-k2,即:|k(x)-k(x+r(x))|<k1
k2。将满足条件独立性噪音约束的r(x)作为噪音加入样本频数x中,最终得到差分隐私处理后的样本频数f(x),即:f(x)=x+r(x)。
3)联邦列联表融合计算:将脱敏后的候选特征、标签变量和条件特征值连同步骤2)加密后的样本频数列联表统计结果一起发送给协调方,由协调方进行列联表融合计算,即相同特征值组合下的样本频数相加,作为生成联邦样本频数列联表。
可选的,对纵向联邦场景数据进行列联表统计的方式可以是:对纵向联邦场景数据对应的候选特征、标签变量与条件特征分别进行特征分箱处理,得到各自对应的样本标识集合;根据特征分箱处理结果,确定不同特征值组合下的样本交集,作为第二样本频数;在第二样本频数中加入噪声,得到第二隐私样本频数作为列联表统计结果。
在本实施例中,上述噪声满足条件独立性噪声约束条件。
具体的,在纵向联邦学习场景中,列联表统计是经过本地特征分箱、联邦特征分箱求交计算、基于条件独立性噪音约束的隐私计算方法加密列联表统计结果三个步骤实现的。具体实现步骤如下:
1)本地特征分箱:持有候选特征X、标签变量Y和条件特征Z的参与方分别在本地对上述候选特征、标签变量和条件特征进行特征分箱,得到候选特征X所有特征值及其对应的样本ID集合IDX,标签变量Y所有标签值及其对应的样本ID集合IDY,条件特征Z所有特征值及其对应的样本ID集合IDZ。
2)联邦特征分箱求交计算:根据特征分箱处理结果,确定不同特征值组合下的样本交集,作为第二样本频数。标签方获得各参与方加密的特征分箱结果,可以通过密文比较计算不同特征值组合下特征分箱中样本ID的交集,进而得到条件特征下的联邦列联表统计结果。
3)标签方将联邦列联表统计结果加密后发送给协调方:标签方将统计得到的联邦列联表中所有样本频数使用基于条件独立性噪音约束的差分隐私方法进行加密处理,详情同横向联邦学习场景中的步骤2),然后将加密后的联邦列联表统计结果发送给协调方。
进一步地,根据特征分箱处理结果,确定不同特征值组合下的样本交集的方式可以是:根据分箱处理结果进行哈希处理,得到候选特征、标签变量与条件特征各自对应的哈希化样本标识集合;根据候选特征对应的第一随机因子对特征分箱结果进行加密;利用密文对加密后的特征分箱结果进行比较,根据不同特征值组合下的样本标识的交集确定样本交集。
具体的,联邦特征分箱求交计算可以按照如下步骤实现:
1)本地特征分箱结果进行哈希(Hash)计算:各参与方分别在本地对纵向联邦场景下的步骤1)得到的特征分箱结果进行Hash计算,得到候选特征H(X)及其对应的样本ID集合H(IDX),标签变量H(Y)及其对应的样本ID集合H(IDY),条件特征H(Z)及其对应的样本ID集合H(IDZ)。
2)候选特征方生成随机因子k,乘以所有候选特征值H(X)及其对应的样本ID集合H(IDX),得到k×H(X)和k×H(IDX)发送给标签方。
3)标签方分别生成随机因子r,乘以所有标签值H(Y)及其对应的样本ID集合H(IDY),得到r×H(Y)和r×H(IDY),发送给候选特征方。其他非候选特征方生成不同的随机因子p,乘以持有特征H(Z)及其对应的样本ID集合H(IDZ),得到p×H(Z)和p×H(IDZ)发送给候选特征方。
4)候选特征方使用随机因子k,乘以标签方发送来的标签值r×H(Y)及其对应的样本ID集合r×H(IDY),得到k×r×H(Y)和k×r×H(IDY),发送给标签方。同时,候选特征方使用随机因子k,乘以非候选特征方发送来的持有特征值p×H(Z)及其对应的样本ID集合p×H(IDZ),得到k×p×H(Z)和k×p×H(IDZ),发送给对应的非候选特征方。
5)标签方使用随机因子r的逆r-1,乘以k×r×H(Y)和k×r×H(IDY),得到k×H(Y)和k×H(IDY);非候选特征方使用随机因子p的逆p-1,乘以k×p×H(Z)和k×p×H(IDZ),得到k×H(Z)和k×H(IDZ),发送给标签方。
6)至此,标签方获得各参与方使用相同随机因子k加密的特征分箱结果,可以通过密文比较计算不同特征值组合下特征分箱中样本ID的交集,进而得到条件特征下的联邦列联表统计结果。
S250、根据列联表统计结果对待筛选数据中的特征与标签变量进行条件独立性判断。
在本实施例中,经过列联表统计之后可以进行特征与标签变量的条件独立性判断。
可选的,根据列联表统计结果对待筛选数据中的特征与标签变量进行条件独立性判断的方式可以是:根据列联表统计结果确定卡方检验值与自由度;根据卡方检验值与自由度查询卡方分布表确定特征与标签变量是否满足条件独立。
具体的,基于联邦列联表统计结果,协调方可以进行卡方检验计算,条件独立测试中的卡方统计量是条件特征值组合下所有列联表卡方统计量的总和。计算公式为:
其中,χ2为卡方值,i为候选特征第i个特征值,j为标签变量第j个标签值,k为条件特征第k个特征值组合,为列联表单元格中实际频数;/>为候选特征和标签变量独立时的期望频数。通过计算卡方检验和自由度后查询卡方分布表可以得出候选特征和标签变量是否条件独立。其中,条件独立性检测时自由度为2|z|,|z|为条件特征集中变量个数。
S260、依次筛选待筛选数据中的特征,若特征与标签变量满足条件独立,则将对应的特征添加至候选马尔可夫毯。
其中,马尔可夫毯(Markov Blanket,MB)是满足如下特性的一个最小特征子集:一个特征在其马尔可夫毯条件下,与特征域中所有其他特征条件独立。设特征T的马尔可夫毯为MB(T),则上述可表示为:P(T|MB(T))=P(T|Y,MB(T)),其中Y为特征域中的所有非马尔可夫毯结点。
在本实施例中,基于条件独立性判断结果,协调方可以依此进行因果特征选择。若在条件特征下,候选特征和标签变量不独立,则将该候选特征加入到候选MB(马尔可夫毯)中;否则,将抛弃该特征,选择下一个特征作为候选特征,直到特征都被筛选过。
S270、对候选马尔可夫毯中的特征进行二次筛选,将去除假阳性特征的候选马尔可夫毯确定为最终的因果特征集合。
在本实施例中,经过第一次筛选后得到的候选MB中可能包含假阳性特征,即候选特征和标签变量相互独立的特征,故可以通过二次筛选去除候选MB(马尔可夫毯)中的假阳性特征,得到最终的因果特征集合。
图3和图4分别为本发明实施例提供的横向联邦场景与纵向联邦场景下的因果特征选择框架,假设有2个参与方A和B,1个协调方C,特征变量集为F,标签变量为Y,在横向联邦场景中,每个参与方都拥有特征集F和标签变量Y;纵向联邦场景中,参与方A拥有部分特征FA(FA∈F),参与方B拥有其余部分特征FB(FB∈F)和标签变量Y。
如图3所示,在横向联邦场景下,经过特征对齐、联邦特征工程与特征值脱敏处理后,协调方初始化然后协调方从特征集F中任意取特征X作为候选特征,即/>将候选特征X和条件特征集Z(Z=CMB(Y))发送给各参与方。各参与方在本地分别统计候选特征变量X、标签变量Y和条件变量Z(Z=CMB(Y))之间的样本频数列联表。各参与方使用基于条件独立性噪音的差分隐私算法对本地列联表统计结果中的样本频数进行加密。协调方接收各参与方发送来的加密样本频数统计结果,并进行融合计算。协调方基于融合后的样本频数列联表结果进行条件独立性判断计算。协调方根据条件独立性判断结果,更新候选MB集CMB(Y)和特征集F,具体为:若特征X与标签变量Y条件不独立,则将特征X加入到候选MB集CMB(Y)中,并从特征集F中将X删除,即:CMB(Y)=CMB(Y)∪X,F=F\X。协调方继续从特征集F中任意选择一个特征,循环执行选取候选特征直到根据条件独立性判断结果,更新候选MB集CMB(Y)和特征集F的步骤,直到特征集F没有特征为止。协调方从当前的CMB(Y)中任意选择一个特征X,/>令Z为去掉X的CMB(Y),即Z=CMB(Y)\X,将特征X和Z发送给各参与方,执行列联表统计到条件独立性判断的步骤。根据条件独立性判断结果,更新候选MB集CMB(Y),具体为:若特征与标签变量Y条件独立,则将特征X从候选MB集CMB(Y)中删除,即:CMB(Y)=CMB(Y)\X,直到没有特征可以从CMB(Y)中删除为止,最终输出CMB(Y)就是本实施例中的最终的因果特征集合。以某疾病预测模型的联邦学习为例,假设某区域的医疗机构甲和医疗机构乙各自的数据量不足,但双方拥有相同的数据特征,可以进行数据合作。医疗机构甲和医疗机构乙作为两个参与方,在本地分别统计候选特征变量X、标签变量Y和条件变量Z之间的样本频数列联表,并使用基于条件独立性噪音的差分隐私算法对本地列联表统计结果中的样本频数进行加密,将加密样本频数统计结果发送给第三方协调方。协调方经过融合计算后对样本频数列联表结果进行条件独立性判断计算,并根据条件独立性判断结果,更新候选MB集,然后按照上述步骤对候选MB集进行处理,最终得到因果特征集合。通过甲乙双方的数据联合建立一个疾病预测模型,从而在实际医疗服务中提高该疾病的诊断率。
如图4所示,在纵向联邦场景下,经过样本ID对齐、本地特征工程与特征值脱敏处理后,所有参与方在本地对所有特征变量和标签变量进行特征分箱,并统计各个特征分箱所对应的样本ID集合。协调方初始化CMB(Y)=φ,协调方从特征集F中任取X作为候选特征,即将候选特征X和条件特征集Z(Z=CMB(Y))发送给持有特征的参与方。联邦列联表统计之后,标签方将统计得到的样本频数列联表中所有样本频数使用基于条件独立性噪音约束的差分隐私方法进行加密处理,然后将加密后的列联表统计结果发送给协调方。协调方收到样本频数列联表结果后进行条件独立性判断,即计算给定条件Z下,判断X与Y的条件独立性。协调方根据X与Y的条件独立性检测结果,更新候选MB集CMB(Y)和特征集F,具体为:若特征X与标签变量Y条件不独立,则将特征X加入到候选MB集CMB(Y)中,并从特征集F中将X删除,即:CMB(Y)=CMB(Y)∪X,F=F\X。后续步骤与在横向联邦场景下类似,此处不再赘述。以群租房智能分析的联邦学习为例:主动方为某电力部门,其作为联邦学习任务的发起方,提供用电数据(包含是否为群租房的标签)并定义模型参数等信息;参与方为政府水务相关部门,提供耗水数据并参与联邦建模(不含标签);协调方则部署于相关群租房主管部门内,作为***第三方,负责提供算力与分发秘钥。在本例中,经过样本ID对齐、本地特征工程与特征值脱敏处理后,某电力部门和政府水务相关部门作为参与方在本地对所有特征变量和标签变量进行特征分箱,并统计各个特征分箱所对应的样本ID集合。群租房主管部门作为协调方从特征集中取出候选特征,并将候选特征和条件特征集发送给对应持有特征的参与方。联邦列联表统计之后,电力部门作为标签方将统计得到的样本频数列联表中所有样本频数使用基于条件独立性噪音约束的差分隐私方法进行加密处理,然后将加密后的列联表统计结果发送给群租房主管部门。群租房主管部门收到样本频数列联表结果后进行条件独立性判断,并根据条件独立性检测结果最终输出因果特征集合。
本发明实施例首先获取包含因果特征的原始数据,若在横向联邦场景下,则对原始数据进行特征对齐、联邦特征工程与特征值脱敏处理;若在纵向联邦场景下,则对原始数据进行样本标识对齐、本地特征工程与特征值脱敏处理,然后将处理后的原始数据作为待筛选数据,再分别对横向联邦场景数据与纵向联邦场景数据进行列联表统计,再根据列联表统计结果对待筛选数据中的特征与标签变量进行条件独立性判断,再依次筛选待筛选数据中的特征,若特征与标签变量满足条件独立,则将对应的特征添加至候选马尔可夫毯,最后对候选马尔可夫毯中的特征进行二次筛选,将去除假阳性特征的候选马尔可夫毯确定为最终的因果特征集合。本发明实施例提供的因果特征的筛选方法,通过将差分隐私和因果特征选择方法结合,保证数据不出库的前提下,实现多个参与方的联邦特征条件独立性检测,进而完成联邦学习环境下基于约束的因果特征选择,避免协调方泄露统计结果隐私信息,解决工程实施中无法找到绝对可信第三方的问题,可以满足不同联邦场景下的条件独立性判断需求。
实施例三
图5为本发明实施例三提供的一种因果特征的筛选装置的结构示意图。如图5所示,该装置包括:待筛选数据获取模块310,条件独立性判断模块320和因果特征集合确定模块330。
待筛选数据获取模块310,用于获取包含所述因果特征的待筛选数据,待筛选数据包括横向联邦场景数据与纵向联邦场景数据。
条件独立性判断模块320,用于对待筛选数据中的特征与标签变量进行条件独立性判断。
因果特征集合确定模块330,用于根据条件独立性判断结果,对待筛选数据中的特征依次进行筛选,确定最终的因果特征集合。
可选的,待筛选数据获取模块310还用于:
获取包含因果特征的原始数据;若在横向联邦场景下,则对原始数据进行特征对齐、联邦特征工程与特征值脱敏处理;若在纵向联邦场景下,则对原始数据进行样本标识对齐、本地特征工程与特征值脱敏处理;将处理后的原始数据作为所述待筛选数据。
可选的,条件独立性判断模块320还用于:
分别对横向联邦场景数据与纵向联邦场景数据进行列联表统计;根据列联表统计结果对待筛选数据中的特征与标签变量进行条件独立性判断。
可选的,条件独立性判断模块320还用于:
统计横向联邦场景数据对应的候选特征、标签变量与条件特征的第一样本频数,生成本地样本频数列联表;在第一样本频数中加入噪声,得到第一隐私样本频数;根据第一隐私样本频数进行列联表融合计算,生成横向联邦样本频数列联表作为列联表统计结果。
可选的,条件独立性判断模块320还用于:
对纵向联邦场景数据对应的候选特征、标签变量与条件特征分别进行特征分箱处理,得到各自对应的样本标识集合;根据特征分箱处理结果,确定不同特征值组合下的样本交集,作为第二样本频数;在第二样本频数中加入噪声,得到第二隐私样本频数作为列联表统计结果。
可选的,噪声满足条件独立性噪声约束条件。
可选的,条件独立性判断模块320还用于:
根据分箱处理结果进行哈希处理,得到候选特征、标签变量与条件特征各自对应的哈希化样本标识集合;根据候选特征对应的第一随机因子对特征分箱结果进行加密;利用密文对加密后的特征分箱结果进行比较,根据不同特征值组合下的样本标识的交集确定样本交集。
可选的,条件独立性判断模块320还用于:
根据列联表统计结果确定卡方检验值与自由度;根据卡方检验值与自由度查询卡方分布表确定特征与标签变量是否满足条件独立。
可选的,因果特征集合确定模块330还用于:
依次筛选待筛选数据中的特征,若特征与标签变量满足条件独立,则将对应的特征添加至候选马尔可夫毯;对候选马尔可夫毯中的特征进行二次筛选,将去除假阳性特征的候选马尔可夫毯确定为最终的因果特征集合。
本发明实施例所提供的因果特征的筛选装置可执行本发明任意实施例所提供的因果特征的筛选方法,具备执行方法相应的功能模块和有益效果。
实施例四
图6示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图6所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如因果特征的筛选方法。
在一些实施例中,因果特征的筛选方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的因果特征的筛选的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行因果特征的筛选方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的***和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (12)
1.一种因果特征的筛选方法,其特征在于,包括:
获取包含所述因果特征的待筛选数据,所述待筛选数据包括横向联邦场景数据与纵向联邦场景数据;
对所述待筛选数据中的特征与标签变量进行条件独立性判断;
根据条件独立性判断结果,对所述待筛选数据中的特征依次进行筛选,确定最终的因果特征集合。
2.根据权利要求1所述的方法,其特征在于,获取包含所述因果特征的待筛选数据,包括:
获取包含所述因果特征的原始数据;
若在横向联邦场景下,则对所述原始数据进行特征对齐、联邦特征工程与特征值脱敏处理;若在纵向联邦场景下,则对所述原始数据进行样本标识对齐、本地特征工程与特征值脱敏处理;
将处理后的所述原始数据作为所述待筛选数据。
3.根据权利要求1所述的方法,其特征在于,对所述待筛选数据中的特征与标签变量进行条件独立性判断,包括:
分别对所述横向联邦场景数据与所述纵向联邦场景数据进行列联表统计;
根据列联表统计结果对所述待筛选数据中的特征与标签变量进行条件独立性判断。
4.根据权利要求3所述的方法,其特征在于,对所述横向联邦场景数据进行列联表统计,包括:
统计所述横向联邦场景数据对应的候选特征、标签变量与条件特征的第一样本频数,生成本地样本频数列联表;
在所述第一样本频数中加入噪声,得到第一隐私样本频数;
根据所述第一隐私样本频数进行列联表融合计算,生成横向联邦样本频数列联表作为列联表统计结果。
5.根据权利要求3所述的方法,其特征在于,对所述纵向联邦场景数据进行列联表统计,包括:
对所述纵向联邦场景数据对应的候选特征、标签变量与条件特征分别进行特征分箱处理,得到各自对应的样本标识集合;
根据特征分箱处理结果,确定不同特征值组合下的样本交集,作为第二样本频数;
在所述第二样本频数中加入噪声,得到第二隐私样本频数作为列联表统计结果。
6.根据权利要求4或5所述的方法,其特征在于,所述噪声满足条件独立性噪声约束条件。
7.根据权利要求5所述的方法,其特征在于,根据特征分箱处理结果,确定不同特征值组合下的样本交集,包括:
根据分箱处理结果进行哈希处理,得到所述候选特征、标签变量与条件特征各自对应的哈希化样本标识集合;
根据候选特征对应的第一随机因子对所述特征分箱结果进行加密;
利用密文对加密后的特征分箱结果进行比较,根据不同特征值组合下的样本标识的交集确定所述样本交集。
8.根据权利要求3所述的方法,其特征在于,根据列联表统计结果对所述待筛选数据中的特征与标签变量进行条件独立性判断,包括:
根据所述列联表统计结果确定卡方检验值与自由度;
根据所述卡方检验值与自由度查询卡方分布表确定所述特征与标签变量是否满足条件独立。
9.根据权利要求1所述的方法,其特征在于,根据条件独立性判断结果,对所述待筛选数据中的特征依次进行筛选,确定最终的因果特征集合,包括:
依次筛选待筛选数据中的特征,若所述特征与标签变量满足条件独立,则将对应的特征添加至候选马尔可夫毯;
对所述候选马尔可夫毯中的特征进行二次筛选,将去除假阳性特征的候选马尔可夫毯确定为最终的因果特征集合。
10.一种因果特征的筛选装置,其特征在于,包括:
待筛选数据获取模块,用于获取包含所述因果特征的待筛选数据,所述待筛选数据包括横向联邦场景数据与纵向联邦场景数据;
条件独立性判断模块,用于对所述待筛选数据中的特征与标签变量进行条件独立性判断;
因果特征集合确定模块,用于根据条件独立性判断结果,对所述待筛选数据中的特征依次进行筛选,确定最终的因果特征集合。
11.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-9中任一项所述的因果特征的筛选方法。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-9中任一项所述的因果特征的筛选方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211411484.XA CN116204773A (zh) | 2022-11-11 | 2022-11-11 | 一种因果特征的筛选方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211411484.XA CN116204773A (zh) | 2022-11-11 | 2022-11-11 | 一种因果特征的筛选方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116204773A true CN116204773A (zh) | 2023-06-02 |
Family
ID=86516197
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211411484.XA Pending CN116204773A (zh) | 2022-11-11 | 2022-11-11 | 一种因果特征的筛选方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116204773A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116805039A (zh) * | 2023-08-21 | 2023-09-26 | 腾讯科技(深圳)有限公司 | 特征筛选方法、装置、计算机设备和数据扰动方法 |
CN117474119A (zh) * | 2023-10-20 | 2024-01-30 | 上海零数众合信息科技有限公司 | 基于联邦学习的故障预测方法及*** |
CN117668668A (zh) * | 2024-01-31 | 2024-03-08 | 安徽大学 | 因果特征选择方法、装置和存储介质 |
-
2022
- 2022-11-11 CN CN202211411484.XA patent/CN116204773A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116805039A (zh) * | 2023-08-21 | 2023-09-26 | 腾讯科技(深圳)有限公司 | 特征筛选方法、装置、计算机设备和数据扰动方法 |
CN116805039B (zh) * | 2023-08-21 | 2023-12-05 | 腾讯科技(深圳)有限公司 | 特征筛选方法、装置、计算机设备和数据扰动方法 |
CN117474119A (zh) * | 2023-10-20 | 2024-01-30 | 上海零数众合信息科技有限公司 | 基于联邦学习的故障预测方法及*** |
CN117668668A (zh) * | 2024-01-31 | 2024-03-08 | 安徽大学 | 因果特征选择方法、装置和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Pourhabibi et al. | Fraud detection: A systematic literature review of graph-based anomaly detection approaches | |
US20240086930A1 (en) | Blockchain transaction safety | |
Zhao et al. | A machine learning based trust evaluation framework for online social networks | |
US20190089711A1 (en) | Anonymized persona identifier | |
CN116204773A (zh) | 一种因果特征的筛选方法、装置、设备及存储介质 | |
Grindrod et al. | Communicability across evolving networks | |
US8862662B2 (en) | Determination of latent interactions in social networks | |
CN110555172B (zh) | 用户关系挖掘方法及装置、电子设备和存储介质 | |
CN112380572B (zh) | 一种多方数据协同场景下的隐私保护量化评估方法和*** | |
WO2020052168A1 (zh) | 反欺诈模型的生成及应用方法、装置、设备及存储介质 | |
CN111553744A (zh) | 联邦产品推荐方法、装置、设备及计算机存储介质 | |
CN107895038A (zh) | 一种链路预测关系推荐方法及装置 | |
CN115545216B (zh) | 一种业务指标预测方法、装置、设备和存储介质 | |
CN109242250A (zh) | 一种基于模糊熵权法与云模型的用户行为可信度检测方法 | |
CN115883187A (zh) | 网络流量数据中的异常信息识别方法、装置、设备和介质 | |
CN117609921A (zh) | 异常检测模型的构建方法、装置、电子设备及存储介质 | |
CN116432040B (zh) | 基于联邦学习的模型训练方法、装置、介质以及电子设备 | |
Revathi et al. | Profile similarity communication matching approaches for detection of duplicate profiles in online social network | |
CN117151859A (zh) | 模型训练及评估方法、相关装置、设备、介质及产品 | |
Liu et al. | Some Intuitionistic Cubic Fuzzy Muirhead Mean Operators with Their Application to Multicriteria Decision Making | |
CN115758271A (zh) | 数据处理方法、装置、计算机设备和存储介质 | |
Bisht et al. | Functional dependency-based group decision-making with incomplete information under social media influence: An application to automobile | |
Xiang et al. | Leveraging subgraph structure for exploration and analysis of Bitcoin address | |
Li et al. | Reconstructing community structure of online social network via user opinions | |
Raja et al. | CCDEA: Consumer and Cloud–DEA Based Trust Assessment Model for the Adoption of Cloud Services |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |