CN112070233B - 模型联合训练方法、装置、电子设备和存储介质 - Google Patents
模型联合训练方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN112070233B CN112070233B CN202010866349.9A CN202010866349A CN112070233B CN 112070233 B CN112070233 B CN 112070233B CN 202010866349 A CN202010866349 A CN 202010866349A CN 112070233 B CN112070233 B CN 112070233B
- Authority
- CN
- China
- Prior art keywords
- model
- user
- similar
- target
- target task
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 132
- 238000000034 method Methods 0.000 title claims abstract description 62
- 238000012512 characterization method Methods 0.000 claims abstract description 95
- 238000004821 distillation Methods 0.000 claims abstract description 64
- 238000013140 knowledge distillation Methods 0.000 claims abstract description 16
- 230000015654 memory Effects 0.000 claims description 19
- 238000004422 calculation algorithm Methods 0.000 claims description 12
- 230000003993 interaction Effects 0.000 claims description 10
- 238000013136 deep learning model Methods 0.000 claims description 6
- 238000005070 sampling Methods 0.000 claims description 6
- 238000000605 extraction Methods 0.000 claims description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 description 9
- 230000007547 defect Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000013526 transfer learning Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请公开了模型联合训练方法、装置、电子设备和存储介质，涉及人工智能和云计算技术领域。具体实现方案为：根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测。本申请能够提高目标任务模型的预测准确度。
Description
技术领域
本申请涉及人工智能和云计算技术领域，尤其涉及深度学习技术领域，具体涉及一种模型联合训练方法、装置、电子设备和存储介质。
背景技术
机器学习是人工智能的核心，基于概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科，通过计算机重新组织已有的知识结构使之不断改善自身的性能。
联合机器学习(Federated machine learning)用于帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下，进行数据使用和机器学习建模。
发明内容
本公开提供了一种用于模型联合训练方法、装置、电子设备以及存储介质。
根据本公开的一方面，提供了一种模型联合训练方法，包括：
根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；
基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测。
根据本公开的又一方面，提供了一种模型联合训练方法，包括：
确定在目标任务下的用户目标标签；
向模型训练方发送携带有所述用户目标标签的模型训练请求，用于指示所述模型训练方执行如下：根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；基于所述相似表征模型，根据在目标任务下的用户目标特征和所述用户目标标签构建目标任务模型。
根据本公开的又一方面，提供了一种模型联合训练装置，包括：
表征模型模块，用于根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；
目标任务模型模块，用于基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测。
根据本公开的又一方面，提供了一种模型联合训练装置，包括：
目标标签确定模块，用于确定在目标任务下的用户目标标签；
训练请求发送模块，用于向模型训练方发送携带有所述用户目标标签的模型训练请求，用于指示所述模型训练方执行如下：根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；基于所述相似表征模型，根据在目标任务下的用户目标特征和所述用户目标标签构建目标任务模型。
根据第五方面，提供了一种电子设备，该电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如本申请实施例中任一项所述的模型联合训练方法。
根据第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行如本申请实施例中任一项所述的模型联合训练方法。
根据本申请的技术能够提高目标任务模型的预测准确度。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1是根据本申请实施例提供的一种模型联合训练方法的流程示意图；
图2是根据本申请实施例提供的另一种模型联合训练方法的流程示意图；
图3是根据本申请实施例提供的又一种模型联合训练方法的流程示意图；
图4是根据本申请实施例提供的又一种模型联合训练方法的流程示意图；
图5是根据本申请实施例提供的又一种模型联合训练方法的流程示意图；
图6是根据本申请实施例提供的一种模型联合训练装置的结构示意图；
图7是根据本申请实施例提供的又一种模型联合训练装置的结构示意图；
图8是用来实现本申请实施例的模型联合训练方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
图1是根据本申请实施例提供的模型联合训练方法的流程示意图。本实施例可适用于标签提供方和模型训练方联合训练目标任务模型的情况。本实施例公开的模型联合训练方法可以由电子设备执行，具体可以由模型联合训练装置来执行，该装置可以由软件和/或硬件的方式实现，配置于模型训练方的电子设备中。参见图1，本实施例提供的模型联合训练方法包括：
S110、根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型。
其中，相似任务和目标任务所属场景可以相似，参与方可以不同，即相似任务和目标任务之间的预测目标相似。目标任务的参与方可以为标签提供方和模型训练方，而相似任务的参与方可以为模型训练方。
其中，标签提供方用于提供目标任务下的用户目标标签，模型训练方用于提供相似任务下的用户相似标签，以及在目标任务和相似任务下的用户特征。另外，标签提取方也可以用于提供部分用户特征。以不同风控场景为例，若甲方具有A风控场景的少量风控分标签值，乙方提供有B风控场景的风控分预测服务，且预测服务基于乙方的大量风控分标签值确定，则可以将甲方作为标签提供方，甲方的风控分标签值作为用户目标标签，乙方作为模型训练方，乙方的风控分标签值作为用户相似标签，并且将与用户相似标签关联的用户特征作为用户相似特征。
具体的，将用户相似特征作为蒸馏模型的输入，用户相似标签作为蒸馏目标进行蒸馏模型训练，得到相似蒸馏模型。并且，可以将相似蒸馏模型中间层之前的模型作为相似表征模型，即将相似蒸馏模型的中间层输出作为相似表征特征。例如可以去除相似蒸馏模型的输出层得到相似表征模型。并且，可以根据用户相似特征的表征特征的稀疏情况调整相似表征特征的维度，若稀疏，则可以减小相似表征特征的维度；若稠密，则可以增大相似表征特征的维度。例如相似表征特征的维度可以设置为50。通过对相似任务下的相似任务模型做蒸馏，使得相似蒸馏模型和相似表征模型能够保留用户相似标签的信息。
S120、基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测。
联合建模过程中，训练样本量很大程度上影响建模效果，训练样本量小可能导致建模不充分，并且标签提供方一般提供的样本标签数据量有限，导致建模效果受到限制。本申请中，由于相似表征模型保留有相似场景下的用户相似标签信息，基于相似表征模型构建目标任务模型，即间接使用用户相似标签构建目标任务模型使目标任务模型不仅涵盖标签提供方的用户目标标签也包括相似场景下相似任务中使用的用户相似标签，能够弥补用户目标标签数量不足的缺陷，从而能够提高目标任务模型的预测准确度。
其中，在目标任务下的用户目标特征可以由模型训练方确定，也可以由模型训练方和标签提供方共同确定，也就是说模型训练方和标签提供方也可以均提供部分用户目标特征。
其中，目标任务模型为联合训练结果。在构建目标任务模型之后，将待预测用户的特征输入目标任务模型即可得到待预测用户在目标任务下的预测结果。
本申请实施例的技术方案，通过对相似场景及相似任务的预测模型做蒸馏，从相似蒸馏模型中提取相似表征模型，并基于相似表征模型进行联合建模，即通过间接使用用户相似标签构建目标任务模型，能够弥补用户目标标签不足的缺陷，从而能够提高目标任务模型的预测准确度。
图2是根据本申请实施例提供的一种模型联合训练方法的流程示意图。本实施例是在上述实施例的基础上提出的一种可选方案。参见图2，本实施例提供的模型联合训练方法包括：
S210、根据在相似任务下的用户相似特征和用户相似标签，对深度学习模型进行训练，得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型。
在联合学习相关技术中，通过同态加密等安全策略，在保证数据安全的情况下，使得各参与方数据不出本地，进行联合训练。由于同态加密仅支持加运算和乘运算，因此相关技术只能使用仅包括加运算和乘运算的联合建模模型例如XGBoost树模型，并且采用同态加密算法的模型训练率效低。
本申请中，用户相似特征和用户相似标签均由模型训练方提供，因此模型训练方无需采用同态加密算法构建相似蒸馏模型，从而不受同态加密算法支持的运算符和训练效率限制，相似蒸馏模型能够采用深度学习网络结构，例如可以采用MLP(MultilayerPerceptron，多层感知器)_深度模型。通过基于深度学习网络结构构建相似蒸馏模型，相比于树模型，具有更好地泛化性和特征表征能力，因而根据相似蒸馏模型得到的相似表征模型对相似场景具有更好的表达。
S220、基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测。
在一种可选实施方式中，S220包括：将所述相似表征模型后接目标任务的预测输出层，得到联合建模的联合预测模型；根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签对所述联合预测模型进行训练，得到所述目标任务模型。
具体的，根据相似标识模型构建联合预测模型，将用户目标特征作为联合预测模型的输入，用户目标标签作为联合预测模型的输出，对联合预测模型进行训练，且将训练结果作为目标任务模型。基于相似表征模型的迁移学习联合建模，在迁移学习中，将模拟表征模型作为预训练模型，再基于用户目标标签进行有监督迁移学习，可以缓解监督学习中由于用户目标标签有限导致的过拟合问题。
在一种可选实施方式中，S220包括：将在目标任务下的用户目标特征作为所述相似表征模型的输入，得到用户的相似表征特征；对在目标任务下的用户目标特征和所述相似表征特征进行融合，得到用户联合特征；根据所述用户联合特征和从标签提供方获取的用户目标标签构建目标任务模型。
具体的，可以通过拼接用户目标特征和相似表征特征得到用户联合特征，将用户联合特征作为输入，用户目标标签作为输出进行模型训练。模型可以为树模型。将相似表征特征作为新增特征拼接到用户目标特征，提供了一种更加灵活的应用方式，联合建模的模型选择更多，并且，相似标识特征也提供了额外的表征信息帮助建模。
本申请实施例的技术方案，通过采用深度学习蒸馏模型，具有更好地泛化性和特征表征能力；并且，通过提供两种联合建模方式，能够缓解监督学习中由于标签数据有限导致的过拟合问题或提供模型选择的灵活性。
图3是根据本申请实施例提供的一种模型联合训练方法的流程示意图。本实施例是在上述实施例的基础上提出的一种可选方案。参见图3，本实施例提供的模型联合训练方法包括：
S310、根据相似任务的用户标签值分布，对相似任务的训练样本进行抽样。
具体的，可以根据不同用户标签区间分布，按比例对相似任务的训练样本进行抽样。仍以风控场景为例，按照风控分的不同分数段分布，按比例抽样。通过根据用户标签值分布按比例进行样本抽取，能够提高后续相似蒸馏模型的样本均衡度，从而提高相似蒸馏模型的准确度。
S320、根据抽取的训练样本确定在相似任务下的用户相似特征和用户相似标签。
具体的，将抽样训练样本中的特征作为用户相似特征，将抽样训练样本中的标签作为用户相似标签。
S330、根据从标签提供方获取的用户标识密文，确定用户标识原文。
具体的，根据用户标识密文，映射得到模型训练方的用户标识原文。以用户标识密文为用户手机号密文为例，模型训练方经映射得到用户手机号原文。
S340、根据所述用户标识原文，确定所述用户目标特征。
具体的，根据用户标识原文，获取模型训练方的用户目标特征。标签提供方向模型训练方发送用户标识密文，而不是用户标识原文，避免用户标识在传输过程中被泄露，能够进一步提高数据安全性。
S350、根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型。
S360、基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测。
在一种可选实施方式中，模型训练方与所述标签提供方之间采用同态加密算法进行数据交互。具体的，采用同态加密算法进行用户标识数据交互或部分的用户目标特征交互。在构建相似表征模型后，通过在目标任务模型构建过程中，引入同态加密算法，能够进一步提高交互数据的安全性。
本申请实施例的技术方案，不仅通过间接使用用户相似标签构建目标任务模型，能够目标任务模型的预测准确度，并且通过用户相似特征和用户目标特征的确定，进一步提高目标任务模型的预测准确度和各参与方的数据安全性。
图4是根据本申请实施例提供的模型联合训练方法的流程示意图。本实施例可适用于标签提供方和模型训练方联合训练目标任务模型的情况。本实施例公开的模型联合训练方法可以由电子设备执行，具体可以由模型联合训练装置来执行，该装置可以由软件和/或硬件的方式实现，配置于标签提供方的电子设备中。参见图4，本实施例提供的模型联合训练方法包括：
S410、确定在目标任务下的用户目标标签。
S420、向模型训练方发送携带有所述用户目标标签的模型训练请求，用于指示所述模型训练方执行如下：根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；基于所述相似表征模型，根据在目标任务下的用户目标特征和所述用户目标标签构建目标任务模型。
其中，相似任务和目标任务所属场景可以相似，参与方可以不同，即相似任务和目标任务之间的预测目标相似。用户相似标签和用户目标标签分别指在相似任务和目标任务下的用户标签。需要说明的是，构建相似蒸馏模型和目标任务模型过程中采用的样本可以使用相同用户，也可以属于不同用户。
由于相似表征模型保留有相似场景下的用户相似标签信息，基于相似表征模型构建目标任务模型，即间接使用用户相似标签构建目标任务模型，能够弥补用户目标标签不足的缺陷，即能够提高目标任务模型的预测准确度。
在一种可选实施方式中，相似蒸馏模型为深度学习模型。通过基于深度学习网络结构构建相似蒸馏模型，相比于树模型，具有更好地泛化性和特征表征能力，因而根据相似蒸馏模型得到的相似表征模型对相似场景具有更好的表达。
本申请实施例的技术方案，通过间接使用用户相似标签构建目标任务模型，能够弥补用户目标标签不足的缺陷，即能够提高目标任务模型的预测准确度。并且，通过采用深度学习蒸馏模型，具有更好地泛化性和特征表征能力，进一步提高目标任务模型的预测准确度。
图5是根据本申请实施例提供的一种模型联合训练方法的流程示意图。本实施例是在上述实施例的基础上提出的一种具体实现方案。参见图5，本实施例提供的模型联合训练方法包括：
S510、标签提供方确定在目标任务下的用户目标标签。
S520、标签提供方向模型训练方发送用户目标标签。
S530、模型训练方根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型。
S540、模型训练方根据相似蒸馏模型得到相似表征模型。
S550、模型训练方基于相似表征模型，根据在目标任务下的用户目标特征和用户目标标签构建目标任务模型。
在一种可选实施方式中，S550可以包括：根据从标签提供方获取的用户id密文映射得到模型训练方的用户id原文，根据用户id原文得到模型训练方的用户目标特征；基于相似表征模型构建联合预测模型；采用用户目标特征和用户目标标签对联合预测模型进行训练，得到目标任务模型。
在一种可选实施方式中，S550可以包括：根据从标签提供方获取的用户id密文映射得到模型训练方的用户id原文，根据用户id原文得到模型训练方的用户目标特征；将用户目标特征作为相似表征模型的输入，得到用户的相似表征特征；拼接用户目标特征和用户的相似表征特征得到用户联合特征；根据用户联合特征和用户目标标签构建目标任务模型。
本申请实施例的技术方案，支持任意两方数据安全融合及建模计算，提供包括特征分析加工、模型训练和效果评估到模型应用部署的全流程服务。通过表示学习得到相似场景下相似任务的表征信息，并将相似任务的表征信息应用到标签信息不足的联合建模场景中，在一定程度上弥补的因为标签不足导致模型训练过拟合或训练不充分的缺陷；并且，得到的表征信息是稠密的，特征表达能力更强；表征模型可以采用深度学习模型，相对传统的树型联合建模模型，泛化性和特征表达能力更强；得到的表征特征可以以多种方式参与联合建模，使目标任务模型不仅涵盖标签提供方的用户目标标签也包括相似场景下相似任务中使用的用户相似标签；扩展性强，可以扩展到不同业务场景中。
图6是本申请实施例提供的一种模型联合训练装置的结构示意图，该装置可以配置于模型训练方的电子设备中。参见图6，本申请实施例提供的模型联合训练装置600可以包括：
表征模型模块601，用于根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；
目标任务模型模块602，用于基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测。
可选的，所述表征模型模块601具体用于：
根据在相似任务下的用户相似特征和用户相似标签，对深度学习模型进行训练，得到相似蒸馏模型。
可选的，所述装置600还包括相似数据模块，所述相似数据模块包括：
样本抽取单元，用于根据相似任务的用户标签值分布，对相似任务的训练样本进行抽样；
相似数据单元，用于根据抽取的训练样本确定所述用户相似特征和所述用户相似标签。
可选的，所述装置600还包括目标特征模块，所述目标特征模块包括：
标识原文单元，用于根据从所述标签提供方获取的用户标识密文，确定用户标识原文；
目标特征单元，用于根据所述用户标识原文，确定所述用户目标特征。
可选的，所述目标任务模型模块602包括：
联合模型单元，用于将所述相似表征模型后接目标任务的预测输出层，得到联合建模的联合预测模型；
目标任务模型单元，用于根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签对所述联合预测模型进行训练，得到所述目标任务模型。
可选的，所述目标任务模型模块602包括：
表征特征单元，用于将在目标任务下的用户目标特征作为所述相似表征模型的输入，得到用户的相似表征特征；
联合特征单元，用于对在目标任务下的用户目标特征和所述相似表征特征进行融合，得到用户联合特征；
目标任务模型单元，用于根据所述用户联合特征和从标签提供方获取的用户目标标签构建目标任务模型。
可选的，模型训练方与所述标签提供方之间采用同态加密算法进行数据交互。
本申请实施例的技术方案，通过模型训练方间接使用用户相似标签构建目标任务模型，能够弥补标签提供方所提供的用户目标标签不足缺陷，能够提高目标任务模型的预测准确度。通过采用深度学习蒸馏模型，具有更好地泛化性和特征表征能力，进一步提高目标任务模型的预测准确度。并且，通过提供两种基于相似表征模型的联合学习方式，能够进一步提高预测准确度。
图7是本申请实施例提供的一种模型联合训练装置的结构示意图，该装置可以配置于标签提供方的电子设备中。参见图7，本申请实施例提供的模型联合训练装置700可以包括：
目标标签确定模块701，用于确定在目标任务下的用户目标标签；
训练请求发送模块702，用于向模型训练方发送携带有所述用户目标标签的模型训练请求，用于指示所述模型训练方执行如下：根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并根据所述相似蒸馏模型得到相似表征模型；基于所述相似表征模型，根据在目标任务下的用户目标特征和所述用户目标标签构建目标任务模型。
本申请实施例的技术方案，通过模型训练方间接使用用户相似标签构建目标任务模型，能够弥补标签提供方所提供的用户目标标签不足缺陷，能够提高目标任务模型的预测准确度。通过采用深度学习蒸馏模型，具有更好地泛化性和特征表征能力，进一步提高目标任务模型的预测准确度。并且，通过提供两种基于相似表征模型的联合学习方式，能够进一步提高预测准确度。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图8所示，是根据本申请实施例的模型联合训练的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图8所示，该电子设备包括：一个或多个处理器801、存储器802，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器***)。图8中以一个处理器801为例。
存储器802即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的模型联合训练的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的模型联合训练的方法。
存储器802作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的模型联合训练的方法对应的程序指令/模块(例如，附图6所示的表征模型模块601和目标任务模型模块602，又如附图7所示的目标标签确定模块701和训练请求发送模块702)。处理器801通过运行存储在存储器802中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及模型联合训练，即实现上述方法实施例中的模型联合训练的方法。
存储器802可以包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需要的应用程序；存储数据区可存储根据模型联合训练的电子设备的使用所创建的数据等。此外，存储器802可以包括高速随机存储存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器802可选包括相对于处理器801远程设置的存储器，这些远程存储器可以通过网络连接至模型联合训练的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
模型联合训练的方法的电子设备还可以包括：输入装置803和输出装置804。处理器801、存储器802、输入装置803和输出装置804可以通过总线或者其他方式连接，图8中以通过总线连接为例。
输入装置803可接收输入的数字或字符信息，以及产生与模型联合训练的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置804可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的***和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如，作为数据服务器)、或者包括中间件部件的计算***(例如，应用服务器)、或者包括前端部件的计算***(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将***的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
本申请实施例的技术方案，通过模型训练方间接使用用户相似标签构建目标任务模型，能够弥补标签提供方所提供的用户目标标签不足缺陷，能够提高目标任务模型的预测准确度。通过采用深度学习蒸馏模型，具有更好地泛化性和特征表征能力，进一步提高目标任务模型的预测准确度。并且，通过提供两种基于相似表征模型的联合学习方式，能够进一步提高预测准确度。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。
Claims (14)
1.一种模型联合训练方法，包括：
根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并将相似蒸馏模型中间层之前的模型作为相似表征模型，将相似蒸馏模型的中间层输出作为相似表征特征；
基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测；模型训练方与所述标签提供方之间采用同态加密算法进行数据交互；
其中，所述基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，包括：
将在目标任务下的用户目标特征作为所述相似表征模型的输入，得到用户的相似表征特征；
对在目标任务下的用户目标特征和所述相似表征特征进行融合，得到用户联合特征；
根据所述用户联合特征和从标签提供方获取的用户目标标签构建目标任务模型。
2.根据权利要求1所述的方法，其中，所述根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，包括：
根据在相似任务下的用户相似特征和用户相似标签，对深度学习模型进行训练，得到相似蒸馏模型。
3.根据权利要求1所述的方法，还包括：
根据相似任务的用户标签值分布，对相似任务的训练样本进行抽样；
根据抽取的训练样本确定所述用户相似特征和所述用户相似标签。
4.根据权利要求1所述的方法，还包括：
根据从所述标签提供方获取的用户标识密文，确定用户标识原文；
根据所述用户标识原文，确定所述用户目标特征。
5.根据权利要求1所述的方法，其中，所述基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，还包括：
将所述相似表征模型后接目标任务的预测输出层，得到联合建模的联合预测模型；
根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签对所述联合预测模型进行训练，得到所述目标任务模型。
6.一种模型联合训练方法，包括：
确定在目标任务下的用户目标标签；
向模型训练方发送携带有所述用户目标标签的模型训练请求，用于指示所述模型训练方执行如下：根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并将相似蒸馏模型中间层之前的模型作为相似表征模型，将相似蒸馏模型的中间层输出作为相似表征特征；基于所述相似表征模型，根据在目标任务下的用户目标特征和所述用户目标标签构建目标任务模型；其中，基于所述相似表征模型，根据在目标任务下的用户目标特征和所述用户目标标签构建目标任务模型包括：将在目标任务下的用户目标特征作为所述相似表征模型的输入，得到用户的相似表征特征；对在目标任务下的用户目标特征和所述相似表征特征进行融合，得到用户联合特征；根据所述用户联合特征和从标签提供方获取的用户目标标签构建目标任务模型；
其中，所述模型训练方与所述标签提供方之间采用同态加密算法进行数据交互。
7.一种模型联合训练装置，包括：
表征模型模块，用于根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并将相似蒸馏模型中间层之前的模型作为相似表征模型，将相似蒸馏模型的中间层输出作为相似表征特征；
目标任务模型模块，用于基于所述相似表征模型，根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签构建目标任务模型，用于对用户进行目标任务预测；模型训练方与所述标签提供方之间采用同态加密算法进行数据交互；
其中，所述目标任务模型模块包括：
表征特征单元，用于将在目标任务下的用户目标特征作为所述相似表征模型的输入，得到用户的相似表征特征；
联合特征单元，用于对在目标任务下的用户目标特征和所述相似表征特征进行融合，得到用户联合特征；
目标任务模型单元，用于根据所述用户联合特征和从标签提供方获取的用户目标标签构建目标任务模型。
8.根据权利要求7所述的装置，其中，所述表征模型模块具体用于：
根据在相似任务下的用户相似特征和用户相似标签，对深度学习模型进行训练，得到相似蒸馏模型。
9.根据权利要求7所述的装置，还包括相似数据模块，所述相似数据模块包括：
样本抽取单元，用于根据相似任务的用户标签值分布，对相似任务的训练样本进行抽样；
相似数据单元，用于根据抽取的训练样本确定所述用户相似特征和所述用户相似标签。
10.根据权利要求7所述的装置，还包括目标特征模块，所述目标特征模块包括：
标识原文单元，用于根据从所述标签提供方获取的用户标识密文，确定用户标识原文；
目标特征单元，用于根据所述用户标识原文，确定所述用户目标特征。
11.根据权利要求7所述的装置，其中，所述目标任务模型模块还包括：
联合模型单元，用于将所述相似表征模型后接目标任务的预测输出层，得到联合建模的联合预测模型；
目标任务模型单元，用于根据在目标任务下的用户目标特征和从标签提供方获取的用户目标标签对所述联合预测模型进行训练，得到所述目标任务模型。
12.一种模型联合训练装置，包括：
目标标签确定模块，用于确定在目标任务下的用户目标标签；
训练请求发送模块，用于向模型训练方发送携带有所述用户目标标签的模型训练请求，用于指示所述模型训练方执行如下：根据在相似任务下的用户相似特征和用户相似标签进行知识蒸馏得到相似蒸馏模型，并将相似蒸馏模型中间层之前的模型作为相似表征模型，将相似蒸馏模型的中间层输出作为相似表征特征；基于所述相似表征模型，根据在目标任务下的用户目标特征和所述用户目标标签构建目标任务模型；其中，基于所述相似表征模型，根据在目标任务下的用户目标特征和所述用户目标标签构建目标任务模型包括：将在目标任务下的用户目标特征作为所述相似表征模型的输入，得到用户的相似表征特征；对在目标任务下的用户目标特征和所述相似表征特征进行融合，得到用户联合特征；根据所述用户联合特征和从标签提供方获取的用户目标标签构建目标任务模型；
其中，所述模型训练方与所述标签提供方之间采用同态加密算法进行数据交互。
13. 一种电子设备，其中，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010866349.9A CN112070233B (zh) | 2020-08-25 | 2020-08-25 | 模型联合训练方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010866349.9A CN112070233B (zh) | 2020-08-25 | 2020-08-25 | 模型联合训练方法、装置、电子设备和存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112070233A CN112070233A (zh) | 2020-12-11 |
| CN112070233B true CN112070233B (zh) | 2024-03-22 |
Family
ID=73659797
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010866349.9A Active CN112070233B (zh) | 2020-08-25 | 2020-08-25 | 模型联合训练方法、装置、电子设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112070233B (zh) |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108334934A (zh) * | 2017-06-07 | 2018-07-27 | 北京深鉴智能科技有限公司 | 基于剪枝和蒸馏的卷积神经网络压缩方法 |
| CN108898168A (zh) * | 2018-06-19 | 2018-11-27 | 清华大学 | 用于目标检测的卷积神经网络模型的压缩方法和*** |
| CN109637546A (zh) * | 2018-12-29 | 2019-04-16 | 苏州思必驰信息科技有限公司 | 知识蒸馏方法和装置 |
| CN110223281A (zh) * | 2019-06-06 | 2019-09-10 | 东北大学 | 一种数据集中含有不确定数据时的肺结节图像分类方法 |
| CN110246487A (zh) * | 2019-06-13 | 2019-09-17 | 苏州思必驰信息科技有限公司 | 用于单通道的语音识别模型的优化方法及*** |
| CN110428052A (zh) * | 2019-08-01 | 2019-11-08 | 江苏满运软件科技有限公司 | 深度神经网络模型的构建方法、装置、介质及电子设备 |
| CN111198940A (zh) * | 2019-12-27 | 2020-05-26 | 北京百度网讯科技有限公司 | Faq方法、问答检索***、电子设备和存储介质 |
| CN111460150A (zh) * | 2020-03-27 | 2020-07-28 | 北京松果电子有限公司 | 一种分类模型的训练方法、分类方法、装置及存储介质 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11562287B2 (en) * | 2017-10-27 | 2023-01-24 | Salesforce.Com, Inc. | Hierarchical and interpretable skill acquisition in multi-task reinforcement learning |
-
2020
- 2020-08-25 CN CN202010866349.9A patent/CN112070233B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108334934A (zh) * | 2017-06-07 | 2018-07-27 | 北京深鉴智能科技有限公司 | 基于剪枝和蒸馏的卷积神经网络压缩方法 |
| CN108898168A (zh) * | 2018-06-19 | 2018-11-27 | 清华大学 | 用于目标检测的卷积神经网络模型的压缩方法和*** |
| CN109637546A (zh) * | 2018-12-29 | 2019-04-16 | 苏州思必驰信息科技有限公司 | 知识蒸馏方法和装置 |
| CN110223281A (zh) * | 2019-06-06 | 2019-09-10 | 东北大学 | 一种数据集中含有不确定数据时的肺结节图像分类方法 |
| CN110246487A (zh) * | 2019-06-13 | 2019-09-17 | 苏州思必驰信息科技有限公司 | 用于单通道的语音识别模型的优化方法及*** |
| CN110428052A (zh) * | 2019-08-01 | 2019-11-08 | 江苏满运软件科技有限公司 | 深度神经网络模型的构建方法、装置、介质及电子设备 |
| CN111198940A (zh) * | 2019-12-27 | 2020-05-26 | 北京百度网讯科技有限公司 | Faq方法、问答检索***、电子设备和存储介质 |
| CN111460150A (zh) * | 2020-03-27 | 2020-07-28 | 北京松果电子有限公司 | 一种分类模型的训练方法、分类方法、装置及存储介质 |
Non-Patent Citations (2)
| Title |
|---|
| Cross-Modal Knowledge Distillation for Action Recognition;Fida Mohammad Thoker 等;2019 IEEE International Conference on Image Processing (ICIP);20190826;全文 * |
| 一种多标签统一域嵌入的推荐模型;张随雨;杨成;;哈尔滨工业大学学报;20200510(第05期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112070233A (zh) | 2020-12-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102484617B1 (ko) | 이종 그래프 노드를 표현하는 모델 생성 방법, 장치, 전자 기기, 저장 매체 및 프로그램 | |
| US20210200947A1 (en) | Event argument extraction method and apparatus and electronic device | |
| JP7076030B2 (ja) | ユーザーインタラクション情報処理モデルの生成方法と装置、ユーザーインタラクション情報処理方法と装置、設備、媒体、及びプログラム | |
| KR102528748B1 (ko) | 지식 그래프를 구축하는 방법, 장치, 기기 및 저장 매체 | |
| KR20210118360A (ko) | 라벨링 모델을 구축하는 방법, 장치, 전자 기기, 프로그램 및 판독 가능 저장 매체 | |
| CN111259671B (zh) | 文本实体的语义描述处理方法、装置及设备 | |
| CN112102448B (zh) | 虚拟对象图像显示方法、装置、电子设备和存储介质 | |
| CN112650907A (zh) | 搜索词的推荐方法、目标模型的训练方法、装置及设备 | |
| CN111241838B (zh) | 文本实体的语义关系处理方法、装置及设备 | |
| US20220027575A1 (en) | Method of predicting emotional style of dialogue, electronic device, and storage medium | |
| CN111078878A (zh) | 文本处理方法、装置、设备及计算机可读存储介质 | |
| CN111079945A (zh) | 端到端模型的训练方法及装置 | |
| CN112380104A (zh) | 用户属性识别方法、装置、电子设备及存储介质 | |
| CN111666771A (zh) | 文书的语义标签抽取、装置、电子设备及可读存储介质 | |
| CN113704058B (zh) | 一种业务模型的监控方法、装置及电子设备 | |
| EP3901905B1 (en) | Method and apparatus for processing image | |
| CN112699314A (zh) | 热点事件确定方法、装置、电子设备及存储介质 | |
| CN111125445B (zh) | 社区主题生成方法、装置、电子设备及存储介质 | |
| CN111160552B (zh) | 新闻信息的推荐处理方法、装置、设备和计算机存储介质 | |
| CN112070233B (zh) | 模型联合训练方法、装置、电子设备和存储介质 | |
| CN111177479A (zh) | 获取关系网络图中节点的特征向量的方法以及装置 | |
| CN113591908B (zh) | 事件指称匹配方法、模型训练方法、装置和电子设备 | |
| CN111783591B (zh) | 异常检测方法、装置、设备和存储介质 | |
| CN112446728B (zh) | 广告召回方法、装置、设备及存储介质 | |
| CN111510376B (zh) | 图像处理方法、装置及电子设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |