CN113420866B - 基于双重生成对抗网络的评分预测方法 - Google Patents
基于双重生成对抗网络的评分预测方法 Download PDFInfo
- Publication number
- CN113420866B CN113420866B CN202110698814.7A CN202110698814A CN113420866B CN 113420866 B CN113420866 B CN 113420866B CN 202110698814 A CN202110698814 A CN 202110698814A CN 113420866 B CN113420866 B CN 113420866B
- Authority
- CN
- China
- Prior art keywords
- samples
- gan
- user
- sample generator
- negative sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biophysics (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了基于双重生成对抗网络的评分预测方法,主要涉及深度学习领域;包括步骤:S1、将样本分为用户喜欢的样本、未购买的样本和用户不喜欢的样本三种类型;S2、使用两个GAN,第一个GAN的G为负样本生成器,第二个GAN的G为正样本生成器,负样本生成器用于生成高质量的负样本;S3、将负样本生成器生成的样本作为额外的标记数据输入到正样本生成器中,并随机选取一些未购买的样本作为输入输入到负样本生成器中以生成正样本;S4、第二个GAN输入用户喜欢的购买向量并要求在第一个GAN生成的负样本元素上生成接近0的输出,并将随机采样的未购买向量尽可能生成x(0<x<1);本发明能够提高模型对推荐预测的精度和模型的泛化力。
Description
技术领域
本发明涉及深度学习领域,具体是基于双重生成对抗网络的评分预测方法。
背景技术
协同过滤(CF:Collaborative Filtering)作为最成熟的推荐技术之一,以用户的历史评分记录为依据,计算用户间评分的相似度,建立用户偏好模型;用户偏好模型的建立是影响推荐算法质量高低的关键因素。当用户对推荐资源评分矩阵稀疏时,难以建立用户模型;面对新用户、新资源时会带来冷启动问题,无法有效完成资源推荐。因此,如何充分利用用户和资源信息,尤其是他们之间的隐含信息,建立用户偏好模型,一直以来是研究们关注的热点。
随着深度学习的不断发展,生成对抗神经网络(GAN:Generative AdversarialNetworks)已经被成功应用到推荐领域。生成对抗网络是通过生成模型G(Generator)和判别模型D(Discriminator)不断博弈,进而使G学习到数据的分布,在训练过程中,生成器试图欺骗鉴别器,并让其认为生成模型中的数据是真实数据。鉴别器试图正确判断真实数据。在GAN训练期间,生成模型试图通过输入假数据生成真实数据,而区别模型则估计数据为真或假的可能性(来自生成模型)。最终,鉴别器无法区分生成器中的数据,而生成器可以生成我们需要的数据。
CFGAN是基于生成对抗网络和协同过滤的非常成功的深度推荐框架。CFGAN是在协同过滤领域中引入GAN,将隐性特征与文件的关系,迁移到用户与项目中来,并且在数据预处理方面,采用矢量方式对抗训练,提出基于矢量方式对抗训练的GAN框架。由于数据更易于收集,因此它计划将重点放在具有隐式反馈的CF上。CFGAN的生成模型试图生成真实的购买向量。同样,D试图区分生成的用户购买向量和从地面真实情况获得的真实购买向量。生成器通过生成与购买向量类似的向量来与判别器进行博弈,但是最终生成器将训练得到一个全1向量,为此,将负采样技术引入CFGAN,并通过损失函数进行优化,保***G学习到用户购买过的物品为1、未购买过的为0从而生成非全1的购买向量。CFGAN在性能上取得了巨大的成功,然而其对负样本的选择过于随意,因为实际生活中,用户未购买的物品往往并不表示用户不喜欢的物品,反而有很大可能是用户没有见过的物品,同时,以往的算法都没有利用数据集中用户没有购买的样本这一信息,导致模型浪费了大量的隐含信息,没有达到模型性能的极限。
发明内容
本发明的目的在于解决现有技术中存在的问题,提供基于双重生成对抗网络的评分预测方法,利用了用户嵌入信息,增强用户与项目、用户与用户之间的亲密性,对模型作出改善,使其更好地适应数据稀疏及用户冷启动问题,以此提高模型对推荐预测的精度和模型的泛化力。
本发明为实现上述目的,通过以下技术方案实现:
基于双重生成对抗网络的评分预测方法,包括步骤:
S1、将样本分为用户喜欢的样本、未购买的样本和用户不喜欢的样本三种类型;
S2、使用两个GAN,第一个GAN的G为负样本生成器,第二个GAN的G为正样本生成器,负样本生成器用于生成高质量的负样本;
S3、将负样本生成器生成的样本作为额外的标记数据输入到正样本生成器中,并随机选取一些未购买的样本作为输入输入到负样本生成器中以生成正样本;
S4、第二个GAN输入用户喜欢的购买向量并要求第一个GAN生成的负样本元素上生成接近0的输出,并将随机采样的未购买向量尽可能生成x(0<x<1)。
对比现有技术,本发明的有益效果在于:
1、本发明充分利用了用户嵌入矩阵,增强用户与用户之间的潜在关系;将负样本和生成对抗网络相结合,提高了模型的准确度;利用了用户没有购买过的样本,使模型对用户项目之间的隐含关系得以应用;
2、本发明提出了一个基于GAN的通用CF框架名为DGAN,充分利用了用户-资源的隐含信息,将未购买的项目也利用起来,并通过对比实验证明本发明利用的隐含信息有效;通过在两个数据集上进行了大量的实验验证所获得的实验结果不仅证明了本发明的有效性,而且还证明了本发明的优越性,与最新的top-N相比,其准确性得到了显着提高。
附图说明
附图1是本发明的总体架构图;
附图2是基于本发明及对比算法评分预测结果(movielens-100K);
附图3是基于本发明及对比算法评分预测结果(movielens-1M)。
具体实施方式
下面结合具体实施例,进一步阐述本发明。应理解,这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解,在阅读了本发明讲授的内容之后,本领域技术人员可以对本发明作各种改动或修改,这些等价形式同样落于本申请所限定的范围。
实施例:如附图1所示,本发明所述是基于双重生成对抗网络的评分预测方法,包括步骤:
S1、将样本分为用户喜欢的样本、未购买的样本和用户不喜欢的样本三种类型;
S2、使用两个GAN,第一个GAN的G为负样本生成器,第二个GAN的G为正样本生成器,负样本生成器用于生成高质量的负样本;
S3、将负样本生成器生成的样本作为额外的标记数据输入到正样本生成器中,并随机选取一些未购买的样本作为输入输入到负样本生成器中以生成正样本;
S4、第二个GAN输入用户喜欢的购买向量并要求第一个GAN生成的负样本元素上生成接近0的输出,并将随机采样的未购买向量尽可能生成x(0<x<1)。
具体的:
1、负样本生成器
收集用户历史数据信息,进行数据处理,标记用户喜欢的样品、未购买样品和用户不喜欢样品三种不同类型的样品,我们随机选取一些用户不喜欢的样本作为输入输入到负样本生成器中。
2、正样本生成器
通过将负样本生成器生成的样本作为额外的标记数据输入到正样本生成器中,以生成正样本。正样本生成器输入用户喜欢的购买向量并要求负样本生成器生成的元素上产生接近0的输出,同时将随机采样的未购买向量尽可能生成x(0<x<1),以此提高评分预测模型的精度。
3、评分预测推荐模型
参照图1,将负样本生成器和正样本生成器进行融合和学习并测试评分预测,以便更好地为用户推荐喜欢的项目,提高用户满意度。
具体步骤如下:
步骤1:从负样本生成器中提取出负样本。
步骤2:从正样本生成器中生成项目评分。
步骤3:将负样本生成器和正样本生成器进行融合和学习并测试评分预测。
4、实验证明
如附图2-3,采用2个数据集movielens-100K和movielens-1M,采用以下7种对比算法:Itempop、BPR、MPR、CDAE、IRGAN、CFGAN、GauphGAN以此验证本模型性能优于其它对比推荐算法。
Claims (1)
1.基于双重生成对抗网络的评分预测方法,其特征在于,包括步骤:
S1、将样本分为用户喜欢的样本、未购买的样本和用户不喜欢的样本三种类型;
S2、使用两个GAN,第一个GAN的G为负样本生成器,第二个GAN的G为正样本生成器,负样本生成器用于生成高质量的负样本;
S3、将负样本生成器生成的样本作为额外的标记数据输入到正样本生成器中,以生成正样本;
S4、第二个GAN输入用户喜欢的购买向量并要求在第一个GAN生成的负样本元素上生成接近0的输出,并将随机采样的未购买商品形成的向量尽可能生成x,其中,0<x<1。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110698814.7A CN113420866B (zh) | 2021-06-23 | 2021-06-23 | 基于双重生成对抗网络的评分预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110698814.7A CN113420866B (zh) | 2021-06-23 | 2021-06-23 | 基于双重生成对抗网络的评分预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113420866A CN113420866A (zh) | 2021-09-21 |
CN113420866B true CN113420866B (zh) | 2022-10-11 |
Family
ID=77716345
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110698814.7A Active CN113420866B (zh) | 2021-06-23 | 2021-06-23 | 基于双重生成对抗网络的评分预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113420866B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116610857B (zh) * | 2023-04-10 | 2024-05-03 | 南京邮电大学 | 一种基于用户对岗位流行度偏好的个性化岗位推荐方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109657156A (zh) * | 2019-01-22 | 2019-04-19 | 杭州师范大学 | 一种基于循环生成对抗网络的个性化推荐方法 |
CN110442781A (zh) * | 2019-06-28 | 2019-11-12 | 武汉大学 | 一种基于生成对抗网络的对级排序项目推荐方法 |
CN111382785A (zh) * | 2020-03-04 | 2020-07-07 | 武汉精立电子技术有限公司 | 一种gan网络模型及实现样本自动清洗、辅助标记的方法 |
CN111950619A (zh) * | 2020-08-05 | 2020-11-17 | 东北林业大学 | 一种基于双重生成对抗网络的主动学习方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10991145B2 (en) * | 2018-11-13 | 2021-04-27 | Nec Corporation | Pose-variant 3D facial attribute generation |
US11048980B2 (en) * | 2019-04-30 | 2021-06-29 | Agora Lab, Inc. | Optimizing supervised generative adversarial networks via latent space regularizations |
CN111259264B (zh) * | 2020-01-15 | 2021-11-16 | 电子科技大学 | 一种基于生成对抗网络的时序评分预测方法 |
-
2021
- 2021-06-23 CN CN202110698814.7A patent/CN113420866B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109657156A (zh) * | 2019-01-22 | 2019-04-19 | 杭州师范大学 | 一种基于循环生成对抗网络的个性化推荐方法 |
CN110442781A (zh) * | 2019-06-28 | 2019-11-12 | 武汉大学 | 一种基于生成对抗网络的对级排序项目推荐方法 |
CN111382785A (zh) * | 2020-03-04 | 2020-07-07 | 武汉精立电子技术有限公司 | 一种gan网络模型及实现样本自动清洗、辅助标记的方法 |
CN111950619A (zh) * | 2020-08-05 | 2020-11-17 | 东北林业大学 | 一种基于双重生成对抗网络的主动学习方法 |
Non-Patent Citations (4)
Title |
---|
Incorporating GAN for Negative Sampling in Knowledge Representation Learning;Peifeng Wang 等;《Thirty-Second AAAI Conference on Artificial Intelligence》;20180425;第32卷(第1期);2005-2012 * |
基于生成对抗网络的模仿学习综述;林嘉豪 等;《计算机学报》;20200229;第43卷(第2期);326-351 * |
基于跨模态语义挖掘与生成对抗网络的推荐***研究;滑瑾;《中国优秀硕士学位论文全文数据库 信息科技辑》;20210315(第3期);I138-711 * |
生成对抗算法及其在对抗样本生成上的应用研究;黄钢;《中国优秀硕士学位论文全文数据库 信息科技辑》;20210315(第3期);I138-776 * |
Also Published As
Publication number | Publication date |
---|---|
CN113420866A (zh) | 2021-09-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ye et al. | Person reidentification via ranking aggregation of similarity pulling and dissimilarity pushing | |
CN110097094B (zh) | 一种面向人物交互的多重语义融合少样本分类方法 | |
US8768050B2 (en) | Accurate text classification through selective use of image data | |
CN110442790A (zh) | 推荐多媒体数据的方法、装置、服务器和存储介质 | |
Ferstl et al. | ExpressGesture: Expressive gesture generation from speech through database matching | |
CN107256494B (zh) | 一种物品推荐方法及装置 | |
CN107797998A (zh) | 含谣言用户生成内容识别方法和装置 | |
WO2020135642A1 (zh) | 一种基于生成对抗网络的模型训练方法及设备 | |
CN111666400B (zh) | 消息获取方法、装置、计算机设备及存储介质 | |
Zhou et al. | Leveraging historical interaction data for improving conversational recommender system | |
Ahuja et al. | Low-resource adaptation for personalized co-speech gesture generation | |
CN113420866B (zh) | 基于双重生成对抗网络的评分预测方法 | |
CN111259264B (zh) | 一种基于生成对抗网络的时序评分预测方法 | |
CN113449011A (zh) | 基于大数据预测的信息推送更新方法及大数据预测*** | |
CN107749034A (zh) | 社交网络中一种安全的朋友推荐方法 | |
CN112084307A (zh) | 一种数据处理方法、装置、服务器及计算机可读存储介质 | |
CN113641811B (zh) | 促进购买行为的会话推荐方法、***、设备及存储介质 | |
CN110347853A (zh) | 一种基于循环神经网络的图像哈希码生成方法 | |
Yang | [Retracted] A Deep Learning and Clustering Extraction Mechanism for Recognizing the Actions of Athletes in Sports | |
CN109740743A (zh) | 一种分层神经网络查询推荐方法及装置 | |
CN109062900A (zh) | 一种朋友圈生成方法及装置 | |
CN114862496A (zh) | 一种基于用户个性化建模的会话推荐方法、装置及介质 | |
CN113360772A (zh) | 一种可解释性推荐模型训练方法与装置 | |
Sridhar et al. | Performance Analysis of Two-Stage Iterative Ensemble Method over Random Oversampling Methods on Multiclass Imbalanced Datasets | |
CN112163073A (zh) | 自动回复对话方法、***及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |