CN111737569A - 基于属性感知注意图卷积神经网络的个性化推荐方法 - Google Patents
基于属性感知注意图卷积神经网络的个性化推荐方法 Download PDFInfo
- Publication number
- CN111737569A CN111737569A CN202010498841.5A CN202010498841A CN111737569A CN 111737569 A CN111737569 A CN 111737569A CN 202010498841 A CN202010498841 A CN 202010498841A CN 111737569 A CN111737569 A CN 111737569A
- Authority
- CN
- China
- Prior art keywords
- commodity
- user
- formula
- attribute
- parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0631—Item recommendations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Business, Economics & Management (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
一种基于属性感知注意图卷积神经网络的个性化推荐方法,利用属性信息缓解了稀疏性问题;提出了基于用户‑商品‑属***互图的图卷积神经网络推荐算法缓解了属性缺失问题;通过属性感知的注意力机制对用户偏好建模,提升了模型的推荐效果,并可以通过对用户的偏好建模进行推荐。
Description
技术领域
本发明涉及推荐***及深度学习领域,具体涉及一种基于属性感知注意图卷积神经网络的个性化推荐方法。
背景技术
年来,个性化推荐已经成为各类平台(电子商务,新闻媒体和社交网络)的核心技术。该技术对用户和商品之间的复杂交互关系建模,学习用户和商品的向量表示。然后,通过学习到的用户和商品向量间的点积计算估计用户和商品的相似度来实现个性化推荐。属性信息作为广泛存在的对商品的直接描述信息经常被用来解决推荐***中的数据稀疏性问题。属性感知推荐方法可以分为两类:一类是可以对属性间的二阶交叉特征建模的基于因子分解机的方法;一类是学习属性的向量表示并连接不同属性的向量作为模型输入的基于深度神经网络的方法。但是,在真实应用场景中经常出现属性信息丢失的情况,目前的解决方法均因为在训练模型时引入了偏置信息导致不能获得最优模型。
发明内容
本发明为了克服以上技术的不足,提供了一种利用属性信息缓解了稀疏性问题,通过属性感知的注意力机制对用户偏好建模提升模型推荐效果的方法。
本发明克服其技术问题所采用的技术方案是:
一种基于属性感知注意图卷积神经网络的个性化推荐方法,包括如下步骤:
a)在商品交易数据集中的所有数据中随机选取80%的数据作为训练数据,剩余20%数据做测试数据,从训练数据中随机选取10%的数据作为验证集调试模型参数;
b)构建包含用户节点、商品节点和属性节点交互图的邻接矩阵;
c)建立并训练基于属性感知注意图卷积神经网络模型;
d)计算用户对商品的偏好程度,实现商品推荐。
进一步的,步骤b)包括如下步骤:
b-1)通过公式G=(w,ε)构建无向图G,式中w为包含了用户节点ui、商品节点vj以及属性节点ak的集合,ε为商品与商品属性之间的边以及用户和购买过的商品之间的边的集合,i∈{1,…,Nu},j∈{1,…,Nv},k∈{1,…,Na},Nu为用户节点的个数,Nv为商品节点的个数,Na为属性节点的个数;
进一步的,步骤c)包括如下步骤:
c-1)通过公式计算用户u传递到商品v信息的向量mv←u,式中W1与W2为可训练的参数矩阵,W1,W2∈Rd′×d,d与d′为参数矩阵的维度信息,为从用户传递至商品信息量的参数,eu为用户u的表征,ev为商品v的表征;
c-5)通过公式计算用户u对商品v的影响值式中为参数矩阵,g()为可以度量向量间相似度的相似函数,通过公式计算属性a对商品v的影响值式中为参数矩阵,通过公式计算商品v对商品v自连接的影响值式中为参数矩阵,通过公式计算每个用户表征对商品表征的贡献度c-6)通过公式计算商品v传递到用户u的向量mu←v,式中为从商品传递至用户信息量的参数,通过公式更新用户u的表征eu,式中mu←u为被保留的信息,为与用户u相邻的商品集合;
过的的商品的数据,v-为用户没有购买过的的商品的数据,R+为用户和商品的交互数据集,R-为随机获得的负样例集合,λ为正则化权重,Θ为模型参数,φ为sigmoid函数。
本发明的有益效果是:利用属性信息缓解了稀疏性问题;提出了基于用户-商品-属***互图的图卷积神经网络推荐算法缓解了属性缺失问题;通过属性感知的注意力机制对用户偏好建模,提升了模型的推荐效果,并可以通过对用户的偏好建模进行推荐。
附图说明
图1为本发明的流程图。
具体实施方式
下面结合附图1对本发明做进一步说明。
一种基于属性感知注意图卷积神经网络的个性化推荐方法,包括如下步骤:
a)在商品交易数据集中的所有数据中随机选取80%的数据作为训练数据,剩余20%数据做测试数据,从训练数据中随机选取10%的数据作为验证集调试模型参数。
例如采用四个亚马逊公开数据集(办公用品、服装、玩具与游戏和Kindle商店),为了解决数据不均衡问题,我们过滤掉交易量小于5的商品。数据集中的所有数据中随机选取了80%作为训练数据,20%做测试数据,从训练集中随机选取10%的数据作为验证集调试模型参数。因此每个用户至少有4个交易信息在训练集,1个交易信息在测试集。
b)构建包含用户节点、商品节点和属性节点交互图的邻接矩阵。
c)建立并训练基于属性感知注意图卷积神经网络模型。
d)计算用户对商品的偏好程度,实现商品推荐。
利用属性信息缓解了稀疏性问题;提出了基于用户-商品-属***互图的图卷积神经网络推荐算法缓解了属性缺失问题;通过属性感知的注意力机制对用户偏好建模,提升了模型的推荐效果,并可以通过对用户的偏好建模进行推荐。
进一步的,步骤b)包括如下步骤:
b-1)通过公式G=(w,ε)构建无向图G,式中w为包含了用户节点ui、商品节点vj以及属性节点ak的集合,ε为商品与商品属性之间的边以及用户和购买过的商品之间的边的集合,i∈{1,…,Nu},j∈{1,…,Nv},k∈{1,…,Na},Nu为用户节点的个数,Nv为商品节点的个数,Na为属性节点的个数。根据用户和商品的历史交互信息连接用户节点和商品节点;根据商品和属性的所属关系连接商品节点和属性节点。
b-2)通过拉普拉斯矩阵利用公式建立用户节点、商品节点、属性节点交互图的节点关系,式中其表示商品节点到每一个用户节点的权重,分别表示用户节点到每一个商品节点和属性节点到每一商品节点的权重,R为实数矩阵。
进一步的,步骤c)包括如下步骤:
c-1)学习商品的表征。对任意一个商品v,它的表征通过累计从相邻的用户和属性传递来的信息学习,其中和分别对应与商品相邻的用户集合以及该商品的属性集合,基于信息传递的思想通过公式计算用户u传递到商品v信息的向量mv←u,式中W1与W2为可训练的参数矩阵,W1,W2∈Rd′×d,是可训练的参数矩阵,可以从用户节点ui提取有用信息,d与d′为参数矩阵的维度信息,为从用户传递至商品信息量的参数,eu为用户u的表征,ev为商品v的表征,⊙为点积计算;
c-5)假设不同邻居节点对商品v有不同的影响,因此设计相应的注意力机制估计邻居节点对商品v的影响,通过公式计算用户u对商品v的影响值式中为参数矩阵,g()为可以度量向量间相似度的相似函数,通过公式计算属性a对商品v的影响值式中为参数矩阵,通过公式计算商品v对商品v自连接的影响值式中为参数矩阵,通过公式计算每个用户表征对商品表征的贡献度
c-9)通过公式计算损失函数,式中O={(u,v+,v-)(u,v+)∈R+,(u,v-)∈R-},v+为用户购买过的的商品的数据,v-为用户没有购买过的的商品的数据,R+为用户和商品的交互数据集,R-为随机获得的负样例集合,λ为正则化权重,Θ为模型参数,φ为sigmoid函数。
Claims (4)
1.一种基于属性感知注意图卷积神经网络的个性化推荐方法,其特征在于,包括如下步骤:
a)在商品交易数据集中的所有数据中随机选取80%的数据作为训练数据,剩余20%数据做测试数据,从训练数据中随机选取10%的数据作为验证集调试模型参数;
b)构建包含用户节点、商品节点和属性节点交互图的邻接矩阵;
c)建立并训练基于属性感知注意图卷积神经网络模型;
d)计算用户对商品的偏好程度,实现商品推荐。
3.根据权利要求1所述的基于属性感知注意图卷积神经网络的个性化推荐方法,其特征在于,步骤c)包括如下步骤:
c-1)通过公式计算用户u传递到商品v信息的向量mv←u,式中W1与W2为可训练的参数矩阵,W1,W2∈Rd′×d,d与d′为参数矩阵的维度信息,为从用户传递至商品信息量的参数,eu为用户u的表征,ev为商品v的表征;
c-5)通过公式计算用户u对商品v的影响值式中为参数矩阵,g()为可以度量向量间相似度的相似函数,通过公式计算属性a对商品v的影响值式中为参数矩阵,通过公式计算商品v对商品v自连接的影响值式中为参数矩阵,通过公式
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010498841.5A CN111737569B (zh) | 2020-06-04 | 2020-06-04 | 基于属性感知注意图卷积神经网络的个性化推荐方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010498841.5A CN111737569B (zh) | 2020-06-04 | 2020-06-04 | 基于属性感知注意图卷积神经网络的个性化推荐方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111737569A true CN111737569A (zh) | 2020-10-02 |
CN111737569B CN111737569B (zh) | 2022-05-03 |
Family
ID=72648445
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010498841.5A Active CN111737569B (zh) | 2020-06-04 | 2020-06-04 | 基于属性感知注意图卷积神经网络的个性化推荐方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111737569B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112232925A (zh) * | 2020-11-02 | 2021-01-15 | 哈尔滨工程大学 | 一种融合知识图谱对商品进行个性化推荐的方法 |
CN115187343A (zh) * | 2022-07-20 | 2022-10-14 | 山东省人工智能研究院 | 基于注意图卷积神经网络的多行为推荐方法 |
CN117494354A (zh) * | 2023-10-09 | 2024-02-02 | 杭州皓见新能源科技有限公司 | 一种基于代数链接度的光伏储能网络线路优化方法和*** |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150039539A1 (en) * | 2013-08-02 | 2015-02-05 | Telefonaktiebolaget L M Ericsson (Publ) | Method and Apparatus For Propagating User Preference Information in a Communications Network |
CN108874914A (zh) * | 2018-05-29 | 2018-11-23 | 吉林大学 | 一种基于图卷积与神经协同过滤的信息推荐方法 |
CN110674407A (zh) * | 2019-09-30 | 2020-01-10 | 杭州电子科技大学 | 基于图卷积神经网络的混合推荐方法 |
CN111062775A (zh) * | 2019-12-03 | 2020-04-24 | 中山大学 | 一种基于注意力机制的推荐***召回方法 |
US10650432B1 (en) * | 2016-11-28 | 2020-05-12 | Amazon Technologies, Inc. | Recommendation system using improved neural network |
-
2020
- 2020-06-04 CN CN202010498841.5A patent/CN111737569B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150039539A1 (en) * | 2013-08-02 | 2015-02-05 | Telefonaktiebolaget L M Ericsson (Publ) | Method and Apparatus For Propagating User Preference Information in a Communications Network |
US10650432B1 (en) * | 2016-11-28 | 2020-05-12 | Amazon Technologies, Inc. | Recommendation system using improved neural network |
CN108874914A (zh) * | 2018-05-29 | 2018-11-23 | 吉林大学 | 一种基于图卷积与神经协同过滤的信息推荐方法 |
CN110674407A (zh) * | 2019-09-30 | 2020-01-10 | 杭州电子科技大学 | 基于图卷积神经网络的混合推荐方法 |
CN111062775A (zh) * | 2019-12-03 | 2020-04-24 | 中山大学 | 一种基于注意力机制的推荐***召回方法 |
Non-Patent Citations (2)
Title |
---|
ADAM KOSIOREK: "神经网络中的注意力机制", 《机器人产业》 * |
GANG LIU, JIABAO GUO: "Bidirectional LSTM with attention mechanism and convolutional layer for text classification", 《NEUROCOMPUTING》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112232925A (zh) * | 2020-11-02 | 2021-01-15 | 哈尔滨工程大学 | 一种融合知识图谱对商品进行个性化推荐的方法 |
CN115187343A (zh) * | 2022-07-20 | 2022-10-14 | 山东省人工智能研究院 | 基于注意图卷积神经网络的多行为推荐方法 |
CN115187343B (zh) * | 2022-07-20 | 2023-08-08 | 山东省人工智能研究院 | 基于注意图卷积神经网络的多行为推荐方法 |
CN117494354A (zh) * | 2023-10-09 | 2024-02-02 | 杭州皓见新能源科技有限公司 | 一种基于代数链接度的光伏储能网络线路优化方法和*** |
Also Published As
Publication number | Publication date |
---|---|
CN111737569B (zh) | 2022-05-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220335501A1 (en) | Item recommendations using convolutions on weighted graphs | |
CN111428147B (zh) | 结合社交和兴趣信息的异源图卷积网络的社交推荐方法 | |
CN111737569B (zh) | 基于属性感知注意图卷积神经网络的个性化推荐方法 | |
CN109785062B (zh) | 一种基于协同过滤模型的混合神经网络推荐*** | |
CN107563841A (zh) | 一种基于用户评分分解的推荐*** | |
CN113468227B (zh) | 基于图神经网络的信息推荐方法、***、设备和存储介质 | |
CN112416986B (zh) | 基于分层个性化联邦学习的用户画像实现方法及*** | |
CN113065974B (zh) | 一种基于动态网络表示学习的链路预测方法 | |
CN108415913A (zh) | 基于不确定邻居的人群定向方法 | |
CN113609398A (zh) | 一种基于异构图神经网络的社交推荐方法 | |
CN108446291A (zh) | 用户信用的实时评分方法及评分*** | |
CN108053050A (zh) | 点击率预估方法、装置、计算设备及存储介质 | |
CN115860880B (zh) | 基于多层异质图卷积模型的个性化商品推荐方法及*** | |
CN116757763A (zh) | 基于知识图谱深度学习的电子商务推荐方法及*** | |
CN113379494A (zh) | 基于异质社交关系的商品推荐方法、装置和电子设备 | |
CN109670927A (zh) | 信用额度的调整方法及其装置、设备、存储介质 | |
CN112364242A (zh) | 针对上下文感知型的图卷积推荐*** | |
CN107274042A (zh) | 一种业务参与对象的风险识别方法及装置 | |
CN115187343A (zh) | 基于注意图卷积神经网络的多行为推荐方法 | |
CN112016000B (zh) | 一种基于卷积协同过滤的电影组推荐方法及*** | |
CN114139066A (zh) | 一种基于图神经网络的协同过滤推荐*** | |
CN111949894B (zh) | 一种基于多空间交互的协同过滤个性化推荐方法 | |
CN112435034A (zh) | 一种基于多网络图聚合的营销套利黑产的识别方法 | |
CN114861072B (zh) | 一种基于层间组合机制的图卷积网络推荐方法及装置 | |
CN115935079A (zh) | 一种基于簇的图协同过滤推荐方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |