CN114117142A - 一种基于注意力机制与超图卷积的标签感知推荐方法 - Google Patents

一种基于注意力机制与超图卷积的标签感知推荐方法 Download PDF

Info

Publication number
CN114117142A
CN114117142A CN202111461962.3A CN202111461962A CN114117142A CN 114117142 A CN114117142 A CN 114117142A CN 202111461962 A CN202111461962 A CN 202111461962A CN 114117142 A CN114117142 A CN 114117142A
Authority
CN
China
Prior art keywords
user
hypergraph
item
label
tag
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111461962.3A
Other languages
English (en)
Inventor
王海艳
尤恺翔
骆健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Posts and Telecommunications
Original Assignee
Nanjing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Posts and Telecommunications filed Critical Nanjing University of Posts and Telecommunications
Priority to CN202111461962.3A priority Critical patent/CN114117142A/zh
Publication of CN114117142A publication Critical patent/CN114117142A/zh
Priority to PCT/CN2022/106913 priority patent/WO2023098098A1/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/901—Indexing; Data structures therefor; Storage structures
    • G06F16/9024—Graphs; Linked lists
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/906—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明一种基于注意力机制与超图卷积的标签感知推荐方法，标签感知推荐方法通过用户与项目的直接交互关系和用户、项目、标签的简介交互关系分别在用户侧和项目侧构建不同的超图，通过超图卷积提取高阶关系反应的信息，并采用注意力机制对不同重要程度的信息做出区分，通过得到的特征表示进行推荐。本发明引入了超图卷积来挖掘高阶关系以进行特征提取，采用注意力机制对于用户‑项目直接交互的超图与标签感知构建的超图获得的特征进行权重分配，能够更好地区分不同重要程度的信息，通过巧妙地结合超图卷积和注意力机制，本发明提出的方法可以充分提取用户‑项目的直接交互关系和与标签的交互关系中的特征，有效提高推荐方法的性能。

Description

一种基于注意力机制与超图卷积的标签感知推荐方法
技术领域
本发明属于信息服务、计算机软件技术应用领域，具体的说是涉及一种基于注意力机制与超图卷积的标签感知推荐方法。
背景技术
随着网络各种信息资源的数量飞速增长，如何从巨大的数据量中将符合需求的资源或商品推荐给用户越来越受到工业界和学术界的关注，这就需求服务提供者要有合适的推荐方法。为了提高推荐准确性，许多互联网服务提供者采用了用户生成内容(UGC)的标签***，允许用户主动给商品、视频、信息等打上标签。传统的如协同过滤等推荐方法难以体现用户和项目的复杂的、多种的、高阶的交互关系，因此效果不佳。随着深度学习的方法的引入，基于图神经网络的推荐方法因可以反应拓扑结构而得到关注。然而，普通的图结构仅仅通过边来反应结点之间的两两关系，却无法反应三者及三者以上的关系。
发明内容
为了解决标签感知推荐中用户、项目、标签的复杂高阶关系无法使用传统的图神经网络来体现的问题，本发明引入了超图来建模结点之间的高阶关系，利用超图卷积完成神经网络中信息的传递，并使用注意力机制来反应不同信息的重要程度，以此有效缓解传统推荐方法中高阶信息丢失的问题。
为了达到上述目的，本发明是通过以下技术方案实现的：
本发明是一种基于注意力机制与超图卷积的标签感知推荐方法，标签感知推荐方法通过用户与项目的直接交互关系和用户、项目、标签的简介交互关系分别在用户侧和项目侧构建不同的超图，通过超图卷积提取高阶关系反应的信息，并采用注意力机制对不同重要程度的信息做出区分，通过得到的特征表示进行推荐，具体包括如下步骤：
步骤1：初始化用户与项目的特征表示得到u、i；
步骤2：根据用户和项目分别与标签的交互关系得到标签表示的用户特征utag和项目特征itag；
步骤3：根据用户与项目、用户与标签、项目与标签的交互关系构建三个交互二部图Guser-item、Guser-tag、Gitem-tag；
步骤4：根据步骤3得到的用户与项目二部图分别构建直接交互关系表示的用户侧和项目侧的超图结构
Figure BDA0003388114130000021
步骤5：根步骤3得到的用户与标签、项目与标签二部图分别构建标签关系表示的用户侧和项目侧的超图结构
Figure BDA0003388114130000022
步骤6：对步骤1得到的特征u、i用步骤4得到的两个超图
Figure BDA0003388114130000023
Figure BDA0003388114130000024
分别进行超图卷积，从而得到用户侧和项目侧更新后的直接关系表示的邻域特征表示u1、i1；
步骤7：对步骤1得到的特征u、i步骤5到的两个超图
Figure BDA0003388114130000025
分别进行超图卷积，从而得到用户侧和项目侧更新后的标签关系表示的邻域特征表示u2、i2；
步骤8：使用注意力机制对步骤2、步骤6、步骤7得到的特征进行处理以得到不同特征表示的权重来得到最终的用户与项目特征表示u*、i*；
步骤9：根据第八步得到的用户与项目特征表示进行拼接得到z＝[u*；i*]，将其输入到全连接层中并利用Sigmoid函数获得预测概率，根据评分进行推荐。
本发明的进一步改进在于：在步骤2中，根据用户打的标签的次数和项目被打标签的次数，初始化用户和项目的标签表示特征，并进行归一化处理。
本发明的进一步改进在于：在步骤4中：根据用户与项目二部图分别构建直接交互关系表示的用户侧和项目侧的超图。以用户侧为例：若两个项目m、n之间存在路径，且路径中经过的用户数小于k，则这两个项目为k阶可到达邻居；对于项目m，若其有k阶可到达邻居n且用户u与m直接交互，则用户u是项目n的k阶可达用户。对于每个项目，其k阶可达用户视为一个集合，集合上用户作为结点，集合即可视为超边，因而构建超图
Figure BDA0003388114130000031
项目侧与用户侧同理，构建超图
Figure BDA0003388114130000032
本发明的进一步改进在于：在步骤5中根据用户与标签、项目与标签二部图分别构建标签关系表示的用户侧和项目侧的超图。思想与第四步类似，但是并非采用用户-项目关系，而是分别采用用户-标签和项目-标签关系。以用户侧为例：若两个标签m、n之间存在路径，且路径中经过的用户数小于k，则这两个标签为k阶可到达邻居；对于标签m，若其有k阶可到达邻居n且用户u与m直接交互，则用户u是标签n的k阶可达用户。对于每个标签，其k阶可达用户视为一个集合，集合上用户作为结点，集合即可视为超边，因而构建超图
Figure BDA0003388114130000033
项目侧与用户侧同理，构建超图
Figure BDA0003388114130000034
本发明的有益效果是：
(1)本发明利用超图数据结构的特点表示用户、项目的高阶关系，并利用超图卷积来更新信息，与图神经网络相比，可以在信息传递过程中减少信息的损失，充分利用高阶的交互关系以获取领域特征表示。
(2)本发明结合了注意力机制，有效地用多种特征表示中区分不同重要程度的特征，避免了高价值信息被低价值信息喧宾夺主。
(3)在标签感知推荐中，利用用户、项目、标签三者之间的关系进行特征表示和关系建模，充分利用多种信息以进行特征表示。
(4)在结果预测中采用先对用户侧和项目侧的特征进行拼接再用全连接层和Sigmoid激活函数来处理的方法，减少了直接将特征内积导致的信息丢失问题的影响。
附图说明
图1是用户、项目、标签关系图。
图2是多种表示超图的超图卷积。
图3是基于注意力机制的多特征处理过程。
图4是评分预测过程。
具体实施方式
以下将以图式揭露本发明的实施方式，为明确说明起见，许多实务上的细节将在以下叙述中一并说明。然而，应了解到，这些实务上的细节不应用以限制本发明。也就是说，在本发明的部分实施方式中，这些实务上的细节是非必要的。此外，为简化图式起见，一些习知惯用的结构与组件在图式中将以简单的示意的方式绘示之。
为了解决标签感知推荐中的问题，本发明引入了超图来建模结点之间的高阶关系，利用超图卷积完成神经网络中信息的传递，并使用注意力机制来反应不同信息的重要程度，以此有效缓解传统推荐方法中高阶信息丢失的问题。图1给出用户、项目、标签之间的交互关系，其中既有用户与项目的直接交互关系，又有用户-标签和项目-标签的关系。为了从复杂的关系中提取特征进行推荐，本发明引入了注意力机制和超图卷积。
图2-3所示，本发明是一种基于注意力机制与超图卷积的标签感知推荐方法，该方法通过用户与项目的直接交互关系和用户、项目、标签的简介交互关系分别在用户侧和项目侧构建不同的超图，通过超图卷积提取高阶关系反应的信息，并采用注意力机制对不同重要程度的信息做出区分，通过得到的特征表示进行推荐，具体包括如下步骤：
步骤1：初始化特征。这里在用户侧根据用户ID、性别、年龄等个人信息建立初始特征u，在项目侧根据商品信息建立初始特征i。在这一步中，不涉及标签感知的部分。
步骤2：用元组F＝(U，I，T，A)来表示用户集合U、项目集合I、标签集合T和三者关系表示集合A。在用户-标签特征中，将用户对标签的标记次数表示特征
Figure BDA0003388114130000051
同样的，项目-标签特征用
Figure BDA0003388114130000052
其中
Figure BDA0003388114130000053
和
Figure BDA0003388114130000054
分别表示用户u和项目i打上标记p的次数，σ代表归一化操作。
步骤3：根据用户与项目、用户与标签、项目与标签的交互关系构建三个交互二部图Guser-item、Guser-tag、Gitem-tag。图1可视为三个二部图的结合表示，建立二部图，是为了构建超图结构，其中用户与项目的二部图使用用户与项目的直接交互，如评分矩阵。
步骤4：根据用户与项目二部图分别构建直接交互关系表示的用户侧和项目侧的超图。以用户侧为例：若两个项目m、n之间存在路径，且路径中经过的用户数小于k，则这两个项目为k阶可到达邻居；对于项目m，若其有k阶可到达邻居n且用户u与m直接交互，则用户u是项目n的k阶可达用户。对于每个项目，其k阶可达用户视为一个集合，集合上用户作为结点，集合即可视为超边，因而构建超图
Figure BDA0003388114130000055
项目侧与用户侧同理，构建超图
Figure BDA0003388114130000056
具体为：若两个用户u、v之间存在路径，且路径中经过的项目数小于k，则这两个用户为k阶可到达邻居；对于用户u，若其有k阶可到达邻居v且项目m与u直接交互，则项目m是用户u的k阶可达项目，对于每个用户，其k阶可达项目视为一个集合，集合上项目作为结点，集合即可视为超边，因而构建超图
Figure BDA0003388114130000057
步骤5：根据用户与标签、项目与标签二部图分别构建标签关系表示的用户侧和项目侧的超图。以用户侧为例：若两个标签m、n之间存在路径，且路径中经过的用户数小于k，则这两个标签为k阶可到达邻居；对于标签m，若其有k阶可到达邻居n且用户u与m直接交互，则用户u是标签n的k阶可达用户。对于每个标签，其k阶可达用户视为一个集合，集合上用户作为结点，集合即可视为超边，因而构建超图
Figure BDA0003388114130000061
项目侧与用户侧同理，构建超图
Figure BDA0003388114130000062
具体为：若两个标签m、n之间存在路径，且路径中经过的项目数小于k，则这两个标签为k阶可到达邻居；对于标签m，若其有k阶可到达邻居n且项目p与m直接交互，则项目p是标签n的k阶可达项目，对于每个标签，其k阶可达项目视为一个集合，集合上项目作为结点，集合即可视为超边，因而构建超图
Figure BDA0003388114130000063
步骤6：将超图结构使用关联矩阵的形式表达H＝(V，E)，其中V为结点集合，E为超边集合，使用如下方法来表示结点v是否在超边e上：
Figure BDA0003388114130000064
因此，得到超图
Figure BDA0003388114130000065
的关联矩阵表示Hd-user、Hd-item。
以用户侧为例，超图卷积可以表示成：
Figure BDA0003388114130000066
这里采用了频谱的方法进行超图卷积。其中Θ(l)表示第l层上的可学习的参数矩阵，σ为激活函数，Dv为结点的度矩阵，DE为超边的度矩阵。Hd-user为超图
Figure BDA0003388114130000067
的关联矩阵，H＝(V，E)，其中V为结点集合，E为超边集合。与
Figure BDA0003388114130000068
的相乘操作表示用户侧直接交互关系表示超图
Figure BDA0003388114130000069
上从结点特征到超边特征的聚合，与Hd-user的相乘操作表示
Figure BDA00033881141300000610
上从超边特征到结点特征的聚合。同时，根据ResNet的思想，在超图卷积的每一层中都会通过加上原始特征以保留之前的特征的影响，以防止邻居特征影响过大而导致初始特征无法得到体现。
项目侧与用户侧同理，超图卷积可以表示成：
Figure BDA0003388114130000071
其中：Θ(l)表示第l层上的可学习的参数矩阵，σ为激活函数，Dv为结点的度矩阵，DE为超边的度矩阵。Hd-item为超图
Figure BDA0003388114130000072
的关联矩阵，H＝(V，E)，其中V为结点集合，E为超边集合。与
Figure BDA0003388114130000073
的相乘操作表示项目侧直接交互关系表示超图
Figure BDA0003388114130000074
上从结点特征到超边特征的聚合，与Hd-item的相乘操作表示
Figure BDA0003388114130000075
上从超边特征到结点特征的聚合。
由此，在超图卷积的每一层上，通过结点-超边-结点的形式进行信息更新，以超图神经网络的形式从高阶关系中提取信息。
步骤7：与步骤6相似，得到超图
Figure BDA0003388114130000076
的关联矩阵表示Ht-user、Ht-item。
用户侧超图卷积可以表示成：
Figure BDA0003388114130000077
其中：Θ(l)表示第l层上的可学习的参数矩阵，σ为激活函数，Dv为结点的度矩阵，DE为超边的度矩阵。
Figure BDA0003388114130000078
为超图
Figure BDA0003388114130000079
的关联矩阵，H＝(V，E)，其中V为结点集合，E为超边集合。与
Figure BDA00033881141300000710
的相乘操作表示用户侧标签表示超图
Figure BDA00033881141300000711
上从结点特征到超边特征的聚合，与Ht-user的相乘操作表示
Figure BDA00033881141300000712
上从超边特征到结点特征的聚合。
项目侧超图卷积可以表示成：
Figure BDA00033881141300000713
其中：Θ(l)表示第l层上的可学习的参数矩阵，σ为激活函数，Dv为结点的度矩阵，DE为超边的度矩阵。Ht-item为超图
Figure BDA0003388114130000081
的关联矩阵，H＝(V，E)，其中V为结点集合，E为超边集合。与
Figure BDA0003388114130000082
的相乘操作表示项目侧标签表示超图
Figure BDA0003388114130000083
上从结点特征到超边特征的聚合，与
Figure BDA0003388114130000084
的相乘操作表示
Figure BDA0003388114130000085
上从超边特征到结点特征的聚合。
步骤8：如图3所示，根据步骤2、步骤6、步骤7得到的特征utag、itag、u1、i1、u2、i2，使用注意力机制得到用户侧和项目侧的最终特征表示u*、i*。
以用户侧为例，因为utag与u1、u2的维度不同，不适合直接进行相加操作。因此将它们分别进行拼接操作得到u1-tag和u2-tag。
得到u1-tag和u2-tag后，再使用注意力机制将两种特征表示处理成最终特征表示：
a(u，k)＝WTtanh(Wuk-tag+b2)
Figure BDA0003388114130000086
根据注意力机制得到权重可以获得用户侧最终特征表示u*
u*＝α(u，1)u1-tag+α(u，2)u2-tag
将itag与i1、i2分别进行拼接操作得到i1-tag和i2-tag，再使用注意力机制将两种特征表示处理成一种特征表示：
a(i，k)＝WTtanh(Wik-tag+b2)
Figure BDA0003388114130000087
根据注意力机制得到权重获得项目侧最终特征表示i*：
i*＝α(i，1)i1-tag+α(i，2)u2-tag。
步骤9：如图4所示，根据u*与i*进行拼接操作得到z＝[u*；i*]，，并采用Sigmoid函数作为激活函数得到用户-项目概率预测以此进行推荐。
Figure BDA0003388114130000091
根据得到的概率预测，将项目进行Top-K排序推荐给用户。
使用交叉熵函数作为损失函数进行模型训练：
Figure BDA0003388114130000092
其中X为训练样本集合。
本发明引入了超图卷积来挖掘高阶关系以进行特征提取。同时，采用注意力机制对于用户-项目直接交互的超图与标签感知构建的超图获得的特征进行权重分配，能够更好地区分不同重要程度的信息。通过巧妙地结合超图卷积和注意力机制，本发明提出的方法可以充分提取用户-项目的直接交互关系和与标签的交互关系中的特征，有效提高推荐方法的性能。
以上所述仅为本发明的实施方式而已，并不用于限制本发明。对于本领域技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原理的内所作的任何修改、等同替换、改进等，均应包括在本发明的权利要求范围之内。

Claims (8)

1.一种基于注意力机制与超图卷积的标签感知推荐方法，其特征在于：标签感知推荐方法通过用户与项目的直接交互关系和用户、项目、标签的简介交互关系分别在用户侧和项目侧构建不同的超图，通过超图卷积提取高阶关系反应的信息，并采用注意力机制对不同重要程度的信息做出区分，通过得到的特征表示进行推荐，具体包括如下步骤：
步骤1：初始化用户u与项目i的特征表示，得到用户u的初始特征u和项目i的初始特征i；
步骤2：根据用户和项目分别与标签的交互关系得到标签表示的用户特征utag和项目特征itag；
步骤3：根据用户与项目、用户与标签、项目与标签的交互关系构建三个交互二部图Guser-item、Guser-tag、Gitem-tag；
步骤4：根据步骤3得到的用户与项目二部图分别构建直接交互关系表示的用户侧和项目侧的超图结构
Figure FDA0003388114120000011
步骤5：根步骤3得到的用户与标签、项目与标签二部图分别构建标签关系表示的用户侧和项目侧的超图结构
Figure FDA0003388114120000012
步骤6：对步骤1得到的特征u、i用步骤4得到的两个超图
Figure FDA0003388114120000013
Figure FDA0003388114120000014
分别进行超图卷积，从而得到用户侧和项目侧更新后的直接关系表示的邻域特征表示u1、i1；
步骤7：对步骤1得到的特征u、i步骤5到的两个超图
Figure FDA0003388114120000015
分别进行超图卷积，从而得到用户侧和项目侧更新后的标签关系表示的邻域特征表示u2、i2；
步骤8：使用注意力机制对步骤2、步骤6、步骤7得到的特征进行处理以得到不同特征表示的权重来得到最终的用户与项目特征表示u*、i*；
步骤9：根据第八步得到的用户与项目特征表示进行拼接得到z＝[u*；i*]，将其输入到全连接层中并利用Sigmoid函数获得预测概率，根据评分进行推荐。
2.根据权利要求1所述一种基于注意力机制与超图卷积的标签感知推荐方法，其特征在于：所述步骤4中用户侧的超图结构
Figure FDA0003388114120000021
的构建具体为：若两个项目m、n之间存在路径，且路径中经过的用户数小于k，则这两个项目为k阶可到达邻居；对于项目m，若其有k阶可到达邻居n且用户u与m直接交互，则用户u是项目n的k阶可达用户，对于每个项目，其k阶可达用户视为一个集合，集合上用户作为结点，集合即可视为超边，因而构建超图
Figure FDA0003388114120000022
3.根据权利要求2所述一种基于注意力机制与超图卷积的标签感知推荐方法，其特征在于：所述步骤4中项目侧的超图结构
Figure FDA0003388114120000023
的构建具体为：
若两个用户u、v之间存在路径，且路径中经过的项目数小于k，则这两个用户为k阶可到达邻居；对于用户u，若其有k阶可到达邻居v且项目m与u直接交互，则项目m是用户u的k阶可达项目，对于每个用户，其k阶可达项目视为一个集合，集合上项目作为结点，集合即可视为超边，因而构建超图
Figure FDA0003388114120000024
4.根据权利要求1所述一种基于注意力机制与超图卷积的标签感知推荐方法，其特征在于：所述步骤5中用户侧的超图结构
Figure FDA0003388114120000025
的构建具体为：若两个标签m、n之间存在路径，且路径中经过的用户数小于k，则这两个标签为k阶可到达邻居；对于标签m，若其有k阶可到达邻居n且用户u与m直接交互，则用户u是标签n的k阶可达用户，对于每个标签，其k阶可达用户视为一个集合，集合上用户作为结点，集合即可视为超边，因而构建超图
Figure FDA0003388114120000026
5.根据权利要求4所述一种基于注意力机制与超图卷积的标签感知推荐方法，其特征在于：所述步骤5中项目侧的超图结构
Figure FDA0003388114120000031
的构建具体为：若两个标签m、n之间存在路径，且路径中经过的项目数小于k，则这两个标签为k阶可到达邻居；对于标签m，若其有k阶可到达邻居n且项目p与m直接交互，则项目p是标签n的k阶可达项目，对于每个标签，其k阶可达项目视为一个集合，集合上项目作为结点，集合即可视为超边，因而构建超图
Figure FDA0003388114120000032
6.根据权利要求1所述一种基于注意力机制与超图卷积的标签感知推荐方法，其特征在于：
所述步骤6中用户侧超图卷积表示为：
Figure FDA0003388114120000033
其中：Θ(l)表示第l层上的可学习的参数矩阵，σ为激活函数，Dv为结点的度矩阵，DE为超边的度矩阵。Hd-user为超图
Figure FDA0003388114120000034
的关联矩阵，H＝(V，E)，其中V为结点集合，E为超边集合，与
Figure FDA0003388114120000035
的相乘操作表示用户侧直接交互关系表示超图
Figure FDA0003388114120000036
上从结点特征到超边特征的聚合，与Hd-user的相乘操作表示
Figure FDA0003388114120000037
上从超边特征到结点特征的聚合；
所述步骤6中项目侧超图卷积表示为：
Figure FDA0003388114120000038
其中：Θ(l)表示第l层上的可学习的参数矩阵，σ为激活函数，Dv为结点的度矩阵，DE为超边的度矩阵，Hd-item为超图
Figure FDA0003388114120000039
的关联矩阵，H＝(V，E)，其中V为结点集合，E为超边集合，与
Figure FDA00033881141200000310
的相乘操作表示项目侧直接交互关系表示超图
Figure FDA00033881141200000311
上从结点特征到超边特征的聚合，与Hd-item的相乘操作表示
Figure FDA0003388114120000041
上从超边特征到结点特征的聚合。
7.根据权利要求1所述一种基于注意力机制与超图卷积的标签感知推荐方法，其特征在于：
所述步骤7中用户侧超图卷积表示为：
Figure FDA0003388114120000042
其中：Θ(l)表示第l层上的可学习的参数矩阵，σ为激活函数，Dv为结点的度矩阵，DE为超边的度矩阵，
Figure FDA0003388114120000043
为超图
Figure FDA0003388114120000044
的关联矩阵，H＝(V，E)，其中V为结点集合，E为超边集合，与
Figure FDA0003388114120000045
的相乘操作表示用户侧标签表示超图
Figure FDA0003388114120000046
上从结点特征到超边特征的聚合，与Ht-user的相乘操作表示
Figure FDA0003388114120000047
上从超边特征到结点特征的聚合；
所述步骤7中项目侧超图卷积表示为：
Figure FDA0003388114120000048
其中：Θ(l)表示第l层上的可学习的参数矩阵，σ为激活函数，Dv为结点的度矩阵，DE为超边的度矩阵。Ht-item为超图
Figure FDA0003388114120000049
的关联矩阵，H＝(V，E)，其中V为结点集合，E为超边集合，与
Figure FDA00033881141200000410
的相乘操作表示项目侧标签表示超图
Figure FDA00033881141200000411
上从结点特征到超边特征的聚合，与Ht-item的相乘操作表示
Figure FDA00033881141200000412
上从超边特征到结点特征的聚合。
8.根据权利要求1所述一种基于注意力机制与超图卷积的标签感知推荐方法，其特征在于：所述步骤8中用户侧和项目侧特征处理具体为：
根据步骤2、步骤6、步骤7得到的特征utag、itag、u1、i1、u2、i2，使用注意力机制得到用户侧和项目侧的最终特征表示u*、i*，其中：
将utag与u1、u2分别进行拼接操作得到u1-tag和u2-tag，再使用注意力机制将两种特征表示处理成一种特征表示：
a(u，k)＝WTtanh(Wuk-tag+b2)
Figure FDA0003388114120000051
根据注意力机制得到权重获得用户侧最终特征表示u*：
u*＝α(u，1)u1-tag+α(u，2)u2-tag；
将itag与i1、i2分别进行拼接操作得到i1-tag和i2-tag，再使用注意力机制将两种特征表示处理成一种特征表示：
a(i，k)＝WTtanh(Wik-tag+b2)
Figure FDA0003388114120000052
根据注意力机制得到权重获得项目侧最终特征表示i*：
i*＝α(i，1)i1-tag+α(i，2)u2-tag。
CN202111461962.3A 2021-12-02 2021-12-02 一种基于注意力机制与超图卷积的标签感知推荐方法 Pending CN114117142A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202111461962.3A CN114117142A (zh) 2021-12-02 2021-12-02 一种基于注意力机制与超图卷积的标签感知推荐方法
PCT/CN2022/106913 WO2023098098A1 (zh) 2021-12-02 2022-07-21 一种基于注意力机制与超图卷积的标签感知推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111461962.3A CN114117142A (zh) 2021-12-02 2021-12-02 一种基于注意力机制与超图卷积的标签感知推荐方法

Publications (1)

Publication Number Publication Date
CN114117142A true CN114117142A (zh) 2022-03-01

Family

ID=80365627

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111461962.3A Pending CN114117142A (zh) 2021-12-02 2021-12-02 一种基于注意力机制与超图卷积的标签感知推荐方法

Country Status (2)

Country Link
CN (1) CN114117142A (zh)
WO (1) WO2023098098A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114817663A (zh) * 2022-05-05 2022-07-29 杭州电子科技大学 一种基于类别感知图神经网络的服务建模与推荐方法
WO2023098098A1 (zh) * 2021-12-02 2023-06-08 南京邮电大学 一种基于注意力机制与超图卷积的标签感知推荐方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117034778A (zh) * 2023-08-28 2023-11-10 黑龙江省网络空间研究中心(黑龙江省信息安全测评中心、黑龙江省国防科学技术研究院) 基于Hypergraph-Transformer结构反演地上生物量的方法
CN116845889B (zh) * 2023-09-01 2023-12-22 东海实验室 一种基于层次化超图神经网络的电力负载预测方法
CN116894097B (zh) * 2023-09-04 2023-12-22 中南大学 一种基于超图建模的知识图谱标签预测方法
CN117788122B (zh) * 2024-02-23 2024-05-10 山东科技大学 一种基于异质图神经网络商品推荐方法
CN118013131B (zh) * 2024-04-10 2024-06-11 南昌大学 基于评分增强的图神经网络数据推荐方法、装置及介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190325343A1 (en) * 2018-04-19 2019-10-24 National University Of Singapore Machine learning using partial order hypergraphs
CN112417219A (zh) * 2020-11-16 2021-02-26 吉林大学 基于超图卷积的超边链接预测方法
CN113672811A (zh) * 2021-08-24 2021-11-19 广东工业大学 一种基于拓扑信息嵌入的超图卷积协同过滤推荐方法、***及计算机可读存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109063163B (zh) * 2018-08-14 2022-12-02 腾讯科技（深圳）有限公司 一种音乐推荐的方法、装置、终端设备和介质
CN112487200B (zh) * 2020-11-25 2022-06-07 吉林大学 一种改进的包含多重边信息与多任务学习的深度推荐方法
CN113434778B (zh) * 2021-07-20 2023-03-24 陕西师范大学 基于正则化框架和注意力机制的推荐方法
CN114117142A (zh) * 2021-12-02 2022-03-01 南京邮电大学 一种基于注意力机制与超图卷积的标签感知推荐方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190325343A1 (en) * 2018-04-19 2019-10-24 National University Of Singapore Machine learning using partial order hypergraphs
CN112417219A (zh) * 2020-11-16 2021-02-26 吉林大学 基于超图卷积的超边链接预测方法
CN113672811A (zh) * 2021-08-24 2021-11-19 广东工业大学 一种基于拓扑信息嵌入的超图卷积协同过滤推荐方法、***及计算机可读存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JIANWU WAN 等: "Graph Regularized Deep Discrete Hashing for Multi-Label Image Retrieval", IEEE SIGNAL PROCESSING LETTERS, 31 December 2020 (2020-12-31), pages 1 - 5 *
徐冰冰 等: "图卷积神经网络综述", 计算机学报, vol. 43, no. 5, 31 May 2020 (2020-05-31), pages 1 - 26 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023098098A1 (zh) * 2021-12-02 2023-06-08 南京邮电大学 一种基于注意力机制与超图卷积的标签感知推荐方法
CN114817663A (zh) * 2022-05-05 2022-07-29 杭州电子科技大学 一种基于类别感知图神经网络的服务建模与推荐方法
CN114817663B (zh) * 2022-05-05 2023-02-17 杭州电子科技大学 一种基于类别感知图神经网络的服务建模与推荐方法

Also Published As

Publication number Publication date
WO2023098098A1 (zh) 2023-06-08

Similar Documents

Publication Publication Date Title
CN114117142A (zh) 一种基于注意力机制与超图卷积的标签感知推荐方法
CN111382309B (zh) 一种基于图模型的短视频推荐方法、和智能终端和存储介质
US20210004659A1 (en) Webinterface Presentation Using Artificial Neural Networks
CN111881363B (zh) 一种基于图交互网络的推荐方法
WO2023065859A1 (zh) 物品推荐方法、装置及存储介质
CN111488734A (zh) 基于全局交互和句法依赖的情感特征表示学习***及方法
CN111143705B (zh) 一种基于图卷积网络的推荐方法
CN113378048B (zh) 一种基于多视角知识图谱注意力网络的个性化推荐方法
WO2020147409A1 (zh) 一种文本分类方法、装置、计算机设备及存储介质
Guan et al. Bi-directional heterogeneous graph hashing towards efficient outfit recommendation
Xiao et al. Link prediction based on feature representation and fusion
CN112559764A (zh) 一种基于领域知识图谱的内容推荐方法
CN115221413B (zh) 一种基于交互式图注意力网络的序列推荐方法及***
Sun et al. Graph force learning
Amara et al. Cross-network representation learning for anchor users on multiplex heterogeneous social network
CN114925268A (zh) 基于图神经网络的推荐方法、***、电子设备及计算机可读介质
CN114579852A (zh) 一种基于图卷积网络与注意力机制的推荐方法
CN117216281A (zh) 一种基于知识图谱的用户兴趣扩散推荐方法及***
Zhao et al. A novel embedding learning framework for relation completion and recommendation based on graph neural network and multi-task learning
Guan et al. Feature space learning model
Xing et al. AI‐driven user aesthetics preference prediction for UI layouts via deep convolutional neural networks
CN112734519B (zh) 一种基于卷积自编码器网络的商品推荐方法
CN114332472A (zh) 一种基于图神经网络的数据处理方法及装置
Di et al. Structural plan of indoor scenes with personalized preferences
Kala et al. Applicability of deep learning techniques in recommender systems

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination