CN112613602A - 基于知识感知超图神经网络的推荐方法及*** - Google Patents

基于知识感知超图神经网络的推荐方法及*** Download PDF

Info

Publication number
CN112613602A
CN112613602A CN202011567183.7A CN202011567183A CN112613602A CN 112613602 A CN112613602 A CN 112613602A CN 202011567183 A CN202011567183 A CN 202011567183A CN 112613602 A CN112613602 A CN 112613602A
Authority
CN
China
Prior art keywords
hypergraph
user
knowledge
article
super
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011567183.7A
Other languages
English (en)
Inventor
赵磊
张军
赵朋朋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenxing Taibao Intelligent Technology Suzhou Co ltd
Original Assignee
Shenxing Taibao Intelligent Technology Suzhou Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenxing Taibao Intelligent Technology Suzhou Co ltd filed Critical Shenxing Taibao Intelligent Technology Suzhou Co ltd
Priority to CN202011567183.7A priority Critical patent/CN112613602A/zh
Publication of CN112613602A publication Critical patent/CN112613602A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines
    • G06F16/9535Search customisation based on user profiles and personalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种基于知识感知超图神经网络的推荐方法,包括以下步骤:步骤一、构建用户超图,初始超边以与该用户具有交互关系的物品为实体结点;构建物品超图,初始超边以与该物品有交互关系的任一用户具有交互关系的物品为实体结点;步骤二、对用户超图和每个物品超图进行卷积计算;步骤三、计算用户和所有物品的内积,得到用户与所有物品的交互得分。具有将物品的辅助信息整合到用户的向量表示中,从而可以从众多物品中选取出用户更有可能发生交互关系的物品的有益效果。公开了一种基于知识感知超图神经网络的推荐***,包括:数据抓取模块;知识感知超图构建模块;领域卷积模块;超边卷积模块;预测模块。具有操作简单,预测准确的有益效果。

Description

基于知识感知超图神经网络的推荐方法及***
技术领域
本发明涉及知识感知应用技术领域。更具体地说,本发明涉及一种基于知识感知超图神经网络的推荐方法及***。
背景技术
随着互联网的快速发展,推荐***被广泛部署以减轻信息过载的影响。传统的推荐技术是协同过滤,它基于用户和物品标识分配表示向量,然后通过特定的操作(如内积或神经网络)对它们的交互进行建模。然而,在缺少辅助信息的情况下,这些基于协同过滤的方法通常存在稀疏性和冷启动问题。为了解决这些问题,已经探索了多种类型的辅助信息来提高推荐性能,例如物品属性、物品评论和用户的社交网络。
为了缓解传统推荐***的稀疏性和冷启动问题,知识感知图谱作为辅助信息在推荐***领域得到了广泛的研究和应用。然而,大多数现有的基于知识感知图谱的推荐方法存在以下缺点,即用户、项目和实体之间的高阶相关性建模不足,以及简单的聚合策略不能保留邻域中的关系信息。
近年来,知识图谱因其对综合辅助数据建模的灵活性,在推荐***研究中受到越来越多的关注。知识图谱和推荐***的融合关键是如何有效地将辅助信息整合到用户和项目的向量表示中。根据应对这一挑战的方式,现有的基于知识图谱的推荐***可以分为两类,基于路径的和基于图神经网络的方法。基于路径的方法通过在知识图谱上探索目标用户和物品之间的多个元路径来推断用户偏好,这通常需要领域知识。更重要的是,这种类型的方法忽略了知识图谱中隐含的丰富的结构信息,不能充分描述给定目标用户和物品之间的潜在关系。受最近出现的图神经网络的启发,现有的基于图神经网络的方法通过在知识图谱中显式建模高阶连通性来提供显著的性能。然而,这些方法仍然受到两个限制:(1)知识图谱中用户、物品和实体之间的高阶相关性对于数据建模是必不可少的。这些方法主要应用图神经网络通过递归地聚集它们在知识图谱中的原始邻居来丰富目标节点的表示,因此对目标节点和非原始邻居之间的高阶相关性的建模有限制。此外,现有方法采用的图结构对高阶相关性建模和处理有约束,因为图只能表示成对的连接。(2)在邻域聚合时,简单的聚合函数(如均值和最大池化)通常作为聚合函数来执行,以生成邻域嵌入。这种聚合方式破坏了邻域中节点之间丰富的关系信息。因此邻域聚合忽略了邻域中节点之间关系的精细结构。
发明内容
本发明的一个目的是解决至少上述问题,并提供至少后面将说明的优点。
本发明还有一个目的是提供一种基于知识感知超图神经网络的推荐方法,可以克服传统推荐***的稀疏性和冷启动问题,知识感知超图卷积方法可以有效地聚合邻域中不同的邻居并同时保留邻域中的关系信息。
提供一种基于知识感知超图神经网络的推荐***,可以克服传统推荐***的稀疏性和冷启动问题,有效地聚合邻域中不同的邻居并同时保留邻域中的关系信息。
为了实现根据本发明的这些目的和其它优点,提供了一种基于知识感知超图神经网络的推荐方法,包括以下步骤:
步骤一、构建用户超图,其中,用户超图包括用户的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边是基于前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
构建物品超图,其中,物品超图包括物品的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该物品有交互关系的任一用户具有交互关系的物品为实体结点,第2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边以前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
步骤二、对用户超图和每个物品超图进行卷积计算,得到用户超图的单一向量和每个物品超图对应的单一向量;
步骤三、计算用户的单一向量和所有物品的单一向量的内积,再进行非线性变换,得到用户与所有物品的交互得分,该交互得分表示用户与该物品发生交互的概率。
优选的是,采用领域卷积法处理该用户超图的每条初始超边和每条知识感知超边,得到该用户超图的每条超边的单一向量;
采用领域卷积法处理该物品超图的每条知识感知超边,得到该物品超图的每条超边的单一向量。
优选的是,采用超边卷积法处理用户超图的所有超边的单一向量,得到该用户超图的唯一单一向量;
采用超边卷积法处理该物品超图的所有知识感知超边的单一向量得到该物品的唯一单一向量。
优选的是,领域卷积法具体采用以下方法计算:
将l阶超边和l-1阶超边中的实体向量放入一维卷积conv1生成变换矩阵T,然后使用变换矩阵T对l阶超边中的实体向量进行置换和加权得到变换后的若干超边向量,然后使用一维卷积conv2聚合变换后的超边向量得到l阶超边的单一向量,其中,l为大于1的整数,初始超边为1阶超边;
对于初始超边的领域卷积,只将初始超边中的实体向量放入一维卷积conv1生成变换矩阵T。优选的是,对于用户超图:超边卷积法采用连接聚合器聚合用户超图的所有超边单一向量到对应用户和物品的唯一单一向量;
对于任一物品超图:采用连接聚合器聚合该物品超图的所有知识感知超边单一向量以及该物品本身的初始单一向量。
优选的是,还包括:用于计算的所有物品中,为每个用户选取相同数量的正样本和负样本,负样本为从与未与该用户交互过的物品中随机抽取,正样本为与用户交互过的物品。
优选的是,还包括对交互得分进行从大至小的排序,并输出排名靠前的一项或几项交互得分对应的物品。
提供一种基于知识感知超图神经网络的推荐***,包括:
数据抓取模块,其用于获取用户及与用户交互过的物品信息;
知识感知超图构建模块,其用于构建用户超图,其中,用户超图包括用户的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边是基于前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
以及,用于构建物品超图,其中,物品超图包括物品的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该物品有交互关系的任一用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边以前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
领域卷积模块,其用于采用领域卷积法处理该用户超图的每条初始超边和每条知识感知超边,得到该用户超图的每条超边的单一向量;
以及,用于采用领域卷积法处理该物品超图的每条知识感知超边,得到该物品超图的每条超边的单一向量;
超边卷积模块,其用于采用超边卷积法处理用户超图的所有超边的单一向量,得到该用户超图的唯一单一向量;
以及,采用超边卷积法处理该物品超图的所有知识感知超边的单一向量得到该物品的初始单一向量;
预测模块,其用于计算用户的单一向量和所有物品的单一向量的内积,再进行非线性变换,得到用户与所有物品的交互得分,该交互得分表示用户与该物品发生交互的概率。
本发明至少包括以下有益效果:
第一、本发明提出了一种知识感知超图神经网络框架来解决传统推荐***的稀疏性和冷启动问题。首先,由超边组成的知识感知超图结构被用于显式建模用户、物品和实体在知识图谱中的高阶相关性。其次,提出了一种新的知识感知超图卷积方法来有效地聚合邻域中不同的邻居并同时保留邻域中的关系信息。
第二、本发明提出使用知识感知超图来明确建模知识感知图谱中用户、物品和实体之间的高阶相关性来实现更加准确且高效的物品推荐。
第三、为了解决现有基于知识图谱的推荐方法的局限性以便向用户推荐合适的物品,本发明提出了一种端到端的模型——知识感知超图神经网络。在模型中,我们首先基于用户的历史交互记录(如购买、点击、评论)来分别构建用户和物品的初始超边,然后基于之前的初始超边以及与物品相关的知识图谱来得到后续的知识超边。这些与用户和物品相关联的超边就分别构成了用户和物品的超图。之后在超图卷积中,我们首先通过领域卷积把超边中的若干结点(由向量表示)聚合为一个单一的向量,然后通过超边卷积把之前得到的每个超边的表示向量聚合为一个单一的向量。这样我们就分别得到用户和物品对应超图的单一向量表示。最后我们将用户和物品对应超图的向量放入预测层得到用户点击该物品的概率,这样我们就可以在众多物品中选择用户点击概率高的推荐给该用户。
本发明的其它优点、目标和特征将部分通过下面的说明体现,部分还将通过对本发明的研究和实践而为本领域的技术人员所理解。
附图说明
图1为本发明的其中一种技术方案的所述知识感知超图神经网络模型的框架图;
图2为本发明的其中一种技术方案的所述领域卷积模块的示意图。
具体实施方式
下面结合附图对本发明做进一步的详细说明,以令本领域技术人员参照说明书文字能够据以实施。
需要说明的是,下述实施方案中所述实验方法,如无特殊说明,均为常规方法,所述试剂和材料,如无特殊说明,均可从商业途径获得;在本发明的描述中,术语指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,并不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
如图1~2所示,本发明提供一种基于知识感知超图神经网络的推荐方法,包括以下步骤:
步骤一、构建用户超图,其中,用户超图包括用户的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边是基于前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
构建物品超图,其中,物品超图包括物品的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该物品有交互关系的任一用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边以前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
步骤二、对用户超图和每个物品超图进行卷积计算,得到用户超图的单一向量和每个物品超图对应的单一向量;
步骤三、计算用户的单一向量和所有物品的单一向量的内积,再进行非线性变换,得到用户与所有物品的交互得分,该交互得分表示用户与该物品发生交互的概率。
在上述技术方案中,知识感知超图神经网络。在模型中,我们首先基于用户的历史交互记录(如购买、点击、评论)来分别构建用户和物品的初始超边,然后基于之前的初始超边以及与物品相关的知识感知图谱来得到后续的知识感知超边。这些与用户和物品相关联的超边就分别构成了用户和物品的超图。之后在超图卷积中,我们首先通过领域卷积把超边中的若干结点(由向量表示)聚合为一个单一的向量,然后通过超边卷积把之前得到的每个超边的表示向量聚合为一个单一的向量。这样我们就分别得到用户和物品对应超图的单一向量表示。最后我们将用户和物品对应超图的向量放入预测层得到用户点击该物品的概率,即计算用户的单一向量和所有物品的单一向量的内积,再进行非线性变换,得到用户与所有物品的交互得分,该交互得分表示用户与该物品发生交互的概率。这样我们就可以在众多物品中选择与用户更有可能发生交互关系的物品推荐给该用户。通过上述方法,可以有效的将物品的辅助信息整合到用户的向量表示中,从而可以从众多物品中选取出用户更有可能发生交互关系的物品。
为了更好的学习目标用户和目标物品的表示向量来获得更准确的推荐结果,我们提出了一个端到端的模型KHNN(知识感知超图神经网络)来明确建模知识感知图谱中用户、物品和实体之间的高阶相关性来针对用户实现更加准确且高效的物品推荐。在模型中我们首先基于用户的历史交互记录(如购买、点击、评论)来分别构建用户和物品的初始超边。
其中一种实现方法:我们令U={u1,u2,…,uM}是所有用户的一个集合并且V={v1,v2,…,vN}是拥有物品的一个集合。M,N分别是用户和物品的个数。我们将用户-物品交互矩阵定义为Y∈RM×N,其中yuv=1表示用户u交互过物品v,如点击、浏览或者购买;否则yuv=0。另外我们将知识感知图谱定义为GK={(h,r,t)|h,t∈E,r∈R},其中每个三元组(h,r,t)表示头实体h和尾实体t之间存在关系r,ε和R是知识感知图谱中实体和关系的集合。例如三元组(Back to the Future,directedby,Robert Zemeckis)表示Robert Zemeckis是电影Back to the Future的导演。在传统图结构中边只连接两个顶点,而在超图中,一条超边可以连接两个或多个顶点。我们将知识感知超图定义为GH={ε,H},其中ε表示实体集合,H表示超边集合。我们采用集合A={(v,e)|v∈V,e∈E}来对齐物品v和知识感知超图中的实体e。给定用户-项目交互矩阵Y和知识感知超图GH,我们旨在预测用户u是否对他以前没有交互过的物品v有潜在兴趣。我们的目标是学习一个预测函数
Figure BDA0002860994880000071
其中
Figure BDA0002860994880000072
表示用户u与物品v交互的概率,θ表示函数F的模型参数。
初始超边的建立:
一般来说用户交互过的物品能够在一定程度上代表用户的偏好。因此,我们通过用户u的交互过的物品来构建用户的初始超边。通过用户u的历史交互获得的用户u的相关物品集合并将集合中的物品和知识感知图谱中的实体通过集合A对齐(也就是通过物品的ID找到在知识感知图谱中有相同ID的实体),这些实体可以构建为该用户的初始超边(也就是实体的集合)。用户u的初始超边定义如下:
Figure BDA0002860994880000073
类似地,物品的初始超边,与相同物品交互过的用户也可以对该物品的向量表示做出贡献。我们将已被这些用户交互过的物品定义为物品v的初始邻居,并将物品v的初始邻居集合公式化如下:
Figure BDA0002860994880000074
然后再通过集合A将物品v的初始邻居集合中的物品和知识感知图谱中的实体对齐,接着这些实体就可以构成物品v的初始超边,定义如下:
Figure BDA0002860994880000075
在模型中输入:用户的历史交互记录
生成:用户和物品的初始超边
实现过程:可以使用正态分布为所有的物品分别初始化随机向量,用来包含每个物品的内在特征。然后通过用户的历史交互记录,可以分别为目标用户和目标物品构建其初始超边(1阶超边)。
知识感知超边的建立:
知识感知图谱中的相邻实体总是有很强的关联。沿着知识感知图谱中实体之间的链接(三元组中的关系r)传播这种关联,我们可以获得与初始超边不同距离的扩展超边也就是知识感知超边,这能够有效地扩展用户和物品的向量表示。用户u和物品v的知识超边(l阶超边)的定义递归地表述为:
Figure BDA0002860994880000076
其中l表示与初始超边的距离,下标符号o是符号u或v的统一占位符。将知识感知图谱作为辅助信息来构建我们的模型非常有意义,因为相邻实体可以被视为用户偏好和物品特征的扩展。如图1所示,基于这些生成的初始超边和知识感知超边,我们可以分别为目标用户和目标物品构建其对应的超图(由超边组成)。
在模型中输入:用户和物品的初始超边
生成:用户和物品的知识超边
实现过程:我们以之前得到的初始超边中的实体结点为起点,在知识感知图谱上通过实体之间的链接得到与初始超边中实体结点相连接的后续实体结点,这些后续实体结点就构成了与初始超边距离为一的知识超边,接着以之前得到的知识感知超边为起点通过知识感知图谱中的链接得到与初始超边距离为二的知识感知超边,重复这样的构造过程就可以分别为用户和物品构造多条超边,这些超边就分别构成了用户和物品的超图。
在另一种技术方案中,领域卷积法具体采用以下方法计算:
将l阶超边和l-1阶超边中的实体向量放入一维卷积conv1生成变换矩阵T,然后使用变换矩阵T对l阶超边中的实体向量进行置换和加权得到变换后的若干超边向量,然后使用一维卷积conv2聚合变换后的超边向量得到l阶超边的单一向量,其中,l为大于1的整数,初始超边为1阶超边;
对于初始超边的领域卷积,只将初始超边中的实体向量放入一维卷积conv1生成变换矩阵T。
应用邻域卷积将超边中的若干实体向量聚集到一个单一的向量表示。本方案提出了一种新的邻域卷积方法。特别地在知识感知图谱的三元组中,当每个尾部实体和不同的头部实体通过关系相连接时,它具有不同的含义和潜在的向量表示。因此,我们将l阶和l-1阶超边中的实体向量放入一维卷积conv1来生成变换矩阵T,然后使用变换矩阵T对l阶超边中的向量进行置换和加权得到变换后的若干超边向量。最后使用一维卷积conv2来聚合变换后的超边向量得到l阶超边的单一向量表示,如以下公式所述。
Figure BDA0002860994880000081
Figure BDA0002860994880000082
其中下标o是符号u或v的统一占位符,||是串联运算。conv1和conv2都是一维卷积,但具有不同的输出通道。
因为初始超边与目标用户和物品有很强的联系。因此,为目标用户u和物品v添加初始超边的单一向量表示,如以下公式所述。
Figure BDA0002860994880000091
Figure BDA0002860994880000092
物品超图的初始超边,物品v有其原始表示的相关实体,而用户u没有。原始相关实体是潜在语义空间中与物品v本身最接近的节点。因此,我们将其添加到物品v的表示集合中,并定义如下:
Figure BDA0002860994880000093
在邻域卷积之后,我们将目标物品v的超边表示和原始表示的向量集合以及目标用户u的超边表示向量集合公式化如下:
Figure BDA0002860994880000094
Figure BDA0002860994880000095
输入:用户和物品的所有超边。
生成:用户和物品的所有超边的单一向量表示。
实现过程:将超图中两个相邻超边中的结点向量作为一维卷积conv1的输入得到变换矩阵T,再将要变换的超边的向量矩阵与变换矩阵T相乘得到变换后的超边的向量矩阵,最后将变换后的超边的向量矩阵作为一维卷积conv2的输入得到最终超边的单一向量表示。
在另一种技术方案中,对于用户超图:超边卷积法采用连接聚合器聚合用户超图的所有超边单一向量到对应用户和物品的唯一单一向量;
对于任一物品超图:采用连接聚合器聚合该物品超图的所有知识感知超边单一向量以及该物品本身的初始单一向量。其中,对于目标物品,知识感知图谱中的实体都具有一个初始向量,这个物品的初始向量就是其实体的表示向量,聚合时将该物品本身的初始单一向量加入。
超边卷积分别将用户u和物品v的超图中所有超边的表示向量聚集为一个单一表示向量,如图1所示。我们使用连接聚合器来聚合
Figure BDA0002860994880000096
Figure BDA0002860994880000097
中的多个超边表示向量到单个向量。连接聚合器公式如下:
Figure BDA0002860994880000098
其中
Figure BDA0002860994880000101
||是串联运算。
输入:用户和物品的所有超边表示向量。
生成:用户和物品的最终单一表示向量
实现过程:将用户u和物品v的超图中的所有向量分别通过连接的方式聚合为一个单一的向量,聚合后得到的单一向量最终成为用户和物品的表示向量。
在另一种技术方案中,还包括:用于计算的所有物品中,为每个用户选取相同数量的正样本和负样本,负样本为从与未与该用户交互过的物品中随机抽取,正样本为与用户交互过的物品。
用eu来表示用户的表示向量,ev表示物品的表示向量。最后,计算用户和物品向量的内积,然后进行非线性变换,以预测用户对该物品的偏好分数:
Figure BDA0002860994880000102
为了平衡正负样本的数量,保证模型训练的效果,为每个用户提取了与正样本相同数量的负样本,这些负样本是从用户的未交互过的物品中随机抽取。最后,模型的损失函数如下:
Figure BDA0002860994880000103
其中J是交叉熵损失,p+表示正样本,p-表示负样本。Θ是模型参数,
Figure BDA0002860994880000104
是由λ参数化的L2正则化项。
候选集推荐:
输入:通过超图卷积得到的用户和物品的表示向量
生成:用户最终对候选物品的偏好得分。
实现过程:得到用户和物品的表示向量后,计算用户和物品向量的内积,然后进行非线性变换,以预测用户对该物品的偏好分数。之后,对于候选集中不同的候选物品使用对应的用户表示计算得分,将计算出的得分进行排序得到最后的结果。可以使模型预测更准确。
还包括对交互得分进行从大至小的排序,并输出排名靠前的一项或几项交互得分对应的物品。
提供一种基于知识感知超图神经网络的推荐***,包括:
数据抓取模块,其用于获取用户及与用户交互过的物品信息;
知识感知超图构建模块,其用于构建用户超图,其中,用户超图包括用户的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边是基于前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
以及,用于构建物品超图,其中,物品超图包括物品的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该物品有交互关系的任一用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边以前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
领域卷积模块,其用于采用领域卷积法处理该用户超图的每条初始超边和每条知识感知超边,得到该用户超图的每条超边的单一向量;
以及,用于采用领域卷积法处理该物品超图的每条知识感知超边,得到该物品超图的每条超边的单一向量;
超边卷积模块,其用于采用超边卷积法处理用户超图的所有超边的单一向量,得到该用户超图的唯一单一向量;
以及,采用超边卷积法处理该物品超图的所有知识感知超边的单一向量和该物品本身的初始单一向量得到该物品的唯一单一向量;其中,对于目标物品,知识感知图谱中的实体都具有一个初始向量,这个物品的初始向量就是其实体的表示向量,聚合时将该物品本身的初始单一向量加入。
预测模块,其用于计算用户的单一向量和所有物品的单一向量的内积,再进行非线性变换,得到用户与所有物品的交互得分,该交互得分表示用户与该物品发生交互的概率。
在上述技术方案中,通过以用户与物品的历史交互关系,构建用户超图和物品超图,并且在构建过程中,以物品和物品的辅助信息作为链接,以形成知识感知图谱之间的联系,然后进行超图卷积(领域卷积和超边卷积)使每个用户和每个物品都具有单一的向量表示,这些向量表示可以精准地反用户和物品之间的交互可能性(比如用户对物品种类的偏好、需要、物品特性的偏爱等),然后通过计算用户的单一向量和所有物品的单一向量的内积,非线性化变换,从而得到用户与所有物品的交互得分,这样便于向用户推荐交互得分高的物品,以迎合用户的需要,提高预测准确性。
数据抓取模块、知识感知超图构建模块、领域卷积模块、超边卷积模块、预测模块共同形成了知识感知超图神经网络模型,当模型训练好后,只需要向模型中输入用户与物品历史交互信息,即可向该用户输出排名靠前的物品。
尽管本发明的实施方案已公开如上,但其并不仅仅限于说明书和实施方式中所列运用,它完全可以被适用于各种适合本发明的领域,对于熟悉本领域的人员而言,可容易地实现另外的修改,因此在不背离权利要求及等同范围所限定的一般概念下,本发明并不限于特定的细节和这里示出与描述的图例。

Claims (8)

1.基于知识感知超图神经网络的推荐方法,其特征在于,包括以下步骤:
步骤一、构建用户超图,其中,用户超图包括用户的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边是基于前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
构建物品超图,其中,物品超图包括物品的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该物品有交互关系的任一用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边以前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
步骤二、对用户超图和每个物品超图进行卷积计算,得到用户超图的单一向量和每个物品超图对应的单一向量;
步骤三、计算用户的单一向量和所有物品的单一向量的内积,再进行非线性变换,得到用户与所有物品的交互得分,该交互得分表示用户与该物品发生交互的概率。
2.如权利要求1所述的基于知识感知超图神经网络的推荐方法,其特征在于,采用领域卷积法处理该用户超图的每条初始超边和每条知识感知超边,得到该用户超图的每条超边的单一向量;
采用领域卷积法处理该物品超图的每条知识感知超边,得到该物品超图的每条超边的单一向量。
3.如权利要求2所述的基于知识感知超图神经网络的推荐方法,其特征在于,
采用超边卷积法处理用户超图的所有超边的单一向量,得到该用户超图的唯一单一向量;
采用超边卷积法处理该物品超图的所有知识感知超边的单一向量得到该物品的唯一单一向量。
4.如权利要求2所述的基于知识感知超图神经网络的推荐方法,其特征在于,领域卷积法具体采用以下方法计算:
将l阶超边和l-1阶超边中的实体向量放入一维卷积conv1生成变换矩阵T,然后使用变换矩阵T对l阶超边中的实体向量进行置换和加权得到变换后的若干超边向量,然后使用一维卷积conv2聚合变换后的超边向量得到l阶超边的单一向量,其中,l为大于1的整数,初始超边为1阶超边;
对于初始超边的领域卷积,只将初始超边中的实体向量放入一维卷积conv1生成变换矩阵T。
5.如权利要求1所述的基于知识感知超图神经网络的推荐方法,其特征在于,对于用户超图:超边卷积法采用连接聚合器聚合用户超图的所有超边单一向量到对应用户和物品的唯一单一向量;
对于任一物品超图:采用连接聚合器聚合该物品超图的所有知识感知超边单一向量以及该物品本身的初始单一向量。
6.如权利要求1所述的基于知识感知超图神经网络的推荐方法,其特征在于,还包括:用于计算的所有物品中,为每个用户选取相同数量的正样本和负样本,负样本为从与未与该用户交互过的物品中随机抽取,正样本为与用户交互过的物品。
7.如权利要求1所述的基于知识感知超图神经网络的推荐方法,其特征在于,还包括对交互得分进行从大至小的排序,并输出排名靠前的一项或几项交互得分对应的物品。
8.基于知识感知超图神经网络的推荐***,其特征在于,包括:
数据抓取模块,其用于获取用户及与用户交互过的物品信息;
知识感知超图构建模块,其用于构建用户超图,其中,用户超图包括用户的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边是基于前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
以及,用于构建物品超图,其中,物品超图包括物品的初始超边和2~l阶知识感知超边,l为大于1的整数,初始超边以与该物品有交互关系的任一用户具有交互关系的物品为实体结点,2阶知识感知超边以初始超边的实体结点对应的物品的辅助信息为实体结点,下一阶的知识感知超边以前一阶的知识感知超边的实体结点对应的物品或物品的辅助信息为实体结点,相邻两阶知识感知超边的实体结点分别对应物品和物品的辅助信息;
领域卷积模块,其用于采用领域卷积法处理该用户超图的每条初始超边和每条知识感知超边,得到该用户超图的每条超边的单一向量;
以及,用于采用领域卷积法处理该物品超图的每条知识感知超边,得到该物品超图的每条超边的单一向量;
超边卷积模块,其用于采用超边卷积法处理用户超图的所有超边的单一向量,得到该用户超图的唯一单一向量;
以及,采用超边卷积法处理该物品超图的所有知识感知超边的单一向量和该物品本身的初始单一向量得到该物品的唯一单一向量;
预测模块,其用于计算用户的单一向量和所有物品的单一向量的内积,再进行非线性变换,得到用户与所有物品的交互得分,该交互得分表示用户与该物品发生交互的概率。
CN202011567183.7A 2020-12-25 2020-12-25 基于知识感知超图神经网络的推荐方法及*** Pending CN112613602A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011567183.7A CN112613602A (zh) 2020-12-25 2020-12-25 基于知识感知超图神经网络的推荐方法及***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011567183.7A CN112613602A (zh) 2020-12-25 2020-12-25 基于知识感知超图神经网络的推荐方法及***

Publications (1)

Publication Number Publication Date
CN112613602A true CN112613602A (zh) 2021-04-06

Family

ID=75247867

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011567183.7A Pending CN112613602A (zh) 2020-12-25 2020-12-25 基于知识感知超图神经网络的推荐方法及***

Country Status (1)

Country Link
CN (1) CN112613602A (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113177159A (zh) * 2021-05-11 2021-07-27 清华大学 基于多通道超图神经网络的捆绑推荐方法
CN113408706A (zh) * 2021-07-01 2021-09-17 支付宝(杭州)信息技术有限公司 训练用户兴趣挖掘模型、用户兴趣挖掘的方法和装置
CN113434778A (zh) * 2021-07-20 2021-09-24 陕西师范大学 基于正则化框架和注意力机制的推荐方法
CN113434692A (zh) * 2021-06-22 2021-09-24 上海交通大学医学院附属仁济医院 图神经网络模型构建、诊疗方案推荐方法、***及设备
CN113505305A (zh) * 2021-05-11 2021-10-15 清华大学 基于解耦式双通道超图神经网络的协同过滤推荐方法和***
CN113590946A (zh) * 2021-07-26 2021-11-02 西安工程大学 一种基于知识图谱实体锚定的网络资源推荐方法和装置
CN114491055A (zh) * 2021-12-10 2022-05-13 浙江辰时科技集团有限公司 基于知识图谱的推荐算法
CN114547325A (zh) * 2022-01-14 2022-05-27 北京帝测科技股份有限公司 一种概率超图驱动的地学知识图谱推理优化***和方法
CN114817568A (zh) * 2022-04-29 2022-07-29 武汉科技大学 联合注意力机制与卷积神经网络的知识超图链接预测方法
CN114817663A (zh) * 2022-05-05 2022-07-29 杭州电子科技大学 一种基于类别感知图神经网络的服务建模与推荐方法
WO2023024017A1 (en) * 2021-08-26 2023-03-02 Ebay Inc. Multi-modal hypergraph-based click prediction
CN116664240A (zh) * 2023-06-05 2023-08-29 山东睿政信息科技有限公司 基于图神经网络的购物行为预测方法、***、存储介质及终端
CN117932278A (zh) * 2024-03-22 2024-04-26 四川省生态环境科学研究院 一种智慧城市环保监控***及方法
WO2024108641A1 (zh) * 2022-11-24 2024-05-30 安徽蓝海之光科技有限公司 一种基于低碳用能优化协同的区域碳排放智慧测量***

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113505305A (zh) * 2021-05-11 2021-10-15 清华大学 基于解耦式双通道超图神经网络的协同过滤推荐方法和***
CN113177159A (zh) * 2021-05-11 2021-07-27 清华大学 基于多通道超图神经网络的捆绑推荐方法
CN113434692B (zh) * 2021-06-22 2023-08-01 上海交通大学医学院附属仁济医院 图神经网络模型构建、诊疗方案推荐方法、***及设备
CN113434692A (zh) * 2021-06-22 2021-09-24 上海交通大学医学院附属仁济医院 图神经网络模型构建、诊疗方案推荐方法、***及设备
CN113408706B (zh) * 2021-07-01 2022-04-12 支付宝(杭州)信息技术有限公司 训练用户兴趣挖掘模型、用户兴趣挖掘的方法和装置
CN113408706A (zh) * 2021-07-01 2021-09-17 支付宝(杭州)信息技术有限公司 训练用户兴趣挖掘模型、用户兴趣挖掘的方法和装置
CN113434778A (zh) * 2021-07-20 2021-09-24 陕西师范大学 基于正则化框架和注意力机制的推荐方法
CN113590946A (zh) * 2021-07-26 2021-11-02 西安工程大学 一种基于知识图谱实体锚定的网络资源推荐方法和装置
WO2023024017A1 (en) * 2021-08-26 2023-03-02 Ebay Inc. Multi-modal hypergraph-based click prediction
CN114491055A (zh) * 2021-12-10 2022-05-13 浙江辰时科技集团有限公司 基于知识图谱的推荐算法
CN114491055B (zh) * 2021-12-10 2022-11-08 浙江辰时科技集团有限公司 基于知识图谱的推荐方法
CN114547325A (zh) * 2022-01-14 2022-05-27 北京帝测科技股份有限公司 一种概率超图驱动的地学知识图谱推理优化***和方法
CN114817568A (zh) * 2022-04-29 2022-07-29 武汉科技大学 联合注意力机制与卷积神经网络的知识超图链接预测方法
CN114817568B (zh) * 2022-04-29 2024-05-10 武汉科技大学 联合注意力机制与卷积神经网络的知识超图链接预测方法
CN114817663A (zh) * 2022-05-05 2022-07-29 杭州电子科技大学 一种基于类别感知图神经网络的服务建模与推荐方法
CN114817663B (zh) * 2022-05-05 2023-02-17 杭州电子科技大学 一种基于类别感知图神经网络的服务建模与推荐方法
WO2024108641A1 (zh) * 2022-11-24 2024-05-30 安徽蓝海之光科技有限公司 一种基于低碳用能优化协同的区域碳排放智慧测量***
CN116664240A (zh) * 2023-06-05 2023-08-29 山东睿政信息科技有限公司 基于图神经网络的购物行为预测方法、***、存储介质及终端
CN116664240B (zh) * 2023-06-05 2024-02-02 谢馥聪 基于图神经网络的购物行为预测方法、***、存储介质及终端
CN117932278A (zh) * 2024-03-22 2024-04-26 四川省生态环境科学研究院 一种智慧城市环保监控***及方法

Similar Documents

Publication Publication Date Title
CN112613602A (zh) 基于知识感知超图神经网络的推荐方法及***
CN110955834B (zh) 一种知识图谱驱动的个性化精准推荐方法
Pan et al. Study on convolutional neural network and its application in data mining and sales forecasting for E-commerce
CN104731962B (zh) 一种社交网络中基于相似社团的好友推荐方法及***
CN112232925A (zh) 一种融合知识图谱对商品进行个性化推荐的方法
CN111737535B (zh) 一种基于元结构和图神经网络的网络表征学习方法
WO2023065859A1 (zh) 物品推荐方法、装置及存储介质
CN111797321A (zh) 一种面向不同场景的个性化知识推荐方法及***
Zhang et al. Depth-based subgraph convolutional auto-encoder for network representation learning
CN107391542A (zh) 一种基于文件知识图谱的开源软件社区专家推荐方法
CN111949886B (zh) 一种用于信息推荐的样本数据生成方法和相关装置
CN113806630A (zh) 基于注意力的多视角特征融合跨域推荐方法及装置
CN113918834B (zh) 融合社交关系的图卷积协同过滤推荐方法
Wang et al. Link prediction in heterogeneous information networks: An improved deep graph convolution approach
Badhon et al. A survey on association rule mining based on evolutionary algorithms
CN112131261A (zh) 基于社区网络的社区查询方法、装置和计算机设备
Hassan et al. Performance analysis of neural networks-based multi-criteria recommender systems
CN117216281A (zh) 一种基于知识图谱的用户兴趣扩散推荐方法及***
CN114417161A (zh) 基于异构图的虚拟物品时序推荐方法、装置、介质及设备
CN114385804A (zh) 一种基于元学习的异构图注意力神经网络的评论推荐方法
Chang et al. KGTN: Knowledge Graph Transformer Network for explainable multi-category item recommendation
Mall et al. A novel Chebyshev neural network approach for solving singular arbitrary order Lane-Emden equation arising in astrophysics
CN112905906A (zh) 一种融合局部协同与特征交叉的推荐方法及***
CN116401450A (zh) 一种基于知识图谱的推荐方法、装置及计算机设备
CN115545833A (zh) 一种基于用户社交信息的推荐方法及***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination