CN114528490A - 一种基于用户长短期兴趣的自监督序列推荐方法 - Google Patents

一种基于用户长短期兴趣的自监督序列推荐方法 Download PDF

Info

Publication number
CN114528490A
CN114528490A CN202210151706.2A CN202210151706A CN114528490A CN 114528490 A CN114528490 A CN 114528490A CN 202210151706 A CN202210151706 A CN 202210151706A CN 114528490 A CN114528490 A CN 114528490A
Authority
CN
China
Prior art keywords
term
user
sequence
short
long
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210151706.2A
Other languages
English (en)
Inventor
王也
阎震
韩启龙
宋洪涛
李丽洁
王宇华
马志强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin Engineering University
Original Assignee
Harbin Engineering University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Engineering University filed Critical Harbin Engineering University
Priority to CN202210151706.2A priority Critical patent/CN114528490A/zh
Publication of CN114528490A publication Critical patent/CN114528490A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines
    • G06F16/9535Search customisation based on user profiles and personalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种基于用户长短期兴趣的自监督序列推荐方法。步骤1:获得用户信息、项目信息及用户行为的序列数据集,将数据集进行预处理并划分为训练集和测试集;步骤2:构建基于用户长短期兴趣的自监督序列推荐模型;步骤3:利用训练集对步骤2所述基于用户长短期兴趣的自监督序列推荐模型进行训练;步骤4:将待推荐用户的个人信息和交互序列输入到步骤3中训练后的基于用户长短期兴趣的自监督序列推荐模型,计算待推荐项目相对于该用户的推荐得分,根据推荐得分将项目推荐给用户。本发明用以解决现有技术中用户的长、短期兴趣二者间所存在的相互约束关系的问题,实现对用户长期兴趣和短期兴趣有更准确的推荐。

Description

一种基于用户长短期兴趣的自监督序列推荐方法
技术领域
本发明属于序列推荐领域,具体涉及一种基于用户长短期兴趣的自监督序列推荐方法。
背景技术
人们在互联网中的行为数据可以指示重要信息,例如用户的偏好和行为模式,推荐***可以利用这些信息为用户提供个性化服务,并提升他们的体验。
传统的序列推荐***对用户与物品之间交互的建模可以归纳为两种主要的方式。第一种方法是基于矩阵分解的协同过滤(CF)来获得用户偏好,侧重于从用户与物品的交互中挖掘其静态关联,这些关联由传统的协同过滤模型表示。然而,这些工作仅仅从静态视图考虑了用户-物品之间特定关系,忽略了序列化交互中隐含的用户偏好的演化,没有考虑到用户偏好的演化对未来购买物品的影响。第二种方法是基于序列模式来挖掘用户与物品之间的关系从而进行个性化推荐。其中,用户稳定的长期兴趣是长期以来个人习惯导致的偏好;短期兴趣是用户近期购买的物品决定的偏好。这种类型的工作包括:根据马尔科夫链模型建模用户与商品的交互序列。用户的长期兴趣和短期兴趣都对用户选购商品起着很重要的影响,所以将二者结合起来为用户推荐可有效提高准确度。
深度神经网络凭借着在构建和捕获序列中不同实体间(例如,用户,项目,交互)综合关系所存在的自然优势,越来越多的人使用深度神经网络构造序列推荐***。
对于序列推荐***来说,起初提出并得到研究人员重视的是循环神经网络,这是因为它们在建模序列数据时存在结构优势,但它们也存在无法建模高阶复杂关系的缺陷。随后卷积神经网络和图神经网络为建模复杂交互关系也被应用于序列推荐***,以此来弥补循环神经网络中的不足。
近年来,人们越来越关注通过捕获用户的长、短期兴趣以提高序列推荐性能,但现有技术只考虑到用户长、短期兴趣的互补关系,并未考虑二者间所存在的相互约束关系。另外,现有使用超图的推荐技术能够更好的学习高阶的上下文信息,从而更好的对用户短期兴趣建模,但是没有更充分的考虑用户交互项目的顺序信息,特别是没有考虑在构建超图时利用这种顺序信息。
综上所述,目前的研究工作主要是对用户长期兴趣和短期兴趣有更准确的建模方法,并且能充分利用用户长期兴趣和短期兴趣间互补和约束两种关系以达到更好的推荐效果。
发明内容
本发明提供一种基于用户长短期兴趣的自监督序列推荐方法,用以解决现有技术中用户的长、短期兴趣二者间所存在的相互约束关系的问题,实现对用户长期兴趣和短期兴趣有更准确的推荐。
本发明通过以下技术方案实现:
一种基于用户长短期兴趣的自监督序列推荐方法,包括以下步骤:
步骤1:获得用户信息、项目信息及用户行为的序列数据集,将数据集进行预处理并划分为训练集和测试集;
步骤2:构建基于用户长短期兴趣的自监督序列推荐模型;
步骤3:利用训练集对步骤2所述基于用户长短期兴趣的自监督序列推荐模型进行训练;
步骤4:将待推荐用户的个人信息和交互序列输入到步骤3中训练后的基于用户长短期兴趣的自监督序列推荐模型,计算待推荐项目相对于该用户的推荐得分,根据推荐得分将项目推荐给用户。
进一步的,所述步骤1具体包括以下步骤:
步骤1.1:将用户交互序列划分为长期序列L和短期序列S;
步骤1.2:根据步骤1.1中划分出的短期序列S构建超图G;
让G=(V,E)表示一个超图,其中V集合包含N个顶点,每个顶点表示一种项目,E包含M条超边,每一条超边ε∈E代表一个会话且包含五个顶点;让每一条超边都被赋予一个正向权重Wεε表示超边内各项目所占权重,并将所有权重构成一个对角矩阵W∈RM×M;超图被表示一个关联矩阵H∈RN×M,如果超边ε∈E包含顶点vi∈V则H=1,否则为0;对于每一个顶点和超边,它们的度被定义为
Figure BDA0003510855050000021
定义Dh和B均为对角矩阵;为利用会话内项目交互间的顺序关系,又定义一个顺序意义上的度矩阵Dp∈RN×N通过每个会话中的交互项目的前后关系视为前者会影响后者;
针对每一个项目标准化:
Figure BDA0003510855050000031
得到最终的顶点的度矩阵:
D=2×(Dh+Dp)
进一步的,所述步骤2构建基于用户长短期兴趣的自监督序列推荐模型,具体包含如下步骤:
步骤2.1:获得项目的嵌入表示;
步骤2.2:将步骤1.1划分出的用户长期序列L与项目嵌入表示输入到GRU层,并通过前馈神经网络层捕获用户的长期兴趣θl
步骤2.3:对步骤1.2构建的超图G进行卷积,并将卷积结果与步骤1.1划分出的用户短期交互序列S经过软注意力层得到用户的短期兴趣表示θs
步骤2.4:将步骤2.2得到的用户长期兴趣θl和步骤2.3得到的短期兴趣θs通过自监督学习层得到自监督损失LS
步骤2.5:将步骤2.2得到的用户长期兴趣θl和步骤2.3得到的短期兴趣θs通过融合层得到最终的用户表示θ;
步骤2.6:根据用户的最终表示计算各候选项目的评分。
进一步的,所述步骤2.2具体为,根据步骤1.1中划分出的长期序列对用户的长期偏好进行建模,采用GRU网络捕获长期序列内的演进,并将最后一项隐藏单元状态作为用户的长期偏好表示θl
进一步的,所述步骤2.3进行超图卷积,超图卷积更新项目表示:
Figure BDA0003510855050000032
超图卷积将公式从右至左看做项目到超边再到项目的卷积过程;
Figure BDA0003510855050000033
代表从顶点到超边的信息聚合,之后左乘H将信息从超边聚合到顶点;在经过L层卷积后,将所有层结果的平均值作为最终项目的表示
Figure BDA0003510855050000034
针对一个会话s=[is,1,is,2,...,is,m],聚合该会话中项目以得到最终用户短期兴趣的表示θs
αt=fTσ(W1xs+W2xt+b
Figure BDA0003510855050000041
其中xs表示当前会话是由会话内项目平均得到,xt表示会话中第t个交互项,短期兴趣表示是由会话内的项目通过软注意力机制得到;f∈Rd,W1∈Rd×d和W2∈Rd×d都是用来学习权重的注意参数。
进一步的,所述步骤2.4具体为,
对比学习的方式以充分发挥二者约束关系,采用正样本与负样本之间标准的二进制交叉熵损失函数计算损失
Figure BDA0003510855050000042
Figure BDA0003510855050000043
其中
Figure BDA0003510855050000044
是对
Figure BDA0003510855050000045
的行与列重新乱排获得的负样本,fD(·):Rd×d→R是将两个向量作为输入,并对二者一致性进行评分的鉴别器函数。
进一步的,所述步骤2.5具体为,由于步骤2.4有效地促进更准确地获取彼此信息,得到相加的方式得到用户的最终表示:
Figure BDA0003510855050000046
进一步的,所述步骤2.6通过步骤2.5中得到的用户最终表示与项目集合点乘求出各项目的评分
Figure BDA0003510855050000047
通过softmax计算出各项目出现的概率
Figure BDA0003510855050000048
进一步的,所述步骤3具体包含如下步骤:
步骤3.1:将训练集中的数据输入到步骤2所述的基于用户长短期兴趣的自监督序列推荐模型,得到用户的最终表示向量;
步骤3.2:将用户的最终表示向量输入到预测模块,得到用户相对于项目的推荐得分;
步骤3.3:通过计算预测评分值与真实评分值之间的误差来更新模型的参数以优化推荐损失函数,结合步骤2.4中的自监督损失,得到最终损失
Figure BDA0003510855050000049
其中β为权重,设置为0.01;反复训练得到最优的基于用户长短期兴趣的自监督序列推荐模型。
进一步的,所述步骤4:将待推荐用户的个人信息和交互序列输入到步骤3中训练后的基于用户长短期兴趣的自监督序列推荐模型,计算待推荐项目相对于该用户的推荐得分,根据推荐得分将项目推荐给用户。
本发明的有益效果是:
本发明充分利用用户长期兴趣和短期兴趣之间的约束关系和构建超图时考虑短期会话内的顺序关系以达到更优的推荐效果。
本发明通过自监督学习充分发挥用户长期兴趣与短期兴趣间的约束关系,进一步提升推荐准确率。
附图说明
图1是本发明的方法流程示意图。
图2是本发明的用户长短期兴趣自监督推荐模型图。
图3是本发明的短期会话超图构图示意图。
具体实施方式
下面将结合本发明实施例中的附图对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
基于三种深度神经网络的序列推荐***。
1)基于循环神经网络的序列推荐***。给定一个用户-商品交互的历史序列,基于循环神经网络的序列推荐***试图通过给定的交互建立一个序列依赖关系,以此预测接下来可能的交互。GRU4Rec模型将GRU网络引入序列推荐之中,通过GRU网络对用户交互序列建模,学习用户兴趣的演进,并以此对用户进行推荐,利用循环神经网络在序列关系建模上的优秀表现,获得了非常好的推荐效果,但其未将用户兴趣分为长期兴趣与短期兴趣共同考虑进行推荐。
2)基于卷积神经网络的序列推荐***。卷积神经网络(CNN)可用于从文本、音频和图片中提取特征。不同于循环神经网络,给定一个用户-商品交互的顺序,卷积神经网络首先将所有交互嵌入到矩阵中,接着在时间和潜在空间中将此矩阵视为一张图片。最后,卷积神经网络学***卷积和垂直卷积,并将卷积结果进行拼接操作,拼接后的嵌入作为用户的短期兴趣,在对用户长短期兴趣融合时也采用拼接的方式,则拼接后的嵌入为用户最终的兴趣表示,以此为用户推荐符合用户兴趣的物品。其利用卷积神经网络相较于循环神经网络可捕获更高维度的信息的特点,与当时较不错的利用循环神经网络进行推荐的序列推荐模型进行了对比,得到在众多数据集上的实验效果均不弱于其他序列推荐模型,但其只考虑了用户长短期兴趣间的互补关系,未考虑制约关系,同时对用户的短期兴趣建模过于简单。
3)基于图神经网络的序列推荐***。随着图神经网络的高速发展,基于图神经网络的序列推荐***已经被设计,它利用图神经网络去建模和捕获序列中更复杂的用户-商品间交互的转换。当每一个序列被映射到路径上时,有向图首先建立在序列数据之上,并将每一个交互作为图中的一个节点。然后,在图上学习用户或商品的嵌入,以便在整个图中嵌入更复杂的关系。SRGNN模型将用户的交互序列构建为有向图,并且在构图时考虑了用户交互序列中的顺序关系作为有向图中的指向关系,利用构建好的有向图可以清楚地知道图中的项目表示会受到哪些其它项目的影响,以此通过图神经网络对图中的项目表示进行更新,将更新后的项目表示通过注意力机制得到用户的兴趣表示,并以此兴趣表示进行推荐。其将图神经网络应用到会话推荐中建模用户兴趣,并与当时表现不错的序列推荐模型进行了比较,相较于其它模型均有更优秀的推荐效果,可以看出图神经网络在捕获用户交互序列中复杂的项目之间关系所表现出的强大能力,并且其还有很大发挥空间。随着研究人员们对图神经网络在序列推荐中的使用进行挖掘,近年,又将超图神经网络应用到序列推荐当中。超图神经网络属于图神经网络,但其与标准的图神经网络不同的是,超图神经网络将用户的交互序列间的关系不再构建为标准的图结构,而是构建为超图结构。超图与标准图不同的是,在标准图中一条边上有两个顶点,而在超图中一条边中可以存在两个以上的顶点,这样的一条边叫做超边。通过使用超图,可以不再局限于一边两点的成对关系,能捕捉更复杂的关系。HyperRec模型将用户的完整交互序列划分为多个短期序列,并将每个短期序列构建为超图,利用超图卷积捕获短期序列中物品的相关性,通过得到物品的动态表示对各个短期序列下用户兴趣进行建模,最终将所有短期序列下用户的兴趣通过自注意力机制得到用户当前时刻兴趣的动态表示,并以此为用户进行下一项推荐,取得很不错的推荐效果,但在构建超图时并没有考虑用户交互序列中的顺序信息。
一种基于用户长短期兴趣的自监督序列推荐方法,包括以下步骤:
步骤1:获得用户信息、项目信息及用户行为的序列数据集,将数据集进行预处理并划分为训练集和测试集;将数据集按照8:2的比例划分为训练集和测试集
步骤1.1将用户的完整交互序列划分为可以表示长期偏好的序列和可以表示当前短期兴趣的会话,由于对用户的长期偏好建模,完整的交互序列更能准确表示用户长期的喜好,故这里将全部的交互序列作为捕获用户长期偏好的序列,针对建模用户的短期兴趣,为防止构建超图会话数据稀疏性问题影响效果,将近五项的项目交互作为构建超图的短期会话序列。
步骤2:构建基于用户长短期兴趣的自监督序列推荐模型;
步骤3:利用训练集对步骤2所述基于用户长短期兴趣的自监督序列推荐模型进行训练;
步骤4:将待推荐用户的个人信息和交互序列输入到步骤3中训练后的基于用户长短期兴趣的自监督序列推荐模型,计算待推荐项目相对于该用户的推荐得分,根据推荐得分将项目推荐给用户。
进一步的,所述步骤1具体包括以下步骤:
步骤1.1:将用户交互序列划分为长期序列L和短期序列S;
步骤1.2:根据步骤1.1中划分出的短期序列S构建超图G;
如图3所示方式构建超图,利用全部序列的短期会话部分进行超图的构建,这一步即考虑相似会话间对各自会话内项目的相互影响还考虑了在同一会话内交互项目间的顺序关系,即上一次交互项目会对当前交互项有影响。
让G=(V,E)表示一个超图,其中V集合包含N个顶点,每个顶点表示一种项目,E包含M条超边,每一条超边ε∈E代表一个会话且包含五个顶点;让每一条超边都被赋予一个正向权重Wεε表示超边内各项目所占权重,并将所有权重构成一个对角矩阵W∈RM×M;超图被表示一个关联矩阵H∈RN×M,如果超边ε∈E包含顶点vi∈V则H=1,否则为0;对于每一个顶点和超边,它们的度被定义为
Figure BDA0003510855050000081
定义Dh和B均为对角矩阵;为利用会话内项目交互间的顺序关系,又定义一个顺序意义上的度矩阵Dp∈RN×N通过每个会话中的交互项目的前后关系视为前者会影响后者;如i1、i2的交互序列,认为i1会影响i2,则将
Figure BDA0003510855050000082
置为1;
针对每一个项目标准化:
Figure BDA0003510855050000083
得到最终的顶点的度矩阵:
D=2×(Dh+Dp)
进一步的,所述步骤2构建基于用户长短期兴趣的自监督序列推荐模型,具体包含如下步骤:
步骤2.1:获得项目的嵌入表示;通过嵌入矩阵生成所有项目的嵌入表示;
步骤2.2:将步骤1.1划分出的用户长期序列L与项目嵌入表示输入到GRU层,并通过前馈神经网络层捕获用户的长期兴趣θl
步骤2.3:对步骤1.2构建的超图G进行卷积,并将卷积结果与步骤1.1划分出的用户短期交互序列S经过软注意力层得到用户的短期兴趣表示θs
步骤2.4:将步骤2.2得到的用户长期兴趣θl和步骤2.3得到的短期兴趣θs通过自监督学习层得到自监督损失LS
步骤2.5:将步骤2.2得到的用户长期兴趣θl和步骤2.3得到的短期兴趣θs通过融合层得到最终的用户表示θ;
步骤2.6:根据用户的最终表示计算各候选项目的评分。
进一步的,所述步骤2.2具体为,根据步骤1.1中划分出的长期序列对用户的长期偏好进行建模,采用GRU网络捕获长期序列内的演进,并将最后一项隐藏单元状态作为用户的长期偏好表示θl
进一步的,所述步骤2.3进行超图卷积,超图卷积更新项目表示:
Figure BDA0003510855050000084
超图卷积将公式从右至左看做项目到超边再到项目的卷积过程;
Figure BDA0003510855050000085
代表从顶点到超边的信息聚合,之后左乘H将信息从超边聚合到顶点;在经过L层卷积后,将所有层结果的平均值作为最终项目的表示
Figure BDA0003510855050000091
针对一个会话s=[is,1,is,2,...,is,m],聚合该会话中项目以得到最终用户短期兴趣的表示θs
αt=fTσ(W1xs+W2xt+b)
Figure BDA0003510855050000092
其中xs表示当前会话是由会话内项目平均得到,xt表示会话中第t个交互项,短期兴趣表示是由会话内的项目通过软注意力机制得到;f∈Rd,W1∈Rd×d和W2∈Rd×d都是用来学习权重的注意参数。
进一步的,所述步骤2.4具体为,
对比学习的方式以充分发挥二者约束关系,采用正样本与负样本之间标准的二进制交叉熵损失函数计算损失
Figure BDA0003510855050000093
Figure BDA0003510855050000094
其中
Figure BDA0003510855050000095
是对
Figure BDA0003510855050000096
的行与列重新乱排获得的负样本,fD(·):Rd×d→R是将两个向量作为输入,并对二者一致性进行评分的鉴别器函数。本发明采用点乘的方式对一致性进行评分;这一部分的学习目标可是说是最大限度利用不同角度建模的用户长期偏好与短期兴趣嵌入之间的互信息。
进一步的,所述步骤2.5具体为,由于步骤2.4有效地促进更准确地获取彼此信息,但仍需要充分发挥二者的互补关系;得到相加的方式得到用户的最终表示:
Figure BDA0003510855050000097
进一步的,所述步骤2.6通过步骤2.5中得到的用户最终表示与项目集合点乘求出各项目的评分
Figure BDA0003510855050000098
通过softmax计算出各项目出现的概率
Figure BDA0003510855050000099
进一步的,所述步骤3具体包含如下步骤:
步骤3.1:将训练集中的数据输入到步骤2所述的基于用户长短期兴趣的自监督序列推荐模型,得到用户的最终表示向量;
步骤3.2:将用户的最终表示向量输入到预测模块,得到用户相对于项目的推荐得分;
步骤3.3:通过计算预测评分值与真实评分值之间的误差来更新模型的参数以优化推荐损失函数,结合步骤2.4中的自监督损失,得到最终损失
Figure BDA0003510855050000101
其中β为权重,设置为0.01;反复训练得到最优的基于用户长短期兴趣的自监督序列推荐模型。
优选的,步骤3.3中所述的推荐损失函数具体计算如下:
Figure BDA0003510855050000102
进一步的,所述步骤4将待推荐用户的个人信息和交互序列输入到步骤3中训练后的基于用户长短期兴趣的自监督序列推荐模型,计算待推荐项目相对于该用户的推荐得分,根据推荐得分将项目推荐给用户。
所述步骤4将所述项目推荐得分进行排序,取前k个得分最高的项目推荐给用户。

Claims (10)

1.一种基于用户长短期兴趣的自监督序列推荐方法,其特征在于,包括以下步骤:
步骤1:获得用户信息、项目信息及用户行为的序列数据集,将数据集进行预处理并划分为训练集和测试集;
步骤2:构建基于用户长短期兴趣的自监督序列推荐模型;
步骤3:利用训练集对步骤2所述基于用户长短期兴趣的自监督序列推荐模型进行训练;
步骤4:将待推荐用户的个人信息和交互序列输入到步骤3中训练后的基于用户长短期兴趣的自监督序列推荐模型,计算待推荐项目相对于该用户的推荐得分,根据推荐得分将项目推荐给用户。
2.根据权利要求1所述一种基于用户长短期兴趣的自监督序列推荐方法,其特征在于,所述步骤1具体包括以下步骤:
步骤1.1:将用户交互序列划分为长期序列L和短期序列S;
步骤1.2:根据步骤1.1中划分出的短期序列S构建超图G;
让G=(V,E)表示一个超图,其中V集合包含N个顶点,每个顶点表示一种项目,E包含M条超边,每一条超边ε∈E代表一个会话且包含五个顶点;让每一条超边都被赋予一个正向权重Wεε表示超边内各项目所占权重,并将所有权重构成一个对角矩阵W∈RM×M;超图被表示一个关联矩阵H∈RN×M,如果超边ε∈E包含顶点vi∈V则H=1,否则为0;对于每一个顶点和超边,它们的度被定义为
Figure FDA0003510855040000011
定义Dh和B均为对角矩阵;为利用会话内项目交互间的顺序关系,又定义一个顺序意义上的度矩阵Dp∈RN×N通过每个会话中的交互项目的前后关系视为前者会影响后者;
针对每一个项目标准化:
Figure FDA0003510855040000012
得到最终的顶点的度矩阵:
D=2×(Dh+Dp)。
3.根据权利要求2所述一种基于用户长短期兴趣的自监督序列推荐方法,其特征在于,所述步骤2构建基于用户长短期兴趣的自监督序列推荐模型,具体包含如下步骤:
步骤2.1:获得项目的嵌入表示;
步骤2.2:将步骤1.1划分出的用户长期序列L与项目嵌入表示输入到GRU层,并通过前馈神经网络层捕获用户的长期兴趣θl
步骤2.3:对步骤1.2构建的超图G进行卷积,并将卷积结果与步骤1.1划分出的用户短期交互序列S经过软注意力层得到用户的短期兴趣表示θs
步骤2.4:将步骤2.2得到的用户长期兴趣θl和步骤2.3得到的短期兴趣θs通过自监督学习层得到自监督损失LS
步骤2.5:将步骤2.2得到的用户长期兴趣θl和步骤2.3得到的短期兴趣θs通过融合层得到最终的用户表示θ;
步骤2.6:根据用户的最终表示计算各候选项目的评分。
4.根据权利要求1所述一种基于用户长短期兴趣的自监督序列推荐方法,其特征在于,所述步骤2.2具体为,根据步骤1.1中划分出的长期序列对用户的长期偏好进行建模,采用GRU网络捕获长期序列内的演进,并将最后一项隐藏单元状态作为用户的长期偏好表示θl
5.根据权利要求2所述一种基于用户长短期兴趣的自监督序列推荐方法,其特征在于,所述步骤2.3进行超图卷积,超图卷积更新项目表示:
Figure FDA0003510855040000021
超图卷积将公式从右至左看做项目到超边再到项目的卷积过程;
Figure FDA0003510855040000022
代表从顶点到超边的信息聚合,之后左乘H将信息从超边聚合到顶点;在经过L层卷积后,将所有层结果的平均值作为最终项目的表示
Figure FDA0003510855040000023
针对一个会话s=[is,1,is,2,...,is,m],聚合该会话中项目以得到最终用户短期兴趣的表示θs
αt=fTσ(W1xs+W2xt+b)
Figure FDA0003510855040000024
其中xs表示当前会话是由会话内项目平均得到,xt表示会话中第t个交互项,短期兴趣表示是由会话内的项目通过软注意力机制得到;f∈Rd,W1∈Rd×d和W2∈Rd×d都是用来学习权重的注意参数。
6.根据权利要求2所述一种基于用户长短期兴趣的自监督序列推荐方法,其特征在于,所述步骤2.4具体为,
对比学习的方式以充分发挥二者约束关系,采用正样本与负样本之间标准的二进制交叉熵损失函数计算损失
Figure FDA0003510855040000031
Figure FDA0003510855040000032
其中
Figure FDA0003510855040000033
是对
Figure FDA0003510855040000034
的行与列重新乱排获得的负样本,fD(·):Rd×d→R是将两个向量作为输入,并对二者一致性进行评分的鉴别器函数。
7.根据权利要求2所述一种基于用户长短期兴趣的自监督序列推荐方法,其特征在于,所述步骤2.5具体为,由于步骤2.4有效地促进更准确地获取彼此信息,得到相加的方式得到用户的最终表示:
Figure FDA0003510855040000035
8.根据权利要求2所述一种基于用户长短期兴趣的自监督序列推荐方法,其特征在于,所述步骤2.6通过步骤2.5中得到的用户最终表示与项目集合点乘求出各项目的评分
Figure FDA0003510855040000036
通过softmax计算出各项目出现的概率
Figure FDA0003510855040000037
9.根据权利要求2所述一种基于用户长短期兴趣的自监督序列推荐方法,其特征在于,所述步骤3具体包含如下步骤:
步骤3.1:将训练集中的数据输入到步骤2所述的基于用户长短期兴趣的自监督序列推荐模型,得到用户的最终表示向量;
步骤3.2:将用户的最终表示向量输入到预测模块,得到用户相对于项目的推荐得分;
步骤3.3:通过计算预测评分值与真实评分值之间的误差来更新模型的参数以优化推荐损失函数,结合步骤2.4中的自监督损失,得到最终损失
Figure FDA0003510855040000038
其中β为权重,设置为0.01;反复训练得到最优的基于用户长短期兴趣的自监督序列推荐模型。
10.根据权利要求2所述一种基于用户长短期兴趣的自监督序列推荐方法,其特征在于,所述步骤4将待推荐用户的个人信息和交互序列输入到步骤3中训练后的基于用户长短期兴趣的自监督序列推荐模型,计算待推荐项目相对于该用户的推荐得分,根据推荐得分将项目推荐给用户。
CN202210151706.2A 2022-02-18 2022-02-18 一种基于用户长短期兴趣的自监督序列推荐方法 Pending CN114528490A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210151706.2A CN114528490A (zh) 2022-02-18 2022-02-18 一种基于用户长短期兴趣的自监督序列推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210151706.2A CN114528490A (zh) 2022-02-18 2022-02-18 一种基于用户长短期兴趣的自监督序列推荐方法

Publications (1)

Publication Number Publication Date
CN114528490A true CN114528490A (zh) 2022-05-24

Family

ID=81622053

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210151706.2A Pending CN114528490A (zh) 2022-02-18 2022-02-18 一种基于用户长短期兴趣的自监督序列推荐方法

Country Status (1)

Country Link
CN (1) CN114528490A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114969535A (zh) * 2022-06-05 2022-08-30 郑州大学 一种门控单元增强胶囊网络的推荐方法
CN115099886A (zh) * 2022-05-25 2022-09-23 华南理工大学 一种长短兴趣序列推荐方法、装置及存储介质

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115099886A (zh) * 2022-05-25 2022-09-23 华南理工大学 一种长短兴趣序列推荐方法、装置及存储介质
CN115099886B (zh) * 2022-05-25 2024-04-19 华南理工大学 一种长短兴趣序列推荐方法、装置及存储介质
CN114969535A (zh) * 2022-06-05 2022-08-30 郑州大学 一种门控单元增强胶囊网络的推荐方法

Similar Documents

Publication Publication Date Title
Chen et al. Deep reinforcement learning in recommender systems: A survey and new perspectives
CN111949865A (zh) 基于图神经网络与用户长短期偏好的兴趣点推荐方法
CN109062962B (zh) 一种融合天气信息的门控循环神经网络兴趣点推荐方法
CN111222054A (zh) 一种基于上下文邻居关系建模的会话社交推荐方法
CN110851760B (zh) 在web3D环境融入视觉问答的人机交互***
CN111241394B (zh) 数据处理方法、装置、计算机可读存储介质及电子设备
CN114817663B (zh) 一种基于类别感知图神经网络的服务建模与推荐方法
CN116664719B (zh) 一种图像重绘模型训练方法、图像重绘方法及装置
CN114528490A (zh) 一种基于用户长短期兴趣的自监督序列推荐方法
CN109464803A (zh) 虚拟对象控制、模型训练方法、装置、存储介质和设备
CN114519145A (zh) 一种基于图神经网络挖掘用户长短期兴趣的序列推荐方法
CN113297487A (zh) 一种基于注意力机制增强门控循环单元的序列推荐***及方法
CN112819575B (zh) 一种考虑重复购买行为的会话推荐方法
CN112116589B (zh) 虚拟形象的评测方法、装置、设备及计算机可读存储介质
CN113590976A (zh) 一种空间自适应图卷积网络的推荐方法
CN114637911A (zh) 一种注意力融合感知网络的下一个兴趣点推荐方法
CN114896515A (zh) 基于时间间隔的自监督学习协同序列推荐方法、设备和介质
CN115588122A (zh) 一种基于多模态特征融合的新闻分类方法
CN114529077A (zh) 一种基于会话内异构行为的点击率预测方法
Zheng et al. Kernelized deep learning for matrix factorization recommendation system using explicit and implicit information
CN117056595A (zh) 一种交互式的项目推荐方法、装置及计算机可读存储介质
CN116776003A (zh) 基于对比学习和协同信号的知识图推荐方法、***及设备
CN116304279A (zh) 基于图神经网络的用户偏好演化主动感知方法及***
CN115599990A (zh) 一种知识感知结合深度强化学习的跨域推荐方法及***
CN114936890A (zh) 一种基于逆倾向加权方法的反事实公平的推荐方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination