CN113158024A

CN113158024A - 一种纠正推荐***流行度偏差的因果推理方法

Info

Publication number: CN113158024A
Application number: CN202110218946.5A
Authority: CN
Inventors: 何向南; 魏天心; 冯福利; 陈佳伟; 易津锋
Original assignee: University of Science and Technology of China USTC
Current assignee: University of Science and Technology of China USTC
Priority date: 2021-02-26
Filing date: 2021-02-26
Publication date: 2021-07-23
Anticipated expiration: 2041-02-26
Also published as: CN113158024B

Abstract

本发明公开了一种纠正推荐***流行度偏差的因果推理方法，包括：获取当前推荐***中用户与物品的匹配得分；根据物品的受欢迎程度预测物品得分、以及根据用户的偏好预测用户得分；聚合用户与物品的匹配得分、物品得分以及用户得分，预测出用户与物品匹配分数，再去除流行度偏差造成的影响，得到用户与物品的最终匹配分数。本发明提供的方法是一种模型无关的反事实推理框架，可以适用于各类推荐***，通过消除流行度偏差，提升推荐***的推荐性能，可以为用户提供更加优质，准确的个性化推荐内容。

Description

一种纠正推荐***流行度偏差的因果推理方法

技术领域

本发明涉及个性化推荐技术领域，尤其涉及一种纠正推荐***流行度偏差的因果推理方法。

背景技术

个性化推荐给许多在线应用带来了革命性的变化，比如电子商务，搜索引擎，以及会话***。人们已经开发了大量的推荐模型，其中默认的优化选择是重构用户-物品的历史交互。但是，交互数据中的物品的频率分布从来都不是均衡的，它受到曝光机制、口碑效应、销售活动、产品质量等诸多因素的影响。在大多数情况下，物品的频率分布是长尾的，即少数的流行物品有着数据集中绝大部分的交互。这使得经典的训练范式偏向于推荐流行的物品，而不能揭示用户真正的偏好。

推荐***的总体目标是向用户提供个性化的建议，而不是简单地推荐流行的物品。而常规的训练范式，即通过训练推荐模型来拟合用户行为数据，会使得模型偏向于流行的项目。这便导致了糟糕的马太效应，使得流行的物品被更频繁地推荐，从而变得更受欢迎。现有的研究利用逆向倾向加权(IPW)尝试解决这一问题，即通过降低流行物品对训练的影响，同时增加长尾物品权重。虽然该方法理论上合理，但其加权策略高度敏感，会导致难以调优。

发明内容

本发明的目的是提供一种纠正推荐***流行度偏差的因果推理方法，它是一种模型无关的反事实推理框架，可以适用于各类推荐***，通过消除流行度偏差，提升推荐***的推荐性能，可以为用户提供更加优质，准确的个性化推荐内容。

本发明的目的是通过以下技术方案实现的：

一种纠正推荐***流行度偏差的因果推理方法，包括：

获取当前推荐***中用户与物品的匹配得分；

根据物品的受欢迎程度预测物品得分、以及根据用户的偏好预测用户得分；

聚合用户与物品的匹配得分、物品得分以及用户得分，预测出用户与物品匹配分数，再去除流行度偏差造成的影响，得到用户与物品的最终匹配分数。

由上述本发明提供的技术方案可以看出，1)方案是模型(即推荐***模型)无关的，可以很简单地适用于任何推荐***模型。2)对超参数不敏感，减少了调整参数的时间和困难。3)能够提升推荐***的推荐性能。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他附图。

图1为本发明实施例提供的推荐***因果图的示意图；

图2为本发明实施例提供的一种纠正推荐***流行度偏差的因果推理方法的流程图；

图3为本发明实施例提供的在Adressa数据集上的推荐性能对比结果；

图4为本发明实施例提供的参数c对推荐性能的影响示意图。

具体实施方式

下面结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明的保护范围。

本发明实施例从一个新颖且基本的视角——因果关系，来探讨流行度偏差的问题，提出了一种纠正推荐***流行度偏差的因果推理方法，该方法是一种模型无关的反事实推理方法框架(MACR)。研究发现，流行度偏差存在于从物品节点到排名分数的直接影响之中，因此物品的内在属性是错误地为其分配更高排名分数的原因。为了消除受欢迎程度的偏见，有必要思考一个反事实的问题，即如果模型只使用物品的相关信息，那么它的排名得分会是多少。为此，构建了一个因果图来描述推荐过程中重要的因果关系，如图1所示，为推荐***因果图，其描述了传统推荐***提出的建模物品流行度与用户活跃度及其因果关系；图1中，I，U为因果图中的节点，抽象表示推荐***的物品和用户，不同节点的有向边表示它们的因果关系，K(Knowledge)表示综合用户和物品信息抽取出来的知识信息，Y表示推荐***最终给当前用户节点I对应物品节点U的推荐得分(即用来推荐的分数)。在训练中，通过多任务学习，对每一项因果关系对于的推荐得分的贡献。在测试过程中，通过反事实推理来消除流行度的影响。值得注意的是，本发明提供的方案修正了推荐***的学习过程，这种学习过程对很多推荐***都是通用的——它可以很容易地在现有的方法中实现。

如图2所示，为本发明实施例提供的一种纠正推荐***流行度偏差的因果推理方法的主要流程，其包括：

1、获取当前推荐***中用户与物品的匹配得分。

所述当前推荐***可以是现有的各类推荐***，用户与物品的匹配得分可以直接使用现有的推荐***中的排名得分，排名得分是推荐***将物品和用户的表示信息作为输入，计算出的得分可以反映了物品在多大程度上可以匹配用户的偏好。

2、根据物品的受欢迎程度预测物品得分、以及根据用户的偏好预测用户得分。

本发明实施例中，可以设置物品建模模块、用户建模模块来各自预测物品得分、用户得分，主要说明如下：

物品建模模块：

表示物品受欢迎程度的影响，越受欢迎的物品得分越高。

用户建模模块：

显示了在不管用户物品是否匹配的情况下，用户u将会在多大程度上与物品交互。考虑到两个用户被随机推荐相同数量的视频，一个用户可能会因为更广泛的偏好或更强的活动而点击更多的视频。这种兴趣广泛的用户将获得更高的

本发明实施例中，I与U各自表示推荐***中当前的物品与用户，I＝i、U＝u表示当前的物品与用户为具体的物品i、用户u。上述两个建模模块中，将物品及用户的信息(比如属性或历史购买记录等)作为输入，然后各自通过神经网络来计算得到Y_i与Y_u，具体计算方案可通过常规技术来实现，例如，采用单层全连接神经网络进行计算。

3、聚合用户与物品的匹配得分、物品得分以及用户得分，预测出用户与物品匹配分数，再去除流行度偏差造成的影响，得到用户与物品的最终匹配分数。

聚合用户与物品的匹配得分、物品得分以及用户得分，预测出用户与物品匹配分数表示为：

其中，

表示预测出的用户u与物品i的匹配分数；

表示当前推荐***中用户u与物品i的匹配得分(排名得分)，

各自表示预测出的用户得分、物品得分；σ(.)表示sigmoid函数，通过sigmoid函数可以把

和

变化为在[0,1]的范围的点击概率，去调整依赖用户-物品匹配的程度。

消除流行偏见的关键是通过消除物品对于模型的直接影响，因此，将

减去流行度偏差造成的影响，得到最终匹配分数：

其中，c是超参数，表示

的反事实状态，可以根据实际情况或者经验自行设定，本发明不对其具体数值做限定。

通过以上方式，可以针对每一用户得到其与不同物品之间的最终匹配分数，基于用户与不同物品的最终匹配分数的大小生成推荐列表，并推荐给用户；示例性的，可以根据设定的推荐物品数目K，选出最终匹配分数最大的K个物品，做降序排列后推荐给用户；例如，可以设置K＝20，当然K的具体数值可根据实际情况或者经验自行设定，本发明不对K的具体数值进行限定。

本发明实施例提供的上述方案，可以实现在任何现有的推荐***之上，通过配合多任务学习来进行模型训练和反事实推理来进行去偏见的推荐，对于现有的推荐***只需要添加一个用户建模模块Y_u(U)和一个物品建模模块Y_i(I)。这些模块将用户和物品融入到推荐分数中，示例性的，上述两个模块可以使用全连接网络实现。

本发明实施例中，将物品建模模块、用户建模模块、以及当前推荐***作为一个模型进行训练。应用

作为预测的推荐分数并使用推荐***的损失函数，为了实现用户和项目模块的建模，还设计一个多任务学习模式，对于

和

增加额外的约束，在形式上，训练阶段的损失函数为：

L＝L_O+α*L_I+β*L_U

其中，α和β为超参数，用于调整不同任务之间的权衡；L_O表示当前推荐***的损失函数，L_I表示物品建模模块的损失函数，L_U表示用户建模模块的损失函数，通过L_I和L_U达成建模因果关系的优化目标。

所述当前推荐***的损失函数表示为：

所述用户建模模块的损失函数表示为：

所述物品建模模块的损失函数表示为：

其中，(u，i)表示用户u与物品i构成的用户-物品对，D表示包含若干用户-物品对的训练数据；y_ui是训练数据中真实的交互数据(真实的匹配得分)，数值为1代表用户u与物品i之间存在交互，否则为0。

训练目标是拟合真实历史交互y_ui，直至满足训练终止条件(例如，训练次数达标，或者连续多次训练的损失函数不在下降等)；之后，可以通过前述步骤1～3介绍的方式计算用户与物品的最终匹配分数，并进行推荐。

为了说明本发明实施例上述方案的有效性，在现有推荐***模型：矩阵因子分解模型(MF)和轻量级图推荐模型(LightGCN)上进行了实验，它们分别是传统推荐***和最先进推荐模型的代表，实验中使用了表1所示的五个真实数据集。

数据集	用户	物品	交互数	稀疏度
					Adressa	13,485	744	116,321	0.011594
Globo	158,323	12,005	2,520,171	0.001326
					ML10M	69,166	8,790	5,000,415	0.008225
Yelp	31,668	38,048	1,561,406	0.001300
					Gowalla	29,858	40,981	1,027,370	0.000840

表1数据集信息统计

1、对于无偏场景的测试精度更高：本发明提供的方法通过引入因果推断，在训练过程中建模多种因果关系，提升了模型的在无偏场景下的表现能力。表2为性能比较结果。

表2 MF与MACR_MF的性能比较结果

表2中的MACR_MF表示本发明提供的方案应用于MF模型，即前文所述的当前***为MF模型。R全称为Recall，表示召回率，它是衡量推荐准确率的指标；N表示NDCG(Normalized Discounted cumulative gain，归一化折损累计增益)，它是衡量排序效果的指标；HR全称为Hit Ratio，表示命中率，即推荐命中用户兴趣的概率。从表2中可以看出，MACR_MF在不同数据量和数据密度的数据集上的表现均优于MF模型。

2、本发明的方法与模型无关的，可以适用于任何的推荐***模型，上述表2中，在MF模型上验证了本发明的效果；下面进一步展示了在轻量级图推荐模型(LightGCN)上的效果，并且展示了对于不同大小的推荐列表的效果，如图3所示。

图3中MACR_LightGCN表示本发明提供的方案应用于LightGCN模型，即前文所述的当前***为LightGCN模型。图3中的(a)、(b)、(c)三部分依次为HR@K, NDCG@K和Recall@K指标上的验证结果，这三部分中四个线条从上至下依次对应于 MACR_LightGCN、MACR_MF、LightGCN、MF。从图3中可以看出本发明应用在不同的推理***模型，都能够取得很好的效果。

3、对超参数不敏感，减少了调整参数的时间和困难。

如图4所示，其展示了在Adressa数据集上关于参数c对结果的影响。可以看出本发明效果相比LighGCN模型和MF模型可以得到持续的提升，并且参数易于调整，简单地调至30左右就可以取得非常好的效果。

本领域技术人员可以理解，上述各项指标末尾部分的数值代表给每个用户推荐的物品数目，例如，R@20表示每个用户推荐20个物品，然后计算Recall指标(指标的大小和推荐物品的多少有关系)，后续的“K”也是类似的含义，即表示给每个用户推荐K个物品，然后计算Recall等指标。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例可以通过软件实现，也可以借助软件加必要的通用硬件平台的方式来实现。基于这样的理解，上述实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明披露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求书的保护范围为准。