CN109299370A - 多对级个性化推荐方法 - Google Patents

Abstract

本发明公开了一种多对级个性化推荐方法，包括：通过互联网平台提取用户的隐式反馈信息；根据提取到的用户的隐式反馈信息来确定用户对各商品的偏好程度，从而将用户的隐式反馈信息划分为正反馈集、负反馈集及未知集，并将这三个集合作为训练数据；采用随机梯度下降算法并结合训练数据来优化用户对商品的偏好程度，从而得到优化后的用户对各商品的偏好程度；按照商品的偏好程度从高到低进行排序，将排名靠前的若干商品作为用户做喜欢的商品推荐给用户。该方法可以挖掘用户潜在感兴趣的商品信息，采用个性化推荐的方法将用户喜欢的商品以列表的形式推荐给每一个用户。

Description

多对级个性化推荐方法

技术领域

本发明涉及机器学习和推荐***领域，尤其涉及一种多对级个性化推荐方法。

背景技术

协同过滤算法是推荐***中最常见的算法之一。以前的研究更加注重的是基于用户评分数据的协同过滤算法，但是生活中更多的应用场景中，很难获取用户对商品的评分。比如，在“天猫网”上拥有用户的购买记录，在“微博”平台上拥有用户的关注记录，在“爱奇艺”上拥有用户的浏览记录，这些用户的历史记录并不包含显式的评分信息，称这种类型的数据为用户的隐式反馈。与用户的评分数据不同的是，隐式反馈只包含了用户对于商品的正反馈信息，大量未被商业平台观察到的反馈信息不能简单地理解为用户对这些商品存在负反馈，因为用户很有可能没有发现这些商品，而不是用户不喜欢这些商品。

由于基于隐式反馈的推荐***缺少大量的负反馈信息，特别是在数据稀疏的情况下尤为明显，各国学者围绕这个课题展开了大量的研究工作，其中点级回归模型和对级排序模型取得了最好的推荐效果。

点级回归模型将隐式反馈作为用户对商品的绝对偏好值，并采用点级平方损失函数最小化来近似用户对商品的绝对偏好值。但点级回归模型训练效率很低，面对大规模用户反馈数据时，不能够在有效时长给出较好的模型，并且实验结果表明，点级回归模型对于易失数据的预测效果差，推荐效果受初始化权值的影响比较大。

对级排序模型把用户与每一对商品的偏好关系作为基本单元，对平台上观察到的商品反馈信息和未观察到的商品反馈信息建模，并尝试最大化商品对之间的偏好假设的似然函数，从而给出用户感兴趣的商品列表。贝叶斯个性化推荐算法是最常见的采用对级排序模型的算法，近些年许多研究工作围绕贝叶斯个性化推荐算法展开并取得了良好的应用价值。但是，这些对级排序模型认为用户相比没有消费过的商品更喜欢那些已经给予正反馈的商品，从而忽略了大量未被观察到的商品中潜在的用户喜欢的商品，限制了推荐***对用户偏好的理解和运用。

发明内容

本发明的目的是提供一种多对级个性化推荐方法，可以挖掘用户潜在感兴趣的商品信息，采用个性化推荐的方法将用户喜欢的商品以列表的形式推荐给每一个用户。

本发明的目的是通过以下技术方案实现的：

一种多对级个性化推荐方法，包括：

通过互联网平台提取用户的隐式反馈信息；

根据提取到的用户的隐式反馈信息来确定用户对各商品的偏好程度，从而将用户的隐式反馈信息划分为正反馈集、负反馈集及未知集，并将这三个集合作为训练数据；

采用随机梯度下降算法并结合训练数据来优化用户对商品的偏好程度，从而得到优化后的用户对各商品的偏好程度；

按照商品的偏好程度从高到低进行排序，将排名靠前的若干商品作为用户做喜欢的商品推荐给用户。

由上述本发明提供的技术方案可以看出，区别对待每一用户未产生购买行为的商品，把用户对这部分商品的偏好根据用户没有看到还是不喜欢一分为二，并深入挖掘了用户因为不了解商品信息而失去购买行为的潜在消费需求，最后给出更反应用户偏好程度的商品推荐列表。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他附图。

图1为本发明实施例提供的一种多对级个性化推荐方法的流程图；

图2为本发明实施例提供的商品数据划分示意图；

图3为本发明实施例提供的多对级个性化排序的偏好关系示意图。

具体实施方式

下面结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明的保护范围。

本发明实施例提供一种多对级个性化推荐方法，如图1所示，其主要包括如下步骤：

步骤1、通过互联网平台提取用户的隐式反馈信息。

本步骤优选实施方式如下：

首先，采用爬虫技术，从在线购物平台爬取用户对商品的点击记录和购买记录，从社交平台爬取用户对其他用户的关注记录，从在线媒体平台爬取用户对在线媒体的浏览记录；其中，对于社交平台，将其他用户看作商品，将关注操作看作对商品的购买操作；对于在线媒体平台，将在线媒体看作商品，将用户对于在线媒体的浏览操作看作购买操作。

然后，对数据进行预处理，构建用户-商品矩阵；假设用户为u，商品为i，用户-商品矩阵中的元素(u，i)记录了用户u对商品i的操作历史；使用r_ui表示用户u对于商品i的偏好程度，如果用户u购买了商品i，即(u，i)＝1，则认为用户u表达了对商品i的正反馈，记作r_ui＝1。

步骤2、根据提取到的用户的隐式反馈信息来确定用户对各商品的偏好程度，从而将用户的隐式反馈信息划分为正反馈集、负反馈集及未知集，并将这三个集合作为训练数据。

本发明实施例中，将所有的商品集合I划分为正反馈集、负反馈集及未知集。具体来说：1)将用户u已经购买商品的集合作为正反馈集也即用户对这些商品的偏好程度为1。2)将用户已经观察到但并未购买的商品的集合作为负反馈集3)将除去正反馈集与负反馈集后的商品集合作为未知集也即不清楚用户u是否喜欢这些商品，因为用户u很有可能没有看到有关这部分商品的信息。需要注意的是负反馈集和未知集都是平台上没有观察到反馈的商品的集合。

本步骤优选划分方式如下：

1)对于在线购物平台，将用户u点击并购买的商品纳入正反馈集将用户u点击记录中未购买的商品纳入负反馈集也即用户已经看到这部分商品但是不选择购买它们，因而倾向于不再把这部分商品推荐给用户；最后将用户u未点击过的商品纳入未知集

2)对于社交平台与在线媒体平台，将用户被其他用户关注的次数以及在线媒体被所有用户浏览的次数分别从多少进行排序，选出排序靠后的一部分用户及在线媒体作为不流行集I^e；对于用户u，其关注的其他用户及浏览的在线媒体纳入正反馈集不流行集I^e与正反馈集的差集(不流行集I^e-正反馈集)纳入负反馈集用户u关注的其他用户及浏览的在线媒体和差集的并集，与所有用户及所有在线媒体，之间的差集则纳入未知集也即，将“(所有用户及所有在线媒体)-[(差集)∪(用户u关注的其他用户及浏览的在线媒体)]”的结果纳入未知集

如图2所示，为商品数据划分示意图。用户John喜欢电影“The Dark Knight”和“Alien”，因而将纳入正反馈集一些很少有人观看的电影代表了不流行集I^e(阴影部分)，则对于用户John来说，阴影部分的不流行集I^e与“The Dark Knight”和“Alien”的差集将纳入负反馈集(即不流行集I^e中除去Alien之外的数据)，认为用户John对这部分电影不感兴趣。对于其他电影无法判断用户John是否喜欢，因而全部纳入未知集中。

步骤3、采用随机梯度下降算法并结合训练数据来优化用户对商品的偏好程度，从而得到优化后的用户对各商品的偏好程度。

将正反馈集中用户对每一商品的偏好程度记为1，将负反馈集中用户对每一商品的偏好程度记为0，将未知集中用户对每一商品的偏好程度用问号？来表示。

如图3所示，对于用户u，在商品集合I中采样6个不同的商品，分别标记为i，j，p，p′，q，q′，其中，i，p，p′属于正反馈集j，q′属于负反馈集q属于未知集则对于用户u，对商品的偏好程度为：r_ui＝r_up＝r_up′＝1，r_uj≈r_uq′≈0，r_uq＝？，0≤？≤1；其中的r表示偏好程度程度，两个下标依次对应与用户及商品。

根据用户u对于商品的偏好，可以给出多对级个性化排序算法的偏好关系假设：因为用户u已经对商品i表达了正反馈，并且用户u很有可能不喜欢商品j和商品q′，所以无论商品q是不是用户u感兴趣的商品，都会有偏好关系r_ui-r_uj≥r_uq-r_uq′。同理，用户u同时喜欢商品p和p′，所以用户对于他们的喜好的差异应该是比较小的，即存在如下偏好关系r_uq-r_uq′≥r_up-r_up′。利用记号r_uij＝r_ui-r_uj表示用户u对商品i和商品j之间偏好程度的差值，根据多对级个性化推荐算法(MPR)的偏好假设，可以归纳为r_uij≥r_uqq′≥r_upp′，那么对于所有的用户U有如下似然函数：

上述似然函数包含了3个不同的商品对，深入理解了每一个用户对于购买和未购买商品之间的偏好关系。总体来看，两个被用户u购买过的商品之间的偏好差值小于两个未被用户u购买过的商品之间的偏好差值，后者又小于一个被用户u购买过的商品和一个未被用户u购买过的商品之间的偏好差值。通过用户对多个商品对之间不同偏好关系差值的比较，挖掘了用户对未购买的商品集中可能感兴趣的商品。

将r_uij≥r_uqq′,r_uqq′≥r_upp′表示为：

λ(r_uij-r_uqq′)+(1-λ)(r_uqq′-r_upp′)；

其中，λ是一个用于平衡两个偏好假设目标的平衡因子，将上式缩写为并利用下式来近似估计概率值Pr(·)：

则对于用户u，多对级个性化推荐算法的偏好假设简写为：

基于以上规则，优化多对级个性化推荐算法的似然函数表示为：

其中，Θ＝{U_u·∈R^1×d,V_i·∈R^1×d,b_i∈R,u∈U,i∈I}是模型需要学习的参数，U_u·是描述用户u的特征向量，V_i·是描述商品i的特征向量，b_i是商品i特征向量的偏移，商品集合I中商品特征向量的偏移记为R，d是特征向量的维度；R(Θ)是为了避免在训练过程中过拟合而设置的正则化项，R(Θ)＝∑_u∈U∑_t∈S[α_u‖U_u·‖²+α_v‖V_t·‖²+β_v‖b_t·‖²]，S＝{i,j,p,p′,q,q′}是每一轮训练所采样的样本；ln MPR为多对级个性化推荐算法的对数似然函数，表示为：

采用随机梯度下降算法(SGD)优化上述似然函数，每一轮迭代过程挑选一条记录，包含了一个用户u，6个不同的商品i，j，p，p′，q，q′，根据梯度信息更新模型的参数达到优化的目的，最终的优化函数表示为：

获得梯度信号后，通过下式来更新模型参数：

上式中，γ＞0表示学习率，Θ′表示更新后的模型参数，其所包含的参数类型与Θ相同，此处为了区分更新前后的模型参数，因而为Θ增加了一撇，在实际操作中，本轮更新后的模型参数Θ′将赋值给Θ作下一轮的训练。

步骤4、按照商品的偏好程度从高到低进行排序，将排名靠前的若干商品作为用户做喜欢的商品推荐给用户。

通过之前的学***台的商品，社交平台的其他用户，在线媒体平台的在线媒体。根据用户对商品的喜欢程度排序结果，选择目标用户最喜欢的若干商品推荐给目标用户；对于所有的用户都按照上述步骤1～步骤4的方式来处理，从而对每一用户实现个性化推荐的目的。

本发明实施例上述方案，根据用户与商品的历史交互信息划分商品集合，通过比较用户与商品对之间偏好差值的关系，深入挖掘了用户对于未购买商品潜在的购物需求，最后基于随机梯度下降算法优化多对级个性化推荐算法的偏好假设，推荐给用户更符合用户需求的商品列表。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例可以通过软件实现，也可以借助软件加必要的通用硬件平台的方式来实现。基于这样的理解，上述实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明披露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求书的保护范围为准。

Claims (4)

1.一种多对级个性化推荐方法，其特征在于，包括：

通过互联网平台提取用户的隐式反馈信息；

根据提取到的用户的隐式反馈信息来确定用户对各商品的偏好程度，从而将用户的隐式反馈信息划分为正反馈集、负反馈集及未知集，并将这三个集合作为训练数据；

采用随机梯度下降算法并结合训练数据来优化用户对商品的偏好程度，从而得到优化后的用户对各商品的偏好程度；

按照商品的偏好程度从高到低进行排序，将排名靠前的若干商品作为用户做喜欢的商品推荐给用户。

2.根据权利要求1所述的一种多对级个性化推荐方法，其特征在于，所述通过互联网平台提取用户的隐式反馈信息包括：

首先，采用爬虫技术，从在线购物平台爬取用户对商品的点击记录和购买记录，从社交平台爬取用户对其他用户的关注记录，从在线媒体平台爬取用户对在线媒体的浏览记录；其中，对于社交平台，将其他用户看作商品，将关注操作看作对商品的购买操作；对于在线媒体平台，将在线媒体看作商品，将用户对于在线媒体的浏览操作看作购买操作；

然后，对数据进行预处理，构建用户-商品矩阵；假设用户为u，商品为i，用户-商品矩阵中的元素(u，i)记录了用户u对商品i的操作历史；使用r_ui表示用户u对于商品i的偏好程度，如果用户u购买了商品i，即(u，i)＝1，则认为用户u表达了对商品i的正反馈，记作r_ui＝1。

3.根据权利要求2所述的一种多对级个性化推荐方法，其特征在于，所述根据提取到的用户的隐式反馈信息来确定用户对各商品的偏好程度，从而将用户的隐式反馈信息划分为正反馈集、负反馈集及未知集包括：

将用户u已经购买商品的集合作为正反馈集也即用户对这些商品的偏好程度为1；将用户已经观察到但并未购买的商品的集合作为负反馈集将除去正反馈集与负反馈集后的商品集合作为未知集

对于在线购物平台，将用户u点击并购买的商品纳入正反馈集将用户u点击记录中未购买的商品纳入负反馈集将用户u未点击过的商品纳入未知集

对于社交平台与在线媒体平台，将用户被其他用户关注的次数以及在线媒体被所有用户浏览的次数分别从多少进行排序，选出排序靠后的一部分用户及在线媒体作为不流行集I^e；对于用户u，其关注的其他用户及浏览的在线媒体纳入正反馈集不流行集I^e与正反馈集的差集纳入负反馈集用户u关注的其他用户及浏览的在线媒体和差集的并集，与所有用户及所有在线媒体，之间的差集则纳入未知集

4.根据权利要求3所述的一种多对级个性化推荐方法，其特征在于，所述采用随机梯度下降算法并结合训练数据来优化用户对商品的偏好程度包括：

将正反馈集中用户对每一商品的偏好程度记为1，将负反馈集中用户对每一商品的偏好程度记为0，将未知集中用户对每一商品的偏好程度用问号？来表示；

对于用户u，在商品集合I中采样6个不同的商品，分别标记为i，j，p，p′，q，q′，其中，i，p，p′属于正反馈集j，q′属于负反馈集q属于未知集则对于用户u，对商品的偏好程度为：r_ui＝r_up＝r_up′＝1，r_uj≈r_uq′≈0，r_uq＝？，0≤？≤1；其中的r表示偏好程度程度，两个下标依次对应与用户及商品；利用记号r_uij＝r_ui-r_uj表示用户u对商品i和商品j之间偏好程度的差值，根据多对级个性化推荐算法MPR的偏好假设，有r_uij≥r_uqq′≥r_upp′，那么对于所有的用户U有如下似然函数：

将r_uij≥r_uqq′，r_uqq′≥r_upp′表示为：

λ(r_uij-r_uqq′)+(1-λ)(r_uqq′-r_upp′)；

其中，λ是一个用于平衡两个偏好假设目标的平衡因子，将上式缩写为并利用下式来近似估计概率值Pr(·)：

则对于用户u，多对级个性化推荐算法的偏好假设简写为：

从而优化多对级个性化推荐算法的似然函数表示为：

其中，Θ＝{U_u·∈R^1×d，V_i·∈R^1×d，b_i∈R，u∈U，i∈I}是模型需要学习的参数，U_u·是描述用户u的特征向量，V_i·是描述商品i的特征向量，b_i是商品i特征向量的偏移，商品集合I中商品特征向量的偏移记为R，d是特征向量的维度；R(Θ)为正则化项；ln MPR为多对级个性化推荐算法的对数似然函数，表示为：

采用随机梯度下降算法优化上述似然函数，每一轮迭代过程挑选一条记录，包含了一个用户u，6个不同的商品i，j，p，p′，q，q′，根据梯度信息更新模型的参数达到优化的目的，最终的优化函数表示为：

其中，S＝{i，j，p，p′，q，q′}；

获得梯度信号后，通过下式来更新模型参数：

上式中，γ＞0表示学习率，Θ′表示更新后的模型参数。