CN111209475B - 一种基于时空序列和社会嵌入排名的兴趣点推荐方法及装置 - Google Patents

Abstract

本发明公开了一种基于时空序列和社会嵌入排名的兴趣点推荐方法，首先，提出了一种基于水平卷积滤波器、垂直卷积滤波器和多层感知器模型的混合深度模型用于捕捉用户偏好以及时空序列模式的影响；然后，采用度量学习的方法对用户的社交关系进行建模；接着，采用基于矩阵分解的统一框架来整合用户个人兴趣、签到序列模式以及用户的社交信息。最后，采用BPR标准优化目标损失函数，拟合用户在兴趣点对上的偏序关系，最终生成兴趣点推荐列表。本发明通过构建一种融合了混合深度模型和度量学习的兴趣点推荐方法，使得最终推荐更加精准。

Description

一种基于时空序列和社会嵌入排名的兴趣点推荐方法及装置

技术领域

本发明涉及深度学习技术领域，具体涉及一种基于时空序列和社会嵌入排名的兴趣点推荐方法及装置。

背景技术

随着Web2.0的快速发展，无线通信与位置采集技术促生很多基于位置的社交网络应用，在这些基于位置的社交网络服务应用中，用户可以与其他用户建立社交联系，探索周边的环境，以签到兴趣点(如餐馆、购物中心和景点等)的方式分享他们的生活经历与体验。LBSN除了为用户提供交互平台，其中包含的丰富数据(签到数据、社交关系、评论信息等)可以用来挖掘用户的兴趣偏好，并为用户推荐用户可能感兴趣的、未访问过的地理位置。基于位置的社交网络向用户推荐用户可能感兴趣的地理位置的推荐称为兴趣点推荐(Point-of-interest,POI)。兴趣点推荐一方面满足用户探索新的地理区域与发现新的兴趣点的个性化需求，同时减轻用户面临的信息过载问题；另一方面兴趣点推荐帮助LBSN服务提供商在实现智能化的位置服务中扮演重要角色，从而帮助LBSN服务提供商增加营业收入。因此，如何为用户提供准确的兴趣点推荐，近年来引起了越来越多的研究人员的关注。

近年来，随着LBSN的发展，越来越多的研究人员从人类位置移动规律和轨迹上观察到，人类运动位置特征呈现序列化特点。这种序列化的特点也被称为：时空顺序影响或序列影响。这种位置序列化特点受到多种因素的综合影响，但与时空影响的关联最为密切。显然，兴趣点推荐算法作为一种基于上下文信息的位置感知的个性化推荐模型，其通过捕捉用户与兴趣点所处的上下文信息，比如签到地理位置影响等，并不能满足精准POI推荐的要求，而必须捕捉在上述上下文相关信息的同时结合用户签到历史记录中变化的时空序列影响，才能提供准确的POI推荐。考虑时空序列模式对用户签到行为影响的POI推荐，则称为连续POI推荐或者称为下一个POI推荐。

本申请发明人在实施本发明的过程中，发现现有技术的方法，至少存在如下技术问题：

(1)现有连续兴趣点推荐研究主要利用马尔可夫链模型或者RNN来建模签到时空序列模型。例如马尔可夫链模型。但是这些模型在建模时空顺序数据时，需要估计第n阶马尔科夫链模型中的|V|n+1个自由参数，显然，其计算量极其复杂的。

(2)随着LBSNs的飞速发展，越来越多的兴趣点推荐算法利用社交网络提供的用户丰富社交信息来提高推荐算法的性能以及缓解推荐方法中面临的数据稀疏和冷启动问题。大多数POI推荐的研究工作中偏好利用用户社交关系的相似性基于传统协同过滤模型来建模用户的社交信息。这些工作很好的利用协同过滤模型挖掘用户社交信息，但是无法在共同好友数量或者共同签到信息稀疏的情况下也取得稳定可靠的计算结果。

由此可知，现有技术中的方法存在推荐性能不佳的技术问题。

发明内容

有鉴于此，本发明提供了一种基于时空序列和社会嵌入排名的兴趣点推荐方法及装置，用以解决或者至少部分解决现有技术中的方法存在的推荐性能不佳的技术问题。

为了解决上述技术问题，本发明第一方面提供了一种基于时空序列和社会嵌入排名的兴趣点推荐方法，

步骤S1：使用基于水平卷积滤波器、垂直卷积滤波器和多层感知器模型的混合深度模型对用户签到时序信息进行建模，学习兴趣点时序特征的目标函数，得到用户签到时序模型；

步骤S2：基于度量学习理论构建权重函数用于用户和用户之间社交关系程度的预测，对用户社交信息进行建模，得到用户社交信息模型；

步骤S3：采用基于矩阵分解的统一框架对用户签到时序模型中的用户签到时序信息和用户社交信息模型中的用户社交信息进行融合，并基于学习兴趣点时序特征的目标函数和权重函数得到用于兴趣点推荐的损失函数；

步骤S4：利用BPR标准对用于兴趣点推荐的损失函数进行优化，拟合用户在兴趣点对上的偏序关系，并基于偏序关系生成兴趣点推荐列表。

在一种实施方式中，混合深度模型包括嵌入层、卷积层、全连接层和多层感知机，步骤S1具体包括：

步骤S1.1：通过嵌入层对位置信息和用户信息进行嵌入；

步骤S1.2：通过卷积层，利用水平卷积滤波器、垂直卷积滤波器捕获局部特征，并对局部特征进行识别和处理；

步骤S1.3：通过全连接层对卷积层处理后的特征进行降维处理；

步骤S1.4：通过多层感知机学习用户和签到点潜在特征之间的关系，并以学习兴趣点时序特征的目标函数为目标，得到用户签到时序模型。

在一种实施方式中，步骤S1.2具体包括：

步骤S1.2.1：水平卷积滤波器从矩阵E的左上角开始，以步长为1从上到下依次滑动进行卷积计算，并与矩阵E进行交互，其中，矩阵E是通过嵌入层的处理将位置集合转换成一个词向量组成的文档矩阵，用以存储用户签到位置信息，水平卷积核F^k的大小为h×w，其中h和w分别是过滤器的高度和宽度；

步骤S1.2.2：垂直卷积滤波器通过在矩阵E上从左到右滑动d次与矩阵E进行交互，交互的结果是由第i个卷积值计算，d和i为正整数。

在一种实施方式中，步骤S2具体包括：

步骤S2.1：定义距离度量用以估计用户之间的社交关系程度；

步骤S2.2：使用关系程度损失函数来制定约束以使关系程度高的用户更加接近，其中，关系程度损失函数为权重函数；

步骤S2.3：使用基于秩的加权方法惩罚具有较低级别的社会关系的用户。

步骤S2.4：基于距离度量、权重函数和惩罚项，构建用户社交信息模型。

在一种实施方式中，步骤S3具体包括：

融合用户签到时序信息和用户社交信息，将两种异构信息整合到一个统一的框架；

基于学习兴趣点时序特征的目标函数和权重函数得到用于兴趣点推荐的损失函数，最小化目标函数为：

其中，w(g)为权重函数，Y为学习兴趣点时序特征的目标函数，v_i表示兴趣点的潜在特征初始值，P_u、y_c为第一层的输入，f₂、b₂、W₂分别表示第2层中的激活函数、偏置项量、激活函数，以此类推，

这一项为正则化项，λ_w表示正则化参数，W_α为特征参数；

W_X，b_X，f_X分别表示第X层的感知机中的权重矩阵、偏置向量、激活函数，用户u_m和用户u_n之间的关系比用户u_m和用户u_r之间的关系更密切，σ[x]＝max(x,0)表示标准铰链损失，ρ_mn是排序损失权重，θ表示安全阈值大小。基于同样的发明构思，本发明第二方面提供了一种基于时空序列和社会嵌入排名的兴趣点推荐装置，包括：

用户签到时序模型构建模块，用于使用基于水平卷积滤波器、垂直卷积滤波器和多层感知器模型的混合深度模型对用户签到时序信息进行建模，学习兴趣点时序特征的目标函数，得到用户签到时序模型；

用户社交信息模型构建模型，用于基于度量学习理论构建权重函数用于用户和用户之间社交关系程度的预测，对用户社交信息进行建模，得到用户社交信息模型；

信息融合模块，用于采用基于矩阵分解的统一框架对用户签到时序模型中的用户签到时序信息和用户社交信息模型中的用户社交信息进行融合，并基于学习兴趣点时序特征的目标函数和权重函数得到用于兴趣点推荐的损失函数；

推荐模块，用于利用BPR标准对用于兴趣点推荐的损失函数进行优化，拟合用户在兴趣点对上的偏序关系，并基于偏序关系生成兴趣点推荐列表。

本申请实施例中的上述一个或多个技术方案，至少具有如下一种或多种技术效果：

本发明所提供的技术方案是一种更为有效和高效的兴趣点推荐方法，利用CNN来建模签到兴趣点与用户之间的时序关联，可以为用户提供更加准确的兴趣点推荐；利用度量学习理论来建模用户社交信息则可以缓解兴趣点推荐过程中普遍存在的数据稀缺性问题。本发明通过构建一种融合了混合深度模型和度量学习的兴趣点推荐方法，使得最终推荐更加精准。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明提供的一种基于时空序列和社会嵌入排名的兴趣点推荐方法的流程图；

图2是本发明构建的SSSER模型(基于时空序列和社会嵌入排名模型)总体框架图。

图3是时序建模的时序模型图；

图4为本发明提供的一种基于时空序列和社会嵌入排名的兴趣点推荐装置的结构框图。

具体实施方式

本申请发明人通过大量的研究与实践发现：

虽然近年来研究人员提出了一些连续兴趣点推荐算法，但是已有的连续兴趣点推荐算法进行兴趣点推荐时依然非常具有挑战性，主要归结于以下问题：

(1)现有连续兴趣点推荐研究主要利用马尔可夫链模型或者RNN来建模签到时空序列模型。如已有文献研究利用马尔可夫链模型。但是这些模型在建模时空顺序数据时，需要估计第n阶马尔科夫链模型中的|V|n+1个自由参数，显然，其计算量极其复杂的。因此，为了减小预测空间的大小，大多数基于马尔科夫链的相关研究利用一阶马尔可夫链来建模顺序影响，该方法只考虑用户访问的位置序列中的最后一个来推荐新的位置为了她，显然，这种方法没有区分某些局部时间背景下用户的个性化签到，使得所有用户的签到行为最终建模为统一的签到位置序列模式。同时，深度学习作为机器学习领域一个重要研究方向，近年来在推荐***领域取得了突破性进展，其中RNN因为能够建模序列数据中不同时刻数据之间的依赖关系，为推荐***中捕捉时空序列影响带来了新的机遇。然而，在建模时空序列数据时，RNN假设时间依赖关系随序列中的位置单调变化。但是在一些真实的签到场景，并非所有相邻签到都具有依赖关系，特别是对于签到历史序列记录中某些个性化签到，使得RNN无法取得满意的推荐结果。

(2)随着LBSNs的飞速发展，越来越多的兴趣点推荐算法利用社交网络提供的用户丰富社交信息来提高推荐算法的性能以及缓解推荐方法中面临的数据稀疏和冷启动问题。大多数POI推荐的研究工作中偏好利用用户社交关系的相似性基于传统协同过滤模型来建模用户的社交信息。这些工作很好的利用协同过滤模型挖掘用户社交信息，但是无法在共同好友数量或者共同签到信息稀疏的情况下也取得稳定可靠的计算结果。而利用图模型基于链接的方法建模用户的社交信息的应用效果并不明显，原因是活跃分子可能拥有太多的间接朋友，从而无法利用图模型基于链接的方式准确捕捉用户的偏好。

基于以上考虑，本发明提出了一种基于时空序列和社会嵌入排名的兴趣点推荐方法，主要解决在建模签到序列时忽视了实际签到场景中个性化签到的上下文时空信息以及缺乏建模用户相关社交信息而使最终的推荐性能不高的问题。

为了达到上述目的，本发明的主要构思如下：

首先，提出了一种基于水平卷积滤波器、垂直卷积滤波器和多层感知器模型的混合深度模型用于捕捉用户偏好以及时空序列模式的影响；然后，采用度量学习的方法对用户的社交关系进行建模；接着，采用基于矩阵分解的统一框架来整合用户个人兴趣、签到序列模式以及用户的社交信息。最后，采用BPR标准优化目标损失函数，拟合用户在兴趣点对上的偏序关系，最终生成兴趣点推荐列表。本发明可以有效解决已有的连续兴趣点推荐算法没有解决的如下两个问题：

(1)在建模签到序列数据时，现有模型假设签到时间依赖签到位置序列中位置单调变化，强调基于位置等效转化概率来捕获签到顺序模式，忽视了一些实际签到场景中个性化签到的上下文时空信息。

(2)在缺乏建模需要的用户相关社交信息的情况下无法得到准确的推荐结果。本发明通过构建一种融合了混合深度模型和度量学习的兴趣点推荐方法，使得最终推荐更加精准。

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例一

本实施例提供了一种基于时空序列和社会嵌入排名的兴趣点推荐方法，该方法包括：

步骤S1：使用基于水平卷积滤波器、垂直卷积滤波器和多层感知器模型的混合深度模型对用户签到时序信息进行建模，学习兴趣点时序特征的目标函数，得到用户签到时序模型。

具体来说，基于水平卷积滤波器、垂直卷积滤波器和多层感知器模型的混合深度模型，首先将用户签到位置的时空序列和签到信息嵌入到潜在维度空间中，将嵌入信息后的矩阵视为一系列的“图像”，同时将时空序列模式和用户签到信息视为该“图像”的局部特征，接着采用CNN中联合卷积过滤器学习这些局部特征，从而实现签到位置时空序列模式影响与用户偏好的建模。同时采用多层感知器来学习用户签到位置时空序列影响和用户个性化签到的最终交互函数(即兴趣点时序特征的目标函数)，提升上述混合深度模型的非线性建模能力。

步骤S2：基于度量学习理论构建权重函数用于用户和用户之间社交关系程度的预测，对用户社交信息进行建模，得到用户社交信息模型。

具体来说，通过基于度量学习理论建模用户社交信息，同时对样本和距离度量进行训练，在满足距离约束的前提下更新距离度量和用户与用户的坐标，并将用户与用户嵌入到统一的低维空间，利用用户与用户之间的距离生成推荐结果。

步骤S3：采用基于矩阵分解的统一框架对用户签到时序模型中的用户签到时序信息和用户社交信息模型中的用户社交信息进行融合，并基于学习兴趣点时序特征的目标函数和权重函数得到用于兴趣点推荐的损失函数。

具体来说，利用矩阵分解的方法实现对用户偏好建模，并且将社交关系和时序信息有效的融合，将两个不同结构的信息纳入到统一的框架。

步骤S4：利用BPR标准对用于兴趣点推荐的损失函数进行优化，拟合用户在兴趣点对上的偏序关系，并基于偏序关系生成兴趣点推荐列表。

本发明所提供的技术方案是一种更为有效和高效的兴趣点推荐方法，利用CNN来建模签到兴趣点与用户之间的时序关联，可以为用户提供更加准确的兴趣点推荐；利用度量学习理论来建模用户社交信息则可以缓解兴趣点推荐过程中普遍存在的数据稀缺性问题。本发明通过构建一种融合了混合深度模型和度量学习的兴趣点推荐方法，使得最终推荐更加精准。

请参见图2～3，图2是本发明构建的SSSER模型(基于时空序列和社会嵌入排名模型)总体框架图，图3是时序建模的时序模型图；

在一种实施方式中，混合深度模型包括嵌入层、卷积层、全连接层和多层感知机，步骤S1具体包括：

步骤S1.1：通过嵌入层对位置信息和用户信息进行嵌入；

步骤S1.2：通过卷积层，利用水平卷积滤波器、垂直卷积滤波器捕获局部特征，并对局部特征进行识别和处理；

步骤S1.3：通过全连接层对卷积层处理后的特征进行降维处理；

步骤S1.4：通过多层感知机学习用户和签到点潜在特征之间的关系，并以学习兴趣点时序特征的目标函数为目标，得到用户签到时序模型。

具体来说，实施例中，步骤1中利用卷积神经网络(CNN)以学习时序特征，同时利用潜在因子模型学习用户的潜在特征(根据用户对不同元素的偏好程度利用潜在因子模型提高推荐质量)。其中，本发明的模型将签到位置矩阵视为潜在空间的嵌入矩阵，将该矩阵视为潜在空间中历史L个签到位置的“图像”，并将签到位置的时空序列视为该“图像”的一个局部特征。利用了卷积神经网络(CNN)的卷积滤波器在图像识别和自然处理中可以用于高效捕获局部特征的特长。时序模型由四部分组成：嵌入查找层、卷积层、全连接层和MLP层。

具体实施过程中，实现过程如下：

步骤101：通过嵌入层的处理将位置集合转换成一个词向量组成的文档矩阵。

为了对用户的顺序模式建模，每个用户u与来自位置集合L的一些位置的序列相关联，这个序列为

其长度为l，

的索引t(t∈T)表示在序列S中动作发生的顺序，T为登记时间集合。

本发明将前M个位置提供给本发明提出的混合神经网络来捕捉潜在空间中的序列特征。位置l嵌入Q_l∈R^d，d是潜在维度数。嵌入查找层的作用是检索前M个位置的嵌入并且将它们叠加起来，得到用户u在一定时间内的矩阵E^(u,t)(E^(u,t)∈R^M×d)，在图3中用嵌入层对应的网格表示：

此外，除了对位置的嵌入操作外，还对用户进行嵌入操作P_u∈R^d，如图3中用户上面的浅色圆圈表示。

步骤102：通过卷积层，利用CNN卷积滤波器捕获局部特征进行识别和处理。

借用在图像分类中使用CNN的思想，本发明的模型将历史签到记录前M个签到位置表示为M×d的矩阵，其中d是潜在维度的数量，矩阵的行保存签到位置的时空序列。然后将这个嵌入矩阵视为潜在空间中M个签到位置的“图像”，并使用多个卷积滤波器来联合捕捉这个“图像”局部特征的序列。CNN中卷积层的卷积核在embedding之后的矩阵E上通过从左到右，从上到下的连续不断的滑动，以捕捉连续的时序特征。本发明采用联合水平和垂直卷积滤波器来搜索时空序列模式。

步骤103：在全连接层中，为了防止过拟合，在全连接层中添加Dropout层对特征进行高度提纯。

在全连接层之前合并c_i和

把这个结果作为一个输出值，这个值作为全连接层的一个输入：

其中，

是非线性映射矩阵，其中将连接层投影到d维隐藏层的权重矩阵。f_a(·)是激活函数ReLU，b∈R^d是偏置向量。

步骤104：采用MLP(多层感知机)模型对学习用户和签到点潜在特征之间的关系，最终得到用户签到时序模型。

由于神经网络是用两条路线来对用户签到点时序和用户进行建模，自然地，需要通过两个路线，把他们各自的特征连接结合起来。这种设计已经在多模态深度学***的灵活性和非线性建模能力。更确切地说，本发明的SSSER框架下的MLP模型定义为：

…………

其中，W_X，b_X，f_X，

和

分别表示第X层的感知机中的权重矩阵、偏置向量(神经网络的神经元阈值)、激活函数、第x层和输出层的映射函数。

通过CNN和MLP学习兴趣点时序特征的目标函数表示为：

其中v_i表示兴趣点的潜在特征初始值，λ_w表示正则化参数。

在一种实施方式中，步骤S1.2具体包括：

步骤S1.2.1：水平卷积滤波器从矩阵E的左上角开始，以步长为1从上到下依次滑动进行卷积计算，并与矩阵E进行交互，其中，矩阵E是通过嵌入层的处理将位置集合转换成一个词向量组成的文档矩阵，用以存储用户签到位置信息，水平卷积核F^k的大小为h×w，其中h和w分别是过滤器的高度和宽度；

步骤S1.2.2：垂直卷积滤波器通过在矩阵E上从左到右滑动d次与矩阵E进行交互，交互的结果是由第i个卷积值计算，d和i为正整数。

具体来说，步骤1.2.1，使用水平卷积核。在图3中，水平卷积核F^k的大小为h×w，个数为n，其中h和w分别是过滤器的高度和宽度。水平卷积核F^k将从矩阵E的左上角开始，从上到下依次滑动，步长为1，这个过程就是卷积的计算，并与位置i的所有水平维度E相互作用，1≤i≤I-h+1。交互的结果是由第i个卷积值计算，计算公式如下：

其中*为卷积的运算符号，bi是第i个偏执向量，f_c(·)为激活函数，在本发明中激活函数使用ReLU。f(x)＝max(0,x)定义了该神经元在线性变换(w*x+b)之后的非线性输出结果。它更具生物合理性，并且已经被证明不会导致过饱和；此外，它支持稀疏的激活，非常适合稀疏的数据，使模型不至于过拟合。

每一个卷积核与矩阵E交互之后会映射一个新的矩阵。经过第k个卷积核提取出的全部卷积映射属性值构成的卷积映射属性向量可以表示为：

然后对

进行最大池化操作，

集合表示全部映射属性，并不能代表最显著的特征，所以通过最大池化从该特定卷积核生成的所有值中提取最大值，最大值捕获过滤器提取的最重要特征。

水平滤波器通过嵌入与每个连续的h项和矩阵E相互作用，嵌入核和卷积核学习到最小化编码目标项预测误差的目标函数(即步骤S1中最后得到的兴趣点时序特征的目标函数)。

步骤1.2.2，使用垂直卷积核。在图3中虚线表示垂直卷积核

卷积核的大小为M×m，个数取值范围为1＜＝k＜＝h。每个滤波器

通过在矩阵E上从左到右滑动d次与矩阵E进行交互，交互的结果是由第i个卷积值计算，公式为：

其中*为卷积的运算符号表示内积运算符。f_c(·)为激活函数ReLU，b_i是第i个偏执向量。每一个卷积核与矩阵E交互之后会映射一个新的矩阵。经过第k个卷积核提取出的全部卷积映射属性值构成的卷积映射属性向量可以表示为：

在垂直卷积核卷积完之后，为了保证不损失过多潜在维度，所以不做最大池化。

在一种实施方式中，步骤S2具体包括：

步骤S2.1：定义距离度量用以估计用户之间的社交关系程度；

步骤S2.2：使用关系程度损失函数来制定约束以使关系程度高的用户更加接近，其中，关系程度损失函数为权重函数；

步骤S2.3：使用基于秩的加权方法惩罚具有较低级别的社会关系的用户。

步骤S2.4：基于距离度量、权重函数和惩罚项，构建用户社交信息模型。

具体来说，本步骤基于度量学习理论建模用户社交信息，距离度量学习的主要思想是学习一个期望的距离度量，使同一类样本的分布更加紧凑，不同类样本的分布更加松散。度量学习算法被设计为最小化每个用户和他们的朋友之间的距离，同时最大限度地远离他们不喜欢的用户的距离。基于此，如果用户离某个用户较近，则表示该用户与该用户正相关，反之亦然；如果用户离某个用户较远，则表示该用户与该用户负相关。因此，本发明采用一种基于度量学习的算法来构造一个权值函数来预测不同用户之间的社会关系程度，从而提高推荐性能。利用度量学习算法预测用户之间的信任度。

步骤2中的具体实现过程为：

步骤2.1，定义合适的距离度量用来估计用户之间的关系程度。

要学习距离度量，首先必须定义合适的距离度量形式。给定一对用户um和un，本发明学习这些用户向量的方式是它们的欧氏距离，从而估计他们之间的关系程度。

g(u_m，u_n)＝||u_m-u_n|| (13)

步骤2.2，使用损失函数来制定约束以使关系度高的用户更加接近。

用户之间的社会关系度越高，两者欧式距离越小。为了使关系密切的用户更加紧密，本发明使用以下损失函数来制定这样一个约束：

其中，用户u_m和用户u_n之间的关系比用户u_m和用户u_r之间的关系更密切。σ[x]＝max(x,0)表示标准铰链损失，ρ_mn是排序损失权重，θ表示安全阈值大小(一般θ＝1)，防止结果为0。

步骤2.3，使用基于秩的加权方案惩罚具有较低级别的社会关系的用户。

本发明使用由Weston等人提出的基于秩的加权方案，称为加权近似秩配对(WARP)损失，用以惩罚具有较低级别的社交关系的用户。

给定一个度量q，设u表示用户总数，rank_q(u_m，u_n)表示用户u_m的推荐用户u_n中的用户u_n的等级，根据其等级通过设置来惩罚正用户u_n。该方案比较高级别的用户惩罚较低级别的积极用户，并在许多先前工作中产生最先进的结果。

ρ_mn＝log(rank_q(u_m，u_n)+1) (15)

在一种实施方式中，步骤S3具体包括：

融合用户签到时序信息和用户社交信息，将两种异构信息整合到一个统一的框架；

基于学习兴趣点时序特征的目标函数和权重函数得到用于兴趣点推荐的损失函数，最小化目标函数为：

其中，w(g)为权重函数，Y为学习兴趣点时序特征的目标函数，v_i表示兴趣点的潜在特征初始值，P_u、y_c为第一层的输入，f₂、b₂、W2分别表示第2层中的激活函数、偏置项量、激活函数，以此类推，

这一项为正则化项，λ_w表示正则化参数，W_α为特征参数；正则化的目的是为了在保留所有特征变量情况下减少特征变量参数数值的大小，避免过拟合的问题。

W_X，b_X，f_X分别表示第X层的感知机中的权重矩阵、偏置向量、激活函数，用户u_m和用户u_n之间的关系比用户u_m和用户u_r之间的关系更密切，σ[x]＝max(x,0)表示标准铰链损失，ρ_mn是排序损失权重，θ表示安全阈值大小。

具体来说，本步骤利用矩阵分解的方法实现对用户偏好建模，并且将社交关系和时序信息有效的融合，将两个不同结构的信息纳入到统一的框架。

步骤3中的具体实现过程为：

融合社会关系和时序信息，将两种异构信息整合到一个统一的框架，提出SSSER兴趣点推荐算法来提供连续兴趣点的推荐服务，并得到用于兴趣点推荐的损失函数，即最小化目标函数。

在具体实施过程中，步骤S4，利用BPR标准来优化矩阵分解的损失函数，拟合用户在兴趣点对上的偏序关系，生成兴趣点推荐列表。

本发明在为用户提供POI时，采用贝叶斯个性化排序策略对POI上的用户偏序进行拟合，从而对上述模型进行优化。将给定用户推荐的POI建模为一个排序问题，以便最终学习基于POI的排序列表。

步骤4中的具体实现过程为：

步骤4.1，将步骤S3的模型转换为对位置的排序。

连续的个性化POI推荐的目标是向用户推荐前k个新兴趣点。因此，本发明将其建模为对位置的排序。然后得到以下定义：

对于所有位置l_i∈L，找到正确排名的贝叶斯公式是最大限度的求以下的后验概率。对于用户u在时间t时对所有兴趣点的偏序关系＞u,t，最终生成推荐列表。根据贝叶斯推理，得到：

p(Θ|＞_u，t)∝p(＞_u，t|Θ)p(Θ) (18)

其中Θ表示模型参数。

对于一个特定的兴趣点位置对(l_i，l_j)上偏序关系独立于其他兴趣点对偏序关系。所有用户在全部兴趣点上的偏序关系的似然函数为：

其中γ是指示函数。

步骤4.2，对上述函数化简。

扩展＞u,t对所有兴趣点位置对(l_i，l_j)和用户偏序关系的整体属性和非对称属性，公式(19)可以进一步化简为：

接下来使用公式(19)的定义来表示p(i＞_u,tj|Θ)：

步骤4.3，使用激活函数来映射取值。

本发明使用Sigmoid函数δ(z)来定义

表示用户u在时间t的偏好兴趣点l_i胜过兴趣点l_j的概率：

进一步，本发明在模型参数引入协方差为

的零均值高斯先验，即

步骤4.4，综合公式(18)-(23)，可以得到SSSER算法的目标函数：

其中λ_Θ是对应于δ(z)的正则化参数用来防止学习过程中的过拟合。

步骤4.5，采用梯度下降法(SGD)来计算目标函数的局部最小化。

同时，对于每个参数Θ，更新过程执行如下：

其中α是学习率。在计算所有梯度之后，可以使用SGD下降来估计模型参数。可以迭代地重复该过程，直到实现收敛。

实施例二

基于与实施例一同样的发明构思，本实施例还提供了一种基于时空序列和社会嵌入排名的兴趣点推荐装置，请参见图4，该装置包括：

用户签到时序模型构建模块201，用于使用基于水平卷积滤波器、垂直卷积滤波器和多层感知器模型的混合深度模型对用户签到时序信息进行建模，学习兴趣点时序特征的目标函数，得到用户签到时序模型；

用户社交信息模型构建模型202，用于基于度量学习理论构建权重函数用于用户和用户之间社交关系程度的预测，对用户社交信息进行建模，得到用户社交信息模型；

信息融合模块203，用于采用基于矩阵分解的统一框架对用户签到时序模型中的用户签到时序信息和用户社交信息模型中的用户社交信息进行融合，并基于学习兴趣点时序特征的目标函数和权重函数得到用于兴趣点推荐的损失函数；

推荐模块204，用于利用BPR标准对用于兴趣点推荐的损失函数进行优化，拟合用户在兴趣点对上的偏序关系，并基于偏序关系生成兴趣点推荐列表。

由于本发明实施例二所介绍的装置，为实施本发明实施例一中一种基于时空序列和社会嵌入排名的兴趣点推荐方法所采用的装置，故而基于本发明实施例一所介绍的方法，本领域所属人员能够了解该装置的具体结构及变形，故而在此不再赘述。凡是本发明实施例一的方法所采用的装置都属于本发明所欲保护的范围。

尽管已描述了本发明的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。

显然，本领域的技术人员可以对本发明实施例进行各种改动和变型而不脱离本发明实施例的精神和范围。这样，倘若本发明实施例的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (4)

1.一种基于时空序列和社会嵌入排名的兴趣点推荐方法，其特征在于，包括：

步骤S1：使用基于水平卷积滤波器、垂直卷积滤波器和多层感知器模型的混合深度模型对用户签到时序信息进行建模，学习兴趣点时序特征的目标函数，得到用户签到时序模型；

步骤S2：基于度量学习理论构建权重函数用于用户和用户之间社交关系程度的预测，对用户社交信息进行建模，得到用户社交信息模型；

步骤S3：采用基于矩阵分解的统一框架对用户签到时序模型中的用户签到时序信息和用户社交信息模型中的用户社交信息进行融合，并基于学习兴趣点时序特征的目标函数和权重函数得到用于兴趣点推荐的损失函数；

步骤S4：利用BPR标准对用于兴趣点推荐的损失函数进行优化，拟合用户在兴趣点对上的偏序关系，并基于偏序关系生成兴趣点推荐列表；

其中，用户签到时序模型包括嵌入层、卷积层、全连接层和多层感知机，步骤S1具体包括：

步骤S1.1：通过嵌入层对位置信息和用户信息进行嵌入；

步骤S1.2：通过卷积层，利用水平卷积滤波器、垂直卷积滤波器捕获局部特征，并对局部特征进行识别和处理；

步骤S1.3：通过全连接层对卷积层处理后的特征进行降维处理；

步骤S1.4：通过多层感知机学习用户和签到点潜在特征之间的关系，并以学习兴趣点时序特征的目标函数为目标，得到用户签到时序模型；

步骤S2具体包括：

步骤S2.1：定义距离度量用以估计用户之间的社交关系程度；

步骤S2.2：使用关系程度损失函数来制定约束以使关系程度高的用户更加接近，其中，关系程度损失函数为权重函数；

步骤S2.3：使用基于秩的加权方法惩罚具有较低级别的社会关系的用户；

步骤S2.4：基于距离度量、权重函数和惩罚项，构建用户社交信息模型。

2.如权利要求1所述的方法，其特征在于，步骤S1.2具体包括：

步骤S1.2.1：水平卷积滤波器从矩阵E的左上角开始，以步长为1从上到下依次滑动进行卷积计算，并与矩阵E进行交互，其中，矩阵E是通过嵌入层的处理将位置集合转换成一个词向量组成的文档矩阵，用以存储用户签到位置信息，水平卷积核F^k的大小为h×w，其中h和w分别是过滤器的高度和宽度；

步骤S1.2.2：垂直卷积滤波器通过在矩阵E上从左到右滑动d次与矩阵E进行交互，交互的结果是由第i个卷积值计算，d和i为正整数。

3.如权利要求1所述的方法，其特征在于，步骤S3具体包括：

融合用户签到时序信息和用户社交信息，将两种异构信息整合到一个统一的框架；

基于学习兴趣点时序特征的目标函数和权重函数得到用于兴趣点推荐的损失函数，最小化目标函数为：

其中，w(g)为权重函数，Y为学习兴趣点时序特征的目标函数，v_i表示兴趣点的潜在特征初始值，P_u、y_c为第一层的输入，f₂、b₂、W₂分别表示第2层中的激活函数、偏置项量、激活函数，以此类推，

这一项为正则化项，λ_w表示正则化参数，W_α为特征参数；

W_X，b_X，f_X分别表示第X层的感知机中的权重矩阵、偏置向量、激活函数，用户u_m和用户u_n之间的关系比用户u_m和用户u_r之间的关系更密切，σ[x]＝max(x,0)表示标准铰链损失，ρ_mn是排序损失权重，θ表示安全阈值大小。

4.一种基于时空序列和社会嵌入排名的兴趣点推荐装置，其特征在于，包括：

用户签到时序模型构建模块，用于使用基于水平卷积滤波器、垂直卷积滤波器和多层感知器模型的混合深度模型对用户签到时序信息进行建模，学习兴趣点时序特征的目标函数，得到用户签到时序模型；

用户社交信息模型构建模型，用于基于度量学习理论构建权重函数用于用户和用户之间社交关系程度的预测，对用户社交信息进行建模，得到用户社交信息模型；

信息融合模块，用于采用基于矩阵分解的统一框架对用户签到时序模型中的用户签到时序信息和用户社交信息模型中的用户社交信息进行融合，并基于学习兴趣点时序特征的目标函数和权重函数得到用于兴趣点推荐的损失函数；

推荐模块，用于利用BPR标准对用于兴趣点推荐的损失函数进行优化，拟合用户在兴趣点对上的偏序关系，并基于偏序关系生成兴趣点推荐列表；

其中，用户签到时序模型包括嵌入层、卷积层、全连接层和多层感知机，用户签到时序模型构建模块具体用于：

通过嵌入层对位置信息和用户信息进行嵌入；

通过卷积层，利用水平卷积滤波器、垂直卷积滤波器捕获局部特征，并对局部特征进行识别和处理；

通过全连接层对卷积层处理后的特征进行降维处理；

通过多层感知机学习用户和签到点潜在特征之间的关系，并以学习兴趣点时序特征的目标函数为目标，得到用户签到时序模型；

用户社交信息模型构建模型具体用于：

定义距离度量用以估计用户之间的社交关系程度；

使用关系程度损失函数来制定约束以使关系程度高的用户更加接近，其中，关系程度损失函数为权重函数；

使用基于秩的加权方法惩罚具有较低级别的社会关系的用户；

基于距离度量、权重函数和惩罚项，构建用户社交信息模型。

Images