CN115408621B - 顾及辅助信息特征线性及非线***互的兴趣点推荐方法 - Google Patents

Abstract

本发明涉及计算机技术领域，具体地说是顾及辅助信息特征线性及非线***互的兴趣点推荐方法，包括POI辅助信息、用户辅助信息、基于卷积注意力机制的辅助信息构建和神经矩阵分解模型，本发明同现有技术相比，使用位置聚类、TF‑IDF算法从签到数据中构建用户、POI辅助信息，利用卷积神经网络从用户和POI辅助信息中学习潜在的表示，并引入注意力机制来区分辅助信息的重要性，从而丰富用户和POI的潜在特征向量的表达。利用神经矩阵分解模型学习用户与POI潜在特征向量之间线性及非线性的交互关系，并计算用户对POI的偏好得分。

Description

顾及辅助信息特征线性及非线***互的兴趣点推荐方法

技术领域

本发明涉及计算机技术领域，具体地说是顾及辅助信息特征线性及非线***互的兴趣点推荐方法。

背景技术

兴趣点(point of interest,POI)推荐作为基于位置的社交网络的重要服务之一，逐渐成为地理信息***、web信息检索等领域的研究热点。POI推荐是在挖掘大规模数据背后隐藏的用户各式各样的生活模式和个人偏好，以帮助用户找到最感兴趣的个性化地点，从而丰富用户的生活体验。同时也帮助相关服务提供商为***提供智能化、精准化和个性化的服务，极大增强了用户对基于位置的社交网络服务平台的使用粘性，从而提高经济收益。

但现有技术中大多使用单一的矩阵分解或深度神经网络，这并不能有效地捕捉用户与POI交互的复杂结构，也不能有效地处理隐性反馈问题。此外，为了缓解数据稀疏的问题，目前的技术主要是引入用户和POI的辅助信息，而辅助信息往往被判断为具有同等价值，这将使一些有价值的信息被消解。

因此，为了解决上述问题，本申请提出了顾及辅助信息特征线性及非线***互的兴趣点推荐方法，利用位置聚类、TF-IDF算法从用户签到数据中挖掘构建用户和POI的辅助信息，丰富用户和POI的潜在特征向量的表达，利用卷积神经网络从用户和POI辅助信息中学习潜在的表示，并引入注意力机制区分所构建的用户和POI辅助信息的重要性，构建神经矩阵分解模型，学习用户与POI之间的线性及非线***互，计算用户对POI的偏好得分。

发明内容

本发明的目的是填补现有技术的空白，提供了顾及辅助信息特征线性及非线***互的兴趣点推荐方法，利用位置聚类、TF-IDF算法从用户签到数据中挖掘构建用户和POI的辅助信息，丰富用户和POI的潜在特征向量的表达，利用卷积神经网络从用户和POI辅助信息中学习潜在的表示，并引入注意力机制区分所构建的用户和POI辅助信息的重要性，构建神经矩阵分解模型，学习用户与POI之间的线性及非线***互，计算用户对POI的偏好得分。为了达到上述目的，本发明提供顾及辅助信息特征线性及非线***互的兴趣点推荐方法，主要包括POI辅助信息、用户辅助信息、基于卷积注意力机制的辅助信息构建和神经矩阵分解模型；

POI辅助信息包括POI类别、POI流行度、POI所属区域；

POI类别是固有信息；

POI流行度是指POI受用户欢迎的程度，通过签到数据集中用户在该POI签到的数据进行评估，签到数据不仅包含关于POI固有属性的信息，还包含POI的签到次数；

POI流行度基于签到数据通过TF-IDF算法来计算，公式如下：

sizeof(v_i)表示POIv_i的签到次数，sizeof(Sv_i)表示与v_i同类别的所有POI的签到次数，sizeof(Cv_i)表示与v_i同类别的所有POI数量，n表示兴趣点的数量；

POI所属区域利用位置聚类算法根据POI的位置信息对POI进行聚类，得到合适的区域分块，使得每个POI被分配一个其对应区域的位置标签，处理步骤如下：

S1，从POI集合中随机选择k个POI作为初始聚类中心；

S2，计算剩余POI到聚类中心的欧式距离ρ，将最接近的兴趣点放入相应的类别中，形成新的类，ρ的计算方法如下：

lat_i、lat_j分别表示POIv_i、v_j的纬度信息，lon_i、lon_j分别表示POIv_i、v_j的经度信息；

S3，取当前聚类中所有POI经纬度的均值作为新的中心点，更新距离聚类中心最近的POI；

S4，直到目标函数收敛或聚类中心不变，否则将转移到步骤S2；

S5，输出POI聚类结果；

用户辅助信息包括用户喜好的类别和用户高活动位置，用户喜好的类别指用户常签入的POI类别；

基于卷积注意力机制的辅助信息构建为：

对用户ID和兴趣点ID进行独热编码，为了在模型中应用用户和POI的辅助属性信息，对数值型变量进行归一化处理，对类别型变量进行独热编码处理。将用户潜在特征向量U_u、POI潜在特征向量V_v、用户辅助信息U_a和POI辅助信息V_a分别送入嵌入层，U_u、V_v、U_a和V_a的潜在特征向量计算如下式所示：

f、r、t和l是表示函数；

利用卷积神经网络从用户和POI辅助信息中学习潜在的表示，卷积神经网络由卷积层和池化层组成，卷积层和池化层可以提取更深层次的特征，其执行方式如下式所示：

*为卷积算子，w为滤波器，b为w的偏置，g为非线性激活函数，pooling为池化函数；

通过添加注意力机制来区分用户和POI辅助信息的重要性，注意力机制使用softmax(Q)函数将分数计算为辅助信息输出的概率分布，将输出与

相结合，通过元素乘法

得到注意力机制的最终输出，注意力机制如下式所示：

softmax(Q)函数定义为：

u_jc表示其中的一个属性；

将用户特征向量

和用户辅助信息特征向量

进行融合得到完整的用户特征向量H^U，将POI特征向量

和POI辅助信息特征向量

进行融合得到完整的POI特征向量G^V，如下式所示：

神经矩阵分解模型为：

在获得用户和POI的完整潜在特征向量后，广义矩阵分解使用线性内核模拟用户和POI之间的潜在特征交互，多层感知机使用非线性内核学习用户和POI之间的交互函数，为了有效地集成广义矩阵分解和多层感知机，让它们能够相互增强，学习用户和POI之间复杂的交互，让广义矩阵分解和多层感知机学习单独的嵌入，并通过连接最后一个隐藏层来组合这两个模型，其公式如下所示：

W_x、b_x和a_x分别表示第x层感知器的权重矩阵、偏置向量、激活函数，h表示输出层的边权重，

和

分别表示广义矩阵分解和多层感知机完整的用户特征向量，

和

分别表示广义矩阵分解和多层感知机完整的POI特征向量，σ表示sigmoid激活函数，⊙表示向量的元素乘积，φ^MF-CAA和φ^MLP-CAA分别表示经过广义矩阵分解和多层感知机处理的预测向量，

表示预测的得分，该模型结合了广义矩阵分解的线性和多层感知机的非线性来模拟用户和POI之间的潜在结构。POI固有属性信息包括经度、纬度、类别和其他信息。

用户高活动位置是用户的居住区域。

本发明同现有技术相比，使用位置聚类、TF-IDF算法从签到数据中构建用户、POI辅助信息，利用卷积神经网络从用户和POI辅助信息中学习潜在的表示，并引入注意力机制来区分辅助信息的重要性，从而丰富用户和POI的潜在特征向量的表达。利用神经矩阵分解模型学习用户与POI潜在特征向量之间的交互关系，并计算用户对POI的偏好得分。

附图说明

图1为本发明方法框架示意图；

具体实施方式

现结合附图对本发明做进一步描述。

参见图1，本发明公开了顾及辅助信息特征线性及非线***互的兴趣点推荐方法，包括以下步骤：

如图1所示，首先使用位置聚类、TF-IDF算法从签到数据中构建用户、POI辅助信息，利用卷积神经网络从用户和POI辅助信息中学习潜在的表示，并引入注意力机制来区分辅助信息的重要性，从而丰富用户和POI的潜在特征向量的表达。利用神经矩阵分解模型学习用户与POI潜在特征向量之间的交互关系，并计算用户对POI的偏好得分。

主要包括POI辅助信息、用户辅助信息、基于卷积注意力机制的辅助信息构建和神经矩阵分解模型；

POI辅助信息包括POI类别、POI流行度、POI所属区域；

POI类别是固有信息；

POI流行度是指POI受用户欢迎的程度，通过签到数据集中用户在该POI签到的数据进行评估，签到数据不仅包含关于POI固有属性的信息，还包含POI的签到次数；

直接使用POI的访客数量进行POI流行度的计算是不够的。研究指出POI的类别信息在兴趣点推荐过程中起着重要的作用，因为POI的类别信息可以用来刻画POI的特征。

POI流行度基于签到数据通过TF-IDF算法来计算，公式如下：

sizeof(v_i)表示POIv_i的签到次数，sizeof(Sv_i)表示与v_i同类别的所有POI的签到次数，sizeof(Cv_i)表示与v_i同类别的所有POI数量，n表示兴趣点的数量；

POI所属区域位置信息是POI的基本属性，也是POI推荐算法必须考虑的关键因素，利用位置聚类算法根据POI的位置信息对POI进行聚类，得到合适的区域分块，使得每个POI被分配一个其对应区域的位置标签，处理步骤如下：

S1，从POI集合中随机选择k个POI作为初始聚类中心；

S2，计算剩余POI到聚类中心的欧式距离ρ，将最接近的兴趣点放入相应的类别中，形成新的类，ρ的计算方法如下：

lat_i、lat_j分别表示POIv_i、v_j的纬度信息，lon_i、lon_j分别表示POIv_i、v_j的经度信息；

S3，取当前聚类中所有POI经纬度的均值作为新的中心点，更新距离聚类中心最近的POI；

S4，直到目标函数收敛或聚类中心不变，否则将转移到步骤S2；

S5，输出POI聚类结果；

用户辅助信息包括用户喜好的类别、用户高活动位置(区域)构成了用户辅助信息。其中用户喜好的类别是指用户最常签入的POI类别。在现实世界中，用户高活动位置可能是用户的居住区域。因此，用户最常签入的POI被用来推断为用户的高活动位置。

基于卷积注意力机制的辅助信息构建为：

对用户ID和兴趣点ID进行独热编码，为了在模型中应用用户和POI的辅助属性信息，对数值型变量进行归一化处理，对类别型变量进行独热编码处理，将用户潜在特征向量U_u、POI潜在特征向量V_v、用户辅助信息U_a和POI辅助信息V_a分别送入嵌入层，U_u、V_v、U_a和V_a的潜在特征向量计算如下式所示：

f、r、t和l是表示函数；

由于卷积神经网络的广泛使用及其良好的性能，利用卷积神经网络从用户和POI辅助信息中学习潜在的表示，卷积神经网络由卷积层和池化层组成，卷积层和池化层可以提取更深层次的特征，其执行方式如下式所示：

*为卷积算子，w为滤波器，b为w的偏置，g为非线性激活函数，pooling为池化函数，(例如，最大池化或者平均池化)

通过添加注意力机制来区分用户和POI辅助信息的重要性，注意力机制使用softmax(Q)函数将分数计算为辅助信息输出的概率分布，将输出与

相结合，通过元素乘法

得到注意力机制的最终输出，注意力机制如下式所示：

softmax(Q)函数定义为：

u_jc表示其中的一个属性；

将用户特征向量

和用户辅助信息特征向量

进行融合得到完整的用户特征向量H^U，将POI特征向量

和POI辅助信息特征向量

进行融合得到完整的POI特征向量G^V，如下式所示：

神经矩阵分解模型为：

在获得用户和POI的完整潜在特征向量后，广义矩阵分解使用线性内核模拟用户和POI之间的潜在特征交互，多层感知机使用非线性内核学习用户和POI之间的交互函数，为了有效地集成广义矩阵分解和多层感知机，让它们能够相互增强，学习用户与POI之间复杂的交互，让广义矩阵分解和多层感知机学习单独的嵌入，并通过连接最后一个隐藏层来组合这两个模型，其公式如下所示：

W_x、b_x和a_x分别表示第x层感知器的权重矩阵、偏置向量、激活函数，h表示输出层的边权重，

和

分别表示广义矩阵分解和多层感知机完整的用户特征向量，

和

分别表示广义矩阵分解和多层感知机完整的POI特征向量，σ表示sigmoid激活函数，⊙表示表示向量的元素乘积，φ^MF-CAA和φ^MLP-CAA分别表示经过广义矩阵分解和多层感知机处理的预测向量，

表示预测的得分，该模型结合了广义矩阵分解的线性和多层感知机的非线性来模拟用户和POI之间的潜在结构。POI固有属性信息包括经度、纬度、类别和其他信息。

用户高活动位置是用户的居住区域。

以上仅是本发明的优选实施方式，只是用于帮助理解本申请的方法及其核心思想，本发明的保护范围并不仅局限于上述实施例，凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理前提下的若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。本发明从整体上缓解了在兴趣点推荐中数据稀疏和隐性反馈的问题，通过利用位置聚类、TF-IDF算法从用户签到数据中挖掘构建用户和POI的辅助信息，利用卷积神经网络从用户和POI辅助信息中学习潜在的表示，并引入注意力机制区分所构建的用户和POI辅助信息的重要性，以缓解数据稀疏问题；构建神经矩阵分解模型，利用广义矩阵分解捕获用户和POI特征向量的线***互，利用多层感知机捕获用户和POI特征向量的非线***互，最后通过连接最后一个隐藏层来融合这两部分，以缓解隐性反馈问题。

Claims (3)

1.顾及辅助信息特征线性及非线***互的兴趣点推荐方法，其特征在于，主要包括POI辅助信息、用户辅助信息、基于卷积注意力机制的辅助信息构建和神经矩阵分解模型；

所述POI辅助信息包括POI类别、POI流行度、POI所属区域；

所述POI类别是固有信息；

所述POI流行度是指POI受用户欢迎的程度，通过签到数据集中用户在该POI签到的数据进行评估，所述签到数据不仅包含关于POI固有属性的信息，还包含POI的签到次数；

所述POI流行度基于签到数据通过TF-IDF算法来计算，公式如下：

所述sizeof(v_i)表示POIv_i的签到次数，sizeof(Sv_i)表示与v_i同类别的所有POI的签到次数，sizeof(Cv_i)表示与v_i同类别的所有POI数量，n表示兴趣点的数量；

所述POI所属区域利用位置聚类算法根据POI的位置信息对POI进行聚类，得到合适的区域分块，使得每个POI被分配一个其对应区域的位置标签，处理步骤如下：

S1，从POI集合中随机选择k个POI作为初始聚类中心；

S2，计算剩余POI到聚类中心的欧式距离ρ，将最接近的兴趣点放入相应的类别中，形成新的类，ρ的计算方法如下：

所述lat_i、lat_j分别表示POIv_i、v_j的纬度信息，lon_i、lon_j分别表示POIv_i、v_j的经度信息；

S3，取当前聚类中所有POI经纬度的均值作为新的中心点，更新距离聚类中心最近的POI；

S4，直到目标函数收敛或聚类中心不变，否则将转移到步骤S2；

S5，输出POI聚类结果；

所述用户辅助信息包括用户喜好的类别和用户高活动位置，所述用户喜好的类别指用户常签入的POI类别；

所述基于卷积注意力机制的辅助信息构建为：

对用户ID和兴趣点ID进行独热编码，为了在模型中应用用户和POI的辅助属性信息，对数值型变量进行归一化处理，对类别型变量进行独热编码处理，将用户潜在特征向量U_u、POI潜在特征向量V_v、用户辅助信息U_a和POI辅助信息V_a分别送入嵌入层，U_u、V_v、U_a和V_a的潜在特征向量计算如下式所示：

所述f、r、t和l是表示函数；

利用卷积神经网络从用户和POI辅助信息中学习潜在的表示，卷积神经网络由卷积层和池化层组成，卷积层和池化层可以提取更深层次的特征，其执行方式如下式所示：

所述*为卷积算子，w为滤波器，b为w的偏置，g为非线性激活函数，pooling为池化函数；

通过添加注意力机制来区分用户和POI辅助信息的重要性，注意力机制使用softmax(Q)函数将分数计算为辅助信息输出的概率分布，将输出与

相结合，通过元素乘法

得到注意力机制的最终输出，注意力机制如下式所示：

所述softmax(Q)函数定义为：

u_jc表示其中的一个属性；

将用户特征向量

和用户辅助信息特征向量

进行融合得到完整的用户特征向量H^U，将POI特征向量

和POI辅助信息特征向量

进行融合得到完整的POI特征向量G^V，如下式所示：

所述神经矩阵分解模型为：

在获得用户和POI的完整潜在特征向量后，广义矩阵分解使用线性内核模拟用户和POI之间的潜在特征交互，多层感知机使用非线性内核学习用户和POI之间的交互函数，为了有效地集成广义矩阵分解和多层感知机，让它们能够相互增强，学习用户与POI之间复杂的交互，让广义矩阵分解和多层感知机学习单独的嵌入，并通过连接最后一个隐藏层来组合这两个模型，其公式如下所示：

所述W_x、b_x和a_x分别表示第x层感知器的权重矩阵、偏置向量、激活函数，h表示输出层的边权重，

和

分别表示广义矩阵分解和多层感知机完整的用户特征向量，

和

分别表示广义矩阵分解和多层感知机完整的POI特征向量，σ表示sigmoid激活函数，⊙表示表示向量的元素乘积，φ^MF-CAA和φ^MLP-CAA分别表示经过广义矩阵分解和多层感知机处理的预测向量，

表示预测的得分，该模型结合了广义矩阵分解的线性和多层感知机的非线性来模拟用户和POI之间的潜在结构。

2.根据权利要求1所述的顾及辅助信息特征线性及非线***互的兴趣点推荐方法，其特征在于，所述POI固有属性信息包括经度、纬度、类别和其他信息。

3.根据权利要求1所述的顾及辅助信息特征线性及非线***互的兴趣点推荐方法，其特征在于，所述用户高活动位置是用户的居住区域。

Images