CN112417063A - 一种基于异构关系网络的相容功能项推荐方法 - Google Patents

Abstract

本发明提出了一种基于异构关系网络的相容功能项推荐方法，利用实体之间存在的相似关系和相容关系，构建异构关系网络；利用现有数据初步构建一个多关系的异构关系网络，此时网络中节点的类别属性不完备；再利用网络表示学习的相关方法将初期构建的异构关系网络转换为向量化表示，实现下游应用节点分类；节点分类实现了异构关系网络的属性补全，此时初期构建的异构关系网络被转化为多类型节点、多类型边的异构网络；通过利用基于GATNE的相容功能项推荐模型，对属性补全后的异构关系网络进行建模，从而获得节点在相容关系下的向量化表示；根据两个节点的向量化表示计算相容度，从而进行相容功能项推荐，获得了更好的推荐效果。

Description

一种基于异构关系网络的相容功能项推荐方法

技术领域

本发明属于网络表示学习及推荐***领域，具体地，涉及通过充分利用节点关系特征并结合节点本身的文本信息进行的一种基于异构关系网络的相容功能项推荐方法。

背景技术

本发明网络表示学习是一个飞速发展的研究领域，越来越多的来自其他领域的科研人员投入到该领域的研究之中，通过网络表示学习可以得到节点的向量化表示，得到的节点向量表示能被用作各种图任务的特征，例如分类、聚类、链接预测和可视化等；节点分类和链接预测的效果能够有效证明网络表示学习方法的有效性；大量研究在许多公开数据集上进行了实践，例如社交网络、引文网络、生物网络数据集等等，通过应用网络表示学习方法实现网络向量化表示，进而实现节点分类和链接预测任务；现有的大多数工作集中在网络嵌入方法方面，对网络嵌入应用的研究相对较少。

在过去的几十年中，众多网络表示学习的研究成果已经诞生，尤其是在同构网络的相关研究方面。近年来，随着各种社交媒体的出现，许多不同类型的实体彼此连接。将这些彼此联系的实体建模为同构网络较为困难，不同类型的实体和关系更适合建模为异构网络。特别是随着在线用户生成内容的快速增长，大数据分析是一个急需研究的重要课题。大数据中存在各种类型的实体和关系，适合使用异构信息网络对其进行建模。大量与异构信息网络相关的研究正在开展，包括异构信息网络的表示学习和相关应用等。

关于网络学习的研究大多在公开数据集上实践，在某个具体领域进行网络表示学习应用的实践鲜少开展。在某个领域的问题上运用网络表示学习方法，并与该领域原有方法相结合是一个值得探索的新方法。

针对相容功能项推荐问题，现有的大部分研究一般从相容功能项本身特征，例如图像和文本等方面开展。在现实场景中，推荐的相容功能项之间存在一些特定的关系，例如相似关系和相容关系。现有研究往往专注于相容功能项本身或是一组相容功能项，很少从整体考虑所有相容功能项之间的关系，进而构建一个异构关系网络。因此，构建异构关系网络，从而充分利用相容功能项之间的关系并结合本身的信息进行相容功能项推荐具有重要的创新及实践意义。

通过构建异构关系网络，可以建模相容功能项以及彼此之间的关系。由于网络中存在多种关系，构建的网络是异构网络。基于异构关系网络的相容功能项推荐问题本质上是异构网络中的链接预测问题。

基于以上背景，本发明构建了存在相似和相容两种关系的异构关系网络，充分利用了相容关系项之间的关系信息。基于构建的异构关系网络，通过异构网络表示学习相关方法对网络进行建模，实现异构关系网络的向量化表示。同时，结合相容功能项本身文本信息，实现相容推荐任务。

发明内容

本发明的目的是为了解决异构网络中的链接预测问题，从整体考虑所有相容功能项之间的关系，进而构建一个异构关系网络，依托现有的异构网络表示学习技术以及文本匹配模型，提出了一种基于异构关系网络的相容功能项推荐方法。

一种基于异构关系网络的相容功能项推荐方法，所述方法具体包括以下步骤：

A.构建异构关系网络：根据已有数据集属性，确定要构建的异构关系网络的结构；网络要素包括有节点、关系和节点属性；节点之间的边代表关系，所述关系包括相似关系和相容关系，节点属性包括类别和文本描述；

B.基于异构关系网络的节点分类：异构关系网络中的节点分类相当于恢复缺失的节点属性；将初步构建好的异构关系网络视为一个多关系网络；使用多关系图卷积神经网络R-GCN模型对异构关系网络进行建模，实现下游任务节点分类；使用多关系图卷积神经网络R-GCN模型获得节点向量表示后，对每个节点使用softmax分类器获得节点属于每个类别的概率；与真实类标比较，通过交叉熵损失函数来优化基于多关系图卷积神经网络R-GCN的分类模型参数；

C.基于异构关系网络的相容功能项推荐：将相容功能项推荐问题转化为异构关系网络中的链接预测问题；使用异构网络表示模型GATNE对节点进行向量化表示，尤其是节点在相容关系下的向量化表示；通过特定的向量距离计算方法获得两个节点相容度；此外，在使用异构网络表示模型GATNE获得节点网络结构特征的基础上，通过构建基于网络结构特征和文本特征融合的相容功能项推荐模型，提高推荐效果。

进一步地，所述步骤A包括以下步骤：

A1.初步构建异构关系网络：确定网络中的节点关系，异构关系网络中的关系是完备的，包括相似关系和相容关系；确定网络中的节点属性，包括类别和文本描述；

A2.通过节点分类完成异构关系网络属性补全：完成节点分类后，异构关系网络中的节点拥有了类别信息，此时的关系网络是一个多类型节点、多类型边的异构关系网络。

进一步地，所述步骤B包括以下步骤：

B1.构建分类数据集，将80％的带类标的数据作为训练集，20％的带类标的数据作为测试集；

B2.使用多关系图卷积神经网络R-GCN模型对异构关系网络进行建模，将堆叠的多个R-GCN层作为编码器，前一个R-GCN层的输出作为下一个R-GCN层的输入，最后一层R-GCN的输出作为异构关系网络中节点的向量化表示；

B3.在最后一层R-GCN后，设置softmax分类器进行分类，得到该节点属于各个类别的概率；

B4.将节点属于各个类别的概率和真实类标比较，使用交叉熵损失函数学习基于多关系图卷积神经网络R-GCN的分类模型的各种参数。

进一步地，所述步骤C包括以下步骤：

C1.根据节点类别设计GATNE算法的元路径，包括相容关系下随机游走路径和相似关系下随机游走路径；

C2.使用GATNE对构建的异构关系网络进行建模，获得节点在各种关系下的向量化表示，包括节点在相容关系下的向量化表示；通过余弦距离计算两个节点的相容度，计算损失函数；利用基于元路径的随机游走方法和skip-gram来学习GATNE模型参数；

C3.使用训练集中的描述文本构建词典，对于一段描述文本，首先通过分词得到句子的单词组成；统计单词的词频，将出现次数超过2的单词加入词典，最终词典中存在的单词数量为25052；设定句子长度为30，每个单词用300维向量表示，所述一段描述文本被表示为30×300的矩阵；

C4.将两个节点的描述文本的向量化表示输入两个堆叠LSTM结构得到每个节点的文本描述特征向量；

C5.通过GATNE模型训练得到的节点在相容关系下的网络结构特征向量与通过堆叠LSTM获得的文本特征向量拼接，拼接后的特征向量与一个转换矩阵W相乘，将特征融合到一个特定的维度里，从而得到节点最终融合后的特征向量；

C6.对融合后的特征向量计算欧氏距离，得到两个节点的相容度。

本发明有益效果

本发明的有益效果是：本发明以相似关系和相容关系作为边，构建了异构关系网络；应用异构网络表示学习的相关方法对异构关系网络进行建模，学习异构关系网络的向量表示，实现下游应用节点分类；通过异构关系网络表示学习算法获得节点的向量表示，通过特定的距离度量方法获得两个节点的相容度；将节点的网络结构特征和文本特征进行融合，实现将网络结构特征融合入文本相容模型，共同学习得到相容度。

附图说明

图1为本发明的基于异构关系网络的相容功能项推荐方法的流程图；

图2为本发明的基于网络结构特征和文本特征融合的相容功能项推荐模型框架图。

具体实施方式

下面将结合本发明实施例中的附图对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例；基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

一种基于异构关系网络的相容功能项推荐方法，所述方法具体包括以下步骤：

A.构建异构关系网络：根据已有数据集属性，确定要构建的异构关系网络的结构；网络要素包括有节点、关系和节点属性；节点之间的边代表关系，所述关系包括相似关系和相容关系，节点属性包括类别和文本描述；

B.基于异构关系网络的节点分类：异构关系网络中的节点分类相当于恢复缺失的节点属性；将初步构建好的异构关系网络视为一个多关系网络；使用多关系图卷积神经网络R-GCN模型对异构关系网络进行建模，实现下游任务节点分类；使用多关系图卷积网络R-GCN模型获得节点向量表示后，对每个节点使用softmax分类器获得节点属于每个类别的概率；与真实类标比较，通过交叉熵损失函数来优化基于多关系图卷积神经网络R-GCN的分类模型参数；

C.基于异构关系网络的相容功能项推荐：将相容功能项推荐问题转化为异构关系网络中的链接预测问题；使用异构网络表示模型GATNE对节点进行向量化表示，尤其是节点在相容关系下的向量化表示；通过特定的距离度量方法获得两个节点相容度；此外，在使用异构网络表示模型GATNE获得节点网络结构特征的基础上，通过构建基于网络结构特征和文本特征融合的相容功能项推荐模型，提高推荐效果。

如图1所示为本发明的基于异构关系网络的相容功能项推荐方法的流程图，所述步骤A包括以下步骤：

A1.初步构建异构关系网络：确定网络中的节点关系，异构关系网络中的关系是完备的，包括相似关系和相容关系；确定网络中的节点属性，包括类别和文本描述；

A2.通过节点分类完成异构关系网络属性补全：完成节点分类后，异构关系网络中的节点拥有了类别信息，此时的关系网络是一个多类型节点、多类型边的异构关系网络。

要构建异构关系网络，首先要明确节点、关系和属性；节点有76，172个，包含多种属性；通过提取得到节点的类别，初始数据集中的所有数据来自46个类别；对于异构关系网络，关系包含相容关系和相似关系；其中，相容关系和相似关系对应的边是没有方向的，一个节点可能与多个节点相容，也可能与多个节点相似，在构建好的异构关系网络中存在330827条相容边，330829条相似边。

所述步骤B包括以下步骤：

B1.构建分类数据集，将80％的带类标的数据作为训练集，20％的带类标的数据作为测试集；

B2.使用多关系图卷积神经网络R-GCN模型对异构关系网络进行建模，将堆叠的多个R-GCN层作为编码器，前一个R-GCN层的输出作为下一个R-GCN层的输入，最后一层R-GCN的输出作为异构关系网络中节点的向量化表示；

B3.在最后一层R-GCN后，设置softmax分类器进行分类，得到该节点属于各个类别的概率；

B4.将节点属于各个类别的概率和真实类标比较，使用交叉熵损失函数学习基于多关系图卷积神经网络R-GCN的分类模型的各种参数。

基于异构关系网络的节点分类。使用关系图卷积神经网络R-GCN模型对异构关系网络进行建模，实现节点分类任务；分类模型的输入包括两部分，一部分是异构关系网络的结构信息，另一部分是部分节点的类标；使用R-GCN对异构关系网络进行建模，使用多个R-GCN层作为编码器，前一个R-GCN的输出作为下一个R-GCN层的输入。在最后一层R-GCN后，设置softmax层进行分类，得到该节点属于各个类别的概率。通过与真实类标比较，使用交叉熵损失函数学习R-GCN分类模型的各种参数。使用交叉熵损失函数，总的损失函数由每个节点的损失之和组成，公式如下：

其中，γ是有类别标签的节点索引的集合，

是第i个节点的网络输出的第k个元素，t_ik表示它对应的真实标签；

所述步骤C包括以下步骤：

C1.根据节点类别设计GATNE算法的元路径，包括相容关系下随机游走路径和相似关系下随机游走路径；

C2.使用GATNE对构建的异构关系网络进行建模，获得节点在各种关系下的向量化表示，包括节点在相容关系下的向量化表示；通过余弦距离计算两个节点的相容度，计算损失函数；利用基于元路径的随机游走方法和skip-gram来学习GATNE模型参数；

C3.使用训练集中的描述文本构建词典，对于一段描述文本，首先通过分词得到句子的单词组成；统计单词的词频，将出现次数超过2的单词加入词典，最终词典中存在的单词数量为25052；设定句子长度为30，每个单词用300维向量表示，所述一段描述文本被表示为30×300的矩阵；

C4.将两个节点的描述文本的向量化表示输入两个堆叠LSTM结构得到每个节点的文本描述特征向量；

C5.通过GATNE模型训练得到的节点在相容关系下的网络结构特征向量与通过堆叠LSTM获得的文本特征向量拼接，拼接后的特征向量与一个转换矩阵W相乘，将特征融合到一个特定的维度里，从而得到节点最终融合后的特征向量；

C6.对融合后的特征向量计算欧氏距离，得到两个节点的相容度。

通过异构关系网络表示学习算法获得节点的向量表示，通过特定的距离度量方法获得两个节点的相容度。将网络结构特征融合入文本相容模型，共同学习得到节点相容度，进行相容功能项推荐；具体步骤如下：

(1)设计元路径：根据节点类别设计GATNE算法的元路径，包括相容关系下随机游走路径和相似关系下随机游走路径。以本发明所用服饰数据集为例，在相似关系下，相同类型的节点更有可能是相似的，因此控制随机游走的方式为在相同类型的节点之间进行游走。在相容关系下，根据当前节点类型的不同，有以下几种可能性，当前节点类型为suit，则游走的下一个节点类型不能属于suit、upper、bottom类型；当前节点类型为upper，则游走的下一个节点类型不能属于suit、upper类型；当前节点类型为bottom，则游走的下一个节点不能属于suit、bottom类型；当前节点类型为hat，accessory,shoes,bag，则游走的下一个节点不能属于同一类型；

(2)使用GATNE对异构关系网络进行建模：

将异构关系网络输入到GATNE模型，初始化GATNE模型参数；根据不同的边类型下的元路径产生不同的随机游走序列P_r；对于边类型r下的随机游走序列P_r生成训练样本{(v_i，v_j，r)}；对于每个样本，采样L个负样本，训练模型参数。使用验证集控制模型训练结束，当模型在验证集上效果开始下降时，停止训练。此时，得到节点在每种关系下的向量表示；

每训练完一个epoch后，使用验证集评估模型效果。对于验证集中的一个相容对，得到两个节点v_i和v_j的向量化表示，通过余弦相似度来计算得到两个节点的相容度y_ij，y_ij公式如下：

y_ij＝cos(x_i，x_j).

两个节点越相容，则向量表示越接近，余弦相似度越高，相容度越高。在验证集中所有数据上计算相容对的相容度并和真实相容标签比较，计算AUC。如果和上一轮epoch相比，模型评估指标AUC结果下降，则停止训练；

(3)融合网络结构特征和文本特征：

使用GATNE对构建的异构关系网络进行向量化表示，获得节点在各种关系下的网络结构特征表示。之后，将节点在相容关系下的向量化表示加入基于文本描述信息的相容模型，实现网络结构特征和文本特征的融合。针对其中的关键问题，如何将相容关系下的网络结构特征和文本特征融合，设计具体的模型结构如图2所示；

将预先通过GATNE模型训练得到的相容关系下的网络结构特征与通过堆叠LSTM获得的文本特征拼接，拼接后的特征与一个转换矩阵W相乘，将特征融合到一个特定的维度里，从而得到最终融合后的特征向量。之后使用融合后的特征向量计算两个节点的相容度；假设节点i的网络结构特征为e_i，文本特征为t_i，融合后的特征表示为x_i；节点j的网络结构特征为e_j，文本特征为t_j，融合后的特征表示为x_j。则节点i和节点j特征融合过程如下公式所示：

x_i＝concat(e_i，t_i)

x_j＝concat(e_j，t_j)

对于两个节点v_i和v_j，通过学习得到对应的向量特征后x_i和x_j，可以通过欧氏距离计算两个节点的距离，从而得到两个节点的相容度。对于一对相容样本，得到两个节点的相容度后，结合其真实类标，可以计算该样本的损失。在基于文本描述信息的相容模型和基于网络结构特征和文本特征融合的相容功能项推荐模型中，损失函数公式如下所示：

L(x_i，x_j)＝y_ijd²(x_i，x_j)+(1-y_ij)(1-d(x_i，x_j))²

发明的主要贡献有以下两点：(1)本发明构建了存在相似关系和相容关系的异构关系网络。(2)本发明以异构关系网络为基础，实现了节点分类，这是相容功能项推荐的前提。提出了基于网络结构特征和文本特征融合的相容功能项推荐模型，通过将异构网络表示模型GATNE与文本相容模型相结合，实现了网络结构特征和文本特征融合，得到了良好的相容功能项推荐效果。

以上对本发明所提出的一种基于异构关系网络的相容功能项推荐方法，进行了详细介绍，本文中应用了数值模拟算例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (4)

1.一种基于异构关系网络的相容功能项推荐方法，其特征在于：

所述方法具体包括以下步骤：

A.构建异构关系网络：根据已有数据集属性，确定要构建的异构关系网络的结构；网络要素包括有节点、关系和节点属性；节点之间的边代表关系，所述关系包括相似关系和相容关系，节点属性包括类别和文本描述；

B.基于异构关系网络的节点分类：异构关系网络中的节点分类相当于恢复缺失的节点属性；将初步构建好的异构关系网络视为一个多关系网络；使用多关系图卷积神经网络R-GCN模型对异构关系网络进行建模，实现下游任务节点分类；使用多关系图卷积网络R-GCN模型获得节点向量表示后，对每个节点使用softmax分类器获得节点属于每个类别的概率；与真实类标比较，通过交叉熵损失函数来优化基于多关系图卷积神经网络R-GCN的分类模型参数；

C.基于异构关系网络的相容功能项推荐：将相容功能项推荐问题转化为异构关系网络中的链接预测问题；使用异构网络表示模型GATNE对节点进行向量化表示，尤其是节点在相容关系下的向量化表示；通过特定的向量距离计算方法获得两个节点相容度；此外，在使用异构网络表示模型GATNE获得节点网络结构特征的基础上，通过构建基于网络结构特征和文本特征融合的相容功能项推荐模型，提高推荐效果。

2.根据权利要求1所述方法，其特征在于：所述步骤A包括以下步骤：

A1.初步构建异构关系网络：确定网络中的节点关系，异构关系网络中的关系是完备的，包括相似关系和相容关系；确定网络中的节点属性，包括类别和文本描述；

A2.通过节点分类完成异构关系网络属性补全：完成节点分类后，异构关系网络中的节点拥有了类别信息，此时的关系网络是一个多类型节点、多类型边的异构关系网络。

3.根据权利要求2所述方法，其特征在于：所述步骤B包括以下步骤：

B1.构建分类数据集，将80％的带类标的数据作为训练集，20％的带类标的数据作为测试集；

B2.使用多关系图卷积神经网络R-GCN模型对异构关系网络进行建模，将堆叠的多个R-GCN层作为编码器，前一个R-GCN层的输出作为下一个R-GCN层的输入，最后一层R-GCN的输出作为异构关系网络中节点的向量化表示；

B3.在最后一层R-GCN后，设置softmax分类器进行分类，得到该节点属于各个类别的概率；

B4.将节点属于各个类别的概率和真实类标比较，使用交叉熵损失函数学习基于多关系图卷积神经网络R-GCN的分类模型的各种参数。

4.根据权利要求3所述方法，其特征在于：所述步骤C包括以下步骤：

C1.根据节点类别设计GATNE算法的元路径，包括相容关系下随机游走路径和相似关系下随机游走路径；

C2.使用GATNE对构建的异构关系网络进行建模，获得节点在各种关系下的向量化表示，包括节点在相容关系下的向量化表示；通过余弦距离计算两个节点的相容度，计算损失函数；利用基于元路径的随机游走方法和skip-gram来学习GATNE模型参数；

C3.使用训练集中的描述文本构建词典，对于一段描述文本，首先通过分词得到句子的单词组成；统计单词的词频，将出现次数超过2的单词加入词典，最终词典中存在的单词数量为25052；设定句子长度为30，每个单词用300维向量表示，所述一段描述文本被表示为30×300的矩阵；

C4.将两个节点的描述文本的向量化表示输入两个堆叠LSTM结构得到每个节点的文本描述特征向量；

C5.通过GATNE模型训练得到的节点在相容关系下的网络结构特征向量与通过堆叠LSTM获得的文本特征向量拼接，拼接后的特征向量与一个转换矩阵W相乘，将特征融合到一个特定的维度里，从而得到节点最终融合后的特征向量；

C6.对融合后的特征向量计算欧氏距离，得到两个节点的相容度。

Images