CN113609398A - 一种基于异构图神经网络的社交推荐方法 - Google Patents

一种基于异构图神经网络的社交推荐方法 Download PDF

Info

Publication number
CN113609398A
CN113609398A CN202110942348.2A CN202110942348A CN113609398A CN 113609398 A CN113609398 A CN 113609398A CN 202110942348 A CN202110942348 A CN 202110942348A CN 113609398 A CN113609398 A CN 113609398A
Authority
CN
China
Prior art keywords
client
user
social
local
attention
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110942348.2A
Other languages
English (en)
Other versions
CN113609398B (zh
Inventor
王书海
彭浩
刘欣
潘晓
韩立华
王辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shijiazhuang Tiedao University
Original Assignee
Shijiazhuang Tiedao University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shijiazhuang Tiedao University filed Critical Shijiazhuang Tiedao University
Priority to CN202110942348.2A priority Critical patent/CN113609398B/zh
Publication of CN113609398A publication Critical patent/CN113609398A/zh
Application granted granted Critical
Publication of CN113609398B publication Critical patent/CN113609398B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9535—Search customisation based on user profiles and personalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9536—Search customisation based on social or collaborative filtering
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06393—Score-carding, benchmarking or key performance indicator [KPI] analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G06Q10/103—Workflow collaboration or project management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/01—Social networking

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Resources & Organizations (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Strategic Management (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Marketing (AREA)
  • Tourism & Hospitality (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Operations Research (AREA)
  • Development Economics (AREA)
  • Educational Administration (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Quality & Reliability (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Game Theory and Decision Science (AREA)
  • Primary Health Care (AREA)
  • Information Transfer Between Computers (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开一种基于异构图神经网络的社交推荐方法，根据客户端上的本地数据构造局部异构图；客户端向服务器请求模型参数，使用图注意力网络模型对局部异构图进行嵌入学习，以处理本地图的异构性和客户端的个性化信息；一个用户和一个客户端相关联，在客户端加入伪项目标签后，使用损失函数计算客户端的梯度，之后通过一个本地差分隐私模型后上传到服务器；服务器收集多个客户端的梯度，进一步更新模型参数训练社交推荐模型；通过社交推荐模型输出的本地客户端嵌入进行社交推荐。本发明分散了数据存储，还全面融合了客户端的本地用户隐私数据，并使用服务器协同训练社交推荐，可以有效实现社交推荐并且保护了数据的隐私性。

Description

一种基于异构图神经网络的社交推荐方法
技术领域
本发明属于数据处理技术领域，特别是涉及一种基于异构图神经网络的社交推荐方法。
背景技术
随着互联网和信息计算的快速发展，衍生了海量的数据，我们已经进入了一个信息***的时代，每时每刻都有海量信息产生，用户从大量的信息中寻找对自己有用的信息也变得越来越困难。每个人的兴趣不尽相同，所以可以实现千人千面的推荐***应运而生，并成为当下热点。推荐***通过发掘用户的行为，将合适的信息推荐给用户，满足用户的个性化需求。它被设计成通过学习嵌入来预测用户对项目的潜在兴趣。另外，图形神经网络的最新发展也为推荐***提供了强大的主干来从用户项目图中学习嵌入。然而，由于数据收集的困难，仅仅利用用户-项目交互会受到冷启动问题的困扰。因此，将社交信息与用户-项目交互融合以缓解它，这就是社交推荐问题。
社交推荐的目标是在给定社交互动和用户项目互动的情况下，预测用户对项目的评分。现有的社交推荐方法可分为基于社交矩阵分解的方法和基于图神经网络的方法。社交矩阵分解方法要么联邦分解评级和社交关系矩阵，要么用社交联系约束来规范用户或项目的嵌入。然而评分矩阵和社交关系矩阵存在数据高度稀疏与分布不均匀等特点，这些特点进一步导致了推荐性能低、冷启动等问题。图神经网络方法是直接从图中推断节点嵌入。然而，现有的使用图神经网络来同时聚合社交连接和用户项目交互，都需要集中存储用户的社交连接和项目交互，这导致了隐私问题。
发明内容
为了解决上述问题，本发明提出了一种基于异构图神经网络的社交推荐方法，分散了数据存储，还全面融合了客户端的本地用户隐私数据，并使用服务器协同训练社交推荐，可以有效实现社交推荐并且保护了数据的隐私性。
为达到上述目的，本发明采用的技术方案是：一种基于异构图神经网络的社交推荐方法，包括步骤：
S10,根据客户端上的本地数据构造局部异构图；
S20，客户端向服务器请求模型参数，使用图注意力网络模型对局部异构图进行嵌入学习，以处理本地图的异构性和客户端的个性化信息；
S30,一个用户和一个客户端相关联，在客户端加入伪项目标签后，使用损失函数计算客户端的梯度，之后通过一个本地差分隐私模型后上传到服务器；
S40,服务器收集多个客户端的梯度，进一步更新模型参数训练社交推荐模型；通过社交推荐模型输出的本地客户端嵌入进行社交推荐。
进一步的是，在所述步骤S10中，包括步骤：
S11,客户端的本地数据包括存储评级数据和社交数据，每个客户端和用户相关联；
S12,建立客户端的局部异构图，局部异构图包括用户节点和项目节点，有两种边类型，分别为用户-项目边类型和用户-用户边类型，包含客户端用户的一阶邻居。
进一步的是，在所述步骤S20中,包括步骤：
S21,对于第n个客户端，根据局部异构图获取它的项目嵌入和用户嵌入；
S22,将获取的嵌入输入到图注意力网络模型进行嵌入学习，得到用户社交关系的注意力权重和项目邻居关系的注意力权重；
S23,将用户社交关系和项目邻居的关系聚合，将隐藏嵌入与它们的关系向量连接起来，并使用自我注意机制来学习聚合的权重；
S24,利用聚合结果获取用户的推断节点嵌入；
S25,将用户的推断节点嵌入和项目嵌入之间进行点积来预测本地项目评分。
进一步的是，在所述步骤S22中,将获取的嵌入输入到图注意力网络模型进行嵌入学习，得到用户社交关系的注意力权重和项目邻居关系的注意力权重，包括步骤：
使用关注层学习每个邻居的权重，获取社交对的注意力得分；进而计算中心节点的所有邻居权重，得到用户社交关系的最终注意力权重；
使用关注层学习每个邻居的权重，获取项目对的注意力得分；进而计算中心节点的所有邻居权重，得到项目邻居关系的最终注意力权重。
进一步的是，在所述步骤S23中,将用户社交关系和项目邻居的关系聚合，将隐藏嵌入与它们的关系向量连接起来，并使用自我注意机制来学习聚合的权重，公式如下：
Figure BDA0003215585760000031
Figure BDA0003215585760000032
Figure BDA0003215585760000033
其中，γu,γt,γs分别为隐藏用户社交嵌入、隐藏项目邻居嵌入和中心节点自身嵌入的注意力权重；用户社交和项目邻居的隐藏嵌入分别为
Figure BDA0003215585760000034
和
Figure BDA0003215585760000035
vu表示社交关系向量，vt表示用户-项目关系向量，vs表示中心节点向量，hs表示中心节点本身嵌入，c表示注意力层的权重向量。
进一步的是，在所述步骤S30中，包括步骤：
S31,首先采样不在相邻评级项目中的q个项目作为伪项目；然后，我们使用局部模型来预测这些伪项目的评级，预测的评级被四舍五入为伪评级；
S32,然后通过均方根误差计算真实值和预测值的误差；
S33,根据所得到的误差，计算出客户端的梯度；
S34,计算得出的梯度输入本地差分隐私模型中；基于梯度添加动态噪声获取，优化梯度。
进一步的是，在所述步骤S40中，包括步骤：
S41,服务器从多个客户端收集梯度，然后聚合这些梯度；
S42，聚合之后，服务器将模型参数更新；这个学习过程***作多次，直到收敛。
采用本技术方案的有益效果：
本发明通过分散存储用户隐私数据，客户端和服务器协同，同时聚合用户项目之间的交互和用户社交连接来进行社交推荐；将客户端上的数据公式化为多个本地图表，使用图形注意力网络关系关注和聚合来处理本地图的异构性；根据本地数据推断用户嵌入，来保留客户端个性化信息；每个用户都与一个客户端相关联，使用损失函数计算客户端的梯度，然后，服务器收集多个客户端的梯度，进一步更新参数发送到客户端；最后，通过模型输出的本地客户端嵌入进行社交推荐。然而，直接上传梯度到服务器会导致隐私问题，我们在客户端使用动态本地差分隐私和伪项目标签来解决该问题。本发明分散了数据存储，此外，还全面融合了客户端的本地用户隐私数据，并使用服务器协同训练联邦社交推荐***，可以有效实现社交推荐并且保护了数据的隐私性。
本发明为了更有效的融合用户项目交互和社交连接信息，将客户端上的数据公式化为多个局部图，使用图注意力神经网络对局部图进行嵌入学习，局部图神经网络的关系注意和聚集区分社交和项目邻居，保留了数据的异构性。并且使用本地用户嵌入推理为客户端保留了个性化信息。
本发明为了有效保护数据隐私安全，使用分散的数据存储，原始的隐私数据存储在本地客户端，不会上传到服务器端，只会上传通过计算得出的梯度数据供服务器更新参数，协同训练社交推荐***。另外，在客户端还添加了伪项目标签以及动态差分隐私技术保护梯度免受隐私数据泄露。项目的伪标签还提供了额外的评级信息，这可以缓解数据的冷启动问题。而且，我们对这些伪项目进行采样，得出的评级与预测评级之间差异是随机的，这增强了本地模型的鲁棒性。整体对比实验表明，本发明在解决社交推荐问题上明显优于SOTA联邦学习框架，并且有效保护了用户数据隐私性。
附图说明
图1为本发明的一种基于异构图神经网络的社交推荐方法的流程示意图；
图2为本发明实施例中种基于异构图神经网络的社交推荐方法的原理框架示意图；
图3为本发明实施例中注意力权重计算的原理图；
图4为本发明实施例中图注意力神经网络的原理图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚，下面结合附图对本发明作进一步阐述。
在本实施例中，参见图1和图2所示，本发明提出了一种基于异构图神经网络的社交推荐方法，包括步骤：
S10,根据客户端上的本地数据构造局部异构图；
S20，客户端向服务器请求模型参数，使用图注意力网络模型对局部异构图进行嵌入学习，以处理本地图的异构性和客户端的个性化信息；
S30,一个用户和一个客户端相关联，在客户端加入伪项目标签后，使用损失函数计算客户端的梯度，之后通过一个本地差分隐私模型后上传到服务器；
S40,服务器收集多个客户端的梯度，进一步更新模型参数训练社交推荐模型；通过社交推荐模型输出的本地客户端嵌入进行社交推荐。
作为上述实施例的优化方案，在所述步骤S10中，包括步骤：
S11,客户端的本地数据包括存储评级数据和社交数据，每个客户端Cn和用户n相关联；
S12,建立客户端Cn的局部异构图Gn，局部异构图Gn包括用户节点和项目节点，有两种边类型，分别为用户-项目边类型和用户-用户边类型，包含客户端用户的一阶邻居，其中，项目节点表示为
Figure BDA0003215585760000051
用户节点表示为
Figure BDA0003215585760000052
作为上述实施例的优化方案，在所述步骤S20中,包括步骤：
S21,对于第n个客户端，根据局部异构图获取它的项目嵌入为
Figure BDA0003215585760000053
和用户嵌入为
Figure BDA0003215585760000054
其中，
Figure BDA0003215585760000055
均是嵌入矩阵，K表示项目总数,P表示用户的总数；
S22,将获取的嵌入输入到图注意力网络模型进行嵌入学习，得到用户社交关系的注意力权重和项目邻居关系的注意力权重；包括步骤：
使用关注层学习每个邻居的权重，对于社交对(un,up)的注意力得分公式为
Figure BDA0003215585760000056
其中，eun表示用户n的嵌入，W1是社交对线性映射矩阵，注意力层为单层前馈神经网络，使用权重矩阵α和激活函数LeakyReLU进行参数化，||代表两个向量的连接运算；进而计算中心节点u的所有邻居权重，得到用户社交关系的最终注意力权重αnp＝softmaxp(onp)；
使用关注层学习每个邻居的权重，对于项目对(un,tk)注意力得分公式为
Figure BDA0003215585760000061
其中，eun表示用户n的嵌入，W2是用户项目对线性映射矩阵，注意力层为单层前馈神经网络，使用权重矩阵b和激活函数LeakyReLU进行参数化，||代表两个向量的连接运算；进而计算中心节点u的所有邻居权重，得到项目邻居关系的最终注意力权重βnk＝softmaxk(νnk)。
S23,将用户社交关系和项目邻居的关系聚合，将隐藏嵌入与它们的关系向量连接起来，并使用自我注意机制来学习聚合的权重，公式如下：
Figure BDA0003215585760000062
Figure BDA0003215585760000063
Figure BDA0003215585760000064
其中，γu,γt,γs分别为隐藏用户社交嵌入、隐藏项目邻居嵌入和中心节点自身嵌入的注意力权重；用户社交和项目邻居的隐藏嵌入分别为
Figure BDA0003215585760000065
和
Figure BDA0003215585760000066
vu表示社交关系向量，vt表示用户-项目关系向量，vs表示中心节点向量，hs表示中心节点本身嵌入，c表示注意力层的权重向量。
S24,利用聚合结果获取用户的推断节点嵌入
Figure BDA0003215585760000067
S25,将用户的推断节点嵌入和项目嵌入之间进行点积来预测本地项目评分
Figure BDA0003215585760000068
et表示项目嵌入。
作为上述实施例的优化方案，在所述步骤S30中，包括步骤：
S31,首先采样不在相邻评级项目中的q个项目作为伪项目，表示为
Figure BDA0003215585760000069
然后，我们使用局部模型来预测这些伪项目的评级，预测的评级被四舍五入为伪评级；
S32,然后通过均方根误差计算真实值和预测值的误差，公式为：
Figure BDA0003215585760000071
S33,根据所得到的误差，计算出客户端的梯度
Figure BDA0003215585760000072
其中，
Figure BDA0003215585760000073
分别为客户端c的项目嵌入梯度，用户嵌入梯度和模型梯度，Θ是可训练的参数；
S34,计算得出的梯度输入本地差分隐私模型中，被公式化为
Figure BDA0003215585760000074
其中，clip(g(n),δ)表示用阈值δ限制梯度g(n)，Laplacian(0,λ)表示具有0均值和λ强度的拉普拉斯噪音；当处理不同幅度的梯度时，恒定的噪声强度是不合适的；
因此，于梯度添加动态噪声，公式优化为
Figure BDA0003215585760000075
作为上述实施例的优化方案，在所述步骤S40中，包括步骤：
S41,服务器从多个客户端收集梯度，然后聚合这些梯度，公式如下：
Figure BDA0003215585760000076
其中，Rn用于计算梯度的交互总数，包括真实交互和伪交互；
Figure BDA0003215585760000077
和
Figure BDA0003215585760000078
分别为涉及项目和用户的交互次数；
S42，聚合之后，服务器将模型参数Θ更新为
Figure BDA0003215585760000079
其中η表示学习率，这个学习过程***作多次，直到收敛。
具体实施例如图2所示，该图为一个双客户端场景。在每个客户端中，使用本地GAT图注意力层来推断节点嵌入，并采用注意力层聚合社会邻居和项目邻居。然后，对一组与本地数据绑定的伪项目进行采样，计算损失和梯度。差分隐私模型操作后，嵌入梯度和模型梯度都上传到服务器进行聚合。服务器更新参数后发送到客户端。
如图3所示，计算两个嵌入之间的注意力权重inp，包括线性映射矩阵W、两个用户嵌入eun，eup的串联、注意力层a，和激活函数LeakyReLU。
如图4所示，本地图神经网络GNN通过聚合相邻嵌入学习嵌入用户u1，之后上传到服务器。
以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。

Claims (7)

1.一种基于异构图神经网络的社交推荐方法，其特征在于，包括步骤：
S10,根据客户端上的本地数据构造局部异构图；
S20，客户端向服务器请求模型参数，使用图注意力网络模型对局部异构图进行嵌入学习，以处理本地图的异构性和客户端的个性化信息；
S30,一个用户和一个客户端相关联，在客户端加入伪项目标签后，使用损失函数计算客户端的梯度，之后通过一个本地差分隐私模型后上传到服务器；
S40,服务器收集多个客户端的梯度，进一步更新模型参数训练社交推荐模型；通过社交推荐模型输出的本地客户端嵌入进行社交推荐。
2.根据权利要求1所述的一种基于异构图神经网络的社交推荐方法，其特征在于，在所述步骤S10中，包括步骤：
S11,客户端的本地数据包括存储评级数据和社交数据，每个客户端和用户相关联；
S12,建立客户端的局部异构图，局部异构图包括用户节点和项目节点，有两种边类型，分别为用户-项目边类型和用户-用户边类型，包含客户端用户的一阶邻居。
3.根据权利要求2所述的一种基于异构图神经网络的社交推荐方法，其特征在于，在所述步骤S20中,包括步骤：
S21,对于第n个客户端，根据局部异构图获取它的项目嵌入和用户嵌入；
S22,将获取的嵌入输入到图注意力网络模型进行嵌入学习，得到用户社交关系的注意力权重和项目邻居关系的注意力权重；
S23,将用户社交关系和项目邻居的关系聚合，将隐藏嵌入与它们的关系向量连接起来，并使用自我注意机制来学习聚合的权重；
S24,利用聚合结果获取用户的推断节点嵌入；
S25,将用户的推断节点嵌入和项目嵌入之间进行点积来预测本地项目评分。
4.根据权利要求3所述的一种基于异构图神经网络的社交推荐方法，其特征在于，在所述步骤S22中,将获取的嵌入输入到图注意力网络模型进行嵌入学习，得到用户社交关系的注意力权重和项目邻居关系的注意力权重，包括步骤：
使用关注层学习每个邻居的权重，获取社交对的注意力得分；进而计算中心节点的所有邻居权重，得到用户社交关系的最终注意力权重；
使用关注层学习每个邻居的权重，获取项目对的注意力得分；进而计算中心节点的所有邻居权重，得到项目邻居关系的最终注意力权重。
5.根据权利要求4所述的一种基于异构图神经网络的社交推荐方法，其特征在于，在所述步骤S23中,将用户社交关系和项目邻居的关系聚合，将隐藏嵌入与它们的关系向量连接起来，并使用自我注意机制来学习聚合的权重，公式如下：
Figure FDA0003215585750000021
Figure FDA0003215585750000022
Figure FDA0003215585750000023
其中，γu,γt,γs分别为隐藏用户社交嵌入、隐藏项目邻居嵌入和中心节点自身嵌入的注意力权重；用户社交和项目邻居的隐藏嵌入分别为
Figure FDA0003215585750000024
和
Figure FDA0003215585750000025
vu表示社交关系向量，vt表示用户-项目关系向量，vs表示中心节点向量，hs表示中心节点本身嵌入，c表示注意力层的权重向量。
6.根据权利要求5所述的一种基于异构图神经网络的社交推荐方法，其特征在于，在所述步骤S30中，包括步骤：
S31,首先采样不在相邻评级项目中的q个项目作为伪项目；然后，我们使用局部模型来预测这些伪项目的评级，预测的评级被四舍五入为伪评级；
S32,然后通过均方根误差计算真实值和预测值的误差；
S33,根据所得到的误差，计算出客户端的梯度；
S34,计算得出的梯度输入本地差分隐私模型中；基于梯度添加动态噪声获取，优化梯度。
7.根据权利要求6所述的一种基于异构图神经网络的社交推荐方法，其特征在于，在所述步骤S40中，包括步骤：
S41,服务器从多个客户端收集梯度，然后聚合这些梯度；
S42，聚合之后，服务器将模型参数更新；这个学习过程***作多次，直到收敛。
CN202110942348.2A 2021-08-17 2021-08-17 一种基于异构图神经网络的社交推荐方法 Active CN113609398B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110942348.2A CN113609398B (zh) 2021-08-17 2021-08-17 一种基于异构图神经网络的社交推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110942348.2A CN113609398B (zh) 2021-08-17 2021-08-17 一种基于异构图神经网络的社交推荐方法

Publications (2)

Publication Number Publication Date
CN113609398A true CN113609398A (zh) 2021-11-05
CN113609398B CN113609398B (zh) 2023-09-19

Family

ID=78340928

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110942348.2A Active CN113609398B (zh) 2021-08-17 2021-08-17 一种基于异构图神经网络的社交推荐方法

Country Status (1)

Country Link
CN (1) CN113609398B (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113821732A (zh) * 2021-11-24 2021-12-21 阿里巴巴达摩院(杭州)科技有限公司 保护用户隐私的项目推荐方法、设备和学习***
CN114118388A (zh) * 2022-01-25 2022-03-01 湖南工商大学 面向用户隐私保护的异构网络图链接预测方法及相关设备
CN114398538A (zh) * 2021-12-08 2022-04-26 西安电子科技大学 隐私保护的跨域推荐方法、***、存储介质、计算机设备
CN114510652A (zh) * 2022-04-20 2022-05-17 宁波大学 一种基于联邦学习的社交协同过滤推荐方法
CN114707076A (zh) * 2022-03-11 2022-07-05 重庆邮电大学 一种个性化物联网实体推荐方法
CN115081024A (zh) * 2022-08-16 2022-09-20 杭州金智塔科技有限公司 基于隐私保护的去中心化业务模型训练方法及装置
CN116226540A (zh) * 2023-05-09 2023-06-06 浙江大学 一种基于用户兴趣域的端到端联邦个性化推荐方法和***
WO2024007599A1 (zh) * 2022-07-04 2024-01-11 上海淇玥信息技术有限公司 基于异构图神经网络的目标服务确定方法和装置
CN117520665A (zh) * 2024-01-05 2024-02-06 江西财经大学 一种基于生成对抗网络的社交推荐方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111177781A (zh) * 2019-12-30 2020-05-19 北京航空航天大学 一种基于异构信息网络嵌入的差分隐私推荐方法
US20200342006A1 (en) * 2019-04-29 2020-10-29 Adobe Inc. Higher-Order Graph Clustering
CN112084428A (zh) * 2020-09-17 2020-12-15 辽宁工程技术大学 一种基于耦合网络嵌入及知识图谱的协同过滤推荐方法
US20210173884A1 (en) * 2018-11-29 2021-06-10 Tencent Technology (Shenzhen) Company Limited Recommendation method and apparatus, and storage medium
CN112990972A (zh) * 2021-03-19 2021-06-18 华南理工大学 一种基于异构图神经网络的推荐方法
CN113254803A (zh) * 2021-06-24 2021-08-13 暨南大学 一种基于多特征异质图神经网络的社交推荐方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210173884A1 (en) * 2018-11-29 2021-06-10 Tencent Technology (Shenzhen) Company Limited Recommendation method and apparatus, and storage medium
US20200342006A1 (en) * 2019-04-29 2020-10-29 Adobe Inc. Higher-Order Graph Clustering
CN111177781A (zh) * 2019-12-30 2020-05-19 北京航空航天大学 一种基于异构信息网络嵌入的差分隐私推荐方法
CN112084428A (zh) * 2020-09-17 2020-12-15 辽宁工程技术大学 一种基于耦合网络嵌入及知识图谱的协同过滤推荐方法
CN112990972A (zh) * 2021-03-19 2021-06-18 华南理工大学 一种基于异构图神经网络的推荐方法
CN113254803A (zh) * 2021-06-24 2021-08-13 暨南大学 一种基于多特征异质图神经网络的社交推荐方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
陈永锋;朱振宇;: "基于概率矩阵分解的社交网络推荐算法研究", 科技广场, no. 01 *
高海燕;毛林;窦凯奇;倪文晔;赵卫滨;余永红;: "基于图嵌入模型的协同过滤推荐算法", 数据采集与处理, no. 03 *

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113821732A (zh) * 2021-11-24 2021-12-21 阿里巴巴达摩院(杭州)科技有限公司 保护用户隐私的项目推荐方法、设备和学习***
CN113821732B (zh) * 2021-11-24 2022-02-18 阿里巴巴达摩院(杭州)科技有限公司 保护用户隐私的项目推荐方法、设备和学习***
CN114398538A (zh) * 2021-12-08 2022-04-26 西安电子科技大学 隐私保护的跨域推荐方法、***、存储介质、计算机设备
CN114398538B (zh) * 2021-12-08 2024-02-06 西安电子科技大学 隐私保护的跨域推荐方法、***、存储介质、计算机设备
CN114118388A (zh) * 2022-01-25 2022-03-01 湖南工商大学 面向用户隐私保护的异构网络图链接预测方法及相关设备
CN114118388B (zh) * 2022-01-25 2022-04-19 湖南工商大学 面向用户隐私保护的异构网络图链接预测方法及相关设备
CN114707076A (zh) * 2022-03-11 2022-07-05 重庆邮电大学 一种个性化物联网实体推荐方法
CN114510652B (zh) * 2022-04-20 2023-04-07 宁波大学 一种基于联邦学习的社交协同过滤推荐方法
CN114510652A (zh) * 2022-04-20 2022-05-17 宁波大学 一种基于联邦学习的社交协同过滤推荐方法
WO2024007599A1 (zh) * 2022-07-04 2024-01-11 上海淇玥信息技术有限公司 基于异构图神经网络的目标服务确定方法和装置
CN115081024A (zh) * 2022-08-16 2022-09-20 杭州金智塔科技有限公司 基于隐私保护的去中心化业务模型训练方法及装置
CN116226540A (zh) * 2023-05-09 2023-06-06 浙江大学 一种基于用户兴趣域的端到端联邦个性化推荐方法和***
CN116226540B (zh) * 2023-05-09 2023-09-26 浙江大学 一种基于用户兴趣域的端到端联邦个性化推荐方法和***
CN117520665A (zh) * 2024-01-05 2024-02-06 江西财经大学 一种基于生成对抗网络的社交推荐方法
CN117520665B (zh) * 2024-01-05 2024-03-26 江西财经大学 一种基于生成对抗网络的社交推荐方法

Also Published As

Publication number Publication date
CN113609398B (zh) 2023-09-19

Similar Documents

Publication Publication Date Title
CN113609398A (zh) 一种基于异构图神经网络的社交推荐方法
Chen et al. Dictionary learning over distributed models
Zhang et al. A cross-domain recommender system with kernel-induced knowledge transfer for overlapping entities
CN111881350B (zh) 一种基于混合图结构化建模的推荐方法与***
CN112613602A (zh) 基于知识感知超图神经网络的推荐方法及***
CN112364976A (zh) 基于会话推荐***的用户偏好预测方法
CN113961759A (zh) 基于属性图表示学习的异常检测方法
CN112035755B (zh) 一种以用户为中心的个性化推荐隐私保护方法及***
CN110008402B (zh) 一种基于社交网络的去中心化矩阵分解的兴趣点推荐方法
Yan et al. FedCDR: Privacy-preserving federated cross-domain recommendation
CN113190654A (zh) 一种基于实体联合嵌入和概率模型的知识图谱补全方法
CN115344883A (zh) 一种用于处理不平衡数据的个性化联邦学习方法和装置
CN115221413B (zh) 一种基于交互式图注意力网络的序列推荐方法及***
CN115098692A (zh) 跨域推荐方法、装置、电子设备及存储介质
Wang et al. Digital-twin-aided product design framework for IoT platforms
Jin et al. Neighborhood-aware web service quality prediction using deep learning
Devi et al. Smoothing approach to alleviate the meager rating problem in collaborative recommender systems
Wang et al. Feature subspace transfer for collaborative filtering
Yin et al. An efficient recommendation algorithm based on heterogeneous information network
Xia et al. Machine learning prediction of network dynamics with privacy protection
Cao et al. Multiobjective recommendation optimization via utilizing distributed parallel algorithm
CN110717116A (zh) 关系网络的链接预测方法及***、设备、存储介质
CN117035059A (zh) 一种通信高效的隐私保护推荐***及方法
CN115391638A (zh) 基于社交网络的推荐模型训练方法及装置
He [Retracted] Ideological and Political Teaching Resource Sharing Method Based on Edge Computing

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant