CN111400560A - 一种基于异构图神经网络模型进行预测的方法和*** - Google Patents
一种基于异构图神经网络模型进行预测的方法和*** Download PDFInfo
- Publication number
- CN111400560A CN111400560A CN202010162355.6A CN202010162355A CN111400560A CN 111400560 A CN111400560 A CN 111400560A CN 202010162355 A CN202010162355 A CN 202010162355A CN 111400560 A CN111400560 A CN 111400560A
- Authority
- CN
- China
- Prior art keywords
- node
- predicted
- nodes
- neural network
- prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9024—Graphs; Linked lists
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/906—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/03—Credit; Loans; Processing thereof
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Data Mining & Analysis (AREA)
- Finance (AREA)
- Accounting & Taxation (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- Technology Law (AREA)
- General Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本说明书一个或多个实施例公开了一种基于异构图神经网络模型进行预测的方法和***,所述方法包括:获取与预测内容相关的异构图数据,所述异构图数据包括待预测节点、所述待预测节点的邻居节点、以及连接所述待预测节点与所述邻居节点之间的路径,所述路径包括至少一种类型;基于所述路径的类型,对所述邻居节点进行分组,以使得同一组的所述邻居节点的路径的类型相同;将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量后输入训练好的预测模型进行预测。
Description
技术领域
本说明书一个或多个实施例涉及数据处理领域,特别涉及一种基于异构图神经网络模型进行预测的方法和***。
背景技术
异构图,又称作异质信息网络,是一种特殊的图结构,其通常包含不同类型的节点以及不同类型的路径,可以用于表示一些复杂的社交网络关系数据。异构图中的节点可以用于表示实体对象例如个人用户,通常可以将包含实体对象数据的异构图输入图神经网络来对异构图中的节点进行预测,例如对用户进行预测预测以判断其类别、风险等级或者偏好习惯。而异构图由于其节点类型以及路径类型的不同,体现出较高的复杂性,因此,如何基于异构图对其中的实体对象数据进行预测至关重要。
基于此,本说明书提出一种基于异构图神经网络模型进行预测的方法和***。
发明内容
本说明书实施例之一提供一种通过实体对象数据判断实体对象类别的方法。所述通过实体对象数据判断实体对象类别的方法包括:获取与预测内容相关的异构图数据,所述异构图数据包括待预测节点、所述待预测节点的邻居节点、以及连接所述待预测节点与所述邻居节点之间的路径,所述路径包括至少一种类型;基于所述路径的类型,对所述邻居节点进行分组,以使得同一组的所述邻居节点的路径的类型相同;将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量后输入训练好的预测模型进行预测。
本说明书实施例之一提供一种基于异构图神经网络模型进行预测的***。所述通过实体对象数据判断实体对象类别的***包括:异构图获取模块,用于获取与预测内容相关的异构图数据,所述异构图数据包括待预测节点、所述待预测节点的邻居节点、以及连接所述待预测节点与所述邻居节点之间的路径,所述路径包括至少一种类型;分组模块,用于基于所述路径的类型,对所述邻居节点进行分组,以使得同一组的所述邻居节点的路径的类型相同;节点预测模块,用于将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点。
本说明书实施例之一提供一种基于异构图神经网络模型进行预测的装置,包括处理器,所述处理器用于执行通过实体对象数据判断实体对象类别的方法。
本说明书实施例之一提供一种计算机可读存储介质,所述存储介质存储计算机指令,当计算机读取存储介质中的计算机指令后,计算机执行基于异构图神经网络模型进行预测的方法。
附图说明
本说明书将以示例性实施例的方式进一步说明,这些示例性实施例将通过附图进行详细描述。这些实施例并非限制性的,在这些实施例中,相同的编号表示相同的结构,其中:
图1是根据本说明书一些实施例所示的一种基于异构图神经网络模型进行预测的场景应用示意图;
图2是根据本说明书一些实施例所示的一种基于异构图神经网络模型进行预测的***的模块图;
图3是根据本说明书一些实施例所示的基于异构图神经网络模型进行预测的方法的示例性流程图;
图4是根据本说明书一些实施例所示的基于异构图神经网络模型进行预测方法的示例性子流程图;
图5是根据本说明书一些实施例所示的基于异构图神经网络模型进行预测方法的示例性子流程图;以及
图6是根据本说明书另一些实施例所示的基于异构图神经网络模型进行预测方法的示例性子流程图。
具体实施方式
为了更清楚地说明本说明书实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单的介绍。显而易见地,下面描述中的附图仅仅是本说明书的一些示例或实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图将本说明书应用于其它类似情景。除非从语言环境中显而易见或另做说明,图中相同标号代表相同结构或操作。
应当理解,本文使用的“***”、“装置”、“单元”和/或“模组”是用于区分不同级别的不同组件、元件、部件、部分或装配的一种方法。然而,如果其他词语可实现相同的目的,则可通过其他表达来替换所述词语。
如本说明书和权利要求书中所示,除非上下文明确提示例外情形,“一”、“一个”、“一种”和/或“该”等词并非特指单数,也可包括复数。一般说来,术语“包括”与“包含”仅提示包括已明确标识的步骤和元素,而这些步骤和元素不构成一个排它性的罗列,方法或者设备也可能包含其它的步骤或元素。
本说明书中使用了流程图用来说明根据本说明书的实施例的***所执行的操作。应当理解的是,前面或后面操作不一定按照顺序来精确地执行。相反,可以按照倒序或同时处理各个步骤。同时,也可以将其他操作添加到这些过程中,或从这些过程移除某一步或数步操作。
图1是根据本说明书一些实施例所示的基于异构图神经网络模型进行预测的场景应用示意图。
异构图包括针对N个节点的不同类型的路径进行描述的关系网络。其中,节点是指实体对象,例如用户。路径表示节点之间的连接关系。关于实体对象和路径的更多详细描述可以参见图3,在此不再赘述。
为了便于说明,图1中只示出了异构图的一部分。在一些实施例中,可以先针对不同类型的路径分别进行处理,得到实体对象分别在各组路径中的组聚合向量;然后,根据待预测节点和各组路径分别对应的重要程度(权重),对这些组聚合向量进行融合,从而得到一个表示向量,最后基于表示向量输出表示结果。一方面,由于利用了多个不同类型的路径,可以更加全面的刻画实体对象的特征;另一方面,先针对各组不同路径的网络分别处理得到各个组聚合向量,可以避免繁琐的手工特征抽取;进一步地,可以自动确定当前预测内容下,不同类型路径关系网络的重要程度(权重),实现在各组路径中的信息融合,从而使得对待预测节点的评估结果更加准确。
以用户金融关系数据图预测用户金融风险等级为应用场景进行说明。在此应用场景下,实体对象为用户A-H,路径类型可以包括用户之间交互关系(以双向箭头表示)、借贷方式(以实线表示)和收入等级(以虚线表示),预测内容为用户在金融借贷时的风险等级(如违约概率)。示例性地,预测用户A的金融风险等级,可以根据用户A的交互关系路径的网络,对网络中用户C和用户F的特征信息进行处理,得到针对用户A的组聚合向量。同理,可以根据借贷方式路径和收入等级路径的网络,分别对其中的用户G和用户B、H的特征信息进行处理,得到另外两个针对用户A的组聚合向量。然后,根据各个组聚合向量表征确定不同路径内的各组用户相对于用户A的重要程度。接着,基于不同重要程度对不同路径对应的组聚合向量进行融合,得到针对用户A的表示向量。根据表示向量,可以输出用户的金融借贷风险等级。根据风险等级,可以进行后续业务,如限制该用户的借贷金额、禁止用户进行借贷业务等。
以用户观影数据关系图为另一实施例,说明包含不同类型实体对象的异构图应用场景。实体对象可以包括用户A、C、D、F,电影B、H,以及导演G;路径类型可以包括用户之间的交互路径(以双向箭头表示)、用户对电影的满意度路径(以虚线表示)、用户对导演的满意度路径(以实线表示)。预测内容可以是用户是否偏好某部电影,也可以是电影或导演的评分。示例性的,预测用户A是否偏好某部电影,可以根据用户A的电影满意度路径的网络,对网络中电影B和电影H的特征信息进行处理,得到针对用户A的组聚合向量。同理,可以根据交互路径和导演满意度路径的网络,分别对其中的用户G和导演B、H的特征信息进行处理,得到另外两个针对用户A的组聚合向量。然后,根据各个组聚合向量表征确定不同路径内的各组用户相对于用户A的重要程度。接着,基于不同重要程度对不同路径对应的组聚合向量进行融合,得到针对用户A的表示向量。根据表示向量和某部电影的特征信息,预测用户A对于某部电影的偏好。又一示例性的,预测导演G的评分,可以根据用户对电影的满意度路径的网络,基于网络中的用户A、D、F来进行预测。
关于基于异构图神经网络模型进行预测的技术方案,参见下文。
图2是根据本说明书一些实施例所示的基于异构图神经网络模型进行预测的***的模块图。
如图2所示,该通过实体对象数据判断实体对象类别的***200可以包括异构图获取模块210、分组模块220和节点预测模块230。
异构图获取模块210可以获取与预测内容相关的异构图数据,所述异构图数据包括待预测节点、所述待预测节点的邻居节点、以及连接所述待预测节点与所述邻居节点之间的路径,所述路径包括至少一种类型。异构图获取模块210的详细描述可以参见图3的步骤302,在此不再赘述。
分组模块220可以用于基于所述路径的类型,对所述邻居节点进行分组,以使得同一组的所述邻居节点的路径的类型相同。分组模块220的详细描述可以参见图3的步骤304,在此不再赘述。
节点预测模块230可以用于将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量后输入训练好的预测模型进行预测。在一些实施例中,所述节点预测模块还用于融合节点注意力权重和/或路径注意力权重后得到所述待预测节点的表示向量。在一些实施例中,节点预测模块230可以根据同一组的所述邻居节点的特征信息,逐一得到对应于该组的组聚合向量;针对每一所述组聚合向量,将该待预测节点特征信息融合,得到分组融合的待预测节点信息。在一些实施例中,所述节点预测模块还用于基于路径的重要程度确定路径的注意力权重;基于所述分组融合的待预测节点信息和所述路径的注意力权重确定所述待预测节点的表示向量。在一些实施例中,节点预测模块230可以基于邻居节点的重要程度确定节点的注意力权重向量,基于路径的重要程度确定路径的注意力权重向量。在一些实施例中,节点预测模块230可以基于所述分组融合的待预测节点信息、所述节点的注意力权重向量和所述路径的注意力权重向量确定所述待预测节点的表示向量。节点预测模块230的详细描述可以参见图3的步骤306,在此不再赘述。
在一些实施例中,所述***100还包括:训练模块,用于对***的异构图网络神经模型和预测模型进行端对端的训练,具体为基于预测模型的损失函数迭代更新预测模型以及异构图神经网络模型的模型参数,直到满足迭代截止条件。在一些实施例中,可以将若干个异构图数据作为训练数据,将对应于该异构图数据的节点正确结果作为该训练数据的标签数据,所述预测模型的参数和异构图神经网络模型的参数利用所述训练数据和所述标签数据通过训练迭代更新。具体可以参加本文其他地方描述的异构图网络神经模型和预测模型的训练过程,在此不再赘述。
应当理解,图2所示的***及其模块可以利用各种方式来实现。例如,在一些实施例中,***及其模块可以通过硬件、软件或者软件和硬件的结合来实现。其中,硬件部分可以利用专用逻辑来实现;软件部分则可以存储在存储器中,由适当的指令执行***,例如微处理器或者专用设计硬件来执行。本领域技术人员可以理解上述的方法和***可以使用计算机可执行指令和/或包含在处理器控制代码中来实现,例如在诸如磁盘、CD或DVD-ROM的载体介质、诸如只读存储器(固件)的可编程的存储器或者诸如光学或电子信号载体的数据载体上提供了这样的代码。本说明书的***及其模块不仅可以有诸如超大规模集成电路或门阵列、诸如逻辑芯片、晶体管等的半导体、或者诸如现场可编程门阵列、可编程逻辑设备等的可编程硬件设备的硬件电路实现,也可以用例如由各种类型的处理器所执行的软件实现,还可以由上述硬件电路和软件的结合(例如,固件)来实现。
需要注意的是,以上对于候选项显示、确定***及其模块的描述,仅为描述方便,并不能把本说明书限制在所举实施例范围之内。可以理解,对于本领域的技术人员来说,在了解该***的原理后,可能在不背离这一原理的情况下,对各个模块进行任意组合,或者构成子***与其他模块连接。例如,在一些实施例中,例如,图1中披露的异构图获取模块210、分组模块220、节点预测模块130和训练模块可以是一个***中的不同模块,也可以是一个模块实现上述的两个或两个以上模块的功能。例如,异构图获取模块210、分组模块220可以是两个模块,也可以是一个模块同时具有异构图获取和分组功能。例如,各个模块可以共用一个存储模块,各个模块也可以分别具有各自的存储模块。诸如此类的变形,均在本说明书的保护范围之内。
图3是根据本说明书一些实施例所示的基于异构图神经网络模型进行预测的方法的示例性流程图。如图3所示,该通过实体对象数据判断实体对象类别的方法300包括:
步骤302,获取与预测内容相关的异构图数据。所述异构图数据包括待预测节点、所述待预测节点的邻居节点、以及连接所述待预测节点与所述邻居节点之间的路径,所述路径包括至少一种类型。
具体的,步骤302可以由异构图获取模块210执行。
异构图数据是包括不同类型节点和不同类型节点之间路径的数据关系图。例如,用户观影数据关系图。又例如,用户金融关系数据图。
节点是指实体对象。在一些实施例中,节点的类型可以相同。例如,节点可以都是用户。在一些实施例中,节点的类型可以不同。例如,节点可以包括用户、导演和演员等。
路径表示节点之间的连接关系。在一些实施例中,不同类型的路径可以表示节点之间的不同的连接关系。
在一些实施例中,连接关系可以是相同类型的实体对象之间的连接关系。在一些实施例中,连接关系可以是相同类型的实体对象之间的交互关系(如用户之间的关注、点赞、评论)。示例性的,路径可以表示为:用户A—点赞—用户B。在一些实施例中,连接关系也可以是相同类型的实体对象之间的共同偏好。例如,用户之间共同偏好的观影方式(如优酷在线观看、电影院观看)。示例性的,路径可以表示为:用户A—优酷在线观看—用户B。
在一些实施例中,连接关系还可以是不同类型的实体对象之间的关系。例如,实体对象用户A对实体对象导演K的满意度(如喜欢、无感、讨厌)。示例性的,路径可以表示为:用户A—喜欢—导演K。
在一些实施例中,异构图数据可以通过用户授权的社交网络、点评网站、征信网站等存储的数据获取,还可以通过调用相关接口或其他方式获取。本实施例对获取方式不做限制。例如,通过社交网络授权的注册信息可以获取实体对象—用户,通过社交网络用户之间的交互行为获取路径。
待预测内容可以是实体对象的未知数据。在一些实施例中,在一些实施例中,预测模型的预测内容可以包括待预测节点对应的实体对象的类别、风险等级或者偏好习惯。
示例性的,实体对象的类别可以包括用户的收入水平类别(贫穷、小康和富裕)、导演评价类别(差、一般、好、很好)等。
示例性的,实体对象的风险等级可以包括用户的金融借贷风险等级(例如,违约可能性低、违约可能性中、违约可能性高)、投保人的健康风险等级(例如,赔付可能性低、赔付可能性中、赔付可能性高)等。
示例性的,实体对象的偏好习惯可以包括用户偏好的电影类型(如,喜剧片、动作片、科幻片)、用户偏好的还贷方式(如等额本息、等额本金)。
待预测节点是输出待预测内容的节点。可以理解的是,可以根据待预测内容选择待预测节点。以用户偏好的电影类型为例,实体对象包括用户、导演和演员的异构图中,待预测内容是各个用户喜欢的电影类型,则待预测节点可以是用户;待预测内容是各个导演的评分,则待预测节点可以是导演。为了进一步说明,以用户的借贷风险为预测内容的实施例参加下文。
邻居节点通过路径直接连接待预测节点。在一些实施例中,一个预测节点可以通过多条路径连接到多个邻居节点。在一些实施例中,多条路径的类型可以相同也可以不同。例如,待预测节点用户A“点赞”了1个用户,“评论”了2个用户,则交互类型的路径的邻居节点数量为3;待预测节点用户A和另外2个用户都使用“优酷在线”观看电影,同时和另外3个用户都“电影院观看”电影,则观影方式类型的路径的邻居节点数量为5。
为了便于进一步理解,以用户借贷风险应用场景为另一实施例进行说明。例如,实体对象为用户的异构图中,对应的待预测节点为用户,待预测内容是各个用户的借贷风险等级。路径类型可以包括用户之间交互关系、用户的借贷方式、收入等级等,对应的路径可以示例性地对应为:用户A-评论-用户D、用户A-小额信贷公司-用户B、用户D-中产-用户C。
步骤304,基于所述路径的类型,对所述邻居节点进行分组,以使得同一组的所述邻居节点的路径的类型相同。
具体的,步骤304可以由分组模块220执行。
在一些实施例中,根据连接待预测节点与其邻居节点之间的路径的类型对邻居节点进行分类。沿用上述例子,交互类型的路径连接的邻居节点分为一组,观影方式类型的路径连接的邻居节点分为一组。
在一些实施例中,每一组邻居节点基于待预测节点和其中的邻居节点的路径连接结构对应于一个图神经网络。
步骤306,将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量后输入训练好的预测模型进行预测。
具体的,步骤306可以由节点预测模块230执行。
将待预测节点、分组后的邻居节点以及节点之间的路径的特征信息输入训练好的异构图神经网络模型,输出为待预测节点的表示向量。节点的特征信息是可以表征实体对象特征的数据。相应地,路径的特征信息是可以表征路径特征的数据。异构图神经网络模型的详细描述可以参见图4,在此不再赘述。
将待预测节点的表示向量输入训练好的预测模型,输出预测结果。
在一些实施例中,测结果是待预测内容的值。如前所述,预测模型的预测内容可以包括待预测节点对应的实体对象的类别、风险等级或者偏好习惯。
在一些实施例中,预测模型可以是二分类模型、逻辑回归模型或神经网络等具有分类能力的机器学习模型,本说明书对其不做具体限制。
在一种可能的实施方式中,将信息表示学习向量输入预测模型后,可能得到多个输出值,每个输出值用于表征该输出值对应的类别的置信度,也即模型对于该类别的预测概率。例如输出值有3个,分别为0.6,0.2,0.2,分别对应用户为喜剧片爱好者、动作片爱好者以及科幻片爱好者的概率,由于喜剧片爱好者对应的概率0.6最大,可以认为该用户属于喜剧片爱好者。
图4是根据本说明书一些实施例所示的基于异构图神经网络模型进行预测的方法的示例性子流程图。
在一些实施例中,异构图神经网络模型可以包括组聚合向量层、待预测节点信息层和表示向量层。
如图4所述,将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量的方法400包括:
步骤402,根据同一组的所述邻居节点的特征信息,逐一得到对应于该组的组聚合向量。
在一些实施例中,组聚合向量层可以用于对输入的同一组的邻居节点的特征信息进行聚合,生成组聚合向量。
在一些实施例中,组聚合向量层可以先对邻居节点的特征信息进行向量化,得到特征向量X;同一组邻居节点的特征向量再通过图神经网络进行特征聚合,得到特征聚合向量h;然后基于特征聚合向量得到组聚合向量H。
如前所述,节点的特征信息是可以表征实体对象特征的数据。例如,实体对象为用户,进而实体对象的特征信息可以包括用户的身份信息数据(如年龄、职业),还可以包括用户的历史偏好数据(如喜欢过的电影、电视剧类型等)。在一些实施例中,实体对象的特征信息可以通过用户注册时输入的授权数据获取,也可以通过用户的实际操作(如点赞、评论等)获取,还可以通过读取存储的数据、调用相关接口或其他方式获取。本实施例对获取方式不做限制。
在一些实施例中,可以预先通过向量化表示模型对特征信息进行向量化获取对应的特征向量。在一些实施例中,向量化表示模型可以是词嵌入模型,词嵌入模型可以包括但不限于:Word2vec模型、词频-逆向文件频率模型(Term Frequency–Inverse DocumentFrequency,TF-IDF)或SSWE-C(skip-gram based combined-sentiment word embedding)模型等。
在一些实施例中,可以通过对各邻居节点的特征向量X进行特征聚合,得到特征聚合向量h。可以理解的是,一组邻居节点对应一个特征聚合向量h。
在一些实施例中,可以对待预测节点的预定阶数(如2阶)内的邻居节点作为特征聚合的节点,也可以对预定阶数内的邻居进行采样,将采样得到的邻居节点做特征聚合。
在一些实施例中,特征聚合可以通过预先设定的聚合方式对特征向量X进行聚合;也可以基于每一组邻居节点对应的图神经网络,对采用注意力机制对特征向量X进行聚合;还可以通过所述图神经网络对各邻居节点的特征向量X进行卷积。下文将分别对这三种方式进行介绍。
在一些实施例中,预先设定的聚合方式可以是利用一个预先训练好的参数矩阵对邻居节点的特征向量X进行加和、求平均、取最大值、求加权和,等等,在此不作限定。
例如,在得到待预测节点特征向量Xu以及邻居节点特征向量 后,若待预测节点特征向量Xu的维度为1*8,第一参数矩阵的维度为8*5,则将待预测节点特征向量Xu与第一参数矩阵相乘得到维度为1*5的待预测特征聚合向量hu,第一参数矩阵可以视为对待预测节点特征向量Xu的每个元素进行了加权求和操作,进而对待预测节点的特征信息起到了聚合作用,使得待预测节点特征聚合向量hu的元素可以表示更丰富的信息。而对于邻居节点特征向量,以图5所示的邻居节点特征向量为例,若其维度为1*10,则将其对应的多个邻居节点特征向量相加后除以3得到维度为1*10的平均向量,然后将该平均向量乘以维度为10*5的第二参数矩阵得到维度为1*5的邻居节点特征聚合向量同理可以得到邻居节点特征聚合向量
当然,对于不同类型的路径对应的邻居节点,第二参数矩阵可以不同。为了得到第一参数矩阵和第二参数矩阵,可以预先对异构图神经网络模型进行训练。训练过程可以参见本文其他地方的描述。
如前所述,在一些实施例中,也可以基于每一组邻居节点对应的图神经网络,对采用注意力机制对特征向量X进行聚合。
图神经网络可以有一层或多层。在一些实施例中,每一层图神经网络对应的模型参数也可以有多组。
注意力机制(Attention Mechanism)是一种深度学习技术,可以使得图神经网络具备专注于其输入(或特征)子集的能力。在一些实施例中,可以通过注意力机制获取神经网络的邻居注意力权重(即邻居权重向量);对于多层的图神经网络,可以通过注意力机制获取隐藏层的特征注意力权重(即特征权重向量),进而使得邻居节点中较为重要的特征向量被利用的程度更高,减小噪声信息的干扰。
在一些实施例中,每组模型参数为一个权重矩阵,一层图神经网络可以对应多个权重矩阵。对于训练好的图神经网络而言,模型参数可以是经过训练过程中的参数调整确定下来的。
在一些实施例中,权重矩阵可以基于各邻居节点的重要度获取。各个邻居节点的重要度可以通过待预测节点与邻居节点的特征向量确定。
在一些实施例中,可以通过公式(1)计算邻居权重向量。例如,待预测节点u的第j组邻居节点中,有N个节点。对于待预测节点u,邻居节点k的邻居权重可以为:
α(u,k)=softmax(V·tanh(W1[Xu||Xk])+b1)
其中,矩阵V(例如称为第一权重矩阵)和W1(例如称为第二权重矩阵)是图神经网络训练过程中确定的模型参数,b1是图神经网络训练过程中确定的常数参数,Xu、Xk分别是节点u、节点k对应的当前的特征表达向量,图神经网络的第一层聚合时,各个节点的当前特征表达向量由相应节点的特征向量确定,[Xu||Xk]表示两个向量的拼接向量。可以理解的是,激活函数softmax、tanh也可以用其他激活函数(如Relu等)代替,在此不作限定。
如此,可以针对各个邻居节点分别确定相应的邻居权重。在各个邻居节点的当前特征向量各不相同的情况下,针对相应邻居节点的邻居权重也各不相同。值得说明的是,也可以将待预测节点u看作自身的邻居节点,例如称为零阶邻居节点。
根据邻居权重对各个邻居节点进行特征聚合,可以采用诸如求加权和等方式进行。例如,通过Nu表示待预测节点u的第j组邻居节点集合,待预测节点u的邻居节点经过图神经网络的邻居聚合结果为:
在一些实施例中,可以将以上邻居聚合结果进一步与待预测节点的特征表达向量聚合,得到待预测节点在图神经网络的当前层的聚合结果。例如,假设图神经网络为多层网络,节点1、节点2、节点3…节点k…为待预测节点u的邻居节点,将它们在第i-1层(i≥2)对应的特征聚合结果分别记为待预测节点u在第i-1层对应的特征聚合结果记为则在第i层,相应节点的当前特征表达向量为第i-1层的特征聚合结果(即第i-1层输出的特征表达向量)。
在一些实施例中,将节点u的各个邻居节点进行聚合,得到邻居聚合结果然后,将上一层网络节点u的特征聚合结果作为特征向量和进行聚合,可以得到待预测节点u在第i层的特征表达向量从而,在第j组邻居节点的图神经网络中,经过预先训练的图神经网络的层层迭代处理,最终可以得到对应的一个特征聚合向量。
这里,将和进行聚合的过程例如可以是求和、求平均或加权求和等。然而,在特征表达向量中,每个特征对节点的表达向量的贡献度也可能不同,因此,在进一步可选的实现方式中,各个特征表达向量还可以具有特征重要度(特征权重)。
在一些实施例中,图神经网络的隐藏层,可以通过以下方式确定各个特征表达向量分别对应的特征权重构成的特征权重向量:
其中,W2(例如称为第三权重矩阵)、W3(例如称为第四权重矩阵)均为图神经网络中第i层的权重矩阵,b2、b3均为常数参数,这些模型参数均可以在图神经网络训练过程中根据损失函数进行调整确定。在神经网络的某一隐藏层,W2、W3、b2、b3可以作为通用参数。表示两个向量的拼接,其中,表示待预测节点u在第i层的特征向量,表示待预测节点u的邻居节点在第i层的邻居聚合结果,可以通过待预测邻居节点u上一层神经网络中最终的特征聚合结果确定。激励函数Relu也可以通过其他合适的激励函数代替,在此不再赘述。
特征权重向量βi中的各个元素分别对应各个特征的特征权重。将相应特征权重与邻居聚合结果中的相应元素一一对应相乘,可以得到当前节点u在当前层的特征聚合结果。根据特征权重确定最终的聚合结果的方式可以表示为:
如此,可以同时考虑节点贡献度和特征贡献度,得到更准确的邻居节点的特征聚合结果。当特征聚合模型为图神经网络时,最后一层得到的聚合结果就是第j组邻居节点对用的特征聚合向量。
在一些实施例中,特征聚合向量还可以基于图神经网络进行卷积获取。具体的,可以先对每一个邻居节点的特征向量进行一层或多层卷积,再对输出的各邻居节点的卷积结果进行加和、求平均、取最大值、求加权和,等等,在此不作限定。
例如,第j组邻居节点的图神经网络中(图卷积神经网络中),邻居节点v在图神经网络的第l层中间向量可以为:
其中:是节点v在第j组邻居节点的图神经网络中,第l层的中间向量;N(v)是节点v的邻居节点;dk、dv是归一化因子,比如是相应节点的度,即,与相应节点连接的连接边数量,或者一阶邻居节点的数量;是节点v在图卷积神经网络的第l层的中间向量;是节点k在图卷积神经网络的第l层的中间向量;Wl是相应节点图卷积神经网络第l层的模型参数。邻居节点有多个时,Wl可以是矩阵形式的模型参数,可以称为权重矩阵。公式还可以考虑当前节点的更高阶邻居节点的特征聚合,在此用省略号表示,其原理与一阶邻居节点的特征聚合类似,在此不再赘述。其中,不同的邻居节点的归一化因子不同,特征表达向量不同,从而与权重矩阵相乘的积也不同,因此具有不同的邻居权重。
由于不同类型的路径对应的邻居节点的特征信息差异较大,同一类型的路径对应的邻居节点的特征信息较为接近,将邻居节点基于路径的类型分类后进行信息聚合,使最终得到的表示学习向量包含的信息更加丰富。
值得说明的是,特征聚合不限于以上三种方式,还可以采用其他方式进行。
在一些实施例中,可以直接将特征聚合向量作为组聚合向量进行下一步处理。在一些实施例中,也可以对特征聚合向量进行降维。降维可以进一步对特征聚合向量进行特征提取,同时使得在进行后续步骤时效率更高。
在一些实施例中,上述降维的方法可以包括但不限于:主成分分析(PrincipalComponent Analysis,PCA)、线性判别分析(Linear Discriminant Analysis,LDA)、多维尺度变换(Multidimensional scaling,MDS)、局部线性嵌入(Locally Linear Embedding,LLE)、邻接图(ISOMAP,Isometric feature mapping)以及核主成分分析(KernelPrinciple Component Analysis,KPCA)等。
步骤404,针对每一所述组聚合向量,将该待预测节点特征信息融合,得到分组融合的待预测节点信息。
在一些实施例中,待预测节点信息层可以用于对输入的待预测节点特征信息和组聚合向量进行融合,输出分组融合的待预测节点信息。
分组融合的待预测节点信息是融合了待预测节点特征信息和邻居节点特征信息的向量(即相邻节点融合向量)。
在一些实施例中,待预测节点信息层可以对待预测节点的特征信息进行向量化。在一些实施例中,可以对向量化后的待预测节点特征信息进行降维,得到待预测节点的特征向量。例如,Hu。
在一些实施例中,待预测节点特征信息的向量化和降维方法可以参见步骤402,在此不再赘述。
在一些实施例中,可以将待预测节点的特征向量分别与步骤402得到的每一个组聚合向量进行拼接,得到对应的组聚合拼接向量。例如,将Hu分别和进行拼接,得到m个组聚合拼接向量。在一些实施例中,所述拼接方法可以是直接拼接,也可以是步骤402的聚合,本实施例不做限制。
在一些实施例中,将所述分组融合的待预测节点信息输入到所述异构图神经网络模型的下一层处理。在一些实施例中,异构图神经网络模型的下一层即表示向量层。在表示向量层,可以将所述待预测节点信息融合节点注意力权重或路径注意力权重中的至少一个来得到最终的表示学习向量,例如图5所示的实施例中将节点注意力权重和路径注意力权重都进行了融合,又例如,图6中只融合了路径注意力权重。在其他实施例中,在表示向量层,也可以不融合节点注意力权重和路径注意力权重,直接基于所述待预测节点信息得到最终的表示向量。
图5是根据申请一些实施例所示的基于异构图神经网络模型进行预测方法的示例性子流程图。
在一些实施例中,表示向量层可以基于输入的待预测节点信息、节点注意力权重和路径注意力权重,输出待预测节点的表示向量。
在一些实施例中,表示向量层可以先通过待预测节点的组聚合向量和相邻节点融合向量计算节点的注意力权重向量;再基于节点的注意力权重向量和相邻节点融合向量获取对应的信息加权融合向量;然后再通过信息加权融合向量和路径的特征向量计算路径的注意力权重向量;最终由信息加权融合向量和路径的注意力权重向量得到待预测节点的表示向量。
步骤502,基于邻居节点的重要程度确定节点的注意力权重向量。
邻居节点的注意力权重向量是以各组邻居节点的重要程度为元素的向量。邻居节点的重要程度表征了对于不同的待预测节点,各组邻居节点的特征信息在计算待预测节点的表示向量过程中被利用的程度。
例如,在用户借贷风险预测时,用户交互关系类型的路径重要程度小,用户收入等级类型的路径重要程度大。
在一些实施例中,各组邻居节点的注意力权重向量可以通过待预测节点的特征向量和每组邻居节点的相邻节点融合向量确定,包括:针对每一组邻居节点的融合向量,将该相邻节点融合向量与所述待预测节点特征向量拼接,并将基于拼接得到的向量乘以预设的第三权重矩阵,得到对应于该相邻节点融合向量的所述节点的注意力权重向量。
在一些实施例中,节点的注意力权重向量可以参考步骤402中邻居权重的获取方式,在此不再赘述。
步骤504,基于节点的注意力权重向量和相邻节点融合向量获取对应的信息加权融合向量。
在一些实施例中,所述相邻节点融合向量与所述节点注意力权重向量的维度相同,且所述节点注意力权重向量的每一元素用于表征所述相邻节点融合向量相同位置的元素的重要程度。所述针对每一所述相邻节点融合向量,基于对应于该相邻节点融合向量的所述节点注意力权重向量与该相邻节点融合向量,得到对应于该相邻节点融合向量的信息加权融合向量,包括:针对每一所述相邻节点融合向量,将该相邻节点融合向量的每一元素与对应于该相邻节点融合向量的节点注意力权重向量的相同位置的元素相乘,并将得到的乘积作为所述信息加权融合向量的相同位置的元素,以得到所述信息加权融合向量。
例如,维度为1*6的相邻节点融合向量为[A1,B1,C1,D1,E1,F1],其对应的维度为1*6的节点注意力权重向量为[A2,B2,C2,D2,E2,F2],在一种可能的实施方式中,A2用于表征A1的重要程度,B2用于表征B1的重要程度,其余元素依次类推。则基于上述元素间的乘法得到的对应于该相邻节点融合向量的信息加权融合向量为[A1*A2,B1*B2,C1*C2,D1*D2,E1*E2,F1*F2]。同理,信息加权融合向量可以基于相同的方法得到。
步骤506,基于路径的重要程度确定路径的注意力权重向量。
在一些实施例中,路径的注意力权重向量是基于信息加权融合向量得到。
在一些实施例中,路径的注意力权重向量的获取方法可以参考步骤402中特征权重向量的获取。
例如,基于维度为1*6的信息加权融合向量以及维度为6*1的第四权重矩阵,得到对应于该信息加权融合向量的路径注意力权重βj。同理对于其他m个信息加权融合向量,基于上述相同的方式得到其他的路径注意力权重:β1,β2,…βm。将所有的路径注意力组合可以得到如图5所示的路径注意力权重向量βu。不同的信息加权融合向量的参数向量可以相同,参数向量可以通过对该通过实体对象数据判断实体对象类别的方法对应的模型进行训练得到。
步骤508,基于所述分组融合的待预测节点信息、所述节点的注意力权重向量和所述路径的注意力权重向量确定所述待预测节点的表示向量。
在一些实施例中,基于所述信息加权融合向量与对应于该信息加权融合向量的路径注意力权重,得到所述待预测节点的信息表示学习向量,包括:将每一所述信息加权融合向量与对应于该信息加权融合向量βu中的路径注意力权重βj相乘,并将所述相乘得到的所有向量相加得到所述信息表示学习向量eu,如:
举例来讲,经过上述步骤的计算,得到共2个信息加权融合向量 其对应的路径的注意力权重向量依次为β1,β2,则得到的信息表示学习向量eu为可直接将该信息表示学习向量eu用于相关计算例如直接输入预测模型进行计算。
由于融合了路径注意力权重,节点注意力权重,以及邻居节点与待预测节点的特征信息,因此该信息表示学习向量能表达更丰富的信息,使得后续的预测结果更准确。
如前文所述,在一些是实施例中,还可以不融合节点注意力权重,基于路径注意力权重以及待预测节点的特征信息来得到对应的表示学习向量eu,即参见图6,图6是根据本说明书另一些实施例所示的基于异构图神经网络模型进行预测方法的示例性子流程图。
步骤602和步骤604基于分组后的邻居节点得到待预测节点信息,具体描述可分别参照步骤402和404,在此不再赘述。步骤606和608分别是基于路径的重要度程度确定路径的注意力权重,以及基于上述待预测节点信息和路径的注意力权重确定待预测节点的表示学习向量eu,具体方法可参见图5中步骤506和508,在此不再赘述。
在一些实施例中,可以基于大量带有标识的训练样本对异构图网络模型和预测模型进行端到端(End-to-end)训练。所述端到端训练是指多个模型在训练过程中,按照模型对数据的处理步骤,从第一个模型的输入端输入数据,从最后一个模型的输出端得到结果,基于结果与真实值的误差对所有模型的参数进行迭代调整,直到模型满足截止条件。所述端到端的训练可以省去训练每一个独立模型所需要的训练数据,同时模型之间的训练结果不会相互影响。
具体的,在一些实施例中,可以将带有标识的训练样本输入异构图网络模型,再将异构网络模型输出的表示向量输入预测模型,基于预测模型输出值构建损失函数,通过训练同时迭代更新异构图网络模型和预测模型的参数。
在一些实施例中,训练样本可以是若干份与目标对象相关(例如,该用户的信用度;或者该用户的电影喜好类型)的异构图数据,每份异构图数据包括相关各个节点数据、相邻节点数据以及各节点间的路径信息。所述异构图数据可以基于获取的历史数据信息进行构建,例如根据获取的用户个人数据、用户对电影类型的偏好数据、对电影演员的偏好数据以及对电影导演的偏好数据等进行构建。
然后,对所述训练样本中的每一份异构图数据进行标记,所述标记数据包括每一份异构图数据中目标内容的评价结果(例如,该用户的信用度良好;或者该用户喜欢的电影类型为喜剧电影)。其中,所述评价结果也可以通过获取所述目标对象(例如,该用户)的历史评价信息来确定。
下面将基于上述带有标记的异构图数据输入异构图网络模型和预测模型进行同时训练,具体的,将所述带有样本标识的异构图数据输入异构图网络模型,将异构图网络模型输出的表示向量作为预测模型的输入数据,所述异构图数据对应的标记数据作为预测模型的输出数据,并将输入数据和输出数据输入预测模型进行训练。在训练过程中,可以基于预测模型的实际输出值构建损失函数,并通过该损失函数同时迭代更新异构图网络模型混合预测模型的参数。
在一些实施例中,异构网络模型的参数可以包括第一参数矩阵、第二参数矩阵、第一权重矩阵、第二权重矩阵等,预测模型的参数可以包括二分类模型、逻辑回归模型和神经网络模型的权重、阈值等。
在一些实施例中,当训练的模型满足迭代截止条件时,训练结束。其中,迭代截止条件可以是损失函数结果收敛或小于阈值等。
应当注意的是,上述有关流程的描述仅仅是为了示例和说明,而不限定本说明书的适用范围。对于本领域技术人员来说,在本说明书的指导下可以对流程进行各种修正和改变。然而,这些修正和改变仍在本说明书的范围之内。
本说明书实施例可能带来的有益效果包括但不限于:(1)该通过实体对象数据判断实体对象类别的方法结合了待预测节点与邻居节点的特征信息,以及节点注意力权重和路径注意力权重,充分提取了异构图中各方面的信息,使得得到的信息表示学习向量包含的信息更加丰富,进而输入预测模型的预测结果更加准确;(2)对于同一类型的路径,融合了不同的邻居节点的特征信息,有效的抽取和利用了异构图中的结构信息,使得得到的信息学习表示向量包含更丰富的语义信息。需要说明的是,不同实施例可能产生的有益效果不同,在不同的实施例里,可能产生的有益效果可以是以上任意一种或几种的组合,也可以是其他任何可能获得的有益效果。
上文已对基本概念做了描述,显然,对于本领域技术人员来说,上述详细披露仅仅作为示例,而并不构成对本说明书的限定。虽然此处并没有明确说明,本领域技术人员可能会对本说明书进行各种修改、改进和修正。该类修改、改进和修正在本说明书中被建议,所以该类修改、改进、修正仍属于本说明书示范实施例的精神和范围。
同时,本说明书使用了特定词语来描述本说明书的实施例。如“一个实施例”、“一实施例”、和/或“一些实施例”意指与本说明书至少一个实施例相关的某一特征、结构或特点。因此,应强调并注意的是,本说明书中在不同位置两次或多次提及的“一实施例”或“一个实施例”或“一个替代性实施例”并不一定是指同一实施例。此外,本说明书的一个或多个实施例中的某些特征、结构或特点可以进行适当的组合。
此外,本领域技术人员可以理解,本说明书的各方面可以通过若干具有可专利性的种类或情况进行说明和描述,包括任何新的和有用的工序、机器、产品或物质的组合,或对他们的任何新的和有用的改进。相应地,本说明书的各个方面可以完全由硬件执行、可以完全由软件(包括固件、常驻软件、微码等)执行、也可以由硬件和软件组合执行。以上硬件或软件均可被称为“数据块”、“模块”、“引擎”、“单元”、“组件”或“***”。此外,本说明书的各方面可能表现为位于一个或多个计算机可读介质中的计算机产品,该产品包括计算机可读程序编码。
计算机存储介质可能包含一个内含有计算机程序编码的传播数据信号,例如在基带上或作为载波的一部分。该传播信号可能有多种表现形式,包括电磁形式、光形式等,或合适的组合形式。计算机存储介质可以是除计算机可读存储介质之外的任何计算机可读介质,该介质可以通过连接至一个指令执行***、装置或设备以实现通讯、传播或传输供使用的程序。位于计算机存储介质上的程序编码可以通过任何合适的介质进行传播,包括无线电、电缆、光纤电缆、RF、或类似介质,或任何上述介质的组合。
本说明书各部分操作所需的计算机程序编码可以用任意一种或多种程序语言编写,包括面向对象编程语言如Java、Scala、Smalltalk、Eiffel、JADE、Emerald、C++、C#、VB.NET、Python等,常规程序化编程语言如C语言、Visual Basic、Fortran 2003、Perl、COBOL 2002、PHP、ABAP,动态编程语言如Python、Ruby和Groovy,或其他编程语言等。该程序编码可以完全在用户计算机上运行、或作为独立的软件包在用户计算机上运行、或部分在用户计算机上运行部分在远程计算机运行、或完全在远程计算机或服务器上运行。在后种情况下,远程计算机可以通过任何网络形式与用户计算机连接,比如局域网(LAN)或广域网(WAN),或连接至外部计算机(例如通过因特网),或在云计算环境中,或作为服务使用如软件即服务(SaaS)。
此外,除非权利要求中明确说明,本说明书所述处理元素和序列的顺序、数字字母的使用、或其他名称的使用,并非用于限定本说明书流程和方法的顺序。尽管上述披露中通过各种示例讨论了一些目前认为有用的发明实施例,但应当理解的是,该类细节仅起到说明的目的,附加的权利要求并不仅限于披露的实施例,相反,权利要求旨在覆盖所有符合本说明书实施例实质和范围的修正和等价组合。例如,虽然以上所描述的***组件可以通过硬件设备实现,但是也可以只通过软件的解决方案得以实现,如在现有的服务器或移动设备上安装所描述的***。
同理,应当注意的是,为了简化本说明书披露的表述,从而帮助对一个或多个发明实施例的理解,前文对本说明书实施例的描述中,有时会将多种特征归并至一个实施例、附图或对其的描述中。但是,这种披露方法并不意味着本说明书对象所需要的特征比权利要求中提及的特征多。实际上,实施例的特征要少于上述披露的单个实施例的全部特征。
一些实施例中使用了描述成分、属性数量的数字,应当理解的是,此类用于实施例描述的数字,在一些示例中使用了修饰词“大约”、“近似”或“大体上”来修饰。除非另外说明,“大约”、“近似”或“大体上”表明所述数字允许有±20%的变化。相应地,在一些实施例中,说明书和权利要求中使用的数值参数均为近似值,该近似值根据个别实施例所需特点可以发生改变。在一些实施例中,数值参数应考虑规定的有效数位并采用一般位数保留的方法。尽管本说明书一些实施例中用于确认其范围广度的数值域和参数为近似值,在具体实施例中,此类数值的设定在可行范围内尽可能精确。
针对本说明书引用的每个专利、专利申请、专利申请公开物和其他材料,如文章、书籍、说明书、出版物、文档等,特此将其全部内容并入本说明书作为参考。与本说明书内容不一致或产生冲突的申请历史文件除外,对本说明书权利要求最广范围有限制的文件(当前或之后附加于本说明书中的)也除外。需要说明的是,如果本说明书附属材料中的描述、定义、和/或术语的使用与本说明书所述内容有不一致或冲突的地方,以本说明书的描述、定义和/或术语的使用为准。
最后,应当理解的是,本说明书中所述实施例仅用以说明本说明书实施例的原则。其他的变形也可能属于本说明书的范围。因此,作为示例而非限制,本说明书实施例的替代配置可视为与本说明书的教导一致。相应地,本说明书的实施例不仅限于本说明书明确介绍和描述的实施例。
Claims (18)
1.一种基于异构图神经网络模型进行预测的方法,所述方法包括:
获取与预测内容相关的异构图数据,所述异构图数据包括待预测节点、所述待预测节点的邻居节点、以及连接所述待预测节点与所述邻居节点之间的路径,所述路径包括至少一种类型;
基于所述路径的类型,对所述邻居节点进行分组,以使得同一组的所述邻居节点的路径的类型相同;
将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量后输入训练好的预测模型进行预测。
2.如权利要求1所述的基于异构图神经网络模型进行预测的方法,所述将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量还包括:
融合节点注意力权重和/或路径注意力权重后得到所述待预测节点的表示向量。
3.如权利要求1所述的基于异构图神经网络模型进行预测的方法,所述将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量包括:
基于路径的重要程度确定路径的注意力权重;
基于所述分组融合的待预测节点信息和所述路径的注意力权重确定所述待预测节点的表示向量。
4.如权利要求3所述的基于异构图神经网络模型进行预测的方法,所述将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量还包括:
基于邻居节点的重要程度确定节点的注意力权重,基于所述分组融合的待预测节点信息、所述节点的注意力权重和所述路径的注意力权重确定所述待预测节点的表示向量。
5.如权利要求1所述的基于异构图神经网络模型进行预测的方法,所述预测内容包括预测目标对象的类别、风险等级或者偏好习惯。
6.如权利要求1所述的基于异构图神经网络模型进行预测的方法,所述训练好的异构图神经网络模型和训练好的预测模型采用如下端到端训练获得:
基于预测模型的损失函数迭代更新预测模型以及异构图神经网络模型的模型参数,直到满足迭代截止条件。
7.如权利要求6所述的方法,所述端到端训练还包括:
将若干个异构图数据作为训练数据,将对应于该异构图数据的节点正确结果作为该训练数据的标签数据,所述预测模型的参数和异构图神经网络模型的参数利用所述训练数据和所述标签数据通过训练迭代更新。
8.如权利要求1所述的基于异构图神经网络模型进行预测的方法,所述将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量包括:
根据同一组的所述邻居节点的特征信息,逐一得到对应于该组的组聚合向量;
针对每一所述组聚合向量,将该待预测节点特征信息融合,得到分组融合的待预测节点信息。
9.一种基于异构图神经网络模型进行预测的***,所述***包括:
异构图获取模块,用于获取与预测内容相关的异构图数据,所述异构图数据包括待预测节点、所述待预测节点的邻居节点、以及连接所述待预测节点与所述邻居节点之间的路径,所述路径包括至少一种类型;
分组模块,用于基于所述路径的类型,对所述邻居节点进行分组,以使得同一组的所述邻居节点的路径的类型相同;
节点预测模块,用于将所述待预测节点、分组后的所述邻居节点以及节点之间的路径输入训练好的异构图神经网络模型,得到待预测节点的表示向量后输入训练好的预测模型进行预测。
10.如权利要求9所述的基于异构图神经网络模型进行预测的***,所述节点预测模块还用于:融合节点注意力权重和/或路径注意力权重后得到所述待预测节点的表示向量。
11.如权利要求9所述的基于异构图神经网络模型进行预测的***,所述节点预测模块还用于:基于路径的重要程度确定路径的注意力权重;基于所述分组融合的待预测节点信息和所述路径的注意力权重确定所述待预测节点的表示向量。
12.如权利要求11所述的基于异构图神经网络模型进行预测的***,所述节点预测模块还用于:
基于邻居节点的重要程度确定节点的注意力权重,基于所述分组融合的待预测节点信息、所述节点的注意力权重和所述路径的注意力权重确定所述待预测节点的表示向量。
13.如权利要求9所述的基于异构图神经网络模型进行预测的***,所述预测内容包括预测目标对象的类别、风险等级或者偏好习惯。
14.如权利要求9所述的基于异构图神经网络模型进行预测的***,所述***还包括模型训练模块,用于采用如下端到端训练获得训练好的异构图神经网络模型和训练好的预测模型:
基于预测模型的损失函数迭代更新预测模型以及异构图神经网络模型的模型参数,直到满足迭代截止条件。
15.如权利要求14所述的基于异构图神经网络模型进行预测的***,所述模型训练模块还用于:
将若干个异构图数据作为训练数据,将对应于该异构图数据的节点正确结果作为该训练数据的标签数据,所述预测模型的参数和异构图神经网络模型的参数利用所述训练数据和所述标签数据通过训练迭代更新。
16.如权利要求8所述的基于异构图神经网络模型进行预测的***,所述节点预测模块还用于:
根据同一组的所述邻居节点的特征信息,逐一得到对应于该组的组聚合向量;
针对每一所述组聚合向量,将该待预测节点特征信息融合,得到分组融合的待预测节点信息。
17.一种基于异构图神经网络模型进行预测的装置,包括处理器,其中,所述处理器用于执行如权利要求1~8任一项所述的基于异构图神经网络模型进行预测的方法。
18.一种计算机可读存储介质,所述存储介质存储计算机指令,当计算机读取存储介质中的计算机指令后,计算机执行如权利要求1~8任一项所述的基于异构图神经网络模型进行预测的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010162355.6A CN111400560A (zh) | 2020-03-10 | 2020-03-10 | 一种基于异构图神经网络模型进行预测的方法和*** |
PCT/CN2021/074479 WO2021179838A1 (zh) | 2020-03-10 | 2021-01-29 | 一种基于异构图神经网络模型进行预测的方法和*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010162355.6A CN111400560A (zh) | 2020-03-10 | 2020-03-10 | 一种基于异构图神经网络模型进行预测的方法和*** |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111400560A true CN111400560A (zh) | 2020-07-10 |
Family
ID=71434461
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010162355.6A Pending CN111400560A (zh) | 2020-03-10 | 2020-03-10 | 一种基于异构图神经网络模型进行预测的方法和*** |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111400560A (zh) |
WO (1) | WO2021179838A1 (zh) |
Cited By (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111861178A (zh) * | 2020-07-13 | 2020-10-30 | 北京嘀嘀无限科技发展有限公司 | 服务匹配模型的训练方法、服务匹配方法、设备及介质 |
CN112017784A (zh) * | 2020-10-22 | 2020-12-01 | 平安科技(深圳)有限公司 | 一种基于多模态数据的冠心病风险预测方法及相关设备 |
CN112036418A (zh) * | 2020-09-04 | 2020-12-04 | 京东数字科技控股股份有限公司 | 用于提取用户特征的方法和装置 |
CN112037038A (zh) * | 2020-09-02 | 2020-12-04 | 中国银行股份有限公司 | 银行信贷风险预测方法及装置 |
CN112035669A (zh) * | 2020-09-09 | 2020-12-04 | 中国科学技术大学 | 基于传播异质图建模的社交媒体多模态谣言检测方法 |
CN112070216A (zh) * | 2020-09-29 | 2020-12-11 | 支付宝(杭州)信息技术有限公司 | 一种基于图计算***训练图神经网络模型的方法及*** |
CN112085172A (zh) * | 2020-09-16 | 2020-12-15 | 支付宝(杭州)信息技术有限公司 | 图神经网络的训练方法及装置 |
CN112257959A (zh) * | 2020-11-12 | 2021-01-22 | 上海优扬新媒信息技术有限公司 | 用户风险预测方法、装置、电子设备及存储介质 |
CN112257806A (zh) * | 2020-10-30 | 2021-01-22 | 福建师范大学 | 一种面向异构用户的迁移学习方法 |
CN112529302A (zh) * | 2020-12-15 | 2021-03-19 | 中国人民大学 | 专利申请授权成功率的预测方法、***及电子设备 |
CN112561688A (zh) * | 2020-12-21 | 2021-03-26 | 第四范式(北京)技术有限公司 | 基于图嵌入的***逾期预测方法、装置及电子设备 |
CN112861967A (zh) * | 2021-02-07 | 2021-05-28 | 中国电子科技集团公司电子科学研究院 | 基于异构图神经网络的社交网络异常用户检测方法及设备 |
CN113010687A (zh) * | 2021-03-03 | 2021-06-22 | 广州视源电子科技股份有限公司 | 一种习题标签预测方法、装置、存储介质以及计算机设备 |
CN113065950A (zh) * | 2021-04-22 | 2021-07-02 | 中国工商银行股份有限公司 | ***额度评估方法及装置 |
CN113095592A (zh) * | 2021-04-30 | 2021-07-09 | 第四范式(北京)技术有限公司 | 基于gnn执行预测的方法和***以及训练方法和*** |
CN113191565A (zh) * | 2021-05-18 | 2021-07-30 | 同盾科技有限公司 | 安全性预测方法及装置、介质、设备 |
CN113239875A (zh) * | 2021-06-01 | 2021-08-10 | 恒睿(重庆)人工智能技术研究院有限公司 | 人脸特征的获取方法、***、装置及计算机可读存储介质 |
CN113298221A (zh) * | 2021-04-26 | 2021-08-24 | 上海淇玥信息技术有限公司 | 基于逻辑回归和图神经网络的用户风险预测方法及装置 |
WO2021179838A1 (zh) * | 2020-03-10 | 2021-09-16 | 支付宝(杭州)信息技术有限公司 | 一种基于异构图神经网络模型进行预测的方法和*** |
CN114063459A (zh) * | 2020-08-10 | 2022-02-18 | 青岛海信电子产业控股股份有限公司 | 一种终端和智能家居控制方法 |
WO2022036494A1 (en) * | 2020-08-17 | 2022-02-24 | Huawei Technologies Co., Ltd. | Graph structure aware incremental learning for recommender system |
CN114186069A (zh) * | 2021-11-29 | 2022-03-15 | 江苏大学 | 基于多模态异构图注意力网络的深度视频理解知识图谱构建方法 |
CN114186799A (zh) * | 2021-11-21 | 2022-03-15 | 南京理工大学 | 基于异构图神经网络的企业估值方法及*** |
WO2022066587A1 (en) * | 2020-09-22 | 2022-03-31 | Visa International Service Association | Graph learning-based system with updated vectors |
CN114895985A (zh) * | 2022-06-08 | 2022-08-12 | 华东师范大学 | 一种面向基于采样的图神经网络训练的数据加载*** |
CN115455438A (zh) * | 2022-11-09 | 2022-12-09 | 南昌航空大学 | 一种程序切片漏洞检测方法、***、计算机及存储介质 |
CN116094827A (zh) * | 2023-01-18 | 2023-05-09 | 支付宝(杭州)信息技术有限公司 | 基于拓扑增强的安全风险鉴别方法与*** |
CN116127204A (zh) * | 2023-04-17 | 2023-05-16 | 中国科学技术大学 | 多视角用户画像方法、多视角用户画像***、设备和介质 |
WO2023087914A1 (zh) * | 2021-11-19 | 2023-05-25 | 腾讯科技(深圳)有限公司 | 推荐内容的选择方法、装置、设备、存储介质及程序产品 |
CN116305461A (zh) * | 2023-03-13 | 2023-06-23 | 清华大学 | 结构响应计算方法、装置、电子设备及存储介质 |
CN116757262A (zh) * | 2023-08-16 | 2023-09-15 | 苏州浪潮智能科技有限公司 | 图神经网络的训练方法、分类方法、装置、设备及介质 |
CN117591755A (zh) * | 2024-01-18 | 2024-02-23 | 杭州海康威视数字技术股份有限公司 | 动态异构网络潜在异常关系预测方法及装置 |
CN117648197A (zh) * | 2024-01-30 | 2024-03-05 | 西安电子科技大学 | 基于对抗学习与异构图学习的序列化微服务资源预测方法 |
CN117994007A (zh) * | 2024-04-03 | 2024-05-07 | 山东科技大学 | 一种基于多视图融合异质图神经网络的社交推荐方法 |
Families Citing this family (38)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113744882B (zh) * | 2021-09-17 | 2023-09-19 | 腾讯科技(深圳)有限公司 | 目标区域的确定方法、装置、设备以及存储介质 |
CN113656604B (zh) * | 2021-10-19 | 2022-02-22 | 之江实验室 | 基于异构图神经网络的医疗术语规范化***及方法 |
CN114329099B (zh) * | 2021-11-22 | 2023-07-07 | 腾讯科技(深圳)有限公司 | 重叠社区识别方法、装置、设备、存储介质及程序产品 |
CN114066081B (zh) * | 2021-11-23 | 2022-04-26 | 北京恒通慧源大数据技术有限公司 | 基于图注意力网络的企业风险预测方法、装置和电子设备 |
CN114168804B (zh) * | 2021-12-17 | 2022-06-10 | 中国科学院自动化研究所 | 一种基于异质子图神经网络的相似信息检索方法和*** |
CN114399028B (zh) * | 2022-01-14 | 2023-04-18 | 马上消费金融股份有限公司 | 信息处理方法、图卷积神经网络训练方法及电子设备 |
CN114528479B (zh) * | 2022-01-20 | 2023-03-21 | 华南理工大学 | 一种基于多尺度异构图嵌入算法的事件检测方法 |
CN114565053B (zh) * | 2022-03-10 | 2023-05-19 | 天津大学 | 基于特征融合的深层异质图嵌入模型 |
CN114398462B (zh) * | 2022-03-24 | 2022-08-09 | 之江实验室 | 一种基于多源异构信息网络的目的地推荐方法及*** |
CN114826963B (zh) * | 2022-03-31 | 2023-07-14 | 鹏城实验室 | 一种基于设备行为的物联网设备检测方法及*** |
CN117033992A (zh) * | 2022-04-28 | 2023-11-10 | 华为技术有限公司 | 一种分类模型的训练方法及装置 |
CN114780867B (zh) * | 2022-05-10 | 2023-11-03 | 杭州网易云音乐科技有限公司 | 推荐方法、介质、装置和计算设备 |
CN115118451B (zh) * | 2022-05-17 | 2023-09-08 | 北京理工大学 | 结合图嵌入知识建模的网络入侵检测方法 |
CN114900364B (zh) * | 2022-05-18 | 2024-03-08 | 桂林电子科技大学 | 基于溯源图和异构图神经网络的高级持续威胁检测方法 |
CN114660993B (zh) * | 2022-05-25 | 2022-08-19 | 中科航迈数控软件(深圳)有限公司 | 一种基于多源异构数据特征降维的数控机床故障预测方法 |
CN114971884A (zh) * | 2022-06-28 | 2022-08-30 | 成都秦川物联网科技股份有限公司 | 一种基于物联网的智慧城市贷款风险评估方法和*** |
CN114863685B (zh) * | 2022-07-06 | 2022-09-27 | 北京理工大学 | 一种基于风险接受程度的交通参与者轨迹预测方法及*** |
CN115221976B (zh) * | 2022-08-18 | 2024-05-24 | 抖音视界有限公司 | 一种基于图神经网络的模型训练方法及装置 |
CN115130663B (zh) * | 2022-08-30 | 2023-10-13 | 中国海洋大学 | 基于图神经网络和注意力机制的异质网络属性补全方法 |
CN115660147A (zh) * | 2022-09-26 | 2023-01-31 | 哈尔滨工业大学 | 一种基于传播路径间与传播路径内影响力建模的信息传播预测方法及*** |
CN115660688B (zh) * | 2022-10-24 | 2024-04-30 | 西南财经大学 | 金融交易异常检测方法及其跨区域可持续训练方法 |
CN115713986B (zh) * | 2022-11-11 | 2023-07-11 | 中南大学 | 基于注意力机制的材料晶体属性预测方法 |
CN115983148B (zh) * | 2022-12-13 | 2024-04-12 | 北京景行锐创软件有限公司 | 一种cfd仿真云图预测方法、***、电子设备及介质 |
CN116109381B (zh) * | 2023-01-10 | 2023-09-29 | 深圳峰涛科技有限公司 | 电商平台数据处理方法及*** |
CN116305995B (zh) * | 2023-03-27 | 2023-11-07 | 清华大学 | 结构体系的非线性分析方法及装置、设备及介质 |
CN116383446A (zh) * | 2023-04-06 | 2023-07-04 | 哈尔滨工程大学 | 一种基于异构引文网络的作者分类方法 |
CN116578915B (zh) * | 2023-04-11 | 2024-06-11 | 广州极点三维信息科技有限公司 | 一种基于图神经网络的结构化户型解析方法和*** |
CN116523118A (zh) * | 2023-04-13 | 2023-08-01 | 苏州大学 | 基于异构图神经网络的多源信息传播预测方法及*** |
CN116561688B (zh) * | 2023-05-09 | 2024-03-22 | 浙江大学 | 基于动态图异常检测的新兴技术识别方法 |
CN116578884B (zh) * | 2023-07-07 | 2023-10-31 | 北京邮电大学 | 基于异质信息网络表示学习的科研团队识别方法及装置 |
CN116595157B (zh) * | 2023-07-17 | 2023-09-19 | 江西财经大学 | 基于用户意图融合的动态兴趣转移型会话推荐方法与*** |
CN117151279A (zh) * | 2023-08-15 | 2023-12-01 | 哈尔滨工业大学 | 一种基于线图神经网络的同构网络链路预测方法及*** |
CN117038105B (zh) * | 2023-10-08 | 2023-12-15 | 武汉纺织大学 | 一种基于信息增强图神经网络的药物重定位方法及*** |
CN117218459B (zh) * | 2023-11-08 | 2024-01-26 | 支付宝(杭州)信息技术有限公司 | 一种分布式节点分类方法及装置 |
CN117493490B (zh) * | 2023-11-17 | 2024-05-14 | 南京信息工程大学 | 基于异构多关系图的话题检测方法、装置、设备及介质 |
CN117421671B (zh) * | 2023-12-18 | 2024-03-05 | 南开大学 | 面向引文网络的频率自适应静态异质图节点分类方法 |
CN117828514B (zh) * | 2024-03-04 | 2024-05-03 | 清华大学深圳国际研究生院 | 一种基于图结构学习的用户网络行为数据异常检测方法 |
CN117976139A (zh) * | 2024-03-29 | 2024-05-03 | 武汉纺织大学 | 一种基于纠偏机制和对比学习的药物重定位方法及*** |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109767008A (zh) * | 2019-01-07 | 2019-05-17 | 武汉大学 | 一种基于元模式的高度异构网络多态特征学习方法 |
CN110598130A (zh) * | 2019-09-30 | 2019-12-20 | 重庆邮电大学 | 一种融合异构信息网络和深度学习的电影推荐方法 |
CN110677284A (zh) * | 2019-09-24 | 2020-01-10 | 北京工商大学 | 一种基于元路径的异构网络链路预测的方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10264048B2 (en) * | 2016-02-23 | 2019-04-16 | Microsoft Technology Licensing, Llc | Graph framework using heterogeneous social networks |
CN107145527A (zh) * | 2017-04-14 | 2017-09-08 | 东南大学 | 对齐异构社交网络中基于元路径的链路预测方法 |
CN107491540A (zh) * | 2017-08-24 | 2017-12-19 | 济南浚达信息技术有限公司 | 一种结合深度贝叶斯模型和协同异构信息嵌入的电影推荐方法 |
CN107944629B (zh) * | 2017-11-30 | 2020-08-07 | 北京邮电大学 | 一种基于异质信息网络表示的推荐方法及装置 |
CN110569437B (zh) * | 2019-09-05 | 2022-03-04 | 腾讯科技(深圳)有限公司 | 点击概率预测、页面内容推荐方法和装置 |
CN110851662B (zh) * | 2019-11-05 | 2023-08-11 | 中国人民解放军国防科技大学 | 基于元路径的异质信息网络链路预测方法 |
CN111400560A (zh) * | 2020-03-10 | 2020-07-10 | 支付宝(杭州)信息技术有限公司 | 一种基于异构图神经网络模型进行预测的方法和*** |
-
2020
- 2020-03-10 CN CN202010162355.6A patent/CN111400560A/zh active Pending
-
2021
- 2021-01-29 WO PCT/CN2021/074479 patent/WO2021179838A1/zh active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109767008A (zh) * | 2019-01-07 | 2019-05-17 | 武汉大学 | 一种基于元模式的高度异构网络多态特征学习方法 |
CN110677284A (zh) * | 2019-09-24 | 2020-01-10 | 北京工商大学 | 一种基于元路径的异构网络链路预测的方法 |
CN110598130A (zh) * | 2019-09-30 | 2019-12-20 | 重庆邮电大学 | 一种融合异构信息网络和深度学习的电影推荐方法 |
Cited By (51)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021179838A1 (zh) * | 2020-03-10 | 2021-09-16 | 支付宝(杭州)信息技术有限公司 | 一种基于异构图神经网络模型进行预测的方法和*** |
CN111861178A (zh) * | 2020-07-13 | 2020-10-30 | 北京嘀嘀无限科技发展有限公司 | 服务匹配模型的训练方法、服务匹配方法、设备及介质 |
CN111861178B (zh) * | 2020-07-13 | 2024-06-07 | 北京嘀嘀无限科技发展有限公司 | 服务匹配模型的训练方法、服务匹配方法、设备及介质 |
CN114063459B (zh) * | 2020-08-10 | 2024-03-15 | 海信集团控股股份有限公司 | 一种终端和智能家居控制方法 |
CN114063459A (zh) * | 2020-08-10 | 2022-02-18 | 青岛海信电子产业控股股份有限公司 | 一种终端和智能家居控制方法 |
WO2022036494A1 (en) * | 2020-08-17 | 2022-02-24 | Huawei Technologies Co., Ltd. | Graph structure aware incremental learning for recommender system |
CN112037038A (zh) * | 2020-09-02 | 2020-12-04 | 中国银行股份有限公司 | 银行信贷风险预测方法及装置 |
CN112037038B (zh) * | 2020-09-02 | 2024-05-28 | 中国银行股份有限公司 | 银行信贷风险预测方法及装置 |
CN112036418A (zh) * | 2020-09-04 | 2020-12-04 | 京东数字科技控股股份有限公司 | 用于提取用户特征的方法和装置 |
CN112035669A (zh) * | 2020-09-09 | 2020-12-04 | 中国科学技术大学 | 基于传播异质图建模的社交媒体多模态谣言检测方法 |
CN112085172A (zh) * | 2020-09-16 | 2020-12-15 | 支付宝(杭州)信息技术有限公司 | 图神经网络的训练方法及装置 |
CN112085172B (zh) * | 2020-09-16 | 2022-09-16 | 支付宝(杭州)信息技术有限公司 | 图神经网络的训练方法及装置 |
WO2022066587A1 (en) * | 2020-09-22 | 2022-03-31 | Visa International Service Association | Graph learning-based system with updated vectors |
CN112070216A (zh) * | 2020-09-29 | 2020-12-11 | 支付宝(杭州)信息技术有限公司 | 一种基于图计算***训练图神经网络模型的方法及*** |
CN112070216B (zh) * | 2020-09-29 | 2023-06-02 | 支付宝(杭州)信息技术有限公司 | 一种基于图计算***训练图神经网络模型的方法及*** |
CN112017784A (zh) * | 2020-10-22 | 2020-12-01 | 平安科技(深圳)有限公司 | 一种基于多模态数据的冠心病风险预测方法及相关设备 |
CN112257806B (zh) * | 2020-10-30 | 2023-06-20 | 福建师范大学 | 一种面向异构用户的迁移学习方法 |
CN112257806A (zh) * | 2020-10-30 | 2021-01-22 | 福建师范大学 | 一种面向异构用户的迁移学习方法 |
CN112257959A (zh) * | 2020-11-12 | 2021-01-22 | 上海优扬新媒信息技术有限公司 | 用户风险预测方法、装置、电子设备及存储介质 |
CN112529302A (zh) * | 2020-12-15 | 2021-03-19 | 中国人民大学 | 专利申请授权成功率的预测方法、***及电子设备 |
CN112561688A (zh) * | 2020-12-21 | 2021-03-26 | 第四范式(北京)技术有限公司 | 基于图嵌入的***逾期预测方法、装置及电子设备 |
CN112861967A (zh) * | 2021-02-07 | 2021-05-28 | 中国电子科技集团公司电子科学研究院 | 基于异构图神经网络的社交网络异常用户检测方法及设备 |
CN113010687A (zh) * | 2021-03-03 | 2021-06-22 | 广州视源电子科技股份有限公司 | 一种习题标签预测方法、装置、存储介质以及计算机设备 |
CN113065950A (zh) * | 2021-04-22 | 2021-07-02 | 中国工商银行股份有限公司 | ***额度评估方法及装置 |
CN113298221A (zh) * | 2021-04-26 | 2021-08-24 | 上海淇玥信息技术有限公司 | 基于逻辑回归和图神经网络的用户风险预测方法及装置 |
CN113298221B (zh) * | 2021-04-26 | 2023-08-22 | 上海淇玥信息技术有限公司 | 基于逻辑回归和图神经网络的用户风险预测方法及装置 |
CN113095592A (zh) * | 2021-04-30 | 2021-07-09 | 第四范式(北京)技术有限公司 | 基于gnn执行预测的方法和***以及训练方法和*** |
CN113191565A (zh) * | 2021-05-18 | 2021-07-30 | 同盾科技有限公司 | 安全性预测方法及装置、介质、设备 |
CN113191565B (zh) * | 2021-05-18 | 2023-04-07 | 同盾科技有限公司 | 安全性预测方法及装置、介质、设备 |
CN113239875B (zh) * | 2021-06-01 | 2023-10-17 | 恒睿(重庆)人工智能技术研究院有限公司 | 人脸特征的获取方法、***、装置及计算机可读存储介质 |
CN113239875A (zh) * | 2021-06-01 | 2021-08-10 | 恒睿(重庆)人工智能技术研究院有限公司 | 人脸特征的获取方法、***、装置及计算机可读存储介质 |
WO2023087914A1 (zh) * | 2021-11-19 | 2023-05-25 | 腾讯科技(深圳)有限公司 | 推荐内容的选择方法、装置、设备、存储介质及程序产品 |
CN114186799A (zh) * | 2021-11-21 | 2022-03-15 | 南京理工大学 | 基于异构图神经网络的企业估值方法及*** |
CN114186069B (zh) * | 2021-11-29 | 2023-09-29 | 江苏大学 | 基于多模态异构图注意力网络的深度视频理解知识图谱构建方法 |
CN114186069A (zh) * | 2021-11-29 | 2022-03-15 | 江苏大学 | 基于多模态异构图注意力网络的深度视频理解知识图谱构建方法 |
CN114895985B (zh) * | 2022-06-08 | 2023-06-09 | 华东师范大学 | 一种面向基于采样的图神经网络训练的数据加载*** |
CN114895985A (zh) * | 2022-06-08 | 2022-08-12 | 华东师范大学 | 一种面向基于采样的图神经网络训练的数据加载*** |
CN115455438B (zh) * | 2022-11-09 | 2023-02-07 | 南昌航空大学 | 一种程序切片漏洞检测方法、***、计算机及存储介质 |
CN115455438A (zh) * | 2022-11-09 | 2022-12-09 | 南昌航空大学 | 一种程序切片漏洞检测方法、***、计算机及存储介质 |
CN116094827A (zh) * | 2023-01-18 | 2023-05-09 | 支付宝(杭州)信息技术有限公司 | 基于拓扑增强的安全风险鉴别方法与*** |
CN116305461A (zh) * | 2023-03-13 | 2023-06-23 | 清华大学 | 结构响应计算方法、装置、电子设备及存储介质 |
CN116305461B (zh) * | 2023-03-13 | 2023-10-13 | 清华大学 | 结构响应计算方法、装置、电子设备及存储介质 |
CN116127204A (zh) * | 2023-04-17 | 2023-05-16 | 中国科学技术大学 | 多视角用户画像方法、多视角用户画像***、设备和介质 |
CN116127204B (zh) * | 2023-04-17 | 2023-07-18 | 中国科学技术大学 | 多视角用户画像方法、多视角用户画像***、设备和介质 |
CN116757262B (zh) * | 2023-08-16 | 2024-01-12 | 苏州浪潮智能科技有限公司 | 图神经网络的训练方法、分类方法、装置、设备及介质 |
CN116757262A (zh) * | 2023-08-16 | 2023-09-15 | 苏州浪潮智能科技有限公司 | 图神经网络的训练方法、分类方法、装置、设备及介质 |
CN117591755A (zh) * | 2024-01-18 | 2024-02-23 | 杭州海康威视数字技术股份有限公司 | 动态异构网络潜在异常关系预测方法及装置 |
CN117591755B (zh) * | 2024-01-18 | 2024-06-14 | 杭州海康威视数字技术股份有限公司 | 动态异构网络潜在异常关系预测方法及装置 |
CN117648197A (zh) * | 2024-01-30 | 2024-03-05 | 西安电子科技大学 | 基于对抗学习与异构图学习的序列化微服务资源预测方法 |
CN117648197B (zh) * | 2024-01-30 | 2024-05-03 | 西安电子科技大学 | 基于对抗学习与异构图学习的序列化微服务资源预测方法 |
CN117994007A (zh) * | 2024-04-03 | 2024-05-07 | 山东科技大学 | 一种基于多视图融合异质图神经网络的社交推荐方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2021179838A1 (zh) | 2021-09-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111400560A (zh) | 一种基于异构图神经网络模型进行预测的方法和*** | |
Pyo et al. | Predictability of machine learning techniques to forecast the trends of market index prices: Hypothesis testing for the Korean stock markets | |
Zhang et al. | Three-way recommender systems based on random forests | |
CN110717098B (zh) | 基于元路径的上下文感知用户建模方法、序列推荐方法 | |
US10354184B1 (en) | Joint modeling of user behavior | |
CN107766547A (zh) | 电子书推荐方法、电子设备及计算机存储介质 | |
CN112163963B (zh) | 业务推荐方法、装置、计算机设备和存储介质 | |
Jahedpari et al. | Online prediction via continuous artificial prediction markets | |
Pan et al. | Collaborative recommendation with multiclass preference context | |
CN111797320A (zh) | 数据处理方法、装置、设备及存储介质 | |
Xia et al. | Modeling consumer buying decision for recommendation based on multi-task deep learning | |
CN112347361A (zh) | 推荐对象的方法、神经网络及其训练方法、设备和介质 | |
Khan et al. | A study on relationship between prediction uncertainty and robustness to noisy data | |
Manimurugan et al. | A user-based video recommendation approach using CAC filtering, PCA with LDOS-CoMoDa | |
KR102601446B1 (ko) | 인공지능 모델을 활용한 인플루언서 기반 판매 제품매칭 플랫폼 서비스 제공 방법, 장치 및 시스템 | |
Liu et al. | [Retracted] Deep Learning and Collaborative Filtering‐Based Methods for Students’ Performance Prediction and Course Recommendation | |
US10997500B1 (en) | Neural network with re-ranking using engagement metrics | |
CN117056595A (zh) | 一种交互式的项目推荐方法、装置及计算机可读存储介质 | |
Alabdulrahman et al. | Active learning and deep learning for the cold-start problem in recommendation system: A comparative study | |
Padhye et al. | Proximal policy optimization based hybrid recommender systems for large scale recommendations | |
Sadeghi et al. | An improved method multi-view group recommender system (IMVGRS) | |
Blanco-Mesa et al. | New aggregation methods for decision-making in the selection of business opportunities | |
Albert et al. | Fidelity Homogenous Genesis Recommendation Model for User Trust with Item Ratings | |
KR102612805B1 (ko) | 기업 정보에 따른 인공지능 모델 기반 매체 큐레이션 서비스 제공 방법, 장치 및 시스템 | |
KR102637198B1 (ko) | 인공지능 모델 제작 플랫폼을 통한 인공지능 모델 공유, 대여 및 판매방법, 장치 및 컴퓨터프로그램 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200710 |