CN113239232B - 图神经网络推荐***、方法、装置、电子设备及存储介质 - Google Patents
图神经网络推荐***、方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113239232B CN113239232B CN202110535624.3A CN202110535624A CN113239232B CN 113239232 B CN113239232 B CN 113239232B CN 202110535624 A CN202110535624 A CN 202110535624A CN 113239232 B CN113239232 B CN 113239232B
- Authority
- CN
- China
- Prior art keywords
- graph
- model
- neural network
- recommendation
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 120
- 238000000034 method Methods 0.000 title claims abstract description 56
- 238000003062 neural network model Methods 0.000 claims abstract description 60
- 238000012549 training Methods 0.000 claims description 74
- 238000005070 sampling Methods 0.000 claims description 64
- 230000008569 process Effects 0.000 claims description 18
- 238000004891 communication Methods 0.000 claims description 15
- 230000007246 mechanism Effects 0.000 claims description 7
- 230000001360 synchronised effect Effects 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 14
- 238000012545 processing Methods 0.000 description 12
- 230000008859 change Effects 0.000 description 9
- 238000004590 computer program Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000003993 interaction Effects 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 230000000712 assembly Effects 0.000 description 2
- 238000000429 assembly Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
- G06F16/73—Querying
- G06F16/735—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开关于一种图神经网络推荐***、方法、装置、电子设备及存储介质。该图神经网络推荐***，包括：异构图存储器，用于存储异构图；其中，异构图用于记录用户和视频之间的关联关系；模型存储器，用于存储图神经网络模型；模型训练器，用于从异构图存储器中获取与样本数据对应的目标异构图，并从模型存储器中获取与目标异构图对应的图神经网络模型；样本数据用于记录预先确定的样本用户或样本视频的信息；模型训练器，采用目标异构图，对图神经网络模型进行训练，得到图神经网络推荐模型，并存储图神经网络推荐模型至模型存储器；其中，图神经网络推荐模型用于推荐用户或视频。从而，通过该图神经网络推荐***，能解决根据异构图进行推荐的问题。
Description
技术领域
本公开涉及图神经网络技术领域，尤其涉及一种图神经网络推荐***、方法、装置、电子设备及存储介质。
背景技术
随着互联网技术的不断发展，出现了大量的可用于分析的数据，这些数据形成一张动态的关系图。对不断变化的动态图中的异构图进行分析和研究，能够提供更好的推荐效果。
然而，如何大量的异构图进行推荐，是一项亟待解决的问题。
发明内容
本公开提供一种图神经网络推荐***、方法、装置、电子设备及存储介质，以至少解决相关技术中如何根据异构图进行推荐的问题。本公开的技术方案如下：
根据本公开实施例的第一方面，提供一种图神经网络推荐***，包括：
异构图存储器，用于存储异构图；其中，所述异构图用于记录用户和视频之间的关联关系；
模型存储器，用于存储图神经网络模型；
模型训练器，用于从所述异构图存储器中获取与样本数据对应的目标异构图，并从所述模型存储器中获取与所述目标异构图对应的图神经网络模型；其中，所述样本数据用于记录预先确定的样本用户或样本视频的信息；
所述模型训练器，采用所述目标异构图，对所述图神经网络模型进行训练，得到图神经网络推荐模型，并存储所述图神经网络推荐模型至所述模型存储器；其中，所述图神经网络推荐模型用于推荐用户或视频。
在一示例性实施例中，所述图神经网络***还包括业务推荐器；
所述业务推荐器，用于调用所述模型存储器中的图神经网络推荐模型；
所述业务推荐器，用于将推荐目标的信息输入所述图神经网络推荐模型，得到所述图神经网络推荐模型输出的用户或视频的信息，并将所述用户或视频的信息推荐至所述推荐目标；
其中，所述推荐目标为存在推荐需求的用户或视频；若所述推荐目标为存在推荐需求的用户，则通过所述推荐模型输出相应的视频的信息；若所述推荐目标为存在推荐需求的视频，则通过所述推荐模型输出相应的用户的信息。
在一示例性实施例中，所述异构图存储器，还用于按照所述异构图的边表长度所匹配到的频段，对所述异构图进行划分，得到至少一个预设频段的异构图；其中，所述预设频段为基于所述异构图的出现频率形成的频率范围，一个预设频段对应一个采样结构，所述采样结构包括采样方法和所述采样方法对应的参数；
所述异构图存储器，还用于根据每一所述预设频段的异构图，采用所述预设频段对应的采样结构进行采样，得到所述采样结构对应的异构图。
在一示例性实施例中，所述模型存储器中的图神经网络模型为预设的图神经网络模型，和/或，通过预设的应用程序接口配置的图神经网络模型。
在一示例性实施例中，所述模型训练器，还用于通过预设的通讯接口，从所述异构图存储器中获取所述目标异构图；
或，所述模型训练器，采用配置的采样结构，从所述异构图存储器中获取所述目标异构图；其中，所述配置的采样结构为通过插件机制动态更新的采样结构。
在一示例性实施例中，所述模型训练器，还用于对所述异构图的更新状态进行检测；
若所述更新状态为异步更新，则将从所述异构图存储器获取异构图的速度限制在预设范围；
若所述更新状态为同步更新，则对所述异构图的获取请求进行合并，并采用合并后的获取请求对所述异构图存储器中的异构图进行更新。
在一示例性实施例中，所述图神经网络***还包括业务推荐器；
所述模型训练器，还用于导出训练数据至所述业务推荐器；其中，所述训练数据为训练所述图神经网络模型的过程中产生的数据。
根据本公开实施例的第二方面，提供一种图神经网络推荐方法，包括：
获取图神经网络推荐模型；其中，所述图神经网络推荐模型为对与目标异构图对应的图神经网络模型进行训练得到的，所述目标异构图为从预设的异构图集合中获取到的与样本数据对应的异构图；
将推荐目标的信息输入所述图神经网络推荐模型，得到所述图神经网络推荐模型输出的用户或视频的信息，并将所述用户或视频的信息推荐至所述推荐目标；
其中，所述推荐目标为存在推荐需求的用户或视频；若所述推荐目标为存在推荐需求的用户，则通过所述推荐模型输出相应的视频的信息；若所述推荐目标为存在推荐需求的视频，则通过所述推荐模型输出相应的用户的信息。
根据本公开实施例的第三方面，提供一种图神经网络推荐装置，包括：
模型获取单元，被配置为执行获取图神经网络推荐模型；其中，所述图神经网络推荐模型为对与目标异构图对应的图神经网络模型进行训练得到的，所述目标异构图为从预设的异构图集合中获取到的与样本数据对应的异构图；
目标推荐单元，被配置为执行将推荐目标的信息输入所述图神经网络推荐模型，得到所述图神经网络推荐模型输出的用户或视频的信息，并将所述用户或视频的信息推荐至所述推荐目标；
其中，所述推荐目标为存在推荐需求的用户或视频；若所述推荐目标为存在推荐需求的用户，则通过所述推荐模型输出相应的视频的信息；若所述推荐目标为存在推荐需求的视频，则通过所述推荐模型输出相应的用户的信息。
根据本公开实施例的第四方面，提供一种电子设备，包括：
处理器；
用于存储所述处理器可执行指令的存储器；
其中，所述处理器被配置为执行所述指令，以实现上述第二方面所述的图神经网络推荐方法。
根据本公开实施例的第五方面，提供一种存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得所述电子设备能够执行上述第二方面所述的图神经网络推荐方法。
根据本公开实施例的第六方面，提供一种计算机程序产品，所述程序产品包括计算机程序，所述计算机程序存储在可读存储介质中，设备的至少一个处理器从所述可读存储介质读取并执行所述计算机程序，使得设备执行上述第二方面所述的图神经网络推荐方法。
本公开的实施例提供的技术方案至少带来以下有益效果：
通过模型训练器，从异构图存储器中获取与样本数据对应的目标异构图，并从模型存储器中获取与目标异构图对应的图神经网络模型。接着，采用目标异构图，对图神经网络模型进行训练，得到图神经网络推荐模型，并存储图神经网络推荐模型至模型存储器，通过图神经网络推荐模型对用户或视频进行推荐。因此，通过该图神经网络推荐***，能解决根据异构图进行推荐的问题。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理，并不构成对本公开的不当限定。
图1是根据一示例性实施例示出的一种图神经网络推荐***的示意图。
图2是根据一示例性实施例示出的非实时训练示意图。
图3是根据一示例性实施例示出的实时训练示意图。
图4是根据一示例性实施例示出的一种图神经网络推荐方法的流程图。
图5是根据一示例性实施例示出的一种图神经网络推荐装置框图。
图6是根据一示例性实施例示出的一种图神经网络推荐设备的框图。
具体实施方式
为了使本领域普通人员更好地理解本公开的技术方案，下面将结合附图，对本公开实施例中的技术方案进行清楚、完整地描述。
需要说明的是，本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
图1是根据一示例性实施例示出的一种图神经网络推荐***的示意图，如图1所示，该图神经网络推荐***包括：
异构图存储器，用于存储异构图；其中，异构图用于记录用户和视频之间的关联关系；
模型存储器，用于存储图神经网络模型；
模型训练器，用于从异构图存储器中获取与样本数据对应的目标异构图，并从模型存储器中获取与目标异构图对应的图神经网络模型；其中，样本数据用于记录预先确定的样本用户或样本视频的信息；
模型训练器，采用目标异构图，对图神经网络模型进行训练，得到图神经网络推荐模型，并存储图神经网络推荐模型至模型存储器；其中，图神经网络推荐模型用于推荐用户或视频。
其中，异构图存储器用于提供异构属性图的存储服务，模型存储器用于提供图神经网络模型的存储服务。
具体地，通过设置异构图存储器、模型存储器和模型训练器，将异构图的存储、模型获取和模型训练独立开，便于异构图的存储、模型获取和模型训练之间的管理。
在图神经网络推荐***的运行过程中，异构图存储器用于存储记录有用户和视频之间的关联关系的异构图，该异构图存储器可以向模型训练器提供训练用样本数据对应的目标异构图。模型存储器用于存储图神经网络模型，并向模型训练器提供用于训练的图神经网络模型。模型训练器提供模型训练的空间，可以从异构图存储器中获取与样本数据对应的目标异构图，从模型存储器中获取与目标异构图对应的图神经网络模型，采用目标异构图，对图神经网络模型进行训练，得到图神经网络推荐模型。最后，模型训练器将训练得到的图神经网络推荐模型存储至模型存储器，为后续用户根据实际需求，从模型存储器中调用需要的图神经网络推荐模型提供基础，以实现相应的推荐功能。
上述图神经网络推荐***，通过设置异构图存储器、模型存储器和模型训练器，将异构图的存储、模型获取和模型训练独立开，便于异构图的存储、模型获取和模型训练之间的管理。并通过模型训练器，从异构图存储器中获取与样本数据对应的目标异构图，并从模型存储器中获取与目标异构图对应的图神经网络模型。接着，采用目标异构图，对图神经网络模型进行训练，得到图神经网络推荐模型，并存储图神经网络推荐模型至模型存储器，通过图神经网络推荐模型对用户或视频进行推荐，以解决根据异构图进行推荐的问题。
在一示例性实施例中，图神经网络***还包括业务推荐器；
业务推荐器，用于调用模型存储器中的图神经网络推荐模型；
业务推荐器，用于将推荐目标的信息输入图神经网络推荐模型，得到图神经网络推荐模型输出的用户或视频的信息，并将用户或视频的信息推荐至推荐目标。
其中，推荐目标为存在推荐需求的用户或视频；若推荐目标为存在推荐需求的用户，则通过推荐模型输出相应的视频的信息；若推荐目标为存在推荐需求的视频，则通过推荐模型输出相应的用户的信息。
具体地，图神经网络***中的业务推荐器为区别于异构图存储器、模型存储器和模型训练器的结构。业务推荐器、异构图存储器、模型存储器和模型训练器之间可以相互通信，调取或发送相应的数据。其中，单独设置的业务推荐器，可以从模型存储器中调用与推荐目标对应的图神经网络推荐模型，并在将推荐目标的信息输入图神经网络推荐模型后，得到与推荐目标相对应的用户或视频，并将得到的用户或视频推荐给推荐目标。
上述示例性实施例中，通过业务推荐器，可以实现图神经网络推荐模型，并通过图神经网络推荐模型对用户或视频进行推荐，以解决根据异构图进行推荐的问题。
在一示例性实施例中，异构图存储器，还用于按照异构图的边表长度所匹配到的频段，对异构图进行划分，得到至少一个预设频段的异构图；其中，预设频段为基于异构图的出现频率形成的频率范围，一个预设频段对应一个采样结构，采样结构包括采样方法和采样方法对应的参数；
异构图存储器，还用于根据每一预设频段的异构图，采用预设频段对应的采样结构进行采样，得到采样结构对应的异构图。
具体地，异构图存储器中的异构图，是异构图存储器按照异构图的边表长度所匹配到的频段，对异构图进行划分得到的。异构图存储器中的异构图包括至少一个预设频段的异构图。异构图存储器中每一预设频段的异构图是异构图存储器通过该预设频段对应的采样结构采样得到的。其中，预设频段为基于异构图的出现频率形成的频率范围，一个预设频段对应一个采样结构，采样结构包括采样方法和采样方法对应的参数。其中，在动态更新的图结构中，由于权重分布的不断变化，会导致需要持续维护采样结构，对采样性能带来挑战。而各个采样结构中不同的权重计算方法适用的时间和空间的复杂度都不一样。因此，针对不同的异构图的数据分布，应用不同的采样方式，可以达到时间和空间的平衡，提升采样的整体效率。
示例地，对于存储于异构图存储器中的异构图，为提供在动态图上高效支持不同的图权重采样算法，可以按照异构图对应的边表长度，对异构图进行划分，得到的不同频段的异构图，包括低频、中频和高频数据。对于低频数据，数据量通常较小，数据变更很慢，占据的数据量空间比较大，直接计算异构图的CDF(Cumulative Distribution Function，累积分布函数)，需要的计算量并不大，可以采用常规算法直接计算异构图的CDF。对于中频数据，可以使用Alias Method算法缓存来加速其采样计算过程，同时不会占用特别多的内存空间。对于高频数据，因数据的变化通常比较快，需要使用一个动态变更的结构，可以使用WST类方法计算异构图的CDF。需要说明的是，不同业务场景下，低频、中频、高频的界定参数可以配置，以获得更好的采样性能。如此可以使得异构图存储器支持超大规模图(点规模10亿级别,边规模百亿级别)的动态图神经网络训练，支持发现页一类的超大流量场景训练，并提供更丰富的图操作功能，如异构图、属性图、各种带权采样算子等。
可选地，异构图存储器支持分布式图分片和水平扩展分片。具体地，异构图存储器可以通过分布式图分片实现单机无法存储的超大规模图的存储，通过水平扩展分片以应对存在超大请求量的训练场景。异构图存储器还提供多种带权采样、遍历、负采样等训练算子，支持过期淘汰等机制保持数据活性。
上述示例性实施例中，对不同频段的异构图采用不同的采样结构进行采样，可以达到时间和空间之间的平衡，可以提高异构图存储器的采样效率。
在一示例性实施例中，模型存储器中的图神经网络模型为预设的图神经网络模型，和/或，通过预设的应用程序接口配置的图神经网络模型。
具体地，模型存储器中的图神经网络模型可以为根据常用的图神经网络模型提前预设的图神经网络模型。在模型的使用过程中，若模型存储器中存在满足需求的图神经网络模型，则可以基于已经封装好的应用程序接口(API)，从模型存储器中直接调用已有的图神经网络模型，实现图神经网络模型的快速复用。但是，若模型存储器中不存在满足需求的图神经网络模型，则用户可以根据具体的需求，通过预设的应用程序接口(API)配置新的图神经网络模型，并将配置的图神经网络模型存储至模型存储器，以完成实际业务需求，同时为后续该新的图神经网络模型的快速复用提供基础。上述规范、可复用、易用性高的算法pipeline，使得***开发人员和使用人员可以专注于业务流程和关于图神经模型的业务定制化，花更少心力在模型、训练等***组件上，并可以和tensorflow生态深度结合，提供多种模型接入的灵活方式。
上述示例性实施例中，模型存储器中的图神经网络模型为预设的图神经网络模型，和/或，通过预设的应用程序接口配置的图神经网络模型，从而可以在模型存储器中存在需要的图神经网络模型时，快速调用模型以实现相关业务，在模型存储器中不存在需要的图神经网络模型时，可以对模型存储器中的图神经网络模型进行扩展，自定义配置相关的模型以实现相关的业务，如此，可以在提高应用图神经网络***处理推荐需求的效率的同时，保证用户能通过开放的应用程序接口配置新的图神经网络模型，满足不同的推荐需求。
在一示例性实施例中，模型训练器，还用于通过预设的通讯接口，从异构图存储器中获取目标异构图；或，模型训练器，采用配置的采样结构，从异构图存储器中获取目标异构图；其中，配置的采样结构为通过插件机制动态更新的采样结构。
具体地，关于模型训练器从异构图存储器中获取目标异构图的方式，可以通过预设的通讯接口，直接从异构图存储器中获取，也可以通过插件机制配置采样结构，并采用配置的采样结构，从异构图存储器中获取。例如，模型训练器可以使用Kuiba C++、Kuiba-Tf、Tensorflow-Kuiba等与异构图存储器进行交互，从异构图存储器中获取异构图作为训练数据，其中，Kuiba C++、Kuiba-Tf、Tensorflow-Kuiba为高速训练引擎***。同时，模型训练器可可以兼容Tensorflow生态的数据处理方式，对于流量特别大，性能要求高的场景，也提供C++侧的插件机制开发更加高效的采样方式，并利用Kuiba***的大规模稀疏训练优化能力，提供动态实时在线图训练学习能力。
上述示例性实施例中，模型训练器能通过预设的通讯接口从异构图存储器中获取目标异构图，还能采用配置的采样结构从异构图存储器中获取目标异构图，为目标异构图的获取提供了多样化手段，满足高效开发的要求，提高了图神经网络的处理效率。
在一示例性实施例中，模型训练器，还用于对异构图的更新状态进行检测；若更新状态为异步更新，则将从异构图存储器获取异构图的速度限制在预设范围；若更新状态为同步更新，则对异构图的获取请求进行合并，并采用合并后的获取请求对异构图存储器中的异构图进行更新。
具体地，为提供一个稳定的模型学习状态，保证模型的学习效果不会突变，可以在模型训练器中设置一个异构图更新检测的机制，模型训练器对异构图的更新状态进行检测，若更新状态为异步更新，则将模型训练器从异构图存储器获取异构图的速度限制在预设范围，若更新状态为同步更新，则对模型训练器向异构图存储器发出的异构图的获取请求进行合并，并采用合并后的获取请求对异构图存储器中的异构图进行更新，以保证采样数据的稳定性，保证学习效果的稳定性。例如，在推荐领域通常应用卷积类GNN网络来完成训练，在该GNN网络中，每个节点本身的特性变更与其周围数据相关性强，而和与之比较远的节点相关性弱，通过对图的变更进行限速和合并，能够保证整个动态图的变更不会过快，以实现模型评估指标的稳定。异构图存储器本身支持监控HDFS(Hadoop Distributed FileSystem，Hadoop分布式文件***)接入增量静态图，支持接入异步消息流实时更新，也可以由训练引擎接入实时流，并在训练阶段进行图的实时迭代。在异步更新的情况下，限制加载速度。在同步更新的情况下，通过请求合并的方式，减缓图的变化。
上述示例性实施例中，模型训练器根据异构图的更新状态，从异构图存储器中获取异构图，可以减缓异构图的变化，使数据采样更稳定，同时使后续图神经网络模型的训练更稳定。
在一示例性实施例中，模型训练器，还用于导出训练数据至业务推荐器；其中，训练数据为训练图神经网络模型的过程中产生的数据。
具体地，GNN类模型的线上和线下模型通常不一致，为此，模型训练器从异构图存储器中获取目标异构图，并对从模型存储器中获取到的图神经网络模型进行训练的过程中，需要将训练过程中得到的训练数据导出至业务推荐器中，以使线上训练产生的训练数据可以实时导出，打通非实时训练和实时训练两套流程。例如，设置旁路导出***，在训练阶段加入导出功能，将训练数据导出到下游的ANN(Artificial Neural Network，人工神经网络)检索引擎内，提供线上服务的方式，负责导出的部分训练进程不做网络梯度计算，只负责计算前向网络并将结果导出到实时消息***即可。由此，可以打通非实时训练和实时训练两套流程，在多个场景上进行试验并获得收益。
示例地，图2是根据一示例性实施例示出的非实时训练示意图，如图2所示，将数据源(Data Source)中的异构图存储至图异构图存储器(Graph DBS)，Kuiba Learner(模型训练器中的无状态的工作进程，可以提供样本解析、与图服务进行交互的功能、网络训练和梯度更新等功能)从Graph DBS获取图内生成的训练样本，并与Kuiba PS(模型训练器中的超大规模稀疏参数服务器，能够提供参数读写以及样本读取等有状态服务)采用训练样本进行训练学习，生成的训练结果。用户侧可通过业务推荐器(ANN Cluster)调用训练结果，以实现非实时训练的训练和使用过程。
示例地，图3是根据一示例性实施例示出的实时训练示意图，如图3所示，实时训练与非实时训练的基本流程相似，不同的是，实时训练的训练框架层中的Kuiba Learner与异构图存储器之间存在一个数据交互的过程，模型训练器中的Kuiba PS与数据源之间存在一个数据交互的过程，从而实现根据实时训练的结果优化数据的目的。
上述示例性实施例中，在图神经网络***的训练框架层，采用异构图对图神经网络模型进行训练的过程中，得到训练数据；导出训练数据至应用层。从而，可以使线上训练产生的训练数据可以实时导出，以打通非实时训练和实时训练两套流程，在多个场景上进行试验并获得收益。
图4是根据一示例性实施例示出的一种图神经网络推荐方法的流程图，如图4所示，图神经网络推荐方法可以应用于图1中的图神经网络***，具体包括以下步骤：
步骤S100，获取图神经网络推荐模型；其中，图神经网络推荐模型为对与目标异构图对应的图神经网络模型进行训练得到的，目标异构图为从预设的异构图集合中获取到的与样本数据对应的异构图。
步骤S200，将推荐目标的信息输入图神经网络推荐模型，得到图神经网络推荐模型输出的用户或视频的信息，并将用户或视频的信息推荐至推荐目标。
其中，推荐目标为存在推荐需求的用户或视频；若推荐目标为存在推荐需求的用户，则通过推荐模型输出相应的视频的信息；若推荐目标为存在推荐需求的视频，则通过推荐模型输出相应的用户的信息。
模型训练器能够分别从图神经网络***的异构图存储器中获取异构图，以及从图神经网络***的模型存储器中获取图神经网络模型，并应用从异构图存储层中获取到的目标异构图，对从模型存储器中获取到的图神经网络模型进行训练，得到能够实现与训练目的对应的图神经网络推荐模型。在得到图神经网络推荐模型后，存储图神经网络推荐模型至模型存储器中。从而使得模型存储器存储图神经网络模型的框架模型以及能实现与训练目的对应功能的图神经网络推荐模型。
在具体地图神经网络推荐过程中，在从模型存储器中获取到图神经网络推荐模型后，将推荐目标的信息输入到图神经网络推荐模型中，得到图神经网络推荐模型输出的用户或视频的信息，该用户或视频的信息是与推荐目标相对应的推荐数据，将用户或视频的信息推荐至推荐目标，完成用户或视频的推荐。
上述图神经网络推荐方法，通过获取图神经网络推荐模型，将推荐目标的信息输入图神经网络推荐模型，得到图神经网络推荐模型输出的用户或视频的信息，并将用户或视频的信息推荐至推荐目标，能解决根据异构图进行推荐的问题。
应该理解的是，虽然图2-4的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图2-5中的至少一部分步骤可以包括多个步骤或者多个阶段，这些步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
图5是根据一示例性实施例示出的一种图神经网络推荐装置框图。参照图5，该装置包括模型获取单元501和目标推荐单元502。
模型获取单元501，被配置为执行获取图神经网络推荐模型；其中，图神经网络推荐模型为对与目标异构图对应的图神经网络模型进行训练得到的，目标异构图为从预设的异构图集合中获取到的与样本数据对应的异构图；
目标推荐单元502，被配置为执行将推荐目标的信息输入图神经网络推荐模型，得到图神经网络推荐模型输出的用户或视频的信息，并将用户或视频的信息推荐至推荐目标；
其中，推荐目标为存在推荐需求的用户或视频；若推荐目标为存在推荐需求的用户，则通过推荐模型输出相应的视频的信息；若推荐目标为存在推荐需求的视频，则通过推荐模型输出相应的用户的信息。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
图6是根据一示例性实施例示出的一种图神经网络推荐设备600的框图。例如，设备600可以是移动电话、计算机、数字广播终端、消息收发设备、游戏控制台、平板设备、医疗设备、健身设备、个人数字助理等。
参照图6，设备600可以包括以下一个或多个组件：处理组件602、存储器604、电源组件606、多媒体组件608、音频组件610、输入/输出(I/O)的接口612、传感器组件614以及通信组件616。
处理组件602通常控制设备600的整体操作，诸如与显示、电话呼叫、数据通信、相机操作和记录操作相关联的操作。处理组件602可以包括一个或多个处理器620来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件602可以包括一个或多个模块，便于处理组件602和其他组件之间的交互。例如，处理组件602可以包括多媒体模块，以方便多媒体组件608和处理组件602之间的交互。
存储器604被配置为存储各种类型的数据以支持在设备600的操作。这些数据的示例包括用于在设备600上操作的任何应用程序或方法的指令、联系人数据、电话簿数据、消息、图片、视频等。存储器604可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)、电可擦除可编程只读存储器(EEPROM)、可擦除可编程只读存储器(EPROM)、可编程只读存储器(PROM)、只读存储器(ROM)、磁存储器、快闪存储器、磁盘或光盘。
电源组件606为设备600的各种组件提供电力。电源组件606可以包括电源管理***，一个或多个电源，及其他与为设备600生成、管理和分配电力相关联的组件。
多媒体组件608包括在设备600和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件608包括一个前置摄像头和/或后置摄像头。当设备600处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件610被配置为输出和/或输入音频信号。例如，音频组件610包括一个麦克风(MIC)，当设备600处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器604或经由通信组件616发送。在一些实施例中，音频组件610还包括一个扬声器，用于输出音频信号。
I/O接口612为处理组件602和***接口模块之间提供接口，上述***接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件614包括一个或多个传感器，用于为设备600提供各个方面的状态评估。例如，传感器组件614可以检测到设备600的打开/关闭状态，组件的相对定位，例如组件为设备600的显示器和小键盘，传感器组件614还可以检测设备600或设备600一个组件的位置改变，用户与设备600接触的存在或不存在，设备600方位或加速/减速和设备600的温度变化。传感器组件614可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件614还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件614还可以包括加速度传感器、陀螺仪传感器、磁传感器、压力传感器或温度传感器。
通信组件616被配置为便于设备600和其他设备之间有线或无线方式的通信。设备600可以接入基于通信标准的无线网络，如WiFi，运营商网络(如2G、3G、4G或6G)，或它们的组合。在一个示例性实施例中，通信组件616经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中，通信组件616还包括近场通信(NFC)模块，以促进短程通信。
在示例性实施例中，设备600可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器604，上述指令可由设备600的处理器620执行以完成上述方法。例如，非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
在示例性实施例中，还提供了一种计算机程序产品，程序产品包括计算机程序，计算机程序存储在可读存储介质中，设备的至少一个处理器从可读存储介质读取并执行计算机程序，使得设备执行上述方法。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (10)
1.一种图神经网络推荐***，其特征在于，包括：
异构图存储器，用于存储异构图；其中，所述异构图用于记录用户和视频之间的关联关系；
模型存储器，用于存储图神经网络模型；
模型训练器，用于从所述异构图存储器中获取与样本数据对应的目标异构图，并从所述模型存储器中获取与所述目标异构图对应的图神经网络模型；其中，所述样本数据用于记录预先确定的样本用户或样本视频的信息；
所述模型训练器，采用所述目标异构图，对所述图神经网络模型进行训练，得到图神经网络推荐模型，并存储所述图神经网络推荐模型至所述模型存储器；其中，所述图神经网络推荐模型用于推荐用户或视频；
所述异构图存储器，还用于按照所述异构图的边表长度所匹配到的频段，对所述异构图进行划分，得到至少一个预设频段的异构图；其中，所述预设频段为基于所述异构图的出现频率形成的频率范围，一个预设频段对应一个采样结构，所述采样结构包括采样方法和所述采样方法对应的参数；
所述异构图存储器，还用于根据每一所述预设频段的异构图，采用所述预设频段对应的采样结构进行采样，得到所述采样结构对应的异构图。
2.根据权利要求1所述的图神经网络推荐***，其特征在于，所述图神经网络***还包括业务推荐器；
所述业务推荐器，用于调用所述模型存储器中的图神经网络推荐模型；
所述业务推荐器，用于将推荐目标的信息输入所述图神经网络推荐模型，得到所述图神经网络推荐模型输出的用户或视频的信息，并将所述用户或视频的信息推荐至所述推荐目标；
其中，所述推荐目标为存在推荐需求的用户或视频；若所述推荐目标为存在推荐需求的用户，则通过所述推荐模型输出相应的视频的信息；若所述推荐目标为存在推荐需求的视频，则通过所述推荐模型输出相应的用户的信息。
3.根据权利要求1所述的图神经网络推荐***，其特征在于，所述模型存储器中的图神经网络模型为预设的图神经网络模型，和/或，通过预设的应用程序接口配置的图神经网络模型。
4.根据权利要求1所述的图神经网络推荐***，其特征在于，所述模型训练器，还用于通过预设的通讯接口，从所述异构图存储器中获取所述目标异构图；
或，所述模型训练器，采用配置的采样结构，从所述异构图存储器中获取所述目标异构图；其中，所述配置的采样结构为通过插件机制动态更新的采样结构。
5.根据权利要求4所述的图神经网络推荐***，其特征在于，所述模型训练器，还用于对所述异构图的更新状态进行检测；
若所述更新状态为异步更新，则将从所述异构图存储器获取异构图的速度限制在预设范围；
若所述更新状态为同步更新，则对所述异构图的获取请求进行合并，并采用合并后的获取请求对所述异构图存储器中的异构图进行更新。
6.根据权利要求1所述的图神经网络推荐***，其特征在于，所述图神经网络***还包括业务推荐器；
所述模型训练器，还用于导出训练数据至所述业务推荐器；其中，所述训练数据为训练所述图神经网络模型的过程中产生的数据。
7.一种图神经网络推荐方法，其特征在于，包括：
获取图神经网络推荐模型；其中，所述图神经网络推荐模型为对与目标异构图对应的图神经网络模型进行训练得到的，所述目标异构图为从预设的异构图集合中获取到的与样本数据对应的异构图，其中，所述异构图是根据所述异构图对应的预设频段对应的采样结构进行采样得到的，各所述异构图分别按照各所述异构图的边表长度所匹配到的频段，被划分至至少一个预设频段中，所述预设频段为基于所述异构图的出现频率形成的频率范围，一个预设频段对应一个采样结构，所述采样结构包括采样方法和所述采样方法对应的参数；
将推荐目标的信息输入所述图神经网络推荐模型，得到所述图神经网络推荐模型输出的用户或视频的信息，并将所述用户或视频的信息推荐至所述推荐目标；
其中，所述推荐目标为存在推荐需求的用户或视频；若所述推荐目标为存在推荐需求的用户，则通过所述推荐模型输出相应的视频的信息；若所述推荐目标为存在推荐需求的视频，则通过所述推荐模型输出相应的用户的信息。
8.一种图神经网络推荐装置，其特征在于，包括：
模型获取单元，被配置为执行获取图神经网络推荐模型；其中，所述图神经网络推荐模型为对与目标异构图对应的图神经网络模型进行训练得到的，所述目标异构图为从预设的异构图集合中获取到的与样本数据对应的异构图，其中，所述异构图是根据所述异构图对应的预设频段对应的采样结构进行采样得到的，各所述异构图分别按照各所述异构图的边表长度所匹配到的频段，被划分至至少一个预设频段中，所述预设频段为基于所述异构图的出现频率形成的频率范围，一个预设频段对应一个采样结构，所述采样结构包括采样方法和所述采样方法对应的参数；
目标推荐单元，被配置为执行将推荐目标的信息输入所述图神经网络推荐模型，得到所述图神经网络推荐模型输出的用户或视频的信息，并将所述用户或视频的信息推荐至所述推荐目标；
其中，所述推荐目标为存在推荐需求的用户或视频；若所述推荐目标为存在推荐需求的用户，则通过所述推荐模型输出相应的视频的信息；若所述推荐目标为存在推荐需求的视频，则通过所述推荐模型输出相应的用户的信息。
9.一种电子设备，其特征在于，包括：
处理器；
用于存储所述处理器可执行指令的存储器；
其中，所述处理器被配置为执行所述指令，以实现如权利要求7所述的图神经网络推荐方法。
10.一种存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得所述电子设备能够执行如权利要求7所述的图神经网络推荐方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110535624.3A CN113239232B (zh) | 2021-05-17 | 2021-05-17 | 图神经网络推荐***、方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110535624.3A CN113239232B (zh) | 2021-05-17 | 2021-05-17 | 图神经网络推荐***、方法、装置、电子设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113239232A CN113239232A (zh) | 2021-08-10 |
| CN113239232B true CN113239232B (zh) | 2023-12-26 |
Family
ID=77134745
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110535624.3A Active CN113239232B (zh) | 2021-05-17 | 2021-05-17 | 图神经网络推荐***、方法、装置、电子设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113239232B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TWI793910B (zh) * | 2021-12-09 | 2023-02-21 | 中華電信股份有限公司 | 偵測異常及提供修復策略的微服務監控系統及其方法 |
| CN114610989B (zh) * | 2022-02-23 | 2022-11-18 | 苏州大学 | 基于异构图动态信息补偿的个性化论文推荐方法及*** |
| CN114637888B (zh) * | 2022-05-18 | 2022-08-02 | 深圳市华曦达科技股份有限公司 | 一种视频推送方法及装置 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111159395A (zh) * | 2019-11-22 | 2020-05-15 | 国家计算机网络与信息安全管理中心 | 基于图神经网络的谣言立场检测方法、装置和电子设备 |
| CN111276138A (zh) * | 2018-12-05 | 2020-06-12 | 北京嘀嘀无限科技发展有限公司 | 一种语音唤醒***中处理语音信号的方法及装置 |
| CN111461337A (zh) * | 2020-03-05 | 2020-07-28 | 深圳追一科技有限公司 | 数据处理方法、装置、终端设备及存储介质 |
| CN111475637A (zh) * | 2020-06-24 | 2020-07-31 | 支付宝(杭州)信息技术有限公司 | 用于推送知识点的数据处理、训练方法及装置 |
| CN112633978A (zh) * | 2020-12-22 | 2021-04-09 | 重庆大学 | 图神经网络模型构建方法、用于商品推荐的方法、装置及设备 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20190354850A1 (en) * | 2018-05-17 | 2019-11-21 | International Business Machines Corporation | Identifying transfer models for machine learning tasks |
-
2021
- 2021-05-17 CN CN202110535624.3A patent/CN113239232B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111276138A (zh) * | 2018-12-05 | 2020-06-12 | 北京嘀嘀无限科技发展有限公司 | 一种语音唤醒***中处理语音信号的方法及装置 |
| CN111159395A (zh) * | 2019-11-22 | 2020-05-15 | 国家计算机网络与信息安全管理中心 | 基于图神经网络的谣言立场检测方法、装置和电子设备 |
| CN111461337A (zh) * | 2020-03-05 | 2020-07-28 | 深圳追一科技有限公司 | 数据处理方法、装置、终端设备及存储介质 |
| CN111475637A (zh) * | 2020-06-24 | 2020-07-31 | 支付宝(杭州)信息技术有限公司 | 用于推送知识点的数据处理、训练方法及装置 |
| CN112633978A (zh) * | 2020-12-22 | 2021-04-09 | 重庆大学 | 图神经网络模型构建方法、用于商品推荐的方法、装置及设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113239232A (zh) | 2021-08-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113239232B (zh) | 图神经网络推荐***、方法、装置、电子设备及存储介质 | |
| CN110688527A (zh) | 视频推荐方法、装置、存储介质及电子设备 | |
| CN109961094B (zh) | 样本获取方法、装置、电子设备及可读存储介质 | |
| CN111461304B (zh) | 分类神经网络的训练方法、文本分类方法、装置及设备 | |
| CN110941727B (zh) | 一种资源推荐方法、装置、电子设备及存储介质 | |
| CN105354005A (zh) | 更新积分排名的方法及装置 | |
| CN112070235A (zh) | 一种深度学习框架的异常定位方法、装置及存储介质 | |
| CN111752598A (zh) | 页面生成方法、装置、电子设备及存储介质 | |
| CN112766498B (zh) | 模型训练方法及装置 | |
| CN106708967A (zh) | 页面显示方法及装置 | |
| CN111382161B (zh) | 状态数据处理方法、装置、电子设备及存储介质 | |
| CN112783779A (zh) | 测试用例的生成方法、装置、电子设备和存储介质 | |
| CN111125388B (zh) | 多媒体资源的检测方法、装置及设备和存储介质 | |
| CN112784151A (zh) | 一种确定推荐信息的方法及相关装置 | |
| CN107368562B (zh) | 页面的显示方法、装置及终端 | |
| CN113923517B (zh) | 一种背景音乐生成方法、装置及电子设备 | |
| CN115065840A (zh) | 一种信息处理方法、装置、电子设备及存储介质 | |
| CN113391804A (zh) | 页面生成方法、装置、电子设备及存储介质 | |
| CN112446366A (zh) | 一种图像翻译评测方法、装置和用于图像翻译评测的装置 | |
| CN114722238B (zh) | 视频推荐方法、装置、电子设备、存储介质及程序产品 | |
| CN116150413B (zh) | 多媒体资源的展示方法及装置 | |
| CN113473233B (zh) | 一种日志拼接方法、装置、电子设备、存储介质及产品 | |
| CN114885211B (zh) | 媒体资源模板生成方法、媒体资源生成方法和装置 | |
| US20240231886A1 (en) | Method for processing task, electronic device and storage medium | |
| CN115484471B (zh) | 主播推荐方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |