CN112685633A - 一种基于召回模型和预测模型的信息推荐方法及*** - Google Patents
一种基于召回模型和预测模型的信息推荐方法及*** Download PDFInfo
- Publication number
- CN112685633A CN112685633A CN202011598441.8A CN202011598441A CN112685633A CN 112685633 A CN112685633 A CN 112685633A CN 202011598441 A CN202011598441 A CN 202011598441A CN 112685633 A CN112685633 A CN 112685633A
- Authority
- CN
- China
- Prior art keywords
- information
- user
- recall
- sequence
- prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000001914 filtration Methods 0.000 claims abstract description 23
- 230000006399 behavior Effects 0.000 claims description 93
- 238000012549 training Methods 0.000 claims description 29
- 239000013598 vector Substances 0.000 claims description 24
- 238000012545 processing Methods 0.000 claims description 19
- 230000007246 mechanism Effects 0.000 claims description 16
- 230000009471 action Effects 0.000 claims description 12
- 238000013135 deep learning Methods 0.000 claims description 12
- 101100481876 Danio rerio pbk gene Proteins 0.000 claims description 6
- 101100481878 Mus musculus Pbk gene Proteins 0.000 claims description 6
- 230000007774 longterm Effects 0.000 abstract description 4
- 230000009286 beneficial effect Effects 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 9
- 230000000295 complement effect Effects 0.000 description 3
- 230000037213 diet Effects 0.000 description 3
- 235000005911 diet Nutrition 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000008774 maternal effect Effects 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000011144 upstream manufacturing Methods 0.000 description 2
- 206010000210 abortion Diseases 0.000 description 1
- 231100000176 abortion Toxicity 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000013481 data capture Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及信息技术领域，具体涉及一种基于召回模型和预测模型的信息推荐方法及***，包括：用户终端发送获取信息流推荐的请求；获取用户实时行为序列及历史行为序列；基于用户历史行为序列利用召回模型得到召回候选集；对召回候选集的信息进行过滤；基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分；设定信息推荐数量，并根据信息推荐数量结合预测得分选择对应的信息，并将信息合并成信息流发送到用户终端。本发明采用的技术方案，具有如下有益效果：既能根据用户近期的历史行为序列，捕捉用户较为长期的兴趣偏好，又能根据用户实时的行为序列，捕捉用户当下最新的兴趣特征，给用户的新行为以即实的反馈。
Description
技术领域
本发明涉及信息技术领域，具体涉及一种基于召回模型和预测模型的信息推荐方法及***。
背景技术
目前，随着互联网技术的不断发展，各种信息流产品层出不穷，满足了用户大多数的娱乐、学***台，由于平台中信息庞杂，信息丰富度大，不同月龄阶段的食谱、知识差异性大。推荐符合平台用户宝宝月龄的精准信息，满足用户个性化需求成为我们的使命。
但是，对于传统的个性化推荐***来说，***内部具有复杂、逻辑庞大等特点。其中***模型涉及的参数量众多、需要通过每一个参数的权重系数共同作用来决定推荐信息，进而对用户短时间内喜好的微小变化存在很强的滞后性、延时性。另外，由于用户真正喜欢的信息，可能在旧的推荐***模式中，只出现了少量条数，导致用户只能点击一两次，因而使得推荐算法所能采集到的用户准确的新兴趣的行为过少。
发明信息
本发明所要解决的技术问题就是提供一种基于召回模型和预测模型的信息推荐方法及***。
为解决上述技术问题，本发明采用如下技术方案：一种基于召回模型和预测模型的信息推荐方法，包括：
用户终端发送获取信息流推荐的请求；
获取用户实时行为序列及历史行为序列；
基于用户历史行为序列利用召回模型得到召回候选集；
对召回候选集的信息进行过滤；
基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分；
设定信息推荐数量，并根据信息推荐数量结合预测得分选择对应的信息，并将信息合并成信息流发送到用户终端。
优选的，所述基于用户历史行为序列利用召回模型得到召回候选集包括：
基于用户历史行为序列训练召回模型；
利用召回模型训练得到信息的第一embedding向量；
对第一embedding向量进行降维，利用最近邻搜索得到指定信息的topk相似信息序列；
将热门信息召回和最新信息召回加入召回序列得到召回候选集。
优选的，所述对召回候选集的信息进行过滤包括：
所述历史行为序列包括历史点击序列和历史曝光序列，所述实时行为序列包括最新点击序列和最新曝光序列；
将历史曝光序列与最新曝光序列合并，将历史点击序列与最新点击序列合并；
对合并后的曝光序列进行曝光信息的次数统计，得到高于阈值的曝光序列，用于过滤召回候选集中反复曝光但用户仍未点击的信息；
合并后的点击序列用于召回用户可能感兴趣的信息，还用于过滤召回候选集中用户已经点击过的信息。
优选的，所述基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分包括：
对引入注意力机制的深度学习网络进行学习训练得到预测模型；
预测模型为历史行为序列的各个信息赋予不同的注意力权重；
预测模型基于用户的实时行为序列及注意力权重，对召回的每个待预测信息进行点击率预估，输出预测得分。
优选的，所述对引入注意力机制的深度学习网络进行学习训练得到预测模型包括：
获取用户特征与带预测的信息特征；
将用户特征与带预测的信息特征进行外积处理后进行拼接处理，得到注意力因子：
其中，Vi表示的是行为i的item嵌入向量；Vu表示所有行为的加权和，表示的是用户兴趣；Va表示当前召回候选集中的信息；N表示行为item数量，wi表示行为过item与待预测item的权重，g表示内积操作。
一种基于召回模型和预测模型的信息推荐***，包括：
用户终端，用于发送获取信息流推荐的请求；
数据获取模块，用于获取用户实时行为序列及历史行为序列；
召回接口模块，用于基于用户历史行为序列利用召回模型得到召回候选集；
过滤模块，用于对召回候选集的信息进行过滤；
预测接口模块，用于基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分；
信息推送模块，用于设定信息推荐数量，并根据信息推荐数量结合预测得分选择对应的信息，并将信息合并成信息流发送到用户终端。
优选的，所述基于用户历史行为序列利用召回模型得到召回候选集包括：
基于用户历史行为序列训练召回模型；
利用召回模型训练得到信息的第一embedding向量；
对第一embedding向量进行降维，利用最近邻搜索得到指定信息的topk相似信息序列；
将热门信息召回和最新信息召回加入召回序列得到召回候选集。
优选的，所述对召回候选集的信息进行过滤包括：
所述历史行为序列包括历史点击序列和历史曝光序列，所述实时行为序列包括最新点击序列和最新曝光序列；
将历史曝光序列与最新曝光序列合并，将历史点击序列与最新点击序列合并；
对合并后的曝光序列进行曝光信息的次数统计，得到高于阈值的曝光序列，用于过滤召回候选集中反复曝光但用户仍未点击的信息；
合并后的点击序列用于召回用户可能感兴趣的信息，还用于过滤召回候选集中用户已经点击过的信息。
优选的，所述基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分包括：
对引入注意力机制的深度学习网络进行学习训练得到预测模型；
预测模型为历史行为序列的各个信息赋予不同的注意力权重；
预测模型基于用户的实时行为序列及注意力权重，对召回的每个待预测信息进行点击率预估，输出预测得分。
优选的，所述对引入注意力机制的深度学习网络进行学习训练得到预测模型包括：
获取用户特征与带预测的信息特征；
将用户特征与带预测的信息特征进行外积处理后进行拼接处理，得到注意力因子：
其中，Vi表示的是行为i的item嵌入向量；Vu表示所有行为的加权和，表示的是用户兴趣；Va表示当前召回候选集中的信息；N表示行为item数量，wi表示行为过item与待预测item的权重，g表示内积操作。
本发明采用的技术方案，具有如下有益效果：
1.本发明既能根据用户近期的历史行为序列，捕捉用户较为长期的兴趣偏好，又能根据用户实时的行为序列，捕捉用户当下最新的兴趣特征，给用户的新行为以即实的反馈；
2.利用召回模型得到召回候选集以减少预测信息范围的过程，因此提高了信息推荐的反馈效率；
3.通过对召回候选集的信息进行过滤，滤除反复曝光但用户仍未点击的信息以及用户已经点击过的信息，从而提高信息推荐的准确度；
4.在训练预测模型中引入注意力机制，在训练中区分了不同商品及信息的重要程度，是推荐***中基于业务场景出发作出优化的重要实践，更加接近用户真实的思考过程，从而达到提升推荐***的目的。
本发明的具体技术方案及其有益效果将会在下面的具体实施方式中结合附图进行详细的说明。
附图说明
下面结合附图和具体实施方式对本发明作进一步描述：
图1为本发明实施例一种基于召回模型和预测模型的信息推荐方法的流程示意图；
图2为本发明实施例一种基于召回模型和预测模型的信息推荐方法中步骤S3的流程示意图；
图3为本发明实施例一种基于召回模型和预测模型的信息推荐方法中步骤S4的流程示意图；
图4为本发明实施例一种基于召回模型和预测模型的信息推荐方法中步骤S5的流程示意图；
图5为本发明实施例一种基于召回模型和预测模型的信息推荐***的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明一种基于召回模型和预测模型的信息推荐方法可以应用于商品信息推荐的平台，尤其适用于母婴辅食食谱和母婴百科知识的推荐。通过向用户推荐融合用户长短期兴趣的母婴辅食食谱和母婴百科知识，让更多的孩子们得到更好得养育。
参考图1所示，一种基于召回模型和预测模型的信息推荐方法，包括以下步骤：
S1：用户终端发送获取信息流推荐的请求。
在一些实施例中，用户终端可以主动发送获取信息流推荐的请求，也可以设置请求发送的时间，用户终端按照设置的时间周期性的发送请求。
S2：获取用户实时行为序列及历史行为序列。
用户实时行为序列及历史行为序列的获取利用Logstash数据收集引擎，其为数据同步通道工具，服务启动后会不断轮询通道两端的数据服务并达到数据一致的效果，根据上游***化的数据捕获设置，实时收集模型需要的用户行为数据，包括曝光数据和点击数据等，将其存储在kafka流数据处理平台，kafka具有高吞吐、低延迟的优势，每秒可以处理几十万条消息信息，能够很好得满足实时性需求。
当接收到每个用户最新的曝光、点击数据并进行预处理，需要将原始数据整理成设计好的格式，加快数据流转，生成每个用户反映最新兴趣的用户实时行为序列。
同样，将接收到的历史曝光、点击数据并进行预处理，得到历史行为序列。
S3：基于用户历史行为序列利用召回模型得到召回候选集。
如图2所示，具体包括以下步骤：
S301：基于用户历史行为序列训练召回模型；
S302：利用召回模型训练得到信息的第一embedding向量；
S303：对第一embedding向量进行降维，利用最近邻搜索得到指定信息的topk相似信息序列；
S304：将热门信息召回和最新信息召回加入召回序列得到召回候选集。
为了保证召回信息的数量，程序会设定最新点击短列表的长度阈值至10，长度不足的将从redis历史缓存中补足。
召回接口包括embedding向量召回、热门信息召回、最新信息召回三部分，其中热门信息召回是按一定规则从redis缓存中统计移动时间窗口下每个信息的曝光数量、点击率、点击次数等进行筛选得到，每次更新的热门召回列表反映了当下用户群体的所需的信息及时下受欢迎商品，具备一定的时效性，而最新信息召回是依托程序自动判断上游用户点击的信息是否为新生产信息，并将新信息写入redis缓存用于召回的机制，解决了信息冷启动的问题。
基于用户的历史点击序列和上下文特征、用户的月龄信息、信息的月龄信息及类目信息等，召回模型运用DNN深度神经网络训练得到信息的embedding向量，在进行tSNE聚类后，embedding向量被证实精准地捕捉到了辅食食谱和知识文章的主题信息和月龄信息，即通过具体信息能召回出同月龄范围的其他信息。因此可以运用最近邻搜索法，主要通过计算embedding向量间的内积并得到局部敏感哈希，主要思想是让相近的embedding向量落入同一个“存储桶”，即同一个类别集合。在最近邻搜索时，仅需要在一个存储桶内，或相邻的几个桶进行元素的搜索，最终将embedding向量用于相似信息的召回，召回过程是减少预测信息范围的过程，因此提高了信息推荐的反馈效率。
S4：对召回候选集的信息进行过滤。
历史行为序列包括历史点击序列和历史曝光序列，所述实时行为序列包括最新点击序列和最新曝光序列。
如图3所示，具体包括以下步骤：
S401：将历史曝光序列与最新曝光序列合并，将历史点击序列与最新点击序列合并；
S402：对合并后的曝光序列进行曝光信息的次数统计，得到高于阈值的曝光序列，用于过滤召回候选集中反复曝光但用户仍未点击的信息；
S403：合并后的点击序列用于召回用户可能感兴趣的信息，还用于过滤召回候选集中用户已经点击过的信息。
在本实施例中，通过对召回候选集的信息进行过滤，滤除反复曝光但用户仍未点击的信息以及用户已经点击过的信息，从而提高信息推荐的准确度。
S5：基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分。
如图4所示，具体包括以下步骤：
S501：对引入注意力机制的深度学习网络进行学习训练得到预测模型；
S502：预测模型为历史行为序列的各个信息赋予不同的注意力权重；
S503：预测模型基于用户的实时行为序列及注意力权重，对召回的每个待预测信息进行点击率预估，输出预测得分。
预测模型则引入注意力机制，即根据用户历史点击信息与待预测信息的相关性，为历史行为序列的各个信息赋予不同的注意力权重，使得推荐***更加智能地反映用户的真实思考过程。
在本实施例中，在训练预测模型中引入注意力机制，在训练中区分了不同商品及信息的重要程度，是推荐***中基于业务场景出发作出优化的重要实践，更加接近用户真实的思考过程，从而达到提升推荐***的目的。
其中，对引入注意力机制的深度学习网络进行学习训练得到预测模型的方法为：获取用户特征与带预测的信息特征；将用户特征与带预测的信息特征进行外积处理后进行拼接处理，得到注意力因子：
其中，Vi表示的是行为i的item嵌入向量；Vu表示所有行为的加权和，表示的是用户兴趣；Va表示当前召回候选集中的信息；N表示行为item数量，wi表示行为过item与待预测item的权重，g表示内积操作。
加权求和并经过池化处理，与待预测信息进行concat和flatten处理后，经过两次relu处理和softmax计算后，得到基于该用户特征和待预测信息特征的、用户对待预测信息的预估点击率。
S6：设定信息推荐数量，并根据信息推荐数量结合预测得分选择对应的信息，并将信息合并成信息流发送到用户终端。
本发明既能根据用户近期的历史行为序列，捕捉用户较为长期的兴趣偏好，又能根据用户实时的行为序列，捕捉用户当下最新的兴趣特征，给用户的新行为以即实的反馈。
图5为本发明实施例二中提供的一种基于召回模型和预测模型的信息推荐***的结构示意图，本实施例可适用于互联网平台中进行信息推荐的情况。本发明实施例所提供的信息推荐***可执行本发明实施例一所提供一种基于召回模型和预测模型的信息推荐方法，具备执行方法相应的功能模块及有益效果。
如图5所示，一种基于召回模型和预测模型的信息推荐***，包括：用户终端，用于发送获取信息流推荐的请求；数据获取模块，用于获取用户实时行为序列及历史行为序列；召回接口模块，用于基于用户历史行为序列利用召回模型得到召回候选集；过滤模块，用于对召回候选集的信息进行过滤；预测接口模块，用于基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分；信息推送模块，用于设定信息推荐数量，并根据信息推荐数量结合预测得分选择对应的信息，并将信息合并成信息流发送到用户终端。
在本实施例中，用户终端可以是任意安装了支持信息流服务的客户端应用的设备，如智能手机、平板电脑、个人电脑等，客户端应用包括但不限于APP应用、Web应用、小程序等，用户可以通过用户终端上对客户端应用完成诸如注册、登录、浏览、点击、购买、收藏、分享等的指令，以表达其意志。
在本实施例中，服务器集成数据获取模块、召回接口模块、过滤模块、预测接口模块、信息推送模块。服务器可以是支持在用户终端上提供服务的后台服务器，在本文中主要是实现信息流推荐服务。
用户可以在用户终端通过网络与服务器进行交互，交互包括用户终端101实时发送行为日志到服务器、用户终端发送获取最新信息流推荐的请求到服务器、服务器返回基于推荐结果的信息流到终端用户。
网络102包括各类信号连接介质，包括但不限于基于有线网、光纤网、无线网，局域网、城域网、广域网等，用于进行用户终端和服务器之间的信息传输。
服务器接收到用户实时的行为日志，数据获取模块经过预处理后得到每个用户对信息的最新行为序列，包括在信息流的曝光序列以反映用户在信息流环境下的浏览情况，和用户在全平台的信息点击序列以全面捕捉用户对信息的兴趣偏好。
数据获取模块从Redis缓存中读取用户历史点击序列和历史曝光序列，并分别与上述得到的最新点击序列和曝光序列进行合并。同时，对合并后的曝光序列进行曝光信息的次数统计，得到高于阈值的曝光序列，用于过滤召回候选集中反复曝光但用户仍未点击的信息。合并后的点击序列一方面代表用户的兴趣，用于从平台候选集中召回用户可能感兴趣的信息，另一方面可以用来过滤召回候选集中用户已经点击过的信息。
其中，召回接口模块基于用户历史行为序列利用召回模型得到召回候选集具体为：
基于用户历史行为序列训练召回模型；利用召回模型训练得到信息的第一embedding向量；对第一embedding向量进行降维，利用最近邻搜索得到指定信息的topk相似信息序列；将热门信息召回和最新信息召回加入召回序列得到召回候选集。
其中，过滤模块对召回候选集的信息进行过滤具体为：所述历史行为序列包括历史点击序列和历史曝光序列，所述实时行为序列包括最新点击序列和最新曝光序列；将历史曝光序列与最新曝光序列合并，将历史点击序列与最新点击序列合并；对合并后的曝光序列进行曝光信息的次数统计，得到高于阈值的曝光序列，用于过滤召回候选集中反复曝光但用户仍未点击的信息；合并后的点击序列用于召回用户可能感兴趣的信息，还用于过滤召回候选集中用户已经点击过的信息。
其中，预测接口模块基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分具体为：对引入注意力机制的深度学习网络进行学习训练得到预测模型；预测模型为历史行为序列的各个信息赋予不同的注意力权重；预测模型基于用户的实时行为序列及注意力权重，对召回的每个待预测信息进行点击率预估，输出预测得分。
其中，对引入注意力机制的深度学习网络进行学习训练得到预测模型具体为：获取用户特征与带预测的信息特征；将用户特征与带预测的信息特征进行外积处理后进行拼接处理，得到注意力因子：
其中，Vi表示的是行为i的item嵌入向量；Vu表示所有行为的加权和，表示的是用户兴趣；Va表示当前召回候选集中的信息；N表示行为item数量，wi表示行为过item与待预测item的权重，g表示内积操作。
加权求和并经过池化处理，与待预测信息进行concat和flatten处理后，经过两次relu处理和softmax计算后，得到基于该用户特征和待预测信息特征的、用户对待预测信息的预估点击率。
用户交互过程为服务器通过应用程序向用户推荐个性化的母音信息流，在用户终端的界面曝光后，用户可以根据兴趣选择是否点击。日志离线收集过程和日志实时收集过程为服务器收集用户与应用程序的互动日志，既可以落地成数据库数据离线消费，也可以直接用来消费实时流式数据。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，熟悉该本领域的技术人员应该明白本发明包括但不限于上面具体实施方式中描述的信息。任何不偏离本发明的功能和结构原理的修改都将包括在权利要求书的范围中。
Claims (10)
1.一种基于召回模型和预测模型的信息推荐方法，其特征在于，包括：
用户终端发送获取信息流推荐的请求；
获取用户实时行为序列及历史行为序列；
基于用户历史行为序列利用召回模型得到召回候选集；
对召回候选集的信息进行过滤；
基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分；
设定信息推荐数量，并根据信息推荐数量结合预测得分选择对应的信息，并将信息合并成信息流发送到用户终端。
2.根据权利要求1所述的一种基于召回模型和预测模型的信息推荐方法，其特征在于，所述基于用户历史行为序列利用召回模型得到召回候选集包括：
基于用户历史行为序列训练召回模型；
利用召回模型训练得到信息的第一embedding向量；
对第一embedding向量进行降维，利用最近邻搜索得到指定信息的topk相似信息序列；
将热门信息召回和最新信息召回加入召回序列得到召回候选集。
3.根据权利要求1所述的一种基于召回模型和预测模型的信息推荐方法，其特征在于，所述对召回候选集的信息进行过滤包括：
所述历史行为序列包括历史点击序列和历史曝光序列，所述实时行为序列包括最新点击序列和最新曝光序列；
将历史曝光序列与最新曝光序列合并，将历史点击序列与最新点击序列合并；
对合并后的曝光序列进行曝光信息的次数统计，得到高于阈值的曝光序列，用于过滤召回候选集中反复曝光但用户仍未点击的信息；
合并后的点击序列用于召回用户可能感兴趣的信息，还用于过滤召回候选集中用户已经点击过的信息。
4.根据权利要求1所述的一种基于召回模型和预测模型的信息推荐方法，其特征在于，所述基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分包括：
对引入注意力机制的深度学习网络进行学习训练得到预测模型；
预测模型为历史行为序列的各个信息赋予不同的注意力权重；
预测模型基于用户的实时行为序列及注意力权重，对召回的每个待预测信息进行点击率预估，输出预测得分。
5.根据权利要求4所述的一种基于召回模型和预测模型的信息推荐方法，其特征在于，所述对引入注意力机制的深度学习网络进行学习训练得到预测模型包括：
获取用户特征与带预测的信息特征；
将用户特征与带预测的信息特征进行外积处理后进行拼接处理，得到注意力因子：
其中，Vi表示的是行为i的item嵌入向量；Vu表示所有行为的加权和，表示的是用户兴趣；Va表示当前召回候选集中的信息；N表示行为item数量，wi表示行为过item与待预测item的权重，g表示内积操作。
6.一种基于召回模型和预测模型的信息推荐***，其特征在于，包括：
用户终端，用于发送获取信息流推荐的请求；
数据获取模块，用于获取用户实时行为序列及历史行为序列；
召回接口模块，用于基于用户历史行为序列利用召回模型得到召回候选集；
过滤模块，用于对召回候选集的信息进行过滤；
预测接口模块，用于基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分；
信息推送模块，用于设定信息推荐数量，并根据信息推荐数量结合预测得分选择对应的信息，并将信息合并成信息流发送到用户终端。
7.根据权利要求6所述的一种基于召回模型和预测模型的信息推荐***，其特征在于，所述基于用户历史行为序列利用召回模型得到召回候选集包括：
基于用户历史行为序列训练召回模型；
利用召回模型训练得到信息的第一embedding向量；
对第一embedding向量进行降维，利用最近邻搜索得到指定信息的topk相似信息序列；
将热门信息召回和最新信息召回加入召回序列得到召回候选集。
8.根据权利要求6所述的一种基于召回模型和预测模型的信息推荐***，其特征在于，所述对召回候选集的信息进行过滤包括：
所述历史行为序列包括历史点击序列和历史曝光序列，所述实时行为序列包括最新点击序列和最新曝光序列；
将历史曝光序列与最新曝光序列合并，将历史点击序列与最新点击序列合并；
对合并后的曝光序列进行曝光信息的次数统计，得到高于阈值的曝光序列，用于过滤召回候选集中反复曝光但用户仍未点击的信息；
合并后的点击序列用于召回用户可能感兴趣的信息，还用于过滤召回候选集中用户已经点击过的信息。
9.根据权利要求6所述的一种基于召回模型和预测模型的信息推荐***，其特征在于，所述基于用户实时行为序列利用预测模型对过滤后的信息进行预测得到预测得分包括：
对引入注意力机制的深度学习网络进行学习训练得到预测模型；
预测模型为历史行为序列的各个信息赋予不同的注意力权重；
预测模型基于用户的实时行为序列及注意力权重，对召回的每个待预测信息进行点击率预估，输出预测得分。
10.根据权利要求9所述的一种基于召回模型和预测模型的信息推荐***，其特征在于，所述对引入注意力机制的深度学习网络进行学习训练得到预测模型包括：
获取用户特征与带预测的信息特征；
将用户特征与带预测的信息特征进行外积处理后进行拼接处理，得到注意力因子：
其中，Vi表示的是行为i的item嵌入向量；Vu表示所有行为的加权和，表示的是用户兴趣；Va表示当前召回候选集中的信息；N表示行为item数量，wi表示行为过item与待预测item的权重，g表示内积操作。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011598441.8A CN112685633A (zh) | 2020-12-30 | 2020-12-30 | 一种基于召回模型和预测模型的信息推荐方法及*** |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011598441.8A CN112685633A (zh) | 2020-12-30 | 2020-12-30 | 一种基于召回模型和预测模型的信息推荐方法及*** |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112685633A true CN112685633A (zh) | 2021-04-20 |
Family
ID=75454193
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011598441.8A Pending CN112685633A (zh) | 2020-12-30 | 2020-12-30 | 一种基于召回模型和预测模型的信息推荐方法及*** |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112685633A (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113129067A (zh) * | 2021-04-27 | 2021-07-16 | 北京百度网讯科技有限公司 | 信息筛选方法、装置、设备、存储介质及计算机程序产品 |
| CN113326431A (zh) * | 2021-06-01 | 2021-08-31 | 安徽理工大学 | 一种基于微信小程序的智能推荐储物柜 |
| CN113704510A (zh) * | 2021-07-30 | 2021-11-26 | 北京达佳互联信息技术有限公司 | 一种媒体内容推荐方法、装置、电子设备及存储介质 |
| CN114139046A (zh) * | 2021-10-29 | 2022-03-04 | 北京达佳互联信息技术有限公司 | 对象推荐方法、装置、电子设备及存储介质 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8145636B1 (en) * | 2009-03-13 | 2012-03-27 | Google Inc. | Classifying text into hierarchical categories |
| CN109190043A (zh) * | 2018-09-07 | 2019-01-11 | 北京三快在线科技有限公司 | 推荐方法及装置，存储介质，电子设备及推荐*** |
| CN111400603A (zh) * | 2020-03-20 | 2020-07-10 | 腾讯科技（深圳）有限公司 | 一种信息推送方法、装置、设备及计算机可读存储介质 |
| CN111931056A (zh) * | 2020-08-17 | 2020-11-13 | 北京小川科技有限公司 | 一种推送内容推荐方法及装置 |
| CN112131456A (zh) * | 2019-06-24 | 2020-12-25 | 腾讯科技（北京）有限公司 | 一种信息推送方法、装置、设备及存储介质 |
-
2020
- 2020-12-30 CN CN202011598441.8A patent/CN112685633A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8145636B1 (en) * | 2009-03-13 | 2012-03-27 | Google Inc. | Classifying text into hierarchical categories |
| CN109190043A (zh) * | 2018-09-07 | 2019-01-11 | 北京三快在线科技有限公司 | 推荐方法及装置，存储介质，电子设备及推荐*** |
| CN112131456A (zh) * | 2019-06-24 | 2020-12-25 | 腾讯科技（北京）有限公司 | 一种信息推送方法、装置、设备及存储介质 |
| CN111400603A (zh) * | 2020-03-20 | 2020-07-10 | 腾讯科技（深圳）有限公司 | 一种信息推送方法、装置、设备及计算机可读存储介质 |
| CN111931056A (zh) * | 2020-08-17 | 2020-11-13 | 北京小川科技有限公司 | 一种推送内容推荐方法及装置 |
Non-Patent Citations (1)
| Title |
|---|
| 周晓欢: "《Deep interest Network for Click-Through Rate Prediction》阅读笔记", 《HTTP://ZHUANLAN.ZHIHU.COM/P/30597671》 * |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113129067A (zh) * | 2021-04-27 | 2021-07-16 | 北京百度网讯科技有限公司 | 信息筛选方法、装置、设备、存储介质及计算机程序产品 |
| CN113326431A (zh) * | 2021-06-01 | 2021-08-31 | 安徽理工大学 | 一种基于微信小程序的智能推荐储物柜 |
| CN113326431B (zh) * | 2021-06-01 | 2022-09-27 | 安徽理工大学 | 一种基于微信小程序的智能推荐储物柜 |
| CN113704510A (zh) * | 2021-07-30 | 2021-11-26 | 北京达佳互联信息技术有限公司 | 一种媒体内容推荐方法、装置、电子设备及存储介质 |
| CN113704510B (zh) * | 2021-07-30 | 2024-02-06 | 北京达佳互联信息技术有限公司 | 一种媒体内容推荐方法、装置、电子设备及存储介质 |
| CN114139046A (zh) * | 2021-10-29 | 2022-03-04 | 北京达佳互联信息技术有限公司 | 对象推荐方法、装置、电子设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112685633A (zh) | 一种基于召回模型和预测模型的信息推荐方法及*** | |
| Xie et al. | Deep feedback network for recommendation | |
| CN107423442B (zh) | 基于用户画像行为分析的应用推荐方法及***，储存介质及计算机设备 | |
| WO2017071251A1 (zh) | 信息推送方法和装置 | |
| CN111339433B (zh) | 基于人工智能的信息推荐方法、装置、电子设备 | |
| EP2817970B1 (en) | Automatically recommending content | |
| CN109684538A (zh) | 一种基于用户个人特征的推荐方法及推荐*** | |
| Wang et al. | A new collaborative filtering recommendation approach based on naive Bayesian method | |
| CN105159910A (zh) | 信息推荐方法和装置 | |
| CN114637911B (zh) | 一种注意力融合感知网络的下一个兴趣点推荐方法 | |
| CN112364245B (zh) | 基于异构信息网络嵌入的Top-K电影推荐方法 | |
| CN111814056A (zh) | 基于信息处理的供应商推荐方法及相关设备 | |
| WO2024041483A1 (zh) | 一种推荐方法及相关装置 | |
| CN115147192A (zh) | 基于双视角纠偏的推荐方法及推荐*** | |
| Shinde et al. | A new approach for on line recommender system in web usage mining | |
| CN118101980A (zh) | 一种基于实时内容推荐算法的短视频直播自动导流*** | |
| CN108182600A (zh) | 一种根据加权计算来确定扩展用户的方法和*** | |
| CN111966885B (zh) | 一种用户画像的构建方法和装置 | |
| CN117131261A (zh) | 基于ai和大数据分析的电商内容推荐*** | |
| WO2023087933A1 (zh) | 内容推荐方法、装置、设备、存储介质及程序产品 | |
| CN115618079A (zh) | 会话推荐方法、装置、电子设备及存储介质 | |
| Pan et al. | Learning and Optimization of Implicit Negative Feedback for Industrial Short-video Recommender System | |
| Saha et al. | Crpp: Competing recurrent point process for modeling visibility dynamics in information diffusion | |
| Sun et al. | DSMN: A personalized information retrieval algorithm based on improved DSSM | |
| CN115481325A (zh) | 基于用户全局兴趣迁移感知的个性化新闻推荐方法及*** |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210420 |