CN113793184A - 点击通过率预估方法、装置、设备及存储介质 - Google Patents

点击通过率预估方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN113793184A
CN113793184A CN202111095585.6A CN202111095585A CN113793184A CN 113793184 A CN113793184 A CN 113793184A CN 202111095585 A CN202111095585 A CN 202111095585A CN 113793184 A CN113793184 A CN 113793184A
Authority
CN
China
Prior art keywords
feature
ctr
click
data
characteristic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111095585.6A
Other languages
English (en)
Inventor
刘欢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Puhui Enterprise Management Co Ltd
Original Assignee
Ping An Puhui Enterprise Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Puhui Enterprise Management Co Ltd filed Critical Ping An Puhui Enterprise Management Co Ltd
Priority to CN202111095585.6A priority Critical patent/CN113793184A/zh
Publication of CN113793184A publication Critical patent/CN113793184A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241Advertisements
    • G06Q30/0242Determining effectiveness of advertisements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Accounting & Taxation (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • Finance (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请涉及AI技术领域,并公开了一种点击通过率预估方法、装置、设备及存储介质;通过将与目标用户相关联的特征数据输入预设的CTR预估模型,得到所述特征数据与待选对象的特征之间的关联特征向量;基于注意力机制和所述CTR预估模型的特征交互层,得到交互特征向量;基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量;将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。提高了CTR预测的准确性。

Description

点击通过率预估方法、装置、设备及存储介质
技术领域
本申请涉及AI技术领域,尤其涉及一种点击通过率预估方法、装置、设备及存储介质。
背景技术
点击通过率(Click-Through-Rate,CTR)是指网络广告的点击到达率,对预估广告场景中推荐***的性能起着非常重要的作用。
目前,常采用CTR预估模型进行CTR预估,常见的CTR预估模型是在稀疏特征数据的基础上,基于相同的特征数据权重训练而成的。但是,由于CTR是由多个特征数据相互影响与制约且不同特征数据对CTR的影响权重不同。导致现有的CTR预估模型存在较大的预估误差。
发明内容
本申请提供了一种点击通过率预估方法、装置、设备及存储介质,通过在CTR预估模型中引入特征交互层和特征融合层,得到与目标用户相关联的特征数据的权重特征向量,进而基于各特征数据和各特征数据的权重特征向量进行CTR预测,提高了CTR预测的准确性。
第一方面,本申请提供了一种点击通过率预估方法,所述点击通过率预估方法包括:
获取目标数据,根据所述目标数据确定与目标用户相关联的特征数据;
将所述特征数据输入预设的CTR预估模型,基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量;
基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量;
基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量;
将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。
第二方面,本申请还提供了一种点击通过率预估装置,包括:
确定模块,用于获取目标数据,根据所述目标数据确定与目标用户相关联的特征数据;
得到模块,用于将所述特征数据输入预设的CTR预估模型,基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量;
处理模块,用于基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量;
第一分析模块,用于基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量;
第二分析模块,用于将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。
第三方面,本申请还提供了一种点击通过率预估设备,包括:
存储器和处理器;
所述存储器用于存储计算机程序;
所述处理器,用于执行所述计算机程序并在执行所述计算机程序时实现如上第一方面所述的点击通过率预估方法的步骤。
第四方面,本申请还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时使所述处理器实现如上第一方面所述的点击通过率预估方法的步骤。
本申请公开了一种点击通过率预估方法、装置、设备及存储介质,首先通过确定与目标用户相关联的特征数据,将所述特征数据输入预设的CTR预估模型,基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量;然后基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量;再基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量;最后将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。实现了在CTR预估模型中引入特征交互层和特征融合层,得到与目标用户相关联的特征数据的权重特征向量,进而基于各特征数据和各特征数据的权重特征向量进行CTR预测,提高了CTR预测的准确性。
附图说明
为了更清楚地说明本申请实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的点击通过率预估方法的实现流程图;
图2是图1中S102的具体实现流程图;
图3是图1中S103的具体实现流程图;
图4是图1中S104的具体实现流程图;
图5是本申请实施例提供的点击通过率预估装置的结构示意图;
图6是本申请实施例提供的点击通过率预估设备的结构示意性框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
附图中所示的流程图仅是示例说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解、组合或部分合并,因此实际执行的顺序有可能根据实际情况改变。
应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
本申请的实施例提供了一种点击通过率预估方法、装置、设备及存储介质。本申请实施例提供的点击通过率预估方法,首先通过确定与目标用户相关联的特征数据,将所述特征数据输入预设的CTR预估模型,基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量;然后基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量;再基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量;最后将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。实现了在CTR预估模型中引入特征交互层和特征融合层,得到与目标用户相关联的特征数据的权重特征向量,进而基于各特征数据和各特征数据的权重特征向量进行CTR预测,提高了CTR预测的准确性。
下面结合附图,对本申请的一些实施方式作详细说明。在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
请参阅图1,图1是本申请一实施例提供的点击通过率预估方法的示意流程图。该点击通过率预估方法可以由服务器或者终端实现,所述服务器可以是单个服务器或者服务器集群。所述终端可以是手持终端、笔记本电脑、可穿戴设备或者机器人等。
如图1所示,图1是本申请实施例提供的点击通过率预估方法的实现流程图。具体包括:步骤S101至步骤S105。详述如下:
S101,获取目标数据,根据所述目标数据确定与目标用户相关联的特征数据。
其中,所述目标数据包括目标用户在预设时长内浏览待选对象的数据。具体地,预设时长包括历史时间段和当前时刻,由于不同的用户在不同时间段内对待选对象(商品)的点击习惯不同;例如,用户在晚上进行待选对象点击时,可能会对待选对象进行较长时间的预览;在中午或者白天工作时间段内点击待选对象时,对待选对象可能进行较短时间的预览;或者选择在固定的时间段内点击浏览固定对象等。在本申请的实施例中,为了确定与目标用户相关联的特征数据,从多维度对用户点击浏览待选对象的数据进行了分析。具体地,预设的多维度包括用户行为特征维度、用户属性特征维度和上下文描述满意度维度。
示例性地,所述根据所述目标数据确定与目标用户相关联的特征数据,包括:根据目标用户在预设时长内浏览待选对象的数据,确定目标用户的点击行为特征、用户属性特征和上下文描述满意度;其中,所述点击行为特征、所述用户属性特征和所述上下文描述满意度为与所述目标用户相关联的特征数据。
其中,可以根据用户登录标识信息,如用户名、手机号等获取目标用户在预设时长内浏览待选对象的数据;具体地,浏览待选对象的数据包括:商品名称、浏览时间、点击次数、每个商品浏览周期等;示例性地,根据商品名称,获取用户属性特征;根据每类商品浏览周期和点击次数,确定用户点击行为特征;根据用户点击次数和浏览时间确定上下文描述满意度。需要说明的是,在本申请的实施例中,上下文描述满意度指待选对象对应的文本或图像描述特征。
例如,假设用户浏览商品名称为母婴类产品,则可以确定用户属性特征为需要母婴类产品的人群;假设用户浏览商品的周期是以小时为单位,且在同一周期内,多次点击同类别商品,则确定用户点击行为特征为持续性点击该类别商品;假设用户对某产品的点击次数达到点击次数阈值,且浏览该产品的时长达到预设时长,则确定上下文描述满意度为满意等。
S102,将所述特征数据输入预设的CTR预估模型,基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量。
其中,所述CTR预估模型的隐藏层(Embedding Layer)为单个隐藏层,该隐藏层能够将输入的特征数据进行抽象处理,抽象到所述待选对象的特征维度,进一步在所述待选对象的特征维度,将抽象特征与待选对象的特征进行关联度分析,得到各抽象特征与待选对象的特征之间的关联度;以各关联度为所述关联特征向量的特征值。
具体地,在本申请的实施例中,输入预设的CTR预估模型的特征数据包括点击行为特征、用户属性特征和上下文描述满意度特征;对应地,所述CTR预估模型的隐藏层需要分别将点击行为特征、用户属性特征和上下文描述满意度特征与待选对象的特征进行关联度分析。
示例性地,如图2所示,图2是图1中S102的具体实现流程图。由图2可知,在本实施例中,S102包括S1021至S1024。详述如下:
S1021,基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述点击行为特征进行第一关联度分析,得到第二特征向量。
具体地,基于所述CTR预估模型的隐藏层将所述点击行为特征抽象到待选对象的特征维度,得到第一抽象特征,分析所述第一抽象特征与所述待选对象的特征之间的第一关联度,根据所述第一关联度得到第一特征向量。
S1022,基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述用户属性特征进行第二关联度分析,得到第二特征向量。
具体地,基于所述CTR预估模型的隐藏层将所述用户属性特征抽象到待选对象的特征维度,得到第二抽象特征,分析所述第二抽象特征与所述待选对象的特征之间的第二关联度,根据所述第二关联度得到第一特征向量。
S1023,基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述上下文描述满意度进行第三关联度分析,得到第三特征向量。
具体地,基于所述CTR预估模型的隐藏层将所述上下文描述满意度特征抽象到待选对象的特征维度,得到第三抽象特征,分析所述第三抽象特征与所述待选对象的特征之间的第三关联度,根据所述第三关联度得到第一特征向量。
S1024,以所述第一特征向量、所述第二特征向量和所述第三特征向量为所述关联特征向量。
其中,所述待选对象的特征包括产品属性(如类别、用途、颜色、大小以及价位等用于表示产品属性的特征)。
S103,基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量。
在本申请的实施例中,在所述CTR预估模型的特征交互层之后连接有多头注意力机制。具体地,所述CTR预估模型的特征交互层通过横向标准化Layer Normalition所述关联特征向量中各关联特征的概率分布,根据所述概率分布计算得到各所述关联特征的均值和方差后,由多头注意力机制根据所述待选对象的特征、所述均值和方差,得到目标用户行为状态特征映射矩阵,进而目标用户行为状态特征映射矩阵,得到交互特征向量。
示例性地,请参阅图3所示,图3是图1中S103的具体实现流程图。由图3可知,在本实施例中,S103包括S1031与S1034。详述如下:
S1031,通过所述CTR预估模型的特征交互层对各所述关联特征进行分析,得到各所述关联特征的均值和方差。
在本实施例中,各所述关联特征包括第一特征向量中的第一关联特征、第二特征向量中的第二关联特征和第三特征向量中的第三关联特征。其中,第一关联特征指的是待选对象的特征与第一抽象特征之间的第一关联度;第二关联特征指的是待选对象的特征与第二抽象特征之间的第二关联度;第三关联特征指的是待选对象的特征与第三抽象特征之间的第三关联度。
所述通过所述CTR预估模型的特征交互层对各所述关联特征进行分析,得到各所述关联特征的均值和方差,包括:通过所述CTR预估模型的特征交互层,分别确定各所述关联特征的概率分布;对各所述所述概率分布进行横向标准化处理,得到各所述关联特征的均值和方差。
S1032,基于多头注意力机制对所述待选对象的特征与所述均值和方差进行关联映射分析,得到所述目标用户行为状态特征映射矩阵。
其中,所述多头注意力机制将所述待选对象的特征进行多角度语义分析后,得到所述待选对象的特征与所述均值和方差在多角度上的关联信息,生成所述关联信息对应的矩阵,所述关联信息对应的矩阵为所述目标用户行为状态特征映射矩阵。
S1033,根据所述行为状态映射矩阵确定用户行为状态特征与所述待选对象的特征之间的关联度。
可选地,所述根据所述行为状态映射矩阵确定用户行为状态特征与所述待选对象的特征之间的关联度,可以包括:将所述行为状态特征映射矩阵输入所述CTR预估模型的前馈网络进行聚合分析,得到所述目标用户的聚合行为状态;将所述聚合行为状态和所述待选对象的特征代入第一公式,计算用户行为状态特征与所述待选对象的特征之间的关联度。
其中,所述第一公式可以表示为:
Figure BDA0003269005580000081
其中,at表示t时刻用户行为状态特征与待选对象的特征之间的关联度,γ(Vt)表示t时刻的聚合行为状态,Vt表示t时刻用户的行为状态特征。
具体地,
Figure BDA0003269005580000082
其中,wt表示待选对象的特征;
Figure BDA0003269005580000083
表示t时刻之前用户行为状态特征。
S1034,根据各所述用户行为状态特征与所述待选对象的特征之间的关联度,得到所述交互特征向量。
其中,交互特征向量可以表示为:
Figure BDA0003269005580000084
其中,at表示t时刻用户行为状态特征与待选对象的特征之间的关联度,Vt表示t时刻用户的行为状态特征。
S104,基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量。
其中,所述CTR预估模型的特征融合层首先将各个所述交互特征向量进行合并,生成高阶特征向量;进一步,计算所述高阶特征向量中各个交互特征对备选商品的影响权重值,根据所述影响权重值得到所述预设维度特征数据的权重特征向量。
示例性地,请参阅图4所示,图4是图1中S104的具体实现流程图。由图4可知,在本实施例中,S104包括S1041至S1043,详述如下:
S1041,基于所述CTR预估模型的特征融合层将各个所述交互特征向量进行合并,生成高阶特征向量。
S1042,将各个所述交互特征向量中各交互特征代入第二公式,计算各所述交互特征对所述待选对象的影响权重值。
S1043,将所述影响权重值与各个所述交互特征进行相乘,得到各权重特征值,根据各所述权重特征值生成所述权重特征向量。
所述第二公式可以表示为:
Figure BDA0003269005580000091
其中,Rg表示交互特征对备选商品的影响权重值,i表示合并得到的高阶特征向量包含的交互特征数,rl表示第l个交互特征数据,wl表示第l个交互特征数据对应的敏感度,
Figure BDA0003269005580000092
为预设的加权参数。
S105,将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。
具体地,所述CTR预估模型的深度网络层包括深度学习网络、损失函数和结果输出层;通过所述深度学习网络对所述权重特征向量和所述预设维度特征数据进行学习,若所述损失函数的值小于预设阈值,则停止学习,通过所述结果输出层输出点击率预测结果。具体地,可以以交叉熵作为所述损失函数。
通过上述分析可知,本实施例提供的点击通过率预估方法,首先通过确定与目标用户相关联的特征数据,将所述特征数据输入预设的CTR预估模型,基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量;然后基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量;再基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量;最后将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。实现了在CTR预估模型中引入特征交互层和特征融合层,得到与目标用户相关联的特征数据的权重特征向量,进而基于各特征数据和各特征数据的权重特征向量进行CTR预测,提高了CTR预测的准确性。
请参阅图5所示,图5是本申请实施例提供的点击通过率预估装置的结构示意图。该点击通过率预估装置500用于执行图1实施例所示的点击通过率预估方法的步骤。该点击通过率预估装置500可以是单个服务器或服务器集群,或者该点击通过率预估装置500可以是终端,该终端可以是手持终端、笔记本电脑、可穿戴设备或者机器人等。
如图5所示,点击通过率预估装置500包括:
确定模块501,用于获取目标数据,根据所述目标数据确定与目标用户相关联的特征数据;
得到模块502,用于将所述特征数据输入预设的CTR预估模型,基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量;
处理模块503,用于基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量;
第一分析模块504,用于基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量;
第二分析模块505,用于将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。
在一实施例中,所述目标数据包括目标用户在预设时长内浏览待选对象的数据;确定模块501,具体用于:
根据目标用户在预设时长内浏览待选对象的数据,确定目标用户的点击行为特征、用户属性特征和上下文描述满意度;
其中,所述点击行为特征、所述用户属性特征和所述上下文描述满意度为与所述目标用户相关联的特征数据。
在一实施例中,得到模块502,包括:
第一得到单元,用于基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述点击行为特征进行关联度分析,得到第一特征向量;
第二得到单元,用于基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述用户属性特征进行关联度分析,得到第二特征向量;
第三得到单元,用于基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述上下文描述满意度进行关联度分析,得到第三特征向量;
关联特征向量单元,用于以所述第一特征向量、所述第二特征向量和所述第三特征向量为所述关联特征向量。
在一实施例中,处理模块503,包括:
第四得到单元,用于通过所述CTR预估模型的特征交互层对各所述关联特征进行分析,得到各所述关联特征的均值和方差;
第五得到单元,用于基于多头注意力机制对所述待选对象的特征与所述均值和方差进行关联映射分析,得到所述目标用户行为状态特征映射矩阵;
确定单元,根据所述行为状态映射矩阵确定用户行为状态特征与所述待选对象的特征之间的关联度;
第六得到单元,用于根据各所述用户行为状态特征与所述待选对象的特征之间的关联度,得到所述交互特征向量。
在一实施例中,所述确定单元,具体用于:
将所述行为状态特征映射矩阵输入所述CTR预估模型的前馈网络进行聚合分析,得到所述目标用户的聚合行为状态;
将所述聚合行为状态和所述待选对象的特征代入第一公式,计算用户行为状态特征与所述待选对象的特征之间的关联度。
在一实施例中,第一分析模块504,包括:
第一生成单元,用于基于所述CTR预估模型的特征融合层将各个所述交互特征向量进行合并,生成高阶特征向量;
计算单元,用于将各个所述交互特征向量中各交互特征代入第二公式,计算各所述交互特征对所述待选对象的影响权重值;
第二生成单元,用于将所述影响权重值与各个所述交互特征进行相乘,得到各权重特征值,根据各所述权重特征值生成所述权重特征向量。
在一实施例中,所述第二公式表示为:
Figure BDA0003269005580000111
其中,Rg表示交互特征对备选商品的影响权重值,i表示合并得到的高阶特征向量包含的交互特征数,rl表示第l个交互特征数据,wl表示第l个交互特征数据对应的敏感度,
Figure BDA0003269005580000112
为预设的加权参数。
需要说明的是,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的点击通过率预估装置和各模块的具体工作过程,可以参考图1实施例所述的点击通过率预估方法实施例中的对应过程,在此不再赘述。
上述的点击通过率预估方法可以实现为一种计算机程序的形式,该计算机程序可以在如图5所示的装置上运行。
请参阅图6,图6是本申请实施例提供的点击通过率预估设备的结构示意性框图。该点击通过率预估设备600包括通过***总线连接的处理器、存储器和网络接口,其中,存储器可以包括非易失性存储介质和内存储器。
非易失性存储介质可存储操作***和计算机程序。该计算机程序包括程序指令,该程序指令被执行时,可使得处理器执行任意一种点击通过率预估方法。
处理器用于提供计算和控制能力,支撑整个计算机设备的运行。
内存储器为非易失性存储介质中的计算机程序的运行提供环境,该计算机程序被处理器执行时,可使得处理器执行任意一种点击通过率预估方法。
该网络接口用于进行网络通信,如发送分配的任务等。本领域技术人员可以理解,图6中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的终端的限定,具体的点击通过率预估设备600可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
应当理解的是,处理器可以是中央处理单元(Central Processing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
其中,在一个实施例中,所述处理器用于运行存储在存储器中的计算机程序,以实现如下步骤:
获取目标数据,根据所述目标数据确定与目标用户相关联的特征数据;
将所述特征数据输入预设的CTR预估模型,基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量;
基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量;
基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量;
将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。
在一实施例中,所述目标数据包括目标用户在预设时长内浏览待选对象的数据;所述根据所述目标数据确定与目标用户相关联的特征数据,包括:
根据目标用户在预设时长内浏览待选对象的数据,确定目标用户的点击行为特征、用户属性特征和上下文描述满意度;
其中,所述点击行为特征、所述用户属性特征和所述上下文描述满意度为与所述目标用户相关联的特征数据。
在一实施例中,所述基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量,包括:
基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述点击行为特征进行关联度分析,得到第一特征向量;
基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述用户属性特征进行关联度分析,得到第二特征向量;
基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述上下文描述满意度进行关联度分析,得到第三特征向量;
以所述第一特征向量、所述第二特征向量和所述第三特征向量为所述关联特征向量。
在一实施例中,所述基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量,包括:
通过所述CTR预估模型的特征交互层对各所述关联特征进行分析,得到各所述关联特征的均值和方差;
基于多头注意力机制对所述待选对象的特征与所述均值和方差进行关联映射分析,得到所述目标用户行为状态特征映射矩阵;
根据所述行为状态映射矩阵确定用户行为状态特征与所述待选对象的特征之间的关联度;
根据各所述用户行为状态特征与所述待选对象的特征之间的关联度,得到所述交互特征向量。
在一实施例中,所述根据所述行为状态映射矩阵确定用户行为状态特征与所述待选对象的特征之间的关联度,包括:
将所述行为状态特征映射矩阵输入所述CTR预估模型的前馈网络进行聚合分析,得到所述目标用户的聚合行为状态;
将所述聚合行为状态和所述待选对象的特征代入第一公式,计算用户行为状态特征与所述待选对象的特征之间的关联度。
在一实施例中,所述基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量,包括:
基于所述CTR预估模型的特征融合层将各个所述交互特征向量进行合并,生成高阶特征向量;
将各个所述交互特征向量中各交互特征代入第二公式,计算各所述交互特征对所述待选对象的影响权重值;
将所述影响权重值与各个所述交互特征进行相乘,得到各权重特征值,根据各所述权重特征值生成所述权重特征向量。
在一实施例中,所述第二公式表示为:
Figure BDA0003269005580000141
其中,Rg表示交互特征对备选商品的影响权重值,i表示合并得到的高阶特征向量包含的交互特征数,rl表示第l个交互特征数据,wl表示第l个交互特征数据对应的敏感度,
Figure BDA0003269005580000142
为预设的加权参数。
本申请的实施例中还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序中包括程序指令,所述处理器执行所述程序指令,实现本申请图1实施例提供的点击通过率预测方法的步骤。
其中,所述计算机可读存储介质可以是前述实施例所述的计算机设备的内部存储单元,例如所述计算机设备的硬盘或内存。所述计算机可读存储介质也可以是所述计算机设备的外部存储设备,例如所述计算机设备上配备的插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种点击通过率预估方法,其特征在于,所述方法包括:
获取目标数据,根据所述目标数据确定与目标用户相关联的特征数据;
将所述特征数据输入预设的CTR预估模型,基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量;
基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量;
基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量;
将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。
2.根据权利要求1所述的点击通过率预估方法,其特征在于,所述目标数据包括目标用户在预设时长内浏览待选对象的数据;所述根据所述目标数据确定与目标用户相关联的特征数据,包括:
根据目标用户在预设时长内浏览待选对象的数据,确定目标用户的点击行为特征、用户属性特征和上下文描述满意度;
其中,所述点击行为特征、所述用户属性特征和所述上下文描述满意度为与所述目标用户相关联的特征数据。
3.根据权利要求2所述的点击通过率预估方法,其特征在于,所述基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量,包括:
基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述点击行为特征进行关联度分析,得到第一特征向量;
基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述用户属性特征进行关联度分析,得到第二特征向量;
基于所述CTR预估模型的隐藏层对所述待选对象的特征和所述上下文描述满意度进行关联度分析,得到第三特征向量;
以所述第一特征向量、所述第二特征向量和所述第三特征向量为所述关联特征向量。
4.根据权利要求2或3任一项所述的点击通过率预估方法,其特征在于,所述基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量,包括:
通过所述CTR预估模型的特征交互层对各所述关联特征进行分析,得到各所述关联特征的均值和方差;
基于多头注意力机制对所述待选对象的特征与所述均值和方差进行关联映射分析,得到所述目标用户行为状态特征映射矩阵;
根据所述行为状态映射矩阵确定用户行为状态特征与所述待选对象的特征之间的关联度;
根据各所述用户行为状态特征与所述待选对象的特征之间的关联度,得到所述交互特征向量。
5.根据权利要求4所述的点击通过率预估方法,其特征在于,所述根据所述行为状态映射矩阵确定用户行为状态特征与所述待选对象的特征之间的关联度,包括:
将所述行为状态特征映射矩阵输入所述CTR预估模型的前馈网络进行聚合分析,得到所述目标用户的聚合行为状态;
将所述聚合行为状态和所述待选对象的特征代入第一公式,计算用户行为状态特征与所述待选对象的特征之间的关联度。
6.根据权利要求5所述的点击通过率预估方法,其特征在于,所述基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量,包括:
基于所述CTR预估模型的特征融合层将各个所述交互特征向量进行合并,生成高阶特征向量;
将各个所述交互特征向量中各交互特征代入第二公式,计算各所述交互特征对所述待选对象的影响权重值;
将所述影响权重值与各个所述交互特征进行相乘,得到各权重特征值,根据各所述权重特征值生成所述权重特征向量。
7.根据权利要求6所述的点击通过率预估方法,其特征在于,所述第二公式表示为:
Figure FDA0003269005570000031
其中,Rg表示交互特征对备选商品的影响权重值,i表示合并得到的高阶特征向量包含的交互特征数,rl表示第l个交互特征数据,wl表示第l个交互特征数据对应的敏感度,
Figure FDA0003269005570000032
为预设的加权参数。
8.一种点击通过率预估装置,其特征在于,包括:
确定模块,用于获取目标数据,根据所述目标数据确定与目标用户相关联的特征数据;
得到模块,用于将所述特征数据输入预设的CTR预估模型,基于所述CTR预估模型的隐藏层对所述特征数据进行分析,得到所述特征数据与待选对象的特征之间的关联特征向量;
处理模块,用于基于注意力机制和所述CTR预估模型的特征交互层,对所述待选对象的特征和所述关联特征向量进行交互处理,得到交互特征向量;
第一分析模块,用于基于所述CTR预估模型的特征融合层对所述交互特征向量进行融合分析,得到所述特征数据的权重特征向量;
第二分析模块,用于将所述权重特征向量和所述特征数据输入所述CTR预估模型的深度神经网络层进行分析,得到所述待选对象的点击通过率。
9.一种点击通过率预估设备,其特征在于,包括:
存储器和处理器;
所述存储器用于存储计算机程序;
所述处理器,用于执行所述计算机程序并在执行所述计算机程序时实现如权利要求1至7中任一项所述的点击通过率预估方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时使所述处理器实现如权利要求1至7中任一项所述的点击通过率预估方法的步骤。
CN202111095585.6A 2021-09-17 2021-09-17 点击通过率预估方法、装置、设备及存储介质 Pending CN113793184A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111095585.6A CN113793184A (zh) 2021-09-17 2021-09-17 点击通过率预估方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111095585.6A CN113793184A (zh) 2021-09-17 2021-09-17 点击通过率预估方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
CN113793184A true CN113793184A (zh) 2021-12-14

Family

ID=78878920

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111095585.6A Pending CN113793184A (zh) 2021-09-17 2021-09-17 点击通过率预估方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113793184A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116562357A (zh) * 2023-07-10 2023-08-08 深圳须弥云图空间科技有限公司 点击预测模型训练方法及装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116562357A (zh) * 2023-07-10 2023-08-08 深圳须弥云图空间科技有限公司 点击预测模型训练方法及装置
CN116562357B (zh) * 2023-07-10 2023-11-10 深圳须弥云图空间科技有限公司 点击预测模型训练方法及装置

Similar Documents

Publication Publication Date Title
CN110929206B (zh) 点击率预估方法、装置、计算机可读存储介质和设备
WO2021047593A1 (zh) 推荐模型的训练方法、预测选择概率的方法及装置
CN111815415B (zh) 一种商品推荐方法、***及设备
JP6649405B2 (ja) 分散コンピューティング・システム上でデータマイニング・タスクを実行するための計算リソースを推定するためのコンピュータ実装方法、コンピュータ・プログラム、およびシステム
Chan et al. Group LASSO for structural break time series
AU2017101862A4 (en) Collaborative filtering method, apparatus, server and storage medium in combination with time factor
US20220092446A1 (en) Recommendation method, computing device and storage medium
US11501107B2 (en) Key-value memory network for predicting time-series metrics of target entities
CN112085565A (zh) 基于深度学习的信息推荐方法、装置、设备及存储介质
CN110087228B (zh) 一种业务套餐的确定方法及装置
CN113657087B (zh) 信息的匹配方法及装置
CN113592593A (zh) 序列推荐模型的训练及应用方法、装置、设备及存储介质
US20220197978A1 (en) Learning ordinal regression model via divide-and-conquer technique
CN111190967B (zh) 用户多维度数据处理方法、装置及电子设备
CN113793184A (zh) 点击通过率预估方法、装置、设备及存储介质
CN104268217B (zh) 一种用户行为时间相关性的确定方法及装置
CN112632384B (zh) 针对应用程序的数据处理方法、装置、电子设备和介质
CN115222112A (zh) 一种行为预测方法、行为预测模型的生成方法及电子设备
CN112256768B (zh) 模型离线训练评估方法、装置、介质和电子设备
CN113360744B (zh) 媒体内容的推荐方法、装置、计算机设备和存储介质
CN114298734A (zh) 一种基于多任务学习的互联网在线广告精准投放方法
CN114139059A (zh) 资源推荐模型的训练方法、资源推荐方法及装置
CN112115365B (zh) 模型协同优化的方法、装置、介质和电子设备
CN113793160B (zh) 投放数据处理方法、装置、设备及存储介质
US20240119295A1 (en) Generalized Bags for Learning from Label Proportions

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination