CN110619540A - 一种神经网络的点击流预估方法 - Google Patents

Abstract

一种神经网络的点击流预估方法，包括如下步骤：1)收集大量用户历史行为数据，数据包括对点击流预估可能有帮助的特征，比如广告商品信息、用户信息、上下文信息和店铺信息等4类数据，以此为基础构建数据集。2)构建关联特征的权值矩阵分解交叉神经网络模型，该模型包括逻辑斯蒂块，词嵌入块，词嵌入向量权值交叉块以及隐藏层块。3)将数据集切分成小块依次输入到关联特征的权值矩阵分解交叉神经网络中利用反向传播Adam算法更新参数，直到其满足早停条件收敛。4)将训练好的模型在实际***中完成用户对广告商品的点击预测。本发明通过词嵌入技术将相对高维的数据映射到低维的词向量中，不仅减少计算量，又方便神经网络的学习。

Description

一种神经网络的点击流预估方法

技术领域

本发明涉及计算广告领域的用户行为预测与分析，特别涉及一种基于关联特征的权值矩阵分解交叉神经网络的大规模数据预测分类方法属于点击流预估领域。

背景技术

点击流(click-through rate,CTR)预估计算广告领域中最具有挑战性和最具价值的技术之一。它的目的是根据历史数据预测某一个广告被点击的可能性。

在线广告是大多数互联网公司的主要收入来源。在广告***中，广告的排名是由广告的出价和点击率决定的。正确预估流至关重要，这决定了大多数互联网公司的收入。我们需要在给定的场景中(比如电子商务平台)预测用户点击某一个广告商品条目(比如广告商品和店铺)的可能性。不同于视频和音频等连续数据，通常我们获得用户历史行为数据是离散的。同时大多数这些数据(比如用户的年龄、性别和居住城市等。)是多类别且非连续的。当我们想要构建一个机器学习***来处理这些数据，通常的做法是使用one-hot编码，将这些离散的数据转换成多维稀疏的表示。在实际应用中，学习特征的关联能能有效提高机器学习模型的性能，但这样需要专业的领域知识和大量的人力来构建人工特征。

传统的点击流预估方法主要是基于机器学习的方法：逻辑斯蒂回(logisticregression,LR)、朴素贝叶斯(naive bayes)和梯度提升树(gradient boosting decisiontree,GBDT)等。然而传统的浅层机器学习模型需要大量人为的特征工程才能达到比较理想的精度。近年来，随着深度学习技术的发展，基于多层神经网络的深度学习技术也被应用于点击流预估领域。深度学习模型能够自动拟合数据高维信息，从而减少人为特征工程量同时能提高预测准确度。但是经过one-hot编码后，多维稀疏数据不适合直接作为多层神经网络的输入。

为了构建一个有效的机器学习模型对稀疏特征进行预测，机器学习模型需要能学习特征间的关联信息，这是非常重要的。在实际中，特征交叉已经被证实是一种能够提高预测精度的有效方式。在数据挖掘比赛(Kaggle)中,许多成功的方法大量依赖人为的特征交叉工程。然而人工特征工程耗时耗力并且需要专业的领域知识，在实际应用中成功部署一个模型需要大量的成本。因此，机器学习模型自动学习特征间的潜在关联信息具有实际的价值。

发明内容

为了解决现有点击流预估技术存在的精度低，需要大量人为特征工程等问题，本发明提供了一种神经网络的点击流预估方法。

本发明设计基于词嵌入(word embedding)方法的多层全连接神经网络模型。在深度模型的基础上引入了模型宽度部分(Cheng HT,Koc L,Harmsen J,Shaked T,Chandra T,Aradhye H,Anderson G,Corrado G,Chai W,Ispir M,et al.In Proceedings of the 1stWorkshop on Deep Learning for Recommender Systems,2016)，以便更好的学习数据的低阶信息。通过对词嵌入向量进行基于词嵌入向量内积的权值交叉处理以改进模型深度部分的多层全连接神经网络，模型能够更好的捕获特征之间的潜在关联信息以提高模型的预测的精度。

本发明解决其技术问题所采用的技术方案是：

一种神经网络的点击流预估方法，利用词嵌入向量来表示每一个特征，再使用权值交叉层获取特征之间的关联信息，最后将权值交叉层的结果作为多层神经网络的输入以学习数据高维信息，所述方法包括以下几个步骤：

步骤1.收集大量用户历史行为数据，数据包括对点击流预估可能有帮助的特征，比如广告商品信息、用户信息、上下文信息和店铺信息等4类数据，以此为基础构建数据集。

步骤2.构建关联特征的权值矩阵分解交叉神经网络模型，该模型包括逻辑斯蒂块，词嵌入块，词嵌入向量权值交叉块以及隐藏层块。

关联特征的权值矩阵分解交叉神经网络包括宽度模块和深度模块。最终输出结果为宽度模块的输出加上深度模块的输出。宽度模块是逻辑斯蒂回归方法，主要是为了弥补深度部分的不足。深度部分是由词嵌入层、权值交叉层与多层神经网络组成。

词嵌入层包括一系列由每个特征对应的低维连续的词嵌入向量构成。通常，我们定义一系列由词向量z的对应的索引集合χ，词嵌入层的计算结果表示为ε＝{z_ix_i}_i∈χ。

权值交叉层包括词嵌入向量点积模块和点击向量的权值向量，由权值向量的内积作为词嵌入向量点积的权值。通过内积操作我们得到一些列向量，可以表示为：

⊙表示两个向量的内积操作，(v_i⊙v_j)_k＝v_ikv_jk。权值交叉可以表示为：

公式中是一个k维向量，是一个u维向量，表示特征交叉的权值。权值交叉层的输出结果表示为：

h₀＝[c₁,c₂,...,c_m] (3)

多层神经网络由一系列全连接神经网络层，每个块都使用ReLu激活函数。将权值交叉层得到的结果作为多层神经网络的输入。每一层的神经网络可以表示为：

h_l+1＝σ(w_lh_l+b_l) (4)

l表示神经网络的层数，σ表示激活函数。和分别表示第l层的输出结果、权重和偏差。

将宽度部分的计算结果加上多层神经网络结果经Sigmod激活函数得到最后预测结果。关联特征的权值矩阵分解交叉神经网络可以表示为：

步骤3.网络训练，过程如下：

将训练数据分为训练集T、验证集V以及测试集T。

随机初始化词嵌入特征向量、权值向量以及多层神经网络的权值和偏差。

将训练集T、验证集V以及测试集T的数据经过one-hot处理后分批输入到网络中。

点击流预估任务普遍采用log loss损失函数作为目标函数。目标函数定义如下：

χ表示所有训练数据x的集合，y(x)表示每一个数据预测的真实值，σ(y(x))表示关联特征的权值矩阵分解交叉神经网络模型的预测值。关联特征的权值矩阵分解交叉神经网络的参数包括词嵌入向量、权值向量以及多层全连接神经网络中的超参数。

计算训练集T的log loss损失函数值，根据反向传播算法更新词嵌入特征向量、权值向量和多层神经网络的权值和偏差。

计算验证集V的log loss损失函数值，判定模型是否收敛，如果收敛模型训练结束否则进入下一批训练集T上的数据进行训练直到验证集V上的log loss损失函数值趋向收敛。最后用测试集T验证模型的精确度。

步骤4.用户点击流预估测试，过程如下：

将数据经过one-hot编码后输入到关联特征的权值矩阵分解交叉神经网络中得到输出结果。设定阈值T，将关联特征的权值矩阵分解交叉神经网络中的预测结果根据阈值T得到预测的分类结果。比较用户实际的点击行为和预测结果，根据点击流预估的评价准则计算预测用户点击行为的平均准确率。

经过上述步骤的操作，即可实现对用户点击流的预测。

本发明的效果和益处是：本发明提出一种基于关联特征的权值矩阵分解交叉神经网络的点击流预估方法，将数据经过one-hot编码之后，通过词嵌入技术将相对高维的数据映射到低维的词向量中，不仅减少计算量，又方便神经网络的学习；而权值交叉层能有效的学习特征之间的关联信息，最后利用多层神经网络学习特征之间高层次的信息

附图说明

图1是本发明的基于关联特征的权值矩阵分解交叉神经网络模型结构图。

图2是本发明的基于神经网络方法点击流预估方法的步骤。

图3是本发明的关联特征的权值矩阵分解交叉神经网络部署的流程图。

具体实施方式

为了更好的说明本发明的技术方案，下面结合附图，通过一个实施例，对本发明做进一步说明。

一种基于关联特征的权值矩阵分解交叉神经网络方法，包括如下步骤：

步骤1.取MovieLens数据集(Harper FM,Konstan JA.The movielens datasets:History and context.In Acm transactions on interactive intelligent systems)中数据分别构造训练集和测试集，该数据集包含来自(internet movie database,IMDB)用户对电影评分数据被广泛应用作为推荐***测试数据。

步骤2.根据图1所示，建立关联特征的权值矩阵分解交叉神经网络模型。如图1所示，该模型包括宽度部分和深度部分。模型的宽度部分是逻辑斯蒂回归模型。模型深度部分的设计思路如图2所示。经过one-hot编码后的稀疏数据作为该模型的输入，接着将高维的稀疏数据转化为相对低维的词嵌入向量来表示，然后使用权值交叉对词嵌入向量进行融合，最后将融合后的结果输入到多层全连接神经网络得到最后结构。具体参数如下：词嵌入向量的维数k＝128,权值向量的维数u＝8,p＝1，隐藏层的层数l＝3,每一层依次有128、64、64个单元。

步骤3.将数据集切分成小块依次输入到关联特征的权值矩阵分解交叉神经网络中利用反向传播算法更新参数，每一个块的大小(batch size)包含4096条数据。具体步骤如图3所示，首先对词嵌入向量、权值向量、全连接的神经网络进行期望值μ＝0、方差σ＝1正太分布初始化。然后将每一块的训练数据，依次输入到模型中，利用反向传播算法更新词嵌入向量、权值向量和全连接神经网络中的参数。每个训练回合结束时，计算验证集上的验证误差，当满足早停条件(early stopping)时，即连续5个回合验证集误差都上升就停止训练。为了防止过拟合，训练过程中为了防止过拟合，采用dropout技术分别对词嵌入向量和多层全连接神经网络处理，dropout率取0.3即保留70％单元。训练过程中使用Adam算法对模型进行训练，学习率取0.001.

步骤4.将训练好的模型在测试集上完成用户对电影的喜好预测。

本说明书实施例所述的内容仅仅是对发明构思的实现形式的列举，本发明的保护范围不应当被视为仅限于实施例所陈述的具体形式，本发明的保护范围也及于本领域技术人员根据本发明构思所能够想到的等同技术手段。

Claims (3)

1.一种神经网络的点击流预估方法，包括以下步骤：

步骤1.收集大量用户历史行为数据，数据包括对点击流预估可能有帮助的特征，即广告商品信息、用户信息、上下文信息和店铺信息4类数据，以此为基础构建数据集；

步骤2.构建关联特征的权值矩阵分解交叉神经网络模型，包括逻辑斯蒂块，词嵌入块，词嵌入向量权值交叉块以及隐藏层块；

关联特征的权值矩阵分解交叉神经网络包括宽度模块和深度模块；最终输出结果为宽度模块的输出加上深度模块的输出；宽度模块是逻辑斯蒂回归方法，主要是为了弥补深度部分的不足；深度部分是由词嵌入层、权值交叉层与多层神经网络组成；

词嵌入层包括一系列由每个特征对应的低维连续的词嵌入向量构成；定义一系列由词向量z的对应的索引集合词嵌入层的计算结果表示为

权值交叉层包括词嵌入向量点积模块和点击向量的权值向量，由权值向量的内积作为词嵌入向量点积的权值；通过内积操作得到一些列向量，可以表示为：

⊙表示两个向量的内积操作，(v_i⊙v_j)_k＝v_ikv_jk；权值交叉可以表示为：

公式中是一个k维向量，是一个u维向量，表示特征交叉的权值；权值交叉层的输出结果表示为：

h₀＝[c₁,c₂,...,c_m] (3)

多层神经网络由一系列全连接神经网络层，每个块都使用ReLu激活函数；将权值交叉层得到的结果作为多层神经网络的输入；每一层的神经网络可以表示为：

h_l+1＝σ(w_lh_l+b_l) (4)

l表示神经网络的层数，σ表示激活函数；和分别表示第l层的输出结果、权重和偏差；

将宽度部分的计算结果加上多层神经网络结果经Sigmod激活函数得到最后预测结果；关联特征的权值矩阵分解交叉神经网络可以表示为：

步骤3.网络训练，过程如下：

将训练数据分为训练集T、验证集V以及测试集T；

随机初始化词嵌入特征向量、权值向量以及多层神经网络的权值和偏差；

将训练集T、验证集V以及测试集T的数据经过one-hot处理后分批输入到网络中；

点击流预估任务普遍采用logloss损失函数作为目标函数；目标函数定义如下：

χ表示所有训练数据x的集合，y(x)表示每一个数据预测的真实值，σ(y(x))表示关联特征的权值矩阵分解交叉神经网络模型的预测值；关联特征的权值矩阵分解交叉神经网络的参数包括词嵌入向量、权值向量以及多层全连接神经网络中的超参数；

计算训练集T的log loss损失函数值，根据反向传播算法更新词嵌入特征向量、权值向量和多层神经网络的权值和偏差；

计算验证集V的logloss损失函数值，判定模型是否收敛，如果收敛模型训练结束否则进入下一批训练集T上的数据进行训练直到验证集V上的log loss损失函数值趋向收敛；最后用测试集T验证模型的精确度；

步骤4.用户点击流预估测试，过程如下：

将数据经过one-hot编码后输入到关联特征的权值矩阵分解交叉神经网络中得到输出结果；设定阈值T，将关联特征的权值矩阵分解交叉神经网络中的预测结果根据阈值T得到预测的分类结果；比较用户实际的点击行为和预测结果，根据点击流预估的评价准则计算预测用户点击行为的平均准确率。

2.根据权利要求1所描述的神经网络的点击流预估方法，其特征在于：所述步骤1所述的词嵌入向量的维度为128、权值向量的维度为8。

3.根据权利要求1所描述的一种神经网络的点击流预估方法，其特征在于：所述步骤3所述的训练网络，隐藏层的深度为3，每一层分别含有128、64和64个单元。