CN110390561A - 基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置 - Google Patents

基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置 Download PDF

Info

Publication number
CN110390561A
CN110390561A CN201910598139.3A CN201910598139A CN110390561A CN 110390561 A CN110390561 A CN 110390561A CN 201910598139 A CN201910598139 A CN 201910598139A CN 110390561 A CN110390561 A CN 110390561A
Authority
CN
China
Prior art keywords
user
financial product
gradient
convergence
momentum
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910598139.3A
Other languages
English (en)
Other versions
CN110390561B (zh
Inventor
冯锦刚
秦雯
罗辛
廖殷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yirong Station Information Technology Shenzhen Co ltd
Original Assignee
Sichuan Jinzan Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sichuan Jinzan Technology Co Ltd filed Critical Sichuan Jinzan Technology Co Ltd
Priority to CN201910598139.3A priority Critical patent/CN110390561B/zh
Publication of CN110390561A publication Critical patent/CN110390561A/zh
Application granted granted Critical
Publication of CN110390561B publication Critical patent/CN110390561B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/15—Correlation function computation including computation of convolution operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0201—Market modelling; Market analysis; Collecting market data
    • G06Q30/0202—Market predictions or forecasting for commercial activities
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Pure & Applied Mathematics (AREA)
  • Strategic Management (AREA)
  • Mathematical Optimization (AREA)
  • Finance (AREA)
  • Development Economics (AREA)
  • Accounting & Taxation (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Software Systems (AREA)
  • Algebra (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Technology Law (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)

Abstract

本发明公开了一种基于动量加速随机梯度下降的用户‑金融产品选用倾向高速预测方法和装置，该预测方法包括：采集用户‑金融产品评分数据并将其构建为|M|行、|N|列的评分矩阵；构建并初始化隐特征矩阵，并构建求解目标函数；决定出当前更新收敛速度最快的决策参数梯度；判定预测模型对梯度的限制参数是否满足条件；判断预测模型是否达到收敛；预测模型达到收敛后，输出训练得到的隐特征矩阵；将得到的隐特征矩阵用于预测评分矩阵中的缺失值。本发明提供动量加速随机梯度下降的用户‑金融产品选用倾向高速预测结果，为用户提供个性化服务，为家庭金融电子商务平台中***快速提供安全、可靠、严谨的金融服务。

Description

基于动量加速随机梯度下降的用户-金融产品选用倾向高速 预测方法和装置
技术领域
本发明涉及计算机数据处理技术领域，特别地涉及一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置。
背景技术
随着计算机技术的日新月异和社会经济的活跃发展，金融电商平台已经深入了我们的生活。越来越多的用户通过金融电商平台来选择不同的金融产品进行投资，通常用户在金融平台上购买产品后都会通过投资汇报和个人体验对其进行相应的评价。因此，形成了以用户为主导的电商消费模式。但随着金融平台的日益成熟和金融产品的数量急剧增加，导致用户不能在众多的金融产品中来选择自己最心仪的产品。为了向用户提供精准的个性化服务，可将用户和金融产品间的关系用一个用户-金融产品评分矩阵来进行表示，其中用户评分的高低表示用户对该产品的认可程度的高低，通常用于衡量用户-金融产品关系的矩阵是一个高维度且极度稀疏的矩阵。
根据用户金融平台统计的历史评分，我们可以了解和分析用户对金融产品的偏好规律，在此基础上建立有效的用户-金融产品偏好预测模型。并通过用户对金融产品评分的仿真环境来模拟真实环境，从而为金融产品的营销策略提供重要的科学依据。
关于用户-金融产品偏好的预测方法已经实现，但这些方法在用户-金融产品构建的模型训练时间、预测精度等问题上都有明显不足，例如：在模型训练过程中，模型的训练时间花费很高且模型的预测精度较低，不能及时的为用户提供安全、可靠的高回报金融产品。但由于金融行业的特殊性，及时为用户提供高回报产品至关重要。因此，现有的方法在真实的金融相关的电商平台应用中存在很大弊端。
发明内容
本发明针对现有技术中存在的上述问题，提供一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置，能够根据用户对金融产品的历史评分实现：(1)对用户-金融产品评分矩阵的高精度预测；(2)对用户-金融产品评分矩阵的高速预测。
为解决上述技术问题，根据本发明的第一方面，提供一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置，该装置包括：
数据预处理模块：通过金融平台服务器收集数据，将数据处理成模型训练中可直接使用的数据格式，并将处理好的数据放入存储模块中；
数据存储模块，存储基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测过程中产生的临时变量值、初始化单元对应的值和最终训练得到的隐特征矩阵等数据；
数据初始化模块，从存储模块中获取用户-金融产品数据，初始化模型训练中所需的隐特征矩阵；
高速收敛方向选择模块，用于接收初始化的隐特征矩阵，并且在模型训练过程中确定高速收敛方向；
预测数据生成模块，用于高速预测特征数据，并将得到的特征预测数据存储到数据单元中；
数据输出模块，用于输出训练最终得到的隐特征并用得到的隐特征预测未知评分。
进一步，所述高速收敛方向选择模块包括接收对应初始化数据单元和高速收敛方向选择单元，所述接收对应初始化数据单元用于接收模型训练时所需的初始化数据；所述高速收敛方向选择单元用梯度自适应控制因子和衰减指数来控制梯度大小，通过当前梯度和累加梯度的线性组合得到当前决策参数收敛最快方向梯度，梯度控制参数β和梯度衰减指数γ保持为(0,1)区间的有效值。
进一步，所述数据输出模块包括输出隐特征单元和预测未知评分单元，所述输出隐特征单元用于输出训练最终得到的隐特征；预测未知评分单元用于预测未知评分根据输出隐特征单元得到的隐特征。
根据本发明所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置的优选方案，所述数据预处理模块包括：
数据接收单元从金融平台获取用户-金融产品相关数据，平台上的用户集合记为M，商品集合记为N，建立一个|M|行，|N|列的矩阵作为用户-金融产品评分矩阵R。
根据本发明所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置的优选方案，所述数据存储模块包括：
存储单元，用于将接收的评分数据以三元组的形式进行存储。三元组表示形式为U＝(m,n,r,)，其中m，n分别表示用户-金融产品关系矩阵中的用户和金融产品，r表示评分，即用户m对金融产品n的评分。用户和金融产品的特征数据以矩阵形式存储为两个隐特征矩阵B和J，并且这两个隐特征矩阵具有相同的特征维度f。
根据本发明所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置的优选方案，初始化单元用户初始化基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测过程中涉及的相关参数，具体包括：
初始化两个隐特征矩阵B和J；初始化特征维度f；初始化累积梯度平衡控制因子β；初始化梯度衰减指数γ；初始化收敛终止阈值τ；初始化最大训练迭代轮数L；初始化训练过程中迭代轮数控制变量l；初始化正则化因子λ2；其中特征维度f决定了每个隐特征矩阵的特征空间维度，初始化为正整数；两个隐特征矩阵B和J，即B为|M|行f列的隐特征矩阵、J为|N|行f列的隐特征矩阵，对于隐特征矩阵分别用随机较小的正数进行初始化；最大训练迭代轮数L是控制迭代过程上限的变量，初始化为较大的正整数；迭代轮数控制变量l初始化为0；收敛终止阈值τ是判断迭代过程是否已收敛的参数，用极小的正数初始化；正则化因子λ2是控制抽取迭代过程中，对应隐特征矩阵B和J相关元素的正则化效应的常数，初始化为较小的正数。根据本发明所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置的优选方案，用于结合已初始化的相关参数和构造高速收敛方向选择；具体包括：
根据用户-金融产品关系矩阵R中的已知评分数据集合Λ，构造目标损失函数表示如下：
其中R(Λ)表示用户-金融产品评分矩阵R中用户对金融产品已知评分数据集合；rm,n表示的含义为用户m和金融产品n之间的实体关系即为用户m对金融产品n的评分；表示已知评分数据集合Λ中用户m对商品n的评分；bm′表示用户隐特征矩阵B中第m个用户对应的隐特征；jn′表示金融产品隐特征矩阵J中第n个商品对应的隐特征。
为了增强模型的泛化性能，通常在目标损失函数中L2正则化项，使用L2正则化，对优化过程进行约束，防止优化过程中出现过拟合的问题。因此，向目标函数中加入L2正则化项之后，可得目标函数为：
其中R(Λ)表示用户-金融产品评分矩阵R中用户对金融产品已知评分数据集合；rm,n表示的含义为用户m和金融产品n之间的实体关系即为用户m和金融产品n的评分；表示已知评分数据集合Λ中用户m对金融产品n的评分；bm′表示用户隐特征矩阵B中第m个用户对应的隐特征；jn′表示金融产品隐特征矩阵J中第n个商品对应的隐特征。λ2表示隐特征矩阵的正则化参数,衡量L2正则化项对模型的限制效果。
控制B和J满足在集合上累积误差最小，使用高速收敛的随机梯度下降优化算法在上述累积误差上对矩阵B和J进行训练，得到矩阵B和J的全局最优解。在训练过程中通过对用户和金融产品隐特征高速更新方向的选择，根据梯度平衡因子和指数衰减因子实现之前梯度和当前更新梯度的线性组合，计算出当前的更新bm′和jn′收敛速度最快时对应的梯度值，公式表达式如下：
其中β为梯度平衡控制因子，γ为梯度衰减指数。参数κ(t)和参数ν(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小，它们分别由两部分组成：κ(t-1)和ν(t-1)对应决策参数之前更新的最终梯度和当前梯度累加值。参数κ(t-1)和参数ν(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的最终梯度大小，即为第t-2次更新时的最终梯度和第t-1次对应梯度的累加。其中bm,k和jn,k分别为bm′和jn′向量的第k个元素。和分别为第t次更新时当前梯度值。其表达式为：
根据本发明所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置的优选方案，用于高速预测数据生成；具体包括：
根据高速收敛方向选择单元可以计算出当前的更新bm′和jn′收敛速度最快时对应的梯度值，因此，可以得到基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的更新规则：
关于bm,k的更新公式如下：
关于jn,k的更新公式如下：
其中表示已知评分数据集合Λ中用户m对金融产品n的评分；β为梯度平衡控制因子；γ为梯度衰减指数；参数k(t)和参数ν(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小，它们分别由两部分组成：k(t-1)和ν(t-1)对应决策参数之前更新的最终梯度和当前梯度累加值。参数κ(t-1)和参数ν(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的最终梯度大小，即为第t-2次更新时的最终梯度和第t-1次对应梯度的累加。其中bm,k和jn,k分别为bm′和jn′向量的第k个元素。和分别为第t次更新时当前的梯度值。
在Λ上重复上述训练过程，直至在Λ上对收敛，收敛判定条件为训练迭代轮数控制变量r达到最大训练迭代轮数L，或者本轮迭代结束后计算得到的值与上一轮值的差的绝对值已经小于收敛终止阈值τ。
根据本发明所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置，其特征在于：输出单元用于输出隐特征单元和预测未知评分单元用于预测未知评分；具体为：
输出单元输出目标损失函数达到最小时的两个隐特征矩阵，预测未知评分单元用输出单元获得的隐特征矩阵预测用户-金融产品矩阵中未知的评分。
根据本发明的第二方面，提供一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法，其特征在于：该方法包括如下步骤：
S1：通过金融平台服务器采集用户-金融产品评分数据，所述金融平台上的用户集合记为M，金融产品集合记为N，建立一个|M|行，|N|列的矩阵作为用户-金融产品评分矩阵R。发送给基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置。
S2：利用用户-金融产品评分数据，初始化对应的隐特征矩阵,通过已知评分数据和对应预测值来构建目标函数。
S3：根据建立的目标函数对决策参数进行求解，求出本轮中当前即将更新的决策参数对应的梯度；
S4：决定出当前更新收敛速度最快的决策参数梯度；
S5：判定基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型对梯度的限制参数是否满足条件：若满足，则执行步骤S6，否则重置不合法参数并再次执行步骤S5；
S6：根据基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的收敛条件来判断模型是否达到收敛：如果达到收敛，则执行步骤S7，如果未到达收敛，则返回执行步骤S3；
S7：预测模型训练达到了收敛后，输出模型训练得到的对应隐特征矩阵；
S8：通过矩阵分解方法得到的隐特征矩阵对用户-金融产品评分矩阵中缺失值进行预测。
根据本发明所述的一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法的优选方案，步骤S2包括：
S21，初始化相关参数：
初始化两个隐特征矩阵B和J；初始化特征维度f；初始化累积梯度平衡控制因子β；初始化梯度衰减指数γ；初始化最大训练迭代轮数L；初始化训练过程中迭代轮数控制变量l、收敛终止阈值τ；初始化正则化因子λ2；
初始化内容如下：
特征维度f决定了用户和金融产品隐特征矩阵的特征空间维数，初始化为正整数。
两个隐特征矩阵B和J的大小分别为：B为|M|行f列的隐特征矩阵、J为|N|行f列的隐特征矩阵，对于两个隐特征矩阵分别用随机较小的正数进行初始化。
初始化累积梯度平衡控制因子β初始化为较小的正数。
初始化梯度衰减指数γ初始化为较小的正数。
最大训练迭代轮数L是控制迭代过程上限的变量，初始化为较大的正整数。
迭代轮数控制变量l初始化为0。
收敛终止阈值τ是判断迭代过程是否已收敛的参数，用极小的正数初始化。
正则化因子λ2是控制提取迭代过程中，对应隐特征矩阵B和J相关元素的正则化效应的常数，初始化为较小的正数。
S22，根据用户-金融产品关系矩阵R中的已知评分数据集合Λ，构造目标损失函数表示如下：
其中以欧式距离作为优化目标；使用L2正则化，对优化过程进行约束，防止优化过程中出现过拟合的问题。
根据本发明所述的一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法的优选方案，步骤S3包括：
S31，根据目标函数，求出当前需要更新的决策参数对应的梯度，公式表示如下：
根据本发明所述的一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法的优选方案，步骤S4包括：
S41，根据步骤S3获取当前更新决策参数对应的梯度和
S42，根据平衡因子和衰减指数对梯度的限制规则，通过累加梯度和当前梯度线性组合共同决定出当前更新收敛速度最快的决策参数梯度，公式如下：
其中β为梯度平衡控制因子，γ为梯度衰减指数。参数κ(t)和参数v(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小，它们分别由两部分组成：κ(t-1)和ν(t-1)对应决策参数之前更新的最终梯度和当前梯度累加值。参数κ(t-1)和参数ν(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的最终梯度大小，即为第t-2次更新时的最终梯度和第t-1次对应梯度的累加。其中bm,k和jn,k分别为bm′和jn′向量的第k个元素。和分别为第t次更新时当前梯度值。
根据本发明所述的一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法的优选方案，步骤S6包括：
S61，基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的更新：
其中关于bm,k的更新公式如下：
其中关于jn,k的更新公式如下：
其中表示已知评分数据集合Λ中用户m对金融产品n的评分；β为梯度平衡控制因子；γ为梯度衰减指数；参数κ(t)和参数ν(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小，它们分别由两部分组成：κ(t-1)和ν(t-1)对应决策参数之前更新的最终梯度和当前梯度累加值。参数κ(t-1)和参数ν(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的最终梯度大小，即为第t-2次更新时的最终梯度和第t-1次对应梯度的累加。其中bm,k和jn,k分别为bm′和jn′向量的第k个元素。
S62，根据基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的收敛条件来判断模型是否达到收敛，即为判断当前参数更新时是否已经小于阈值τ。通常设定为本次的预测精度和上一次的预测精度相差大于1×10-5时，满足参数更新要求，否则就达到模型收敛条件。
本发明所述的一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置的有益效果是：本发明提供了一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置，对金融产品和用户之间产生的数据进行分析，通过分析结果对用户与金融产品未知的关系进行预测。预测的策略是利用隐特征加速分析思想对已知用户-商品评分数据的内在统计规律进行分析，从而提供动量加速随机梯度下降的用户-金融产品选用倾向高速预测结果，为用户提供个性化服务，为家庭金融电子商务平台中***快速提供安全、可靠、严谨的金融服务，实现更好的财富分配和家庭资产配置。
附图说明
图1为基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置的结构示意图。
图2为基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法的流程示意图。
图3应用本发明前和本发明后的预测模型执行时间对比图。
图4应用本发明前和本发明后的预测模型预测精度对比图，其中RMSE是预测误差的衡量指标，RMSE越小，预测精度越高。
具体实施方式
为使本发明的目的、技术方案及优点更加清晰明白，以下参照附图并通过实施例，对本发明作进一步详细说明。以下通过参考附图描述的实施例是示例性的，仅用于解释本发明，而不能理解为对本发明的限制。
实施例1：
参见图1，图1示出了本发明基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置，该装置包括：
数据预处理模块510，用于接收全局用户-家庭金融产品评分数据，将这些数据处理成模型训练中可直接使用的数据格式，并将处理好的数据放入数据存储模块520。
数据存储模块520，用于存储预处理过的输入数据、模型预测过程中产生的临时变量、初始化单元对应的值和最终训练得到的隐特征矩阵。
数据初始化模块530，用于初始化模型训练的隐特征矩阵。
高速收敛方向选择模块540，用于接收初始化的隐特征矩阵，并且在模型训练过程中确定高速收敛方向。
所述高速收敛方向选择模块540包括接收对应初始化数据的单元541和高速收敛方向选择单元542。
接收对应初始化数据的单元541用于接收模型训练时所需的初始化数据。
高速收敛方向选择单元542用梯度自适应控制因子和衰减指数来控制梯度大小。通过当前梯度和累加梯度的线性组合得到当前决策参数收敛最快方向梯度，梯度控制参数β和梯度衰减指数γ保持为(0,1)区间的有效值。
预测数据生成模块550，用于高速预测特征数据，并将得到的特征预测数据存储到数据单元中。
所述预测数据生成模块550包括高速预测数据生成单元551，用于将模块540中不同程度的累加决策参数之前更新对应梯度和当前梯度进行线性组合得到最终梯度值，按该梯度值对决策参数进行更新操作。
输出模块560，用于输出模型训练最终得到的隐特征矩阵，通过矩阵分解技术，用对应隐特征矩阵中向量内积来求得用户-金融产品评分矩阵中未知值的预测值。
在具体实施例中，所述数据预处理模块510包括：
数据接收单元511，用于从金融平台获取用户-金融产品相关数据，平台上的用户集合记为M，商品集合记为N，建立一个|M|行，|N|列的矩阵作为用户-金融产品评分矩阵R。
在具体实施例中，所述数据存储模块520包括：
存储单元521，用于将接收的评分数据以三元组的形式进行存储。三元组表示形式为U＝(u,i,r,)，其中u，i分别表示用户-金融产品关系矩阵中的用户和金融产品，r表示评分，即用户u对金融产品i的评分。用户和金融产品的特征数据以矩阵形式存储为两个隐特征矩阵B和J，并且这两个隐特征矩阵具有相同的特征维度f。
在具体实施例中，初始化单元531用于初始化隐特征矩阵和基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测过程中涉及的相关参数；具体包括：
初始化两个隐特征矩阵B和J；初始化特征维度f；初始化累积梯度平衡控制因子β；初始化梯度衰减指数γ；初始化收敛终止阈值τ；初始化最大训练迭代轮数L；初始化训练过程中迭代轮数控制变量l；初始化正则化因子λ2；其中特征维度f决定了每个隐特征矩阵的特征空间维度，初始化为正整数；两个隐特征矩阵B和J，即B为|M|行f列的隐特征矩阵、J为|N|行f列的隐特征矩阵，对于隐特征矩阵分别用随机较小的正数进行初始化；最大训练迭代轮数L是控制迭代过程上限的变量，初始化为较大的正整数；迭代轮数控制变量l初始化为0；收敛终止阈值τ是判断迭代过程是否已收敛的参数，用极小的正数初始化；正则化因子λ2是控制抽取迭代过程中，对应隐特征矩阵B和J相关元素的正则化效应的常数，初始化为较小的正数。
在具体实施例中，高速收敛方向选择单元542用于结合已初始化的相关参数和构造高速收敛方向选择；具体包括：
根据用户-金融产品关系矩阵R中的已知评分数据集合Λ，构造目标损失函数表示如下：
其中R(Λ)表示用户-金融产品评分矩阵R中用户对金融产品已知评分数据集合；rm,n表示的含义为用户m和金融产品n之间的实体关系，即为用户m对金融产品n的评分；表示已知评分数据集合Λ中用户m对金融产品n的评分；bm′表示用户隐特征矩阵B中第m个用户对应的隐特征；jn′表示金融产品隐特征矩阵J中第n个商品对应的隐特征。
为了增强模型的泛化性能，通常在目标损失函数中加入L2正则化项，使用L2正则化，对优化过程进行约束，防止优化过程中出现过拟合的问题。因此，通过向目标函数中L2正则化项后，可得目标函数为：
其中R(Λ)表示用户-金融产品评分矩阵R中用户对金融产品已知评分数据集合；λ2表示隐特征矩阵的正则化参数,衡量L2正则化项对模型的限制效果。
控制B和J满足在集合上累积误差最小，使用高速收敛的随机梯度下降优化算法在上述累积误差上对矩阵B和J进行训练，得到矩阵B和J的全局最优解。在训练过程中通过对用户和金融产品隐特征高速更新方向的选择，根据梯度平衡因子和指数衰减因子实现之前梯度和当前更新梯度的线性组合，计算出当前的更新bm′和jn′收敛速度最快时对应的梯度值，公式表达式如下：
其中β为梯度平衡控制因子，γ为梯度衰减指数。参数κ(t)和参数ν(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小，它们分别由两部分组成：κ(t-1)和ν(t-1)对应决策参数之前更新的最终梯度和当前梯度累加值。参数κ(t-1)和参数v(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的最终梯度大小，即为第t-2次更新时的最终梯度和第t-1次对应梯度的累加。其中bm,k和jn,k分别为bm′和jn′向量的第k个元素。和分别为第t次更新时当前梯度值。其表达式为：
在具体实施例中，高速预测数据生成单元551用于高速预测数据生成；具体包括：
根据高速收敛方向选择单元551可以计算出当前的更新bm′和jn′收敛速度最快时对应的梯度值，因此，可以得到基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的更新规则：
关于bm,k的更新公式如下：
关于jn,k的更新公式如下：
其中表示已知评分数据集合Λ中用户m对金融产品n的评分；β为梯度平衡控制因子；γ为梯度衰减指数；参数κ(t)和参数ν(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小，它们分别由两部分组成：κ(t-1)和υ(t-1)对应决策参数之前更新的最终梯度和当前梯度累加值。参数κ(t-1)和参数ν(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的最终梯度大小，即为第t-2次更新时的最终梯度和第t-1次对应梯度的累加。其中bm,k和jn,k分别为bm′和jn′向量的第k个元素。和分别为第t次更新时当前的梯度值。
在Λ上重复上述训练过程，直至在Λ上对收敛，收敛判定条件为训练迭代轮数控制变量r达到最大训练迭代轮数L，或者本轮迭代结束后计算得到的值与上一轮值的差的绝对值已经小于收敛终止阈值τ。
根据本发明所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置，其特征在于：输出单元用于输出隐特征单元和预测未知评分单元用于预测未知评分；具体为：
输出单元输出目标损失函数达到最小时的两个隐特征矩阵，预测未知评分单元用输出单元获得的隐特征矩阵预测用户-金融产品矩阵中未知的评分。
本发明专门作用于用户-金融产品选用倾向的高速预测。
实施例2
参见图2，图2示出了本发明的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法，该方法包括如下步骤：
S1：服务器采集用户-金融产品评分数据，平台上的用户集合记为M，商品集合记为N，建立一个|M|行，|N|列的矩阵作为用户-金融产品评分矩阵R。发送给基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置。
S2：利用用户-金融产品评分数据，初始化对应的隐特征矩阵,通过已知评分数据和对应预测值来构建目标函数。
S3：根据建立的目标函数对目标函数进行求解，求出本轮中当前即将更新的决策参数对应的梯度；
S4：决定出当前更新收敛速度最快的决策参数梯度；
S5：判定基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型对梯度的限制参数是否满足条件：若满足，则执行步骤S6，否则重置不合法参数并再次执行步骤S5。
S6：根据基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的收敛条件来判断模型是否达到收敛。图2中S6：基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型，判定当前控制参数情况是否满足参数的更新条件：若满足参数的更新条件，则返回步骤S3；若否，表示达到模型收敛条件，则执行步骤S7。
S7：预测模型训练达到了收敛后，输出模型训练得到的对应隐特征矩阵；
S8：通过矩阵分解方法得到的隐特征矩阵对用户-金融产品评分矩阵中缺失值进行预测。
在具体实施例中，步骤S2初始化用户和金融产品的隐特征矩阵,通过已知评分数据和对应预测值来构建目标函数，具体包括：
S21，初始化相关参数：
初始化两个隐特征矩阵B和J；初始化特征维度f；初始化累积梯度平衡控制因子β；初始化梯度衰减指数γ；初始化最大训练迭代轮数L；初始化训练过程中迭代轮数控制变量l、收敛终止阈值τ；初始化正则化因子λ2；
初始化内容如下：
特征维度f决定了用户和金融产品隐特征矩阵的特征空间维数，初始化为正整数；例如将特征维度f初始化为20。
两个隐特征矩阵B和J的大小分别为：B为|M|行f列的隐特征矩阵、J为|N|行f列的隐特征矩阵，对于两个隐特征矩阵分别用随机较小的正数进行初始化；例如用集合(0,0.005)中的随机正数来初始化两个隐特征矩阵B和J。
初始化累积梯度平衡控制因子β初始化为较小的正数；例如将累积梯度平衡控制因子β初始化为集合(0,1)中的正数。
初始化梯度衰减指数γ初始化为较小的正数；例如将梯度衰减指数γ初始化为集合(0,1)中的正数。
最大训练迭代轮数L是控制迭代过程上限的变量，初始化为较大的正整数；例如将最大训练迭代轮数L初始化为1000。
迭代轮数控制变量l初始化为0。
收敛终止阈值τ是判断迭代过程是否已收敛的参数，用极小的正数初始化；例如将收敛终止阈值τ初始化为1×10-5。
正则化因子λ2是控制提取迭代过程中，对应隐特征矩阵B和J相关元素的正则化效应的常数，初始化为较小的正数；例如将正则化因子λ2初始化为集合[0.005,0.05]中的正数。
S22，根据用户-金融产品关系矩阵R中的已知评分数据集合Λ，构造目标损失函数表示如下：
其中以欧式距离作为优化目标；使用L2正则化，对优化过程进行约束，防止优化过程中出现过拟合的问题。
在具体实施例中，步骤S3包括：
S31，根据目标函数，求出当前需要更新的决策参数对应的梯度，公式表示如下：
在具体实施例中，步骤S4包括：
S41，根据步骤S3获取当前更新决策参数对应的梯度和
S42，根据平衡因子和衰减指数对梯度的限制规则，通过累加梯度和当前梯度线性组合共同决定出当前更新收敛速度最快的决策参数梯度，公式如下：
其中β为梯度平衡控制因子，γ为梯度衰减指数。参数k(t)和参数ν(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小，它们分别由两部分组成：k(t-1)和ν(t-1)对应决策参数之前更新的最终梯度和当前梯度累加值。参数κ(t-1)和参数ν(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的最终梯度大小，即为第t-2次更新时的最终梯度和第t-1次对应梯度的累加。其中bm,k和jn,k分别为bm′和jn′向量的第k个元素。和分别为第t次更新时当前梯度值。
在具体实施例中，步骤S6用户-金融产品选用倾向高速预测包括：
S61，基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的更新：
其中关于bm,k的更新公式如下：
其中关于jn,k的更新公式如下：
其中表示已知评分数据集合Λ中用户m对金融产品n的评分；β为梯度平衡控制因子；γ为梯度衰减指数；参数κ(t)和参数ν(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小，它们分别由两部分组成：κ(t-1)和ν(t-1)对应决策参数之前更新的最终梯度和当前梯度累加值。参数κ(t-1)和参数ν(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的最终梯度大小，即为第t-2次更新时的最终梯度和第t-1次对应梯度的累加。其中bm,k和jn,k分别为bm′和jn′向量的第k个元素。
S62，根据基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的收敛条件来判断模型是否达到收敛，即为判断当前参数更新时是否已经小于阈值τ。通常设定在本次的预测精度和上一次的预测精度相差大于1×10-5时，满足参数更新要求，否则就达到模型收敛条件。
图3为应用基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测和没有应用基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测的执行时间对比示意图。由图3可知，应用了本发明技术后，针对用户-金融产品关系数据，模型的运行时间远少于不应用该技术的情况。具体，从图3可以得到，运用了本发明技术后，不使用本发明的时间约为使用本发明技术的6倍。即运用本发明技术后，模型的运行时间比原来提高了6倍多，使用户能够在众多的金融产品中快速的选择出自己心仪的产品。
图4为应用基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测和没有应用基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测的情况下，RMSE对比示意图，RMSE是预测误差的衡量指标，RMSE值越大，预测精度越低；RMSE值越小，预测精度越高。
如图4所示，应用本发明技术后RMSE比未使用本发明技术的低了3倍多，RMSE值越小，预测精度越高。即，应用本发明技术大大提高了模型在金融产品选用倾向预测中的精度。在实际应用中，可以更好的为用户提供安全、可靠、有实际保证且符合用户个性化需求的金融产品。
由上述技术方案可见，本发明提供了一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法，以基于动量加速随机梯度下降预测模型对金融产品和用户之间产生的数据进行分析，通过分析结果对用户与金融产品未知的关系进行预测。预测的策略是利用隐特征加速分析思想对已知用户-商品评分数据的内在统计规律进行分析，从而提供动量加速随机梯度下降的用户-金融产品选用倾向高速预测结果，为用户提供个性化服务，为家庭金融电子商务平台中***快速提供安全、可靠、严谨的金融服务，实现更好的财富分配和家庭资产配置。
尽管已经示出和描述了本发明的实施例，本领域的普通技术人员可以理解：在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由权利要求及其等同物限定。

Claims (10)

1.一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法，其特征在于，包括如下步骤：
S1，采集用户-金融产品评分数据，并将用户-金融产品评分数据构建为|M|行、|N|列的用户-金融产品评分矩阵R，其中M为用户集合，N为金融产品集合；
S2，构建并初始化隐特征矩阵，通过已知评分数据和预测值来构建目标函数；
S3，根据建立的目标函数对目标函数进行求解，求出本轮中当前即将更新的决策参数对应的梯度；
S4，决定出当前更新收敛速度最快的决策参数梯度；
S5，判定基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型对梯度的限制参数是否满足条件：若满足，则执行步骤S6，若不满足，则重置不合法参数并再次执行步骤S5；
S6，根据基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的收敛条件来判断模型是否达到收敛：如果达到收敛，则执行步骤S7，如果未到达收敛，则返回执行步骤S3；
S7，预测模型训练达到了收敛后，输出模型训练得到的隐特征矩阵；
S8，通过矩阵分解方法将得到的隐特征矩阵用于预测用户-金融产品评分矩阵中的缺失值。
2.根据权利要求1所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法，其特征在于，所述步骤S2包括：
S21，初始化相关参数：
将特征维度f初始化为正整数；
初始化两个隐特征矩阵B和J：矩阵B为|M|行f列的用户隐特征矩阵，矩阵J为|N|行f列的金融产品隐特征矩阵，将两个隐特征矩阵分别用随机较小的正数进行初始化；
将累积梯度平衡控制因子β初始化为较小的正数；
将梯度衰减指数γ初始化为较小的正数；
将最大训练迭代轮数L初始化为较大的正整数；
将迭代轮数控制变量l初始化为0；
将收敛终止阈值τ用极小的正数初始化；
将正则化因子λ2初始化为较小的正数，
S22，根据用户-金融产品关系矩阵R中的已知评分数据集合Λ，构造目标函数对目标函数以欧式距离作为优化目标，并使用L2正则化，得到的目标函数表示如下：
其中，R(Λ)表示用户-金融产品评分矩阵R中用户对金融产品已知评分数据集合；bm′表示用户隐特征矩阵B中第m个用户对应的隐特征；jn′表示金融产品隐特征矩阵J中第n个商品对应的隐特征；rm,n表示用户m对金融产品n的评分；表示已知评分数据集合Λ中用户m对商品n的评分；λ2表示隐特征矩阵的正则化因子。
3.根据权利要求2所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法，其特征在于，所述步骤S3包括：
根据目标函数，求出当前需要更新的决策参数对应的梯度，公式表示如下：
其中，bm,k和jn,k分别为bm′和jn′向量的第k个元素；和分别为第t次更新时bm,k和jn,k的当前梯度值。
4.根据权利要求3所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法，其特征在于，所述步骤S4包括：
S41，根据步骤S3获取当前更新决策参数对应的梯度和
S42，根据累积梯度平衡因子β和梯度衰减指数γ对梯度的限制规则，通过累加梯度和当前梯度线性组合共同决定出当前更新收敛速度最快的决策参数梯度，公式如下：
其中，κ(t)和ν(t)分别为单元素bm,k和jn,k在第t次更新时的最终梯度大小；k(t-1)和ν(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的最终梯度大小。
5.根据权利要求4所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法，其特征在于，所述步骤S6包括：
S61，基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的更新bm,k和jn,k：
其中关于bm,k的更新公式如下：
其中关于jn,k的更新公式如下：
其中，表示已知评分数据集合Λ中用户m对金融产品n的评分；β为累积梯度平衡控制因子；γ为梯度衰减指数；bm,k和jn,k分别为bm′和jn′向量的第k个元素；和分别为第t次更新时当前的梯度值；k(t)和ν(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小；κ(t-1)和ν(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的梯度大小，
S62，根据基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的收敛条件来判断模型是否达到收敛：判断当前参数更新时是否已经小于阈值τ，如果小于，则达到模型收敛条件。
6.一种基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置，其特征在于，包括：
数据预处理模块，配置为采集用户-金融产品数据，并将用户-金融产品数据处理成模型训练中可直接使用的数据格式；
数据存储模块，配置为用于存储所述预测装置中的数据；
数据初始化模块：配置为从所述数据存储模块中获取用户-金融产品数据，并初始化模型训练中所需的隐特征矩阵；
高速收敛方向选择模块，配置为用于接收初始化的隐特征矩阵，并且在模型训练过程中确定高速收敛方向；
预测数据生成模块，配置为用于高速预测特征数据，并将得到的特征预测数据存储到所述数据存储模块中；
数据输出模块，配置为输出训练最终得到的隐特征并用得到的隐特征预测未知评分。
7.根据权利要求6所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置，其特征在于，
所述数据预处理模块配置为建立一个|M|行、|N|列的矩阵作为用户-金融产品评分矩阵R，其中M为用户集合，N为金融产品集合。
8.根据权利要求7所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置，其特征在于，
所述数据初始化模块包括初始化单元，所述初始化单元配置为初始化基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测过程中涉及的相关参数，
所涉及的相关参数的初始化包括：
将特征维度f初始化为正整数；
初始化两个隐特征矩阵B和J：矩阵B为|M|行f列的用户隐特征矩阵，矩阵J为|N|行f列的金融产品隐特征矩阵，将两个隐特征矩阵分别用随机较小的正数进行初始化；
将累积梯度平衡控制因子β初始化为较小的正数；
将梯度衰减指数γ初始化为较小的正数；
将最大训练迭代轮数L初始化为较大的正整数；
将迭代轮数控制变量l初始化为0；
将收敛终止阈值τ用极小的正数初始化；
将正则化因子λ2初始化为较小的正数。
9.根据权利要求8所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置，其特征在于，
所述高速收敛方向选择模块包括接收对应初始化数据单元和高速收敛方向选择单元，
所述接收对应初始化数据单元配置为接收已初始化的相关参数；
所述高速收敛方向选择单元配置为执行以下步骤：
根据用户-金融产品关系矩阵R中的已知评分数据集合Λ，构造目标函数并对目标函数以欧式距离作为优化目标且使用L2正则化，得到的目标函数表示如下：
其中，R(Λ)表示用户-金融产品评分矩阵R中用户对金融产品已知评分数据集合；bm′表示用户隐特征矩阵B中第m个用户对应的隐特征；jn′表示金融产品隐特征矩阵J中第n个商品对应的隐特征；rm,n表示用户m对金融产品n的评分；表示已知评分数据集合Λ中用户m对金融产品n的评分；λ2表示隐特征矩阵的正则化因子；
使用高速收敛的随机梯度下降优化算法在上述累积误差上对矩阵B和J进行训练，得到矩阵B和J的全局最优解；
根据累积梯度平衡因子β和梯度衰减指数γ实现之前梯度和当前更新梯度的线性组合，计算出当前的更新bm′和jn′收敛速度最快时对应的梯度值，公式表达式如下：
其中，κ(t)和v(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小；κ(t-1)和v(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的梯度大小；和分别为第t次更新时bm,k和jn,k的当前梯度值，其计算公式为：
10.根据权利要求9所述的基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测装置，其特征在于，
所述预测数据生成模块配置为执行以下步骤：
通过计算出的当前更新bm′和jn′收敛速度最快时对应的梯度值，得到基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测模型的更新规则：
关于bm,k的更新公式如下：
关于jn,k的更新公式如下：
其中，表示已知评分数据集合Λ中用户m对金融产品n的评分；β为累积梯度平衡控制因子；γ为梯度衰减指数；bm,k和jn,k分别为bm′和jn′向量的第k个元素；和分别为第t次更新时当前的梯度值；κ(t)和v(t)分别为单元素bm,k和jn,k在第t次更新时的最终的梯度大小；κ(t-1)和v(t-1)分别为单元素bm,k和jn,k在第t-1次更新时的梯度大小，
在Λ上重复上述训练过程，直至在Λ上对收敛，收敛判定条件为训练迭代轮数控制变量r达到最大训练迭代轮数L，或者本轮迭代结束后计算得到的值与上一轮值的差的绝对值小于收敛终止阈值τ。
CN201910598139.3A 2019-07-04 2019-07-04 基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置 Active CN110390561B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910598139.3A CN110390561B (zh) 2019-07-04 2019-07-04 基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910598139.3A CN110390561B (zh) 2019-07-04 2019-07-04 基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置

Publications (2)

Publication Number Publication Date
CN110390561A true CN110390561A (zh) 2019-10-29
CN110390561B CN110390561B (zh) 2022-04-29

Family

ID=68286137

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910598139.3A Active CN110390561B (zh) 2019-07-04 2019-07-04 基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置

Country Status (1)

Country Link
CN (1) CN110390561B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111311324A (zh) * 2020-02-18 2020-06-19 电子科技大学 基于稳定神经协同过滤的用户-商品偏好预测***和方法
CN111563203A (zh) * 2020-05-08 2020-08-21 深圳市万佳安人工智能数据技术有限公司 一种基于快速非负隐特征分析的智能家居用户-服务兴趣度个性化预测装置和预测方法
CN111564200A (zh) * 2020-05-08 2020-08-21 深圳市万佳安人工智能数据技术有限公司 基于快速随机梯度下降的老人饮食特征提取的装置和方法
CN112036963A (zh) * 2020-09-24 2020-12-04 深圳市万佳安物联科技股份有限公司 一种基于多层随机隐特征模型的网页广告投放装置和方法
CN112037850A (zh) * 2020-09-04 2020-12-04 中国科学院重庆绿色智能技术研究院 基于动量加速的缺失蛋白质间相互作用预测装置和方法
CN112258263A (zh) * 2020-09-28 2021-01-22 中国科学院重庆绿色智能技术研究院 一种基于广义动量的产品智能推荐装置和方法
CN112488183A (zh) * 2020-11-27 2021-03-12 平安科技（深圳）有限公司 一种模型优化方法、装置、计算机设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110238550A1 (en) * 2010-03-24 2011-09-29 Joshua Reich Systems and methods for predicting financial behaviors
CN102930341A (zh) * 2012-10-15 2013-02-13 罗辛 一种协同过滤推荐模型的优化训练方法
CN103235893A (zh) * 2013-05-06 2013-08-07 重庆大学 一种用户-商品点击率自适应预测装置和预测方法
CN106776479A (zh) * 2016-12-16 2017-05-31 北京理工大学 一种面向多属性评分***的评分预测方法
CN109615452A (zh) * 2018-10-29 2019-04-12 华中科技大学 一种基于矩阵分解的产品推荐方法
CN109872006A (zh) * 2019-03-11 2019-06-11 西南石油大学 一种评分分布预测方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110238550A1 (en) * 2010-03-24 2011-09-29 Joshua Reich Systems and methods for predicting financial behaviors
CN102930341A (zh) * 2012-10-15 2013-02-13 罗辛 一种协同过滤推荐模型的优化训练方法
CN103235893A (zh) * 2013-05-06 2013-08-07 重庆大学 一种用户-商品点击率自适应预测装置和预测方法
CN106776479A (zh) * 2016-12-16 2017-05-31 北京理工大学 一种面向多属性评分***的评分预测方法
CN109615452A (zh) * 2018-10-29 2019-04-12 华中科技大学 一种基于矩阵分解的产品推荐方法
CN109872006A (zh) * 2019-03-11 2019-06-11 西南石油大学 一种评分分布预测方法及装置

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
SAROJ KUMAR LENKA 等: "Gradient descent with momentum based neural network pattern classification for the prediction of soil moisture content in precision agriculture", 《2015 IEEE INTERNATIONAL SYMPOSIUM ON NANOELECTRONIC AND INFORMATION SYSTEMS》 *
孟利民 等: "评分预测问题中个性化推荐模型的研究", 《浙江工业大学学报》 *
王德贤 等: "结合L1和L2正则化约束的隐语义预测模型研究", 《计算机工程与应用》 *
黄晓凤: "并行协同过滤推荐模型的研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *
黎新志等: "基于用户分类的隐含因子模型研究", 《计算机应用研究》 *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111311324A (zh) * 2020-02-18 2020-06-19 电子科技大学 基于稳定神经协同过滤的用户-商品偏好预测***和方法
CN111311324B (zh) * 2020-02-18 2022-05-20 电子科技大学 基于稳定神经协同过滤的用户-商品偏好预测***和方法
CN111563203A (zh) * 2020-05-08 2020-08-21 深圳市万佳安人工智能数据技术有限公司 一种基于快速非负隐特征分析的智能家居用户-服务兴趣度个性化预测装置和预测方法
CN111564200A (zh) * 2020-05-08 2020-08-21 深圳市万佳安人工智能数据技术有限公司 基于快速随机梯度下降的老人饮食特征提取的装置和方法
CN112037850A (zh) * 2020-09-04 2020-12-04 中国科学院重庆绿色智能技术研究院 基于动量加速的缺失蛋白质间相互作用预测装置和方法
CN112037850B (zh) * 2020-09-04 2021-08-27 中国科学院重庆绿色智能技术研究院 基于动量加速的缺失蛋白质间相互作用预测装置和方法
CN112036963A (zh) * 2020-09-24 2020-12-04 深圳市万佳安物联科技股份有限公司 一种基于多层随机隐特征模型的网页广告投放装置和方法
CN112036963B (zh) * 2020-09-24 2023-12-08 深圳市万佳安物联科技股份有限公司 一种基于多层随机隐特征模型的网页广告投放装置和方法
CN112258263A (zh) * 2020-09-28 2021-01-22 中国科学院重庆绿色智能技术研究院 一种基于广义动量的产品智能推荐装置和方法
CN112488183A (zh) * 2020-11-27 2021-03-12 平安科技（深圳）有限公司 一种模型优化方法、装置、计算机设备及存储介质
WO2022110640A1 (zh) * 2020-11-27 2022-06-02 平安科技（深圳）有限公司 一种模型优化方法、装置、计算机设备及存储介质
CN112488183B (zh) * 2020-11-27 2024-05-10 平安科技（深圳）有限公司 一种模型优化方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
CN110390561B (zh) 2022-04-29

Similar Documents

Publication Publication Date Title
CN110390561A (zh) 基于动量加速随机梯度下降的用户-金融产品选用倾向高速预测方法和装置
CN109902706B (zh) 推荐方法及装置
CN109741112B (zh) 一种基于移动大数据的用户购买意向预测方法
CN109446430A (zh) 产品推荐的方法、装置、计算机设备及可读存储介质
CN108182634A (zh) 一种借贷预测模型的训练方法、借贷预测方法和装置
CN108475393A (zh) 通过合成特征和梯度提升决策树进行预测的***和方法
CN108027897A (zh) 利用深度强化学习的连续控制
CN109118013A (zh) 一种基于神经网络的经营数据预测方法、可读存储介质和预测***
CN109472700A (zh) 股票价格的预测方法、服务器及存储介质
CN108875776A (zh) 模型训练方法和装置、业务推荐的方法和装置、电子设备
CN108052979A (zh) 对模型预测值进行融合的方法、装置和设备
CN111311338A (zh) 用户价值的预测方法以及用户价值预测模型的训练方法
CN107122327A (zh) 一种利用训练数据训练模型的方法和训练***
CN112182362A (zh) 训练用于在线预测点击率的模型的方法、设备及推荐***
CN106529185B (zh) 一种古建筑位移的组合预测方法及***
CN107169574A (zh) 利用嵌套机器学习模型来执行预测的方法及***
CN108959409A (zh) 一种结合评论中主题与情感信息的矩阵分解推荐算法
CN107832426A (zh) 一种基于使用序列上下文的app推荐方法及***
CN110413878A (zh) 基于自适应弹性网络的用户-商品偏好的预测装置和方法
WO2005048184A1 (ja) 能動学習方法およびシステム
Li et al. A novel approach based on the Gauss-v SVR with a new hybrid evolutionary algorithm and input vector decision method for port throughput forecasting
CN110796261A (zh) 基于强化学习的特征提取方法、装置和计算机设备
CN109902823A (zh) 一种基于生成对抗网络的模型训练方法及设备
CN113674087A (zh) 企业信用等级评定方法、装置、电子设备和介质
Ayyadevara Neural Networks with Keras Cookbook: Over 70 recipes leveraging deep learning techniques across image, text, audio, and game bots

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20220408

Address after: 518000 west block, phase II, Tian'an innovation and Technology Plaza, Tairan 10th Road, Tian'an community, Shatou street, Futian District, Shenzhen, Guangdong 2001 and 2002

Applicant after: Yirong station information technology (Shenzhen) Co.,Ltd.

Address before: 610213 No. 1, floor 3, unit 8, building 28, No. 158, Section 2, new hope Avenue, Huayang street, Tianfu new area, Chengdu, Sichuan

Applicant before: Sichuan jinzan Technology Co.,Ltd.

GR01 Patent grant
GR01 Patent grant