CN112541705B - 生成用户行为评估模型的方法、装置、设备以及存储介质 - Google Patents
生成用户行为评估模型的方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN112541705B CN112541705B CN202011543938.XA CN202011543938A CN112541705B CN 112541705 B CN112541705 B CN 112541705B CN 202011543938 A CN202011543938 A CN 202011543938A CN 112541705 B CN112541705 B CN 112541705B
- Authority
- CN
- China
- Prior art keywords
- user behavior
- user
- model
- evaluation
- sample set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000013210 evaluation model Methods 0.000 title claims abstract description 42
- 230000006399 behavior Effects 0.000 claims abstract description 225
- 238000011156 evaluation Methods 0.000 claims abstract description 85
- 230000008859 change Effects 0.000 claims abstract description 73
- 238000012549 training Methods 0.000 claims abstract description 69
- 238000013507 mapping Methods 0.000 claims abstract description 16
- 238000012360 testing method Methods 0.000 claims description 37
- 238000010801 machine learning Methods 0.000 claims description 7
- 238000010276 construction Methods 0.000 claims description 6
- 238000003066 decision tree Methods 0.000 claims description 4
- 238000007477 logistic regression Methods 0.000 claims description 4
- 238000007637 random forest analysis Methods 0.000 claims description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 6
- 238000013135 deep learning Methods 0.000 abstract description 3
- 239000000047 product Substances 0.000 description 56
- 230000000875 corresponding effect Effects 0.000 description 19
- 238000010586 diagram Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 238000004590 computer program Methods 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 9
- 238000012545 processing Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 7
- 230000000694 effects Effects 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000002354 daily effect Effects 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000012512 characterization method Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 235000007688 Lycopersicon esculentum Nutrition 0.000 description 1
- 244000046095 Psophocarpus tetragonolobus Species 0.000 description 1
- 240000003768 Solanum lycopersicum Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000001364 causal effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000012467 final product Substances 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003924 mental process Effects 0.000 description 1
- 230000003278 mimic effect Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000000551 statistical hypothesis test Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
- G06Q10/06393—Score-carding, benchmarking or key performance indicator [KPI] analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Development Economics (AREA)
- Strategic Management (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Entrepreneurship & Innovation (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Economics (AREA)
- Educational Administration (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Business, Economics & Management (AREA)
- Game Theory and Decision Science (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开公开了生成用户行为评估模型的方法、装置、设备以及存储介质,涉及人工智能领域,尤其涉及用户画像、深度学习技术领域。具体方案为:构建至少一种用户行为与预设评价指标的关联对,其中,关联对包括:产品变化前后用户行为的量化变化值与预设评价指标的量化变化值的映射对;获取训练样本集,其中,训练样本集中的样本包括至少一种用户行为与预设评价指标的关联对;从样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型,从而能够得到一种可以评估用户行为价值的模型,量化不同用户行为在产品评价中的价值大小。
Description
技术领域
本公开涉及计算机技术领域,具体涉及用户画像、深度学习等人工智能领域,尤其涉及生成用户行为评估模型的方法、装置、设备以及存储介质。
背景技术
越来越多的互联网产品在利用用户反馈数据进行辅助设计和加速产品迭代,不断推陈出新,提升产品的用户体验。可以说用户行为研究已经成为加快互联网行业产品发展的一种技术趋势。
用户在使用产品的过程中,会对一款产品内容进行直接评价,比如评分(例如:豆瓣打分,烂番茄评分等),以表达个人对于产品内容的喜好程度。但是,用户除了直接评分外还会和产品内容发生多种交互行为(例如:点赞、评论、分享等操作),这些行为本身代表着用户对于产品的某种客观评价。
发明内容
本公开提供了一种生成用户行为评估模型的方法、装置、设备以及存储介质。
根据本公开的一方面,提供了一种生成用户行为评估模型的方法,包括:构建至少一种用户行为与预设评价指标的关联对,其中,关联对包括:产品变化前后用户行为的量化变化值与预设评价指标的量化变化值的映射对;获取训练样本集,其中,训练样本集中的样本包括至少一种用户行为与预设评价指标的关联对;从样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型。
根据本公开的另一方面,提供了一种生成用户行为评估模型的装置,包括:构建模块,被配置成构建至少一种用户行为与预设评价指标的关联对,其中,关联对包括:产品变化前后用户行为的量化变化值与预设评价指标的量化变化值的映射对;第一获取模块,被配置成获取训练样本集,其中,训练样本集中的样本包括至少一种用户行为与预设评价指标的关联对;训练模块,被配置成从样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型。
根据本公开的第三方面,提出了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。
根据本公开的第四方面,提出了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。
根据本公开的第五方面,提出了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如第一方面中任一实现方式描述的方法。
本申请实施例提供的生成用户行为评估模型的方法、装置、设备以及存储介质,首先构建至少一种用户行为与预设评价指标的关联对,其中,关联对包括:产品变化前后用户行为的量化变化值与预设评价指标的量化变化值的映射对;之后获取训练样本集,其中,训练样本集中的样本包括至少一种用户行为与预设评价指标的关联对;最后从样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型,从而能够得到一种可以评估用户行为价值的模型,量化不同用户行为在产品评价中的价值大小。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显。附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请可以应用于其中的示例性***架构图;
图2是根据本申请的生成用户行为评估模型的方法的一个实施例的流程示意图;
图3是根据本申请的生成用户行为评估模型的方法的另一个实施例的流程示意图;
图4是根据本申请的生成用户行为评估模型的方法的又一个实施例的流程示意图;
图5是根据本申请的用户行为评估模型输出的用户行为最终估值的一个实施例的示意图;
图6是根据本申请的生成用户行为评估模型的方法的一个实施例的应用场景示意图;
图7是本申请的生成用户行为评估模型的装置的一个实施例的结构示意图;
图8是用来实现本申请实施例的生成用户行为评估模型的方法的电子设备的框图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的生成用户行为评估模型的方法或生成用户行为评估模型的装置的实施例的示例性***架构100。
如图1所示,***架构100可以包括终端101、102,网络103、数据库服务器104和服务器105。网络103用以在终端101、102,数据库服务器104与服务器105之间提供通信链路的介质。网络103可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户110可以使用终端101、102通过网络103与服务器105进行交互,以接收或发送消息等。终端101、102上可以安装有各种客户端应用,例如模型训练类应用、产品类应用等,其中,产品类应用包括但不限于新闻类应用、购物类应用、支付类应用、网页浏览器和即时通讯工具等。
这里的终端101、102可以是硬件,也可以是软件。当终端101、102为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)、膝上型便携计算机和台式计算机等等。当终端101、102为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
用户110可以对安装于终端101、102中的产品类应用实施各种交互行为(例如点击、评论、浏览等),终端101、102可以对用户实施的各种交互行为进行记录并通过网络103传至数据库服务器104和/或服务器105。
数据库服务器104可以是提供各种服务的数据库服务器。例如数据库服务器中可以存储有样本集。样本集中包含有大量的样本。其中,样本可以包括至少一种用户行为与预设评价指标的关联对。这样,用户110也可以通过终端101、102,从数据库服务器104所存储的样本集中选取样本。
服务器105也可以是提供各种服务的服务器,例如对终端101、102上显示的各种应用提供支持的后台服务器。后台服务器可以利用终端101、102发送的样本集中的样本,对初始模型进行训练,并可以将训练结果(如生成的用户行为评估模型)发送给终端101、102。这样,用户可以应用生成的用户行为评估模型进行用户行为价值的评估。
这里的数据库服务器104和服务器105同样可以是硬件,也可以是软件。当它们为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当它们为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本申请实施例所提供的生成用户行为评估模型的方法一般由服务器105执行。相应地,用于生成用户行为评估模型的装置一般也设置于服务器105中。
需要指出的是,在服务器105可以实现数据库服务器104的相关功能的情况下,***架构100中可以不设置数据库服务器104。
应该理解,图1中的终端、网络、数据库服务器和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端、网络、数据库服务器和服务器。
继续参考图2,示出了根据本申请的生成用户行为评估模型的方法的一个实施例的流程200。该方法包括以下步骤:
步骤201,构建至少一种用户行为与预设评价指标的关联对。
在本实施例中,生成用户行为评估模型的方法的执行主体(例如图1所示的服务器105)可以构建至少一种用户行为与预设评价指标的关联对。
其中,关联对包括产品变化前后用户行为的量化变化值与预设评价指标的量化变化值的映射对。
其中,可以首先获取产品变化前后的数据,例如产品变化前展现给用户的内容列表包括:音乐+足球+娱乐,产品变化后展现给用户的内容列表包括:军事+篮球+音乐,然后获取产品变化前后预设评价指标的变化。其中,预设评价指标可以是表征产品好坏的标准,例如日活跃用户数量(Daily Active User,DAU)、月活跃用户数量(Monthly Active User,MAU)、点击量、点展比等等。其中,产品变化前后预设评价指标的变化数据可以通过以下方式得到:收集预设评价指标对应的用户行为数据,例如用户每天登陆、浏览、点击的数据;然后基于收集到的用户行为数据生成对应的预设评价指标,例如DAU数据;最后获取产品变化前后预设评价指标的变化数据。
其中,可以通过调用特定的数据采集软件开发工具包(Software DevelopmentKit,SDK)来对产品变化前后的用户行为及动作的数据进行采集,例如搜索产品的个人计算机(Personal Computer,PC)端日志SDK,Wise日志SDK,Feed信息流产品的SDK等等。
其中,承载着产品的终端101、102可以对特定的用户行为进行日志打点,例如用户向下滑动浏览新闻,会记录“列表页”滑动行为;用户点击一个结果,会记录为“列表页点击”;用户在一个落地页浏览评论或者发表评论,会记录为“评论浏览”或“评论发表”等行为。在收集到用户行为数据后,承载着产品的终端101、102会定时将用户行为记录回传到服务器端104、105。
其中,上述执行主体可以对获取到的用户行为数据进行处理,提取用户行为。其中,用户行为包括单一行为,例如“浏览,点击和评论”等;还可以包括特定行为模式(如用户行为序列),例如“滑动-点击”和“滑动-点击-点赞-分享”等。本实施例中,不仅局限于某一单行为维度,还可以同时结合用户行为序列对产品进行更为全面和***的一个评价。
其中,可以选取任何特定的用户行为(单一行为或用户行为序列)作为研究对象,将产品变化前后用户行为的变化值和产品变化前后预设评价指标的变化值进行量化,构建产品变化前后用户行为的量化变化值与预设评价指标的量化变化值的映射对。例如,点击=[(Δ=0.56),DAU(Δ=0.8)],评论=[(Δ=0.75),DAU(Δ=0.8)]。
步骤202,获取训练样本集。
在本实施例中,上述执行主体可以获取训练样本集。其中,训练样本集中的样本包括至少一种用户行为与预设评价指标的关联对。其中,关联对是基于上述步骤201构建好的关系数据。
步骤203,从样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型。
在本实施例中,上述执行主体可以从样本集中选取对应于任一用户行为的训练样本以及执行用户行为评估模型的训练步骤。
其中,初始模型可以是未经训练的初始模型或未训练完成的初始模型,初始模型的各层可以设置有初始参数,参数在初始模型的训练过程中可以被不断被调整。初始模型可以是各种类型的未经训练或未训练完成的人工神经网络或者对多种未经训练或未训练完成的人工神经网络进行组合所得到的模型,例如初始模型可以是未经训练的卷积神经网络,也可以是未经训练的循环神经网络,还可以是未经训练的卷积神经网络、未经训练的循环神经网络和未经训练的全连接层进行组合所得到的模型。
其中,回归拟合是一种预测性的建模技术,它研究的是因变量(例如,预设用户评价指标的量化变化值)和自变量(例如,用户行为的量化变化值)之间的关系,用于发现变量之间的因果关系以及自变量对因变量的影响强度。其中,变量包括数值型变量和分类变量。其中,可以选择待研究的用户行为作为自变量进行建模,得到各个用户行为的特征系数。以逻辑归回模型为例,以用户行为作为自变量,以预设用户评价指标作为因变量进行建模,可以得到结果:Pi/1-Pi=α0+αi1*xi1+αi2*xi2+αi3*xi3……。其中,xi1、xi2、xi3表示自变量(例如点击、评论、点赞),αi1、αi2、αi3∈R表示特征系数,Pi/1-Pi表示因变量的概率。其中,各个用户行为的特征系数可以表征用户行为对产品在预设评价指标下的贡献值。特征系数为正数则表示用户行为对产品评价正相关,特征系数为负数则表示用户行为对产品评价负相关。
可选地,在用户行为评估模型训练完成后,可以通过学习曲线控制方差和偏差大小来进行模型调优。其中,学习曲线指模型训练的精度和样本数量的关系曲线,通过观察学习曲线的变化来调整模型的准确率和召回率,防止模型过拟合的结果。
本申请上述实施例提供的生成用户行为评估模型的方法,能够得到一种可以评估用户行为价值的模型,量化不同用户行为在产品评价中的价值大小,适用范围宽泛,兼容更多用户行为,基于用户的隐式行为也能对相应的产品进行评分。
进一步参考图3,其示出根据本申请的生成用户行为评估模型的方法的另一个实施例的流程图,该方法包括如下步骤:
步骤301,构建至少一种用户行为与预设评价指标的关联对。
步骤301与步骤201基本相同,因此不再赘述。
步骤302,获取训练样本集。
步骤302与步骤202基本相同,因此不再赘述。
步骤303,从样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型。
步骤303与步骤203基本相同,因此不再赘述。
步骤304,获取测试样本集。
其中,测试样本集中的样本包括用户行为与预设评价指标的关联对。其中,关联对是基于上述步骤301构建好的关系数据。可选地,可以将上述步骤301中构建好的任一用户行为的关联对按照一定的比例(例如70%:30%)分成训练样本和测试样本,从而形成训练样本集和测试样本集。
步骤305,从测试样本集中选取测试样本,以及执行以下测试步骤:将测试样本输入至训练完成的用户行为评估模型,根据损失值调整训练完成的用户行为评估模型的参数,得到测试完成的用户行为评估模型。
其中,该步骤用于测试步骤303中训练完成的用户行为评估模型,进而根据测试结果可以不断优化用户行为评估模型。
可选的,在用户行为评估模型测试完成后,可以通过验证曲线控制方差和偏差大小来进行模型调优。其中,验证曲线指模型测试的精度和样本数量的关系曲线,通过观察验证曲线的变化来调整模型的准确率和召回率,防止模型过拟合的结果。
进一步参考图4,其示出根据本申请的生成用户行为评估模型的方法的又一个实施例的流程图,该方法包括如下步骤:
步骤401,构建至少一种用户行为与预设评价指标的关联对。
步骤401与步骤201基本相同,因此不再赘述。
步骤402,获取训练样本集。
步骤402与步骤202基本相同,因此不再赘述。
步骤403,从样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型。
步骤403与步骤203基本相同,因此不再赘述。
步骤404,获取用户行为的原始估值。
其中,可以根据评估经验先给每种不同用户行为设定一个原始估值,例如:“点击=1分,滑动=1.5分,评论=2分,点赞=3分,分享=3分”等。对于评估对像是用户行为序列模式,则根据提取的模式:模式A=X分,例如:“滑动-点击=2分,滑动-点击-点赞-分享=4分”等给出相应的行为模式原始估值。
步骤405,基于原始估值和训练完成的用户行为评估模型得到的用户行为的特征系数,根据特征系数计算用户行为在预设评价指标下的最终估值。
其中,根据用户行为评估模型输出得到不同用户行为的特征系数,结合对应用户行为的原始估值,可以计算得到在特定评价指标下最终的用户行为估值得分。例如,最终的用户行为估值得分等于对应用户行为的原始估值乘以用户行为的特征系数。
示例性地,图5示出了根据本申请的用户行为评估模型输出的用户行为最终估值的一个实施例的示意图,如图5所示,分别计算“点击(click)”、“落地页分享(landing_share)”、“列表页不喜欢(list_dislike)”、“评论点赞(comment_like)”、“落地页不喜欢(landing_dislike)”、“落地页点赞(landing_likesucc)”、“落地页关注(landing_followcon)”、“落地页相关推荐点击(click_direct)”的最终估值得分。如果某一行为得分在0轴上方偏离得越远表明该行为相对于其它行为对于产品正向评价的刻画越好贡献价值也越大,反之则越小;0轴下偏离得分越多则表明该行为相对于其它行为对于产品负向评价的刻画越好贡献价值也越大,反之则越小。
在本实施例的一些可选的实现方式中,上述步骤203中的初始模型包括以下任一种机器学习模型:逻辑回归模型、决策树模型、随机森林模型、梯度下降树模型。
可选地,可以使用多种机器学习模型进行学习,并选择效果最优的模型作为用户行为评估模型。模型效果的优劣比较属于现有技术,在此不再赘述。
在本实施例的一些可选的实现方式中,上述步骤201中的关联对还包括产品变化前后用户行为的量化变化值及其显著性评价结论与产品变化前后预设评价指标的量化变化值及其显著性评价结论的映射对。
其中,“显著性检验”是英文Significance Test的汉语译名。在统计学中,显著性检验是“统计假设检验”(Statistical Hypothesis Testing)的一种,显著性检验是用于检测科学实验中实验组与对照组之间是否有差异以及差异是否显著的方法,例如T检验。示例性,产品变化前后用户行为的量化变化值及其显著性评价结论与产品变化前后预设评价指标的量化变化值及其显著性评价结论的映射对为:点击=[(Δ=0.56,显著性=False),DAU(Δ=0.8,显著性=False)],评论=[(Δ=0.75,显著性=False),DAU(Δ=0.8,显著性=False)]。其中,“显著性=False”表示该指标在某种统计检验显著水平之下,变换不明显,可以理解为没有信号。
在本实施例的一些可选的实现方式中,上述步骤201中的关联对中产品变化前后用户行为的量化变化值是根据产品变化前后用户行为的变化值以及用户行为的数量确定的。
其中,可以把作为研究对象的用户行为抽象成用户行为数量X和用户行为本身Y。用户行为本身Y的价值可以用原始估值进行表示。考虑到用户体验产品过程中用户行为数量X的影响,在构建模型的计算过程中可以根据具体情况给以量化后的用户行为相应的数量权重作为补偿。
为了便于理解,图6示出了根据本申请的生成用户行为评估模型的方法的一个实施例的应用场景示意图。
如图6所示,首先,针对用户的特定行为完成日志打点,并基于获取的日志,提取用户主要的行为(单一行为,例如:“浏览,点击和评论”等)和特定行为模式数据(一个会话内行为序列,例如:“滑动-点击”和“滑动-点击-点赞-分享”等)。然后,收集特定的用户行为数据,比如:用户每天登陆、浏览和点击的数据,再生成对应的评价指标比如:DAU数据,并根据DAU数据分析得到产品变化的评估结论。之后,建立用户的特定行为和评价间的关联模型,即某种特定的关系映射,这一部分主要是通过构建特定的行为量化后结果和最终产品评价结果间的联系。再后,基于上述构建好的关系数据为每一种行为生成相应的训练和测试样本。再后,采用多种不同的学习模型进行拟合,然后比较不同模型的效果,从中选择表达较好的一组。确定模型后为了获得更好的模型表示效果同时又防止数据上的过度拟合,可以通过学习和验证曲线控制方差和偏差大小来进行调节。最后,根据调优后的模型输出得到不同行为下的特征系数,进而对不同行为进行估值。
进一步参考图7,作为对上述各图所示方法的实现,本申请提供了一种生成用户行为评估模型的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图7所示,本实施例的生成用户行为评估模型的装置700可以包括:构建模块701、第一获取模块702、训练模块703。其中,构建模块701,被配置成构建至少一种用户行为与预设评价指标的关联对,其中,关联对包括:产品变化前后用户行为的量化变化值与预设评价指标的量化变化值的映射对;第一获取模块702,被配置成获取训练样本集,其中,训练样本集中的样本包括至少一种用户行为与预设评价指标的关联对;训练模块703,被配置成从样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型。
在本实施例中,生成用户行为评估模型的装置700中:构建模块701、第一获取模块702、训练模块703。其中,构建模块701的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-203的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,还包括:第二获取模块,被配置成获取测试样本集,其中,测试样本集中的样本包括用户行为与预设评价指标的关联对;测试模块,被配置成从测试样本集中选取测试样本,以及执行以下测试步骤:将测试样本输入至训练完成的用户行为评估模型,根据损失值调整训练完成的用户行为评估模型的参数,得到测试完成的用户行为评估模型。
在本实施例的一些可选的实现方式中,还包括:第三获取模块,被配置成获取用户行为的原始估值;估值模块,被配置成基于原始估值和训练完成的用户行为评估模型得到的用户行为的特征系数,根据特征系数计算用户行为在预设评价指标下的最终估值。
在本实施例的一些可选的实现方式中,初始模型包括以下任一种机器学习模型:逻辑回归模型、决策树模型、随机森林模型、梯度下降树模型。
在本实施例的一些可选的实现方式中,预设评价指标包括以下任一种:日活跃用户数量指标、点展比指标。
在本实施例的一些可选的实现方式中,关联对还包括产品变化前后用户行为的量化变化值及其显著性评价结论与产品变化前后预设评价指标的量化变化值及其显著性评价结论的映射对。
在本实施例的一些可选的实现方式中,关联对中产品变化前后用户行为的量化变化值是根据产品变化前后用户行为的变化值以及用户行为的数量确定的。
在本实施例的一些可选的实现方式中,用户行为包括:单一用户行为和用户行为序列。
如图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示,设备800包括计算单元801,其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序,来执行各种适当的动作和处理。在RAM 803中,还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元806,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如用于移动终端的字幕生成方法。例如,在一些实施例中,用于移动终端的字幕生成方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时,可以执行上文描述的用于移动终端的字幕生成方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行用于移动终端的字幕生成方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请的技术方案,首先构建至少一种用户行为与预设评价指标的关联对,其中,关联对包括:产品变化前后用户行为的量化变化值与预设评价指标的量化变化值的映射对;之后获取训练样本集,其中,训练样本集中的样本包括至少一种用户行为与预设评价指标的关联对;最后从样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型,从而能够得到一种可以评估用户行为价值的模型,量化不同用户行为在产品评价中的价值大小。
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (18)
1.一种生成用户行为评估模型的方法,包括:
构建至少一种用户行为与预设评价指标的关联对,其中,所述关联对包括:产品内容变化前后用户行为的量化变化值与预设评价指标的量化变化值的映射对;
获取训练样本集,其中,所述训练样本集中的样本包括至少一种用户行为与预设评价指标的关联对;
从所述样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将所述训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型。
2.根据权利要求1所述的方法,还包括:
获取测试样本集,其中,所述测试样本集中的样本包括所述用户行为与预设评价指标的关联对;
从所述测试样本集中选取测试样本,以及执行以下测试步骤:将所述测试样本输入至训练完成的用户行为评估模型,根据损失值调整所述训练完成的用户行为评估模型的参数,得到测试完成的用户行为评估模型。
3.根据权利要求1所述的方法,所述方法还包括:
获取用户行为的原始估值;
基于所述原始估值和所述训练完成的用户行为评估模型得到的用户行为的特征系数,根据所述特征系数计算用户行为在预设评价指标下的最终估值。
4.根据权利要求1所述的方法,其中,所述初始模型包括以下任一种机器学习模型:
逻辑回归模型、决策树模型、随机森林模型、梯度下降树模型。
5.根据权利要求1所述的方法,其中,所述预设评价指标包括以下任一种:
日活跃用户数量指标、点展比指标。
6.根据权利要求1所述的方法,其中,所述关联对还包括产品内容变化前后用户行为的量化变化值及其显著性评价结论与产品内容变化前后预设评价指标的量化变化值及其显著性评价结论的映射对。
7.根据权利要求1或6所述的方法,其中,所述关联对中产品内容变化前后用户行为的量化变化值是根据产品内容变化前后用户行为的变化值以及用户行为的数量确定的。
8.根据权利要求1所述的方法,其中,所述用户行为包括:单一用户行为和用户行为序列。
9.一种生成用户行为评估模型的装置,包括:
构建模块,被配置成构建至少一种用户行为与预设评价指标的关联对,其中,所述关联对包括:产品内容变化前后用户行为的量化变化值与预设评价指标的量化变化值的映射对;
第一获取模块,被配置成获取训练样本集,其中,所述训练样本集中的样本包括至少一种用户行为与预设评价指标的关联对;
训练模块,被配置成从所述样本集中选取对应于任一用户行为的训练样本,以及执行以下训练步骤:将所述训练样本输入至初始模型进行回归拟合,得到训练完成的用户行为评估模型。
10.根据权利要求9所述的装置,还包括:
第二获取模块,被配置成获取测试样本集,其中,所述测试样本集中的样本包括所述用户行为与预设评价指标的关联对;
测试模块,被配置成从所述测试样本集中选取测试样本,以及执行以下测试步骤:将所述测试样本输入至训练完成的用户行为评估模型,根据损失值调整所述训练完成的用户行为评估模型的参数,得到测试完成的用户行为评估模型。
11.根据权利要求9所述的装置,还包括:
第三获取模块,被配置成获取用户行为的原始估值;
估值模块,被配置成基于所述原始估值和所述训练完成的用户行为评估模型得到的用户行为的特征系数,根据所述特征系数计算用户行为在预设评价指标下的最终估值。
12.根据权利要求9所述的装置,其中,所述初始模型包括以下任一种机器学习模型:
逻辑回归模型、决策树模型、随机森林模型、梯度下降树模型。
13.根据权利要求9所述的装置,其中,所述预设评价指标包括以下任一种:
日活跃用户数量指标、点展比指标。
14.根据权利要求9所述的装置,其中,所述关联对还包括产品内容变化前后用户行为的量化变化值及其显著性评价结论与产品内容变化前后预设评价指标的量化变化值及其显著性评价结论的映射对。
15.根据权利要求9或14所述的装置,其中,所述关联对中产品内容变化前后用户行为的量化变化值是根据产品内容变化前后用户行为的变化值以及用户行为的数量确定的。
16.根据权利要求9所述的装置,其中,所述用户行为包括:单一用户行为和用户行为序列。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011543938.XA CN112541705B (zh) | 2020-12-23 | 2020-12-23 | 生成用户行为评估模型的方法、装置、设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011543938.XA CN112541705B (zh) | 2020-12-23 | 2020-12-23 | 生成用户行为评估模型的方法、装置、设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112541705A CN112541705A (zh) | 2021-03-23 |
CN112541705B true CN112541705B (zh) | 2024-01-23 |
Family
ID=75017433
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011543938.XA Active CN112541705B (zh) | 2020-12-23 | 2020-12-23 | 生成用户行为评估模型的方法、装置、设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112541705B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109919684A (zh) * | 2019-03-18 | 2019-06-21 | 上海盛付通电子支付服务有限公司 | 用于生成信息预测模型的方法、电子设备和计算机可读存储介质 |
CN110569427A (zh) * | 2019-08-07 | 2019-12-13 | 智者四海(北京)技术有限公司 | 一种多目标排序模型训练、用户行为预测方法及装置 |
WO2019242222A1 (zh) * | 2018-06-21 | 2019-12-26 | 北京字节跳动网络技术有限公司 | 用于生成信息的方法和装置 |
WO2020000876A1 (zh) * | 2018-06-27 | 2020-01-02 | 北京字节跳动网络技术有限公司 | 用于生成模型的方法和装置 |
CN111488995A (zh) * | 2020-04-08 | 2020-08-04 | 北京字节跳动网络技术有限公司 | 用于评估联合训练模型的方法和装置 |
-
2020
- 2020-12-23 CN CN202011543938.XA patent/CN112541705B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019242222A1 (zh) * | 2018-06-21 | 2019-12-26 | 北京字节跳动网络技术有限公司 | 用于生成信息的方法和装置 |
WO2020000876A1 (zh) * | 2018-06-27 | 2020-01-02 | 北京字节跳动网络技术有限公司 | 用于生成模型的方法和装置 |
CN109919684A (zh) * | 2019-03-18 | 2019-06-21 | 上海盛付通电子支付服务有限公司 | 用于生成信息预测模型的方法、电子设备和计算机可读存储介质 |
CN110569427A (zh) * | 2019-08-07 | 2019-12-13 | 智者四海(北京)技术有限公司 | 一种多目标排序模型训练、用户行为预测方法及装置 |
CN111488995A (zh) * | 2020-04-08 | 2020-08-04 | 北京字节跳动网络技术有限公司 | 用于评估联合训练模型的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN112541705A (zh) | 2021-03-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109783632B (zh) | 客服信息推送方法、装置、计算机设备及存储介质 | |
CN110503531B (zh) | 时序感知的动态社交场景推荐方法 | |
CN109460514B (zh) | 用于推送信息的方法和装置 | |
CN104778173B (zh) | 目标用户确定方法、装置及设备 | |
CN109299258A (zh) | 一种舆情事件检测方法、装置及设备 | |
CN111242310A (zh) | 特征有效性评估方法、装置、电子设备及存储介质 | |
CN113610239A (zh) | 针对机器学习的特征处理方法及特征处理*** | |
CN116561542B (zh) | 模型的优化训练***、方法以及相关装置 | |
CN113360711A (zh) | 视频理解任务的模型训练和执行方法、装置、设备及介质 | |
WO2021103401A1 (zh) | 数据对象分类方法、装置、计算机设备和存储介质 | |
CN116680401A (zh) | 文档处理方法、文档处理装置、设备及存储介质 | |
CN112541705B (zh) | 生成用户行为评估模型的方法、装置、设备以及存储介质 | |
CN113961765B (zh) | 基于神经网络模型的搜索方法、装置、设备和介质 | |
CN112200602B (zh) | 用于广告推荐的神经网络模型训练方法及装置 | |
CN115080856A (zh) | 推荐方法及装置、推荐模型的训练方法及装置 | |
CN112905743A (zh) | 文本对象检测的方法、装置、电子设备和存储介质 | |
CN112463964A (zh) | 文本分类及模型训练方法、装置、设备及存储介质 | |
CN112270574A (zh) | 一种活动执行过程中的异动分析方法、装置、设备及介质 | |
CN116340864B (zh) | 一种模型漂移检测方法、装置、设备及其存储介质 | |
CN113391989B (zh) | 程序评估方法、装置、设备、介质及程序产品 | |
CN113420227B (zh) | 点击率预估模型的训练方法、预估点击率的方法、装置 | |
CN113190779B (zh) | 网页评估方法和装置 | |
CN113836439B (zh) | 用户匹配方法、计算设备和计算机可读存储介质 | |
CN114969543B (zh) | 推广方法、***、电子设备和存储介质 | |
CN114637921B (zh) | 基于建模偶然不确定性的物品推荐方法、装置和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |