CN112085103B - 基于历史行为的数据增强方法、装置、设备以及存储介质 - Google Patents
基于历史行为的数据增强方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN112085103B CN112085103B CN202010944736.XA CN202010944736A CN112085103B CN 112085103 B CN112085103 B CN 112085103B CN 202010944736 A CN202010944736 A CN 202010944736A CN 112085103 B CN112085103 B CN 112085103B
- Authority
- CN
- China
- Prior art keywords
- sample data
- data
- time interval
- historical
- historical sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000006399 behavior Effects 0.000 title claims abstract description 46
- 238000012549 training Methods 0.000 claims abstract description 22
- 230000015654 memory Effects 0.000 claims description 19
- 230000008859 change Effects 0.000 claims description 8
- 238000007781 pre-processing Methods 0.000 claims description 8
- 238000010801 machine learning Methods 0.000 abstract description 9
- 238000004891 communication Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000002708 enhancing effect Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例公开了一种基于历史行为的数据增强方法、装置、设备以及存储介质,涉及大数据技术领域。该基于历史行为的数据增强方法的一具体实施方式包括:获取用户当前时间的样本数据;确定第一时间间隔,以及获取用户在第一时间间隔前的第一历史样本数据;确定当前时间的样本数据与第一历史样本数据的第一分布距离,若第一分布距离小于预定的最小分布距离,则将第一历史样本数据作为增强数据集,从而基于真实用户的历史行为构造训练样本,实现数据增强,为后续对机器学习模型的训练提供更大帮助。
Description
技术领域
本申请涉及计算机技术领域,具体涉及大数据技术领域,尤其涉及基于历史行为的数据增强方法、装置、设备以及存储介质。
背景技术
训练数据对机器学习模型非常重要,通常来说训练数据越多,机器学习模型的效果越好。在实际的应用中,有标注的训练数据很难收集到,因此需要对现有的训练数据进行补充。
对于图像数据,通常通过对原始图片进行翻转、旋转、随机裁剪、局部变形等方法对数据进行扩充。对于文本类型的数据,通常使用近义词替换、随机***词、随机交换位置等方式对数据进行扩充。但是,对于包含时间特征的表格型数据,通常很难收集到大量的真实样本,现有的方法是使用SMOTE、GAN等算法生成一些伪样本。
发明内容
为了解决上述背景技术部分提到的一个或多个技术问题,本申请实施例提供了基于历史行为的数据增强方法、装置、设备以及存储介质。
第一方面,本申请实施例提供了基于历史行为的数据增强方法,包括:获取用户当前时间的样本数据;确定第一时间间隔,以及获取用户在所述第一时间间隔前的第一历史样本数据;确定所述当前时间的样本数据与所述第一历史样本数据的第一分布距离,若所述第一分布距离小于预定的最小分布距离,则将所述第一历史样本数据作为增强数据集。
第二方面,本申请实施例提供了基于历史行为的数据增强装置,包括:获取模块,被配置为获取用户当前时间的样本数据;第一时间间隔确定模块以及第一获取模块,被配置为确定第一时间间隔,以及获取用户在所述第一时间间隔前的第一历史样本数据;第一分布距离确定模块,被配置为确定所述当前时间的样本数据与所述第一历史样本数据的第一分布距离,若所述第一分布距离小于预定的最小分布距离,则将所述第一历史样本数据作为增强数据集。
第三方面,本申请实施例提出了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。
第四方面,本申请实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。
本申请实施例提供的基于历史行为的数据增强方法、装置、设备以及存储介质,首先获取用户当前时间的样本数据;之后确定第一时间间隔,以及获取用户在所述第一时间间隔前的第一历史样本数据;最后确定所述当前时间的样本数据与所述第一历史样本数据的第一分布距离,若所述第一分布距离小于预定的最小分布距离,则将所述第一历史样本数据作为增强数据集,从而基于真实用户的历史行为构造训练样本,实现数据增强,为后续对机器学习模型的训练提供更大帮助。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显。附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请可以应用于其中的示例性***架构图;
图2是根据本申请的基于历史行为的数据增强方法的一个实施例的流程示意图;
图3是根据本申请的基于历史行为的数据增强方法的另一个实施例的流程示意图;
图4是本申请的基于历史行为的数据增强装置的一个实施例的结构示意图;
图5是用来实现本申请实施例的基于历史行为的数据增强方法的电子设备的框图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
在数据增强技术领域,对于包含时间特征的表格型数据,在很难收集到大量的真实样本的情况下,现有的方法是使用SMOTE、GAN等算法生成一些伪样本。但是,使用算法生成伪样本,有可能生成的伪样本不能代表真实数据的分布,其对机器学习模型的训练帮助有限。
为此,本申请实施例提供了的基于历史行为的数据增强方法、装置、设备以及存储介质。
图1示出了可以应用本申请的基于历史行为的数据增强方法或基于历史行为的数据增强装置的实施例的示例性***架构100。
如图1所示,***架构100可以包括终端设备101、网络102、服务器103。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
终端设备101可以通过网络102与服务器103交互。终端设备101中可以提供用户当前时间的样本数据,包括但不限于数据库、用户终端等等。
服务器103可以提供各种服务,例如服务器103可以对从终端设备101获取到的用户当前时间的样本数据等数据进行分析等处理,生成处理结果(例如将用户的历史样本数据作为增强数据集)。
需要说明的是,服务器103可以是硬件,也可以是软件。当服务器103为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器103为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本申请实施例所提供的基于历史行为的数据增强方法一般由服务器103执行,相应地,基于历史行为的数据增强装置一般设置于服务器103中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本申请的基于历史行为的数据增强方法的一个实施例的流程200。该基于历史行为的数据增强方法,包括以下步骤:
步骤201,获取用户当前时间的样本数据。
在本实施例中,基于历史行为的数据增强方法的执行主体(例如图1所示的服务器103)可以获取用户当前时间的样本数据。这里的当前时间的样本数据是指待进行扩充的原有样本数据。例如,对于金融信贷***中的风控模型,为了预测某个用户会不会逾期,通常会把用户在申请日的一些属性、行为表示成特征,这些特征构成了用户在申请日的样本数据。
步骤202,确定第一时间间隔,以及获取用户在第一时间间隔前的第一历史样本数据。
在本实施例中,上述执行主体可以确定第一时间间隔,以及获取用户在第一时间间隔前的第一历史样本数据。其中,上述执行主体可以根据样本数据的特征确定第一时间间隔。例如,对于风控模型中用于预测用户会不会逾期的样本数据,由于用户每天的样本数据对于预测用户行为都有帮助,因此可以以一天作为第一时间间隔。再例如,对于点击率预估模型中用于预测用户点击行为的样本数据,由于用户每周的样本数据对于预测用户的点击行为有更大的帮助,因此可以以一周作为第一时间间隔。
在本实施例中,上述执行主体可以获取用户在第一时间间隔前的第一历史样本数据。其中,第一历史样本数据可以包含用户当前时间的样本数据中的多个特征。例如,现有如下原始样本数据:
该原始样本数据包含了“性别”、“年龄”、“最近7天上网时长”、“最近7天申请贷款次数”等特征。那么第一历史样本数据可以包含“性别”、“年龄”、“最近7天上网时长”、“最近7天申请贷款次数”中的一个或多个特征。以一天作为第一时间间隔为例,可以获取如下第一历史样本数据:
步骤203,确定当前时间的样本数据与第一历史样本数据的第一分布距离,若第一分布距离小于预定的最小分布距离,则将第一历史样本数据作为增强数据集。
在本实施例中,上述执行主体可以确定当前时间的样本数据与第一历史样本数据的第一分布距离。其中,数据分布的距离是指数据分布的相似度,数据分布的距离越小代表数据的相似度越高,数据分布的距离越大代表数据的相似度越低。假设原有样本为X,由X扩充出来的第一历史样本记为FX,其中FX1由X1扩充得到。如果FX1的整体数据分布与X差异太大,会给后续对机器学习模型的训练引入噪声。为避免引入噪声,本实施例为原有样本X和第一历史样本FX的分布距离设定了最小分布距离,保证了原有样本X和第一历史样本FX的整体一致性。示例性地,分布距离可以取0至无穷大,取0值时即代表原有样本X和第一历史样本FX相同,取无穷大值时,即代表原有样本X和第一历史样本FX完全不同。在这里,可以根据实际需要,设定原有样本X和第一历史样本FX的最小分布距离。其中,若当前时间的样本数据与第一历史样本数据的第一分布距离小于预定的最小分布距离,则将第一历史样本数据作为增强数据集。
与现有技术相比,本申请实施例基于真实用户的历史行为构造训练样本,实现数据增强,为后续对机器学习模型的训练提供更大帮助。
在本实施例的一些可选的实施方式中,上述执行主体可以基于当前时间的样本数据中的特征的时间变化特征,确定第一时间间隔。其中,用户样本的不同维度的特征,其随时间变化的特征也不同。例如,现有如下原始样本数据:
该用户样本包含“性别”、“年龄”、“最近7天上网时长”、“最近7天申请贷款次数”等多个维度的特征。其中,“性别”是长期不变的特征,“年龄”是中长期不变的特征,“最近7天上网时长”是短期波动较大的特征。该原始样本数据中用户不同维度的特征具有不同的时间变化特征。对于长期不变的特征,可以将第一时间间隔设定为较大值,例如10年或无穷大。对于中长期不变的特征,可以将第一时间间隔设定为较小值,例如1年或1个月。对于短期波动较大的特征,可以将第一时间间隔设定为极小值,例如1天或1个小时。在本实施例中,可以根据样本数据中的特征的时间变化特征,确定对应的第一时间间隔,从而提高扩充样本的质量。
进一步参考图3,其示出了根据本申请的基于历史行为的数据增强方法的另一个实施例的流程图,该基于历史行为的数据增强方法中的步骤301-303的具体处理及其所带来的技术效果与图2中的步骤201-203相同,在此不再赘述。该基于历史行为的数据增强方法还包括:
步骤304,确定第二时间间隔,以及获取用户在第二时间间隔前的第二历史样本数据。
在本实施例中,上述执行主体可以确定第二时间间隔。其中,第二时间间隔大于第一时间间隔。示例性地,假设第一时间间隔为n天,n为正整数,那么可以将2n天作为第二时间间隔。
在本实施例中,上述执行主体可以获取用户在第二时间间隔前的第二历史样本数据。其中,第二历史样本数据可以包含用户当前时间的样本数据中的多个特征。例如,现有如下原始样本数据:
该原始样本数据包含了“性别”、“年龄”、“最近7天上网时长”、“最近7天申请贷款次数”等特征。那么第二历史样本数据可以包含“性别”、“年龄”、“最近7天上网时长”、“最近7天申请贷款次数”中的一个或多个特征。以一天作为第一时间间隔、两天作为第二时间间隔为例,可以获取如下第二历史样本数据:
步骤305,确定当前时间样本数据与第二历史样本数据的第二分布距离,若第二分布距离小于预定的最小分布距离,则将第二历史样本数据作为增强数据集。
在本实施例中,上述执行主体可以确定当前时间样本数据与第二历史样本数据的第二分布距离。其中,数据分布的距离是指数据分布的相似度,数据分布的距离越小代表数据的相似度越高,数据分布的距离越大代表数据的相似度越低。假设原有样本为X,由X扩充出来的第二历史样本记为FY,其中FY1由X1扩充得到。如果FY的整体数据分布与X差异太大,会给后续对机器学习模型的训练引入噪声。为避免引入噪声,本实施例为原有样本X和第二历史样本FY的分布距离设定了最小分布距离,保证了原有样本X和第二历史样本FY的整体一致性。示例性地,分布距离可以取0至无穷大,取0值时即代表原有样本X和第二历史样本FY相同,取无穷大值时,即代表原有样本X和第二历史样本FY完全不同。在这里,可以根据实际需要,设定原有样本X和第二历史样本FY的最小分布距离。其中,若当前时间的样本数据与第二历史样本数据的第二分布距离小于预定的最小分布距离,则将第二历史样本数据作为增强数据集。
优选地,可以将本实施例中步骤305中的最小分布距离与步骤303中的最小分布距离设置为相同值,以减少参数,实现对原始样本数据的反复扩充。
在本实施例中,由于用户原始样本的某些维度的特征随着时间间隔的增大,其特征的变化也越大,因此可以调整时间窗口,扩大历史样本的范围,以获取更多的真实样本数据。
在本实施例的一些可选的实施方式中,获取用户在第一时间间隔前的第一历史样本数据或获取用户在第二时间间隔前的第二历史样本数据还包括:对第一历史样本数据或第二历史样本数据进行预处理,预处理包括:若第一历史样本数据或第二历史样本数据的变化特征值大于预定的最小阈值,则输出第一历史样本数据或第二历史样本数据。其中,可以首先获取第一历史样本数据或第二历史样本数据相对于当前时间的样本数据的变化特征数,若该变化特征数小于预定的最小阈值,则丢弃对应的第一历史样本数据或第二历史样本数据;若该变化特征数大于预定的最小阈值,则输出对应的第一历史样本数据或第二历史样本数据。在本实施例中,通过设置特征变化数的最小阈值,可以筛选出具有一定变化特征的历史样本,从而进一步提高历史样本的质量,为后续对机器模型的训练提供更多的帮助。
在本实施例的一些可选的实施方式中,可以基于当前时间的样本数据与第一历史样本数据之间的散度或当前时间的样本数据与第二历史样本数据之间的散度,确定第一分布距离或第二分布距离。示例性地,散度可以是KL散度(Kullback–Leibler divergence)或JS散度(Jensen-Shannon divergence)。KL/JS散度是衡量数据分布或概率分布的数值指标。具体地,KL散度的形式可以是关于q(x)和p(x)的函数F,其中q(x)表示当前时间的样本数据,p(x)表示第一历史样本数据或第二历史样本数据。例如,如果q(x)和p(x)完全匹配,函数值F等于0,否则函数值F的取值是0至无穷大。KL散度越小,q(x)和p(x)之间的匹配就越好。
在本实施例的一些可选的实施方式中,可以将数据增强集作为训练样本,对金融信贷***中的风控模型或推荐***中的点击率预估模型进行训练,得到训练好的风控模型或点击率预估模型。其中,对于金融信贷***中的风控建模来说,每一个样本通常是一条借款记录,其中按时还款的为正样本,逾期或者违约的为负样本。由于每条样本都意味着一笔贷款,通常很难收集到大量的样本。因此,通过将根据本申请实施例提供的基于历史行为的数据增强方法而获得的数据增强集作为训练样本,对风控模型进行训练,可以提高风控模型的准确率。同理,通过将根据本申请实施例提供的基于历史行为的数据增强方法而获得的数据增强集作为训练样本,对点击率预估模型进行训练,可以提高点击率预估模型的预测准确率。
进一步参考图4,作为对上述各图所示方法的实现,本申请提供了一种基于历史行为的数据增强装置一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图4所示,本实施例的基于历史行为的数据增强装置400可以包括:获取模块401、第一时间间隔确定模块402、第一获取模块403、第一分布距离确定模块404。其中,获取模块401,被配置为获取用户当前时间的样本数据;第一时间间隔确定模块402以及第一获取模块403,被配置为确定第一时间间隔,以及获取用户在所述第一时间间隔前的第一历史样本数据;第一分布距离确定模块404,被配置为确定所述当前时间的样本数据与所述第一历史样本数据的第一分布距离,若所述第一分布距离小于预定的最小分布距离,则将所述第一历史样本数据作为增强数据集。
在本实施例中,基于历史行为的数据增强装置400中:获取模块401、第一时间间隔确定模块402、第一获取模块403、第一分布距离确定模块404的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-203的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,所述装置还包括:第二时间间隔确定模块以及第二获取模块,被配置为确定第二时间间隔,以及获取用户在所述第二时间间隔前的第二历史样本数据,其中,所述第二时间间隔大于所述第一时间间隔;第二分布距离确定模块,被配置为确定所述当前时间的样本数据与所述第二历史样本数据的第二分布距离,若所述第二分布距离小于预定的最小分布距离,则将所述第二历史样本数据作为增强数据集。
在本实施例的一些可选的实现方式中,所述第一获取模块或所述第二获取模块还包括:预处理模块,被配置为对所述第一历史样本数据或所述第二历史样本数据进行预处理,所述预处理包括:若所述第一历史样本数据或所述第二历史样本数据的变化特征值大于预定的最小阈值,则输出所述第一历史样本数据或所述第二历史样本数据。
在本实施例的一些可选的实现方式中,所述第一时间间隔确定模块进一步被配置为:基于所述当前时间的样本数据中的特征的时间变化特征,确定所述第一时间间隔。
在本实施例的一些可选的实现方式中,所述第一分布距离确定模块或所述第二分布距离确定模块进一步被配置为:基于所述当前时间的样本数据与所述第一历史样本数据之间的散度或所述当前时间的样本数据与所述第二历史样本数据之间的散度,确定所述第一分布距离或所述第二分布距离。
在本实施例的一些可选的实现方式中,将所述数据增强集作为训练样本,对金融信贷***中的风控模型或推荐***中的点击率预估模型进行训练,得到训练好的风控模型或点击率预估模型。
如图5所示,是根据本申请实施例基于历史行为的数据增强方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图5所示,该电子设备包括:一个或多个处理器501、存储器502,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器***)。图5中以一个处理器501为例。
存储器502即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的基于历史行为的数据增强方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的基于历史行为的数据增强方法。
存储器502作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的基于历史行为的数据增强方法对应的程序指令/模块(例如,附图5所示的获取模块401、第一时间间隔确定模块402、第一获取模块403、第一分布距离确定模块404)。处理器501通过运行存储在存储器502中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的基于历史行为的数据增强方法。
存储器502可以包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需要的应用程序;存储数据区可存储根据基于历史行为的数据增强方法的电子设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器502可选包括相对于处理器501远程设置的存储器,这些远程存储器可以通过网络连接至基于历史行为的数据增强方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
基于历史行为的数据增强方法的电子设备还可以包括:输入装置503和输出装置504。处理器501、存储器502、输入装置503和输出装置504可以通过总线或者其他方式连接,图5中以通过总线连接为例。
输入装置503可接收输入的数字或字符信息,以及产生与基于历史行为的数据增强方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请的技术方案,首先获取用户当前时间的样本数据;之后确定第一时间间隔,以及获取用户在所述第一时间间隔前的第一历史样本数据;最后确定所述当前时间的样本数据与所述第一历史样本数据的第一分布距离,若所述第一分布距离小于预定的最小分布距离,则将所述第一历史样本数据作为增强数据集,从而基于真实用户的历史行为构造训练样本,实现数据增强,为后续对机器学习模型的训练提供更大帮助。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (8)
1.一种基于历史行为的数据增强方法,包括:
获取用户当前时间的样本数据;
确定第一时间间隔,以及获取用户在所述第一时间间隔前的第一历史样本数据;
基于所述当前时间的样本数据与所述第一历史样本数据之间的散度,确定第一分布距离,若所述第一分布距离小于预定的最小分布距离,则将所述第一历史样本数据作为增强数据集;还包括:
确定第二时间间隔,以及获取用户在所述第二时间间隔前的第二历史样本数据,其中,所述第二时间间隔大于所述第一时间间隔;
基于所述当前时间的样本数据与所述第二历史样本数据之间的散度,确定第二分布距离,若所述第二分布距离小于预定的最小分布距离,则将所述第二历史样本数据作为增强数据集;
所述获取用户在所述第一时间间隔前的第一历史样本数据或获取用户在所述第二时间间隔前的第二历史样本数据还包括:
对所述第一历史样本数据或所述第二历史样本数据进行预处理,所述预处理包括:
若所述第一历史样本数据或所述第二历史样本数据的变化特征值大于预定的最小阈值,则输出所述第一历史样本数据或所述第二历史样本数据。
2.根据权利要求1所述的方法,所述确定第一时间间隔包括:
基于所述当前时间的样本数据中的特征的时间变化特征,确定所述第一时间间隔。
3.根据权利要求1或2所述的方法,其特征在于,将所述数据增强集作为训练样本,对金融信贷***中的风控模型或推荐***中的点击率预估模型进行训练,得到训练好的风控模型或点击率预估模型。
4.一种基于历史行为的数据增强装置,其特征在于,所述装置包括:
获取模块,被配置为获取用户当前时间的样本数据;
第一时间间隔确定模块以及第一获取模块,被配置为确定第一时间间隔,以及获取用户在所述第一时间间隔前的第一历史样本数据;
第一分布距离确定模块,被配置为基于所述当前时间的样本数据与所述第一历史样本数据之间的散度,确定第一分布距离,若所述第一分布距离小于预定的最小分布距离,则将所述第一历史样本数据作为增强数据集;还包括:
第二时间间隔确定模块以及第二获取模块,被配置为确定第二时间间隔,以及获取用户在所述第二时间间隔前的第二历史样本数据,其中,所述第二时间间隔大于所述第一时间间隔;
第二分布距离确定模块,被配置为基于所述当前时间的样本数据与所述第二历史样本数据之间的散度,确定第二分布距离,若所述第二分布距离小于预定的最小分布距离,则将所述第二历史样本数据作为增强数据集;所述第一获取模块或所述第二获取模块还包括:
预处理模块,被配置为对所述第一历史样本数据或所述第二历史样本数据进行预处理,所述预处理包括:若所述第一历史样本数据或所述第二历史样本数据的变化特征值大于预定的最小阈值,则输出所述第一历史样本数据或所述第二历史样本数据。
5.根据权利要求4所述的装置,所述第一时间间隔确定模块进一步被配置为:
基于所述当前时间的样本数据中的特征的时间变化特征,确定所述第一时间间隔。
6.根据权利要求4或5所述的装置,其特征在于,将所述数据增强集作为训练样本,对金融信贷***中的风控模型或推荐***中的点击率预估模型进行训练,得到训练好的风控模型或点击率预估模型。
7.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-3中任一项所述的方法。
8.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-3中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010944736.XA CN112085103B (zh) | 2020-09-10 | 2020-09-10 | 基于历史行为的数据增强方法、装置、设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010944736.XA CN112085103B (zh) | 2020-09-10 | 2020-09-10 | 基于历史行为的数据增强方法、装置、设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112085103A CN112085103A (zh) | 2020-12-15 |
CN112085103B true CN112085103B (zh) | 2023-06-27 |
Family
ID=73732729
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010944736.XA Active CN112085103B (zh) | 2020-09-10 | 2020-09-10 | 基于历史行为的数据增强方法、装置、设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112085103B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115408449B (zh) * | 2022-10-28 | 2023-03-07 | 支付宝(杭州)信息技术有限公司 | 一种用户行为的处理方法、装置及设备 |
CN115891871B (zh) * | 2022-11-16 | 2024-05-17 | 阿维塔科技(重庆)有限公司 | 车辆座舱的控制方法、装置及计算机可读存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018064800A1 (en) * | 2016-10-08 | 2018-04-12 | Nokia Technologies Oy | Apparatus, method and computer program product for distance estimation between samples |
CN108718303A (zh) * | 2018-05-09 | 2018-10-30 | 北京仁和诚信科技有限公司 | 安全运维管理方法及*** |
CN108776849A (zh) * | 2018-06-04 | 2018-11-09 | 中国平安人寿保险股份有限公司 | 员工晋升时长预测方法、装置、计算机设备及存储介质 |
CN108830312A (zh) * | 2018-06-01 | 2018-11-16 | 苏州中科天启遥感科技有限公司 | 一种基于样本自适应扩充的集成学习方法 |
CN109858625A (zh) * | 2019-02-01 | 2019-06-07 | 北京奇艺世纪科技有限公司 | 模型训练方法与设备、预测方法与设备、数据处理设备、介质 |
CN110245380A (zh) * | 2019-05-10 | 2019-09-17 | 西安理工大学 | 软仪表训练和样本补充方法 |
CN110288093A (zh) * | 2019-06-06 | 2019-09-27 | 博彦科技股份有限公司 | 数据处理方法、装置、存储介质及处理器 |
CN111191791A (zh) * | 2019-12-02 | 2020-05-22 | 腾讯云计算(北京)有限责任公司 | 机器学习模型的应用方法、训练方法、装置、设备及介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110249350A (zh) * | 2016-09-20 | 2019-09-17 | 河谷控股Ip有限责任公司 | 经由样本跟踪链进行样本跟踪、***和方法 |
-
2020
- 2020-09-10 CN CN202010944736.XA patent/CN112085103B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018064800A1 (en) * | 2016-10-08 | 2018-04-12 | Nokia Technologies Oy | Apparatus, method and computer program product for distance estimation between samples |
CN108718303A (zh) * | 2018-05-09 | 2018-10-30 | 北京仁和诚信科技有限公司 | 安全运维管理方法及*** |
CN108830312A (zh) * | 2018-06-01 | 2018-11-16 | 苏州中科天启遥感科技有限公司 | 一种基于样本自适应扩充的集成学习方法 |
CN108776849A (zh) * | 2018-06-04 | 2018-11-09 | 中国平安人寿保险股份有限公司 | 员工晋升时长预测方法、装置、计算机设备及存储介质 |
CN109858625A (zh) * | 2019-02-01 | 2019-06-07 | 北京奇艺世纪科技有限公司 | 模型训练方法与设备、预测方法与设备、数据处理设备、介质 |
CN110245380A (zh) * | 2019-05-10 | 2019-09-17 | 西安理工大学 | 软仪表训练和样本补充方法 |
CN110288093A (zh) * | 2019-06-06 | 2019-09-27 | 博彦科技股份有限公司 | 数据处理方法、装置、存储介质及处理器 |
CN111191791A (zh) * | 2019-12-02 | 2020-05-22 | 腾讯云计算(北京)有限责任公司 | 机器学习模型的应用方法、训练方法、装置、设备及介质 |
Non-Patent Citations (2)
Title |
---|
基于条件生成式对抗网络的数据增强方法;陈文兵;管正雄;陈允杰;;计算机应用(11);全文 * |
小样本条件下基于数据增强和WACGAN的雷达目标识别算法;朱克凡;王杰贵;刘有军;;电子学报(第06期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN112085103A (zh) | 2020-12-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7166322B2 (ja) | モデルを訓練するための方法、装置、電子機器、記憶媒体およびコンピュータプログラム | |
CN108830235B (zh) | 用于生成信息的方法和装置 | |
CN111639710A (zh) | 图像识别模型训练方法、装置、设备以及存储介质 | |
CN111539514A (zh) | 用于生成神经网络的结构的方法和装置 | |
KR20210040316A (ko) | 사용자 상호작용 정보 처리모델 생성방법, 사용자 상호작용 정보 처리방법 및 프로그램 | |
CN112036509A (zh) | 用于训练图像识别模型的方法和装置 | |
CN112163676B (zh) | 多任务服务预测模型训练方法、装置、设备以及存储介质 | |
CN112365876B (zh) | 语音合成模型的训练方法、装置、设备以及存储介质 | |
CN111563593B (zh) | 神经网络模型的训练方法和装置 | |
CN111582477B (zh) | 神经网络模型的训练方法和装置 | |
EP3876166A2 (en) | Method and apparatus for determining network model pruning strategy, device and storage medium | |
CN114612749B (zh) | 神经网络模型训练方法及装置、电子设备和介质 | |
CN112509690A (zh) | 用于控制质量的方法、装置、设备和存储介质 | |
CN113379627A (zh) | 图像增强模型的训练方法和对图像进行增强的方法 | |
KR20210132578A (ko) | 지식 그래프를 구축하는 방법, 장치, 기기 및 저장 매체 | |
CN111582375A (zh) | 数据增强策略搜索方法、装置、设备以及存储介质 | |
CN111680517A (zh) | 用于训练模型的方法、装置、设备以及存储介质 | |
CN112085103B (zh) | 基于历史行为的数据增强方法、装置、设备以及存储介质 | |
CN111767833A (zh) | 模型生成方法、装置、电子设备及存储介质 | |
CN111523467B (zh) | 人脸跟踪方法和装置 | |
CN111782785B (zh) | 自动问答方法、装置、设备以及存储介质 | |
CN114492788A (zh) | 训练深度学习模型的方法和装置、电子设备及存储介质 | |
CN112015439B (zh) | 用户app兴趣的嵌入方法、装置、设备以及存储介质 | |
CN112561059B (zh) | 用于模型蒸馏的方法和装置 | |
CN112529181A (zh) | 用于模型蒸馏的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |