CN110781929A - 信用预测模型的训练方法、预测方法及装置、介质和设备 - Google Patents
信用预测模型的训练方法、预测方法及装置、介质和设备 Download PDFInfo
- Publication number
- CN110781929A CN110781929A CN201910969520.6A CN201910969520A CN110781929A CN 110781929 A CN110781929 A CN 110781929A CN 201910969520 A CN201910969520 A CN 201910969520A CN 110781929 A CN110781929 A CN 110781929A
- Authority
- CN
- China
- Prior art keywords
- credit
- prediction model
- training
- credit prediction
- function value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/03—Credit; Loans; Processing thereof
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Economics (AREA)
- Strategic Management (AREA)
- General Engineering & Computer Science (AREA)
- Marketing (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- General Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Development Economics (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Technology Law (AREA)
- General Health & Medical Sciences (AREA)
- Tourism & Hospitality (AREA)
- Quality & Reliability (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Operations Research (AREA)
- Entrepreneurship & Innovation (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Game Theory and Decision Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开涉及机器学习技术领域,提供了一种信用预测模型的训练方法及装置、信用预测方法及装置,以及实现上述方法的计算机存储介质和电子设备。其中,该训练方法包括:获取包含时间点的训练样本,并将所述训练样本输入信用预测模型;对所述训练样本进行特征衍生处理,得到包含时间点的衍生特征;根据所述衍生特征与所述衍生特征的时间点计算所述特征衍生处理过程中的时序损失函数值;根据所述时序损失函数值确定所述信用预测模型的目标函数值,以根据所述目标函数值对所述信用预测模型进行训练。本技术方案能够提升信用预测模型的时序稳定性以及预测准确度。
Description
技术领域
本公开涉及机器学习技术领域,具体而言,涉及一种信用预测模型的训练方法及装置、信用预测方法及装置,以及实现上述信用预测模型的训练方法和上述信用预测方法的计算机存储介质和电子设备。
背景技术
信用等级可以通过风险等级来衡量,若预测对象的风险等级越高则说明其信用等级越低,反之,若预测对象的风险等级越低则说明其信用等级越高。其中,风险是指在某一时间段内,人们所期望达到的目标与实际结果之间产生的距离。而信用预测是通过预测发生风险事件的概率,通过信用预测可以提前制定有效的风险应对措施。
随着机器学习技术的迅猛发展,相关技术中通过训练机器学习模型来实现信用预测。具体地,训练机器学习模型的过程中,一般以降低模型的分类损失作为训练目标。最终得到分类损失满足设定需求的信用预测模型,进而通过训练后的信用预测模型进行信用等级信息的预测。
然而,相关技术所提供的信用预测模型的时序稳定性有待提高。
需要说明的是,上述背景技术部分公开的信息仅用于加强对本公开的背景的理解。
发明内容
本公开的目的在于提供一种信用预测模型的训练方法及装置、信用预测方法及装置,以及实现上述信用预测模型的训练方法和上述信用预测方法的计算机存储介质和电子设备,进而至少在一定程度上提高信用预测模型的时序稳定性,进而提升模型的预测准确度。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开的一个方面,提供一种信用预测模型的训练方法,包括:
获取包含时间点的训练样本,并将上述训练样本输入信用预测模型;对上述训练样本进行特征衍生处理,得到包含时间点的衍生特征;根据上述衍生特征与上述衍生特征的时间点计算上述特征衍生处理过程中的时序损失函数值;以及,根据上述时序损失函数值确定上述信用预测模型的目标函数值,以根据上述目标函数值对上述信用预测模型进行训练。
根据本公开的一个方面,提供一种信用预测模型的训练装置,包括:
样本获取模块,被配置为:获取包含时间点的训练样本,并将上述训练样本输入信用预测模型;
上述衍生特征获取模块,被配置为:对上述训练样本进行特征衍生处理,得到包含时间点的衍生特征;
上述时序损失函数确定模块,被配置为:根据上述衍生特征与上述衍生特征的时间点计算上述特征衍生处理过程中的时序损失函数值;以及,
上述模型训练模块,被配置为:根据上述时序损失函数值确定上述信用预测模型的目标函数值,以根据上述目标函数值对上述信用预测模型进行训练。
在本公开的一些实施例中,基于前述方案,上述信用预测模型的训练装置还包括:分类损失函数确定模块。
其中,上述分类损失函数确定模块,被配置为:对上述衍生特征进行分类处理得到分类结果,根据上述分类结果确定上述信用预测模型的分类损失函数值;
在此基础上,上述模型训练模块,被具体配置为:结合上述时序损失函数值和上述分类损失函数值确定上述信用预测模型的目标函数值。
在本公开的一些实施例中,基于前述方案,时序损失函数确定模块,包括:获取单元和损失计算单元。
其中,上述获取单元,被配置为:获取目标衍生特征,以及获取上述目标衍生特征的生成时间点;以及,上述损失计算单元,被配置为:计算上述目标衍生特征和上述生成时间点的互信息,得到上述特征衍生处理过程中的时序损失函数值。
在本公开的一些实施例中,基于前述方案,上述分类损失函数确定模块,被具体配置为,包括:计算上述分类结果的最大似然估计,得到上述信用预测模型的分类损失函数值。
在本公开的一些实施例中,基于前述方案,上述样本获取模块,包括:行为数据获取单元和标注单元。
其中,上述行为数据获取单元,被配置为:获取预测对象的行为数据,以及获取上述行为数据的生成时间点,得到包含时间点的行为数据;以及,上述标注单元,被配置为:确定对上述预测对象的信用等级信息,并根据上述信用等级对上述包含时间点的行为数据进行标注,得到由包含时间点的训练样本组成的训练集。
在本公开的一些实施例中,基于前述方案,上述行为数据获取单元,被具体配置为:采集用户在软件中行为数据的得到包含时间点的训练样本,上述软件包括即时通讯软件、理财平台和购物软件中一种或多种。
在本公开的一些实施例中,基于前述方案,上述信用预测模型的训练装置还包括:数据清洗模块。
其中,上述数据清洗模块,被配置为:在上述根据上述信用等级对上述包含时间点的行为数据进行标注之后,对上述训练集进行补齐处理和去重处理中的一种或多种。
在本公开的一些实施例中,基于前述方案,上述样本获取模块901,还被具体配置为:计算每一训练样本的群体稳定性指标;计算所述训练样本的群体稳定性指标;根据所述群体稳定性指标筛选所述训练样本;以及,将筛选之后的训练样本输入所述信用预测模型。
在本公开的一些实施例中,基于前述方案,上述衍生特征获取模块,具体被配置为:通过神经网络模型的隐藏层对所述训练样本进行卷积处理、池化处理和全连接处理中的一种或多种,得到包含时间点的衍生特征。
在本公开的一些实施例中,基于前述方案,上述衍生特征获取模块,具体被配置为:通过决策树模型的***节点对所述训练样本进行***衍生处理,得到包含时间点的衍生特征。
根据本公开的一个方面,提供一种信用预测方法,包括:
将预测对象的行为数据输入至信用预测模型;对所述行为数据进行特征衍处理生得到衍生特征;以及,对所述衍生特征进行分类得到预测信用等级信息;其中,所述信用预测模型为根据第一方面所述的信用预测模型的训练方法训练得到的。
根据本公开的一个方面,提供一种信用预测装置,包括:
特征输入模块,被配置为将预测对象的行为数据输入至信用预测模型;特征衍生模块,被配置为对所述行为数据进行特征衍生处理得到衍生特征;以及,信用等级预测模块,被配置为对所述衍生特征进行分类得到预测信用等级信息;其中,所述信用预测模型为根据上述第一方面所述的信用预测模型的训练方法训练得到的。
根据本公开的一个方面,提供了一种计算机存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面所述的信用预测模型的训练方法,以及实现如第三方面所述的信用预测方法。
根据本公开的一个方面,提供一种电子设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行上述第一方面所述的信用预测模型的训练方法,以及实现如第三方面所述的信用预测方法。
由上述技术方案可知,本公开示例性实施例中的信用预测模型的训练方法及装置、信用预测方法及装置,以及实现上述信用预测模型的训练方法和上述信用预测方法的计算机存储介质和电子设备至少具备以下优点和积极效果:
在本公开的一些实施例所提供的技术方案中,通过包含时间点的训练样本训练信用预测模型,以提升训练后的模型的时序稳定性。具体地,将上述包含时间点的训练样本输入信用预测模型,以对所述训练样本进行特征衍生处理,得到包含时间点的衍生特征。进一步地,根据上述衍生特征和与其对应的时间点之间的关系来计算上述特征衍生处理过程中的时序损失函数值,以衡量衍生特征的时序分布差异。可见,本技术方案中信用预测模型的目标函数值中包含时序损失函数值。也就是说,根据上述目标函数值训练得到的信用预测模型,其衍生特征对时序的敏感性较弱。不同时间点生成的衍生特征之间具有较高的时序稳定性。从而信用预测模型在训练期间的衍生特征与上线应用之后的衍生特征之间具有较高的时序稳定性,进而有利于提升模型的预测准确度。
本公开应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了可以应用本公开实施例的技术方案的示例性***架构的示意图;
图2示意性示出了根据信用预测模型训练及应用的时间轴示意图;
图3示意性示出了根据本公开的一实施例的信用预测模型的训练方法的流程图;
图4示意性示出了根据本公开的一实施例的训练集的确定方法的流程图;
图5示意性示出了根据本公开的一实施例的模型结构图;
图6示意性示出了根据本公开的另一实施例的信用预测模型的训练方法的流程图;
图7示意性示出了根据本公开的一实施例的时序损失的确定方法的流程图;
图8示意性示出了根据本公开的一实施例的信用预测方法的流程图;
图9示意性示出了根据本公开的一实施例的信用预测模型的训练装置的结构图;
图10示意性示出了根据本公开的一实施例的信用预测装置的结构图;以及,
图11示出本公开示例性实施例中电子设备的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本公开的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
人工智能(Artificial Intelligence,简称:AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用***。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
机器学习(Machine Learning,简称:ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
随着人工智能技术研究和进步,人工智能技术在多个领域展开研究和应用,例如常见的智能家居、智能穿戴设备、虚拟助理、智能音箱、智能营销、无人驾驶、自动驾驶、无人机、机器人、智能医疗、智能客服等,相信随着技术的发展,人工智能技术将在更多的领域得到应用,并发挥越来越重要的价值。
本公开实施例提供的方案涉及人工智能的机器学习等技术,具体通过如下实施例进行说明:
图1示出了可以应用本公开实施例的一种信用预测模型的训练方法及装置、信用预测方法及装置的示例性应用环境的***架构的示意图。
如图1所示,***架构100可以包括终端设备101、102、103中的一个或多个,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。终端设备101、102、103可以是具有显示屏的各种电子设备,包括但不限于台式计算机、便携式计算机、智能手机和平板电脑等等。应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。
本公开实施例所提供的信用预测模型的训练方法、信用预测方法一般由服务器105执行,相应地,信用预测模型的训练装置、信用预测装置一般设置于服务器105中。但本领域技术人员容易理解的是,本公开实施例所提供的信用预测模型的训练方法、信用预测方法也可以由终端设备101、102、103执行,相应的,信用预测模型的训练装置、信用预测方法装置也可以设置于终端设备101、102、103中,本示例性实施例中对此不做特殊限定。
举例而言,在一种示例性实施例中,可以是终端设备101、102、103确定包含时间点的训练样本数据并发送至服务器105;从而,服务器105获取上述包含时间点的训练样本,并将上述包含时间点的训练样本输入信用预测模型;然后,服务器105再对上述训练样本进行特征衍生处理,得到包含时间点的衍生特征。进一步地,服务器105根据上述衍生特征以及其对应的时间点计算上述特征衍生处理过程中的时序损失函数值;最终,服务器105再根据上述时序损失函数值确定上述信用预测模型的目标函数值,以根据该目标函数值对上述信用预测模型进行训练,得到训练后的信用预测模型。
示例性的,服务器105还可以将上述训练后的信用预测模型发送至终端设备101、102、103。从而,用户可以通过终端设备101、102、103中的训练后的信用预测模型方便地进行信用等级预测。
示例性的,一种使用场景可以是:在传统的租借行业中,厂商通过暂扣消费者押金的形式保证租物无损归还。然而,这种方式并不能给消费者提供良好的租借体验。
相关技术中,为了提升消费者的租借体验,商家可以为信用良好的优质用户提供减免押金租借的方式,从而提升消费者租借流程上的体验以及消费粘性,同时,有利于保障用户自身的权益。其中,确定上述信用良好的优质用户的方式可以是:通过训练机器学习模型对租借用户的信用值进行预测,从而确定出信用良好的优质用户。
具体地,相关技术中采集用户的线上数据,并直接用于信用预测模型的训练。参考图2提供的时间轴,在信用预测模型的建模时间点T1至训练后的模型上线时间点T2的时间段S20内,采集用户的线上数据以训练信用预测模型。
但是,由于线上数据具有很强的偶然性,比如软件功能更新后,用户在此功能更新前后的使用数据就可能发生变化。因此,直接采集的用户线上数据具有时序不稳定性的特点。从而,模型上线之后(即,模型上线应用时间点T2之后)采集得到用户数据,输入训练后的信用预测模型中用于信用预测时,信用预测值不准确。例如,用户信用预测模型的预测值在建模时间点和上线时间点之间分布发生较大变化,则可能会导致应用时间点的信用预测值不准确,从而导致免押租借带来的风险大于建模时间点的评估,进而导致亏损。
相关技术中,为了避免模型上线之后(即,模型上线应用时间点T2之后)信用预测值不准确,则在模型上线之后,仍需要进行策略调整(例如,采集模型上线之后的用户数据继续训练模型,或调整信用等级阈值等)。然而,此种技术方案虽然在一定程度上可以保证信用预测值的准确性,但是后期调整策略导致操作复杂度较高。
本技术方案旨在解决本发明公布了一种提升模型时序稳定性的方案,以在一定程度上解决相关技术中存在的上述问题。以下对本公开实施例的技术方案进行详细阐述:
图3示意性示出了根据本公开的一实施例的信用预测模型的训练方法的流程图。具体的,参考图3,该图所示实施例包括:
步骤S310,获取包含时间点的训练样本,并将所述训练样本输入信用预测模型;
步骤S320,对所述训练样本进行特征衍生处理,得到包含时间点的衍生特征;
步骤S330,根据所述衍生特征与所述衍生特征的时间点计算所述特征衍生处理过程中的时序损失函数值;以及,
步骤S340,根据所述时序损失函数值确定所述信用预测模型的目标函数值,以根据所述目标函数值对所述信用预测模型进行训练。
其中,上述特征衍生处理过程是指:对数据进行特征学习得到新的特征的过程。例如,通过神经网络的卷积层对训练样本进行卷积处理得到该训练样本对应的衍生特征。
在图3所示实施例提供的技术方案中,通过包含时间点的训练样本训练信用预测模型,以提升训练后的模型的时序稳定性。具体地,将上述包含时间点的训练样本输入信用预测模型,以对所述训练样本进行特征衍生处理,得到包含时间点的衍生特征。进一步地,根据上述衍生特征和与其对应的时间点之间的关系来计算上述特征衍生处理过程中的时序损失函数值,以衡量衍生特征的时序分布差异。可见,本技术方案中信用预测模型的目标函数值中包含时序损失函数值。也就是说,根据上述目标函数值训练得到的信用预测模型,其衍生特征对时序的敏感性较弱。不同时间点生成的衍生特征之间具有较高的时序稳定性。从而信用预测模型在训练期间的衍生特征与上线应用之后的衍生特征之间具有较高的时序稳定性,进而有利于提升模型的预测准确度。
同时,本实施例提供的技术方案,无需对训练后的信用预测模型进行后期策略调整(如,信用等级阈值的重新确定等),从而在保证信用等级信息预测准确度的基础上,降低了信用预测的复杂程度。
以下对图3所示实施例各个步骤的具体实施方式进行详细阐述:
示例性的,随着移动智能设备的普及和互联网的迅猛发展,用户只要简单地通过操作移动智能设备上的应用,就可以方便的实现沟通、娱乐、支付等线上活动,也可以体验如线上到线下(Online to Outline,简称:O2O)的生活服务、导航、专车等线下消费。因此,线上数据能够在很大程度上反映用户的生活轨迹,由此可以采集线上数据得到丰富的用户行为数据,以通过用户行为数据预测用户的信用值/风险值。从而本技术方案中基于用户行为数据确定信用预测模型的训练集。
示例性的,图4示意性示出了根据本公开的一实施例的训练集的确定方法的流程图。其中,该训练集即为步骤S310中所述的“训练样本”的集合。具体的,参考图4,该图所示实施例包括:
步骤S410,获取预测对象的行为数据,以及获取所述行为数据的生成时间点,得到包含时间点的行为数据;以及,步骤S420,确定对所述预测对象的信用等级信息,并根据所述信用等级对所述包含时间点的行为数据进行标注,得到由包含时间点的训练样本组成的训练集。
在示例性的实施例中,用户身份信息的确定方法可以是:根据用户登录即时通讯软件、理财平台或购物软件等平台软件时登记采集的基本资料确定。例如,年龄、性别、学历、职业、政治面貌等信息。用户身份信息的确定方法还可以通过终端设备信息确定。例如,移动设备的型号、品牌、设备名称,以及设备对应的唯一识别编码等信息。
在示例性的实施例中,获取上述预测对象的包含时间点的行为数据的具体实施方式可以是:通过接口访问和软件主动上报的方式获得用户在软件中行为数据的得到包含时间点的训练样本,其中,上述软件包括即时通讯软件、理财平台和购物软件中一种或多种。
例如,经济行为数据,如消费行为以及消费时间(即时间点),转账行为以及转账时间(即时间点),理财行为以及理财行为发生的时间(即时间点),收发红包行为以及收发红包的时间(即时间点)等;爱好行为数据,如文章阅读转发行为以及对应的时间(即时间点),公众号订阅行为以及发生时间,内容搜索行为及其发生时间等;社交行为数据,如好友关注行为以及行为发生时间,列入黑名单行为以及行为发生时间等;以及,基于位置的服务(Location Based Services,简称:LBS)地理位置数据,如导航行为以及导航行为发生的时间,签到行为以及签到时间,打车行为以及打车时间等。
在示例性的实施例中,确定对上述预测对象的信用等级信息的具体实施方式可以是:通过类似租借场景中以确定的违约用户和履约用户直接作为标注。例如,将履约用户对应的用户行为信息的信用等级标注为“信用等级高/信用等级为一级”,将违约用户对应的用户行为信息的信用等级标注为“信用等级低/信用等级为三级”等。
在示例性的实施例中,确定对上述预测对象的信用等级信息的具体实施方式还可以是:对于待标记的用户行为数据,将对应的用户身份信息进行灰度处理后,不断获取灰度处理后的用户的履约状态,以根据后续的履约状态数据作为标注。示例性的,用户是否在理财软件中进行了贷款,若进行了贷款是否能够按照既定的还贷规则进行还贷。若按照既定规则进行还贷,则可确定其标签为“信用等级良好/风险等级低”;若存在不按照既定规则还贷的信息,则可确定其标签为“信用等级一般/风险等级一般”;若不存在按照既定规则还贷的信息,则可确定其标签为“信用等级低/风险等级高”等。
在示例性的实施例中,为了提升训练样本的信息量以及尽量避免模型的无效训练,在所述根据所述信用等级对所述行为数据进行标注之后,还需要对数据进行清洗。示例性的,对标记处理之后的行为数据进行补齐处理和去重处理中的一种或多种。例如,出现上报过程出现漏报等情况时需要补齐缺失值,数据出现重复时需要去重处理等。以提升训练集的质量,进而有利于提升训练后模型的预测准确度。
群体稳定性指标(Population Stability Index,简称:PSI)用于衡量训练样本的分布差异。相关技术中,一般将PSI大于预设阈值的特征筛除,并将筛选后的训练样本输入预测模型,以降低训练样本的分布差异。然而相关技术中根据PSI进行特征筛除的方式不免造成样本信息丢失,进而导致训练后的模型的目标分类效果下降。
在示例性的实施例中,根据以下公式计算训练样本的群体稳定性指标(Population Stability Index,简称:PSI)。其中,PSI用于衡量训练样本在时序上的分布差异。进一步地,筛除PSI大于预设阈值的特征,并将筛选后的训练样本输入上述信用预测模型。从而有效地挑选出时序稳定性相对较高的特征参与模型训练,以提升训练后的模型在时序上的预测稳定性。
其中,Ptrue,i为训练集中第i个特征的实际占比,Pexpect,i为训练集中第i个特征的期望占比。
在示例性的实施例中,训练集中的训练样本可以整理成如下格式:
(1)(xi,yi),其中,i=1、……、n,表示第i个预测对象(如,用户),xi表示根据第i个预测对象的用户行为特征确定的训练样本特征,yi表示xi的目标分类(即目标信用等级);
(2)(xj,tj),其中,j=1、……、n,表示第j个预测对象(如,用户),xj表示根据第j个预测对象的用户行为特征确定的训练样本特征,tj表示xj对应的数据时间点。
在示例性的实施例中,训练集中的训练样本还可以整理成如下格式:(xk,yk,tk),其中,k=1、……、n,表示第k个预测对象(如,用户),xk表示根据第k个预测对象的用户行为特征确定的训练样本特征,yk表示xk的目标分类(即目标信用等级),tk表示xk对应的数据时间点。
在示例性的实施例中,图5示意性示出了根据本公开的一实施例的模型结构图。具体的,步骤S320的具体实施方式即通过图5所示的模型实现的特征衍生层来对上述训练样本进行特征衍生处理,进而得到包含时间点的衍生特征。
参考图5,该技术方案提供一种分类模型。模型结构包括:特征衍生层(Encoder)510和分类层(Classifier)520。其中,对于训练样本中一组特征X(例如,特征X可以表示为:xk,yk,tk),上述特征衍生层(Encoder)510将其进行特征衍生处理得到衍生特征E(X),上述分类层(Classifier)520根据衍生特征E(X)确定x对应信用等级A的概率Pc(y|E(X))。例如,特征衍生层(Encoder)510对训练样本进行特征衍生处理,例如对某一用户的年龄特征、性别特征以及消费特征进行学习得到该用户的信用特征;进一步地,分类层(Classifier)520用于根据上述信用特征预测该用户的信用等级。
示例性的,若上述分类模型为神经网络模型,则上述特征衍生层(Encoder)510为神经网络模型的隐藏层。上述衍生特征E(X)可以是特征x被卷积处理后的特征,上述衍生特征E(X)可以是特征x被池化处理后的特征,上述衍生特征E(X)还可以是特征X被全连接处理后的特征等。
示例性的,若上述分类模型为决策树模型,则上述特征衍生层(Encoder)510为信用预测模型为的***节点,上述衍生特征E(X)可以是特征x被***衍生处理后的特征。
在示例性的实施例中,继续参考图3,将训练样本x输入信用预测模型之后,在步骤S320中获取上述信用预测模型的特征衍生层(Encoder)510输出的包含时间点的衍生特征E(X)。其中,在步骤S330中可以根据衍生特征E(X)与衍生特征的时间点t计算特征衍生层(Encoder)510的时序损失函数值,以提升训练后的模型的时序稳定性。
在示例性的实施例中,图6示意性示出了根据本公开的另一实施例的信用预测模型的训练方法的流程图。具体的,参考图6,该图所示实施例包括步骤S610-步骤S650。
在示例性的实施例中,上述步骤S610的具体实施方式与步骤S310的具体实施方式相同(如图4所示实施例),上述步骤S620的具体实施方式与步骤S320的具体实施方式相同(如图5所示实施例),在此不再赘述。而关于步骤S630/步骤S330中时序损失函数值的确定方式将在图7所示实施例中进行详细阐述。
在示例性的实施例中,本技术方案提供的方法还包括:步骤S640,对所述衍生特征进行分类处理得到分类结果,根据所述分类结果确定所述信用预测模型的分类损失函数值。
进一步地,作为步骤S340的一种具体实施方式,在步骤S650中,结合所述时序损失函数值和所述分类损失函数值确定所述信用预测模型的目标函数值。
示例性的,以下分别对确定上述时序损失函数和确定上述分类损失函数进行具体阐述:
在示例性的实施例中,图7示意性示出了根据本公开的一实施例的时序损失函数的确定方法的流程图,可以作为步骤S330/步骤S630的一种具体实施方式。具体的,将上述特征衍生层输出的任一特征记作“目标衍生特征”,进一步地,参考图7,该图所示实施例可以包括:
步骤S710,获取目标衍生特征,以及获取所述目标衍生特征的生成时间点;以及,步骤S720,计算所述目标衍生特征和所述生成时间点的互信息,得到所述特征衍生处理过程中的时序损失函数值。
在示例性的实施例中,通过计算目标衍生特征E(X)与其时间点t之间互信息(Mutual Information,简称:MI)的方式来衡量不同时间点上衍生特征的时序分布差异。示例性的,若时间点为建模时间点(参考图2,即T1)的特征x1对应的衍生特征E(x1),和时间点为上线时间点(T2)的特征x2对应的衍生特征E(x2)之间的时序分布差异越小,那我们就可以认为这两个时间点的特征分布越一致。也就说明,训练后的信用预测模型的时序稳定性越高。
计算目标衍生特征E(X)与其时间点t之间互信息具体实施方式包括:
对于同一预测对象s,获取根据其行为数据确定的目标衍生特征E(xs),以及获取上述行为数据的时间点ts,进一步地,通过以下式一计算上述目标衍生特征E(xs)和上述第时间点ts的互信息。
Is=I(h=E(xs),ts) 式一
其中,以h表示h=E(xs),以t表示ts,则式一的计算方法可以是:
I(h,t)=I(h,x)-I(h,x|t) 式二
=I(h,x)-H(x|t)+H(x|h,t)
≤I(h,x)-H(x|t)-Ex,h,tlogp(x|h,t)
=Ex[KL(q(h|x)||q(h))]-H(x|t)-Ex,h,tlogp(x|h,t) 式三
其中,式三中的KL(q(h|x)||q(h))可以表示为:
其中,上述H(x│t)为常数,可以不参与后续模型目标函数的优化;Ex,h,tlogp(x|h,t)为h和t解码成x以后,与原输入特征x之间的均方距离;KL(q(h|x)||q(h))为高斯分布的Kullback-Leibler散度(Kullback-Leiblerdivergence,简称:KL散度);H(q(h|x))为高斯分布的熵;B为模型训练过程中每批次样本的量级。
从而将上述信用预测模型的特征衍生层(Encoder)510的时序损失函数确定为Ms=Is,其中,s为整数,取值为大于等于1且小于等于训练样本中的预测对象的个数。
在示例性的实施例中,根据分类层(Classifier)520输出的分类结果确定上述信用预测模型的分类损失函数值,的具体实施方式可以是:计算上述分类层(Classifier)输出的分类结果的最大似然估计,得到所述信用预测模型的分类损失函数值。
具体地,采用对数损失,即对数似然损失(Log-likelihood Loss)是在概率估计上定义的,可用于评估分类器的概率输出。示例性的,根据以下公式确定上述分类损失函数Ci,其中,i为整数,取值为大于等于1且小于等于训练样本的个数。
在示例性的实施例中,结合上述时序损失函数Ms和上述分类损失函数Ci确定上述信用预测模型的目标函数。其中,目标函数可以表示为:
Min J(E,C)=min[γ×Ms+Ci]。
其中,γ表示上述时序分类函数的损失系数,大小可以根据实际需求确定。
示例性的,通过求解上述目标函数min J(E,C)来训练上述信用预测模型,得到信用预测模型的特征衍生层(Encoder)的模型参数以及得到信用预测模型分类层(Classifier)的模型参数。具体的,对上述目标函数得到的训练后的信用预测模型中,其特征衍生层(Encoder)能够得到相对更稳定的衍生特征E(X)。同时,在保证分类层(Classifier)的预测值Pc(y|h=E(x))准确的基础上,预测值Pc(y|h=E(x))的时序稳定性也得到提升。
本技术方案引入衍生特征与其时间点之间的互信息,来衡量特征衍生层输出的衍生特征在时序分布差异,并将其作为模型目标函数的惩罚项。从而基于该引入惩罚项的目标函数训练得到的信用预测模型,能在尽可能不损失目标预测能力的同时,得到在时序上分布更稳定的模型预测值。
在示例性的实施例中,基于前述实施例提供的模型训练方法,图8示意性示出了根据本公开的一实施例的信用预测方法的流程图。参考图8,该图所示实施例包括:
步骤S810,将预测对象的行为数据输入至信用预测模型;
步骤S820,对所述行为数据进行特征衍生处理得到衍生特征;
步骤S830,对所述衍生特征进行分类得到预测信用等级信息。
示例性的,由于上述信用预测模型为根据图3至图7所示实施例提供的信用预测模型的训练方法训练得到的。因此,基于本技术方案提供的时序上稳定性更高的信用预测模型,业务方可以放心地使用模型上线之前(即,参考图2中的S20)的数据进行模型训练,而不用担心因为建模时间点与应用时间点之间的时间差而导致的模型预测值发生时序上的分布变化,从而可以让策略更稳定地持续运行,而不需要频繁调整。无需频繁地实时信用等级阈值的策略调整,进而有效减少工作量。
本领域技术人员可以理解实现上述实施方式的全部或部分步骤被实现为由处理器(包含CPU和GPU)执行的计算机程序。例如,通过GPU实现对上述信用预测模型的模型训练,或者基于训练后的信用预测模型,使用CPU或GPU实现对待测对象的信用等级预测处理等。在该计算机程序被CPU执行时,执行本公开提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中,该存储介质可以是只读存储器,磁盘或光盘等。
此外,需要注意的是,上述附图仅是根据本公开示例性实施方式的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
以下介绍本公开的信用预测模型的训练装置实施例,可以用于执行本公开上述的信用预测模型的训练方法。
图9示出本公开示例性实施例中信用预测模型的训练装置的结构示意图。如图9所示,上述信用预测模型的训练装置900包括:样本获取模块901、衍生特征获取模块902、时序损失函数确定模块903,以及模型训练模块904。
其中,上述样本获取模块901,被配置为:获取包含时间点的训练样本,并将上述训练样本输入信用预测模型;
上述衍生特征获取模块902,被配置为:对上述训练样本进行特征衍生处理,得到包含时间点的衍生特征;
上述时序损失函数确定模块903,被配置为:根据上述衍生特征与上述衍生特征的时间点计算上述特征衍生处理过程中的时序损失函数值;
上述模型训练模块904,被配置为:根据上述时序损失函数值确定上述信用预测模型的目标函数值,以根据上述目标函数值对上述信用预测模型进行训练。
在本公开的一些实施例中,基于前述方案,上述信用预测模型的训练装置900还包括:分类损失函数确定模块905。
其中,上述分类损失函数确定模块905,被配置为:对上述衍生特征进行分类处理得到分类结果,根据上述分类结果确定上述信用预测模型的分类损失函数值;
在此基础上,上述模型训练模块904,被具体配置为:结合上述时序损失函数值和上述分类损失函数值确定上述信用预测模型的目标函数值。
在本公开的一些实施例中,基于前述方案,时序损失函数确定模块903,包括:获取单元9031和损失计算单元9032。
其中,上述获取单元9031,被配置为:获取目标衍生特征,以及获取上述目标衍生特征的生成时间点;以及,上述损失计算单元9032,被配置为:计算上述目标衍生特征和上述生成时间点的互信息,得到上述特征衍生处理过程中的时序损失函数值。
在本公开的一些实施例中,基于前述方案,上述分类损失函数确定模块905,被具体配置为,包括:计算上述分类结果的最大似然估计,得到上述信用预测模型的分类损失函数值。
在本公开的一些实施例中,基于前述方案,上述样本获取模块901,包括:行为数据获取单元9011和标注单元9012。
其中,上述行为数据获取单元9011,被配置为:获取预测对象的行为数据,以及获取上述行为数据的生成时间点,得到包含时间点的行为数据;以及,上述标注单元9012,被配置为:确定对上述预测对象的信用等级信息,并根据上述信用等级对上述包含时间点的行为数据进行标注,得到由包含时间点的训练样本组成的训练集。
在本公开的一些实施例中,基于前述方案,上述行为数据获取单元9011,被具体配置为:采集用户在软件中行为数据的得到包含时间点的训练样本,上述软件包括即时通讯软件、理财平台和购物软件中一种或多种。
在本公开的一些实施例中,基于前述方案,上述信用预测模型的训练装置900还包括:数据清洗模块906。
其中,上述数据清洗模块906,被配置为:在上述根据上述信用等级对上述包含时间点的行为数据进行标注之后,对上述训练集进行补齐处理和去重处理中的一种或多种。
在本公开的一些实施例中,基于前述方案,上述样本获取模块901,还被具体配置为:计算每一训练样本的群体稳定性指标;计算所述训练样本的群体稳定性指标;根据所述群体稳定性指标筛选所述训练样本;以及,将筛选之后的训练样本输入所述信用预测模型。
在本公开的一些实施例中,基于前述方案,上述衍生特征获取模块902,被具体配置为:通过神经网络模型的隐藏层对所述训练样本进行卷积处理、池化处理和全连接处理中的一种或多种,得到包含时间点的衍生特征。
在本公开的一些实施例中,基于前述方案,上述衍生特征获取模块902,被具体配置为:通过决策树模型的***节点对所述训练样本进行***衍生处理,得到包含时间点的衍生特征。
上述信用预测模型的训练装置中各单元的具体细节已经在说明书附图3至图7对应的信用预测模型的训练方法中进行了详细的描述,因此此处不再赘述。
以下介绍本公开的信用预测模型的训练装置实施例,可以用于执行本公开上述的信用预测模型的训练方法。
图10示出本公开示例性实施例中信用预测装置的结构示意图。如图8所示,上述信用预测装置1000包括:特征输入模块1001、特征衍生模块1002,以及信用等级预测模块1003。
其中,上述特征输入模块1001,被配置为将预测对象的行为数据输入至信用预测模型;上述特征衍生模块1002,被配置为对所述行为数据进行特征衍生处理得到衍生特征;以及,上述信用等级预测模块1003,被配置为对所述衍生特征进行分类得到预测信用等级信息;
其中,所述信用预测模型为根据图3至图7所示实施例提供的信用预测模型的训练方法训练得到的。
上述信用预测装置中各单元的具体细节已经在说明书附图8对应的信用预测方法实施例中进行了详细的描述,因此此处不再赘述。
图11示出了适于用来实现本公开实施例的电子设备的计算机***的结构示意图。
需要说明的是,图11示出的电子设备的计算机***1100仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图11所示,计算机***1100包括处理器1101(包括:图形处理单元(GraphicsProcessing Unit,GPU)、中央处理单元(Central Processing Unit,CPU)),其可以根据存储在只读存储器(Read-Only Memory,ROM)1102中的程序或者从存储部分1108加载到随机访问存储器(Random Access Memory,RAM)1103中的程序而执行各种适当的动作和处理。在RAM 1103中,还存储有***操作所需的各种程序和数据。CPU 1101、ROM 1102以及RAM 1103通过总线1104彼此相连。输入/输出(Input/Output,I/O)接口1105也连接至总线1104。
以下部件连接至I/O接口1105:包括键盘、鼠标等的输入部分1106;包括诸如阴极射线管(Cathode Ray Tube,CRT)、液晶显示器(Liquid Crystal Display,LCD)等以及扬声器等的输出部分1107;包括硬盘等的存储部分1108;以及包括诸如LAN(Local AreaNetwork,局域网)卡、调制解调器等的网络接口卡的通信部分1109。通信部分1109经由诸如因特网的网络执行通信处理。驱动器1110也根据需要连接至I/O接口1105。可拆卸介质1111,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1110上,以便于从其上读出的计算机程序根据需要被安装入存储部分1108。
特别地,根据本公开的实施例,下文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1109从网络上被下载和安装,和/或从可拆卸介质1111被安装。在该计算机程序被中央处理单元(CPU)1101执行时,执行本申请的***中限定的各种功能。
需要说明的是,本公开实施例所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory,EPROM)、闪存、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory,CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现上述实施例中所述的方法。
例如,所述的电子设备可以实现如图3中所示的:步骤S310,获取包含时间点的训练样本,并将所述训练样本输入信用预测模型;步骤S320,对所述训练样本进行特征衍生处理,得到包含时间点的衍生特征;步骤S330,根据所述衍生特征与所述衍生特征的时间点计算所述特征衍生处理过程中的时序损失函数值;以及,步骤S340,根据所述时序损失函数值确定所述信用预测模型的目标函数值,以根据所述目标函数值对所述信用预测模型进行训练。
例如,所述的电子设备可以实现如图8中所示的:步骤S810,将预测对象的行为数据输入至信用预测模型;步骤S820,对所述行为数据进行特征衍生处理得到衍生特征;以及,步骤S830,对所述衍生特征进行分类得到预测信用等级信息;其中,所述信用预测模型为根据图3所示的信用预测模型的训练方法训练得到的。
又例如,所述的电子设备可以实现如图4、图6以及图7中任意一图中所示的步骤。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本公开实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (15)
1.一种信用预测模型的训练方法,其特征在于,所述方法包括:
获取包含时间点的训练样本,并将所述训练样本输入信用预测模型;
对所述训练样本进行特征衍生处理,得到包含时间点的衍生特征;
根据所述衍生特征与所述衍生特征的时间点计算所述特征衍生处理过程中的时序损失函数值;
根据所述时序损失函数值确定所述信用预测模型的目标函数值,以根据所述目标函数值对所述信用预测模型进行训练。
2.根据权利要求1所述的信用预测模型的训练方法,其特征在于,所述方法还包括:
对所述衍生特征进行分类处理得到分类结果,根据所述分类结果确定所述信用预测模型的分类损失函数值;
所述根据所述时序损失函数值确定所述信用预测模型的目标函数值,包括:
结合所述时序损失函数值和所述分类损失函数值确定所述信用预测模型的目标函数值。
3.根据权利要求1或2所述的信用预测模型的训练方法,其特征在于,所述根据所述衍生特征与所述衍生特征的时间点计算所述特征衍生处理过程中的时序损失函数值,包括:
获取目标衍生特征,以及获取所述目标衍生特征的生成时间点;
计算所述目标衍生特征和所述生成时间点的互信息,得到所述特征衍生处理过程中的时序损失函数值。
4.根据权利要求2所述的信用预测模型的训练方法,其特征在于,所述根据所述分类结果确定所述信用预测模型的分类损失函数值,包括:
计算所述分类结果的最大似然估计,得到所述信用预测模型的分类损失函数值。
5.根据权利要求1所述的信用预测模型的训练方法,其特征在于,所述获取包含时间点的训练样本,包括:
获取预测对象的行为数据,以及获取所述行为数据的生成时间点,得到包含时间点的行为数据;
确定对所述预测对象的信用等级信息,并根据所述信用等级对所述包含时间点的行为数据进行标注,得到由包含时间点的训练样本组成的训练集。
6.根据权利要求1所述的信用预测模型的训练方法,其特征在于,所述获取包含时间点的训练样本,包括:
采集用户在软件中行为数据的得到包含时间点的训练样本,所述软件包括即时通讯软件、理财平台和购物软件中一种或多种。
7.根据权利要求5或6所述的信用预测模型的训练方法,其特征在于,在所述根据所述信用等级对所述包含时间点的行为数据进行标注之后,所述方法还包括:
对所述训练集进行补齐处理和去重处理中的一种或多种。
8.根据权利要求1所述的信用预测模型的训练方法,其特征在于,所述将所述训练样本输入信用预测模型,包括:
计算所述训练样本的群体稳定性指标;
根据所述群体稳定性指标筛选所述训练样本;
将筛选之后的训练样本输入所述信用预测模型。
9.根据权利要求1所述的信用预测模型的训练方法,其特征在于,所述对所述训练样本进行特征衍生处理,得到包含时间点的衍生特征,包括:
通过神经网络模型的隐藏层对所述训练样本进行卷积处理、池化处理和全连接处理中的一种或多种,得到包含时间点的衍生特征。
10.根据权利要求1所述的信用预测模型的训练方法,其特征在于,所述对所述训练样本进行特征衍生处理,得到包含时间点的衍生特征,包括:
通过决策树模型的***节点对所述训练样本进行***衍生处理,得到包含时间点的衍生特征。
11.一种信用预测方法,其特征在于,所述方法包括:
将预测对象的行为数据输入至信用预测模型;
对所述行为数据进行特征衍生处理得到衍生特征;
对所述衍生特征进行分类得到预测信用等级信息;
其中,所述信用预测模型为根据权利要求1至10中任意一项所述的信用预测模型的训练方法训练得到的。
12.一种信用预测模型的训练装置,其特征在于,所述装置包括:
样本获取模块,被配置为获取包含时间点的训练样本,并将所述训练样本输入信用预测模型;
衍生特征获取模块,被配置为对所述训练样本进行特征衍生处理,得到包含时间点的衍生特征;
时序损失函数确定模块,被配置为根据所述衍生特征与所述衍生特征的时间点计算所述特征衍生处理过程中的时序损失函数值;
模型训练模块,被配置为根据所述时序损失函数值确定所述信用预测模型的目标函数值,以根据所述目标函数值对所述信用预测模型进行训练。
13.一种信用预测装置,其特征在于,所述装置包括:
特征输入模块,被配置为将预测对象的行为数据输入至信用预测模型;
特征衍生模块,被配置为对所述行为数据进行特征衍生处理得到衍生特征;
信用等级预测模块,被配置为对所述衍生特征进行分类得到预测信用等级信息;
其中,所述信用预测模型为根据权利要求1至10中任意一项所述的信用预测模型的训练方法训练得到的。
14.一种计算机存储介质,其特征在于,其上存储有计算机程序;
所述计算机程序被处理器执行时实现如权利要求1至10中任意一项所述的信用预测模型的训练方法,以及
实现如权利要求11所述的信用预测方法。
15.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1至10中任意一项所述的信用预测模型的训练方法,以及
实现如权利要求11所述的信用预测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910969520.6A CN110781929A (zh) | 2019-10-12 | 2019-10-12 | 信用预测模型的训练方法、预测方法及装置、介质和设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910969520.6A CN110781929A (zh) | 2019-10-12 | 2019-10-12 | 信用预测模型的训练方法、预测方法及装置、介质和设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110781929A true CN110781929A (zh) | 2020-02-11 |
Family
ID=69385214
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910969520.6A Pending CN110781929A (zh) | 2019-10-12 | 2019-10-12 | 信用预测模型的训练方法、预测方法及装置、介质和设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110781929A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113420902A (zh) * | 2020-12-09 | 2021-09-21 | 上海东普信息科技有限公司 | 件量预测模型训练方法、件量预测方法及相关设备 |
-
2019
- 2019-10-12 CN CN201910969520.6A patent/CN110781929A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113420902A (zh) * | 2020-12-09 | 2021-09-21 | 上海东普信息科技有限公司 | 件量预测模型训练方法、件量预测方法及相关设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110674979A (zh) | 风险预测模型的训练方法、预测方法及装置、介质和设备 | |
CN109492772B (zh) | 生成信息的方法和装置 | |
CN110245301A (zh) | 一种推荐方法、装置及存储介质 | |
CN112418292B (zh) | 一种图像质量评价的方法、装置、计算机设备及存储介质 | |
CN112069302A (zh) | 会话意图识别模型的训练方法、会话意图识别方法及装置 | |
CN111199459A (zh) | 商品推荐方法、装置、电子设备、及存储介质 | |
CN110929799A (zh) | 用于检测异常用户的方法、电子设备和计算机可读介质 | |
CN112221159A (zh) | 一种虚拟道具推荐方法、装置及计算机可读存储介质 | |
CN112288554A (zh) | 商品推荐方法和装置、存储介质及电子装置 | |
CN112070310A (zh) | 基于人工智能的流失用户预测方法、装置及电子设备 | |
CN114417174B (zh) | 内容推荐方法、装置、设备及计算机存储介质 | |
CN112819024A (zh) | 模型处理方法、用户数据处理方法及装置、计算机设备 | |
CN114820121A (zh) | 一种保险业务推送***及方法 | |
CN111340522A (zh) | 资源推荐方法、装置、服务器及存储介质 | |
CN112395499B (zh) | 信息推荐方法及装置、电子设备、存储介质 | |
CN110781929A (zh) | 信用预测模型的训练方法、预测方法及装置、介质和设备 | |
CN116910373A (zh) | 房源推荐方法、装置、电子设备及存储介质 | |
CN112561000B (zh) | 基于组合模型的分类方法、装置、设备及存储介质 | |
CN114463590A (zh) | 信息处理方法、装置、设备、存储介质及程序产品 | |
Wang et al. | [Retracted] The Application of Motion Trajectory Acquisition and Intelligent Analysis Technology in Physical Education Teaching in Colleges and Universities | |
CN111784377B (zh) | 用于生成信息的方法和装置 | |
CN115329183A (zh) | 数据处理方法、装置、存储介质及设备 | |
CN115858911A (zh) | 信息推荐方法、装置、电子设备及计算机可读存储介质 | |
CN114169906A (zh) | 电子券推送方法、装置 | |
CN113919893B (zh) | 信息推送方法、装置、电子设备和可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40022081 Country of ref document: HK |
|
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |