CN112819610A - 信用的评估方法、信用评估模型的训练方法以及设备 - Google Patents
信用的评估方法、信用评估模型的训练方法以及设备 Download PDFInfo
- Publication number
- CN112819610A CN112819610A CN202110220673.8A CN202110220673A CN112819610A CN 112819610 A CN112819610 A CN 112819610A CN 202110220673 A CN202110220673 A CN 202110220673A CN 112819610 A CN112819610 A CN 112819610A
- Authority
- CN
- China
- Prior art keywords
- credit
- feature
- user
- time sequence
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/03—Credit; Loans; Processing thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/067—Enterprise or organisation modelling
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Development Economics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Computational Linguistics (AREA)
- General Business, Economics & Management (AREA)
- Marketing (AREA)
- Life Sciences & Earth Sciences (AREA)
- Entrepreneurship & Innovation (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Educational Administration (AREA)
- Technology Law (AREA)
- Game Theory and Decision Science (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请实施例提供了一种信用的评估方法、信用评估模型的训练方法以及设备。该方法包括:从用户的征信报告中提取用户的征信特征,征信特征包括用户在n个征信维度上的时序特征和用户的非时序特征,n≥1,并将n个特征维度上的时序特征和非时序特征输入信用评估模型,得到信用评估结果,信用评估结果用于表征用户的信用是否符合要求,其中,信用评估模型为基于深度学习模型训练得到的,能够通过时序特征对该用户在时间维度上的信用进行准确的评估,使得对用户信用的评估更加准,避免因不区分征信特征的时序特征和非时序特征,导致最终的评估结果不准确。
Description
技术领域
本申请实施例涉及人工智能技术领域,并且更具体地,涉及信用的评估方法、信用评估模型的训练方法以及设备。
背景技术
在互联网金融风险控制领域,常通过征信报告来对用户的信用信息进行记录。进而,基于每个用户的的征信报告分析确定该用户的信用是否满足要求。
现有技术中,能够通过机器学习算法来对用户的信用进行评估,但是,在评估的过程中,不能结合征信报告中信用信息的时序特征,导致评估的准确性较差。
发明内容
本申请实施例提供了一种信用的评估方法、信用评估模型的训练方法以及设备。
第一方面,提供一种信用的评估方法,包括:从用户的征信报告中提取所述用户的征信特征,所述征信特征包括所述用户在n个征信维度上的时序特征和所述用户的非时序特征,n≥1;将所述n个特征维度上的时序特征和所述非时序特征输入信用评估模型,得到信用评估结果,所述信用评估结果用于表征所述用户的信用是否符合要求;其中,所述信用评估模型为基于深度学习模型训练得到的。
第二方面,提供一种信用评估模型的训练方法,包括:获取训练样本集合,所述训练样本集合包括多个训练样本,所述训练样本包括用户的征信特征和对应的标签,所述征信特征包括所述用户在n个征信维度上的时序特征和所述用户的非时序特征,n≥1,所述标签用于表征所述用户的信用是否符合要求;针对所述训练样本集合中的每个训练样本,基于所述训练样本的标签、n个特征维度上的时序特征和非时序特征对初始模型进行训练,得到信用评估模型。
第三方面,提供一种电子设备,包括:特征提取单元,用于从用户的征信报告中提取所述用户的征信特征,所述征信特征包括所述用户在n个征信维度上的时序特征和所述用户的非时序特征,n≥1;评估单元,用于将所述n个特征维度上的时序特征和所述非时序特征输入信用评估模型,得到信用评估结果,所述信用评估结果用于表征所述用户的信用是否符合要求;其中,所述信用评估模型为基于深度学习模型训练得到的。
第四方面,提供一种电子设备,包括:样本获取单元,用于获取训练样本集合,所述训练样本集合包括多个训练样本,所述训练样本包括用户的征信特征和对应的标签,所述征信特征包括所述用户在n个征信维度上的时序特征和所述用户的非时序特征,n≥1,所述标签用于表征所述用户的信用是否符合要求;模型训练单元,用于针对所述训练样本集合中的每个训练样本,基于所述训练样本的标签、n个特征维度上的时序特征和非时序特征对初始模型进行训练,得到信用评估模型。
第五方面,提供一种电子设备,包括:处理器和存储器,该存储器用于存储计算机程序,处理器用于调用并运行存储器中存储的计算机程序,执行如第一方面或其各实现方式中的方法。
第六方面,提供一种电子设备,包括:处理器和存储器,该存储器用于存储计算机程序,处理器用于调用并运行存储器中存储的计算机程序,执行如第二方面或其各实现方式中的方法。
第七方面,提供一种计算机可读存储介质,用于存储计算机程序,计算机程序使得计算机执行如第一方面、第二方面或其各实现方式中的方法。
本申请实施例,通过从征信报告中提取用户在n个征信维度上的时序特征和该用户的非时序特征,能够通过时序特征能够对该用户在时间维度上的信用进行准确的评估,使得对用户信用的评估更加准,避免因输入模型的征信特征不区分时序特征和非时序特征,导致最终的评估结果不准确。
附图说明
图1为本申请实施例提供的一种信用的评估方法的流程示意图;
图2为本申请实施例提供的一种信用评估模型的框架示意图;
图3为本申请实施例提供的一种信用的评估方法的流程示意图;
图4为本申请实施例提供的一种初始模型的框架示意图;
图5为本申请实施例提供的一种信用评估模型的训练方法的流程示意图;
图6为本申请实施例提供的一种信用的评估方法的流程示意图;
图7示出了根据本申请实施例的电子设备的示意性框图;
图8示出了根据本申请实施例的电子设备的示意性框图;
图9为本申请实施例提供的一种电子设备示意性结构图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。针对本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用***。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互***、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
征信报告分为个人征信报告以及企业征信报告,是由征信中心出具的记载个人或企业信用信息的记录,用于查询个人或企业的社会信用。征信报告中一般包括基本信息和信用交易信息。
现有技术中将征信报告中的特征进行提取后输入到机器学习模型中,例如通过一个优化的分布式梯度增强库XGBoost实现的机器学习模型,从而得到对用户的信用的评估结果。然而,上述方法无法对征信报告中的一些具有时序的特征进行识别,从而无法从时序的角度对用户的信用进行评估,导致评估的准确性较低。
为了解决上述技术问题,本申请从征信报告中提取了用户在n个征信维度上的时序特征和用户的非时序特征,从而增加了评估的准确性。
本申请实施例的执行主体为电子设备,应理解,该电子设备可以为一种终端设备中,例如手机(Mobile Phone)、平板电脑(Pad)、电脑、电视机(TV)、虚拟现实(VirtualReality,VR)终端设备、增强现实(Augmented Reality,AR)终端设备、工业控制(industrial control)中的终端设备、无人驾驶(self driving)中的终端设备、远程医疗(remote medical)中的终端设备、智慧城市(smart city)中的终端设备或智慧家庭(smarthome)中的终端设备等。本申请实施例中的终端设备还可以是可穿戴设备,可穿戴设备也可以称为穿戴式智能设备,是应用穿戴式技术对日常穿戴进行智能化设计、开发出可以穿戴的设备的总称,如眼镜、手套、手表、服饰及鞋等。可穿戴设备即直接穿在身上,或是整合到用户的衣服或配件的一种便携式设备。在一些实施例中,终端设备120还可以仅为一种显示设备,例如显示屏,显示屏可以是柔性显示屏,甚至,显示屏还可以设置成非矩形的不规则图形,也即异形屏,显示屏可以采用液晶显示屏(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等材质制备。终端设备可以是固定的或者移动的。示例性的,该电子设备还可以是服务器。
下面通过几个实施例对本申请进行具体说明。
图1为本申请实施例提供的一种信用的评估方法的流程示意图。如图1所示,该方法包括:
S101:从用户的征信报告中提取用户的征信特征。
S102:将n个特征维度上的时序特征和非时序特征输入信用评估模型,得到信用评估结果。
本申请实施例中提到的用户可以是个人或者企业。
应理解,征信报告中的信用信息包括信用交易信息和基本信息。例如,信用交易信息包括公积金缴费记录、***借款记录、贷款记录、消费记录或还款记录等中的至少一种;基本信息包括住址、年龄、性别或婚姻状态等中的至少一种。
一般来说,信用交易信息为时序性的信息,基本信息中可能即包括时序性的信息,也包括非时序性的信息,基于此,步骤S101从特征报告中的信息交易信息和基本信息中可提取出时序特征和非时序特征。示例性的,征信特征包括用户在n个征信维度上的时序特征和用户的非时序特征,n≥1,时序特征的n个特征维度包括历史住址、公积金缴费、***借款、贷款、消费或还款等中的至少一种,在每个特征维度上的时序特征用于表征用户在该特征维度上所进行的行为的记录,非时序特征包括现住址、年龄、性别或婚姻状态等中的至少一种。
信用评估模型为预先基于深度学习模型训练得到的,用于基于征信特征对用户进行信用评估,并输出信用评估结果的模型。
其中,信用评估结果用于表征用户的信用是否符合要求。
本申请实施例中,通过从征信报告中提取用户在n个征信维度上的时序特征和该用户的非时序特征,能够通过时序特征能够对该用户在时间维度上的信用进行准确的评估,使得对用户信用的评估更加准,避免因输入模型的征信特征不区分时序特征和非时序特征,导致最终的评估结果不准确。
为了使信用评估模型能够基于时序特征和非时序特征进行准确的评估,本实施例中通过信用评估模型的n+1个特征识别模块分别识别每个时序特征和非时序特征。
图2为本申请实施例提供的一种信用评估模型的框架示意图。结合图2所示,信用评估模型200包括n+1个特征识别模块,示例性的,n+1个特征识别模块包括n个时序特征识别模块210-1至210-n和一个非时序特征识别模块220。
示例性的,每个时序特征识别模块至少包括:循环神经网络层213和语义识别层214。
示例性的,每个特征识别模块均包括输入层、嵌入层和特征空间转换层。
示例性的,每个时序特征识别模块的输入层211、嵌入层212、循环神经网络层213、语义识别层214和特征空间转换层215依次连接。
示例性的、每个非时序特征识别模块220的输入层221、嵌入层222和特征空间转换层223依次连接。
可选的,特征空间转换层包括深度神经网络(Deep Neural Networks,DNN)层和批标准化(Batch Normalization,BN)层。
可选的,循环神经网络层213为基于循环神经网络(Recurrent Neural Network,RNN)进行识别的网络层;语义识别层214为基于转换Transformer算法进行语义识别的网络层。
应理解,信用评估模型200还包括:合并层230和二分类预测层240。合并层230和每个特征识别模块连接,示例性的,合并层230和每个特征识别模块的特征空间转换层连接。
可选的,二分类预测层240为基于逻辑回归softmax函数,进行打分和评估的网络层。
下面结合图2和图3对信用评估模型对用户的信用的评估过程,进行说明。
图3为本申请实施例提供的一种信用的评估方法的流程示意图。如图3所示,该方法包括:
S301:将n个特征维度上的时序特征和非时序特征分别输入信用评估模型的n+1个特征识别模块,得到n+1个特征识别模块分别输出的特征向量。
S302:将n+1个特征识别模块分别输出的特征向量进行合并。
S303:基于合并后的特征向量,对用户进行评估,得到信用评估结果。
针对步骤S301进行以下说明:
非时序特征和每个时序特征分别对应一个特征识别模块,将每个特征输入对应的特征识别模块中进行特征向量的转换和识别等操作,实现了对每个特征块的针对性的识别,充分使用了每个特征和特征之间的时序关系,来对用户的信用进行准确的识别。
示例性的,将历史住址维度对应的时序特征输入图2所示的时序特征识别模块210-1,将公积金缴费维度对应的时序特征输入时序特征识别模块210-2,将***借款维度对应的时序特征输入时序特征识别模块210-3,将贷款维度对应的时序特征输入时序特征识别模块210-4,将消费维度对应的时序特征输入时序特征识别模块210-5,将还款维度对应的时序特征输入时序特征识别模块210-6,等等。将非时序特征,例如现住址、年龄、性别或婚姻状态等输入非时序特征识别模块220。
进一步地,每个特征识别模块针对输入的特征块,分别输出对应的特征向量,得到n+1个特征向量。
应理解,每个特征向量的向量维度相同,步骤S302中,将相同维度的n+1个特征向量进行合并,示例性的,合并后的特征向量用于表征该用户的信用信息中任一元素的时空信息、内容和类型中的至少一种。
本实施例中通过n+1个特征模块中的每个特征模块分别对对应的非时序特征或时序特征进行特征识别,能够对用户进行准确的评估。
应理解,信用评估模型为基于初始模型训练得到的,初始模型为基于深度学习模型构建的。
首先,结合图4对初始模型进行介绍。
图4为本申请实施例提供的一种初始模型的框架示意图。结合图4所示,初始模型400包括n+1个特征训练模块,示例性的,n+1个特征训练模型包括n个时序特征训练模型410-1至410-n和一个非时序特征训练模型420。
示例性的,每个时序特征训练模型至少包括:循环神经网络层413和语义识别层414。
示例性的,每个特征训练模型均包括输入层、嵌入层和特征空间转换层。
示例性的,每个时序特征训练模型的输入层411、嵌入层412、循环神经网络层413、语义识别层414和特征空间转换层415依次连接。
示例性的,每个非时序特征训练模型420的输入层421、嵌入层422和特征空间转换层423依次连接。
可选的,上述实施例中的特征空间转换层415、423包括深度神经网络(DeepNeural Networks,DNN)层和批标准化(Batch Normalization,BN)层。
可选的,循环神经网络层413为基于循环神经网络(Recurrent Neural Network,RNN)进行识别的网络层;语义识别层414为基于转换Transformer算法进行语义识别的网络层。
应理解,初始模型400还包括:合并层430、拟合控制层440和二分类预测层450。合并层430和每个特征训练模型连接,示例性的,合并层430和每个特征训练模型的特征空间转换层415连接。
可选的,拟合控制层440包括DNN层和丢弃(Dropout)层,Dropout层为基于Dropout算法进行防拟合的网络层。
可选的,二分类预测层450为基于逻辑回归softmax函数,进行打分和评估的网络层。
需要说明的是,RNN在长时序表达上由于信息逐层传递和梯度回传的问题,较难在长序列上取得较好的效果。Transformer算法在时序数据上的强大信息提取能力,在自然语言处理(Natural Language Processing,NLP)领域得到了广泛的应用。若直接将Transformer算法用于时序特征上,存在以下问题:
1、深层次的transformer算法对计算资源要求很高,一般很难满足线上推理时间要求。
2、Transformer主要被用于NLP领域,然而在金融等领域中数据更加复杂,特征类型多样。因此直接应用Transformer算法识别征信特征,效果很难达到预期。
针对上面的问题,我们采用RNN进行预特征表达,可以很大程度上降低Transformer算法训练的难度,然后使用浅层Transformer宣发进行训练,降低了Transformer算法学习的难度,保证信用评估模型的识别能力的同时,提高了处理效率。
下面结合图5对信用评估模型的训练过程进行说明。
图5为本申请实施例提供的一种信用评估模型的训练方法的流程示意图。
S501:获取训练样本集合。
S502:针对训练样本集合中的每个训练样本,基于训练样本的标签、n个特征维度上的时序特征和非时序特征对初始模型进行训练,得到信用评估模型。
步骤S501中,可基于每个用户的特征报告,获取该用户的征信特征以及对应的标签,该标签用于表征该用户的信用是否符合要求,或者表征该用户的信用得分,将每个用户的征信特征和对应的标签作为一个训练样本,多个训练样本组合得到训练样本集合。应理解,征信特征包括用户在n个征信维度上的时序特征和用户的非时序特征,n≥1。
应理解,征信报告中的信用信息包括信用交易信息和基本信息。例如,信用交易信息包括公积金缴费记录、***借款记录、贷款记录、消费记录或还款记录等中的至少一种;基本信息包括住址、年龄、性别或婚姻状态等中的至少一种。
一般来说,信用交易信息为时序性的信息,基本信息中可能即包括时序性的信息,也包括非时序性的信息,基于此,步骤S101从特征报告中的信息交易信息和基本信息中可提取出时序特征和非时序特征。示例性的,征信特征包括用户在n个征信维度上的时序特征和用户的非时序特征,n≥1,时序特征的n个特征维度包括历史住址、公积金缴费、***借款、贷款、消费或还款等中的至少一种,在每个特征维度上的时序特征用于表征用户在该特征维度上所进行的行为的记录,非时序特征包括现住址、年龄、性别或婚姻状态等中的至少一种。
示例性的,将每个训练样本的n个特征维度上的时序特征和非时序特征输入初始模型,得到训练样本对应的信用预测结果,并基于每个训练样本对应的信用预测结果和训练样本对应的标签,确定初始模型的准确率,在初始模型的准确率达到预设值时,得到信用评估模型。例如,对比信用预测结果和标签是否一致,若一致则预测结果准确,若不一致则预测结果不准确,再根据多个信用预测结果和标签的对比结果确定初始模型的准确率是否达到预设值。
示例性的,将n个特征维度上的时序特征和非时序特征分别输入n+1个特征训练模块,得到n+1个特征训练模块分别输出的特征预测向量,并将n+1个特征训练模块分别输出的特征预测向量进行合并,再基于合并后的特征预测向量,对用户的信用进行预测,得到信用预测结果。
本实施例中,将多个用户对应的n个征信维度上的时序特征和非时序特征作为训练样本集合,对初始模型进行训练得到信用评估模型,使得信用评估模型能够对用户的信用进行准确的评估。
图6为本申请实施例提供的一种信用的评估方法的流程示意图。在上述实施例的基础上,为了能够准确得到信用评估模型,在训练的过程中需要对模型的拟合程度进行控制,本实施例在基于合并后的特征预测向量对用户的信用进行预测的过程中,具体包括:
S601:通过丢弃Dropout算法,对特征向量进行防止过拟合处理。
S602:基于处理后的特征向量对用户的信用进行打分,得到用户的信用度。
S603:对用户的信用度进行二分类,得到信用评估结果。
在深度学习的模型中,如果模型的参数太多,而训练样本的数量不足,训练出来的模型很容易产生过拟合的现象。在训练模型的时候经常会遇到过拟合的问题,过拟合具体表现在:模型在训练样本上损失函数较小,预测准确率较高,但在测试样本或者实际评估时,损失函数比较大,预测准确率较低。
为了解决过拟合问题,一般会采用模型集成的方法,即训练多个模型进行组合。此时,训练模型费时就成为一个很大的问题,不仅训练多个模型费时,测试多个模型也是很费时。
本申请实施例通过Dropout算法,让某个神经元的激活值以一定的概率p停止工作,这样可以使模型泛化性更强,而不依赖一些局部的特征。
示例性的,通过归一化指数函数,例如softmax函数,基于经过防止拟合处理后的特征向量,对用户的信用进行打分,得到用户的信用度,并通过归一化指数函数对用户的信用度进行二分类,得到用户的信用是否满足要求的信用评估结果。
在一种具体的实现方式中,基于征信特征进行识别或基于训练样本中的征信特征进行预测之前,为了保证不同数值范围的特征能够较好的映射到同一个区间,避免不同特征量纲的干扰,并降低征信特征的中极值的影响。本申请实施例首先对待识别或者带预测的征信特征进行离散化和/或归一化处理。
示例性的,根据征信特征的类别,分别进行对应的离散化和/或归一化。例如,通过离散化处理将用户的性别信息(男或女)转化为0或1,再例如,通过归一化处理将用户的年龄除以10。
示例性的,结合表1所示,可基于征信特征中数值型特征的数值大小所属的区间选择对应的归一化方法。
原始数据90%分位点值(绝对值) | 归一化方法 |
(0-100] | 保持原始输入 |
(100-1000] | 开方处理 |
(1000-inf] | 对数处理 |
在一种具体的实现方式中,由于存在多个特征维度上的时序特征,现以一个特征维度上的时序特征作为输入为例进行说明。
假设时序特征是一个T×M的向量,其中T是时序特征的长度,用于表征时序特征中特征类别的数量,M是时序特征中每一个特征类别的维度,用于表征每个特征类别的内容。对时序特征进行离散化和/或归一化处理,时序特征的维度变成T×V,M不等于V。
通过Embed层将输入T×V的向量转化成T×E大小的向量,E不等于V。
将T×E的向量输入到RNN+Transformer结构中,并在输出端进行加权求和,得到1×H的向量。
将1×H的向量输入DNN+BN的结构中,得到1×D的输出向量。
进一步地,因存在n个时序特征和一个非时序特征,因而得到n+1个1×D的向量,并将n+1个1×D的向量进行合并,得到(n+1)×D维的向量。(n+1)×D维的向量通过DNN+Dropout模型转变为1×F的输出向量。最后该输出向量通过一个简单测线性映射到二分类预测层,例如Label层进行二分类预测。
下文结合图7至图8,详细描述本申请的设备实施例,应理解,设备实施例与方法实施例相互对应,类似的描述可以参照方法实施例。
图7示出了根据本申请实施例的电子设备的示意性框图。如图7所示,该电子设备700包括:
特征提取单元710,用于从用户的征信报告中提取用户的征信特征,征信特征包括用户在n个征信维度上的时序特征和用户的非时序特征,n≥1。
评估单元720,用于将n个特征维度上的时序特征和非时序特征输入信用评估模型,得到信用评估结果,信用评估结果用于表征用户的信用是否符合要求。
其中,信用评估模型为基于深度学习模型训练得到的。
可选的,评估单元720具体用于:将n个特征维度上的时序特征和非时序特征分别输入信用评估模型的n+1个特征识别模块,得到n+1个特征识别模块分别输出的特征向量;将n+1个特征识别模块分别输出的特征向量进行合并;基于合并后的特征向量,对用户进行评估,得到信用评估结果。
可选的,n+1个特征识别模块包括n个时序特征识别模块和1个非时序特征识别模块。
上述实施例提供的电子设备,可以执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
图8示出了根据本申请实施例的电子设备的示意性框图。如图8所示,该电子设备800包括:
样本获取单元810,用于获取训练样本集合,训练样本集合包括多个训练样本,训练样本包括用户的征信特征和对应的标签,征信特征包括用户在n个征信维度上的时序特征和用户的非时序特征,n≥1,标签用于表征用户的信用是否符合要求。
模型训练单元820,用于针对训练样本集合中的每个训练样本,基于训练样本的标签、n个特征维度上的时序特征和非时序特征对初始模型进行训练,得到信用评估模型。
可选的,模型训练单元820具体用于:将每个训练样本的n个特征维度上的时序特征和非时序特征输入初始模型,得到训练样本对应的信用预测结果;基于每个训练样本对应的信用预测结果和训练样本对应的标签,确定初始模型的准确率;在初始模型的准确率达到预设值时,得到信用评估模型。
可选的,模型训练单元820具体用于:将n个特征维度上的时序特征和非时序特征分别输入n+1个特征训练模块,得到n+1个特征训练模块分别输出的特征预测向量;将n+1个特征训练模块分别输出的特征预测向量进行合并;基于合并后的特征预测向量,对用户的信用进行预测,得到信用预测结果。
可选的,n+1个特征训练模块包括n个时序特征训练模块和1个非时序特征训练模块。
可选的,模型训练单元820具体用于:通过丢弃Dropout算法,对合并后的特征预测向量进行防止过拟合处理;基于处理后的特征预测向量对用户的信用进行打分,得到用户的信用得分;对用户的信用得分进行二分类,得到信用预测结果。
上述实施例提供的电子设备,可以执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
图9为本申请实施例提供的一种电子设备示意性结构图。如图9所示的电子设备包括处理器910,处理器910可以从存储器中调用并运行计算机程序,以实现本申请实施例中的方法。
可选地,如图9所示,电子设备900还可以包括存储器920。其中,处理器910可以从存储器920中调用并运行计算机程序,以实现本申请实施例中的方法。
其中,存储器920可以是独立于处理器910的一个单独的器件,也可以集成在处理器910中。
可选地,如图9所示,电子设备900还可以包括收发器930,处理器910可以控制该收发器930与其他设备进行通信,具体地,可以向其他设备发送信息或数据,或接收其他设备发送的信息或数据。
其中,收发器930可以包括发射机和接收机。收发器930还可以进一步包括天线,天线的数量可以为一个或多个。
可选地,该电子设备900可以实现本申请实施例的各个方法的相应流程,为了简洁,在此不再赘述。
应理解,本申请实施例的处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法实施例的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器、数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
可以理解,本申请实施例中的存储器可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-Only Memory,ROM)、可编程只读存储器(Programmable ROM,PROM)、可擦除可编程只读存储器(Erasable PROM,EPROM)、电可擦除可编程只读存储器(Electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(Random Access Memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(Static RAM,SRAM)、动态随机存取存储器(Dynamic RAM,DRAM)、同步动态随机存取存储器(Synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(Double Data RateSDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(Synchlink DRAM,SLDRAM)和直接内存总线随机存取存储器(DirectRambus RAM,DR RAM)。应注意,本文描述的***和方法的存储器旨在包括但不限于这些和任意其它适合类型的存储器。
应理解,上述存储器为示例性但不是限制性说明,例如,本申请实施例中的存储器还可以是静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(dynamic RAM,DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(double data rate SDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synch link DRAM,SLDRAM)以及直接内存总线随机存取存储器(Direct Rambus RAM,DR RAM)等等。也就是说,本申请实施例中的存储器旨在包括但不限于这些和任意其它适合类型的存储器。
本申请实施例还提供了一种计算机可读存储介质,用于存储计算机程序。
可选的,该计算机可读存储介质可应用于本申请实施例中的电子设备,并且该计算机程序使得计算机执行本申请实施例的各个方法中由的相应流程,为了简洁,在此不再赘述。
本申请实施例还提供了一种计算机程序产品,包括计算机程序指令。
可选的,该计算机程序产品可应用于本申请实施例中的电子设备,并且该计算机程序指令使得计算机执行本申请实施例的各个方法中的相应流程,为了简洁,在此不再赘述。
本申请实施例还提供了一种计算机程序。
可选的,该计算机程序可应用于本申请实施例中的测试设备、终端设备或服务器,当该计算机程序在计算机上运行时,使得计算机执行本申请实施例的各个方法中的相应流程,为了简洁,在此不再赘述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的设备、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。针对这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。
Claims (10)
1.一种信用的评估方法,其特征在于,包括:
从用户的征信报告中提取所述用户的征信特征,所述征信特征包括所述用户在n个征信维度上的时序特征和所述用户的非时序特征,n≥1;
将所述n个特征维度上的时序特征和所述非时序特征输入信用评估模型,得到信用评估结果,所述信用评估结果用于表征所述用户的信用是否符合要求;
其中,所述信用评估模型为基于深度学习模型训练得到的。
2.根据权利要求1所述的方法,其特征在于,所述将所述n个特征维度上的时序特征和所述非时序特征输入信用评估模型,得到所述信用评估结果,包括:
将所述n个特征维度上的时序特征和所述非时序特征分别输入所述信用评估模型的n+1个特征识别模块,得到所述n+1个特征识别模块分别输出的特征向量;
将所述n+1个特征识别模块分别输出的特征向量进行合并;
基于合并后的特征向量,对所述用户进行评估,得到所述信用评估结果。
3.根据权利要求2所述的方法,其特征在于,所述n+1个特征识别模块包括n个时序特征识别模块和1个非时序特征识别模块。
4.一种信用评估模型的训练方法,其特征在于,包括:
获取训练样本集合,所述训练样本集合包括多个训练样本,所述训练样本包括用户的征信特征和对应的标签,所述征信特征包括所述用户在n个征信维度上的时序特征和所述用户的非时序特征,n≥1,所述标签用于表征所述用户的信用是否符合要求;
针对所述训练样本集合中的每个训练样本,基于所述训练样本的标签、n个特征维度上的时序特征和非时序特征对初始模型进行训练,得到信用评估模型。
5.根据权利要求4所述的方法,其特征在于,所述针对所述训练样本集合中的每个训练样本,基于所述训练样本的标签、n个特征维度上的时序特征和非时序特征对初始模型进行训练,得到信用评估模型,包括:
将每个训练样本的n个特征维度上的时序特征和非时序特征输入初始模型,得到所述训练样本对应的信用预测结果;
基于每个训练样本对应的所述信用预测结果和所述训练样本对应的标签,确定所述初始模型的准确率;
在所述初始模型的准确率达到预设值时,得到所述信用评估模型。
6.根据权利要求5所述的方法,其特征在于,所述将每个训练样本的n个特征维度上的时序特征和非时序特征输入初始模型,得到所述训练样本对应的信用预测结果,包括:
将所述n个特征维度上的时序特征和所述非时序特征分别输入n+1个特征训练模块,得到所述n+1个特征训练模块分别输出的特征预测向量;
将所述n+1个特征训练模块分别输出的特征预测向量进行合并;
基于合并后的特征预测向量,对所述用户的信用进行预测,得到所述信用预测结果。
7.根据权利要求6所述的方法,其特征在于,所述n+1个特征训练模块包括n个时序特征训练模块和1个非时序特征训练模块。
8.根据权利要求6或7所述的方法,其特征在于,所述基于合并后的特征预测向量,对所述用户的信用进行预测,得到所述信用预测结果,包括:
通过丢弃Dropout算法,对所述合并后的特征预测向量进行防止过拟合处理;
基于处理后的特征预测向量对所述用户的信用进行打分,得到所述用户的信用得分;
对所述用户的信用得分进行二分类,得到所述信用预测结果。
9.一种电子设备,其特征在于,包括:
特征提取单元,用于从用户的征信报告中提取所述用户的征信特征,所述征信特征包括所述用户在n个征信维度上的时序特征和所述用户的非时序特征,n≥1;
评估单元,用于将所述n个特征维度上的时序特征和所述非时序特征输入信用评估模型,得到信用评估结果,所述信用评估结果用于表征所述用户的信用是否符合要求;
其中,所述信用评估模型为基于深度学习模型训练得到的。
10.一种电子设备,其特征在于,包括:
样本获取单元,用于获取训练样本集合,所述训练样本集合包括多个训练样本,所述训练样本包括用户的征信特征和对应的标签,所述征信特征包括所述用户在n个征信维度上的时序特征和所述用户的非时序特征,n≥1,所述标签用于表征所述用户的信用是否符合要求;
模型训练单元,用于针对所述训练样本集合中的每个训练样本,基于所述训练样本的标签、n个特征维度上的时序特征和非时序特征对初始模型进行训练,得到信用评估模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110220673.8A CN112819610B (zh) | 2021-02-26 | 2021-02-26 | 信用的评估方法、信用评估模型的训练方法以及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110220673.8A CN112819610B (zh) | 2021-02-26 | 2021-02-26 | 信用的评估方法、信用评估模型的训练方法以及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112819610A true CN112819610A (zh) | 2021-05-18 |
CN112819610B CN112819610B (zh) | 2023-05-30 |
Family
ID=75862469
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110220673.8A Active CN112819610B (zh) | 2021-02-26 | 2021-02-26 | 信用的评估方法、信用评估模型的训练方法以及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112819610B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150347860A1 (en) * | 2014-05-30 | 2015-12-03 | Apple Inc. | Systems And Methods For Character Sequence Recognition With No Explicit Segmentation |
CN107301577A (zh) * | 2016-04-15 | 2017-10-27 | 阿里巴巴集团控股有限公司 | 信用评估模型的训练方法、信用评估方法以及装置 |
CN107481132A (zh) * | 2017-08-02 | 2017-12-15 | 上海前隆信息科技有限公司 | 一种信用评估方法及***、存储介质及终端设备 |
CN109360089A (zh) * | 2018-11-20 | 2019-02-19 | 四川大学 | 贷款风险预测方法及装置 |
CN110458689A (zh) * | 2019-07-30 | 2019-11-15 | 阿里巴巴集团控股有限公司 | 用于评估主体信用风险的方法及装置 |
CN110889759A (zh) * | 2019-11-21 | 2020-03-17 | 北京三快在线科技有限公司 | 信用数据的确定方法、装置及存储介质 |
CN111080397A (zh) * | 2019-11-18 | 2020-04-28 | 支付宝(杭州)信息技术有限公司 | 信用评估方法、装置及电子设备 |
CN112116454A (zh) * | 2020-09-28 | 2020-12-22 | 中国建设银行股份有限公司 | 信用评估方法及装置 |
-
2021
- 2021-02-26 CN CN202110220673.8A patent/CN112819610B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150347860A1 (en) * | 2014-05-30 | 2015-12-03 | Apple Inc. | Systems And Methods For Character Sequence Recognition With No Explicit Segmentation |
CN107301577A (zh) * | 2016-04-15 | 2017-10-27 | 阿里巴巴集团控股有限公司 | 信用评估模型的训练方法、信用评估方法以及装置 |
CN107481132A (zh) * | 2017-08-02 | 2017-12-15 | 上海前隆信息科技有限公司 | 一种信用评估方法及***、存储介质及终端设备 |
CN109360089A (zh) * | 2018-11-20 | 2019-02-19 | 四川大学 | 贷款风险预测方法及装置 |
CN110458689A (zh) * | 2019-07-30 | 2019-11-15 | 阿里巴巴集团控股有限公司 | 用于评估主体信用风险的方法及装置 |
CN111080397A (zh) * | 2019-11-18 | 2020-04-28 | 支付宝(杭州)信息技术有限公司 | 信用评估方法、装置及电子设备 |
CN110889759A (zh) * | 2019-11-21 | 2020-03-17 | 北京三快在线科技有限公司 | 信用数据的确定方法、装置及存储介质 |
CN112116454A (zh) * | 2020-09-28 | 2020-12-22 | 中国建设银行股份有限公司 | 信用评估方法及装置 |
Non-Patent Citations (1)
Title |
---|
蒲杰方: "基于Lasso-logistic和神经网络的个人信用评估模型研究", 《中国优秀硕士学位论文全文数据库》 * |
Also Published As
Publication number | Publication date |
---|---|
CN112819610B (zh) | 2023-05-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111724083B (zh) | 金融风险识别模型的训练方法、装置、计算机设备及介质 | |
US20210224812A1 (en) | Fraudulent transaction identification method and apparatus, server, and storage medium | |
CN112863683B (zh) | 基于人工智能的病历质控方法、装置、计算机设备及存储介质 | |
CN112395979B (zh) | 基于图像的健康状态识别方法、装置、设备及存储介质 | |
CN111898675A (zh) | 信贷风控模型生成方法、装置、评分卡生成方法、机器可读介质及设备 | |
WO2021169366A1 (zh) | 数据增强方法和装置 | |
CN112765403A (zh) | 一种视频分类方法、装置、电子设备及存储介质 | |
Lin et al. | An analysis of English classroom behavior by intelligent image recognition in IoT | |
CN113837836A (zh) | 模型推荐方法、装置、设备及存储介质 | |
CN116578925B (zh) | 基于特征画像的行为预测方法、装置及存储介质 | |
CN117522538A (zh) | 招投标信息处理方法、装置、计算机设备及存储介质 | |
Leangarun et al. | Using generative adversarial networks for detecting stock price manipulation: the stock exchange of Thailand case study | |
CN112819610B (zh) | 信用的评估方法、信用评估模型的训练方法以及设备 | |
Vrigkas et al. | Human activity recognition using robust adaptive privileged probabilistic learning | |
CN116204709A (zh) | 一种数据处理方法及相关装置 | |
CN111582404B (zh) | 内容分类方法、装置及可读存储介质 | |
CN112017634A (zh) | 数据的处理方法、装置、设备以及存储介质 | |
CN117172632B (zh) | 一种企业异常行为检测方法、装置、设备及存储介质 | |
Li et al. | A dual-branch selection method with pseudo-label based self-training for semi-supervised smoke image segmentation | |
CN116257687A (zh) | 推荐模型的训练方法、内容项的推荐方法、装置以及设备 | |
CN116383478A (zh) | 事务推荐方法、装置、设备以及存储介质 | |
Agrawal et al. | An Enhanced and Effective Approach for Object Detection using Deep Learning Techniques | |
Bellam et al. | Novel DeepLearning based sentimental approach to identifying the fake news in social networking media based smart application | |
CN117876021A (zh) | 基于人工智能的数据预测方法、装置、设备及存储介质 | |
CN116777639A (zh) | 案件风险评级方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |