CN113610366A - 风险警告生成方法、装置及电子设备 - Google Patents
风险警告生成方法、装置及电子设备 Download PDFInfo
- Publication number
- CN113610366A CN113610366A CN202110836040.XA CN202110836040A CN113610366A CN 113610366 A CN113610366 A CN 113610366A CN 202110836040 A CN202110836040 A CN 202110836040A CN 113610366 A CN113610366 A CN 113610366A
- Authority
- CN
- China
- Prior art keywords
- information
- risk
- user
- historical
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000010801 machine learning Methods 0.000 claims abstract description 29
- 238000012549 training Methods 0.000 claims abstract description 23
- 230000006399 behavior Effects 0.000 claims abstract description 16
- 230000006870 function Effects 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 12
- 238000004140 cleaning Methods 0.000 claims description 8
- 230000004927 fusion Effects 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 3
- 238000005070 sampling Methods 0.000 abstract description 10
- 238000013468 resource allocation Methods 0.000 abstract description 6
- 238000004364 calculation method Methods 0.000 abstract description 5
- 238000012545 processing Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000011835 investigation Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 238000007635 classification algorithm Methods 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0635—Risk analysis of enterprise or organisation activities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Human Resources & Organizations (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Strategic Management (AREA)
- Entrepreneurship & Innovation (AREA)
- Software Systems (AREA)
- Economics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- Development Economics (AREA)
- Mathematical Physics (AREA)
- Educational Administration (AREA)
- Medical Informatics (AREA)
- Game Theory and Decision Science (AREA)
- Probability & Statistics with Applications (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开涉及一种风险警告生成方法、装置、电子设备及计算机可读介质。该方法包括：获取用户的用户信息，所述用户信息包括基础信息和行为信息；基于所述用户信息和特征策略生成多维度特征信息；将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；在所述至少一个风险评分满足预设策略时，生成风险警告信息。本公开涉及的风险警告生成方法、装置，能够解决在机器模型训练时，过采样或者欠采样而发生的过拟合问题，得到精确的计算模型，进而快速确定具有金融风险的用户，提高用户资源分配的安全性。
Description
技术领域
本公开涉及计算机信息处理领域，具体而言，涉及一种风险警告生成方法、装置、电子设备及计算机可读介质。
背景技术
个人用户或者企业用户经常由资源服务机构进行资源借用活动，对于资源服务机构而言，用户的借用活动很可能会给资源服务公司带来风险。在实际风控中，提前预知和得到相应的风险手法往往是必要的和有价值的。目前，资源风险的判别经常是通过对用户的基础信息和行为信息的进行分析获得。不同风险手法有相应的风控手段，比如恶意违约，对于恶意违约案件应该能观察到恶意违约用户的行为和特征表现，如果把特征做成模型的变量和策略便能对风险防控起到很积极的作用。
可例如，在识别欺诈用户的过程中，经常采用模型预测的方式学习欺诈用户特征以用于新欺诈用户的发现。但是，在对这些用户进行建模训练的过程中，工作人员发现，对于欺诈用户的标注本身是不大准确的。如上文所述，标注欺诈用户的标签很大程度上依靠人工及后期调查，这就导致了很多欺诈用户无法被识别，即定义的未带有欺诈行为的用户中，有可能包含着真实的非欺诈客户，也有可能是欺诈客户但是未被人工及调查发现。在样本的训练过程中，如果样本标注数据的没有那么准确，在进行分类问题的预测时，将标签进行独热编码，采用交叉熵作为损失函数进行拟合，这种做法会将所属类别和非所属类别之间的差距尽可能大，由梯度有界可知，这种方法的训练会造成模型过于相信预测的类别，容易引起过拟合，很容易导致模型混乱，鲁棒性不强。
在所述背景技术部分公开的上述信息仅用于加强对本公开的背景的理解，因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
有鉴于此，本公开提供一种风险警告生成方法、装置、电子设备及计算机可读介质，能够解决在机器模型训练时，过采样或者欠采样而发生的过拟合问题，得到精确的计算模型，进而快速确定具有金融风险的用户，提高用户资源分配的安全性。
本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。
根据本公开的一方面，提出一种风险警告生成方法，该方法包括：获取用户的用户信息，所述用户信息包括基础信息和行为信息；基于所述用户信息和特征策略生成多维度特征信息；将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；在所述至少一个风险评分满足预设策略时，生成风险警告信息。
可选地，还包括：获取多个历史用户的多维度特征信息；基于所述多维度特征信息为所述多个历史用户分别分配样本标签；基于正则化策略为所述样本标签确定标签参数；基于所述多个历史用户和其对应的样本标签、标签参数对机器学习模型进行训练以生成所述风险模型。
可选地，所述风险模型包括多个子风险模型，将所述多维度特征信息输入风险模型中，生成至少一个风险评分，包括：根据用户信息由风险模型的多个子风险模型中确定至少一个子风险模型；将所述多维度特征信息输入至少一个子风险模型，生成所述至少一个风险评分。
可选地，在所述至少一个风险评分满足预设策略时，生成风险警告信息，包括：将所述至少一个风险评分之间随机组合生成至少一个联合评分；将所述至少一个联合评分满足预设策略时，生成所述风险警告信息。
可选地，获取多个历史用户的多维度特征信息，包括：获取满足预设条件的多个历史用户信息；将所述多个历史用户信息进行数据清洗和数据融合以生成多个历史特征信息；由所述多个历史特征信息中确定多个历史多维度特征信息；基于所述多个历史多维度特征信息和所述历史用户信息之间的关系生成特征策略。
可选地，基于所述用户信息为所述多个历史用户分别分配样本标签，包括：将所述历史用户的用户信息和多个判别策略进行对比；基于所述用户信息满足的判别策略为所述历史用户分配样本标签，其中所述样本标签以离散正整数表示。
可选地，基于正则化策略为所述样本标签确定标签参数，包括：基于正则化策略生成确定偏差系数；基于偏差系数生成所述样本标签的标签参数。
可选地，基于所述多个历史用户和其对应的样本标签、标签参数对机器学习模型进行训练以生成所述风险模型，包括：将带有样本标签、标签参数的多个历史用户输入机器学习模型进行训练；在训练过程中基于标签参数生成交叉熵损失函数；在所述交叉熵损失函数获取最优解时，基于当前的机器学习模型的模型参数确定所述风险模型。
可选地，在所述交叉熵损失函数获取最优解时，包括：基于梯度下降方式求解所述交叉熵损失函数；将所述交叉熵损失函数的稳定解作为所述最优解。
根据本公开的一方面，提出一种风险警告生成装置，该装置包括：信息模块，用于获取用户的用户信息，所述用户信息包括基础信息和行为信息；特征模块，用于基于所述用户信息和特征策略生成多维度特征信息；评分模块，用于将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；警告模块，用于在所述至少一个风险评分满足预设策略时，生成风险警告信息。
根据本公开的一方面，提出一种电子设备，该电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上文的方法。
根据本公开的一方面，提出一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如上文中的方法。
根据本公开的风险警告生成方法、装置、电子设备及计算机可读介质，获取用户的用户信息，所述用户信息包括基础信息和行为信息；基于所述用户信息和特征策略生成多维度特征信息；将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；在所述至少一个风险评分满足预设策略时，生成风险警告信息的方式，能够解决在机器模型训练时，过采样或者欠采样而发生的过拟合问题，得到精确的计算模型，进而快速确定具有金融风险的用户，提高用户资源分配的安全性。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本公开。
附图说明
通过参照附图详细描述其示例实施例，本公开的上述和其它目标、特征及优点将变得更加显而易见。下面描述的附图仅仅是本公开的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是根据一示例性实施例示出的一种风险警告生成方法及装置的***框图。
图2是根据一示例性实施例示出的一种风险警告生成方法的流程图。
图3是根据另一示例性实施例示出的一种风险警告生成方法的流程图。
图4是根据另一示例性实施例示出的一种风险警告生成方法的流程图。
图5是根据一示例性实施例示出的一种风险警告生成装置的框图。
图6是根据一示例性实施例示出的一种电子设备的框图。
图7是根据一示例性实施例示出的一种计算机可读介质的框图。
具体实施方式
现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本公开将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。
此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。
附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
应理解，虽然本文中可能使用术语第一、第二、第三等来描述各种组件，但这些组件不应受这些术语限制。这些术语乃用以区分一组件与另一组件。因此，下文论述的第一组件可称为第二组件而不偏离本公开概念的教示。如本文中所使用，术语“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。
本领域技术人员可以理解，附图只是示例实施例的示意图，附图中的模块或流程并不一定是实施本公开所必须的，因此不能用于限制本公开的保护范围。
本公开中，资源是指任何可被利用的物质、信息、时间，信息资源包括计算资源和各种类型的数据资源。数据资源包括各个领域中的各种专用数据。本公开的创新之处在于如何使用服务器和客户端之间的信息交互技术来使风险警告信息生成的过程更加自动化、高效和减小人力成本。由此，从本质上来说，本公开可以应用于各类资源的分配，包括实体的货物、水、电，以及有意义的资料等。但是，为了方便起见，本公开中以金融数据资源为例进行说明资源分配的实施，但本领域技术人员应当理解，本公开亦可以用于其他资源的分配。
图1是根据一示例性实施例示出的一种风险警告生成方法及装置的***框图。
如图1所示，***架构10可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如金融服务类应用、购物类应用、网页浏览器应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的金融服务类网站提供支持的后台管理服务器。后台管理服务器可以对接收到的用户数据进行分析等处理，并将处理结果(例如风险警告信息)反馈给金融服务网站的管理员。
服务器105可例如获取用户的用户信息，所述用户信息包括基础信息和行为信息；服务器105可例如基于所述用户信息和特征策略生成多维度特征信息；服务器105可例如将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；服务器105可例如在所述至少一个风险评分满足预设策略时，生成风险警告信息。
服务器105还可例如获取多个历史用户的多维度特征信息；基于所述多维度特征信息为所述多个历史用户分别分配样本标签；基于正则化策略为所述样本标签确定标签参数；基于所述多个历史用户和其对应的样本标签、标签参数对机器学习模型进行训练以生成所述风险模型。
服务器105还可例如获取满足预设条件的多个历史用户信息；将所述多个历史用户信息进行数据清洗和数据融合以生成多个历史特征信息；由所述多个历史特征信息中确定多个历史多维度特征信息；基于所述多个历史多维度特征信息和所述历史用户信息之间的关系生成特征策略。
服务器105还可例如将训练完毕的风险模型和预设策略设置在终端设备101、102、103，以使得终端设备101、102、103用户的用户信息，基于所述用户信息和特征策略生成多维度特征信息；将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；在所述至少一个风险评分满足预设策略时，终端设备101、102、103生成风险警告信息并将其发送至服务器105。
服务器105可以是一个实体的服务器，还可例如为多个服务器组成，服务器105中的一部分可例如作为本公开中的风险警告***，用于生成风险警告信息；服务器105中的一部分可例如作为本公开中的预测策略生成***，用于生成预设策略；以及服务器105中的一部分还可例如作为本公开中的模型训练***，用于基于所述多个历史用户和其对应的样本标签、标签参数对机器学习模型进行训练以生成所述风险模型。
需要说明的是，本公开实施例所提供的风险警告生成方法可以由服务器105和/或终端设备101、102、103执行，相应地，风险警告生成装置可以设置于服务器105和/或终端设备101、102、103中。而提供给用户进行金融服务平台浏览的网页端一般位于终端设备101、102、103中。
图2是根据一示例性实施例示出的一种风险警告生成方法的流程图。风险警告生成方法20至少包括步骤S202至S208。
如图2所示，在S202中，获取用户的用户信息，所述用户信息包括基础信息和行为信息。在本公开实施例中，用户可为个人用户或者企业用户，资源额度的分配可为金融资源额度的调整，也可为电力资源、水力资源的分配。其中，用户信息可包括基础信息，可例如为业务账号信息、用户的页面操作数据、用户的业务访问时长、用户的业务访问频率、用户的终端设备标识信息以及用户所处地域信息，具体可根据实际应用场景确定，在此不做限制。用户信息还可包括行为信息，可例如为用户的页面操作数据、用户的业务访问时长、用户的业务访问频率等，用户信息的具体内容可根据实际应用场景确定，在此不做限制。更具体的，可基于用户授权采用网页埋点的方式获取当前用户的用户信息。
更具体的，用户在网页上的行为信息可通过Fiddler工具获取，Fiddler工具以web代理服务器的形式进行工作的，客户端先将请求数据发送出去后，Fiddler代理服务器会将数据包进行拦截，代理服务器再冒充客户端发送数据到服务器；同理，服务器将响应数据返回，代理服务器也会将数据拦截，再返回给客户端。通过Fiddler可获取用户网络浏览的驻留时间、驻留页面，点击操作等等相关的浏览数据。
在S204中，基于所述用户信息和特征策略生成多维度特征信息。可例如，基于所述多个历史多维度特征信息和所述历史用户信息之间的关系生成特征策略。
可对用户信息进行数据清洗和数据融合以将用户信息转化为多维度数据，更具体的，可对用户信息进行变量缺失率分析与处理、异常值处理；还可将连续型变量离散化的用户信息进行WOE转化、离散型变量WOE转化、文本变量加工处理、文本变量的word2vec处理等等。
其中，WOE的是“Weight of Evidence”，即证据权重。WOE是对原始特征的一种编码形式。要对一个特征进行WOE编码，需要首先把这个变量进行分组处理。Word2vec，是一群用来产生词向量的相关模型。这些模型为浅而双层的神经网络，用来训练以重新建构语言学之词文本。word2vec模型可用来映射每个词到一个向量，可用来表示词对词之间的关系。
在S206中，将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签。
在一个实施例中，所述风险模型包括多个子风险模型，将所述多维度特征信息输入风险模型中，生成至少一个风险评分，包括：根据用户信息由风险模型的多个子风险模型中确定至少一个子风险模型；将所述多维度特征信息输入至少一个子风险模型，生成所述至少一个风险评分。
更具体的，每个子风险模型都可以代表用户在某一方面的风险，子风险模型A可例如代表用户超期归还资源的风险；子风险模型B可例如代表用户不规划资源的风险；子风险模型C可例如代表用户故意欺诈的风险。
在S208中，在所述至少一个风险评分满足预设策略时，生成风险警告信息。可例如，将所述至少一个风险评分之间随机组合生成至少一个联合评分；将所述至少一个联合评分满足预设策略时，生成所述风险警告信息。
可例如，可将风险评分之间进行组合，根据组合值和预设策略进行对比以确定是否生成风险警告信息。更具体的，可在风险评分A大于0.5并且风险评分B大于0.3时，确定生成警告信息；还可例如，在风险评分C大于0.8时，确定生成警告信息。
根据本公开的风险警告生成方法，获取用户的用户信息，所述用户信息包括基础信息和行为信息；基于所述用户信息和特征策略生成多维度特征信息；将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；在所述至少一个风险评分满足预设策略时，生成风险警告信息的方式，能够解决在机器模型训练时，过采样或者欠采样而发生的过拟合问题，得到精确的计算模型，进而快速确定具有金融风险的用户，提高用户资源分配的安全性。
应清楚地理解，本公开描述了如何形成和使用特定示例，但本公开的原理不限于这些示例的任何细节。相反，基于本公开公开的内容的教导，这些原理能够应用于许多其它实施例。
图3是根据另一示例性实施例示出的一种风险警告生成方法的流程图。图3所示的流程30是对图2所示的流程的补充描述。
如图3所示，在S302中，获取多个历史用户的多维度特征信息。基于预设策略由多个历史用户的用户信息生成所述多维度特征信息。
在S304中，基于所述多维度特征信息为所述多个历史用户分别分配样本标签。包括：将所述历史用户的用户信息和多个判别策略进行对比；基于所述用户信息满足的判别策略为所述历史用户分配样本标签，其中所述样本标签以离散正整数表示。
可根据待训练的风险模型中子模型的数量确定样本标签的数量，风险子模型可例如为A，B，C三种，则对应的风险标签可为数值1,2,3,4。其中，标签1代表具有A风险，标签2代表具有B风险，标签3代表具有C风险，标签4代表无风险。
在S306中，基于正则化策略为所述样本标签确定标签参数。包括：基于正则化策略生成确定偏差系数；基于偏差系数生成所述样本标签的标签参数。可将上文确定的标签的数值进行平滑处理，使得标签变成概率值的形式，其中，在真实标签处的概率值最大，其他位置的概率值是个非常小的数。从而增加训练中不同分类间距离，减少类内距离，减少预测的过拟合，提升预测鲁棒性。
可例如，偏差系数为
其中，ε为超参数，K为总得分类数量，即为本申请中子模型的数量，i表示多个类中的某一类。上面公式的含义是，i为某一类标签的概率为(1-ε)，i不为某一类标签的概率为
在S308中，基于所述多个历史用户和其对应的样本标签、标签参数对机器学习模型进行训练以生成所述风险模型。可例如，将带有样本标签、标签参数的多个历史用户输入机器学习模型进行训练；在训练过程中基于标签参数生成交叉熵损失函数；在所述交叉熵损失函数获取最优解时，基于当前的机器学习模型的模型参数确定所述风险模型。
在一个实施例中，可例如，基于梯度下降方式求解所述交叉熵损失函数；将所述交叉熵损失函数的稳定解作为所述最优解。
具体的，针对每个标签的样本集合，分别构建子模型，将所述样本集合中的各个历史用户的用户信息输入所述子模型，以得到预测标签，将所述预测标签与相应的真实的标签进行比对，判断预测标签与真实的标签是否一致，统计与真实的标签一致的预测标签的数量，并计算与真实的标签一致的预测标签的数量在所有预测标签的数量中的占比，若所述占比大于或等于预设占比值，则所述子模型收敛，得到训练完成的子模型，若所述占比小于所述预设占比值，则调整所述子模型中的参数，通过调整后的子模型重新预测各个对象的预测标签，直至所述占比大于或等于预设占比值。其中，调整所述调整模型中的参数的方法可以采用随机梯度下降算法、梯度下降算法或正规方程进行。
在本申请中，机器学习模型可为分类模型，具体可为逻辑回归、朴素贝叶斯、决策树、支持向量机、随机森林、梯度提升树等分类算法中的一种或多种的组合，若调整所述调整模型的参数的次数超过预设次数时，可以更换构子模型所使用的机器学习模型的类型，以提高模型训练效率。
本公开的风险警告生成方法，标签标注进行平滑处理，使得模型分类超平面不会那么的贴近原始数据，减少真实标签的类别概率在计算损失值时的权重，同时增加其他类别的预测概率在最终损失函数中的权重。这样真实类别概率和其他类别的概率均值之间的差异就会下降一些，降低模型过度自信，有效识别风险用户。
图4是根据另一示例性实施例示出的一种风险警告生成方法的流程图。图4所示的流程40是对“生成预设策略”的详细描述。
如图4所示，在S402中，获取满足预设条件的多个历史用户信息。在本实施例中，以金融资源借用为例进行示例性说明，可以理解的是，本申请的方法还可应用与其他分配场景中。基于某金融服务平台真实业务数据，通过vintage、迁移率等指标分析，定义3期内还款表现发生逾期30+(即MOB3 30+)的历史用户为本次建模的目标样本，逾期样本比例小于5％。
在S404中，将所述多个历史用户信息进行数据清洗和数据融合以生成多个历史特征信息。将以上信息融合，形成上万维度的宽表变量之后，需要对数据进行进一步清洗加工，以保证后期模型的稳定性与准确性。数据清洗步骤包括但不局限于变量缺失率分析与处理、异常值处理、连续型变量离散化并WOE转化、离散型变量WOE转化、文本变量加工处理等。
在S406中，由所述多个历史特征信息中确定多个历史多维度特征信息。可计算所述多个历史特征信息的变量参数、区分度参数、信息价值、模型特征参数；基于所述变量参数、所述区分度参数、所述信息价值、所述模型特征参数由所述多个历史特征信息中提取多个历史多维度特征信息。
可结合变量覆盖度、单一取值覆盖度、与目标变量相关性及显著性、对目标变量的区分度(KS)及信息价值(IV)、树类模型(如XGBoost、RF等)特征重要性等多方面综合考虑，筛选覆盖率高、对目标变量区分效果明显的特征作为多维度特征。
在S408中，基于所述多个历史多维度特征信息和所述历史用户信息之间的关系生成特征策略。
本领域技术人员可以理解实现上述实施例的全部或部分步骤被实现为由CPU执行的计算机程序。在该计算机程序被CPU执行时，执行本公开提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中，该存储介质可以是只读存储器，磁盘或光盘等。
此外，需要注意的是，上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。
下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。
图5是根据一示例性实施例示出的一种风险警告生成装置的框图。如图5所示，风险警告生成装置50包括：信息模块502，特征模块504，评分模块506，警告模块508。
信息模块502用于获取用户的用户信息，所述用户信息包括基础信息和行为信息；
特征模块504用于基于所述用户信息和特征策略生成多维度特征信息；
评分模块506用于将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；
警告模块508用于在所述至少一个风险评分满足预设策略时，生成风险警告信息。
根据本公开的风险警告生成装置，获取用户的用户信息，所述用户信息包括基础信息和行为信息；基于所述用户信息和特征策略生成多维度特征信息；将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；在所述至少一个风险评分满足预设策略时，生成风险警告信息的方式，能够解决在机器模型训练时，过采样或者欠采样而发生的过拟合问题，得到精确的计算模型，进而快速确定具有金融风险的用户，提高用户资源分配的安全性。
图6是根据一示例性实施例示出的一种电子设备的框图。
下面参照图6来描述根据本公开的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同***组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元610执行，使得所述处理单元610执行本说明书中的根据本公开各种示例性实施方式的步骤。例如，所述处理单元610可以执行如图2，图3，图4中所示的步骤。
所述存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(ROM)6203。
所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作***、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备600’(例如键盘、指向设备、蓝牙设备等)通信，使得用户能与该电子设备600交互的设备通信，和/或该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储***等。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，如图7所示，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本公开实施方式的上述方法。
所述软件产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该计算机可读介质实现如下功能：获取用户的用户信息，所述用户信息包括基础信息和行为信息；基于所述用户信息和特征策略生成多维度特征信息；将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；在所述至少一个风险评分满足预设策略时，生成风险警告信息。该计算机可读介质还可实现如下功能：获取多个历史用户的多维度特征信息；基于所述多维度特征信息为所述多个历史用户分别分配样本标签；基于正则化策略为所述样本标签确定标签参数；基于所述多个历史用户和其对应的样本标签、标签参数对机器学习模型进行训练以生成所述风险模型。该计算机可读介质还可实现如下功能：获取满足预设条件的多个历史用户信息；将所述多个历史用户信息进行数据清洗和数据融合以生成多个历史特征信息；由所述多个历史特征信息中确定多个历史多维度特征信息；基于所述多个历史多维度特征信息和所述历史用户信息之间的关系生成特征策略。
本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中，也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块。
通过以上的实施例的描述，本领域的技术人员易于理解，这里描述的示例实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施例的方法。
以上具体地示出和描述了本公开的示例性实施例。应可理解的是，本公开不限于这里描述的详细结构、设置方式或实现方法；相反，本公开意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。
Claims (12)
1.一种风险警告生成方法，其特征在于，包括：
获取用户的用户信息，所述用户信息包括基础信息和行为信息；
基于所述用户信息和特征策略生成多维度特征信息；
将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；
在所述至少一个风险评分满足预设策略时，生成风险警告信息。
2.如权利要求1所述的方法，其特征在于，还包括：
获取多个历史用户的多维度特征信息；
基于所述多维度特征信息为所述多个历史用户分别分配样本标签；
基于正则化策略为所述样本标签确定标签参数；
基于所述多个历史用户和其对应的样本标签、标签参数对机器学习模型进行训练以生成所述风险模型。
3.如权利要求1所述的方法，其特征在于，所述风险模型包括多个子风险模型，
将所述多维度特征信息输入风险模型中，生成至少一个风险评分，包括：
根据用户信息由风险模型的多个子风险模型中确定至少一个子风险模型；
将所述多维度特征信息输入至少一个子风险模型，生成所述至少一个风险评分。
4.如权利要求1所述的方法，其特征在于，在所述至少一个风险评分满足预设策略时，生成风险警告信息，包括：
将所述至少一个风险评分之间随机组合生成至少一个联合评分；
将所述至少一个联合评分满足预设策略时，生成所述风险警告信息。
5.如权利要求2所述的方法，其特征在于，获取多个历史用户的多维度特征信息，包括：
获取满足预设条件的多个历史用户信息；
将所述多个历史用户信息进行数据清洗和数据融合以生成多个历史特征信息；
由所述多个历史特征信息中确定多个历史多维度特征信息；
基于所述多个历史多维度特征信息和所述历史用户信息之间的关系生成特征策略。
6.如权利要求2所述的方法，其特征在于，基于所述用户信息为所述多个历史用户分别分配样本标签，包括：
将所述历史用户的用户信息和多个判别策略进行对比；
基于所述用户信息满足的判别策略为所述历史用户分配样本标签，其中所述样本标签以离散正整数表示。
7.如权利要求2所述的方法，其特征在于，基于正则化策略为所述样本标签确定标签参数，包括：
基于正则化策略生成确定偏差系数；
基于偏差系数生成所述样本标签的标签参数。
8.如权利要求2所述的方法，其特征在于，基于所述多个历史用户和其对应的样本标签、标签参数对机器学习模型进行训练以生成所述风险模型，包括：
将带有样本标签、标签参数的多个历史用户输入机器学习模型进行训练；
在训练过程中基于标签参数生成交叉熵损失函数；
在所述交叉熵损失函数获取最优解时，基于当前的机器学习模型的模型参数确定所述风险模型。
9.如权利要求8所述的方法，其特征在于，在所述交叉熵损失函数获取最优解时，包括：
基于梯度下降方式求解所述交叉熵损失函数；
将所述交叉熵损失函数的稳定解作为所述最优解。
10.一种风险警告生成装置，其特征在于，包括：
信息模块，用于获取用户的用户信息，所述用户信息包括基础信息和行为信息；
特征模块，用于基于所述用户信息和特征策略生成多维度特征信息；
评分模块，用于将所述多维度特征信息输入风险模型中，生成至少一个风险评分，所述风险模型通过历史用户的用户信息和机器学习模型生成，其中所述历史用户根据其对应的用户信息以正则化策略的方式分配样本标签；
警告模块，用于在所述至少一个风险评分满足预设策略时，生成风险警告信息。
11.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-9中任一所述的方法。
12.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-9中任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110836040.XA CN113610366A (zh) | 2021-07-23 | 2021-07-23 | 风险警告生成方法、装置及电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110836040.XA CN113610366A (zh) | 2021-07-23 | 2021-07-23 | 风险警告生成方法、装置及电子设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113610366A true CN113610366A (zh) | 2021-11-05 |
Family
ID=78338188
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110836040.XA Pending CN113610366A (zh) | 2021-07-23 | 2021-07-23 | 风险警告生成方法、装置及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113610366A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115460059A (zh) * | 2022-07-28 | 2022-12-09 | 浪潮通信信息***有限公司 | 风险预警方法及装置 |
| CN117521042A (zh) * | 2024-01-05 | 2024-02-06 | 创旗技术有限公司 | 基于集成学习的高危授权用户识别方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180033009A1 (en) * | 2016-07-27 | 2018-02-01 | Intuit Inc. | Method and system for facilitating the identification and prevention of potentially fraudulent activity in a financial system |
| CN109034658A (zh) * | 2018-08-22 | 2018-12-18 | 重庆邮电大学 | 一种基于大数据金融的违约用户风险预测方法 |
| CN111080440A (zh) * | 2019-12-18 | 2020-04-28 | 上海良鑫网络科技有限公司 | 大数据风控管理*** |
| CN112037009A (zh) * | 2020-08-06 | 2020-12-04 | 百维金科(上海)信息科技有限公司 | 一种基于随机森林算法的消费信贷场景的风险评估方法 |
-
2021
- 2021-07-23 CN CN202110836040.XA patent/CN113610366A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180033009A1 (en) * | 2016-07-27 | 2018-02-01 | Intuit Inc. | Method and system for facilitating the identification and prevention of potentially fraudulent activity in a financial system |
| CN109034658A (zh) * | 2018-08-22 | 2018-12-18 | 重庆邮电大学 | 一种基于大数据金融的违约用户风险预测方法 |
| CN111080440A (zh) * | 2019-12-18 | 2020-04-28 | 上海良鑫网络科技有限公司 | 大数据风控管理*** |
| CN112037009A (zh) * | 2020-08-06 | 2020-12-04 | 百维金科(上海)信息科技有限公司 | 一种基于随机森林算法的消费信贷场景的风险评估方法 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115460059A (zh) * | 2022-07-28 | 2022-12-09 | 浪潮通信信息***有限公司 | 风险预警方法及装置 |
| CN115460059B (zh) * | 2022-07-28 | 2024-03-08 | 浪潮通信信息***有限公司 | 风险预警方法及装置 |
| CN117521042A (zh) * | 2024-01-05 | 2024-02-06 | 创旗技术有限公司 | 基于集成学习的高危授权用户识别方法 |
| CN117521042B (zh) * | 2024-01-05 | 2024-05-14 | 创旗技术有限公司 | 基于集成学习的高危授权用户识别方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112348660B (zh) | 生成风险警示信息的方法、装置及电子设备 | |
| CN111210335B (zh) | 用户风险识别方法、装置及电子设备 | |
| CN112529702B (zh) | 用户授信策略分配方法、装置及电子设备 | |
| CN110705719A (zh) | 执行自动机器学习的方法和装置 | |
| CN111145009A (zh) | 用户贷后风险评估方法、装置及电子设备 | |
| CN111583018A (zh) | 一种基于用户金融表现分析的授信策略管理方法、装置和电子设备 | |
| CN113610366A (zh) | 风险警告生成方法、装置及电子设备 | |
| CN111612635A (zh) | 用户金融风险分析方法、装置及电子设备 | |
| CN111178687A (zh) | 金融风险分类方法、装置及电子设备 | |
| CN111198967A (zh) | 基于关系图谱的用户分组方法、装置及电子设备 | |
| CN112348659A (zh) | 用户风险识别策略的分配方法、装置及电子设备 | |
| CN112017062B (zh) | 基于客群细分的资源额度分配方法、装置及电子设备 | |
| CN112015562A (zh) | 基于迁移学习的资源分配方法、装置及电子设备 | |
| CN111191677B (zh) | 用户特征数据生成方法、装置及电子设备 | |
| CN111582314A (zh) | 目标用户确定方法、装置及电子设备 | |
| CN111190967B (zh) | 用户多维度数据处理方法、装置及电子设备 | |
| CN113610625A (zh) | 逾期风险警示方法、装置及电子设备 | |
| CN113570207B (zh) | 用户策略分配方法、装置及电子设备 | |
| CN113568739B (zh) | 用户资源额度分配方法、装置及电子设备 | |
| CN114742645B (zh) | 基于多阶段时序多任务的用户安全等级识别方法及装置 | |
| CN112348661B (zh) | 基于用户行为轨迹的服务策略分配方法、装置及电子设备 | |
| CN113610536A (zh) | 交易拒绝用户的用户策略分配方法、装置及电子设备 | |
| CN113902545A (zh) | 资源额度分配方法、装置及电子设备 | |
| CN113902543A (zh) | 资源配额调整方法、装置及电子设备 | |
| CN114357403A (zh) | 基于设备可信度的用户登陆请求处理方法、装置及设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB02 | Change of applicant information |
Country or region after: Zhong Guo Address after: Room 1109, No. 4, Lane 800, Tongpu Road, Putuo District, Shanghai, 200062 Applicant after: Shanghai Qiyue Information Technology Co.,Ltd. Address before: Room a2-8914, 58 Fumin Branch Road, Hengsha Township, Chongming District, Shanghai, 201500 Applicant before: Shanghai Qiyue Information Technology Co.,Ltd. Country or region before: Zhong Guo |
|
| CB02 | Change of applicant information |