CN113780614A - 一种风险识别方法和装置 - Google Patents
一种风险识别方法和装置 Download PDFInfo
- Publication number
- CN113780614A CN113780614A CN202110004497.4A CN202110004497A CN113780614A CN 113780614 A CN113780614 A CN 113780614A CN 202110004497 A CN202110004497 A CN 202110004497A CN 113780614 A CN113780614 A CN 113780614A
- Authority
- CN
- China
- Prior art keywords
- risk
- data
- determining
- points
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 35
- 238000004458 analytical method Methods 0.000 claims description 42
- 238000012502 risk assessment Methods 0.000 claims description 29
- 238000007405 data analysis Methods 0.000 claims description 20
- 238000012549 training Methods 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 10
- 230000004044 response Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000015654 memory Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 239000007858 starting material Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000033772 system development Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0635—Risk analysis of enterprise or organisation activities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/067—Enterprise or organisation modelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- General Physics & Mathematics (AREA)
- Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- General Business, Economics & Management (AREA)
- Marketing (AREA)
- Development Economics (AREA)
- Data Mining & Analysis (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Game Theory and Decision Science (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- Health & Medical Sciences (AREA)
- Educational Administration (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种风险识别方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:获取多个***的历史数据;其中,所述历史数据包括:若干数据项;确定所述数据项是否属于风险点;根据各个所述***的风险点,生成风险画像;其中,所述风险画像用于表征不同***的风险点之间的关联关系;根据所述风险画像,确定当前***是否存在风险。该实施方式能够提高***风险识别的准确度,保证***平稳运行。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种风险识别方法和装置。
背景技术
随着电商平台业务量的增多,其***的数量和复杂度越来越高。在高并发场景下,***很容易出现问题,进而对业务造成影响。在实际应用场景中,需要识别***在未来时刻是否存在风险,以便于及时发现和解决风险问题,保证***平稳运行。
发明内容
有鉴于此,本发明实施例提供一种风险识别方法和装置,能够提高***风险识别的准确度,保证***平稳运行。
第一方面,本发明实施例提供了一种风险识别方法,包括:
获取多个***的历史数据;其中,所述历史数据包括:若干数据项;
确定所述数据项是否属于风险点;
根据各个所述***的风险点,生成风险画像;其中,所述风险画像用于表征不同***的风险点之间的关联关系;
根据所述风险画像,确定当前***是否存在风险。
可选地,
所述历史数据来自若干个数据源;
所述获取多个***的历史数据,包括:
确定所述数据源对应的数据采集插件;
通过所述数据采集插件,获取与所述数据源对应的历史数据。
可选地,
所述通过所述数据采集插件,获取与所述数据源对应的历史数据,包括:
通过所述数据采集插件,采集与所述数据源对应的原始数据;
确定所述数据源对应的数据解析规则;
根据所述数据解析规则解析所述原始数据,得到与所述数据源对应的历史数据。
可选地,
所述确定所述数据项是否属于风险点,包括:
根据所述数据项所属的***,确定所述数据项对应的***分析规则;
根据所述***分析规则,确定所述数据项是否属于风险点。
可选地,
所述根据所述***分析规则,确定所述数据项是否属于风险点,包括:
根据所述***分析规则,确定所述数据项对应的风险点区间;
确定所述数据项的值是否位于所述风险点区间,如果是,则确定所述数据项属于所述风险点。
可选地,
所述根据各个所述***的风险点,生成风险画像,包括:
确定各个所述风险点所属的风险区;
确定用于连接所述风险点与其所属的风险区的边;
根据所述风险点、所述风险区以及连接所述风险点与其所属的风险区的边,生成所述风险画像。
可选地,
所述根据所述风险画像,确定当前***是否存在风险,包括:
根据所述风险画像,训练风险分析模型;
根据所述风险分析模型,确定所述当前***是否存在风险。
可选地,
进一步包括:
确定各个所述风险点所属的风险区;
所述根据所述风险画像,训练风险分析模型,包括:
根据所述风险点、所述风险区和所述风险画像,训练风险分析模型。
第二方面,本发明实施例提供了一种风险识别装置,包括:
采集模块,配置为获取多个***的历史数据;其中,所述历史数据包括:若干数据项;
确定模块,配置为确定所述数据项是否属于风险点;
生成模块,配置为根据各个所述***的风险点,生成风险画像;其中,所述风险画像用于表征不同***的风险点之间的关联关系;
识别模块,配置根据所述风险画像,确定当前***是否存在风险。
第三方面,本发明实施例提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上述任一实施例所述的方法。
第四方面,本发明实施例提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述任一实施例所述的方法。
上述发明中的一个实施例具有如下优点或有益效果:本发明实施例根据各个***的风险点,构建风险画像,并利用风险画像识别当前***是否存在风险。由于风险画像包含不同***的风险点之间的关联关系,因此,本发明实施例可以基于其他***的风险点确定当前***是否存在风险,进而提高风险识别的准确度和可靠性。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是本发明的一个实施例提供的一种风险识别方法的流程图;
图2是本发明的一个实施例提供的一种风险画像的示意图;
图3是本发明的另一个实施例提供的一种风险识别方法的流程图;
图4是本发明的一个实施例提供的一种***与数据项关系的示意图;
图5是本发明的一个实施例提供的一种风险识别装置的结构示意图。
图6是本发明的一个实施例提供的一种风险识别装置的架构图;
图7是本发明的一个实施例提供的一种风险识别装置的数据流向示意图;
图8是本发明实施例可以应用于其中的示例性***架构图;
图9是适于用来实现本发明实施例的终端设备或服务器的计算机***的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
分布式***在目前的电商平台较为常见,不同的***之间通常存在调用关系,因此,电商平台的***复杂度较高。在促销等并发量较高的场景下,部分***容易出现问题,影响业务的进行。为了及时地解决风险问题,提高***稳定性,需要对***进行风险识别。
鉴于此,如图1所示,本发明实施例提供了一种风险识别方法,包括:
步骤101:获取多个***的历史数据;其中,历史数据包括:若干数据项。
在本发明实施例中,历史数据为能够反映***稳定性的数据,如日志数据、报警数据等。不同***之间可以存在关联关系,如,调用关系、依赖关系等。当***之间存在关联关系时,***的风险识别结果可能也存在关联性。
历史数据指的是***在预测时刻之前产生的数据,例如,如果要预测***在1点是否存在风险,则历史数据可以为1点之前***的运行数据。
历史数据可以来源于一个或多个数据源,可以包括一个或多个数据项。不同数据项用于从不同维度表征***稳定性。数据项可以包括:响应时间、报警数据、elasticsearch数据量(以下简称es数据量)、Java虚拟机的垃圾回收次数(以下简称jvm GC次数)、Mysql数据库的慢查询日志(以下简称Mysql-slow log)等。
步骤102:确定数据项是否属于风险点。
风险点指的是存在风险的数据项。
步骤103:根据各个***的风险点,生成风险画像;其中,风险画像用于表征不同***的风险点之间的关联关系。
在两个不同的***调用同一个接口,而接口响应时间超时的情况下,两个***都存在响应时间这一风险点,由于两个风险点是由于调用同一个接口引起,因此,两个***的风险点相关联。在实际应用场景中,如果其中一个***调用失败,则另一个***调用失败的可能性较高。鉴于此,本发明实施例依据风险点之间的关联关系构建风险画像
步骤104:根据风险画像,确定当前***是否存在风险。
当前***可以为多个***中的部分或全部。在实际应用场景中,可以根据风险画像预测当前***在未来时刻是否存在风险。
本发明实施例根据各个***的风险点,构建风险画像,并利用风险画像识别当前***是否存在风险。由于风险画像包含不同***的风险点之间的关联关系,因此,本发明实施例可以基于其他***的风险点确定当前***是否存在风险,进而提高风险识别的准确度和可靠性。
在本发明的一个实施例中,历史数据来自若干个数据源;
获取多个***的历史数据,包括:
确定数据源对应的数据采集插件;
通过数据采集插件,获取与数据源对应的历史数据。
由于***的区别,不同数据源存在的形式不同,有的是文件,有的是日志、有的是接口信息等。本发明实施例针对不同的数据源提供相应的数据采集插件,对相应的数据源进行针对性采数据采集。采集的历史数据可以通过消息中间件进行传输。不同的数据采集插件可以并发进行数据采集。
数据源与数据采集插件的对应关系可以预先配置。通过不同的数据采集插件分别从不同的数据源采集数据,可以提高数据采集速度和质量。
在本发明的一个实施例中,通过数据采集插件,获取与数据源对应的历史数据,包括:
通过数据采集插件,采集与数据源对应的原始数据;
确定数据源对应的数据解析规则;
根据数据解析规则解析原始数据,得到与数据源对应的历史数据。
由于采集的原始数据可能存在格式差异,因此,本发明实施例通过预先配置的数据解析规则对原始数据进行解析。通过本发明实施例可以得到格式规范的历史数据,为后续分析过程提供便利。
在本发明的一个实施例中,确定数据项是否属于风险点,包括:
根据数据项所属的***,确定数据项对应的***分析规则;
根据***分析规则,确定数据项是否属于风险点。
考虑到不同的***重要程度存在差异,本发明实施例预先配置与***对应的***分析规则。例如,***A比***B的重要程度更高,对于响应时间,***A的***分析规则中,响应时间大于1s则确定响应时间为风险点,***B的***分析规则中,响应时间大于3s则确定响应时间为风险点。由此可知,***A比***B对响应时间的要求更高。
在实际应用场景中,不同的***也可以对应相同的***分析规则。
在本发明的一个实施例中,根据***分析规则,确定数据项是否属于风险点,包括:
根据***分析规则,确定数据项对应的风险点区间;
确定数据项的值是否位于风险点区间,如果是,则确定数据项属于风险点。
***可以对应多个数据项,不同的数据项可以对应不同的风险点区间,也可以对应相同的风险点区间。以某一***的响应时间为例,其对应的风险点区间为(2,+∞),也就是说,如果该***的响应时间大于2s,则确定响应超时,该响应时间为风险点。如图4所示,响应时间和Mysql-slow log为风险点。
在实际应用场景中,风险点区间还可以用分数表示。具体地,根据数据项的值确定数据项的分数,如果数据项的分数在风险点区间内,则确定该数据项为风险点。
在本发明的一个实施例中,***分析规则还可以包括与***对应的***风险区间。具体地,可以根据***的各个数据项及其权重,计算***的分数,根据***的分数确定该***是否存在风险。如果***的分数在***风险区间内,则确定该***存在风险。***的风险识别结果可以与风险点、风险区和风险画像等其他数据结合,训练风险分析模型。
可以根据数据项的重要程度,为不同的数据项配置相应的权重,进而计算***的分数。由于不同***的重要性存在区别,因此,不同***对应的***风险区间也可以不同。如,***A的分数超过10时,***A存在风险,***B的分数超过20时,***B存在风险。
在本发明的一个实施例中,根据各个***的风险点,生成风险画像,包括:
确定各个风险点所属的风险区;
确定用于连接风险点与其所属的风险区的边;
根据风险点、风险区以及连接风险点与其所属的风险区的边,生成风险画像。
本发明实施例通过建立风险区,将不同***之间关联起来,确定不同***之间的风险相关性,能够提高风险识别的准确度。
具体地,可以根据风险点的来源,确定其所属的风险区。如图2所示,响应时间属于应用区,报警数据属于应用区,es数据量属于存储区。将风险点与其所属的风险区通过边相连,得到风险画像如图2所示。在实际应用场景中,还可以依据其他的规则确定风险点所属的风险区,例如,***的类别等。在风险画像中,也可以仅存在一个风险区,还可以存在不同的风险区。
在本发明的一个实施例中,根据风险画像,确定当前***是否存在风险,包括:
根据风险画像,训练风险分析模型;
根据风险分析模型,确定当前***是否存在风险。
为了预测***在未来时刻是否存在风险,本发明实施例采用机器学习的方法,通过风险画像的数据训练风险分析模型。在实际应用场景中,还可以基于风险画像进行线性拟合,以确定***在未来时刻是否存在风险。训练风险分析模型的风险画像数据可以包括:风险点所属的***、***的关联关系数据等。
在本发明的一个实施例中,该方法还包括:
确定各个风险点所属的风险区;
根据风险画像,训练风险分析模型,包括:
根据风险点、风险区和风险画像,训练风险分析模型。
在训练风险分析模型的过程中,除了风险画像数据,还可以采用风险点数据和风险区数据,例如,根据风险区和风险画像,训练风险分析模型。
风险点数据可以包括:风险点发生风险的时间和次数等。风险区数据可以包括:风险区包括的各个风险点。
本发明实施例得到的风险分析模型,可以学习同一个***不同时刻风险点的变化情况,可以学习不同***在同一时刻风险点的相关性。因此,本发明实施例能够提高风险预测结果的准确度。
如图3所示,本发明实施例提供了一种风险识别方法,包括:
步骤301:确定数据源对应的数据采集插件。
根据预先配置的数据源与数据采集插件的对应关系,确定各个数据源对应的数据采集插件,如,文件数据对应数据采集插件1,接口数据对应数据采集插件2,日志数据对应数据采集插件3。
步骤302:通过数据采集插件,采集与数据源对应的原始数据。
基于对应的数据采集插件,分别采集2020年1月1日之前***1、***2和***3的文件数据、日志数据和接口数据。
步骤303:确定数据源对应的数据解析规则。
根据预先配置的数据源对应的数据解析规则,确定各个数据源对应的数据解析规则,如,文件数据对应数据解析规则1,接口数据对应数据解析规则2,日志数据对应数据解析规则3。
步骤304:根据数据解析规则解析原始数据,得到与数据源对应的历史数据,其中,历史数据包括:若干数据项。
基于对应的数据解析规则,解析采集的原始数据。如图4所示,该***包括多个数据项,分别是响应时间、报警数据、es数据量、jvmGC次数、Mysql-slow log等。
步骤305:根据数据项所属的***,确定数据项对应的***分析规则。
根据预先配置的***与***分析规则的对应关系,确定各个数据项对应的***分析规则。如,***A对应***分析规则1,***B对应***分析规则2,***C对应***分析规则3。
步骤306:根据***分析规则,确定数据项对应的风险点区间。
***分析规则中可以包括不同数据项对应的风险点区间,如,响应时间区间、报警数据区间。
步骤307:当数据项的值位于风险点区间时,确定数据项属于风险点。
步骤308:确定各个风险点所属的风险区。
本发明实施例根据风险点的来源确定其所属的风险区。如图2所示,响应时间属于应用区,报警数据属于应用区,es数据量属于存储区。
步骤309:确定用于连接风险点与其所属的风险区的边。
将***A的响应时间与其所属的应用区相连,将***B的报警数据和响应时间分别与其所属的应用区相连,将***C的es数据量与其所属的存储区相连。
步骤310:根据风险点、风险区以及连接风险点与其所属的风险区的边,生成风险画像。
根据风险点与其所属的风险区的关系,连接风险点与风险区,得到风险画像,如图2所示。
步骤311:根据风险点、风险区和风险画像,训练风险分析模型。
本发明实施例可以采用RNN(Recurrent Neural Network,循环神经网络)、LS-TM(Long Short-Term Memory,长短期记忆网络)等作为风险分析模型。
步骤312:根据风险分析模型,确定当前***是否存在风险。
根据风险分析模型,预测***1(或***2,或***3)在2020年1月1日以后是否存在风险。
如图5所示,本发明实施例提供了一种风险识别装置,包括:
采集模块501,配置为获取多个***的历史数据;其中,历史数据包括:若干数据项;
确定模块502,配置为确定数据项是否属于风险点;
生成模块503,配置为根据各个***的风险点,生成风险画像;
识别模块504,配置为根据风险画像,确定当前***是否存在风险。
在本发明的一个实施例中,历史数据来自若干个数据源;采集模块501,配置为确定数据源对应的数据采集插件;通过数据采集插件,获取与数据源对应的历史数据。
在本发明的一个实施例中,采集模块501,配置为通过数据采集插件,采集与数据源对应的原始数据;确定数据源对应的数据解析规则;根据数据解析规则解析原始数据,得到与数据源对应的历史数据。
在本发明的一个实施例中,确定模块502,配置为根据数据项所属的***,确定数据项对应的***分析规则;根据***分析规则,确定数据项是否属于风险点。
在本发明的一个实施例中,确定模块502,配置为根据***分析规则,确定数据项对应的风险点区间;确定数据项的值是否位于风险点区间,如果是,则确定数据项属于风险点。
在本发明的一个实施例中,生成模块503,配置为确定各个风险点所属的风险区;确定用于连接风险点与其所属的风险区的边;根据风险点、风险区以及连接风险点与其所属的风险区的边,生成风险画像。
在本发明的一个实施例中,识别模块504,配置为根据风险画像,训练风险分析模型;根据风险分析模型,确定当前***是否存在风险。
在本发明的一个实施例中,识别模块504,配置为确定各个风险点所属的风险区;根据风险点、风险区和风险画像,训练风险分析模型。
如图6所示,本发明实施例提供了一种风险识别装置的架构图。该风险识别装置包括管理端、采集端和分析端,其中,采集端即上述采集模块,分析端包括上述确定模块、生成模块和识别模块。
管理端用于管理风险识别装置分析的***、数据源信息、数据源与数据采集插件的对应关系、数据源与数据解析规则的对应关系以及***与***分析规则的对应关系。
在实际应用场景中,将能反映***稳定性的数据作为数据源,如日志数据、监控报警数据等。
考虑到数据源来源于不同***,基于不同协议,具有不同的格式,因此,本发明采用不同的数据采集插件,如图6中所示的collect-plugin,数据源-open-api。
采集端得到历史数据之后,通过消息中间件传输给分析端,以使分析端进行风险分析。具体地,可以采用kafka和jmp异步传输数据。
在本发明实施例中,还可以根据***的SLA(Service-LevelAgree ment,服务等级协议)确定数据项或***对应的***分析规则。
在分析端,可以将不同采集周期得到的历史数据进行混合,根据混合后的数据更新风险画像,以使风险画像适应***发展的需要,进一步提高风险识别准确度。其中,更新过程可以通过调度器触发。
风险识别装置得到的数据可以被存储至数据库中,如,mysql数据库、redis数据库和hbase数据库,具体地,mysql数据库可以用于存储全量数据,redis数据库可以用于存储风险点、风险区和风险画像等分析数据,hbase数据库可以用于存储数据解析规则、***分析规则等规则数据。
mysql存储全量数据,redis存储热点数据,hbase存储规则详细数据
另外,还可以按照业务场景对数据源进行划分,以生成不同业务场景对应的风险画像以及风险分析模型。
风险识别装置的数据流向如图7所示,以下将对数据流向进行简单说明。
风险识别装置通过maven/agent方式依赖于数据源,如果数据源不支持maven/agent方式,则可以采用抓取或者开放api形式采集数据。
风险识别装置在启动时,通过spring启动器后加载包含数据采集插件的插件包。
在管理端入驻***,配置***对应的数据采集插件、数据解析规则和***分析规则。
数据采集插件,实时采集从各个数据源采集数据(基于抓取、接口、文件、消息等方式),并通过消息中间件将获取的数据发送到后台,采集的数据被存储到数据库中。
调度器可以对实时任务和离线任务进行调度,其中,实时任务指的是主动触发的风险识别分析,离线任务指的是定期进行的风险识别分析。
通过配置的***分析规则可以确定风险点、风险区和风险画像。基于风险点、风险区和风险画像进行机器学习,得到与业务场景对应的风险分析模型。这些风险分析模型,用于识别入驻的***在不同业务场景下是否存在风险。
本发明实施例提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上述任一实施例所述的方法。
图8示出了可以应用本发明实施例的风险识别方法或风险识别装置的示例性***架构800。
如图8所示,***架构800可以包括终端设备801、802、803,网络804和服务器805。网络804用以在终端设备801、802、803和服务器805之间提供通信链路的介质。网络804可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备801、802、803通过网络804与服务器805交互,以接收或发送消息等。终端设备801、802、803上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备801、802、803可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器805可以是提供各种服务的服务器,例如对用户利用终端设备801、802、803所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的风险识别方法一般由服务器805执行,相应地,风险识别装置一般设置于服务器805中。
应该理解,图8中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图9,其示出了适于用来实现本发明实施例的终端设备的计算机***900的结构示意图。图9示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图9所示,计算机***900包括中央处理单元(CPU)901,其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中,还存储有***900操作所需的各种程序和数据。CPU 901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
以下部件连接至I/O接口905:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被中央处理单元(CPU)901执行时,执行本发明的***中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括发送模块、采集模块、确定模块和第一处理模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,发送模块还可以被描述为“向所连接的服务端发送图片获取请求的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:
获取多个***的历史数据;其中,所述历史数据包括:若干数据项;
确定所述数据项是否属于风险点;
根据各个所述***的风险点,生成风险画像;其中,所述风险画像用于表征不同***的风险点之间的关联关系;
根据所述风险画像,确定当前***是否存在风险。
本发明实施例根据各个***的风险点,构建风险画像,并利用风险画像识别当前***是否存在风险。由于风险画像包含不同***的风险点之间的关联关系,因此,本发明实施例可以基于其他***的风险点确定当前***是否存在风险,进而提高风险识别的准确度和可靠性。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (11)
1.一种风险识别方法,其特征在于,包括:
获取多个***的历史数据;其中,所述历史数据包括:若干数据项;
确定所述数据项是否属于风险点;
根据各个所述***的风险点,生成风险画像;其中,所述风险画像用于表征不同***的风险点之间的关联关系;
根据所述风险画像,确定当前***是否存在风险。
2.如权利要求1所述的方法,其特征在于,所述历史数据来自若干个数据源;
所述获取多个***的历史数据,包括:
确定所述数据源对应的数据采集插件;
通过所述数据采集插件,获取与所述数据源对应的历史数据。
3.如权利要求2所述的方法,其特征在于,
所述通过所述数据采集插件,获取与所述数据源对应的历史数据,包括:
通过所述数据采集插件,采集与所述数据源对应的原始数据;
确定所述数据源对应的数据解析规则;
根据所述数据解析规则解析所述原始数据,得到与所述数据源对应的历史数据。
4.如权利要求1所述的方法,其特征在于,
所述确定所述数据项是否属于风险点,包括:
根据所述数据项所属的***,确定所述数据项对应的***分析规则;
根据所述***分析规则,确定所述数据项是否属于风险点。
5.如权利要求4所述的方法,其特征在于,
所述根据所述***分析规则,确定所述数据项是否属于风险点,包括:
根据所述***分析规则,确定所述数据项对应的风险点区间;
确定所述数据项的值是否位于所述风险点区间,如果是,则确定所述数据项属于所述风险点。
6.如权利要求1所述的方法,其特征在于,
所述根据各个所述***的风险点,生成风险画像,包括:
确定各个所述风险点所属的风险区;
确定用于连接所述风险点与其所属的风险区的边;
根据所述风险点、所述风险区以及连接所述风险点与其所属的风险区的边,生成所述风险画像。
7.如权利要求1所述的方法,其特征在于,
所述根据所述风险画像,确定当前***是否存在风险,包括:
根据所述风险画像,训练风险分析模型;
根据所述风险分析模型,确定所述当前***是否存在风险。
8.如权利要求1-7任一所述的方法,其特征在于,进一步包括:
确定各个所述风险点所属的风险区;
所述根据所述风险画像,训练风险分析模型,包括:
根据所述风险点、所述风险区和所述风险画像,训练风险分析模型。
9.一种风险识别装置,其特征在于,包括:
采集模块,配置为获取多个***的历史数据;其中,所述历史数据包括:若干数据项;
确定模块,配置为确定所述数据项是否属于风险点;
生成模块,配置为根据各个所述***的风险点,生成风险画像;
识别模块,配置为根据所述风险画像,确定当前***是否存在风险。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
11.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-8中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110004497.4A CN113780614A (zh) | 2021-01-04 | 2021-01-04 | 一种风险识别方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110004497.4A CN113780614A (zh) | 2021-01-04 | 2021-01-04 | 一种风险识别方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113780614A true CN113780614A (zh) | 2021-12-10 |
Family
ID=78835386
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110004497.4A Pending CN113780614A (zh) | 2021-01-04 | 2021-01-04 | 一种风险识别方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113780614A (zh) |
Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN202058208U (zh) * | 2011-04-02 | 2011-11-30 | 上海泓安信息科技有限公司 | 户外媒体受众调查*** |
CN103258194A (zh) * | 2013-05-30 | 2013-08-21 | 苏州福丰科技有限公司 | 一种满意度调查方法及装置 |
CN103813214A (zh) * | 2014-01-28 | 2014-05-21 | 航天数字传媒有限公司 | 卫星用户终端信息收集***及收集方法 |
CN105592326A (zh) * | 2015-12-18 | 2016-05-18 | 小米科技有限责任公司 | 节目推荐方法及装置 |
CN106485227A (zh) * | 2016-10-14 | 2017-03-08 | 深圳市唯特视科技有限公司 | 一种基于视频面部表情的客户满意度分析方法 |
US20170155676A1 (en) * | 2015-04-26 | 2017-06-01 | Y.G. Noobaa Ltd. | Systems and methods for security management of multi-client based distributed storage |
CN107437052A (zh) * | 2016-05-27 | 2017-12-05 | 深圳市珍爱网信息技术有限公司 | 基于微表情识别的相亲满意度计算方法和*** |
CN107679897A (zh) * | 2017-09-25 | 2018-02-09 | 北京京东尚科信息技术有限公司 | 一种安全风险控制方法和装置 |
CN107730372A (zh) * | 2017-11-29 | 2018-02-23 | 济南浪潮高新科技投资发展有限公司 | 一种基于人脸识别的银行大厅个性化产品推荐的方法和装置 |
CN108846724A (zh) * | 2018-06-06 | 2018-11-20 | 北京京东尚科信息技术有限公司 | 数据分析方法和*** |
CN110493043A (zh) * | 2019-08-16 | 2019-11-22 | 武汉思普崚技术有限公司 | 一种分布式态势感知调用方法和装置 |
CN111125042A (zh) * | 2019-11-13 | 2020-05-08 | 中国建设银行股份有限公司 | 一种确定风险操作事件的方法和装置 |
US20200211106A1 (en) * | 2017-12-27 | 2020-07-02 | Alibaba Group Holding Limited | Method, apparatus, and device for training risk management models |
CN111667151A (zh) * | 2020-05-18 | 2020-09-15 | 南方电网科学研究院有限责任公司 | 一种电力市场风险全景识别方法及*** |
CN111796956A (zh) * | 2020-06-22 | 2020-10-20 | 深圳壹账通智能科技有限公司 | 分布式***故障诊断方法、装置、设备及存储介质 |
CN111932046A (zh) * | 2019-05-13 | 2020-11-13 | 阿里巴巴集团控股有限公司 | 一种服务场景下处理风险的方法、计算机设备、存储介质 |
CN111949501A (zh) * | 2020-08-14 | 2020-11-17 | 中国工商银行股份有限公司 | It***运行风险监控方法及装置 |
-
2021
- 2021-01-04 CN CN202110004497.4A patent/CN113780614A/zh active Pending
Patent Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN202058208U (zh) * | 2011-04-02 | 2011-11-30 | 上海泓安信息科技有限公司 | 户外媒体受众调查*** |
CN103258194A (zh) * | 2013-05-30 | 2013-08-21 | 苏州福丰科技有限公司 | 一种满意度调查方法及装置 |
CN103813214A (zh) * | 2014-01-28 | 2014-05-21 | 航天数字传媒有限公司 | 卫星用户终端信息收集***及收集方法 |
US20170155676A1 (en) * | 2015-04-26 | 2017-06-01 | Y.G. Noobaa Ltd. | Systems and methods for security management of multi-client based distributed storage |
CN105592326A (zh) * | 2015-12-18 | 2016-05-18 | 小米科技有限责任公司 | 节目推荐方法及装置 |
CN107437052A (zh) * | 2016-05-27 | 2017-12-05 | 深圳市珍爱网信息技术有限公司 | 基于微表情识别的相亲满意度计算方法和*** |
CN106485227A (zh) * | 2016-10-14 | 2017-03-08 | 深圳市唯特视科技有限公司 | 一种基于视频面部表情的客户满意度分析方法 |
CN107679897A (zh) * | 2017-09-25 | 2018-02-09 | 北京京东尚科信息技术有限公司 | 一种安全风险控制方法和装置 |
CN107730372A (zh) * | 2017-11-29 | 2018-02-23 | 济南浪潮高新科技投资发展有限公司 | 一种基于人脸识别的银行大厅个性化产品推荐的方法和装置 |
US20200211106A1 (en) * | 2017-12-27 | 2020-07-02 | Alibaba Group Holding Limited | Method, apparatus, and device for training risk management models |
CN108846724A (zh) * | 2018-06-06 | 2018-11-20 | 北京京东尚科信息技术有限公司 | 数据分析方法和*** |
CN111932046A (zh) * | 2019-05-13 | 2020-11-13 | 阿里巴巴集团控股有限公司 | 一种服务场景下处理风险的方法、计算机设备、存储介质 |
CN110493043A (zh) * | 2019-08-16 | 2019-11-22 | 武汉思普崚技术有限公司 | 一种分布式态势感知调用方法和装置 |
CN111125042A (zh) * | 2019-11-13 | 2020-05-08 | 中国建设银行股份有限公司 | 一种确定风险操作事件的方法和装置 |
CN111667151A (zh) * | 2020-05-18 | 2020-09-15 | 南方电网科学研究院有限责任公司 | 一种电力市场风险全景识别方法及*** |
CN111796956A (zh) * | 2020-06-22 | 2020-10-20 | 深圳壹账通智能科技有限公司 | 分布式***故障诊断方法、装置、设备及存储介质 |
CN111949501A (zh) * | 2020-08-14 | 2020-11-17 | 中国工商银行股份有限公司 | It***运行风险监控方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109460513B (zh) | 用于生成点击率预测模型的方法和装置 | |
CN107622135B (zh) | 用于显示信息的方法和装置 | |
CN113987074A (zh) | 分布式服务全链路监控方法、装置、电子设备及存储介质 | |
CN112527649A (zh) | 一种测试用例的生成方法和装置 | |
CN110866040B (zh) | 用户画像生成方法、装置和*** | |
CN108810047B (zh) | 用于确定信息推送准确率的方法、装置及服务器 | |
JP2021103506A (ja) | 情報を生成するための方法及び装置 | |
CN111324786A (zh) | 咨询问题信息的处理方法和装置 | |
US11934287B2 (en) | Method, electronic device and computer program product for processing data | |
CN114090366A (zh) | 一种监控数据的方法、装置和*** | |
CN115357761A (zh) | 链路追踪方法、装置、电子设备及存储介质 | |
CN110737655B (zh) | 用于上报数据的方法和装置 | |
CN109992719B (zh) | 用于确定推送优先级信息的方法和装置 | |
CN109933508B (zh) | 用于发送信息的方法和装置 | |
CN114840379A (zh) | 日志生成方法、装置、服务器及存储介质 | |
CN113190558A (zh) | 一种数据加工方法和*** | |
CN111488386A (zh) | 数据查询方法和装置 | |
CN110110197B (zh) | 信息获取方法和装置 | |
US20230418470A1 (en) | Data processing method and apparatus, and electronic device | |
CN113780614A (zh) | 一种风险识别方法和装置 | |
CN114357280A (zh) | 一种信息推送方法、装置、电子设备及计算机可读介质 | |
CN113779018A (zh) | 一种数据处理方法和装置 | |
CN113486749A (zh) | 图像数据收集方法、装置、电子设备和计算机可读介质 | |
CN111131354B (zh) | 用于生成信息的方法和装置 | |
CN113449886A (zh) | 数据处理方法、处理装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |