CN112734352A - 一种基于数据维度的单据审核方法和装置 - Google Patents
一种基于数据维度的单据审核方法和装置 Download PDFInfo
- Publication number
- CN112734352A CN112734352A CN201911029683.2A CN201911029683A CN112734352A CN 112734352 A CN112734352 A CN 112734352A CN 201911029683 A CN201911029683 A CN 201911029683A CN 112734352 A CN112734352 A CN 112734352A
- Authority
- CN
- China
- Prior art keywords
- data
- document
- training
- dimension
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 238000013499 data model Methods 0.000 claims abstract description 82
- 238000012549 training Methods 0.000 claims abstract description 82
- 238000012360 testing method Methods 0.000 claims abstract description 59
- 238000012550 audit Methods 0.000 claims description 47
- 238000003860 storage Methods 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 10
- 230000008569 process Effects 0.000 abstract description 20
- 238000011156 evaluation Methods 0.000 abstract description 7
- 238000010276 construction Methods 0.000 abstract description 6
- 238000010586 diagram Methods 0.000 description 16
- 238000012545 processing Methods 0.000 description 14
- 241000288113 Gallirallus australis Species 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 9
- 230000009467 reduction Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 238000007781 pre-processing Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000007635 classification algorithm Methods 0.000 description 5
- 238000007418 data mining Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000013500 data storage Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012216 screening Methods 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 102100024607 DNA topoisomerase 1 Human genes 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 2
- 101000830681 Homo sapiens DNA topoisomerase 1 Proteins 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 238000002790 cross-validation Methods 0.000 description 2
- 238000013524 data verification Methods 0.000 description 2
- 238000003066 decision tree Methods 0.000 description 2
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000012553 document review Methods 0.000 description 2
- 238000013209 evaluation strategy Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000002441 reversible effect Effects 0.000 description 2
- 238000012552 review Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 101150041570 TOP1 gene Proteins 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013075 data extraction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000010998 test method Methods 0.000 description 1
- 238000012384 transportation and delivery Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/10—Office automation; Time management
- G06Q10/103—Workflow collaboration or project management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/01—Customer relationship services
- G06Q30/015—Providing customer assistance, e.g. assisting a customer within a business location or via helpdesk
- G06Q30/016—After-sales
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
Landscapes
- Business, Economics & Management (AREA)
- Strategic Management (AREA)
- Engineering & Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Tourism & Hospitality (AREA)
- Economics (AREA)
- Physics & Mathematics (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Development Economics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Accounting & Taxation (AREA)
- Primary Health Care (AREA)
- Data Mining & Analysis (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Finance (AREA)
Abstract
本发明公开了一种基于数据维度的单据审核方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:确定数据维度,提取单据中与所述数据维度相应的特征数据,结合对所述单据的审核结果,生成数据集;根据所述数据集对数据模型进行训练测试,得到训练后的数据模型;接收待审核单据,提取所述待审核单据中与所述数据维度相应的特征数据,输入所提取的特征数据至所述训练后的数据模型中,得到对所述待审核单据的审核结果。该实施方式以已有大量单据数据进行模型构建评估,可根据训练准确率动态配置分类结果期望值,解决人工审核过程中主观性问题和不确定性问题,同时可替代客服自动审核服务单的方法。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种基于数据维度的单据审核方法和装置。
背景技术
一般的审核审批流,例如***审批,直接审核所收集的客户信息是否符合审批条件,而与客户之间并没有交易产生。售后作为逆向流程的入口(售卖商品作为正向流程,送货到客户手中),是在商品出售以后,针对商品/客户问题所提供的各种服务活动,优质的售后服务是品牌经济的产物。
服务单审核是售后至关重要的环节,若商品在客户购买后降价,或出现物品损、物流损等问题,需填写申请然后由客服审核。考虑到不同客户的要求不同、不同品类商品的处理方式不同,服务单审核变成了一个很复杂的问题。本着客户满意度优先的原则,客服可能需要与客户沟通数次才能解决问题,成本较高。
另外,不同的审核结果也影响着客户满意度和成本,如何以较低成本赢得高满意度是本案主要所解决的问题。当前电商平台对待这种退换维修服务主要有两种方式:
1)没有服务单审核:用户直接与商家进行电话、IM等方式沟通,并进行线下处理;
2)人工审核+规则配置:所提交的服务单由售后专员进行审核,相比第一种方式,该方式中可以交替处理同一单,实现数据共享。
在实现本发明的过程中,发明人发现现有技术至少存在如下问题:
1)对于第一种方式,当售后量逐渐增多时,会造成商家处理难度增大,付出成本较高的问题,且用户不能实时关注/查看到处理动态;
2)对于第二种方式,所耗费的人力资源较多,且因客服流动性和新客服培训,导致其时效和质量难以保证;
3)对于第二种方式,规则只针对于具体业务进行人为设置,具有使用局限性:
①无法对规则以外的服务单进行审核建议,使用场景单一,单量覆盖率较小;
②业务之间会有交互,设置规则时需要解决规则之间的冲突,维护成本高;
③没有前置的较严格的数据验证支持,具有主观性和不确定性。
综上所述,目前服务单审核存在主观性、不确定性以及不可控性,审核时效成本高,存在问题多。
发明内容
有鉴于此,本发明实施例提供一种基于数据维度的单据审核方法和装置,至少能够解决现有技术中目前服务单审核存在主观性、不确定性以及不可控性,审核时效成本高,存在问题多的现象。
为实现上述目的,根据本发明实施例的一个方面,提供了一种基于数据维度的单据审核方法,包括:
确定数据维度,提取单据中与所述数据维度相应的特征数据,结合对所述单据的审核结果,生成数据集;
根据所述数据集对数据模型进行训练测试,得到训练后的数据模型;
接收待审核单据,提取所述待审核单据中与所述数据维度相应的特征数据,输入所提取的特征数据至所述训练后的数据模型中,得到对所述待审核单据的审核结果。
可选的,所述确定数据维度,提取单据中与所述数据维度相应的特征数据,包括:
若在所述单据中查询不存在所述特征数据,则根据所述单据的单据标识以及生成时间,获取对所述单据的数据记录,以从所述数据记录中提取所述特征数据。
可选的,在所述确定数据维度,提取单据中与所述数据维度相应的特征数据之后,还包括:
统计每个数据维度下特征数据的数据量,剔除数据量超出预定数据量阈值的数据维度、以及与所剔除的数据维度相应的特征数据。
可选的,所述根据所述数据集对数据模型进行训练测试,得到训练后的数据模型,包括:
将所述数据集分为训练集和测试集;
输入所述训练集中的训练数据和审核结果至所述数据模型中,根据每个审核结果下的训练准确率,得到训练总准确率,并生成待测试的数据模型;
输入所述测试集中的测试数据至所述待测试的数据模型中,若测试总准确率大于等于所述训练准确率、且每个审核结果下的测试准确率大于等于所述训练准确率,则确定所述待测试的数据模型为训练后的数据模型。
为实现上述目的,根据本发明实施例的另一方面,提供了一种基于数据维度的单据审核装置,包括:
数据维度确定模块,用于确定数据维度,提取单据中与所述数据维度相应的特征数据,结合对所述单据的审核结果,生成数据集;
数据模型训练模块,用于根据所述数据集对数据模型进行训练测试,得到训练后的数据模型;
单据审核模块,用于接收待审核单据,提取所述待审核单据中与所述数据维度相应的特征数据,输入所提取的特征数据至所述训练后的数据模型中,得到对所述待审核单据的审核结果。
可选的,所述数据维度确定模块,用于:
若在所述单据中查询不存在所述特征数据,则根据所述单据的单据标识以及生成时间,获取对所述单据的数据记录,以从所述数据记录中提取所述特征数据。
可选的,所述数据维度确定模块,还用于:
统计每个数据维度下特征数据的数据量,剔除数据量超出预定数据量阈值的数据维度、以及与所剔除的数据维度相应的特征数据。
可选的,所述数据模型训练模块,用于:
将所述数据集分为训练集和测试集;
输入所述训练集中的训练数据和审核结果至所述数据模型中,根据每个审核结果下的训练准确率,得到训练总准确率,并生成待测试的数据模型;
输入所述测试集中的测试数据至所述待测试的数据模型中,若测试总准确率大于等于所述训练准确率、且每个审核结果下的测试准确率大于等于所述训练准确率,则确定所述待测试的数据模型为训练后的数据模型。
为实现上述目的,根据本发明实施例的再一方面,提供了一种基于数据维度的单据审核电子设备。
本发明实施例的电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一所述的基于数据维度的单据审核方法。
为实现上述目的,根据本发明实施例的再一方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现上述任一所述的基于数据维度的单据审核方法。
根据本发明所述提供的方案,上述发明中的一个实施例具有如下优点或有益效果:以已有大量单据数据进行模型构建评估,可根据训练准确率动态配置分类结果期望值,解决人工审核过程中主观性问题和不确定性问题,同时可替代客服自动审核服务单的方法。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的一种基于数据维度的单据审核方法的主要流程示意图;
图2是本发明实施例的模型构建评估结果示意图;
图3是本发明实施例的模型训练过程示意图;
图4是根据本发明实施例的weka中决策树-J48示意图;
图5是根据本发明实施例的weka分类器评估策略使用示意图;
图6是根据本发明实施例的一种可选的基于数据维度的单据审核方法的流程示意图;
图7是本发明实施例的服务单自动审核***服务器架构示意图;
图8是本发明实施例的自动审核***模块示意图;
图9是根据本发明实施例的一种基于数据维度的单据审核装置的主要模块示意图;
图10是本发明实施例可以应用于其中的示例性***架构图;
图11是适于用来实现本发明实施例的移动设备或服务器的计算机***的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,本发明实施例可适用于有审核(审批)行为的场景,例如,单据审核(审批),这里的单据不限于是服务单。为便于解释整体操作过程,本发明以服务单为例进行说明。
对于本发明涉及的词语,做解释如下:
weka:基于JAVA环境下开源的机器学习(machine learning)以及数据挖掘(datamining)软件。
二分类问题:假如我们想识别一幅图片是不是猫。也就是说,训练一个分类器,输入一幅图片,用特征向量xx表示,输出是不是猫,用yy=0或1表示。
J48原理:基于从上到下的策略,递归的分治策略,选择某个属性放置在根节点,为每个可能的属性值产生一个分支,将实例分成多个子集,每个子集对应一个根节点的分支,然后在每个分支上递归地重复这个过程。当所有实例有相同的分类时,停止。
枚举类型:在实际应用中,有的变量只有几种可能取值。如人的性别只有两种可能取值,星期只有七种可能取值。在C语言中对这样取值比较特殊的变量可以定义为。所谓枚举是指将变量的值一一列举出来,变量只限于列举出来的值的范围内取值。
参见图1,示出的是本发明实施例提供的一种基于数据维度的单据审核方法的主要流程图,包括如下步骤:
S101:确定数据维度,提取单据中与所述数据维度相应的特征数据,结合对所述单据的审核结果,生成数据集;
S102:根据所述数据集对数据模型进行训练测试,得到训练后的数据模型;
S103:接收待审核单据,提取所述待审核单据中与所述数据维度相应的特征数据,输入所提取的特征数据至所述训练后的数据模型中,得到对所述待审核单据的审核结果。
上述实施方式中,对于步骤S101,特征选取根据业务调研初步选取多个维度,例如可以根据实际业务场景选取200个维度以内。
本发明对于数据模型的训练,同样参考的是以往数据,且以往数据模型都是根据历史数据来预测当前结果。
但是有些数据是实时变化的,例如一年前申请服务单的某一用户等级;或是之前业务***还没构建完整,因此,并没有记录保存这部分特征数据。例如,评分体系中的用户等级、用户的总售后率,对应于SKU(Stock Keeping Unit,库存量单位)商品的总售后率。
需要说明的是,这里的实时特征数据指的是可能会实时变化的数据,但并不代表是要用当前的数据替代所得单据中的数据。且因为这些单据都是历史单据,若对其中部分信息进行更改,可能其审核结果会发生变化,对数据模型训练或产生一定的影响。
考虑到这些因素,需要对单据中这部分信息进行采集,以保证数据的实时性和准确性。采集方式可以有:
1)根据单据的生成时间、单据标识,确定生成时的数据记录,并从中调取该实时特征数据;
2)可以使用JSF(Java Server Faces,Java构建框架)远程调用,或者通过一个接口从另一个部门进行调用;若本地已经存储,则可以直接本地获取。本发明主要采用第一种方式。
历史单据通常是已经处理结束的,因此具有其审核结果,且不同业务场景下的审核结果数量可能不一样。
根据数据维度数量SA以及审核结果数量SR(例如,审核成功、审核失败),确定实际所需要的样本数量=SA*SR*1000(也可以是其他数值)。
表1样本数据
维度1 | 维度2 | 维度3 | 维度4 | 维度5 | 审核结果 | |
单据1 | ||||||
单据2 |
进一步的,在输入数据集至数据模型之前,可以对数据进行预处理操作,具体地:
1)规范化(数值转换为枚举):商品品类,品牌,订单类型等;
2)数据缺失值处理:例如商品价格,用平均值替代缺失值;商品品类,用出现最多的值代替缺失值;
3)离散化:例如,将等级这种连续性特征转换为分类属性。等级是数字属性,把这些连续的分为一堆一堆的,比如200-10000是A,1w-4w是B这种,不归类的话模型会因为该特征迅速膨胀,难以使用。
对于上述数据预处理,可以使用weka、tensorflow、python语言、R语言等作为数据分析工具。以weka为例,数据预处理映射到weka为:枚举-String To Nominal、Numberic ToNominal,缺失值处理-Replace Missing Values,离散化-Discretize。
更进一步的,对于数据模型的训练是一个不断迭代的过程,因此所提供的数据集中的数据以及审核结果可能会被反复用到。为便于这些数据后续可以再次取出来应用,可以将这些数据都转移为持久状态进行保存,例如写到MySQL里。
另外,对于现有MySQL的处理瓶颈或存储容量限制,在业务低峰期可以将这些数据拉取至数据集市中(数据转移),以减少业务***压力。例如去除2012年的旧数据。
对于步骤S102,可以按照一定比例(例如60%~80%)将数据集分为训练集和测试集,并且输出值已知。训练集用于生成模型,测试集用于验证模型。
现有技术中对于模型测试是否可行,通常是依据一个预定期望值,若超出该期望值,则表示该模型可用。
本发明中,对于模型测试是否可行,比较的是训练模型时候的准确率。因为实际上利用训练集训练数据模型的时候也会有一个准确率(即模型准确率),如果使用测试集的时候准确率降低就表示过拟合(模型过于拟合训练集,在其它数据上不一定适用)。
在基于测试集对数据模型进行测试后,所得测试结果可以包括测试数据所属审核结果。审核结果可以是测试数据属于不同分类的概率值或者TOP1,具体根据实际情况进行设定。
需要说明的是,在实际应用中,对于业务场景中每种分类都有相应的概率值,如果预测的各个分类审核结果都低于相应的训练准确率,就需要对模型调整。另外,也可以提取所得结果中的最大概率值TOP1,若最大概率值也低于相应的训练准确率,则需要对模型调整。
这里的业务场景,对于电商场景,包括但不限于审核关闭、直赔、上门取件、上门换新、客户发货、客户送货,现在的业务客服审核结果可归纳为这六种。不同的分类结果代表业务方对于单据的后续处理方向。
例如参见图2所示,评估结果中整体准确率为70%左右,但分类0和10的准确率明显低于整体准确率,需要进行模型调整。
另外,对于每个分类的审核结果,也可以是与预定分类期望进行比较,例如,要求每个分类的准确率达到80%,可以在其他维度不变的情况下对其中某一维度进行调整,目的是通过维度调整完善算法或分类器。
但若结果不满足期望值,例如错误率过高,后续能会调整模型中的训练维度,然后重新对这些数据进行训练。但也可以是重新进入根据数据维度选取维度数据的过程,因为有些数据实际并不需要,具体参见图3所示,本发明选择重新进入维度选取步骤,以考虑最全流程。
期望值可以根据成本损失模型和客户满意度模型得出的一个期望值,例如,成本损失率为0.1,客户满意度为0.8,那么最后的期望值就是(1-0.9)*0.8=0.72。但期望值不可设置过低,可能存在多个大于预设值的情况,因此可以根据实际需要选取Top 1或Top N。
不断训练模型,使得其准确率趋近于该期望值,且期望值应该是大于1/n小于等于1的(在等于1/n是掷n面筛子试验,小于1/n差于掷筛子试验,等于1是完美模型),当然,实际情况还需要根据样本分布来调整期望。
这里补充一下分类算法,目前数据挖掘研究中存在很多分类算法,本发明主要使用weka中的监督分类算法(也可以使用其他算法,本发明不做限制),在weka中的对应关系为决策树-J48,简单的决策树如图4所示。
在该决策树中,所创建的树上的每个节点都代表一个位置,在这个位置必须基于输入做出决策,并且会有一个节点移到下一个节点直至到达能够得到预测输出的叶子节点。
对于步骤S103,在训练模型结束后,可以对其进行应用,以作为审核(申请服务单千人千面)的奠基,高效完成单据审核。
将构建完成的模型部署到生产环境中,验证过程与数据训练过程类似,只是会同时记录客服审核结果。采集一段时间的数据,并比较整体的准确率和各个审核结果的准确率。
这里解释一下为什么会记录客服审核结果,通常在确定模型完全OK可用之前,对于单据审核,是由数据模型和客服同时操作的,若两者结果不同之处较多,是需要对模型维度、特征数据进行调整的。相当于是测试集对模型测试完之后,客服再多做一次验证。
当然,若此时的模型已经完全可用了,也是可以不需要记录客服审核的。
这里对于实际应用中待测试的单据,输入数据模型之前,也是需要经过预处理、特征数据提取等操作的。
如果测试结果满足大于等于预设期望值的条件,则将该条数据存储至审核成功数据库集群。对于审核成功的单据,可以提供给售后***回调使用。这是***架构的一种设计,目的是为了解耦,售后***是业务***,也可以直接将预测的审核结果直接推送给售后***。
但如果测试结果不满足预设期望值,可以将该条数据存储至审核失败的数据库集群中,并返回给售后***客服审核。
以上为手动将数据集分割为训练集和测试集进行数据验证,除上述方式外,还可以集合其他评估策略一起进行,例如:
交叉验证:初始采样分割成K个子样本,一个单独的子样本被保留作为验证模型的数据,其他K-1个样本用来训练。交叉验证重复K次,每个子样本验证一次,平均K次的结果或者使用其它结合方式,最终得到一个单一估测;
分类器评估策略,例如参见图5中的weka分类器评估策略。
以上都需要在模型构建过程中循环数词实行评估(训练准确率和测试准确率相近且接近1表示模型稳定且极其准确),数据挖掘基本指标如下表2所示:
表2数据挖掘基本指标
真实预测 | p | n | |
p' | TP(True Positives) | FP(False Positives) | P' |
n' | FN(False Negatives) | TN(True Negatives) | N' |
P | N |
其中,TP:True Positive(真正),被模型预测为正的样本,实际为正,预测对。tprate=TP/(TP+FN)
TN:True Negative(真负),被模型预测为负的样本,实际为负,预测对。tnrate=TN/(TP+TN)。
FN:False Negative(假负),被模型预测为负的样本,实际为正,预测错误。fnrate=FN/(TP+FN)。
FP:False Positive(假正),被模型预测为正的样本,实际为负,预测错误fprate=FP/(FP+TN)。
Precision:在预测的结果中,真正正确的个数占整个结果的比例。precision=TP/(TP+FP)。
Recall:在预测的结果中,真正正确的个数占整个数据集(实际为正)中真正正确个数的比例precision=tprate。
F-Measure:是Precision和Recall加权调和平均,在f-measure函数中,当维度α=1时,F1综合了Precision和Recall的结果,当F1较高时则能说明试验方法比较有效F1=2TP/(2TP+FP+FN)。。
ROC:ROC曲线,横坐标为false positive rate(FPR),纵坐标为true positiverate(TPR),当测试集中的正负样本的分布变化的时候,ROC曲线能够保持不变。
PRC:PRC曲线,在正负样本分布得极不均匀(highly skewed datasets)的情况下,PRC比ROC能更有效地反应分类器的好坏。
上述实施例所提供的方法,以已有大量单据数据进行模型构建评估,可根据训练准确率动态配置分类结果期望值,解决人工审核过程中主观性问题和不确定性问题,同时可替代客服自动审核服务单的方法;自动审核模型具有较强的稳定性,也可以进行监督或非监督式学习,且随着单据量的增加,模型库也会自我学习和自我完善。
参见图6,示出了根据本发明实施例的一种可选的基于数据维度的单据审核方法流程示意图,包括如下步骤:
S601:确定数据维度,提取单据中与所述数据维度相应的特征数据;
S602:统计每个数据维度下特征数据的数据量,剔除数据量超出预定数据量阈值的数据维度、以及与所剔除的数据维度相应的特征数据;
S603:根据维度筛选后的特征数据,结合对单据的审核结果,生成数据集;
S604:根据所述数据集对数据模型进行训练测试,得到训练后的数据模型;
S605:接收待审核单据,提取所述待审核单据中与所述数据维度相应的特征数据,输入所提取的特征数据至所述训练后的数据模型中,得到对所述待审核单据的审核结果。
上述实施方式中,步骤S601、S603、S604以及S605可参见图1所示步骤S101~S103的描述,在此不再赘述。
上述实施方式中,对于步骤S602,在数据模型初始建立阶段,通常情况下是找一个大而全面的特征集合进行逐步筛选的,因此后续可以有维度降维或者添加的操作。
以维度降维为例进行具体说明:
某个特征的枚举值严重倾斜(例如订单类型,自营占90%)或者严重分散(例如商品品类有5000多个),因此若后续测得该特征对分类器的准确率影响较低(<0.1%),则可以删除该特征或者合并(分散时)。
本发明主要是对单据,例如服务单进行审核的,审核结果通常有多个,相应的问题即为多分类问题。
因为单据中的数据可能存在某个特征空间数量过大的情况,后续在训练过程中使用分类器会出现模型过大无法加载的问题,多余的特征不仅会影响或误导分类器,也意味着拟合风险过大。
针对这一问题,本发明在模型训练之前,使用算法(例如聚类算法)进行维度调整(后续统称为降维)操作,同时维度越少所需要训练测试的数据集也越少、训练速度以及耗时也会更理想,也就能得到更好的结果。
本发明所使用的聚类算法主要为KNN算法。这是因为KNN算法不受某个特征空间过大的影像,可以做特征删除准确率变化测试,并通过测试来决定特征筛选结果,最终将占用空间过大的特征空间进行缩小化,整体类似于数字离散化。例如,原来有5000多个品类,降维后对这些品类进行分类,得到200个品类。
另外,需要说明的是,KNN算法对于特征的删减可能会对模型的训练产生一定的影响,但可忽略。
本发明还可以通过两种方式进行维度降维:
1)特征抽取:特征抽取后的新特征是原来特征的一个映射,也可以理解为是原来几个特征合并而来的。例如原来特征是[a,b,c,d,e],新特征为[a+b,c*d,e/a];
2)特征选择:特征选择后的特征是原来特征的一个子集,也可以理解为是在原来特征直接剔除无用特征。例如,原来特征是[a,b,c,d,e],新特征为[a,c,e]。
通过上述降维操作,可以对数据维度进行合理规划,且待不再降维后再使用分类器或分类算法,例如J48。且对于维度降维可以位于数据预处理之前,且并没有严格的先后顺序。
需要说明的是,也可以在训练测试数据模型的过程中进行特征添加,例如对重要的特征被遗漏,如用户等级特征。
上述实施例所提供的方法,通过维度降维操作,可以对一些对分类审核结果影像较小的特征剔除掉,进而提高审核结果准确性,同时减少数据集中的数据存储量。
本发明实施例所提供的方法,能够参考以往单据,具有较强的泛化能力;数据模型的可用性较高,完全可以替代复杂业务规则,同时支持动态期望值设定,容错率较高;稳定性较高,可以进行监督或非监督式学习,且对着单据量的不断增加,模型库也会自我学习和完善,实现高效、高精准度处理单据的效果。
参见图7所示,示出的是本发明的技术架构,整个***从服务器架构方面由客户端模块、售后***服务器集群、自动审核服务器集群、数据存储***构成。
1)客户端模块
包括APP客户端、PC客户端,用于申请提交/修改服务单;
2)售后***服务集群
主要是处理客户端发出的请求,进行数据预处理,属于应用层服务器集群;
3)自动审核服务器集群
面对每天大量的服务单,自动审核服务器需要组成集群架构(它通过一组松散集成的计算机软件和/或硬件连接起来高度紧密地协作完成计算工作)。
4)数据存储***
存储特征数据(即服务单)的集群存储服务器,又可分为三种类型:存储审核成功的数据的服务器,存储审核失败的数据的服务器,以及保存自动审核模型的服务器。
参见图8所示,整个***从服务细节方面由售后***服务器、自动审核服务器、数据存储***组成。
1)售后***服务器
包括主线程和工作线程。由主线程管理工作线程,工作线程包括消息转发线程、服务调用线程,此处也可以不进行详细划分主线程和工作线程。
但通常情况下会进行划分,例如,其中一个工作线程存在故障了,由主线程指定另外哪个线程进行顶替。
2)自动审核***服务器
分为三个步骤,填充特征,特征预处理,模型预测。主要使用分类算法生成的已有数据模型,并根据已有的数据模型来预测现有数据,再根据条件判断是否审核成功。
3)审核成功存储服务器,用于存储审核成功的服务单
4)审核失败存储服务器,用于存储审核失败的服务单
5)自动审核模型集合存储服务器,用于存储经过J48算法生成的数据模型。
参见图9,示出了本发明实施例提供的一种基于数据维度的单据审核装置900的主要模块示意图,包括:
数据维度确定模块901,用于确定数据维度,提取单据中与所述数据维度相应的特征数据,结合对所述单据的审核结果,生成数据集;
数据模型训练模块902,用于根据所述数据集对数据模型进行训练测试,得到训练后的数据模型;
单据审核模块903,用于接收待审核单据,提取所述待审核单据中与所述数据维度相应的特征数据,输入所提取的特征数据至所述训练后的数据模型中,得到对所述待审核单据的审核结果。
本发明实施装置中,所述数据维度确定模块901,用于:
若在所述单据中查询不存在所述特征数据,则根据所述单据的单据标识以及生成时间,获取对所述单据的数据记录,以从所述数据记录中提取所述特征数据。
本发明实施装置中,所述数据维度确定模块901,还用于:
统计每个数据维度下特征数据的数据量,剔除数据量超出预定数据量阈值的数据维度、以及与所剔除的数据维度相应的特征数据。
本发明实施装置中,所述数据模型训练模块902,用于:
将所述数据集分为训练集和测试集;
输入所述训练集中的训练数据和审核结果至所述数据模型中,根据每个审核结果下的训练准确率,得到训练总准确率,并生成待测试的数据模型;
输入所述测试集中的测试数据至所述待测试的数据模型中,若测试总准确率大于等于所述训练准确率、且每个审核结果下的测试准确率大于等于所述训练准确率,则确定所述待测试的数据模型为训练后的数据模型。
另外,在本发明实施例中所述装置的具体实施内容,在上面所述方法中已经详细说明了,故在此重复内容不再说明。
图10示出了可以应用本发明实施例的基于数据维度的单据审核方法或基于数据维度的单据审核装置的示例性***架构1000。
如图10所示,***架构1000可以包括终端设备1001、1002、1003,网络1004和服务器1005(仅仅是示例)。网络1004用以在终端设备1001、1002、1003和服务器1005之间提供通信链路的介质。网络1004可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备1001、1002、1003通过网络1004与服务器1005交互,以接收或发送消息等。终端设备1001、1002、1003上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备1001、1002、1003可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器1005可以是提供各种服务的服务器,例如对用户利用终端设备1001、1002、1003所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的基于数据维度的单据审核方法一般由服务器1005执行,相应地,基于数据维度的单据审核装置一般设置于服务器1005中。
应该理解,图10中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图11,其示出了适于用来实现本发明实施例的终端设备的计算机***1100的结构示意图。图11示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图11所示,计算机***1100包括中央处理单元(CPU)1101,其可以根据存储在只读存储器(ROM)1102中的程序或者从存储部分1108加载到随机访问存储器(RAM)1103中的程序而执行各种适当的动作和处理。在RAM 1103中,还存储有***1100操作所需的各种程序和数据。CPU 1101、ROM 1102以及RAM 1103通过总线1104彼此相连。输入/输出(I/O)接口1105也连接至总线1104。
以下部件连接至I/O接口1105:包括键盘、鼠标等的输入部分1106;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1107;包括硬盘等的存储部分1108;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1109。通信部分1109经由诸如因特网的网络执行通信处理。驱动器1110也根据需要连接至I/O接口1105。可拆卸介质1111,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1110上,以便于从其上读出的计算机程序根据需要被安装入存储部分1108。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1109从网络上被下载和安装,和/或从可拆卸介质1111被安装。在该计算机程序被中央处理单元(CPU)1101执行时,执行本发明的***中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括数据维度确定模块、数据模型训练模块以及单据审核模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,数据模型训练模块还可以被描述为“基于特征数据和审核结果对数据模型进行训练的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:
确定数据维度,提取单据中与所述数据维度相应的特征数据,结合对所述单据的审核结果,生成数据集;
根据所述数据集对数据模型进行训练测试,得到训练后的数据模型;
接收待审核单据,提取所述待审核单据中与所述数据维度相应的特征数据,输入所提取的特征数据至所述训练后的数据模型中,得到对所述待审核单据的审核结果。
根据本发明实施例的技术方案,能够参考以往单据,具有较强的泛化能力;数据模型的可用性较高,完全可以替代复杂业务规则,同时支持动态期望值设定,容错率较高;稳定性较高,可以进行监督或非监督式学习,且对着单据量的不断增加,模型库也会自我学习和完善,实现高效、高精准度处理单据的效果。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种基于数据维度的单据审核方法,其特征在于,包括:
确定数据维度,提取单据中与所述数据维度相应的特征数据,结合对所述单据的审核结果,生成数据集;
根据所述数据集对数据模型进行训练测试,得到训练后的数据模型;
接收待审核单据,提取所述待审核单据中与所述数据维度相应的特征数据,输入所提取的特征数据至所述训练后的数据模型中,得到对所述待审核单据的审核结果。
2.根据权利要求1所述的方法,其特征在于,所述确定数据维度,提取单据中与所述数据维度相应的特征数据,包括:
若在所述单据中查询不存在所述特征数据,则根据所述单据的单据标识以及生成时间,获取对所述单据的数据记录,以从所述数据记录中提取所述特征数据。
3.根据权利要求1所述的方法,其特征在于,在所述确定数据维度,提取单据中与所述数据维度相应的特征数据之后,还包括:
统计每个数据维度下特征数据的数据量,剔除数据量超出预定数据量阈值的数据维度、以及与所剔除的数据维度相应的特征数据。
4.根据权利要求1所述的方法,其特征在于,所述根据所述数据集对数据模型进行训练测试,得到训练后的数据模型,包括:
将所述数据集分为训练集和测试集;
输入所述训练集中的训练数据和审核结果至所述数据模型中,根据每个审核结果下的训练准确率,得到训练总准确率,并生成待测试的数据模型;
输入所述测试集中的测试数据至所述待测试的数据模型中,若测试总准确率大于等于所述训练准确率、且每个审核结果下的测试准确率大于等于所述训练准确率,则确定所述待测试的数据模型为训练后的数据模型。
5.一种基于数据维度的单据审核装置,其特征在于,包括:
数据维度确定模块,用于确定数据维度,提取单据中与所述数据维度相应的特征数据,结合对所述单据的审核结果,生成数据集;
数据模型训练模块,用于根据所述数据集对数据模型进行训练测试,得到训练后的数据模型;
单据审核模块,用于接收待审核单据,提取所述待审核单据中与所述数据维度相应的特征数据,输入所提取的特征数据至所述训练后的数据模型中,得到对所述待审核单据的审核结果。
6.根据权利要求5所述的装置,其特征在于,所述数据维度确定模块,用于:
若在所述单据中查询不存在所述特征数据,则根据所述单据的单据标识以及生成时间,获取对所述单据的数据记录,以从所述数据记录中提取所述特征数据。
7.根据权利要求5所述的装置,其特征在于,所述数据维度确定模块,还用于:
统计每个数据维度下特征数据的数据量,剔除数据量超出预定数据量阈值的数据维度、以及与所剔除的数据维度相应的特征数据。
8.根据权利要求5所述的装置,其特征在于,所述数据模型训练模块,用于:
将所述数据集分为训练集和测试集;
输入所述训练集中的训练数据和审核结果至所述数据模型中,根据每个审核结果下的训练准确率,得到训练总准确率,并生成待测试的数据模型;
输入所述测试集中的测试数据至所述待测试的数据模型中,若测试总准确率大于等于所述训练准确率、且每个审核结果下的测试准确率大于等于所述训练准确率,则确定所述待测试的数据模型为训练后的数据模型。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-4中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-4中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911029683.2A CN112734352A (zh) | 2019-10-28 | 2019-10-28 | 一种基于数据维度的单据审核方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911029683.2A CN112734352A (zh) | 2019-10-28 | 2019-10-28 | 一种基于数据维度的单据审核方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112734352A true CN112734352A (zh) | 2021-04-30 |
Family
ID=75589058
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911029683.2A Pending CN112734352A (zh) | 2019-10-28 | 2019-10-28 | 一种基于数据维度的单据审核方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112734352A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116469120A (zh) * | 2023-05-31 | 2023-07-21 | 国网浙江省电力有限公司营销服务中心 | 电费单据自动数据处理方法、装置及存储介质 |
-
2019
- 2019-10-28 CN CN201911029683.2A patent/CN112734352A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116469120A (zh) * | 2023-05-31 | 2023-07-21 | 国网浙江省电力有限公司营销服务中心 | 电费单据自动数据处理方法、装置及存储介质 |
CN116469120B (zh) * | 2023-05-31 | 2023-09-05 | 国网浙江省电力有限公司营销服务中心 | 电费单据自动数据处理方法、装置及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110705719A (zh) | 执行自动机器学习的方法和装置 | |
CN111145009A (zh) | 用户贷后风险评估方法、装置及电子设备 | |
US20230103753A1 (en) | Generating adaptive textual explanations of output predicted by trained artificial-intelligence processes | |
CN110197426B (zh) | 一种信用评分模型的建立方法、装置及可读存储介质 | |
CN114078050A (zh) | 贷款逾期预测方法、装置、电子设备及计算机可读介质 | |
CN111582314A (zh) | 目标用户确定方法、装置及电子设备 | |
CN115545886A (zh) | 逾期风险识别方法、装置、设备及存储介质 | |
CN112950359B (zh) | 一种用户识别方法和装置 | |
CN113313279A (zh) | 一种单据审核方法和装置 | |
CN112258220B (zh) | 信息采集及分析方法、***、电子设备和计算机可读介质 | |
CN112734352A (zh) | 一种基于数据维度的单据审核方法和装置 | |
CN117437019A (zh) | ***逾期风险预测方法、装置、设备、介质和程序产品 | |
CN111210109A (zh) | 基于关联用户预测用户风险的方法、装置和电子设备 | |
CN110930238A (zh) | 提高审核任务效率的方法、装置、设备和计算机可读介质 | |
CN114511022B (zh) | 特征筛选、行为识别模型训练、异常行为识别方法及装置 | |
US11741036B2 (en) | Unified smart connector | |
CN115795345A (zh) | 信息处理方法、装置、设备及存储介质 | |
CN111429257B (zh) | 一种交易监控方法和装置 | |
CN114066603A (zh) | 贷后风险预警方法、装置、电子设备和计算机可读介质 | |
CN112990311A (zh) | 一种准入客户的识别方法和装置 | |
CN114357523A (zh) | 风险对象的识别方法、装置、设备、存储介质和程序产品 | |
CN113450208A (zh) | 贷款风险变动预警、模型训练方法和装置 | |
CN112907362A (zh) | 贷款业务的处理方法、装置、电子设备和存储介质 | |
CN113094595A (zh) | 对象识别方法、装置、计算机***及可读存储介质 | |
CN110895564A (zh) | 一种潜在客户数据处理方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |