CN112685765A - 一种数据质量评估方法、装置和用于数据质量评估的装置 - Google Patents
一种数据质量评估方法、装置和用于数据质量评估的装置 Download PDFInfo
- Publication number
- CN112685765A CN112685765A CN202010220629.2A CN202010220629A CN112685765A CN 112685765 A CN112685765 A CN 112685765A CN 202010220629 A CN202010220629 A CN 202010220629A CN 112685765 A CN112685765 A CN 112685765A
- Authority
- CN
- China
- Prior art keywords
- data
- ciphertext
- party
- quality evaluation
- security
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013441 quality evaluation Methods 0.000 title claims abstract description 214
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000007689 inspection Methods 0.000 claims abstract description 108
- 238000005070 sampling Methods 0.000 claims abstract description 102
- 238000013479 data entry Methods 0.000 claims abstract description 101
- 239000003550 marker Substances 0.000 claims abstract description 26
- 238000001303 quality assessment method Methods 0.000 claims description 29
- 238000012360 testing method Methods 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 17
- 238000004364 calculation method Methods 0.000 claims description 14
- 238000012549 training Methods 0.000 claims description 13
- 230000002159 abnormal effect Effects 0.000 claims description 8
- 230000005540 biological transmission Effects 0.000 claims 1
- 238000011156 evaluation Methods 0.000 description 41
- 230000002427 irreversible effect Effects 0.000 description 14
- 238000004891 communication Methods 0.000 description 11
- 230000006872 improvement Effects 0.000 description 10
- 238000012795 verification Methods 0.000 description 10
- 238000000605 extraction Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 238000001514 detection method Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 101100217298 Mus musculus Aspm gene Proteins 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明实施例提供一种数据质量评估方法、装置和用于数据质量评估的装置。其中的方法包括:接收来自第二方的安全标记及密文的抽检数据,安全标记为第二方基于待提供数据中的数据条目的密文所生成,抽检数据为待提供数据中的部分或全部数据,待提供数据包括密文数据;从接收的安全标记中,查询得到抽检数据中的数据条目对应的第一安全标记;基于抽检数据中的数据条目的密文,生成抽检数据中的数据条目对应的第二安全标记;对第一安全标记与第二安全标记进行逐一匹配;在匹配成功情况下,对抽检数据进行质量评估,得到抽检数据的质量评估结果,从而确定待提供数据的质量评估结果。本发明实施例可以提高密文数据交易的可靠性。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据质量评估方法、装置和用于数据质量评估的装置。
背景技术
随着互联网、物联网等技术的发展与兴起,数据的来源、内容、形式越来越多样化,数据的容量也以极快的速度逐年递增。数据作为用户行为分析、商业价值挖掘、人工智能训练等的基础,已被认为是一种重要的资产。由于不同机构或个人掌握了类型各异的数据,因此,通过数据交易对数据资源进行整合、交换、共享成为数字经济发展的必要条件。
为保证数据交易的可靠性,需要对数据提供方提供的数据进行质量检验,以检验数据提供方提供的数据是否真实、完整,以及是否能够满足数据需求方的要求。
目前,对于明文的数据交易市场,可以基于数据的明文检验数据的质量。但是,对于密文的数据交易市场,无法基于数据的密文检验数据的质量,导致密文数据交易的可靠性难以得到保障。
发明内容
本发明实施例提供一种数据质量评估方法、装置和用于数据质量评估的装置,可以在密文基础上,检验数据提供方所提供的数据的质量,以提高密文数据交易的可靠性。
为了解决上述问题,本发明实施例公开了一种数据质量评估方法,应用于交易数据使用权的数据交易场景,适用于第一方设备,所述方法包括:
接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
对所述第一安全标记与所述第二安全标记进行逐一匹配;
在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
另一方面,本发明实施例公开了一种数据质量评估装置,应用于交易数据使用权的数据交易场景,适用于第一方设备,所述装置包括:
数据接收模块,用于接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
标记查询模块,用于从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
标记计算模块,用于基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
标记匹配模块,用于对所述第一安全标记与所述第二安全标记进行逐一匹配;
质量评估模块,用于在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
再一方面,本发明实施例公开了一种用于数据质量评估的装置,应用于交易数据使用权的数据交易场景,适用于第一方设备,包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:
接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
对所述第一安全标记与所述第二安全标记进行逐一匹配;
在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
又一方面,本发明实施例公开了一种机器可读介质,其上存储有指令,当由一个或多个处理器执行时,使得装置执行如前述一个或多个所述的数据质量评估方法。
本发明实施例包括以下优点:
本发明实施例提供的数据质量评估方法可应用于交易数据使用权的数据交易场景,通过第一方设备对第二方的密文数据进行质量评估。第二方可以向第一方发送安全标记及密文的抽检数据,以使第一方对其拥有的密文数据进行质量评估。所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,可用于检验数据完整性。在第二方的安全标记通过检验的情况下,第一方设备对第二方的密文的抽检数据进行质量评估。所述抽检数据可以为所述待提供数据中的部分或全部数据,抽检数据的质量可以在一定程度上反映数据提供方待提供数据的整体质量,因此,可以根据所述抽检数据的质量评估结果确定第二方的待提供数据的质量评估结果。
这样,数据需求方在购买数据提供方提供的密文数据的使用权之前,可以根据数据提供方的数据质量评估结果,检验数据提供方提供的密文数据的质量是否符合需求,再决定是否购买,由此可以提高基于密文数据交易的数据质量,可以提高密文数据交易的可靠性。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明的一种数据质量评估方法实施例的步骤流程图;
图2是本发明的另一种数据质量评估方法实施例的步骤流程图;
图3是本发明的一种数据质量评估装置实施例的结构框图;
图4是本发明的一种数据质量评估***实施例的结构框图;
图5是本发明的一种用于数据质量评估的装置800的框图;及
图6是本发明的一些实施例中服务器的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
方法实施例
参照图1,示出了本发明的一种数据质量评估方法实施例的步骤流程图,该方法应用于交易数据使用权的数据交易场景,适用于第一方设备,具体可以包括如下步骤:
步骤101、接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
步骤102、从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
步骤103、基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
步骤104、对所述第一安全标记与所述第二安全标记进行逐一匹配;
步骤105、在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
本发明实施例可应用于交易数据使用权的数据交易场景,数据交易的主要载体可以是数据交易平台,数据提供方可以向数据交易平台提供所要出售使用权的数据相关信息,数据需求方可以向数据交易平台提交所需数据的需求,数据交易平台根据数据需求方提出的需求,可以向数据需求方推荐符合其需求的数据提供方的数据信息,进而数据需求方和数据提供方可以基于数据交易平台实现数据使用权的数据交易。
为保障数据交易过程中数据的隐私安全,数据交易平台可以支持对密文数据的使用权进行交易。示例性地,数据提供方可以是汽车企业、汽车维修厂、保险公司和车主等,数据提供方出售使用权的密文数据可以包括车况数据的密文,车况数据可以包括车型、车龄、发动机转速等汽车的相关数据。当然,本发明实施例对所述数据提供方所属的行业或应用领域不加以限制。例如,对于医疗健康领域,数据提供方出售使用权的密文数据可以包括医疗设备记录的人体的血压、心率、血浓度等数据的密文。对于智能家居等物联网领域,数据提供方出售使用权的密文数据可以包括空调的温度、风速、地理位置、开机时长等数据的密文。
本发明实施例可以通过第一方设备对第二方的密文数据进行质量评估。其中,第一方指对密文数据进行质量评估的检验方。第二方指接受对其拥有的密文数据进行质量评估的被检验方。第一方可以为数据需求方,也即购买密文数据使用权的一方。可选地,第一方还可以为第三方评估机构或者数据交易平台等其他任意机构或平台。第二方可以为数据提供方,也即出售密文数据使用权的一方。
在本实施例中,第二方可以向第一方发送安全标记及密文的抽检数据,以使第一方对其拥有的密文数据进行质量评估。所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据可以为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据。
其中,待提供数据可以为第二方待出售使用权的密文数据。第二方可以对待提供数据中每一个数据条目的密文生成对应的安全标记,该安全标记可用于检验所述待提供数据的完整性。检验待提供数据的完整性,一方面可以检验待提供数据的数据值是否正确,另一方面可以检验待提供数据是否为第二方提供的真实数据。数据条目指不可继续拆分的最小数据单元,如数据库的某一条字段等。
在本发明的一种可选实施例中,所述安全标记可以为利用不可逆加密算法对所述待提供数据中的数据条目的密文计算得到。
不可逆加密算法的特点是加密过程中不需要使用密钥,输入原始数据后由***直接经过加密算法处理成密文,这种加密后的数据是无法被解密的,只有重新输入原始数据,并再次经过同样不可逆的加密算法处理,得到相同的加密密文并被***重新识别后,才能真正解密。
第二方利用不可逆加密算法,对待提供数据中每一个数据条目的密文进行计算,生成安全标记,假设记为Tab,Tab=hash(ID),其中ID可以表示数据条目的索引值。
需要说明的是,本发明实施例对采用的不可逆加密算法的算法类型不加以限制。例如,所述不可逆加密算法可以包括SM3、MD5、SHA1、SHA256等。
第二方将其待提供数据的安全标记和密文的抽检数据发送给第一方进行数据质量评估。第一方可以根据接收到的安全标记检验第二方待提供数据的完整性,如果确定第二方待提供数据的完整性符合要求,则可以对接收到的密文的抽检数据进行质量评估,所述抽检数据可以为第二方待提供数据中的部分或全部数据,以评估第二方待提供数据的质量。
第一方接收到来自第二方的安全标记及密文的抽检数据之后,从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记。
在一个示例中,第二方的待提供数据中包括索引值从1至1000000的数据条目,第二方对这1000000个数据条目的密文分别利用不可逆加密算法生成对应的安全标记,可以得到1000000个安全标记。假设抽检数据为索引值从1至100的数据条目,则第二方将索引值从1至1000000的数据条目对应的1000000个安全标记,以及索引值从1至100的数据条目的抽检数据发送给第一方。
第一方从接收的1000000个安全标记中,查询得到索引值从1至100的数据条目对应的第一安全标记。此外,第一方利用与第二方相同的不可逆加密算法对抽检数据中的数据条目计算安全标记,得到所述抽检数据中的数据条目对应的第二安全标记。
其中,上述100个数据条目的第一安全标记为第一方从第二方接收得到,而上述100个数据条目的第二安全标记为第一方计算得到。第一方对所述第一安全标记与所述第二安全标记进行逐一匹配,例如,将索引值为1的数据条目的第一安全标记和第二安全标记进行匹配,判断二者是否相同。再将索引值为2的数据条目的第一安全标记和第二安全标记进行匹配,判断二者是否相同。以此类推,直到索引值为100的数据条目的第一安全标记和第二安全标记匹配完成。如果上述100个数据条目的第一安全标记和第二安全标记均匹配成功,说明第二方提供的抽检数据通过完整性校验,可以继续对抽检数据进行质量评估;否则,说明第二方提供的抽检数据未通过完整性校验,可以终止与第二方进行数据交易。
需要说明的是,为了保护数据的隐私安全,第一方对第二方的抽检数据进行质量评估,是基于密文对抽检数据进行质量评估,在质量评估过程中对密文的抽检数据进行的操作可以通过调用多方安全计算引擎来实现。所述多方安全计算引擎可以提供多方安全计算服务,多方安全计算为基于密文的计算,参与计算的数据包含密文数据,且计算过程中产生的中间结果以及最终的计算结果也为密文数据。在基于密文的计算过程中,不会暴露数据明文,可以保证数据的隐私安全性。
可选地,所述基于密文的计算可以由四个计算节点中至少两个计算节点执行,所述至少两个计算节点基于多方安全计算协议与参与密文计算的其他计算节点通信,以完成计算任务。
在本发明实施例中,一个计算任务可以分配四个计算节点协作完成。这四个计算节点分别称为Y1、Y2、Ya、Yb。对于部分计算任务只需要两个计算节点协作完成,则仅需要Y1和Y2两个计算节点参与即可,例如,加法计算只需要两个计算节点执行计算。本发明实施例对计算节点数量不做限制。
可以理解,本发明实施例可以通过所述多方安全计算引擎实现基于密文的任何隐私操作场景。例如,基于密文对数据进行加、减、乘、除、求平均等计算操作,基于密文对数据进行比较、排序、分组等操作,基于密文进行机器学习、人工智能等模型训练及预测等操作,基于密文对数据进行数据库查询等操作。
在本发明的一种可选实施例中,所述接收来自第二方的安全标记及密文的抽检数据之前,所述方法还可以包括:根据预设的抽样比例,计算抽检数据对应的索引值,向所述第二方发送所述索引值;
所述接收来自第二方的安全标记及密文的抽检数据,可以包括:接收来自第二方的安全标记及所述索引值对应的密文的抽检数据。
在本发明实施例中,可以由第一方确定第二方应提供的密文的抽检数据。例如,第一方可以根据预设的抽样比例,计算抽检数据对应的索引值,并且向所述第二方发送所述索引值,第二方将待提供数据的安全标记和所述索引值对应的密文的抽检数据发送给第一方。
其中,预设的抽样比例可以根据实际情况灵活设置,也可以由第一方和第二方协商确定,或者还可以由第一方单独设置,为保证第二方的数据不被泄露,第一方设置的抽样比例不超过双方协商的抽样比例。通常,所述抽样比例可以为较小的比例,如0.01%、0.001%等。第一方根据预设的抽样比例生成要抽检数据条目的索引值,例如,第二方的待提供数据中包括索引值从1至1000000的数据条目,第一方和第二方协商抽样比例为0.01%,则第一方可以根据协商的抽样比例计算抽检数据对应的索引值,如索引值可以为从1至100,或者从50至150等。
需要说明的是,所述抽样比例可用于检验待提供数据的部分数据,或者,所述抽样比例还可以是1,用于检验待提供数据的全部数据。
在本发明实施例中,所述第一方可以包括数据需求方、第三方评估机构、以及数据交易平台中的任意一方或多方。在实际应用中,第二方抽检数据的质量评估结果可以包括上述三种第一方任意一方的评估结果,或者任意多方的评估结果的组合。
在本发明的一种可选实施例中,所述质量评估结果中包括如下任意一项或多项信息:评估方式、评估数据的比例、抽取方式。
其中,所述评估方式用于表示当前的质量评估结果采用的具体评估方式,如交叉验证、模型预测等评估方式。所述评估数据的比例用于表示参与质量评估的抽检数据在待提供数据中的占比。所述抽取方式用于表示从待提供数据中选择抽检数据的方式,如随机选择,指定选择等。
在本发明的一种可选实施例中,所述对所述抽检数据进行质量评估,具体可以包括:
步骤S11、从可信第三方获取所述抽检数据对应的同数据,所述同数据包括密文数据;
步骤S12、对所述抽检数据中各数据条目的关键数据项与所述同数据中各数据条目的关键数据项,进行基于密文的比较操作,得到比较结果;
步骤S13、根据所述比较结果,得到所述抽检数据对应的质量评估结果。
其中,可信第三方可以包括主管机关例如公安局等具有权威数据的机构。第一方可以从可信第三方获取所述抽检数据对应的同数据,所述同数据包括密文数据。
所述同数据指可信第三方拥有的与所述抽检数据具有相同数据项的密文数据。所述同数据为可信第三方拥有的权威数据,通常真实可靠,因此可以利用所述同数据对第二方的抽检数据的准确性进行交叉验证。第一方可以对所述抽检数据中各数据条目的关键数据项与所述同数据中各数据条目的关键数据项,进行基于密文的比较操作,得到比较结果。
其中,关键数据项可以由第一方指定,例如,所述关键数据项可以包括身份证号、收入等,均为密文。在第二方提供的密文的抽检数据中确定关键数据项的数据条目,假设记为E1。
第一方从可信第三方获取第二方的抽检数据对应的同数据,所述同数据包括密文数据。第一方可以从所述同数据中获取上述关键数据项(如身份证号、收入等)的数据条目,假设记为E2。E1和E2为密文数据。
第一方对第二方抽检数据中的E1和可信第三方拥有的同数据中的E2进行基于密文的比较操作,得到比较结果,根据该比较结果,可以得到所述抽检数据对应的质量评估结果。例如,对E1和E2执行基于密文的比较操作,可以确定E1和E2中相等的数据条目的占比,根据该占比可以确定所述抽检数据对应的质量评估结果。可选地,还可以根据E1和E2中相等的数据条目的占比确定所述抽检数据的质量等级。
在本发明的一种可选实施例中,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,具体可以包括:
步骤S21、使用所述抽检数据进行基于密文的模型训练,得到目标模型;
步骤S22、基于预设测试集,对所述目标模型进行测试,得到所述目标模型的预测结果;
步骤S23、根据所述预测结果,得到所述抽检数据对应的质量评估结果。
本发明实施例可以利用第二方的抽检数据进行基于密文的模型训练,得到目标模型,并检验所述抽检数据对模型预测的提升情况,以评估抽取数据的质量。
在利用第二方的密文的抽检数据训练得到目标模型之后,可以基于预设测试集,对所述目标模型进行测试,得到所述目标模型的预测结果。所述预设测试集可以包括第一方提供的测试数据,或者,所述测试集可以包括第二方提供的测试数据,或者,所述测试集还可以包括所述第一方和所述第二方共同提供的测试数据等,本发明实施例对所述测试集的来源不加以限制。
根据所述预测结果,可以得到所述抽检数据对应的质量评估结果。其中,根据预测结果确定抽检数据对应的质量评估结果的判断依据可以由数据需求方设定。
在一个示例中,所述判断依据可以包括技术层面的提升效果,所述技术层面可以包括目标模型预测的准确度等。例如,可以通过判断所述目标模型预测的准确度是否得到提升,以及准确度提升的百分比是否达到预设指标,来确定抽检数据的质量。
在另一个示例中,所述判断依据可以包括应用层面的提升效果,所述应用层面可以包括使用目标模型预测的数据后得到的用户转化率或者收益等。例如,在使用所述目标模型预测的推荐信息后,可以通过判断用户转化率是否得到提升,以及用户转化率提升的百分比是否达到预设指标来确定抽检数据的质量。
在具体应用中,可以根据多方面的提升百分比综合确定抽检数据的质量。例如,可以对模型预测准确度提升的百分比、用户转化率提升的百分比、以及收入提升的百分比进行加权计算,得到抽检数据的质量评估结果。
在本发明的一种可选实施例中,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,具体可以包括:
步骤S31、对所述抽检数据进行如下任意一项或多项检查操作:重复值检查、缺失值检查、数据倾斜检查、异常值检查,得到检查结果;
步骤S32、根据所述检查结果,得到所述抽检数据对应的质量评估结果。
在本发明实施例中,所述多方安全计算引擎可以对数据实现基于密文的隐私操作。例如,基于密文对数据进行加、减、乘、除、求平均等计算操作,基于密文对数据进行比较、排序、分组等操作,基于密文进行机器学习、人工智能等模型训练及预测等操作,基于密文对数据进行数据库查询等操作。
因此,基于明文的质量评估方法,通过所述多方安全计算引擎,均可适用于基于密文对数据进行质量评估。例如,本发明实施例可以通过调用所述多方安全计算引擎,对所述密文的抽检数据进行如下任意一项或多项检查操作:重复值检查、缺失值检查、数据倾斜检查、异常值检查等,得到检查结果,并根据所述检查结果,得到所述抽检数据对应的质量评估结果。
其中,重复值检查用于基于密文检查抽检数据中是否存在重复数据。缺失值检查用于基于密文检查抽检数据中是否存在某个或某些数据的数据值是不完全的。数据倾斜检查用于基于密文检查在分布式***中,是否存在缓存数据分散度不够,导致大量的缓存数据集中到了某一台或某几台服务节点的情况。异常值检查用于基于密文检查抽检数据中是否存在不合理的数据值。
上述重复值检查、缺失值检查、数据倾斜检查、异常值检查均为明文数据中常用的质量评估方法。需要说明的是,上述几种明文数据的质量评估方法仅作为一种示例,在实际应用中,明文数据的其他质量评估方法均可应用在本发明实施例中对密文的抽检数据进行质量评估。
在本发明的一种可选实施例中,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,具体可以包括:
步骤S41、获取所述抽检数据对应的历史反馈信息;
步骤S42、根据所述历史反馈信息,得到所述抽检数据对应的质量评估结果。
在本发明实施例中,除了可以通过第一方(如数据需求方、第三方评估机构、以及数据交易平台)对抽检数据进行评估得到质量评估结果,还可以根据数据使用方的历史反馈信息确定抽检数据的质量评估结果。
在一个示例中,历史反馈信息可以包括:数据使用方在使用数据提供方的密文数据后,数据使用方的模型预测准确率提升的百分比,或者,数据使用方在使用数据提供方的密文数据后,数据使用方获得的用户转化率或者收益提升的百分比等。
其中,数据使用方可以包括数据需求方、第三方评估机构、以及数据交易平台等任意一方或多方。例如,数据需求方A和数据需求方B均已购买数据提供方C的密文数据的使用权。数据需求方A在使用数据提供方C的密文数据之后,其模型预测准确率提升了30%。数据需求方A可以向数据交易平台上传其使用数据提供方C的密文数据的反馈信息info1,该反馈信息info1中可以包括其使用数据提供方C的密文数据后模型预测准确率提升的百分比。又如,数据需求方B在使用数据提供方C的密文数据之后,其获得的用户转化率提升了40%。数据需求方B可以向数据交易平台上传其使用数据提供方C的密文数据的反馈信息info2,该反馈信息info2中可以包括其使用数据提供方C的密文数据后用户转化率提升的百分比。
数据交易平台可以将info1和info2作为数据使用方的历史反馈信息进行保存,在对数据提供方C的待提供数据进行质量评估时,可以将数据交易平台保存的历史反馈信息info1和历史反馈信息info2作为质量评估的参考依据。
在第一方对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果之后,根据所述抽检数据的质量评估结果,可以确定所述第二方的待提供数据的质量评估结果。由于所述抽检数据可以为第一方按照抽样比例从所述第二方的待提供数据中随机抽取的部分数据,或者,所述抽检数据还可以为所述第二方的待提供数据中的全部数据,因此,抽检数据的质量可以在一定程度上代表数据提供方待提供数据的整体质量,可以将所述抽检数据的质量评估结果作为第二方的待提供数据的质量评估结果。
需要说明的是,在具体应用中,第一方(如数据需求方、第三方评估机构、数据交易平台)可采用上述任意一种数据质量评估方法或者任意几种数据质量评估方法的组合对第二方的密文抽检数据进行质量评估。
在本发明的一种可选实施例中,所述确定所述待提供数据的质量评估结果之后,所述方法还可以包括:对所述待提供数据的质量评估结果和接收的所述安全标记进行数字签名后,保存至数据交易平台。
第一方可以将评估得到的所述待提供数据的质量评估结果和从第二方接收的所述安全标记进行数字签名,并且将所述待提供数据的质量评估结果、安全标记以及数字签名保存在数据交易平台,所述质量评估结果中包括如下任意一项或多项信息:评估方式、评估数据的比例、抽取方式。由此,数据需求方在购买数据提供方提供的密文数据的使用权之前,可以查询数据交易平台中已保存的数据提供方的数据质量评估结果,以检验数据提供方提供的密文数据的质量是否符合需求,再决定是否购买,由此可以提高基于密文数据交易的数据质量,可以提高密文数据交易的可靠性。
例如,数据需求方可以从以下几个方面检验数据提供方提供的密文数据的质量是否符合需求:其一、数据需求方可以使用第一方(如数据需求方、第三方评估机构、数据交易平台)的数字证书验证质量评估结果的数字签名是否合法。其二、数据需求方可以利用安全标记验证待购买使用权的密文数据的完整性。在验证完整性的过程中,可以对数据提供方待提供的全部数据条目的安全标记进行完整性验证,或者,为了保证验证效率,也可以对抽检数据的部分数据条目的安全标记进行完整性验证。其三、检验数据质量评估结果是否符合预设指标。例如,根据数据交易平台中存储的质量评估结果,可以查询得到使用某个数据提供方提供的密文数据是否可以满足模型预测准确率提升的预设指标,或者使用该数据提供方提供的密文数据是否可以满足用户转化率提升的预设指标等。
综上,本发明实施例提供的数据质量评估方法可应用于交易数据使用权的数据交易场景,通过第一方设备对第二方的密文数据进行质量评估。第二方可以向第一方发送安全标记及密文的抽检数据,以使第一方对其拥有的密文数据进行质量评估。所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,可用于检验数据完整性。在第二方的安全标记通过检验的情况下,第一方设备对第二方的密文的抽检数据进行质量评估。所述抽检数据可以为所述待提供数据中的部分或全部数据,抽检数据的质量可以在一定程度上反映数据提供方待提供数据的整体质量,因此,可以根据所述抽检数据的质量评估结果确定第二方的待提供数据的质量评估结果。
这样,数据需求方在购买数据提供方提供的密文数据的使用权之前,可以根据数据提供方的数据质量评估结果,检验数据提供方提供的密文数据的质量是否符合需求,再决定是否购买,由此可以提高基于密文数据交易的数据质量,可以提高密文数据交易的可靠性。
方法实施例二
参照图2,示出了本发明的另一种数据质量评估方法实施例的步骤流程图,该方法应用于交易数据使用权的数据交易场景,适用于第一方设备,具体可以包括如下步骤:
步骤201、接收来自第二方的安全标记。
第二方对待提供数据中每一个数据条目的密文生成对应的安全标记。例如,第二方利用不可逆加密算法,对待提供数据中每一个数据条目的密文进行计算,生成安全标记。所述待提供数据包括密文数据。所述数据条目指不可继续拆分的最小数据单元,如数据库的某一条字段等。
第二方将生成的安全标记发送给第一方(如数据需求方、第三方评估机构、数据交易平台),第一方接收来自第二方的安全标记。
步骤202、根据预设的抽样比例,计算抽检数据对应的索引值,向所述第二方发送所述索引值。
需要说明的是,当抽检数据用于数据质量评估时,可以由第一方按照与第二方协商的抽样比例(通常可以为较小比例,如0.01%、0.001%等)生成要抽检数据条目的索引值index。当抽检数据用于进行完整性验证时,可以由第一方单方面确定抽样比例。
步骤203、接收第二方发送的所述索引值对应的密文的抽检数据。
第二方接收到第一方发送的抽检数据对应的索引值index之后,向第一方发送所述索引值index对应的密文的抽检数据,第一方可以接收第二方发送的所述索引值index对应的密文的抽检数据。
步骤204、从已接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记。
第一方可以根据抽检数据对应的索引值index,在已接收的安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记。
步骤205、基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记。
第一方利用与第二方相同的不可逆加密算法,基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记。
步骤206、对所述第一安全标记与所述第二安全标记进行逐一匹配。
第一方对抽检数据中每一个数据条目的第一安全标记与该数据条目的第二安全标记进行匹配,判断二者是否相同,若抽检数据中所有数据条目的第一安全标记均与对应的第二安全标记相同,说明抽检数据的第一安全标记与第二安全标记匹配成功,也即,抽检数据通过完整性验证。
步骤207、在匹配成功情况下,对所述抽检数据进行质量评估。
若抽检数据中所有数据条目的第一安全标记均与第二安全标记相同,则匹配成功,说明抽检数据通过完整性验证,也即抽检数据为第一方抽取的数据。如果匹配不成功,说明第二方发送的抽检数据不是第一方抽取的数据,则可以终止数据交易。
需要说明的是,为了保证数据质量,第一方可以选择第二方待提供数据中的全部数据作为抽检数据进行完整性验证。当然,也可以为了保证完整性验证的效率,选择第二方待提供数据中的部分数据作为抽检数据进行完整性验证。
在抽检数据通过完整性验证之后,第一方可以对抽检数据进行质量评估,得到抽检数据的质量评估结果,进而可以确定所述待提供数据的质量评估结果。对抽检数据进行质量评估,可采用方法实施例一中任意一种数据质量评估方法或者任意几种数据质量评估方法的组合,此处不再进行赘述。
步骤208、对所述质量评估结果和接收的所述安全标记进行数字签名后,保存至数据交易平台。
第一方可以将评估得到的所述待提供数据的质量评估结果和从第二方接收的所述安全标记进行数字签名,并且将所述待提供数据的质量评估结果、安全标记以及数字签名保存在数据交易平台,所述质量评估结果中包括如下任意一项或多项信息:评估方式、评估数据的比例、抽取方式。
数据需求方在购买数据提供方提供的密文数据的使用权之前,可以查询数据交易平台中已保存的数据提供方的数据质量评估结果,以检验待购买使用权的数据提供方提供的密文数据的质量是否符合需求,再决定是否购买。
本发明实施例可以通过第一方设备对第二方的密文数据进行质量评估,质量评估过程以密文为基础,可以保证数据的隐私安全。此外,数据需求方在购买数据提供方提供的密文数据的使用权之前,可以查询数据交易平台中已保存的数据提供方的数据质量评估结果,以检验待购买使用权的数据提供方提供的密文数据的质量是否符合需求,再决定是否购买,由此可以提高基于密文数据交易的数据质量,可以提高密文数据交易的可靠性。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
装置实施例
参照图3,示出了本发明的一种数据质量评估装置实施例的结构框图,应用于交易数据使用权的数据交易场景,适用于第一方设备,所述装置具体可以包括:
数据接收模块301,用于接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
标记查询模块302,用于从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
标记计算模块303,用于基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
标记匹配模块304,用于对所述第一安全标记与所述第二安全标记进行逐一匹配;
质量评估模块305,用于在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
可选地,所述装置还可以包括:
索引计算模块,用于根据预设的抽样比例,计算抽检数据对应的索引值,向所述第二方发送所述索引值;
所述数据接收模块,具体用于接收来自第二方的安全标记及所述索引值对应的密文的抽检数据。
可选地,所述质量评估模块305,具体可以包括:
数据获取子模块,用于从可信第三方获取所述抽检数据对应的同数据,所述同数据包括密文数据;
数据比较子模块,用于对所述抽检数据中各数据条目的关键数据项与所述同数据中各数据条目的关键数据项,进行基于密文的比较操作,得到比较结果;
第一评估子模块,用于根据所述比较结果,得到所述抽检数据对应的质量评估结果。
可选地,所述质量评估模块305,具体可以包括:
模型训练子模块,用于使用所述抽检数据进行基于密文的模型训练,得到目标模型;
模型预测子模块,用于基于预设测试集,对所述目标模型进行测试,得到所述目标模型的预测结果;
第二评估子模块,用于根据所述预测结果,得到所述抽检数据对应的质量评估结果。
可选地,所述质量评估模块305,具体可以包括:
数据检查子模块,用于对所述抽检数据进行如下任意一项或多项检查操作:重复值检查、缺失值检查、数据倾斜检查、异常值检查,得到检查结果;
第三评估子模块,用于根据所述检查结果,得到所述抽检数据对应的质量评估结果。
可选地,所述质量评估模块305,具体可以包括:
历史获取子模块,用于获取所述抽检数据对应的历史反馈信息;
第四评估子模块,用于根据所述历史反馈信息,得到所述抽检数据对应的质量评估结果。
可选地,所述装置还可以包括:
结果上传模块,用于对所述待提供数据的质量评估结果和接收的所述安全标记进行数字签名后,保存至数据交易平台。
可选地,所述质量评估结果中包括如下任意一项或多项信息:评估方式、评估数据的比例、抽取方式。
可选地,所述安全标记为利用不可逆加密算法对所述待提供数据中的数据条目的密文计算得到。
***实施例
参照图4,示出了本发明的一种数据质量评估***实施例的结构框图,应用于交易数据使用权的数据交易场景,所述***包括第一方设备410、第二方设备420、数据交易平台430。
本发明实施例可应用于交易数据使用权的数据交易场景,数据交易的主要载体可以是数据交易平台,数据提供方可以向数据交易平台提供所要出售使用权的数据,数据需求方可以向数据交易平台提交所需数据的需求,数据交易平台根据数据需求方提出的需求,可以向数据需求方推荐符合其需求的数据提供方的数据信息,进而数据需求方和数据提供方可以基于数据交易平台实现数据使用权的数据交易。
为保障数据交易过程中数据的隐私安全,数据交易平台可以支持对密文数据的使用权进行交易。本发明实施例可以通过第一方设备对第二方的密文数据进行质量评估。其中,第一方指对密文数据进行质量评估的检验方。第二方指接受对其拥有的密文数据进行质量评估的被检验方。
所述第一方设备可以指数据需求方、第三方评估机构、以及数据交易平台的电子设备。所述第二方设备可以包括指数据提供方的电子设备。所述电子设备包括但不限于:服务器、智能终端等。
其中,所述第二方设备420,包括第一标记计算模块、数据发送模块;
所述第一标记计算模块,用于基于第二方待提供数据中的数据条目的密文计算安全标记;
所述数据发送模块,用于向所述第一方设备发送所述安全标记及密文的抽检数据,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
所述第一方设备410,包括数据接收模块、标记查询模块、第二标记计算模块、标记匹配模块、质量评估模块、结果保存模块;
所述数据接收模块,用于接收所述第二方设备发送的第二方的安全标记及密文的抽检数据;
所述标记查询模块,用于从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
所述第二标记计算模块,用于基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
所述标记匹配模块,用于对所述第一安全标记与所述第二安全标记进行逐一匹配;
所述质量评估模块,用于在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果;
所述结果保存模块,用于将所述待提供数据的质量评估结果保存至数据交易平台。
第一方设备可以将评估得到的所述待提供数据的质量评估结果和从第二方设备接收的所述安全标记进行数字签名,并且将所述待提供数据的质量评估结果、安全标记以及数字签名保存在数据交易平台,所述质量评估结果中包括如下任意一项或多项信息:评估方式、评估数据的比例、抽取方式。由此,数据需求方在购买数据提供方提供的密文数据的使用权之前,可以查询数据交易平台中已保存的数据提供方的数据质量评估结果,以检验数据提供方提供的密文数据的质量是否符合需求,再决定是否购买,由此可以提高基于密文数据交易的数据质量,可以提高密文数据交易的可靠性。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
本发明实施例提供了一种用于数据质量评估的装置,应用于交易数据使用权的数据交易场景,适用于第一方设备,包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;对所述第一安全标记与所述第二安全标记进行逐一匹配;在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
图5是根据一示例性实施例示出的一种用于数据质量评估的装置800的框图。例如,装置800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图5,装置800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制装置800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理元件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理***,一个或多个电源,及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当装置800处于操作模式,如呼叫模式、记录模式和语音信息处理模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为装置800提供各个方面的状态评估。例如,传感器组件814可以检测到设备800的打开/关闭状态,组件的相对定位,例如所述组件为装置800的显示器和小键盘,传感器组件814还可以检测装置800或装置800一个组件的位置改变,用户与装置800接触的存在或不存在,装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频信息处理(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器804,上述指令可由装置800的处理器820执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图6是本发明的一些实施例中服务器的结构示意图。该服务器1900可因配置或性能不同而产生比较大的差异,可以包括一个或一个以***处理器(central processingunits,CPU)1922(例如,一个或一个以上处理器)和存储器1932,一个或一个以上存储应用程序1942或数据1944的存储介质1930(例如一个或一个以上海量存储设备)。其中,存储器1932和存储介质1930可以是短暂存储或持久存储。存储在存储介质1930的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器中的一系列指令操作。更进一步地,中央处理器1922可以设置为与存储介质1930通信,在服务器1900上执行存储介质1930中的一系列指令操作。
服务器1900还可以包括一个或一个以上电源1926,一个或一个以上有线或无线网络接口1950,一个或一个以上输入输出接口1958,一个或一个以上键盘1956,和/或,一个或一个以上操作***1941,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM等等。
一种非临时性计算机可读存储介质,当所述存储介质中的指令由装置(服务器或者终端)的处理器执行时,使得装置能够执行图1所示的数据质量评估方法。
一种非临时性计算机可读存储介质,当所述存储介质中的指令由装置(服务器或者终端)的处理器执行时,使得装置能够执行一种数据质量评估方法,所述方法包括:接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;对所述第一安全标记与所述第二安全标记进行逐一匹配;在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
本发明实施例公开了A1、一种数据质量评估方法,应用于交易数据使用权的数据交易场景,适用于第一方设备,包括:
接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
对所述第一安全标记与所述第二安全标记进行逐一匹配;
在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
A2、根据A1所述的方法,所述接收来自第二方的安全标记及密文的抽检数据之前,所述方法还包括:
根据预设的抽样比例,计算抽检数据对应的索引值,向所述第二方发送所述索引值;
所述接收来自第二方的安全标记及密文的抽检数据,包括:
接收来自第二方的安全标记及所述索引值对应的密文的抽检数据。
A3、根据A1所述的方法,所述对所述抽检数据进行质量评估,包括:
从可信第三方获取所述抽检数据对应的同数据,所述同数据包括密文数据;
对所述抽检数据中各数据条目的关键数据项与所述同数据中各数据条目的关键数据项,进行基于密文的比较操作,得到比较结果;
根据所述比较结果,得到所述抽检数据对应的质量评估结果。
A4、根据A1所述的方法,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,包括:
使用所述抽检数据进行基于密文的模型训练,得到目标模型;
基于预设测试集,对所述目标模型进行测试,得到所述目标模型的预测结果;
根据所述预测结果,得到所述抽检数据对应的质量评估结果。
A5、根据A1所述的方法,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,包括:
对所述抽检数据进行如下任意一项或多项检查操作:重复值检查、缺失值检查、数据倾斜检查、异常值检查,得到检查结果;
根据所述检查结果,得到所述抽检数据对应的质量评估结果。
A6、根据A1所述的方法,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,包括:
获取所述抽检数据对应的历史反馈信息;
根据所述历史反馈信息,得到所述抽检数据对应的质量评估结果。
A7、根据A1所述的方法,所述确定所述待提供数据的质量评估结果之后,所述方法还包括:
对所述待提供数据的质量评估结果和接收的所述安全标记进行数字签名后,保存至数据交易平台。
A8、根据A1至A7任一所述的方法,所述质量评估结果中包括如下任意一项或多项信息:评估方式、评估数据的比例、抽取方式。
A9、根据A1至A7任一所述的方法,所述安全标记为利用不可逆加密算法对所述待提供数据中的数据条目的密文计算得到。
本发明实施例公开了B10、一种数据质量评估装置,应用于交易数据使用权的数据交易场景,适用于第一方设备,包括:
数据接收模块,用于接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
标记查询模块,用于从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
标记计算模块,用于基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
标记匹配模块,用于对所述第一安全标记与所述第二安全标记进行逐一匹配;
质量评估模块,用于在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
B11、根据B10所述的装置,所述装置还包括:
索引计算模块,用于根据预设的抽样比例,计算抽检数据对应的索引值,向所述第二方发送所述索引值;
所述数据接收模块,具体用于接收来自第二方的安全标记及所述索引值对应的密文的抽检数据。
B12、根据B10所述的装置,所述质量评估模块,包括:
数据获取子模块,用于从可信第三方获取所述抽检数据对应的同数据,所述同数据包括密文数据;
数据比较子模块,用于对所述抽检数据中各数据条目的关键数据项与所述同数据中各数据条目的关键数据项,进行基于密文的比较操作,得到比较结果;
第一评估子模块,用于根据所述比较结果,得到所述抽检数据对应的质量评估结果。
B13、根据B10所述的装置,所述质量评估模块,包括:
模型训练子模块,用于使用所述抽检数据进行基于密文的模型训练,得到目标模型;
模型预测子模块,用于基于预设测试集,对所述目标模型进行测试,得到所述目标模型的预测结果;
第二评估子模块,用于根据所述预测结果,得到所述抽检数据对应的质量评估结果。
B14、根据B10所述的装置,所述质量评估模块,包括:
数据检查子模块,用于对所述抽检数据进行如下任意一项或多项检查操作:重复值检查、缺失值检查、数据倾斜检查、异常值检查,得到检查结果;
第三评估子模块,用于根据所述检查结果,得到所述抽检数据对应的质量评估结果。
B15、根据B10所述的装置,所述质量评估模块,包括:
历史获取子模块,用于获取所述抽检数据对应的历史反馈信息;
第四评估子模块,用于根据所述历史反馈信息,得到所述抽检数据对应的质量评估结果。
B16、根据B10所述的装置,所述装置还包括:
结果上传模块,用于对所述待提供数据的质量评估结果和接收的所述安全标记进行数字签名后,保存至数据交易平台。
B17、根据B10至B15任一所述的装置,所述质量评估结果中包括如下任意一项或多项信息:评估方式、评估数据的比例、抽取方式。
B18、根据B10至B15任一所述的装置,所述安全标记为利用不可逆加密算法对所述待提供数据中的数据条目的密文计算得到。
本发明实施例公开了C19、一种用于数据质量评估的装置,应用于交易数据使用权的数据交易场景,适用于第一方设备,包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:
接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
对所述第一安全标记与所述第二安全标记进行逐一匹配;
在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
C20、根据C19所述的装置,所述装置还经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:
根据预设的抽样比例,计算抽检数据对应的索引值,向所述第二方发送所述索引值;
所述接收来自第二方的安全标记及密文的抽检数据,包括:
接收来自第二方的安全标记及所述索引值对应的密文的抽检数据。
C21、根据C19所述的装置,所述对所述抽检数据进行质量评估,包括:
从可信第三方获取所述抽检数据对应的同数据,所述同数据包括密文数据;
对所述抽检数据中各数据条目的关键数据项与所述同数据中各数据条目的关键数据项,进行基于密文的比较操作,得到比较结果;
根据所述比较结果,得到所述抽检数据对应的质量评估结果。
C22、根据C19所述的装置,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,包括:
使用所述抽检数据进行基于密文的模型训练,得到目标模型;
基于预设测试集,对所述目标模型进行测试,得到所述目标模型的预测结果;
根据所述预测结果,得到所述抽检数据对应的质量评估结果。
C23、根据C19所述的装置,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,包括:
对所述抽检数据进行如下任意一项或多项检查操作:重复值检查、缺失值检查、数据倾斜检查、异常值检查,得到检查结果;
根据所述检查结果,得到所述抽检数据对应的质量评估结果。
C24、根据C19所述的装置,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,包括:
获取所述抽检数据对应的历史反馈信息;
根据所述历史反馈信息,得到所述抽检数据对应的质量评估结果。
C25、根据C19所述的装置,所述装置还经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:
对所述待提供数据的质量评估结果和接收的所述安全标记进行数字签名后,保存至数据交易平台。
C26、根据C19至C25任一所述的装置,所述质量评估结果中包括如下任意一项或多项信息:评估方式、评估数据的比例、抽取方式。
C27、根据C19至C25任一所述的装置,所述安全标记为利用不可逆加密算法对所述待提供数据中的数据条目的密文计算得到。
本发明实施例公开了D29、一种机器可读介质,其上存储有指令,当由一个或多个处理器执行时,使得装置执行如A1至A9中一个或多个所述的数据质量评估方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本发明旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
以上对本发明所提供的一种数据质量评估方法、一种数据质量评估装置和一种用于数据质量评估的装置,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种数据质量评估方法,其特征在于,应用于交易数据使用权的数据交易场景,适用于第一方设备,所述方法包括:
接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
对所述第一安全标记与所述第二安全标记进行逐一匹配;
在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
2.根据权利要求1所述的方法,其特征在于,所述接收来自第二方的安全标记及密文的抽检数据之前,所述方法还包括:
根据预设的抽样比例,计算抽检数据对应的索引值,向所述第二方发送所述索引值;
所述接收来自第二方的安全标记及密文的抽检数据,包括:
接收来自第二方的安全标记及所述索引值对应的密文的抽检数据。
3.根据权利要求1所述的方法,其特征在于,所述对所述抽检数据进行质量评估,包括:
从可信第三方获取所述抽检数据对应的同数据,所述同数据包括密文数据;
对所述抽检数据中各数据条目的关键数据项与所述同数据中各数据条目的关键数据项,进行基于密文的比较操作,得到比较结果;
根据所述比较结果,得到所述抽检数据对应的质量评估结果。
4.根据权利要求1所述的方法,其特征在于,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,包括:
使用所述抽检数据进行基于密文的模型训练,得到目标模型;
基于预设测试集,对所述目标模型进行测试,得到所述目标模型的预测结果;
根据所述预测结果,得到所述抽检数据对应的质量评估结果。
5.根据权利要求1所述的方法,其特征在于,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,包括:
对所述抽检数据进行如下任意一项或多项检查操作:重复值检查、缺失值检查、数据倾斜检查、异常值检查,得到检查结果;
根据所述检查结果,得到所述抽检数据对应的质量评估结果。
6.根据权利要求1所述的方法,其特征在于,所述对所述抽检数据进行质量评估,得到所述抽检数据对应的质量评估结果,包括:
获取所述抽检数据对应的历史反馈信息;
根据所述历史反馈信息,得到所述抽检数据对应的质量评估结果。
7.一种数据质量评估装置,其特征在于,应用于交易数据使用权的数据交易场景,适用于第一方设备,所述装置包括:
数据接收模块,用于接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
标记查询模块,用于从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
标记计算模块,用于基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
标记匹配模块,用于对所述第一安全标记与所述第二安全标记进行逐一匹配;
质量评估模块,用于在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
8.一种用于数据质量评估的装置,其特征在于,应用于交易数据使用权的数据交易场景,适用于第一方设备,所述装置包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:
接收来自第二方的安全标记及密文的抽检数据,所述安全标记为所述第二方基于待提供数据中的数据条目的密文所生成,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
对所述第一安全标记与所述第二安全标记进行逐一匹配;
在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果。
9.一种数据质量评估***,其特征在于,应用于交易数据使用权的数据交易场景,所述***包括第一方设备、第二方设备、数据交易平台;其中,
所述第二方设备,包括第一标记计算模块、数据发送模块;
所述第一标记计算模块,用于基于第二方待提供数据中的数据条目的密文计算安全标记;
所述数据发送模块,用于向所述第一方设备发送所述安全标记及密文的抽检数据,所述抽检数据为所述待提供数据中的部分或全部数据,所述待提供数据包括密文数据;
所述第一方设备,包括数据接收模块、标记查询模块、第二标记计算模块、标记匹配模块、质量评估模块、结果保存模块;
所述数据接收模块,用于接收所述第二方设备发送的第二方的安全标记及密文的抽检数据;
所述标记查询模块,用于从接收的所述安全标记中,查询得到所述抽检数据中的数据条目对应的第一安全标记;
所述第二标记计算模块,用于基于所述抽检数据中的数据条目的密文,生成所述抽检数据中的数据条目对应的第二安全标记;
所述标记匹配模块,用于对所述第一安全标记与所述第二安全标记进行逐一匹配;
所述质量评估模块,用于在匹配成功情况下,对所述抽检数据进行质量评估,得到所述抽检数据的质量评估结果,从而确定所述待提供数据的质量评估结果;
所述结果保存模块,用于将所述待提供数据的质量评估结果保存至数据交易平台。
10.一种机器可读介质,其上存储有指令,当由一个或多个处理器执行时,使得装置执行如权利要求1至6任一所述的数据质量评估方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010220629.2A CN112685765A (zh) | 2020-03-25 | 2020-03-25 | 一种数据质量评估方法、装置和用于数据质量评估的装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010220629.2A CN112685765A (zh) | 2020-03-25 | 2020-03-25 | 一种数据质量评估方法、装置和用于数据质量评估的装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112685765A true CN112685765A (zh) | 2021-04-20 |
Family
ID=75445278
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010220629.2A Pending CN112685765A (zh) | 2020-03-25 | 2020-03-25 | 一种数据质量评估方法、装置和用于数据质量评估的装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112685765A (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1698111A (zh) * | 2001-12-05 | 2005-11-16 | 皇家飞利浦电子股份有限公司 | 验证***数据完整性的方法和设备 |
CN108009646A (zh) * | 2017-11-30 | 2018-05-08 | 深圳市轱辘车联数据技术有限公司 | 车辆数据处理方法及服务器 |
CN108647966A (zh) * | 2018-05-09 | 2018-10-12 | 深圳市融讯科技有限公司 | 一种基于区块链的数据交互方法及装置 |
CN109472596A (zh) * | 2018-10-16 | 2019-03-15 | 中国传媒大学 | 基于交易评估的联盟链共识方法及*** |
CN109948684A (zh) * | 2019-03-12 | 2019-06-28 | 百度在线网络技术(北京)有限公司 | 点云数据标注质量的质检方法、装置及其相关设备 |
-
2020
- 2020-03-25 CN CN202010220629.2A patent/CN112685765A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1698111A (zh) * | 2001-12-05 | 2005-11-16 | 皇家飞利浦电子股份有限公司 | 验证***数据完整性的方法和设备 |
CN108009646A (zh) * | 2017-11-30 | 2018-05-08 | 深圳市轱辘车联数据技术有限公司 | 车辆数据处理方法及服务器 |
CN108647966A (zh) * | 2018-05-09 | 2018-10-12 | 深圳市融讯科技有限公司 | 一种基于区块链的数据交互方法及装置 |
CN109472596A (zh) * | 2018-10-16 | 2019-03-15 | 中国传媒大学 | 基于交易评估的联盟链共识方法及*** |
CN109948684A (zh) * | 2019-03-12 | 2019-06-28 | 百度在线网络技术(北京)有限公司 | 点云数据标注质量的质检方法、装置及其相关设备 |
Non-Patent Citations (1)
Title |
---|
曹刚 等: "《数字内容安全技术》", 31 October 2016, 北京:中国传媒大学出版社, pages: 221 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11810080B2 (en) | Systems and method for tracking enterprise events using hybrid public-private blockchain ledgers | |
CN113168637B (zh) | 用于交易验证期间的次级欺诈检测的方法和*** | |
US11297500B2 (en) | Authenticating digital evidence | |
EP3207464B1 (en) | Method, device, terminal, and server for verifying security of service operation | |
CN106453245B (zh) | 验证身份的方法及装置 | |
CN111489155B (zh) | 一种数据处理方法、装置和用于数据处理的装置 | |
US20190188708A1 (en) | Digital payment system | |
CN112184218B (zh) | 一种数据处理方法、装置和用于数据处理的装置 | |
CN111383113A (zh) | 可疑客户预测方法、装置、设备及可读存储介质 | |
CN110909259A (zh) | 基于区块链的用户推荐方法、装置、设备及存储介质 | |
US11120160B2 (en) | Distributed personal data storage and encrypted personal data service based on secure computation | |
CN105553942B (zh) | 应用跳转的方法及*** | |
CN113159944A (zh) | 一种数据处理方法、装置和用于数据处理的装置 | |
CN110765490A (zh) | 用于处理信息的方法和装置 | |
CN112487415B (zh) | 计算任务的安全性检测方法及装置 | |
CN114266680A (zh) | 基于区块链的电子合同签约方法、装置及*** | |
CN111367993A (zh) | 基于端对端的数据服务方法及装置 | |
CA2948229A1 (en) | Systems and method for tracking enterprise events using hybrid public-private blockchain ledgers | |
CN106251223A (zh) | 交易方可靠性确定方法和装置 | |
WO2023206543A1 (zh) | 数据存证方法、装置、电子设备和非瞬态计算机可读存储介质 | |
CN112685765A (zh) | 一种数据质量评估方法、装置和用于数据质量评估的装置 | |
CN106408304B (zh) | 账户安全管理方法和装置 | |
CN109815393B (zh) | 信息处理方法、装置、计算机设备及可读存储介质 | |
US20210168129A1 (en) | System and method for persistent authentication of a user for issuing virtual tokens | |
CN115329390B (zh) | 基于隐私保护计算的金融隐私信息的安全审核方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |