CN116383193A - 一种数据管理方法、装置、电子设备和存储介质 - Google Patents
一种数据管理方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN116383193A CN116383193A CN202211559343.2A CN202211559343A CN116383193A CN 116383193 A CN116383193 A CN 116383193A CN 202211559343 A CN202211559343 A CN 202211559343A CN 116383193 A CN116383193 A CN 116383193A
- Authority
- CN
- China
- Prior art keywords
- model
- meta
- standardized
- data
- metadata
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000013523 data management Methods 0.000 title claims abstract description 31
- 238000013507 mapping Methods 0.000 claims abstract description 64
- 238000007726 management method Methods 0.000 claims description 20
- 238000003062 neural network model Methods 0.000 claims description 14
- 238000004422 calculation algorithm Methods 0.000 claims description 11
- 230000000007 visual effect Effects 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 5
- 239000013598 vector Substances 0.000 description 10
- 238000010586 diagram Methods 0.000 description 7
- 230000007246 mechanism Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 238000012216 screening Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000010380 label transfer Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000001303 quality assessment method Methods 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/283—Multi-dimensional databases or data warehouses, e.g. MOLAP or ROLAP
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开了一种数据管理方法、装置、电子设备和存储介质。该方法包括：在元数据库中获取预先定义的字段对应的元数据，并将元数据存储至数据库元模型；从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将标准数据项存储至标准元模型；基于数据库元模型和标准化元模型确定元数据库和标准化文件之间的映射规则；按照映射规则对元数据库的数据和标准化文件的数据进行管理。本发明实施例的方法可以根据数据库元模型和标准化元模型自动生成元数据库和标准化文件之间的映射规则，进而通过该映射规则对业务数据进行快速、有效地数据质量管理。
Description
技术领域
本发明实施例涉及智能问答领域，尤其涉及一种数据管理方法、装置、电子设备和存储介质。
背景技术
数据质量管理是对支持业务需求的数据进行全面的质量管理。通过人工制定和执行数据质量规则，检验数据的准确性、完整性、及时性、一致性和规范性，发现并解决数据质量问题。数据质量管理可以改善数据质量，提升业务价值。元数据是一种描述信息资源或数据等对象的数据，元数据的使用目的包括识别资源、评价资源、追踪资源在使用过程中的变化以及实现简单高效地管理大量网络化数据。元数据可以帮助数据仓库管理员和数据仓库的开发人员方便地找到其需要的数据，实现对信息资源的有效发现、查找和一体化组织。
现有的数据质量管理方法大都需要人工配置数据表之间的映射规则等。但是在实际项目中，数据表的数量庞大且关系复杂，人工配置经常会出现错误并且发生错误，自动化程度低，浪费人力资源的同时降低了数据质量管理的效率和准确率。
发明内容
本发明提供一种数据管理方法、装置、电子设备和存储介质，能够自动准确地生成数据表之间的映射规则，对数据进行快速、有效地数据质量管理。
第一方面，本发明实施例提供了一种数据管理方法，所述方法包括：
在元数据库中获取预先定义的字段对应的元数据，并将所述元数据存储至数据库元模型；
从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将所述标准数据项存储至标准元模型；
基于所述数据库元模型和所述标准化元模型确定所述元数据库和所述标准化文件之间的映射规则；
按照所述映射规则对所述元数据库的数据和所述标准化文件的数据进行管理。
第二方面，本发明实施例还提供了一种数据管理装置，所述装置包括：
第一存储模块，用于在元数据库中获取预先定义的字段对应的元数据，并将所述元数据存储至数据库元模型；
第二存储模块，用于从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将所述标准数据项存储至标准元模型；
确定模块，用于基于所述数据库元模型和所述标准化元模型确定所述元数据库和所述标准化文件之间的映射规则；
管理模块，用于按照所述映射规则对所述元数据库的数据和所述标准化文件的数据进行管理。
第三方面，本发明实施例还提供了一种电子设备，所述电子设备包括：
一个或多个处理器；
存储器，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任意实施例提供的数据管理方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任意实施例提供的数据管理方法。
本发明实施例中，在元数据库中获取预先定义的字段对应的元数据，并将元数据存储至数据库元模型；从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将标准数据项存储至标准元模型；基于数据库元模型和标准化元模型确定元数据库和标准化文件之间的映射规则；按照映射规则对元数据库的数据和标准化文件的数据进行管理。即本发明实施例的方法，可以根据数据库元模型和标准化元模型自动生成元数据库和标准化文件之间的映射规则，进而通过该映射规则对业务数据进行快速、有效地数据质量管理。提高了数据质量管理的效率和正确率，并且还可以根据其映射规则探索业务数据潜在的其他质量问题，进一步提高了用户体验。
附图说明
图1是本发明实施例提供的数据管理方法的第一流程图；
图2是本发明实施例提供的数据库元模型的结构图；
图3是本发明实施例提供的数据管理方法的第二流程图；
图4是本发明实施例提供的将元数据存储至存储引擎的方法的流程示意图；
图5是本发明实施例提供的数据管理装置的结构示意图；
图6是本发明实施例提供的电子设备的一个结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
图1是本发明实施例提供的数据管理方法的第一流程图，本实施例的方法能够自动化的准确的生成数据表之间的映射规则，对数据进行快速、有效地数据质量管理。该方法可以由本发明实施例中的数据管理装置来执行，该装置可集成在电子设备中，所述电子设备可以是服务器，该方法可以采用软件和/或硬件的方式实现。本实施例提供的数据管理方法具体包括如下步骤：
步骤101、在元数据库中获取预先定义的字段对应的元数据，并将元数据存储至数据库元模型。
其中，元数据是一种用于描述数据的属性信息的数据。元数据还可以用于支撑业务***的功能，例如指示存储位置、整理历史数据、资源查找以及文件记录等功能。元数据库是按照数据结构来组织、存储和管理数据的数据仓库。元模型中规定了数据的类别、数据之间的关系以及数据的获取方式等。字段是元数据库表中的记录信息。本方案中，为了提高数据共享的通用性，可以根据公共仓库元模型的规范交换标准来设计数据库元模型。
示例性的，图2是本发明实施例提供的数据库元模型的结构图。如图2所示，数据库元模型主要包括业务***信息表、数据源信息表、数据集信息表、数据项信息表、***代码表和标准数据元信息表。各个信息表中包括各个信息表对应的字段。例如***代码表中包括序号、代码、名称、代码类型、状态和录入时间以及其对应的数据格式。
进一步地，在确定出数据库元模型的结构后，可以获取数据库元模型的数据表的字段，通过接口网关等从元数据库中采集该字段对应的元数据。对采集到的元数据进行元类型识别，根据元类型的识别结果将元数据输入进图引擎中，通过图引擎将元数据转化为可视化数据，最后再将可视化数据存储至数据库元模型中。
步骤102、从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将标准数据项存储至标准元模型。
其中，标准化文件是按照固定格式排版的以文字内容为主的文件，例如相关机构颁布的《自然资源厅行业标准》。实体是标准化文件中与元数据库中的字段对应的文字内容。标准数据项是与元数据库表中的字段对应的，并且与元数据库模型中存储的数据的格式相同的数据项。标准元模型是根据具体业务需求和实际环境预先定义好的一个元模型。
在一种可选的实施方式中，根据具体业务需求和实际环境获取到标准化文件，将标准化文件输入进预先确定好的神经网络模型中，抽取出标准化文件中与数据库中的字段对应的实体。将实体转化成与元数据库模型中存储的数据的格式相同的标准数据项，将标准数据项存储至预先定义好的标准元模型中。
步骤103、基于数据库元模型和标准化元模型确定元数据库和标准化文件之间的映射规则。
其中，映射规则表达了元数据库和标准化文件中的数据之间的转换关系等，服务器可以根据映射规则对标准化文件的数据进行管理。
在一种可选的实施方式中，在确定了数据库元模型和标准化元模型之后，对数据库元模型和标准化元模型中的字段分别进行合并，得到数据库元模型的合并后的字段和标准化元模型的合并后的字段；对数据库元模型的合并后的字段和标准化元模型的合并后的字段分别对应的元数据记录进行融合，得到数据库元模型对应的目标数据库元模型和标准化元模型对应的目标标准化元模型；计算目标数据库元模型和目标标准化元模型之间的目标相似度，并将目标相似度确定为数据库元模型和标准化元模型之间的模型相似度。进一步地，基于模型相似度确定数据库元模型和标准化元模型中对应的数据表的表相似度；再筛选出表相似度大于第二预设阈值的数据表，根据表相似度大于第二预设阈值的数据表的表描述和字段描述，确定出元数据库和标准化文件的数据之间的映射规则。
步骤104、按照映射规则对元数据库的数据和标准化文件的数据进行管理。
其中，映射规则表示了元数据库和标准化文件中的数据之间的转换关系等。对元数据库的数据和标准化文件的数据进行管理包括对数据进行数据清洗、质量规则管理、数据质监监控、数据质量评估、数据质量报告、数据质量改进以及数据加密管理等。
具体地，在人工对数据进行管理的过程中，可能会遗漏个别的字段，没有对该字段做格式的统一标准化。此时，可以对元数据库模型中的每张表进行排查，查找出该字段(没有根据映射规则做匹配的字段)所在的表，再从这张表中查找出该字段，这种方式不仅效率低且慢，并且不能自动探索数据潜在的其他质量问题。按照映射规则对元数据库的数据和标准化文件的数据进行管理可以避免这种情况发生。示例性的，在数据清洗过程中，根据业务需求，现需要对所有的时间字段做格式的统一。首先对标准数据项中的元数据信息进行筛选，筛选出字段类型为日期的时间型的字段；将这些字段和元数据库模型中的元数据信息中做了时间格式转换的字段进行比较，就可以快速、便捷的找到遗漏的日期时间字段。因此，将元模型融入到数据处理的流程里，将业务需求转变成具体的元数据规则沉淀到自主驱动代码的数据库元模型里，可以让元数据里定义的信息作为业务需求任务开发的参数信息进行传递，进而自动生成具体的开发任务，实现自动化的按照映射规则对元数据库的数据和标准化文件的数据进行管理。
本实施例的技术方案中，在元数据库中获取预先定义的字段对应的元数据，并将元数据存储至数据库元模型；从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将标准数据项存储至标准元模型；基于数据库元模型和标准化元模型确定元数据库和标准化文件之间的映射规则；按照映射规则对元数据库的数据和标准化文件的数据进行管理。本实施例的技术方案中，可以根据数据库元模型和标准化元模型自动生成元数据库和标准化文件之间的映射规则，进而通过该映射规则对业务数据进行快速、有效地数据质量管理。提高了数据质量管理的效率和正确率，并且还可以根据其映射规则探索业务数据潜在的其他质量问题，进一步提高了用户体验。
图3是本发明实施例提供的数据管理方法的第二流程图，如图3所示，该方法主要包括如下步骤：
步骤301、在元数据库中获取预先定义的字段对应的元数据。
步骤302、对元数据进行元类型识别，得到元数据对应的识别结果。
其中，可以通过对具体的业务需求进行分析得到元数据的元类型。在一种可选的实施方式中，可以根据业务需求预先定义元数据的各个类型。再根据元数据库的表中与元数据的各个类型对应的类型字段对元数据进行元类型识别。
示例性的，当需要对元数据库的表进行元类型识别时，可以对表描述、表属性等进行识别，识别出每个表的表描述、表属性对应的元类型。当需要对元数据库中的表的元数据进行元类型识别时，可以对每条元数据对应的字段进行识别，识别出每条元数据对应的元类型。
步骤303、基于识别结果将元数据转换成对应的可视化数据，并将可视化数据存储至数据库元模型。
其中，可视化数据是对元数据的格式进行转化后，可以直接展示给用户的，直观的数据。在一种可选的实施方式中，可以通过图引擎将元数据转换成对应的可视化数据。图引擎是一种高效的数据组织，可以有效地对百亿节点千亿边规模的数据进行分析，提供高并发、秒级多跳的实时查询数据的能力，将底层的元数据转换成可以可视化操作的数据。进一步地，将可视化数据存储至数据库元模型中的存储引擎。存储引擎可以将数据用各种不同的技术存储在文件(或者内存)中。这些技术中的每一种技术都使用不同的存储机制、索引技巧、锁定水平并且最终提供广泛的不同的功能和能力。通过选择不同的技术，能够获得额外的速度或者功能，从而改善业务***的整体功能。
示例性的，图4是本发明实施例提供的将元数据存储至存储引擎的方法的流程示意图。如图4所示，从元数据库中获取预先定义的字段对应的元数据，元数据库包括HIVE数据仓库工具、SPARK数据引擎、HBASE开源数据库以及FLINK分布式流数据流引擎等。将采集到的元数据发送至KAFKA消息中间件和API GW等。进一步地，服务器可以自动化从KAFKA消息中间件和API GW等自动采集元数据。对采集到的元数据进行元类型识别，再根据元类型识别结果将元数据发送至图引擎，通过图引擎将元数据转化成可视化数据，再将可视化数据存储至INDEXES或元存储HBASE等存储引擎中。
在一种可选的实施方式中，元数据库中包括Hook机制。Hook机制是Windows***中提供的一种用以替换DOS***下“中断”的***机制。本方案中的Hook机制是由Hook抽象类(class)和元数据库对应的派生类来实现的，KAFKA消息中间件和APIGW网关等与元数据库的Hook机制长连接呼应。
步骤304、从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将标准数据项存储至标准元模型。
其中，标准化文件是按照固定格式排版的以文字内容为主的文件，实体是标准化文件中与元数据库中的字段对应的文字内容。标准数据项是与元数据库表中的字段对应的，并且与元数据库模型中存储的数据的格式相同的数据项。标准元模型是根据具体需求和实际环境预先定义好的一个元模型。
本方案实施例中，可选的，从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，包括：将标准化文件输入至预先确定的神经网络模型中，通过神经网络模型得到标准化文件中的实体；将实体转换为与其对应的标准数据项。
其中，神经网络模型是一种智能算法，神经网络模型是机器学习、深度学习的核心，针对不同的问题，用户可以搭建不同的神经网络模型。本方案中，采用条件随机场对预先确定的神经网络模型模型做序列标注，在神经网络模型的输出层接入条件随机场，以利用标签转移概率来做文档级别的标签预测，使得标注过程不再是对各个标签(token)独立分类。在实际应用中，标准化文件一般是具有固定排版的文档格式的文件，将文件输入进预先确定的神经网络模型后，神经网络模型可以对标准化文件做文档级别的标签预测，根据预先定义的实体，从标准化文件中抽取出与预先定义的字段对应的实体。进一步的，利用预先定义的数据转化语句，将实体转换为与其对应的标准数据项，将标准数据项存储至预先确定的标准元模型中。
上述步骤中，可以利用神经网络模型和条件随机场快速、准确的从标准化文件中抽取出需要的实体，为后续生成元数据库和标准化文件之间的映射规则奠定了基础。
步骤305、计算数据库元模型和标准化元模型的模型相似度。
其中，模型相似度用于表示数据库元模型和标准化元模型中的各个表和各条数据的相似程度。本方案实施例中，可选的，计算数据库元模型和标准化元模型的模型相似度，包括如下步骤A1-步骤A4：
步骤A1：基于编辑距离算法分别计算数据库元模型中的字段的字段相似度和标准化元模型中的字段的字段相似度。
其中，编辑距离算法是一种用于计算两个文本之间的相似度的算法。字段是数据库元模型和标准化元模型中的表中的记录信息，也是其数据表中的一些关键字。
具体地，计算出在数据库元模型和标准化元模型中数据表的两个字段之间，由一个数据表转成另一个数据表所需要的最小编辑操作次数。具体包括将一个字段替换成另一个字段，***一个字段，删除一个字段。得到的编辑操作次数越小，则表示两个字段之间的相似度越小。
步骤A2：将数据库元模型中的字段相似度大于第一预设阈值的字段和标准元数据库模型中的字段相似度大于第一预设阈值的字段分别进行合并，得到数据库元模型的合并后的字段和标准化元模型的合并后的字段。
其中，第一预设阈值是根据业务需求预先确定的字段相似度值。示例性的，第一预设阈值为85％。根据编辑距离算法分别计算出数据库元模型中的字段的字段相似度和元数据库模型中的字段的字段相似度。根据该字段相似度分别从数据库元模型中的字段和元数据库模型中的字段中筛选出字段相似度大于85％的字段，将这些字段进行合并，得到数据库元模型的合并后的字段和标准化元模型的合并后的字段。
步骤A3：对数据库元模型的合并后的字段和标准化元模型的合并后的字段分别对应的元数据记录进行融合，得到数据库元模型对应的目标数据库元模型和标准化元模型对应的目标标准化元模型。
其中，数据库元模型和标准化元模型的字段对应有多条元数据记录。具体地，将数据库元模型和标准化元模型中的相似度大于第一预设阈值的字段进行和合并后，遍历数据库元模型合并后的字段和标准化元模型合并后的字段，从这些字段对应的字段描述中识别出该字段对应的语义。将其对应的语义映射到空间向量，得到字段对应的字段向量，将字段向量叠加后，得到字段所在的表的表向量。进一步的，将表向量和表向量中的字段向量计算表中的字段对应的元数据记录进行融合，将多条元数据记录融合成一条元数据记录，最终得到数据库元模型对应的目标数据库元模型和标准化元模型对应的目标标准化元模型。
步骤A4：计算目标数据库元模型和目标标准化元模型之间的目标相似度，并将目标相似度确定为模型相似度。
具体地，在得到目标数据库元模型和目标标准化元模型的表向量后，利用编辑距离算法可以计算出表向量之间的相似度，将目标数据库元模型和目标标准化元模型中的各个表向量之间的相似度进行叠加，可以确定出目标数据库元模型和目标标准化元模型之间的目标相似度。
上述步骤中，可以根据编辑距离算法分别对数据库元模型和标准化元模型中的元数据记录进行融合，得到能够准确描述数据的目标数据库元模型和目标标准化元模型，再根据目标数据库元模型和目标标准化元模型计算出模型相似度，提高了计算出的模型相似度的准确度，进一步提高了确定元数据库和标准化数据之间的映射规则的准确性，提高了数据质量管理的效率和正确率。
步骤306、基于模型相似度确定元数据库和标准化数据之间的映射规则。
其中，映射规则表达了元数据库和标准化文件中的数据之间的转换关系等，服务器可以根据映射规则对标准化文件的数据进行管理。本方案实施例中，可选的，基于模型相似度确定元数据库和标准化数据之间的映射规则包括如下步骤B1-步骤B2：
步骤B1：基于模型相似度确定元数据库模型和标准化元模型中对应的数据表的表相似度。
其中，数据表的表相似度用于表示各个数据表之间的相似情况。具体地，数据库元模型和标准化元模型之间的模型相似度越大，则表明其模型中对应的数据表的表相似度越大。根据数据库元模型和标准化元模型之间的模型相似度，可以初步得到其模型中各个数据表之间的表相似度。
步骤B2：基于表相似度大于第二预设阈值的数据表的表描述和字段描述，确定元数据库和标准化文件的之间的映射规则。
其中，第二预设阈值是根据具体的业务需求预先设置的数据表的相似值。具体地，在得到数据库元模型和标准化元模型的数据表之间的表相似度后，筛选出表相似度大于第二预设阈值的数据表。在一种可选的实施方式中，可以利用TextRank算法和摘要提取算法提取出数据表对应的字段描述的摘要信息，再利用BERT模型和神经网络模型中的FineTune数据库元模型和标准化元模型的数据表之间对应的字段描述映射起来，反推出这些表对应的字段之间的映射，并将字段映射提取出来，然后到预先确定的标准规范里去匹配映射的字段，最终得到数据标准与元数据库映射规则信息。
上述步骤中，可以根据元数据库模型和标准化元模型中对应的数据表的表相似度，自动化准确地生成数据表之间的映射规则，实现对数据进行快速、有效地数据质量管理。
步骤307、按照映射规则对元数据库的数据和标准化文件的数据进行管理。
本发明实施例提供的数据管理方法，可以在元数据库中获取预先定义的字段对应的元数据。对元数据进行元类型识别，得到元数据对应的识别结果。基于识别结果将元数据转换成对应的可视化数据，并将可视化数据存储至数据库元模型。从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将标准数据项存储至标准元模型。计算数据库元模型和标准化元模型的模型相似度。基于模型相似度确定元数据库和标准化数据之间的映射规则。按照映射规则对元数据库的数据和标准化文件的数据进行管理。本实施例的技术方案，可以根据数据库元模型和标准化元模型自动生成元数据库和标准化文件之间的映射规则，进而通过该映射规则对业务数据进行快速、有效地数据质量管理。提高了数据质量管理的效率和正确率，并且还可以根据其映射规则探索业务数据潜在的其他质量问题，进一步提高了用户体验。
图5是本发明实施例提供的数据管理装置的结构示意图。本发明实施例提供了一种数据管理装置，所述装置包括：
第一存储模块501，用于在元数据库中获取预先定义的字段对应的元数据，并将所述元数据存储至数据库元模型；
第二存储模块502，用于从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将所述标准数据项存储至标准元模型；
确定模块503，用于基于所述数据库元模型和所述标准化元模型确定所述元数据库和所述标准化文件之间的映射规则；
管理模块504，用于按照所述映射规则对所述元数据库的数据和所述标准化文件的数据进行管理。
可选的，第一存储模块501，具体用于：对所述元数据进行元类型识别，得到所述元数据对应的识别结果；
基于所述识别结果将所述元数据转换成对应的可视化数据，并将所述可视化数据存储至所述数据库元模型。
可选的，第二存储模块502具体用于:将所述标准化文件输入至预先确定的神经网络模型中，通过所述神经网络模型得到所述标准化文件中的实体；
将所述实体转换为与其对应的标准数据项。
可选的，确定模块503具体用于：计算所述数据库元模型和所述标准化元模型的模型相似度；
基于所述模型相似度确定所述元数据库和所述标准化数据之间的映射规则。
可选的，确定模块503还用于：对所述数据库元模型和所述标准化元模型中的字段分别进行合并，得到所述数据库元模型的合并后的字段和所述标准化元模型的合并后的字段；
对所述数据库元模型的合并后的字段和所述标准化元模型的合并后的字段分别对应的元数据记录进行融合，得到所述数据库元模型对应的目标数据库元模型和所述标准化元模型对应的目标标准化元模型；
计算所述目标数据库元模型和所述目标标准化元模型之间的目标相似度，并将所述目标相似度确定为所述模型相似度。
可选的，确定模块503还用于：基于编辑距离算法分别计算所述数据库元模型中的字段的字段相似度和所述标准化元模型中的字段的字段相似度；
将所述数据库元模型中的字段相似度大于第一预设阈值的字段和所述标准元数据库模型中的字段相似度大于所述第一预设阈值的字段分别进行合并。
可选的，确定模块503还用于：基于所述模型相似度确定所述元数据库模型和所述标准化元模型中对应的数据表的表相似度；
根据所述表相似度大于第二预设阈值的数据表的表描述和字段描述，确定所述元数据库和所述标准化文件的之间的映射规则。
本发明实施例所提供的数据管理装置可执行本发明任意实施例所提供的数据管理方法，具备执行方法相应的功能模块和有益效果。
图6是本发明实施例提供的电子设备的一个结构示意图，参考图6，其示出了适于用来实现本发明实施例的电子设备的计算机***12的结构示意图。图6示出的电子设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。电子设备12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，***存储器28，连接不同***组件(包括***存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，***总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及***组件互连(PCI)总线。
电子设备12典型地包括多种计算机***可读介质。这些介质可以是任何能够被电子设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
***存储器28可以包括易失性存储器形式的计算机***可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。电子设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机***存储介质。仅作为举例，存储***34可以用于读写不可移动的、非易失性磁介质(图6未显示，通常称为“硬盘驱动器”)。尽管图6中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如存储器28中，这样的程序模块42包括——但不限于——操作***、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
电子设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该电子设备12交互的设备通信，和/或与使得该电子设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。另外，本实施例中的电子设备12，显示器24不是作为独立个体存在，而是嵌入镜面中，在显示器24的显示面不予显示时，显示器24的显示面与镜面从视觉上融为一体。并且，电子设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与电子设备12的其它模块通信。应当明白，尽管图6中未示出，可以结合电子设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储***等。
处理单元16通过运行存储在***存储器28中的程序，从而执行各种功能应用以及数据管理，例如实现本发明实施例所提供的一种数据管理方法：在元数据库中获取预先定义的字段对应的元数据，并将所述元数据存储至数据库元模型；从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将所述标准数据项存储至标准元模型；基于所述数据库元模型和所述标准化元模型确定所述元数据库和所述标准化文件之间的映射规则；按照所述映射规则对所述元数据库的数据和所述标准化文件的数据进行管理。
本发明实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明所有发明实施例提供的一种数据管理方法：在元数据库中获取预先定义的字段对应的元数据，并将所述元数据存储至数据库元模型；从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将所述标准数据项存储至标准元模型；基于所述数据库元模型和所述标准化元模型确定所述元数据库和所述标准化文件之间的映射规则；按照所述映射规则对所述元数据库的数据和所述标准化文件的数据进行管理。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体地例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，程序设计语言包括面向对象的程序设计语言，诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种数据管理方法，其特征在于，所述方法包括：
在元数据库中获取预先定义的字段对应的元数据，并将所述元数据存储至数据库元模型；
从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将所述标准数据项存储至标准元模型；
基于所述数据库元模型和所述标准化元模型确定所述元数据库和所述标准化文件之间的映射规则；
按照所述映射规则对所述元数据库的数据和所述标准化文件的数据进行管理。
2.根据权利要求1所述的方法，其特征在于，将所述元数据存储至数据库元模型，包括：
对所述元数据进行元类型识别，得到所述元数据对应的识别结果；
基于所述识别结果将所述元数据转换成对应的可视化数据，并将所述可视化数据存储至所述数据库元模型。
3.根据权利要求1所述的方法，其特征在于，从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，包括：
将所述标准化文件输入至预先确定的神经网络模型中，通过所述神经网络模型得到所述标准化文件中的实体；
将所述实体转换为与其对应的标准数据项。
4.根据权利要求1所述的方法，其特征在于，基于所述数据库元模型和所述标准化元模型确定所述元数据库和所述标准化文件之间的映射规则，包括：
计算所述数据库元模型和所述标准化元模型的模型相似度；
基于所述模型相似度确定所述元数据库和所述标准化数据之间的映射规则。
5.根据权利要求4所述的方法，其特征在于，计算所述数据库元模型和所述标准化元模型的模型相似度，包括：
对所述数据库元模型和所述标准化元模型中的字段分别进行合并，得到所述数据库元模型的合并后的字段和所述标准化元模型的合并后的字段；
对所述数据库元模型的合并后的字段和所述标准化元模型的合并后的字段分别对应的元数据记录进行融合，得到所述数据库元模型对应的目标数据库元模型和所述标准化元模型对应的目标标准化元模型；
计算所述目标数据库元模型和所述目标标准化元模型之间的目标相似度，并将所述目标相似度确定为所述模型相似度。
6.根据权利5所述的方法，其特征在于，对所述数据库元模型和所述标准化元模型中的字段分别进行合并，包括：
基于编辑距离算法分别计算所述数据库元模型中的字段的字段相似度和所述标准化元模型中的字段的字段相似度；
将所述数据库元模型中的字段相似度大于第一预设阈值的字段和所述标准元数据库模型中的字段相似度大于所述第一预设阈值的字段分别进行合并。
7.根据权利要求4所述的方法，其特征在于，基于所述模型相似度确定所述元数据库和所述标准化数据之间的映射规则，包括：
基于所述模型相似度确定所述元数据库模型和所述标准化元模型中对应的数据表的表相似度；
根据所述表相似度大于第二预设阈值的数据表的表描述和字段描述，确定所述元数据库和所述标准化文件的之间的映射规则。
8.一种数据管理装置，其特征在于，所述装置包括：
第一存储模块，用于在元数据库中获取预先定义的字段对应的元数据，并将所述元数据存储至数据库元模型；
第二存储模块，用于从预先获取到的标准化文件中抽取预先定义的实体对应的标准数据项，将所述标准数据项存储至标准元模型；
确定模块，用于基于所述数据库元模型和所述标准化元模型确定所述元数据库和所述标准化文件之间的映射规则；
管理模块，用于按照所述映射规则对所述元数据库的数据和所述标准化文件的数据进行管理。
9.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至7中任一所述的数据管理方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的数据管理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211559343.2A CN116383193A (zh) | 2022-12-06 | 2022-12-06 | 一种数据管理方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211559343.2A CN116383193A (zh) | 2022-12-06 | 2022-12-06 | 一种数据管理方法、装置、电子设备和存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116383193A true CN116383193A (zh) | 2023-07-04 |
Family
ID=86966162
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211559343.2A Pending CN116383193A (zh) | 2022-12-06 | 2022-12-06 | 一种数据管理方法、装置、电子设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116383193A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116737698A (zh) * | 2023-08-14 | 2023-09-12 | 金篆信科有限责任公司 | 分布式数据库配置比对方法、装置、设备及存储介质 |
| CN117056312A (zh) * | 2023-08-17 | 2023-11-14 | 安徽派偌汇科技咨询有限公司 | 基于元数据模型的快速开发平台 |
-
2022
- 2022-12-06 CN CN202211559343.2A patent/CN116383193A/zh active Pending
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116737698A (zh) * | 2023-08-14 | 2023-09-12 | 金篆信科有限责任公司 | 分布式数据库配置比对方法、装置、设备及存储介质 |
| CN116737698B (zh) * | 2023-08-14 | 2023-11-28 | 金篆信科有限责任公司 | 分布式数据库配置比对方法、装置、设备及存储介质 |
| CN117056312A (zh) * | 2023-08-17 | 2023-11-14 | 安徽派偌汇科技咨询有限公司 | 基于元数据模型的快速开发平台 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11119980B2 (en) | Self-learning operational database management | |
| CA2953826C (en) | Machine learning service | |
| CN109522312B (zh) | 一种数据处理方法、装置、服务器和存储介质 | |
| CN108183927A (zh) | 一种分布式***中链路调用的监控方法及*** | |
| CN109558393B (zh) | 一种数据模型构建方法、装置、设备及存储介质 | |
| CN116383193A (zh) | 一种数据管理方法、装置、电子设备和存储介质 | |
| CN111125068A (zh) | 一种元数据治理方法和*** | |
| US9135053B2 (en) | Managing processes in a repository | |
| CN104508662B (zh) | 存储分类的***和方法 | |
| US20200151276A1 (en) | Cognitive automation tool | |
| US11620453B2 (en) | System and method for artificial intelligence driven document analysis, including searching, indexing, comparing or associating datasets based on learned representations | |
| CN113760891B (zh) | 一种数据表的生成方法、装置、设备和存储介质 | |
| CN110990445A (zh) | 一种数据处理方法、装置、设备和介质 | |
| US11704345B2 (en) | Inferring location attributes from data entries | |
| CN117667841A (zh) | 一种企业数据管理平台及方法 | |
| US20210295036A1 (en) | Systematic language to enable natural language processing on technical diagrams | |
| US11113081B2 (en) | Generating a video for an interactive session on a user interface | |
| US10409871B2 (en) | Apparatus and method for searching information | |
| CN113553826A (zh) | 结合rpa和ai的信息录入方法、装置及电子设备 | |
| CN113377926B (zh) | 一种质量信息本体演化的注册元模型的构建方法 | |
| CN117251483A (zh) | 一种异构数据的接入方法、装置、电子设备及存储介质 | |
| CN117194587A (zh) | 数据仓库的标签管理方法与装置 | |
| Solovyev et al. | Problems of database integration in the context of digitalization | |
| CN112115124A (zh) | 一种数据影响度分析方法、装置、电子设备及存储介质 | |
| CN114819697A (zh) | 文档管理方法、装置、设备及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |