CN114357041A - 工业数据资产发布方法及装置 - Google Patents

工业数据资产发布方法及装置 Download PDF

Info

Publication number
CN114357041A
CN114357041A CN202111526516.6A CN202111526516A CN114357041A CN 114357041 A CN114357041 A CN 114357041A CN 202111526516 A CN202111526516 A CN 202111526516A CN 114357041 A CN114357041 A CN 114357041A
Authority
CN
China
Prior art keywords
data
development
model
mapping
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111526516.6A
Other languages
English (en)
Other versions
CN114357041B (zh
Inventor
李敏
兰洋
程敏敏
刘林钰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Nuclear Power Operation Technology Corp Ltd
Original Assignee
China Nuclear Power Operation Technology Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Nuclear Power Operation Technology Corp Ltd filed Critical China Nuclear Power Operation Technology Corp Ltd
Priority to CN202111526516.6A priority Critical patent/CN114357041B/zh
Publication of CN114357041A publication Critical patent/CN114357041A/zh
Application granted granted Critical
Publication of CN114357041B publication Critical patent/CN114357041B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25—Integrating or interfacing systems involving database management systems
    • G06F16/252—Integrating or interfacing systems involving database management systems between a Database Management System and a front-end application
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2455—Query execution
    • G06F16/24564—Applying rules; Deductive queries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06—Energy or water supply
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30—Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • Public Health (AREA)
  • Water Supply & Treatment (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Computational Linguistics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本公开属于核电技术领域，具体涉及一种工业数据资产发布方法及装置。本公开所示的工业数据资产发布方法，作业流程严格要求在开发环境测试通过后才能在生产环境下发布。同时，各任务的数据均从统一的原始数据层获取，确保数据同源，提升数据的一致性。此外，DHP(中国核电大核源平台)数据中台采用多租户模式为各个用户提供计算资源和存储资源，多租户共享平台的资源，不同租户间实行应用程序环境的隔离以及数据的隔离，避免不同租户间工作流程的相互干扰，同时保障数据的私密性。

Description

工业数据资产发布方法及装置
技术领域
本发明属于核电技术领域，具体涉及一种工业数据资产发布方法及装置。
背景技术
核电厂作为国家电力***的重要组成部分，其核电运行机组的安全稳定运行关系到人员安全与社会安定。目前国内核电厂众多，各核电厂已运行机组数量多并且涉及型号广，加上许多电厂运行多年，已积累了大量核电数据，例如，核电数据可以包括：结构数据，即现有信息化***中的数据，包括人、财物等基础信息；时序数据，即生产自控***中的实时数据，包括SCADA、DCS中的时序数据。高频数据：高频传感器产生的数据，往往每秒产生成千上万个数值，要求特定的处理方式，如支持数据暂存在边缘端，支持以每1分钟、10分钟、半小时、1小时等频率上传到平台；对象数据：文件、图片等数据，格式有多种，数据量大。如何能够很好的利用这些核电数据成为亟待解决的问题。
发明内容
为克服相关技术中存在的问题，提供了一种工业数据资产发布方法及装置。
根据本公开实施例的一方面，提供一种1、一种工业数据资产发布方法，所述方法包括
S1获取数据资产发布操作指令，响应数据资产发布操作指令在原始数据层进行数据抽取，得到抽取数据；
S2将所述抽取数据导入至开发环境中，根据资产发布操作指令在所述开发环境进行数据治理，包括：
S21生成待执行的数据模型；
S22生成待执行的映射规则；
S23为所述数据模型添加稽核规则；
S24为所述映射规则、稽核规则创建工作流程；
S3在开发环境中验证所述数据模型、所述映射规则、所述稽核规则以及所述工作流程；
S4将验证通过的数据模型、映射规则、稽核规则以及所述工作流程从开发环境导入到生产环境，并在生产环境中调度执行；
S5对外发布执行完毕的结果数据。
在一种可能的实现方式中，所述数据资产发布操作指令的类型包括新建指令和变更指令，在所述资产发布操作指令的类型为变更指令的情况下，所述步骤S4中包括：
S41依据约定更新时间接收验证通过的更新包，所述更新包包括更新后的数据模型、映射规则、稽核规则、工作流程以及更新记录；
S42依据所述更新记录确认更新包中的内容无误后在生成环境进行更新，将所述更新包中的数据模型、映射规则、稽核规则以及工作流程更新到的生产环境的指定资源目录位置和模型落地的数据存储；
S43再次确认更新完后结果数据和预期的一致性后转入所述步骤S5以对外发布。
在一种可能的实现方式中，所述步骤S1数据准备由管理方执行，所述步骤S2至所述步骤S5由用户执行。
在一种可能的实现方式中，所述方法还包括：预定义用户资源目录，所述用户资源目录包括：原始数据层以及元数据目录层级下为用户分配的开发环境目录和生产环境目录；
所述开发环境目录设有用于数据治理的开发数据明细层、开发数据标准层、开发数据汇总层、开发数据集市层以及开发公共维表层；
所述开发环境目录还设有开发加工任务目录以及所述开发加工任务目录；
所述开发加工任务目录用于存放用于数据导入、加工、质量检查的迁移映射、加工映射、工作流、稽核任务；
开发应用交付数据目录用于将加工好的、用于测试的结果数据导入到指定中间存储；
生产环境目录中设于用于调度执行的生产数据明细层、生产数据标准层、生产数据汇总层、生产数据集市层以及生产公共维表层；生产环境目录还包括生产加工任务目录以及生产应用交付数据目录；
所述生产加工任务目录用于存放用于验证通过的数据模型、迁移映射、加工映射、稽核任务、工作流；
所述生产应用交付数据目录用于将加工好的用于生产运行的结果数据导入到指定中间存储，对应用提供实时查询。
在一种可能的实现方式中，所述步骤S1中的数据抽取包括如下步骤：
S11判断本次资产发布操作指令中是否存在已预先抽取的数据，若有则调用所述已预先抽取的数据，若不存在，则转入步骤S12
S12数据抽取实施，根据资产发布操作指令制定数据抽取策略，并依据所述数据抽取策略在原始数据层建表，将数据从源数据库抽取到原始数据层。
在一种可能的实现方式中，其特征在于：所述步骤S1中的数据抽取还包括：在源数据库上测试验证所述数据抽取策略，待方案验证通过后在原始数据层建表，将数据从源数据库抽取到原始数据层。
在一种可能的实现方式中，所述步骤S2中，生成待执行的数据模型包括：
S211建立逻辑模型：依据数据资产发布指令以及预先定义的数据标准调用逻辑设计器，并建立逻辑模型；
S212逻辑模型评审：评审逻辑模型是否和业务数据对象匹配；
S213创建物理模型：创建物理设计器，建立物理模型；或通过逻辑设计器物化功能创建指定逻辑模型对应的物理设计器和物理模型；
S214物理模型落地到数据存储：将物理模型落地到指定的数据库中，生成数据表。
在一种可能的实现方式中，所述步骤S2中，生成待执行的映射规则包括：生成待执行的迁移映射与加工映射，所述迁移映射用于使得数据在不同分层的数据表之间流动，所述加工映射由一组转换节点组成，包括数据列筛选、列函数、表连接、聚合、联合、排序中的一种或多种操作。
在一种可能的实现方式中，所述步骤S23包括：
配置稽核规则：为指定的物理模型表添加稽核规则，所述多个稽核规则形成规则模板；
生成稽核任务：对待稽核的数据表，则规则模板中选择需要规则形成稽核任务，同一数据表支持配置多个任务；
结果数据验证：根据稽核结果，解决发现的数据问题，并对加工出来的模型结果数据和指标进行比对、验证。
在一种可能的实现方式中，所述步骤S4包括：
数据模型导入：将开发环境的逻辑设计器导出，然后导入到生产环境中，并通过逻辑设计器物化生成物理设计器和物理模型；
映射导入：将开发环境的迁移映射、加工映射导出，然后导入到生产环境，导入时要重新命名；
稽核规则导入：将开发环境的稽核规则批量导出，然后导入到生产环境关联的目录下；
工作流流程导入：将开发环境的工作流批量导出，然后导入到生产环境关联的目录下，其中，开发环境中的稽核任务也可以工作流成的形式导入到生产环境。
在一种可能的实现方式中，所述步骤S3还包括运维监控步骤，所述运维监控用于监控开发环境中所有发布的工作流程的运行情况和结果，查看流程是否出现异常情况；
若流程出现异常情况，则对异常的工作流程进行调试，定位。
根据本公开实施例的另一方面，提供一种工业数据资产发布装置，所述装置包括：
获取模块，用于获取数据资产发布操作指令，响应数据资产发布操作指令在原始数据层进行数据抽取，得到抽取数据；
导入模块，用于将所述抽取数据导入至开发环境中，根据资产发布操作指令在所述开发环境进行数据治理，包括：
第一生成模块，用于生成待执行的数据模型；
第一生成模块，用于生成待执行的映射规则；
添加模块，用于为所述数据模型添加稽核规则；
创建模块，用于为所述映射规则、稽核规则创建工作流程；
验证模块，用于在开发环境中验证所述数据模型、所述映射规则、所述稽核规则以及所述工作流程；
调度模块，用于将验证通过的数据模型、映射规则、稽核规则以及所述工作流程从开发环境导入到生产环境，并在生产环境中调度执行；
发布模块，用于对外发布执行完毕的结果数据。
根据本公开实施例的另一方面，提供一种工业数据资产发布装置，所述装置包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为执行上述的方法。
根据本公开实施例的另一方面，提供一种非易失性计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。
本公开的有益效果在于：本公开所示的工业数据资产发布方法，作业流程严格要求在开发环境测试通过后才能在生产环境下发布。同时，各任务的数据均从统一的原始数据层获取，确保数据同源，提升数据的一致性。此外，DHP(中国核电大核源平台)数据中台采用多租户模式为各个用户提供计算资源和存储资源，多租户共享平台的资源，不同租户间实行应用程序环境的隔离以及数据的隔离，避免不同租户间工作流程的相互干扰，同时保障数据的私密性。且租户之间通过数据服务实现数据的共享依据各核电厂需求进行核电数据的统一治理并封装成数据资产对各核电厂发布，确保发布数据资产的质量，从而提高核电数据的使用效率和共享范围，保障运行机组的安全、可靠、高效运行是一个亟需解决的问题。
附图说明
图1是根据一示例性实施例示出的一种工业数据资产发布方法的流程图。
图2是根据一示例性实施例示出的一种DHP中心租户资源目录结构。
图3是根据一示例性实施例示出的一种工业数据资产发布装置的框图。
图4是根据一示例性实施例示出的一种工业数据资产发布装置的框图。
具体实施方式
下面结合附图及具体实施例对本发明作进一步详细说明。
图1是根据一示例性实施例示出的一种工业数据资产发布方法的流程图。
如图1所示，该方法可以包括
S1获取数据资产发布操作指令，响应数据资产发布操作指令在原始数据层进行数据抽取；
作为一优选方案，所述步骤S1中，所述数据抽取包括如下步骤：
S11判断本次资产发布操作指令中是否存在已预先抽取的数据，若有则调用所述已预先抽取的数据，若不存在，则转入步骤S12
S12数据抽取实施，根据资产发布操作指令制定数据抽取策略，并依据所述数据抽取策略在原始数据层建表，将数据从源数据库抽取到原始数据层。
更进一步的，所述数据抽取实施还包括数据抽取策略验证步骤，在源数据库上测试验证所述数据抽取策略，待方案验证通过后在原始数据层建表，将数据从源数据库抽取到原始数据层。
S2将所述抽取数据导入至开发环境中，根据资产发布操作指令在所述开发环境进行数据治理，包括：
S21生成待执行的数据模型；
作为一优选方案，所述步骤S2中，生成待执行的数据模型包括：
S211建立逻辑模型：依据数据资产发布指令以及预先定义的数据标准调用逻辑设计器，并建立逻辑模型；
S212逻辑模型评审：评审逻辑模型是否和业务数据对象匹配；
S213创建物理模型：创建物理设计器，建立物理模型；也可以通过逻辑设计
器物化功能创建指定逻辑模型对应的物理设计器和物理模型；
S214物理模型落地到数据存储：将物理模型落地到指定的数据库中，生成数
据表。
S22生成待执行的映射规则；
作为一优选方案，所述步骤S22中，生成待执行的映射规则包括生成待执行的迁移映射与加工映射；所述迁移映射用于使得数据在不同分层的数据表之间流动；所述加工映射由一组转换节点组成，包括数据列筛选、列函数、表连接、聚合、联合、排序中的一种或多种操作。
S23为所述数据模型添加稽核规则；
作为一优选方案，所述步骤S23为所述数据模型添加稽核规则包括：
配置稽核规则：为指定的物理模型表添加稽核规则，所述多个稽核规则形成规则模板；
生成稽核任务：对待稽核的数据表，则规则模板中选择需要规则形成稽核任务，同一数据表支持配置多个任务；
结果数据验证：根据稽核结果，解决发现的数据问题，并对加工出来的模型结果数据和指标进行比对、验证。
S24为所述映射规则、稽核规则创建工作流程；
此外，作为一优选方案，所述步骤S2中，所述开发环境中还包括运维监控步骤，所述运维监控用于监控开发环境中所有发布的工作流程的运行情况和结果，查看流程异常情况；若发现异常，则对异常的工作流程进行调试，定位。
S3在开发环境中验证所述数据模型、所述映射规则、稽核规则以及所述工作流程；
S4将验证通过的所述数据模型、映射规则、稽核规则以及所述工作流程从开发环境导入到生产环境，并在生产环境中调度执行；
作为一优选方案，所述步骤S4中，所述数据模型、映射规则、稽核规则以及所述工作流程从开发环境导入到生产环境包括
数据模型导入：将开发环境的逻辑设计器导出，然后导入到生产环境中，并通过逻辑设计器物化生成物理设计器和物理模型；
映射导入：将开发环境的迁移映射、加工映射导出，然后导入到生产环境，导入时要重新命名；
稽核规则导入：将开发环境的稽核规则批量导出，然后导入到生产环境相关目录下；
工作流流程导入：将开发环境的工作流批量导出，然后导入到生产环境相关
目录下；其中，开发环境中的稽核任务也可以工作流成的形式导入到生产环境。
此外，作为一优选方案，所述数据资产发布操作指令包括新建与变更两种，所判断所述资产发布操作指令为变更指令时，所述步骤S4中包括：
S41依据约定更新时间接收验证通过的更新包，所述更新包包括更新后的所述数据模型、映射规则、稽核规则、所述工作流程以及更新记录；
S42依据所述更新记录确认更新包中的内容无误后在生成环境进行更新，将所述数据模型、映射规则、稽核规则以及所述工作流程更新到的生产环境的指定资源目录位置和模型落地的数据存储；
S43再次确认更新完后结果数据和预期的一致性后转入所述步骤S5以对外发布。
S5对外发布执行完毕的结果数据；
作为一优选方案，所述步骤S5中，生产环境中的工作流程调度执行后，产生的结果数据可以通过数据服务的方式提供给应用。先将数据仓库中的交付数据使用迁移映射同步到MPP数据库，通过数据服务接口API的方式向应用提供数据。也可以将数据分发到指定的中间存储，如RDS、Redis、Kafka，向应用提供数据。
本发明所示的一种工业数据资产发布方法，作业流程严格要求在开发环境测试通过后才能在生产环境下发布。同时，各任务的数据均从统一的原始数据层获取，确保数据同源，提升数据的一致性。
在一种可能的实现方式中，在本公开中，由DHP管理方负责步骤S1数据准备，由租户负责开发环境和生产环境的数据治理，并将交付给应用的数据资产通过数据服务形式提供给应用，且租户与租户之间进行数据隔离。
DHP数据平台支持多租户架构，租户与租户之间进行数据隔离。DHP数据中台采用多租户模式为各个用户提供计算资源和存储资源，多租户共享平台的资源，不同租户间实行应用程序环境的隔离以及数据的隔离，避免不同租户间工作流程的相互干扰，同时保障数据的私密性。租户之间通过数据服务实现数据的共享。DHP数据平台初步设置1+N个租户：每个租户可设置多个用户，一个用户只能归属一个租户，用户只有从当前租户退出后才能加入另一租户。
其中，本实施例中，每个租户下通过目录隔离生产环境/开发环境，根据每个租户的组织结构对相应的环境和目录资源进行授权，保证数据隔离性。本发明所示的一种工业数据资产发布方法，从数据仓库的角度划分数据层级，数据经过分层加工、整合、转换，形成不同层次的数据集，提供给外部应用，为了便于数据的开发和分析，追踪数据血缘，提高数据模型的复用性，需要划分不同层级目录。
本实施例中，预定义用户资源目录，所述用户资源目录包括：原始数据层以及元数据目录层级下为用户分配的开发环境目录和生产环境目录，
所述开发环境目录设有用于所述数据治理的开发数据明细层、开发数据标准层、开发数据汇总层、开发数据集市层以及开发公共维表层；所述开发环境目录还设有开发加工任务目录以及所述开发加工任务目录；所述开发加工任务目录用于存放用于数据导入、加工、质量检查的迁移映射、加工映射、工作流、稽核任务；所述开发应用交付数据目录用于将加工好的、用于测试的结果数据导入到指定中间存储；
生产环境目录中设于用于所述调度执行的生产数据明细层、生产数据标准层、生产数据汇总层、生产数据集市层以及生产公共维表层；所述生产环境目录还包括生产加工任务目录以及生产应用交付数据目录；所述生产加工任务目录用于存放用于验证通过的数据模型、迁移映射、加工映射、稽核任务、工作流；所述生产应用交付数据目录用于将加工好的用于生产运行的结果数据导入到指定中间存储，对应用提供实时查询。
图2是根据一示例性实施例示出的一种DHP中心租户资源目录结构，如图2所示，本发明所示的一种工业数据资产发布方法，其租户的资源目录层次结构如下：
一、数据交换层(EXCH))：存放数据资源的连接配置、源表结构信息等元数据。
1)资源：包括数据库资源、代理资源、FTP资源和Kafka资源。
数据库资源：存放源***数据库的连接信息，以及数据中台内使用的Hive存储库、MPP数据库、RDS等资源的连接信息。为了避免数据抽取对数据源业务库造成过多影响，DHP中心租户内通常只维持到某个源业务库的一个连接，在该目录下统一管理。
代理资源：管理工作流、稽核任务、数据服务中使用到的数据中台代理服务资源，负责流程和服务的调度执行。
FTP资源：管理文件方式进行数据导入导出时使用的FTP服务器资源。
Kafka资源：管理实时传输、计算、分析中用到的Kafka资源。
2)数据采集源：存放从源***数据库中扫描到的数据表信息，以便在数据抽取时根据源数据表信息建立相同字段结构的目的表。
二、原始数据层(ODS))：将业务***的原始数据抽取到原始数据层保存，并和业务***源数据库保持同步更新，作为后续数据加工和分析的基础。为保证数据的一致性，避免数据冗余，由DHP平台管理方对DHP中心租户内源数据进行统一抽取和管理，根据项目需要，提供给对应的生产和开发用户使用，并根据项目管理要求授予用户对其中的数据表的访问权限。
1)表：原始数据层没有逻辑模型，只建立和数据源表字段一致的物理表，根据
数据更新的频率，分别划分为按天、周、月进行数据抽取更新。
2)加工任务：存放实现原始数据层数据抽取的迁移映射、加工映射、工作流、稽核任务。
迁移映射：可以实现同源或者异构数据库之间的数据迁移。
加工映射：实现同源数据表之间的数据加工。来源表中的数据加工处理后落地到目的表。
工作流：对映射进行加载并调度执行的作业任务，工作流中可以增加若干在执行过程中调度的处理节点。
稽核任务：调度执行稽核规则的作业任务，针对指定了稽核规则的表中数据进行校验。
三、开发环境目录，该目录存放用于开发和测试的元数据、结果数据涉及的数据表、加工任务，可用来验证数据表结构的合理性、加工逻辑的有效性，并生成一些测试用的临时数据。划分如下子目录：
1)开发数据明细层(开发DWD)：按照主题域分类，将原始数据层中来自不同电厂的数据汇总整合到对应的数据表中。
2)开发数据标准层(开发STD)：按照主题域分类，根据核电领域的数据标准，加工形成统一的核电标准数据。
3)开发数据汇总层(开发DWS)：按照主题域分类，将下层中数据进行汇总、加工，形成多级汇总表、公共指标库、标签库。
4)开发数据集市层(开发DM)：将下层中数据进行行列级处理后，建立数据资产视图，对外进行服务。
5)开发公共维表层(开发DIM)：按照主题域分类，存放业务所使用的数据字典、
编码表、维度表等映射信息，用于其他各分层数据的维度关联。
6)开发应用测试目录：将加工好的、用于测试的结果数据导入到指定中间存储，通常是查询性能较高的数据库，如MPP、MySQL，提供给应用，测试结果数据是否符合预期。
7)开发加工任务目录：用于存放用于数据导入、加工、质量检查的迁移映射、加工映射、工作流、稽核任务。
四、生产环境目录，该目录存放提供给生产使用的元数据、数据交付涉及的数据表、加工任务，产生的结果数据对业务应用进行支撑。
生产环境下的目录结构设计和开发环境下的目录结构设计基本相同，包含：生产数据明细层(生产DWD)、生产数据标准层(生产STD)、生产数据汇总层(生产DWS)、生产数据集市层(生产DM)、生产公共维表层(生产DIM)、生产加工任务目录，以及生成应用交付数据：该目录用于将加工好的用于生产运行的结果数据导入到指定中间存储，对应用提供实时查询
同时，平台后台给该租户分配租户Hive数据库。不同的数仓分层对应不同的Hive数据库，例如原始数据层对应ods库，生产DWD层对应dwd库。
对应的，本公开所示的一种工业数据资产发布方法，包括如下步骤：
S10DHP管理方获取数据资产发布操作指令，响应数据资产发布操作指令在原始数据层进行数据抽取；
DHP管理方依据资产发布操作指令获取待抽取的业务数据对象、标准字段以及字段对应的业务***、来源数据表、对应表中来源字段名称，以便DHP管理方对照DHP中心租户内已经抽取的源数据表数据对象，检查哪些字段需要抽取，哪些字段数据已经存在，若已经抽取了相关字段的数据，可以直接将这部分数据提供给项目方使用，防止重复抽取。
DHP管理方根据源数据库信息建立资源连接，并测试连接是否正常，测试正常后，DHP管理方根据数据需求制定数据抽取策略，可以采用DHP数据中台内已有工具，或者定制抽取程序，或者脚本的方式，并在源数据库上测试验证，方案验证通过后，在原始数据层建表，将数据从源数据库抽取到原始数据层。此外，DHP管理方完成数据抽取后，还可通知项目方对数据进行验证，确认数据抽取无误后，项目方开展后续工作。
S20租户将所述抽取数据导入至开发环境中，根据资产发布操作指令在所述开发环境进行数据治理，包括：
S201生成待执行的数据模型；
创建逻辑模型：创建逻辑设计器，建立逻辑模型。
逻辑模型评审：评审逻辑模型是否和业务数据对象匹配。
创建物理模型：创建物理设计器，建立物理模型；也可以通过逻辑设计器物化功能创建指定逻辑模型对应的物理设计器和物理模型。
物理模型落地到数据存储：将物理模型落地到指定的数据库中，生成数据表。
S202生成待执行的映射规则；
配置函数和批次：函数是自定义设计的Java代码函数体，通过配置一个计算处理函数，将传入参数进行计算，返回一个需要的值，从而实现轻量级需求。通过将一些常用函数放到一个批次中，在加工映射中选择批次，从而快速给映射或工作流提供变量值。通过设置函数和批次，进行数据转换处理。
数据迁移映射：建立迁移映射，使得数据在不同分层的数据表之间流动。
配置加工规则：指定数据加工用的计算节点、脚本、清洗规则。
数据加工映射：建立加工映射，由一组转换节点组成，可以实现数据列筛选、列函数、表连接、聚合、联合、排序等操作。
S203为所述数据模型添加稽核规则；
配置稽核规则：为指定的物理模型表添加稽核规则，可以对规则模板进行编辑、查看、删除操作并且可以查看该规则生成的SQL脚本。
生成稽核任务：数据仓库存有大量的数据表，很多数据表配有大量的稽核规则形成规则模板，如果对数据表只进行空值校验，需删除模板中其余的规则，不方便使用，可配置稽核任务，对稽核的数据表，选择模板中需要的规则形成任务，同一数据表支持配置多个任务，提高灵活性，工作效率。
结果数据验证：根据稽核结果，解决发现的数据问题，并对加工出来的模型结果数据和指标进行比对、验证。
S24为所述映射规则、稽核规则创建工作流程；
创建工作流：为要执行的迁移映射、加工映射、稽核任务创建工作流程。
配置执行计划：为创建好的工作流程配置执行计划，设置计算引擎、启动方式、触发方式等。可以对工作流进行定时调度，也可以采用事件触发。
工作流调度：对工作流程进行周期调度、事件调度以及根据工作流的数据依赖关系自动调度的调度方式，并在发生数据重传等异常情况时自动的进行工作流取消补偿与工作流重新调度。
S205运维监控包括：
流程监控：监控所有发布的工作流程的运行情况和结果，查看流程异常情况。
异常处理：对异常的工作流程进行调试，定位问题，并分析日志，查找问题原因，采取对应的解决方法。
S3在开发环境中验证所述数据模型、所述映射规则、稽核规则以及所述工作流程；
S40将验证通过的所述数据模型、映射规则、稽核规则以及所述工作流程从开发环境导入到生产环境，并在生产环境中调度执行；
在开发环境中将数据迁移、加工、稽核的工作流程运行通过，并验证结果数据符合预期，就可以将开发环境中的这些数据模型、映射、稽核、工作流等元数据导入到生产环境。
数据模型导入：将开发环境的逻辑设计器导出，然后导入到生产环境中。通过逻辑设计器物化生成物理设计器和物理模型。
映射导入：将开发环境的迁移映射、加工映射导出，然后导入到生产环境，导入时要重新命名，因为一个租户内映射的名称必须保证唯一性，映射重名会导致流程调度的时候有两个名称一模一样的映射而无法区分执行哪个映射。
稽核规则导入：将开发环境的稽核规则批量导出，然后导入到生产环境相关目录下。
工作流导入：将开发环境的工作流批量导出，然后导入到生产环境相关目录下。稽核任务可以配置在工作流程中调度执行，因此开发环境中的稽核任务可以工作流的形式导入到生产环境。
其中，步骤S40中，若资产发布操作指令为更新指令时，开发用户根据模型变更需求，在测试环境的相关目录下完成作业开发并测试通过；开发用户和生产用户约定更新时间，将每个变更、解决的问题、影响范围、对应的资源目录路径等信息形成书面记录，将增加或修改的模型、映射、工作流打包发送给生产用户进行更新；更新前，生产用户要确认更新包中的内容，根据书面记录验证更新包中的模型存在对应修改，防止测试用户错误打包，避免将临时补丁更新，或者打包的是没有修改的作业。生产用户要确认更新到的生产环境的指定资源目录位置和模型落地的数据存储，进行更新。生产用户更新完后确认结果数据和预期的一致性，并由生产用户通知应用或者数据分析人员数据更新上线，进行使用。
S50对外发布执行完毕的结果数据；
生产环境中的工作流程调度执行后，产生的结果数据可以通过数据服务的方式提供给应用。先将数据仓库中的交付数据使用迁移映射同步到MPP数据库，通过数据服务接口API的方式向应用提供数据。也可以将数据分发到指定的中间存储，如RDS、Redis、Kafka，向应用提供数据。
针对上述装置的说明已经在针对上述方法的说明中进行详细阐述，在此不再赘述。
图3是根据一示例性实施例示出的一种工业数据资产发布装置的框图。例如，装置800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图3，装置800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。
处理组件802通常控制装置800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令，以完成上述的装置的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在装置800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或装置的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理***，一个或多个电源，及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当装置800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当装置800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
I/O接口812为处理组件802和***接口模块之间提供接口，上述***接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器，用于为装置800提供各个方面的状态评估。例如，传感器组件814可以检测到装置800的打开/关闭状态，组件的相对定位，例如组件为装置800的显示器和小键盘，传感器组件814还可以检测装置800或装置800一个组件的位置改变，用户与装置800接触的存在或不存在，装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中，通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器804，上述计算机程序指令可由装置800的处理器820执行以完成上述方法。
图4是根据一示例性实施例示出的一种工业数据资产发布装置的框图。例如，装置1900可以被提供为一服务器。参照图4，装置1900包括处理组件1922，其进一步包括一个或多个处理器，以及由存储器1932所代表的存储器资源，用于存储可由处理组件1922的执行的指令，例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1922被配置为执行指令，以执行上述方法。
装置1900还可以包括一个电源组件1926被配置为执行装置1900的电源管理，一个有线或无线网络接口1950被配置为将装置1900连接到网络，和一个输入输出(I/O)接口1958。装置1900可以操作基于存储在存储器1932的操作***，例如WindowsServerTM，MacOSXTM，UnixTM，LinuxTM，FreeBSDTM或类似。
在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器1932，上述计算机程序指令可由装置1900的处理组件1922执行以完成上述方法。
本公开可以是***、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(***)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (14)

1.一种工业数据资产发布方法，其特征在于，所述方法包括：
S1获取数据资产发布操作指令，响应数据资产发布操作指令在原始数据层进行数据抽取，得到抽取数据；
S2将所述抽取数据导入至开发环境中，根据资产发布操作指令在所述开发环境进行数据治理，包括：
S21生成待执行的数据模型；
S22生成待执行的映射规则；
S23为所述数据模型添加稽核规则；
S24为所述映射规则、稽核规则创建工作流程；
S3在开发环境中验证所述数据模型、所述映射规则、所述稽核规则以及所述工作流程；
S4将验证通过的数据模型、映射规则、稽核规则以及所述工作流程从开发环境导入到生产环境，并在生产环境中调度执行；
S5对外发布执行完毕的结果数据。
2.根据权利要求1所述的方法，其特征在于，所述数据资产发布操作指令的类型包括新建指令和变更指令，在所述资产发布操作指令的类型为变更指令的情况下，所述步骤S4中包括：
S41依据约定更新时间接收验证通过的更新包，所述更新包包括更新后的数据模型、映射规则、稽核规则、工作流程以及更新记录；
S42依据所述更新记录确认更新包中的内容无误后在生成环境进行更新，将所述更新包中的数据模型、映射规则、稽核规则以及工作流程更新到的生产环境的指定资源目录位置和模型落地的数据存储；
S43再次确认更新完后结果数据和预期的一致性后转入所述步骤S5以对外发布。
3.根据权利要求1所述的方法，其特征在于，所述步骤S1数据准备由管理方执行，所述步骤S2至所述步骤S5由用户执行。
4.根据权利要求3所述的方法，其特征在于，所述方法还包括：预定义用户资源目录，所述用户资源目录包括：原始数据层以及元数据目录层级下为用户分配的开发环境目录和生产环境目录；
所述开发环境目录设有用于数据治理的开发数据明细层、开发数据标准层、开发数据汇总层、开发数据集市层以及开发公共维表层；
所述开发环境目录还设有开发加工任务目录以及所述开发加工任务目录；
所述开发加工任务目录用于存放用于数据导入、加工、质量检查的迁移映射、加工映射、工作流、稽核任务；
开发应用交付数据目录用于将加工好的、用于测试的结果数据导入到指定中间存储；
生产环境目录中设有用于调度执行的生产数据明细层、生产数据标准层、生产数据汇总层、生产数据集市层以及生产公共维表层；生产环境目录还包括生产加工任务目录以及生产应用交付数据目录；
所述生产加工任务目录用于存放用于验证通过的数据模型、迁移映射、加工映射、稽核任务、工作流；
所述生产应用交付数据目录用于将加工好的用于生产运行的结果数据导入到指定中间存储，对应用提供实时查询。
5.根据权利要求1所述的方法，其特征在于，所述步骤S1中的数据抽取包括如下步骤：
S11判断本次资产发布操作指令中是否存在已预先抽取的数据，若有则调用所述已预先抽取的数据，若不存在，则转入步骤S12
S12数据抽取实施，根据资产发布操作指令制定数据抽取策略，并依据所述数据抽取策略在原始数据层建表，将数据从源数据库抽取到原始数据层。
6.根据权利要求1所述的方法，其特征在于：所述步骤S1中的数据抽取还包括：在源数据库上测试验证所述数据抽取策略，待方案验证通过后在原始数据层建表，将数据从源数据库抽取到原始数据层。
7.根据权利要求1所述的方法，其特征在于，所述步骤S2中，生成待执行的数据模型包括：
S211建立逻辑模型：依据数据资产发布指令以及预先定义的数据标准调用逻辑设计器，并建立逻辑模型；
S212逻辑模型评审：评审逻辑模型是否和业务数据对象匹配；
S213创建物理模型：创建物理设计器，建立物理模型；或通过逻辑设计器物化功能创建指定逻辑模型对应的物理设计器和物理模型；
S214物理模型落地到数据存储：将物理模型落地到指定的数据库中，生成数据表。
8.根据权利要求1所述的方法，其特征在于，所述步骤S2中，生成待执行的映射规则包括：生成待执行的迁移映射与加工映射，所述迁移映射用于使得数据在不同分层的数据表之间流动，所述加工映射由一组转换节点组成，包括数据列筛选、列函数、表连接、聚合、联合、排序中的一种或多种操作。
9.根据权利要求1所述的方法，其特征在于，所述步骤S23包括：
配置稽核规则：为指定的物理模型表添加稽核规则，所述多个稽核规则形成规则模板；
生成稽核任务：对待稽核的数据表，则规则模板中选择需要规则形成稽核任务，同一数据表支持配置多个任务；
结果数据验证：根据稽核结果，解决发现的数据问题，并对加工出来的模型结果数据和指标进行比对、验证。
10.根据权利要求1所述的方法，其特征在于，所述步骤S4包括：
数据模型导入：将开发环境的逻辑设计器导出，然后导入到生产环境中，并通过逻辑设计器物化生成物理设计器和物理模型；
映射导入：将开发环境的迁移映射、加工映射导出，然后导入到生产环境，导入时要重新命名；
稽核规则导入：将开发环境的稽核规则批量导出，然后导入到生产环境关联的目录下；
工作流流程导入：将开发环境的工作流批量导出，然后导入到生产环境关联的目录下，其中，开发环境中的稽核任务也可以工作流成的形式导入到生产环境。
11.根据权利要求1所述的方法，其特征在于，所述步骤S3还包括运维监控步骤，所述运维监控用于监控开发环境中所有发布的工作流程的运行情况和结果，查看流程是否出现异常情况；
若流程出现异常情况，则对异常的工作流程进行调试，定位。
12.一种工业数据资产发布装置，其特征在于，所述装置包括：
获取模块，用于获取数据资产发布操作指令，响应数据资产发布操作指令在原始数据层进行数据抽取，得到抽取数据；
导入模块，用于将所述抽取数据导入至开发环境中，根据资产发布操作指令在所述开发环境进行数据治理，包括：
第一生成模块，用于生成待执行的数据模型；
第一生成模块，用于生成待执行的映射规则；
添加模块，用于为所述数据模型添加稽核规则；
创建模块，用于为所述映射规则、稽核规则创建工作流程；
验证模块，用于在开发环境中验证所述数据模型、所述映射规则、所述稽核规则以及所述工作流程；
调度模块，用于将验证通过的数据模型、映射规则、稽核规则以及所述工作流程从开发环境导入到生产环境，并在生产环境中调度执行；
发布模块，用于对外发布执行完毕的结果数据。
13.一种工业数据资产发布装置，其特征在于，所述装置包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为执行权利要求1至11中任意一项所述的方法。
14.一种非易失性计算机可读存储介质，其上存储有计算机程序指令，其特征在于，所述计算机程序指令被处理器执行时实现权利要求1至11中任意一项所述的方法。
CN202111526516.6A 2021-12-14 2021-12-14 工业数据资产发布方法及装置 Active CN114357041B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111526516.6A CN114357041B (zh) 2021-12-14 2021-12-14 工业数据资产发布方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111526516.6A CN114357041B (zh) 2021-12-14 2021-12-14 工业数据资产发布方法及装置

Publications (2)

Publication Number Publication Date
CN114357041A true CN114357041A (zh) 2022-04-15
CN114357041B CN114357041B (zh) 2024-01-12

Family

ID=81098534

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111526516.6A Active CN114357041B (zh) 2021-12-14 2021-12-14 工业数据资产发布方法及装置

Country Status (1)

Country Link
CN (1) CN114357041B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115098477A (zh) * 2022-06-23 2022-09-23 中核核电运行管理有限公司 核电站生产数据的数据标准管理方法及装置
CN116777376A (zh) * 2023-06-20 2023-09-19 深圳市云之音科技有限公司 应用于企业智能中台的saas***
CN116823464A (zh) * 2023-06-06 2023-09-29 海通期货股份有限公司 数据资产管理平台、电子设备及计算机可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180039680A1 (en) * 2016-08-04 2018-02-08 International Business Machines Corporation Model-driven profiling job generator for data sources
CN112396404A (zh) * 2020-11-27 2021-02-23 广州光点信息科技有限公司 一种数据中台***
CN112597132A (zh) * 2020-12-25 2021-04-02 国家电投集团科学技术研究院有限公司 一种物理分散逻辑统一的数据资产目录汇聚***
CN113296796A (zh) * 2020-02-24 2021-08-24 京东安联财产保险有限公司 项目发布方法、装置、***、存储介质、电子设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180039680A1 (en) * 2016-08-04 2018-02-08 International Business Machines Corporation Model-driven profiling job generator for data sources
CN113296796A (zh) * 2020-02-24 2021-08-24 京东安联财产保险有限公司 项目发布方法、装置、***、存储介质、电子设备
CN112396404A (zh) * 2020-11-27 2021-02-23 广州光点信息科技有限公司 一种数据中台***
CN112597132A (zh) * 2020-12-25 2021-04-02 国家电投集团科学技术研究院有限公司 一种物理分散逻辑统一的数据资产目录汇聚***

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115098477A (zh) * 2022-06-23 2022-09-23 中核核电运行管理有限公司 核电站生产数据的数据标准管理方法及装置
CN116823464A (zh) * 2023-06-06 2023-09-29 海通期货股份有限公司 数据资产管理平台、电子设备及计算机可读存储介质
CN116823464B (zh) * 2023-06-06 2024-03-26 海通期货股份有限公司 数据资产管理平台、电子设备及计算机可读存储介质
CN116777376A (zh) * 2023-06-20 2023-09-19 深圳市云之音科技有限公司 应用于企业智能中台的saas***
CN116777376B (zh) * 2023-06-20 2024-05-10 深圳市云之音科技有限公司 应用于企业智能中台的saas***

Also Published As

Publication number Publication date
CN114357041B (zh) 2024-01-12

Similar Documents

Publication Publication Date Title
CN114357041B (zh) 工业数据资产发布方法及装置
TWI748175B (zh) 資料的處理方法、裝置及設備
US11036696B2 (en) Resource allocation for database provisioning
US9026647B2 (en) Systems and methods for a social media network/business platform interface
US20140129457A1 (en) An interactive organizational decision-making and compliance facilitation portal
CN106796526A (zh) Json样式表语言变换
CN109479061A (zh) 遵从性违反检测
WO2019051946A1 (zh) 节点任务数据显示方法、装置、存储介质和计算机设备
CN106778117B (zh) 权限开启方法、装置及***
WO2015195590A1 (en) Tenant provisioning for testing a production multi-tenant service
CN110023901A (zh) 用于更新基于云的多层应用栈的***和方法
CN110992002B (zh) 事项处理方法、装置、设备及存储介质
US8555181B2 (en) Method and system for constructing business rules in a business software system using intelligent tiles
CN109299913B (zh) 员工薪资方案生成方法及装置
CN109271313A (zh) 代码测试方法、装置及计算机可读存储介质
CN113268260A (zh) 用于web前端的路由方法及装置
CN110442782B (zh) 一种云资源检索方法与装置
US20160154828A1 (en) Business rules manager
CN116483707A (zh) 测试方法、装置、设备、存储介质及程序产品
CN115543428A (zh) 一种基于策略模板的模拟数据生成方法和装置
CN116051061A (zh) 信息处理方法、装置、电子设备及可读存储介质
WO2022037627A1 (zh) 一种人工智能应用的集成管理方法、装置及***
US10216747B2 (en) Customized synthetic data creation
CN114866603B (zh) 信息推送方法、装置、电子设备及存储介质
CN113706209B (zh) 运营数据处理方法及相关装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant