CN111078980A - 基于征信大数据的管理方法、装置、设备及存储介质 - Google Patents
基于征信大数据的管理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111078980A CN111078980A CN201911350958.2A CN201911350958A CN111078980A CN 111078980 A CN111078980 A CN 111078980A CN 201911350958 A CN201911350958 A CN 201911350958A CN 111078980 A CN111078980 A CN 111078980A
- Authority
- CN
- China
- Prior art keywords
- data
- service
- big data
- credit
- loading
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/254—Extract, transform and load [ETL] procedures, e.g. ETL data flows in data warehouses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/03—Credit; Loans; Processing thereof
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Development Economics (AREA)
- General Business, Economics & Management (AREA)
- Technology Law (AREA)
- Strategic Management (AREA)
- Marketing (AREA)
- Economics (AREA)
- Quality & Reliability (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明实施例公开了一种基于征信大数据的管理方法、装置、设备及存储介质。其中,所述方法应用于数据中台***中,其包括:根据第三方数据的信息标签将所述第三方数据通过ETL流程加载到预设的大数据平台,所述信息标签包括数据合作机构、合作渠道、调用数据方式、开发的数据产品、数据用途、输入参数、返回参数、调用异常以及并发情况;将自身业务数据以及网络爬取数据通过ETL流程加载到预设的大数据平台。通过应用本发明实施例的技术方案,能够对各类征信大数据进行统一的管理,使得数据能够得到很好的利用,提高企业决策水平。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种基于征信大数据的管理方法、装置、设备及存储介质。
背景技术
随着数字化转型逐渐成为各行各业的共识,征信行业在数字化转型的过程中对传统的IT提出了更高的要求。例如,场景化、服务化、引擎化、中台化、统一技术和智能化等,这也从根本上催生了“小前台、大中台”的战略规划。
目前对征信大数据的管理混乱,特别是第三方数据无法共享,数据治理困难,造成征信大数据得不到良好的数据资产管理,导致企业不能全面、安全、高效地利用数据资产进行决策。
发明内容
本发明实施例提供了一种基于征信大数据的管理方法、装置、设备及存储介质,旨在解决现有技术中,各类征信大数据得不到统一的管理,导致数据不能得到很好的利用的问题。
第一方面,本发明实施例提供了一种基于征信大数据的管理方法,
所述基于征信大数据的管理方法应用于数据中台***中,所述基于征信大数据的管理方法包括:
根据第三方数据的信息标签将所述第三方数据通过ETL流程加载到预设的大数据平台,所述信息标签包括数据合作机构、合作渠道、调用数据方式、开发的数据产品、数据用途、输入参数、返回参数、调用异常以及并发情况;
将自身业务数据以及网络爬取数据通过ETL流程加载到预设的大数据平台。
其进一步的技术方案为,
数据加载到预设的大数据平台过程中,需要对数据进行数据清洗处理、数据融合处理、数据降维处理以及数据标准化处理。
其进一步的技术方案为,所述基于征信大数据的管理方法还包括:
在预设的大数据平台中对数据进行离线计算、实时计算、图计算以及人工智能模型训练。
其进一步的技术方案为,所述基于征信大数据的管理方法还包括:
若接收到终端的服务请求,向所述终端发送对应所述服务请求的服务请求的服务内容,所述服务请求包括查询服务、画像标签服务、API服务、消息推送服务、数据可视化服务以及文本搜索服务中的至少一种。
其进一步的技术方案为,所述基于征信大数据的管理方法还包括:
对所述数据中台***的全过程的数据质量、数据运营、任务流程以及数据安全进行监控和管理。
第二方面,本发明实施例还提供了一种基于征信大数据的管理装置,其包括:
第一加载单元,用于根据第三方数据的信息标签将所述第三方数据通过ETL流程加载到预设的大数据平台,所述信息标签包括数据合作机构、合作渠道、调用数据方式、开发的数据产品、数据用途、输入参数、返回参数、调用异常以及并发情况;
第二加载单元,用于将自身业务数据以及网络爬取数据通过ETL流程加载到预设的大数据平台。
其进一步的技术方案为,数据加载到预设的大数据平台过程中,需要对数据进行数据清洗处理、数据融合处理、数据降维处理以及数据标准化处理。
其进一步的技术方案为,所述基于征信大数据的管理装置还包括:
所述基于征信大数据的管理装置还包括:
处理单元,用于在预设的大数据平台中对数据进行离线计算、实时计算、图计算以及人工智能模型训练;
管理单元,对所述所述数据中台***的全过程的数据质量、数据运营、任务流程以及数据安全进行监控和管理;
发送单元,用于若接收到终端的服务请求,向所述终端发送对应所述服务请求的服务请求的服务内容,所述服务请求包括查询服务、画像标签服务、API服务、消息推送服务、数据可视化服务以及文本搜索服务中的至少一种。
第三方面,本发明实施例还提供了一种计算机设备,其包括存储器及处理器,所述存储器上存储有计算机程序,所述处理器执行所述计算机程序时实现上述方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序当被处理器执行时可实现上述方法。
本发明实施例提供了一种基于征信大数据的管理方法、装置、设备及存储介质。其中,所述方法应用于数据中台***中,其包括:根据第三方数据的信息标签将所述第三方数据通过ETL流程加载到预设的大数据平台,所述信息标签包括数据合作机构、合作渠道、调用数据方式、开发的数据产品、数据用途、输入参数、返回参数、调用异常以及并发情况;将自身业务数据以及网络爬取数据通过ETL流程加载到预设的大数据平台。通过应用本发明实施例的技术方案,能够对各类征信大数据进行统一的管理,使得数据能够得到很好的利用,提高企业决策水平。
附图说明
为了更清楚地说明本发明实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种基于征信大数据的管理方法的流程示意图;
图2为本发明实施例提出的一种中台***的结构示意图;以及
图3为本发明实施例提供的计算机设备的示意性框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
请参阅图1-图2,图1是本发明实施例提供的一种基于征信大数据的管理方法的流程示意图。图2为本发明实施例提出的一种中台***的结构示意图。所述基于征信大数据的管理方法应用于数据中台***中,如图所示,该方法包括以下步骤S1-S2。
S1,根据第三方数据的信息标签将所述第三方数据通过ETL流程加载到预设的大数据平台,所述信息标签包括数据合作机构、合作渠道、调用数据方式、开发的数据产品、数据用途、输入参数、返回参数、调用异常以及并发情况;
具体实施中,针对征信企业调用第三方数据,公共数据模块还根据第三方数据的标签将所述第三方数据进行分类,并进一步通过维度建模,得到多个主题域数据。标签包括数据合作机构(名称、代码)、合作渠道、调用数据方式(名称、代码)、开发的数据产品(名称、代码、类型)、数据用途、输入参数、返回参数、调用异常以及并发情况。
具体实施中,数据中台***包括公共数据模块。公共数据模块用于将征信数据通过ETL流程加载到企业的大数据平台,为数据进一步研发提供数据支持。
具体实施中,由于第三方数据多是以数据服务的方式提供,无法直接加载到大数据平台,因此需要先提取出第三方合作数据的信息标签存放,再加载到大数据平台中。信息标签包括数据合作机构(名称、代码)、合作渠道、调用数据方式(名称、代码)、开发的数据产品(名称、代码、类型)、数据用途、输入参数、返回参数、调用异常以及并发情况。
S2,将自身业务数据以及网络爬取数据通过ETL流程加载到预设的大数据平台。
在一实施例中,数据加载到预设的大数据平台过程中,需要对数据进行数据清洗处理、数据融合处理、数据降维处理以及数据标准化处理。
具体实施中,基于规范定义的数据元素,设计与构建可视化的数据模型。通过数据指标结构化规范化的方式实现指标口径统一,利用维度建模,构建主题域数据。形成以业务核心对象为中心的连接和标签体系。支持采集、解析和管理大数据平台的元数据,构建元数据中心。以上步骤S1和S2在实现过程中伴随着标准规范的数据架构设计和数据规范定义设计。
进一步地,所述基于征信大数据的管理方法还包括:
在预设的大数据平台中对数据进行离线计算、实时计算、图计算以及人工智能模型训练。
具体实施中,利用大数据平台的离线计算、实时计算、图计算以及人工智能模型训练能力,对大数据平台数据进行分析计算和深度挖掘。通过对大数据平台数据进行业务方向的进一步加工处理,提供到各个业务数据源(中间组件)的通路,并为业务人员提供探索和发现数据价值的模型和解决方案。包括对业务模型的构建;通过统计学、大数据分析技术和人工智能技术等方法,对业务数据的进行分析计算和价值挖掘,发挥和挖掘出业务数据的价值与作用。
进一步地,所述基于征信大数据的管理方法还包括:
若接收到终端的服务请求,向所述终端发送对应所述服务请求的服务请求的服务内容,所述服务请求包括查询服务、画像标签服务、API服务、消息推送服务、数据可视化服务以及文本搜索服务中的至少一种。
通过构建数据服务查询引擎,提供中间组件的通路,面向业务提供统一数据出口与数据查询逻辑,实现统一的主题式数据服务。数据服务包括查询服务、画像标签服务、API服务、消息推送服务、数据可视化服务、智能推荐以及文本搜索服务中的至少一种。
通过构建数据服务查询引擎,提供中间组件的通路,面向业务提供统一数据出口与数据查询逻辑,实现统一的主题式数据服务。
具体实施中,数据中台***还包括数据服务模块。数据服务模块用于若接收到终端的服务请求,向所述终端发送对应所述服务请求的服务请求的服务内容。
数据中台距离业务更近,以更高效的方式给业务提供数据服务,因此本***开发了多功能的数据服务模块。数据服务模块可提供如下服务。
1、查询服务,支持跨异构数据库数据的离线查询和实时查询,包括普通的SQL查询和OLAP多维查询。
2、画像标签服务,***提供企业、机构等信息主体的事实画像和抽象画像展示。如企业的公示性信息、招投标信息、司法信息、年报信息、信用评价信息以及企业前景预测等画像标签的展示。
3、API服务,面向业务统一数据出口与数据查询逻辑,此基础上生成规范化业务化的数据API接口,以多样化的方式提供给前台***。
4、消息推送服务,支持微信、邮箱、钉钉等消息推送功能。
5、数据可视化服务,提供数据可视化展现,包括BI报表,信息地图,数据看板,数据大屏等方式。
6、文本搜索服务,利用Elasticsearch与文本解析技术,提供可视化的文本搜索功能,实现企业、机构等主体大量文本信息(招投标、司法处罚等)的快速响应。
7、智能推荐,智能推荐是一套推荐智能服务框架,目标是让业务员及开发者能够在这套框架上快速的获取满足自身业务需求的业务数据。该功能主要是从第三方数据和企业自有数据就某一特定应用场景(如地址核验模型)通过海量数据挖掘和人工智能技术生成各自的k-s值,数据质量等方向考虑而提供的。
在一实施例中,本发明提出的基于征信大数据的管理方法还包括如下步骤:
对所述数据中台***的全过程的数据质量、数据运营、任务流程以及数据安全进行监控和管理。
具体实施中,通过任务调度和数据质量检测这两块功能让数据得到及时修正,来保证数据的质量。
数据中台***还包括数据管理模块。
数据管理模块是对企业数据资产的元数据进行展示和管理。帮助业务成员整理当前状况下企业有哪些数据以及数据的来源和用途,并实现技术员对数据流程和任务流程的监控以及管理层对数据流向和使用的监控。
1、数据血缘追踪,图形化展示表数据是怎么来的,是经过了哪些转化和处理生成的。
2、数据地图,是一个图形化集中的元数据管理***,这里可视化的展示了企业的数据资产都有哪些,可以搜索出对应数据的结构定义。
3、任务流程管理,分析和选择实现目标路线、顺序和过程,能有效地对任务流程进行规划,设计,实现和优化,发现故障及时诊断、定位、分析和调试,简化运维工作。
4、数据运营管理,主要是对数据资产与业务产品之间的关系进行管理。维护了业务产品调用了哪些API接口,使用了哪些第三方数据,哪些是企业自有数据等内容,哪些客户正在使用该产品,该产品目前维护和使用的版本等。
5、数据安全管理,该功能对数据安全和用户权限等方面进行了管理。针对部门或业务线以及其各个成员都拥有各自的权限等级,相应等级拥有相应的数据权限,这些权限包括访问、使用、导出明细数据、数据定义、数据结构等。
6、监控中心,主要对所有数据资产、大数据平台和数据中台***进行监控。
以上4大模块不是相互独立的个体,而是相互关联相互交互的统一整体。数据服务离不开数据研发;数据研发、数据服务和数据管理生成的新数据是公共数据模块新的数据沉淀;基于沉淀后的公共数据模块从业务层面出发又可以产生新的数据研发和数据服务;而这些过程又离不开数据管理模块的监控和管理。
通过应用本发明实施例的技术方案,能够对各类征信大数据进行统一的管理,使得数据能够得到很好的利用,提高企业决策水平。具体体现在以下方面:
数据标准化,统一企业的数据资产管理,规避不同部门不同业务线的不同数据库之间的数据标准或数据指标不统一,实现数据资产各域、主题、模型、字段、指标命名等的统一规范。
高效的共享数据能力,不用再去各个部门找数据,不用再重复开发相关数据组件,而是在***里看有哪些数据、API可以用及对应的数据质量如何,通过分析测试就可以马上知道该产品是否有优质的数据支持,降低数据使用门槛,激发数据的业务创新能力。
统一而多样化的跨源数据服务,依赖于各部门和业务线的异构数据库开发统一规范的数据接口服务引擎,包括SQL查询,即席查询,OLAP多维分析,多方式数据推送,文本搜索,在线分析,定制化数据分析模型等。
健全的数据安全管理机制,除了针对敏感数据使用脱敏处理,加密处理以及数据泄漏防御等技术,还针对不同的用户、客户以及组织架构实现数据差异性访问,此外还对数据的来源和去向都做了监控跟踪。
实时性强,能更快速地响应业务和应用开发的需求,可追溯,更精准。
对应于以上基于征信大数据的管理方法,本发明还提供一种基于征信大数据的管理装置。该基于征信大数据的管理装置包括用于执行上述基于征信大数据的管理方法的单元,该装置可以被配置于数据中台***中。具体地,该基于征信大数据的管理装置包括以下单元:
第一加载单元,用于根据第三方数据的信息标签将所述第三方数据通过ETL流程加载到预设的大数据平台,所述信息标签包括数据合作机构、合作渠道、调用数据方式、开发的数据产品、数据用途、输入参数、返回参数、调用异常以及并发情况;
第二加载单元,用于将自身业务数据以及网络爬取数据通过ETL流程加载到预设的大数据平台。
分类单元,用于根据第三方数据的标签将所述第三方数据进行分类,得到多个主题域数据,所述标签包括数据合作机构(名称、代码)、合作渠道、调用数据方式(名称、代码)、开发的数据产品(名称、代码、类型)、数据用途、输入参数、返回参数、调用异常以及并发情况。
在一实施例中,数据加载到预设的大数据平台过程中,需要对数据进行数据清洗处理、数据融合处理、数据降维处理以及数据标准化处理。
基于规范定义的数据元素,设计与构建可视化的数据模型。通过数据指标结构化规范化的方式实现指标口径统一,利用维度建模,构建主题域数据。支持采集、解析和管理大数据平台的元数据,构建元数据中心。
在一实施例中,所述基于征信大数据的管理装置还包括:
处理单元,用于在预设的大数据平台中对数据进行离线计算、实时计算、图计算以及人工智能模型训练;
管理单元,对所述所述数据中台***的全过程的数据质量、数据运营、任务流程以及数据安全进行监控和管理;
发送单元,用于若接收到终端的服务请求,向所述终端发送对应所述服务请求的服务请求的服务内容,所述服务请求包括查询服务、画像标签服务、API服务、消息推送服务、数据可视化服务以及文本搜索服务中的至少一种。
需要说明的是,所属领域的技术人员可以清楚地了解到,上述基于征信大数据的管理装置和各单元的具体实现过程,可以参考前述方法实施例中的相应描述,为了描述的方便和简洁,在此不再赘述。
上述基于征信大数据的管理装置可以实现为一种计算机程序的形式,该计算机程序可以在如图3所示的计算机设备上运行。
请参阅图3,图3是本申请实施例提供的一种计算机设备的示意性框图。该计算机设备500可以是终端,也可以是服务器,其中,终端可以是智能手机、平板电脑、笔记本电脑、台式电脑、个人数字助理和穿戴式设备等具有通信功能的电子设备。服务器可以是独立的服务器,也可以是多个服务器组成的服务器集群。
参阅图3,该计算机设备500包括通过***总线501连接的处理器502、存储器和网络接口505,其中,存储器可以包括非易失性存储介质503和内存储器504。
该非易失性存储介质503可存储操作***5031和计算机程序5032。该计算机程序5032被执行时,可使得处理器502执行一种基于征信大数据的管理方法。
该处理器502用于提供计算和控制能力,以支撑整个计算机设备500的运行。
该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境,该计算机程序5032被处理器502执行时,可使得处理器502执行一种基于征信大数据的管理方法。
该网络接口505用于与其它设备进行网络通信。本领域技术人员可以理解,图3中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备500的限定,具体的计算机设备500可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
其中,所述处理器502用于运行存储在存储器中的计算机程序5032,以实现如下步骤:
根据第三方数据的信息标签将所述第三方数据通过ETL流程加载到预设的大数据平台,所述信息标签包括数据合作机构、合作渠道、调用数据方式、开发的数据产品、数据用途、输入参数、返回参数、调用异常以及并发情况;
将自身业务数据以及网络爬取数据通过ETL流程加载到预设的大数据平台。
在一实施例中,处理器502在数据加载到预设的大数据平台过程中,需要对数据进行数据清洗处理、数据融合处理、数据降维处理以及数据标准化处理。
在一实施例中,处理器502还实现如下步骤:
在预设的大数据平台中对数据进行离线计算、实时计算、图计算以及人工智能模型训练。
在一实施例中,处理器502还实现如下步骤:
若接收到终端的服务请求,向所述终端发送对应所述服务请求的服务请求的服务内容,所述服务请求包括查询服务、画像标签服务、API服务、消息推送服务、数据可视化服务以及文本搜索服务中的至少一种。
在一实施例中,处理器502还实现如下步骤:
对所述数据中台***的全过程的数据质量、数据运营、任务流程以及数据安全进行监控和管理。
应当理解,在本申请实施例中,处理器502可以是中央处理单元(CentralProcessing Unit,CPU),该处理器502还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
本领域普通技术人员可以理解的是实现上述实施例的方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成。该计算机程序可存储于一存储介质中,该存储介质为计算机可读存储介质。该计算机程序被该计算机***中的至少一个处理器执行,以实现上述方法的实施例的流程步骤。
因此,本发明还提供一种存储介质。该存储介质可以为计算机可读存储介质。该存储介质存储有计算机程序。该计算机程序被处理器执行时使处理器执行如下步骤:
根据第三方数据的信息标签将所述第三方数据通过ETL流程加载到预设的大数据平台,所述信息标签包括数据合作机构、合作渠道、调用数据方式、开发的数据产品、数据用途、输入参数、返回参数、调用异常以及并发情况;
将自身业务数据以及网络爬取数据通过ETL流程加载到预设的大数据平台。
在一实施例中,所述处理器在执行所述计算机程序而实现数据加载到预设的大数据平台过程中,需要对数据进行数据清洗处理、数据融合处理、数据降维处理以及数据标准化处理。
在一实施例中,所述处理器在执行所述计算机程序还实现如下步骤:
在预设的大数据平台中对数据进行离线计算、实时计算、图计算以及人工智能模型训练。
在一实施例中,所述处理器在执行所述计算机程序还实现如下步骤:
若接收到终端的服务请求,向所述终端发送对应所述服务请求的服务请求的服务内容,所述服务请求包括查询服务、画像标签服务、API服务、消息推送服务、数据可视化服务以及文本搜索服务中的至少一种。
通过构建数据服务查询引擎,提供中间组件的通路,面向业务提供统一数据出口与数据查询逻辑,实现统一的主题式数据服务。
在一实施例中,所述处理器在执行所述计算机程序还实现如下步骤:
对所述数据中台***的全过程的数据质量、数据运营、任务流程以及数据安全进行监控和管理。
所述存储介质可以是U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的计算机可读存储介质。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的。例如,各个单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。
本发明实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。本发明实施例装置中的单元可以根据实际需要进行合并、划分和删减。另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。
该集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,终端,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详细描述的部分,可以参见其他实施例的相关描述。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,尚且本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种基于征信大数据的管理方法,其特征在于,所述基于征信大数据的管理方法应用于数据中台***中,所述基于征信大数据的管理方法包括:
根据第三方数据的信息标签将所述第三方数据通过ETL流程加载到预设的大数据平台,所述信息标签包括数据合作机构、合作渠道、调用数据方式、开发的数据产品、数据用途、输入参数、返回参数、调用异常以及并发情况;
将自身业务数据以及网络爬取数据通过ETL流程加载到预设的大数据平台。
2.根据权利要求1所述的基于征信大数据的管理方法,其特征在于,数据加载到预设的大数据平台过程中,需要对数据进行数据清洗处理、数据融合处理、数据降维处理以及数据标准化处理。
3.根据权利要求1所述的基于征信大数据的管理方法,其特征在于,所述基于征信大数据的管理方法还包括:
在预设的大数据平台中对数据进行离线计算、实时计算、图计算以及人工智能模型训练。
4.根据权利要求1所述的基于征信大数据的管理方法,其特征在于,所述基于征信大数据的管理方法还包括:
若接收到终端的服务请求,向所述终端发送对应所述服务请求的服务请求的服务内容,所述服务请求包括查询服务、画像标签服务、API服务、消息推送服务、数据可视化服务以及文本搜索服务中的至少一种。
5.根据权利要求1所述的基于征信大数据的管理方法,其特征在于,所述基于征信大数据的管理方法还包括:
对所述数据中台***的全过程的数据质量、数据运营、任务流程以及数据安全进行监控和管理。
6.一种基于征信大数据的管理装置,其特征在于,包括:
第一加载单元,用于根据第三方数据的信息标签将所述第三方数据通过ETL流程加载到预设的大数据平台,所述信息标签包括数据合作机构、合作渠道、调用数据方式、开发的数据产品、数据用途、输入参数、返回参数、调用异常以及并发情况;
第二加载单元,用于将自身业务数据以及网络爬取数据通过ETL流程加载到预设的大数据平台。
7.根据权利要求6所述的基于征信大数据的管理装置,其特征在于,
数据加载到预设的大数据平台过程中,需要对数据进行数据清洗处理、数据融合处理、数据降维处理以及数据标准化处理。
8.根据权利要求6所述的基于征信大数据的管理装置,其特征在于,所述基于征信大数据的管理装置还包括:
处理单元,用于在预设的大数据平台中对数据进行离线计算、实时计算、图计算以及人工智能模型训练;
管理单元,对所述所述数据中台***的全过程的数据质量、数据运营、任务流程以及数据安全进行监控和管理;
发送单元,用于若接收到终端的服务请求,向所述终端发送对应所述服务请求的服务请求的服务内容,所述服务请求包括查询服务、画像标签服务、API服务、消息推送服务、数据可视化服务以及文本搜索服务中的至少一种。
9.一种计算机设备,其特征在于,所述计算机设备包括存储器及处理器,所述存储器上存储有计算机程序,所述处理器执行所述计算机程序时实现如权利要求1-5中任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序当被处理器执行时可实现如权利要求1-5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911350958.2A CN111078980A (zh) | 2019-12-24 | 2019-12-24 | 基于征信大数据的管理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911350958.2A CN111078980A (zh) | 2019-12-24 | 2019-12-24 | 基于征信大数据的管理方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111078980A true CN111078980A (zh) | 2020-04-28 |
Family
ID=70317408
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911350958.2A Pending CN111078980A (zh) | 2019-12-24 | 2019-12-24 | 基于征信大数据的管理方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111078980A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111797297A (zh) * | 2020-09-09 | 2020-10-20 | 平安国际智慧城市科技股份有限公司 | 页面数据处理方法、装置、计算机设备及存储介质 |
CN112231119A (zh) * | 2020-10-16 | 2021-01-15 | 广西科技大学 | 一种基于分布式的云管理***数据中台服务设计方法 |
CN112328585A (zh) * | 2020-11-17 | 2021-02-05 | 珠海大横琴科技发展有限公司 | 一种数据处理的方法和装置 |
CN113626415A (zh) * | 2021-08-27 | 2021-11-09 | 天元大数据信用管理有限公司 | 一种信用数据输出方法、设备及介质 |
CN112328585B (zh) * | 2020-11-17 | 2024-07-09 | 珠海大横琴科技发展有限公司 | 一种数据处理的方法和装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105809606A (zh) * | 2016-03-08 | 2016-07-27 | 贵州省邮电规划设计院有限公司 | 大数据应用平台*** |
CN109753531A (zh) * | 2018-12-26 | 2019-05-14 | 深圳市麦谷科技有限公司 | 一种大数据统计方法、***、计算机设备及存储介质 |
-
2019
- 2019-12-24 CN CN201911350958.2A patent/CN111078980A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105809606A (zh) * | 2016-03-08 | 2016-07-27 | 贵州省邮电规划设计院有限公司 | 大数据应用平台*** |
CN109753531A (zh) * | 2018-12-26 | 2019-05-14 | 深圳市麦谷科技有限公司 | 一种大数据统计方法、***、计算机设备及存储介质 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111797297A (zh) * | 2020-09-09 | 2020-10-20 | 平安国际智慧城市科技股份有限公司 | 页面数据处理方法、装置、计算机设备及存储介质 |
CN112231119A (zh) * | 2020-10-16 | 2021-01-15 | 广西科技大学 | 一种基于分布式的云管理***数据中台服务设计方法 |
CN112231119B (zh) * | 2020-10-16 | 2024-01-30 | 广西科技大学 | 一种基于分布式的云管理***数据中台服务设计方法 |
CN112328585A (zh) * | 2020-11-17 | 2021-02-05 | 珠海大横琴科技发展有限公司 | 一种数据处理的方法和装置 |
CN112328585B (zh) * | 2020-11-17 | 2024-07-09 | 珠海大横琴科技发展有限公司 | 一种数据处理的方法和装置 |
CN113626415A (zh) * | 2021-08-27 | 2021-11-09 | 天元大数据信用管理有限公司 | 一种信用数据输出方法、设备及介质 |
CN113626415B (zh) * | 2021-08-27 | 2024-02-23 | 天元大数据信用管理有限公司 | 一种信用数据输出方法、设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Phillips-Wren et al. | Business analytics in the context of big data: A roadmap for research | |
US9953022B2 (en) | Natural language metric condition alerts | |
US10725981B1 (en) | Analyzing big data | |
CN110140126B (zh) | 一种用于建模管理属性的方法、服务器和存储器设备 | |
US9361320B1 (en) | Modeling big data | |
US9633115B2 (en) | Analyzing a query and provisioning data to analytics | |
US20140100901A1 (en) | Natural language metric condition alerts user interfaces | |
US20140344273A1 (en) | System and method for categorizing time expenditure of a computing device user | |
CN111046237B (zh) | 用户行为数据处理方法、装置、电子设备及可读介质 | |
CA2828984A1 (en) | Natural language metric condition alerts orchestration | |
US20130054285A1 (en) | Computing and managing conflicting functional data requirements using ontologies | |
US10977236B2 (en) | Dynamic recommendation methods and systems for database changes | |
CN111078980A (zh) | 基于征信大数据的管理方法、装置、设备及存储介质 | |
US20210406981A1 (en) | Method and apparatus of determining display page, electronic device, and medium | |
CN113157947A (zh) | 知识图谱的构建方法、工具、装置和服务器 | |
US10623520B1 (en) | System and method for tagging in identity management artificial intelligence systems and uses for same, including context based governance | |
CN111078776A (zh) | 数据表的标准化方法、装置、设备及存储介质 | |
CN110675238A (zh) | 客户标签配置方法、***、可读存储介质及电子设备 | |
Gajra et al. | Automating student management system using ChatBot and RPA technology | |
Ataei et al. | The state of big data reference architectures: A systematic literature review | |
US20120240121A1 (en) | Cross functional area service identification | |
CN114840519A (zh) | 一种数据打标签的方法、设备及存储介质 | |
US8881028B2 (en) | Reverse metadata viewing by multiple parties | |
US20100030596A1 (en) | Business Process Intelligence | |
CN114239511A (zh) | 填充数据的方法和填充数据的装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |