CN109634951B - 大数据采集方法、装置、计算机设备及存储介质 - Google Patents

Abstract

本发明公开了大数据采集方法、装置、计算机设备及存储介质。该方法包括：接收多个业务数据库所上传的业务数据，将业务数据根据来源标识存储至本地的源数据库中对应的子源数据表中；获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域；根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库。该方法实现了将数据集中在一个平台，数据分析只需要从一个数据来源取数，实现统一的数据管理和使用，减少数据的重复加工。

Description

大数据采集方法、装置、计算机设备及存储介质

技术领域

本发明涉及数据加工技术领域，尤其涉及一种大数据采集方法、装置、计算机设备及存储介质。

背景技术

目前，企业的数据库一般是按业务***进行分类，并将不同的业务数据存储在各自对应的数据库中，这就导致了各业务***之间的数据并不能相互融合进行数据分析和应用，导致了数据孤岛的问题。

发明内容

本发明实施例提供了一种大数据采集方法、装置、计算机设备及存储介质，旨在解决现有技术中不同的业务数据存储在各自对应的数据库中，导致了各业务***之间的数据并不能相互融合进行数据分析和应用，导致了数据孤岛的问题。

第一方面，本发明实施例提供了一种大数据采集方法，其包括：

接收多个业务数据库所上传的业务数据，将业务数据根据来源标识存储至本地的源数据库中对应的子源数据表中；

获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域；

根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库。

第二方面，本发明实施例提供了一种大数据采集装置，其包括：

业务数据接收单元，用于接收多个业务数据库所上传的业务数据，将业务数据根据来源标识存储至本地的源数据库中对应的子源数据表中；

多级主题域获取单元，用于获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域；

主题域数据库加工单元，用于根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库。

第三方面，本发明实施例又提供了一种计算机设备，其包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面所述的大数据采集方法。

第四方面，本发明实施例还提供了一种存储介质，其中所述存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行上述第一方面所述的大数据采集方法。

本发明实施例提供了一种大数据采集方法、装置、计算机设备及存储介质。通过对多个业务数据库所上传的业务数据根据字段进行主题域加工，得到主题域数据库，实现了将数据集中在一个平台，数据分析只需要从一个数据来源取数，实现统一的数据管理和使用，减少数据的重复加工。

附图说明

为了更清楚地说明本发明实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的大数据采集方法的流程示意图；

图2为本发明实施例提供的大数据采集方法的另一流程示意图；

图3为本发明实施例提供的大数据采集方法的子流程示意图；

图4为本发明实施例提供的大数据采集方法的另一流程示意图；

图5为本发明实施例提供的大数据采集方法的另一子流程示意图；

图6为本发明实施例提供的大数据采集装置的示意性框图；

图7为本发明实施例提供的大数据采集装置的另一示意性框图；

图8为本发明实施例提供的大数据采集装置的子单元示意性框图；

图9为本发明实施例提供的大数据采集装置的另一示意性框图；

图10为本发明实施例提供的大数据采集装置的另一子单元示意性框图；

图11为本发明实施例提供的计算机设备的示意性框图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。

还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

请参阅图1，图1是本发明实施例提供的大数据采集方法的流程示意图，该大数据采集方法应用于管理服务器中，该方法通过安装于管理服务器中的应用软件进行执行，管理服务器即是用于对各业务***上传的业务数据进行采集和加工的企业终端。

如图1所示，该方法包括步骤S101～S103。

S101、接收多个业务数据库所上传的业务数据，将业务数据根据来源标识存储至本地的源数据库中对应的子源数据表中。

在本实施例中，是通过管理服务器作为一个大数据采集和加工的数据融合性功能的数据库。与管理服务器连接的多个业务***中(如保险企业中的业务***一般包括承保数据库，理赔数据库，渠道数据库，客户信息数据库，外部数据库等)，这些业务***中的数据均可以上传至管理服务器中，由管理服务器进行数据加工。

多个业务数据库中的业务数据按指定周期(如每24h自动上传一次)或是手动触发数据上传时，管理服务器中设置有一存储空间作为源数据库，所上传的业务数据根据业务数据的来源，存储至本地的源数据库中对应的子表(即子源数据表)中。

在一实施例中，步骤S101包括：

接收业务数据库所上传的业务数据，解析业务数据的来源标识；

根据来源标识定位本地的源数据库中对应的子源数据表，将业务数据存储至该子源数据表。

每一业务数据库首次与管理服务器建立通讯通道并进行数据传输时，在管理服务器的本地的源数据库中都会建立一个与业务数据库对应的子源数据表，以对应存储来自不同业务数据库的业务数据。例如承保数据库所上传的业务数据被添加承保数据库的来源标识，并通过承保数据库与管理服务器所建立的通讯通道上传至源数据库中的承保数据子源数据表(若承保数据子源数据表是存在于源数据库中时就无需建立承保数据子源数据表，若承保数据子源数据表未存在于源数据库中时就需要根据承保数据库的来源标识对应建立承保数据子源数据表)。在后续过程中，若管理服务器又接收了承保数据库所上传的业务数据，这些业务数据被解析后的来源标识为承保数据库，故这些业务数据被存储至承保数据子源数据表。

在一实施例中，本地的源数据库为Hadoop数据库，业务数据库中的业务数据均通过Sqoop脚本自动上传至Hadoop数据库。Hadoop是Apache基金会下一个开源的分布式计算平台，它以分布式文件***HDFS和MapReduce算法为核心，为用户提供了***底层细节透明的分布式基础架构。Sqoop脚本主要用于在Hadoop与传统的数据库(如mysql、postgresql等)间进行数据的传递，可以将一个关系型数据库中的数据导入Hadoop的HDFS中，也可以将HDFS的数据导入关系型数据库中。

S102、获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域。

在本实施例中，当多个业务数据库中的业务数据均上传至管理服务器后，此时管理服务器可以统计获取本地的源数据库中所包括的子源数据表，以本地的源数据库中所包括的子源数据表作为数据加工的基础数据，对该基础数据可以进行主题域的加工，还可以进行数据集市，数据应用等方式进行数据加工。数据集市、数据应用是从不同的粒度和主题对数据进行加工，以满足各种场景的不同纬度的数据分析需求。在进行主题域的加工时，可以子源数据表的来源标识和所选定的字段对应生成多级主题域，以满足用户需根据主题来检索数据的需求。

在一实施例中，步骤S102还包括：

根据子源数据表的来源标识和由第一SQL脚本所选定的字段对应生成多级主题域。

即如图2所示，作为步骤S102的另一实施例，具体如下：

S102a、获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和由第一SQL脚本所选定的字段对应生成多级主题域。

在本实施例中，当获取了源数据库中所包括的子源数据表后，每一子源数据表对应的来源标识均可作为第一级主题域，例如承保数据子源数据表的来源标识为承保数据库，且在承保数据子源数据表中通过第一SQL脚本自动选定了对应字段后，可以将选定的字段作为第二级主题域，通过上述方式得到了第一级主题域和第二级主题域之后，可以根据多级主题域对应建立主题域数据库。具体在建立多级主题域时，并不局限于只建立所举例的两级主题域，还能针对第二级主题域进一步在子源数据表中选定下一级的字段作为下一级的主题域。

例如通过第一SQL脚本自动选定了姓名这一字段作为第二级主题域后，还能通过第一SQL脚本自动选定手机号码、承保金额、承保期限这几个字段作为第三级主题域。当用户选定了承保数据库这一个第一级主题域，选定了姓名这一个第二级主题域(例如选定的姓名为张三)，管理服务器就会筛选出张三名下的、包括手机号码、承保金额、承保期限这3个第三级主题域的数据，并绘制成数据表格以反馈给用户查看。通过生成多级主题域的数据库，便于对原始数据进行多层次的加工，以满足用户的实际数据使用需求。

S103、根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库。

在本实施例中，根据筛选出来的多级主题域对应建立主题域数据库后，以本地的源数据库中所包括的子源数据表为数据基础，通过多级主题域中对应字段在子源数据表筛选得到的数据对应存储至主题域数据库。在管理服务器中既存在本地的源数据库中所包括的子源数据表作为原始未加工数据，也存在主题域数据库，满足了用户根据主题来检索数据的需求。

在一实施例中，如图3所示，步骤S103包括：

S1031、以多级主题域中的第一级主题域为表格名一一对应建立表格，根据多级主题域中所包括的多级主题域中删除第一级主题域所剩余的主题域对应建立字段；

S1032、根据主题域数据库所包括的字段对应生成第二SQL脚本，通过第二SQL脚本将子源数据表中对应字段的数据填充至主题域数据库的对应表格。

在本实施例中，在建立主题域数据库时，是在主题域数据库中以多级主题域中的第一级主题域为表格名一一对应建立表格，根据多级主题域中所包括的多级主题域中删除第一级主题域所剩余的主题域对应建立字段，所得到的主题域数据库是一个相对于源数据库简化后的数据库，即有选择性的保留了部分字段，而删除了无需保留的字段，这样通过有选择性的保留表格和字段，能提高用户在实际应用场景下的检索效率。而且通过第二SQL脚本将子源数据表中对应字段的数据填充至主题域数据库的对应表格，实现了数据的自动筛选和填充，提高了数据处理效率。

在一实施例中，如图4所示，步骤S103之后还包括：

S104、获取源数据库中所包括的子源数据表，根据子源数据表中的共同字段将各子源数据表中的数据进行融合，得到集市数据库。

在本实施例中，对源数据库中所包括的子源数据表所包括的字段进行全面统计(即只要在子源数据表中出现的字段均被统计)，对重复出现的字段的数据进行融合，得到了一个全面统计后的集市数据库，实现了对子源数据表的数据融合。

在一实施例中，如图5所示，步骤S104包括：

S1041、统计获取各子源数据表中包括的字段；

S1042、若各子源数据表中包括的字段中存在字段的出现频次大于1，将该字段进行去重以使该字段的出现频次为1并将该字段作为集市数据库中的字段；

S1043、若各子源数据表中包括的字段中存在字段的出现频次等于1，将该字段进行保存以作为集市数据库中的字段；

S1044、将集市数据库中所包括的字段对应进行数据填充，得到集市数据库。

在本实施例中，每一子源数据表中一般都包括相同的字段，如用户身份证件号，若将每一子源数据表中具有相同字段的数据进行融合，即用户身份证件号这一字段只保留一个(即相同的字段仅保留一个)，其余不同的字段均保留，得到一个融合后的数据。例如在子源数据表1中有用户ID、用户身份证号，用户姓名，投保类型、投保金额，投保时限字段；在子源数据表2中有用户ID、用户身份证号，用户姓名，手机号码，借款金额，借款时限字段；经过数据融合后在集市数据库中，这两条数据被融合成一条，且具有以下字段：用户ID、用户身份证号，用户姓名，投保类型、投保金额，投保时限，手机号码，借款金额，借款时限字段。这样，就将各个子源数据表中的数据进行了融合，得到了针对每一用户最全面的数据。

该方法通过对多个业务数据库所上传的业务数据根据字段进行主题域加工，得到主题域数据库，实现了将数据集中在一个平台，数据分析只需要从一个数据来源取数，实现统一的数据管理和使用，减少数据的重复加工。

本发明实施例还提供一种大数据采集装置，该大数据采集装置用于执行前述大数据采集方法的任一实施例。具体地，请参阅图6，图6是本发明实施例提供的大数据采集装置的示意性框图。该大数据采集装置100可以配置于管理服务器中。

如图6所示，大数据采集装置100包括业务数据接收单元101、多级主题域获取单元102、和主题域数据库加工单元103。

业务数据接收单元101，用于接收多个业务数据库所上传的业务数据，将业务数据根据来源标识存储至本地的源数据库中对应的子源数据表中。

在本实施例中，是通过管理服务器作为一个大数据采集和加工的数据融合性功能的数据库。与管理服务器连接的多个业务***中(如保险企业中的业务***一般包括承保数据库，理赔数据库，渠道数据库，客户信息数据库，外部数据库等)，这些业务***中的数据均可以上传至管理服务器中，由管理服务器进行数据加工。

多个业务数据库中的业务数据按指定周期(如每24h自动上传一次)或是手动触发数据上传时，管理服务器中设置有一存储空间作为源数据库，所上传的业务数据根据业务数据的来源，存储至本地的源数据库中对应的子表中。

在一实施例中，业务数据接收单元101包括：

来源标识解析单元，用于接收业务数据库所上传的业务数据，解析业务数据的来源标识；

子源数据表定位单元，用于根据来源标识定位本地的源数据库中对应的子源数据表，将业务数据存储至该子源数据表。

每一业务数据库首次与管理服务器建立通讯通道并进行数据传输时，在管理服务器的本地的源数据库中都会建立一个与业务数据库对应的子源数据表，以对应存储来自不同业务数据库的业务数据。例如承保数据库所上传的业务数据被添加承保数据库的来源标识，并通过承保数据库与管理服务器所建立的通讯通道上传至源数据库中的承保数据子源数据表(若承保数据子源数据表是存在于源数据库中时就无需建立承保数据子源数据表，若承保数据子源数据表未存在于源数据库中时就需要根据承保数据库的来源标识对应建立承保数据子源数据表)。在后续过程中，若管理服务器又接收了承保数据库所上传的业务数据，这些业务数据被解析后的来源标识为承保数据库，故这些业务数据被存储至承保数据子源数据表。

在一实施例中，本地的源数据库为Hadoop数据库，业务数据库中的业务数据均通过Sqoop脚本自动上传至Hadoop数据库。Hadoop是Apache基金会下一个开源的分布式计算平台，它以分布式文件***HDFS和MapReduce算法为核心，为用户提供了***底层细节透明的分布式基础架构。Sqoop脚本主要用于在Hadoop与传统的数据库(如mysql、postgresql等)间进行数据的传递，可以将一个关系型数据库中的数据导入Hadoop的HDFS中，也可以将HDFS的数据导入关系型数据库中。

多级主题域获取单元102，用于获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域。

在本实施例中，当多个业务数据库中的业务数据均上传至管理服务器后，此时管理服务器可以统计获取本地的源数据库中所包括的子源数据表，以本地的源数据库中所包括的子源数据表作为数据加工的基础数据，对该基础数据可以进行主题域的加工，还可以进行数据集市，数据应用等方式进行数据加工。数据集市、数据应用是从不同的粒度和主题对数据进行加工，以满足各种场景的不同纬度的数据分析需求。在进行主题域的加工时，可以子源数据表的来源标识和所选定的字段对应生成多级主题域，以满足用户需根据主题来检索数据的需求。

在一实施例中，如图7所示，作为多级主题域获取单元102的另一实施例，大数据采集装置100还包括：

数据脚本加工单元102a，用于获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和由第一SQL脚本所选定的字段对应生成多级主题域。

在本实施例中，当获取了源数据库中所包括的子源数据表后，每一子源数据表对应的来源标识均可作为第一级主题域，例如承保数据子源数据表的来源标识为承保数据库，且在承保数据子源数据表中通过第一SQL脚本自动选定了对应字段后，可以将选定的字段作为第二级主题域，通过上述方式得到了第一级主题域和第二级主题域之后，可以根据多级主题域对应建立主题域数据库。具体在建立多级主题域时，并不局限于只建立所举例的两级主题域，还能针对第二级主题域进一步在子源数据表中选定下一级的字段作为下一级的主题域。

例如通过第一SQL脚本自动选定了姓名这一字段作为第二级主题域后，还能通过第一SQL脚本自动选定手机号码、承保金额、承保期限这几个字段作为第三级主题域。当用户选定了承保数据库这一个第一级主题域，选定了姓名这一个第二级主题域(例如选定的姓名为张三)，管理服务器就会筛选出张三名下的、包括手机号码、承保金额、承保期限这3个第三级主题域的数据，并绘制成数据表格以反馈给用户查看。通过生成多级主题域的数据库，便于对原始数据进行多层次的加工，以满足用户的实际数据使用需求。

主题域数据库加工单元103，用于根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库。

在本实施例中，根据筛选出来的多级主题域对应建立主题域数据库后，以本地的源数据库中所包括的子源数据表为数据基础，通过多级主题域中对应字段在子源数据表筛选得到的数据对应存储至主题域数据库。在管理服务器中既存在本地的源数据库中所包括的子源数据表作为原始未加工数据，也存在主题域数据库，满足了用户根据主题来检索数据的需求。

在一实施例中，如图8所示，主题域数据库加工单元103包括：

主题域表格建立单元1031，用于以多级主题域中的第一级主题域为表格名一一对应建立表格，根据多级主题域中所包括的多级主题域中删除第一级主题域所剩余的主题域对应建立字段；

主题域表格数据填充单元1032，用于根据主题域数据库所包括的字段对应生成第二SQL脚本，通过第二SQL脚本将子源数据表中对应字段的数据填充至主题域数据库的对应表格。

在本实施例中，在建立主题域数据库时，是在主题域数据库中以多级主题域中的第一级主题域为表格名一一对应建立表格，根据多级主题域中所包括的多级主题域中删除第一级主题域所剩余的主题域对应建立字段，所得到的主题域数据库是一个相对于源数据库简化后的数据库，即有选择性的保留了部分字段，而删除了无需保留的字段，这样通过有选择性的保留表格和字段，能提高用户在实际应用场景下的检索效率。而且通过第二SQL脚本将子源数据表中对应字段的数据填充至主题域数据库的对应表格，实现了数据的自动筛选和填充，提高了数据处理效率。

在一实施例中，如图9所示，大数据采集装置100还包括：

集市数据库加工单元104，用于获取源数据库中所包括的子源数据表，根据子源数据表中的共同字段将各子源数据表中的数据进行融合，得到集市数据库。

在本实施例中，对源数据库中所包括的子源数据表所包括的字段进行全面统计(即只要在子源数据表中出现的字段均被统计)，对重复出现的字段的数据进行融合，得到了一个全面统计后的集市数据库，实现了对子源数据表的数据融合。

在一实施例中，如图10所示，集市数据库加工单元104包括：

字段统计单元1041，用于统计获取各子源数据表中包括的字段；

去重单元1042，用于若各子源数据表中包括的字段中存在字段的出现频次大于1，将该字段进行去重以使该字段的出现频次为1并将该字段作为集市数据库中的字段；

字段保留单元1043，用于若各子源数据表中包括的字段中存在字段的出现频次等于1，将该字段进行保存以作为集市数据库中的字段；

数据填充单元1044，用于将集市数据库中所包括的字段对应进行数据填充，得到集市数据库。

在本实施例中，每一子源数据表中一般都包括相同的字段，如用户身份证件号，若将每一子源数据表中具有相同字段的数据进行融合，即用户身份证件号这一字段只保留一个(即相同的字段仅保留一个)，其余不同的字段均保留，得到一个融合后的数据。例如在子源数据表1中有用户ID、用户身份证号，用户姓名，投保类型、投保金额，投保时限字段；在子源数据表2中有用户ID、用户身份证号，用户姓名，手机号码，借款金额，借款时限字段；经过数据融合后在集市数据库中，这两条数据被融合成一条，且具有以下字段：用户ID、用户身份证号，用户姓名，投保类型、投保金额，投保时限，手机号码，借款金额，借款时限字段。这样，就将各个子源数据表中的数据进行了融合，得到了针对每一用户最全面的数据。

该装置通过对多个业务数据库所上传的业务数据根据字段进行主题域加工，得到主题域数据库，实现了将数据集中在一个平台，数据分析只需要从一个数据来源取数，实现统一的数据管理和使用，减少数据的重复加工。

上述大数据采集装置可以实现为计算机程序的形式，该计算机程序可以在如图11所示的计算机设备上运行。

请参阅图11，图11是本发明实施例提供的计算机设备的示意性框图。

参阅图11，该计算机设备500包括通过***总线501连接的处理器502、存储器和网络接口505，其中，存储器可以包括非易失性存储介质503和内存储器504。

该非易失性存储介质503可存储操作***5031和计算机程序5032。该计算机程序5032被执行时，可使得处理器502执行大数据采集方法。

该处理器502用于提供计算和控制能力，支撑整个计算机设备500的运行。

该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境，该计算机程序5032被处理器502执行时，可使得处理器502执行大数据采集方法。

该网络接口505用于进行网络通信，如提供数据信息的传输等。本领域技术人员可以理解，图11中示出的结构，仅仅是与本发明方案相关的部分结构的框图，并不构成对本发明方案所应用于其上的计算机设备500的限定，具体的计算机设备500可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。

其中，所述处理器502用于运行存储在存储器中的计算机程序5032，以实现如下功能：接收多个业务数据库所上传的业务数据，将业务数据根据来源标识存储至本地的源数据库中对应的子源数据表中；获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域；根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库。

在一实施例中，处理器502在执行根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库的步骤之后，还执行如下操作：获取源数据库中所包括的子源数据表，根据子源数据表中的共同字段将各子源数据表中的数据进行融合，得到集市数据库。

在一实施例中，处理器502在根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域的步骤时，执行如下操作：根据子源数据表的来源标识和由第一SQL脚本所选定的字段对应生成多级主题域。

在一实施例中，处理器502在执行根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库的步骤时，执行如下操作：以多级主题域中的第一级主题域为表格名一一对应建立表格，根据多级主题域中所包括的多级主题域中删除第一级主题域所剩余的主题域对应建立字段；根据主题域数据库所包括的字段对应生成第二SQL脚本，通过第二SQL脚本将子源数据表中对应字段的数据填充至主题域数据库的对应表格。

在一实施例中，处理器502在执行根据子源数据表中的共同字段将各子源数据表中的数据进行融合，得到集市数据库的步骤时，执行如下操作：统计获取各子源数据表中包括的字段；若各子源数据表中包括的字段中存在字段的出现频次大于1，将该字段进行去重以使该字段的出现频次为1并将该字段作为集市数据库中的字段；若各子源数据表中包括的字段中存在字段的出现频次等于1，将该字段进行保存以作为集市数据库中的字段；

将集市数据库中所包括的字段对应进行数据填充，得到集市数据库。

本领域技术人员可以理解，图11中示出的计算机设备的实施例并不构成对计算机设备具体构成的限定，在其他实施例中，计算机设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。例如，在一些实施例中，计算机设备可以仅包括存储器及处理器，在这样的实施例中，存储器及处理器的结构及功能与图11所示实施例一致，在此不再赘述。

应当理解，在本发明实施例中，处理器502可以是中央处理单元(CentralProcessing Unit，CPU)，该处理器502还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific IntegratedCircuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中，通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

在本发明的另一实施例中提供存储介质。该存储介质可以为非易失性的计算机可读存储介质。该存储介质存储有计算机程序，其中计算机程序被处理器执行时实现以下步骤：接收多个业务数据库所上传的业务数据，将业务数据根据来源标识存储至本地的源数据库中对应的子源数据表中；获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域；根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库。

在一实施例中，所述根根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库之后，还包括：获取源数据库中所包括的子源数据表，根据子源数据表中的共同字段将各子源数据表中的数据进行融合，得到集市数据库。

在一实施例中，所述根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域，包括：根据子源数据表的来源标识和由第一SQL脚本所选定的字段对应生成多级主题域。

在一实施例中，所述根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库，包括：以多级主题域中的第一级主题域为表格名一一对应建立表格，根据多级主题域中所包括的多级主题域中删除第一级主题域所剩余的主题域对应建立字段；根据主题域数据库所包括的字段对应生成第二SQL脚本，通过第二SQL脚本将子源数据表中对应字段的数据填充至主题域数据库的对应表格。

在一实施例中，所述根据子源数据表中的共同字段将各子源数据表中的数据进行融合，得到集市数据库，包括：统计获取各子源数据表中包括的字段；若各子源数据表中包括的字段中存在字段的出现频次大于1，将该字段进行去重以使该字段的出现频次为1并将该字段作为集市数据库中的字段；若各子源数据表中包括的字段中存在字段的出现频次等于1，将该字段进行保存以作为集市数据库中的字段；将集市数据库中所包括的字段对应进行数据填充，得到集市数据库。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的设备、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本发明所提供的几个实施例中，应该理解到，所揭露的设备、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为逻辑功能划分，实际实现时可以有另外的划分方式，也可以将具有相同功能的单元集合成一个单元，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分，或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims (6)

1.一种大数据采集方法，其特征在于，包括：

接收多个业务数据库所上传的业务数据，将业务数据根据来源标识存储至本地的源数据库中对应的子源数据表中；

获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域；

根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库；

获取源数据库中所包括的子源数据表，根据子源数据表中的共同字段将各子源数据表中的数据进行融合，得到集市数据库；

所述根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库，包括：

以多级主题域中的第一级主题域为表格名一一对应建立表格，根据多级主题域中所包括的多级主题域中删除第一级主题域所剩余的主题域对应建立字段；

根据主题域数据库所包括的字段对应生成第二SQL脚本，通过第二SQL脚本将子源数据表中对应字段的数据填充至主题域数据库的对应表格。

2.根据权利要求1所述的大数据采集方法，其特征在于，所述根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域，包括：

根据子源数据表的来源标识和由第一SQL脚本所选定的字段对应生成多级主题域。

3.根据权利要求1所述的大数据采集方法，其特征在于，所述根据子源数据表中的共同字段将各子源数据表中的数据进行融合，得到集市数据库，包括：

统计获取各子源数据表中包括的字段；

若各子源数据表中包括的字段中存在字段的出现频次大于1，将该字段进行去重以使该字段的出现频次为1并将该字段作为集市数据库中的字段；

若各子源数据表中包括的字段中存在字段的出现频次等于1，将该字段进行保存以作为集市数据库中的字段；

将集市数据库中所包括的字段对应进行数据填充，得到集市数据库。

4.一种大数据采集装置，其特征在于，包括：

业务数据接收单元，用于接收多个业务数据库所上传的业务数据，将业务数据根据来源标识存储至本地的源数据库中对应的子源数据表中；

多级主题域获取单元，用于获取源数据库中所包括的子源数据表，根据子源数据表的来源标识和在子源数据表中所选定的字段对应生成多级主题域；

主题域数据库加工单元，用于根据多级主题域对应建立主题域数据库，将源数据库中所包括的子源数据表根据多级主题域所筛选得到的数据对应存储至主题域数据库；

集市数据库加工单元，用于获取源数据库中所包括的子源数据表，根据子源数据表中的共同字段将各子源数据表中的数据进行融合，得到集市数据库；

所述主题域数据库加工单元，包括：

主题域表格建立单元，用于以多级主题域中的第一级主题域为表格名一一对应建立表格，根据多级主题域中所包括的多级主题域中删除第一级主题域所剩余的主题域对应建立字段；

主题域表格数据填充单元，用于根据主题域数据库所包括的字段对应生成第二SQL脚本，通过第二SQL脚本将子源数据表中对应字段的数据填充至主题域数据库的对应表格。

5.一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至3中任一项所述的大数据采集方法。

6.一种存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行如权利要求1至3任一项所述的大数据采集方法。