CN110175206A - 用于多数据库分离的智能分析业务方法、***及介质 - Google Patents

Abstract

本发明公开了一种用于多数据库分离的智能分析业务方法，包括：对前端业务的访问请求进行语义分析，根据语句类型对访问请求进行分类；对访问对象情况进行分析，得到对象分析结果；根据所述对象分析结果进行分析生成访问策略；根据语句类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；定期智能分析访问频率表中的对象的访问频率，根据访问频率设置的百分比阈值生成相应的迁移策略和确定迁移的对象。本发明的有益效果：对业务访问的数据进行分类和智能分析，能自动分析和探测业务处理数据库对象的访问频率及访问内容，生成数据迁移策略，实现多数据库的数据物理分离、读写分离。

Description

用于多数据库分离的智能分析业务方法、***及介质

技术领域

本发明涉及数据处理技术领域，具体涉及一种用于多数据库分离的智能分析业务方法、***及介质。

背景技术

目前大型企业的核心信息化交易***主要以关系型数据库为主，通过关系型数据库对业务数据进行增删改查操作来实现复杂的业务逻辑，信息化***的数据库容量基本超过TB级，甚至达PB级。核心数据库中单表数据高达到100G以上，有的甚至达TB级以上，大表查询往往影响数据库的查询效率，影响业务处理流程，***性能大大降低。

***设计初期，数据库存储容量规划缺乏有效的数据依据，信息***设计人员对业务的后期数据增长量评估不准确，导致数据库的存储容量无法承载业务数据。前期规划中存储硬件比较旧，存储硬件支持的容量存在局限性，数据库无法扩容存储，因而需要人工对生产数据库进行人工转储或清理，需要耗费大量的人力及时间成本。同时还需要承担人为误操作而带来的损失；数据迁移之后，前台业务需要通过DBLINK跨数据库的方式对数据进行访问，不但加大了数据库管理员的维护难度，而且严重影响业务***的性能。

人工对数据库表数据进行数据转储，需要业务人员对预转储的表进行评估，根据业务的访问频率及前台业务需要查询周期来评判该表是否满足转储条件，而核心数据库中表的数量多达上百张，无法对所有表进行评估，因而只有少量的表可进行转储。

发明内容

针对现有技术中的缺陷，本发明实施例提供一种用于多数据库分离的智能分析业务方法、***及介质，对业务访问的数据进行分类和智能分析，能自动分析和探测业务处理数据库对象的访问频率及访问内容，实现多数据库的数据物理分离、读写分离。

第一方面，本发明实施例提供的一种用于多数据库分离的智能分析业务方法，包括：

对前端业务的访问请求进行语义分析，根据语句类型对访问请求进行分类；

对访问对象情况进行分析，得到对象分析结果；

根据所述对象分析结果进行分析生成访问策略；

根据语句类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；

定期智能分析访问频率表中的对象的访问频率，根据访问频率设置的百分比阈值生成相应的迁移策略和确定迁移的对象。

可选地，语句类型包括查询语句和更新语句。

可选地，方法还包括：根据访问策略确定访问的目标数据库。

可选地，所述根据语句的类型执行相对应的访问策略的具体方法包括：

若语句类型为查询语句，则判断查询语句所需的访问数据是否存储在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据；

若语句类型为更新语句，则判断更新语句所需的数据块是否存储在数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。

第二方面，本发明实施例提供的一种用于多数据库分离的智能分析业务***，包括语义分析模块、对象分析模块、访问策略生成模块、访问频率表生成模块和迁移策略生成模块，

所述语义分析模块用于对前端业务的访问请求进行语义分析，根据语句类型对访问请求进行分类；

所述对象分析模块用于对访问对象情况进行分析，得到对象分析结果；

所述访问策略生成模块用于根据所述对象分析结果进行分析生成访问策略；

所述访问频率表生成模块用于根据语句类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；

所述迁移策略生成模块用于定期智能分析访问频率表中的对象的访问频率，根据访问频率设置的百分比阈值生成相应的迁移策略和确定迁移的对象。

可选地，语句类型包括查询语句和更新语句。

可选地，***还包括对象跟踪模块，所述对象跟踪模块用于对访问请求的流程和访问的页面进行跟踪和监控。

可选地，***还包括数据路由模块，所述数据路由模块用于访问策略确定访问的目标数据库。

可选地，语义分析模块包括查询语句分析单元和更新语句分析单元，

所述查询语句分析单元用于当语句类型为查询语句时，判断查询语句所需的访问数据是否存储在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据；

所述更新语句分析单元用于当语句类型为更新语句时，判断更新语句所需的数据块是否存在储数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。

第三方面，本发明实施例还提供一种计算机可读存储介质，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行上述第一方面描述的方法。

本发明的有益效果：

本发明实施例提供的一种用于多数据库分离的智能分析业务方法、***及介质，适用于海量存储、表设计规则和普通表命名方式的场景。对业务访问的数据进行分类和智能分析，能自动分析和探测业务处理数据库对象的访问频率及访问内容，生成数据迁移策略，实现多数据库的数据物理分离、读写分离。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍。在所有附图中，类似的元件或部分一般由类似的附图标记标识。附图中，各元件或部分并不一定按照实际的比例绘制。

图1示出了本发明第一实施例所提供的一种用于多数据库分离的智能分析业务方法的流程图；

图2示出了本发明第二实施例所提供的一种用于多数据库分离的智能分析业务***的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。

还应当进一步理解，本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

如在本说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。

需要注意的是，除非另有说明，本申请使用的技术术语或者科学术语应当为本发明所属领域技术人员所理解的通常意义。

本发明第一实施例所提供的一种用于多数据库分离的智能分析业务方法。

在呼叫业务数据***中，根据不同业务特点对数据库进行分类。数据库包括基础库、生产库、历史库、日志库和数据仓库。基础库用于存储业务所需要的配置文件数据；生产库用于存储生产业务、短信、语音等业务数据；日志库用于存储日志记录的相关数据；历史库用于存储短时间内的产生的业务数据；数据仓库用于存储长时间的业务数据。在本实施例中，生产库用于存储7天内产生的业务数据，历史库用于存储3个月内产生的业务数据，数据仓库可存储5～10年内的业务数据。将不同的数据存储在不同的数据库中，在进行数据访问时可提高访问速度。数据库需安装IAM Agent(智能分析模块代理)，并创建IAM相关数据的表。基础库、生产库、历史库、日志库和数据仓库均包括执行代理单元、对象采集单元和对象分析单元，执行代理单元用于将访问对象记录更新至访问频率表，查询数据缓存区是否有该条记录的缓存，如果没有则从数据库加载所需要的数据存放在数据缓存区，然后将数据返回给用户。对象采集单元用于采集存储访问对象信息。对象分析单元用于分析数据库中的对象信息，在发现有不适合存储在本数据库中的，可以迁移到其他数据库中。

如图1所示，示出了本发明第一实施例提供的用于多数据库分离的智能分析业务方法的流程图，该方法是用于对上述多数据库的数据分离进行智能分析，该方法包括以下步骤：

S1:对前端业务的访问请求进行语义分析，根据语句类型对访问请求进行分类。

S2:对语句访问对象情况进行分析，得到对象分析结果。

S3:根据所述对象分析结果进行分析生成访问策略。

具体地，语句类型包括查询语句和更新语句，更新语句包括新增语句和修改语句。对访问请求进行语义分析，判断访问请求语句是查询语句还是更新语句，对访问请求进行分类。

根据语句的类型对业务对象进行分析，确定数据路由和访问策略。数据路由是指根据业务对象的存储位置确定访问存储业务对象数据的数据库，访问策略是指访问目标数据库的方法。若语句类型为查询语句，则判断查询语句所需的访问数据是否存储在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据。

若语句类型为更新语句，则判断更新语句所需的数据块是否存储在数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。

S4:根据语句类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表。

具体地，访问策略是指访问目标数据库的方法。根据语句类型确定相应的访问策略，对访问对象信息进行记录，获取访问对象的热点信息，生成访问频率表，便于确定迁移策略。

S5:定期智能分析访问频率表中的对象的访问频率，根据访问频率设置的百分比阈值生成相应的迁移策略和确定迁移的对象。

具体地，步骤S5定期智能分析访问频率表中的对象的访问频率的具体方法：定期查询访问频率表，查看表中的对象的访问频率，将访问频率与预设访问频率的阈值进行比较；若达到预设阈值，则将访问频率表中的对象确定为需要迁移的对象。根据访问频率设置的百分比阈值生成相应的迁移策略。迁移策略是指将某些业务数据迁移到相应的数据库。

上述方法还包括：根据访问策略确定访问的目标数据库。

本发明实施例提供的用于多数据库分离的智能分析业务方法，适用于海量存储、表设计规则和普通表命名方式的场景的数据分析。该方法对业务访问的数据进行分类和智能分析，能自动分析和探测业务处理数据库对象的访问频率及访问内容，生成数据迁移策略，实现多数据库的数据物理分离、读写分离。

实施例2

在上述的第一实施例中，提供了一种用于多数据库分离的智能分析业务方法，与之相对应的，本申请还提供一种用于多数据库分离的智能分析业务***。请参考图2，其为本发明第二实施例提供的一种用于多数据库分离的智能分析业务***的示意图。由于装置实施例基本相似于方法实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

如图2所示，本发明实施例提供的一种用于多数据库分离的智能分析业务***，包括语义分析模块、对象分析模块、访问策略生成模块、访问频率表生成模块和迁移策略生成模块。所述语义分析模块用于对前端业务的访问请求进行语义分析，根据语句类型对访问请求进行分类。所述对象分析模块用于对访问对象情况进行分析，得到对象分析结果。所述访问策略生成模块用于根据所述对象分析结果进行分析生成访问策略。所述访问频率表生成模块用于根据语句类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表。所述迁移策略生成模块用于定期智能分析访问频率表中的对象的访问频率，根据访问频率设置的百分比阈值生成相应的迁移策略和确定迁移的对象。

语义分析模块包括查询语句分析单元和更新语句分析单元，查询语句分析单元用于当语句类型为查询语句时，判断查询语句所需的访问数据是否在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据；更新语句分析单元用于当语句类型为更新语句时，判断更新语句所需的数据块是否在数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。

***还包括对象跟踪模块、数据路由模块和数据缓存模块，对象跟踪模块用于对访问请求的流程和访问的页面进行跟踪和监控，便于数据分析。数据路由模块用于根据访问策略确定访问的目标数据库。数据缓存模块用于缓存***所需要的各种数据。

在本实施例中，数据库包括基础库、生产库、历史库、日志库和数据仓库。基础库用于存储业务所需要的配置文件数据；生产库用于存储生产业务、短信、语音等业务数据；日志库用于存储日志记录的相关数据；历史库用于存储短时间内的产生的业务数据；数据仓库用于存储长时间的业务数据。在本实施例中，生产库用于存储7天内产生的业务数据，历史库用于存储3个月内产生的业务数据，数据仓库可存储5～10年内的业务数据。将不同的数据存储在不同的数据库中，在进行数据访问时可提高访问速度。数据库需安装IAM Agent(智能分析模块代理)，并创建IAM相关数据的表。基础库、生产库、历史库、日志库和数据仓库均包括执行代理单元、对象采集单元和对象分析单元，执行代理单元用于将访问对象记录更新至访问频率表，查询数据缓存区是否有该条记录的缓存，如果没有则从数据库加载所需要的数据存放在数据缓存区，然后将数据返回给用户。对象采集单元用于采集存储访问对象信息。对象分析单元用于分析数据库中的对象信息，在发现有不适合存储在本数据库中的，可以迁移到其他数据库中。

以上，为本发明第二实施例提供的一种用于多数据库分离的智能分析业务***的实施例说明。

本发明提供的一种用于多数据库分离的智能分析业务***与上述用于多数据库分离的智能分析业务方法出于相同的发明构思，具有相同的有益效果。本发明实施例提供的用于多数据库分离的智能分析业务***，对业务访问的数据进行分类和智能分析，能自动分析和探测业务处理数据库对象的访问频率及访问内容，生成数据迁移策略，实现多数据库的数据物理分离、读写分离。

实施例3

在本发明实施例还提供一种计算机可读存储介质的，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执上述第一实施例描述的方法。

所述计算机可读存储介质可以是前述实施例所述的终端的内部存储单元，例如终端的硬盘或内存。所述计算机可读存储介质也可以是所述终端的外部存储设备，例如所述终端上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(SecureDigital,SD)卡，闪存卡(Flash Card)等。进一步地，所述计算机可读存储介质还可以既包括所述终端的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述终端所需的其他程序和数据。所述计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的终端和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露终端和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围，其均应涵盖在本发明的权利要求和说明书的范围当中。

Claims (10)

1.一种用于多数据库分离的智能分析业务方法，其特征在于，包括：

对前端业务的访问请求进行语义分析，根据语句类型对访问请求进行分类；

对访问对象情况进行分析，得到对象分析结果；

根据所述对象分析结果进行分析生成访问策略；

根据语句类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；

定期智能分析访问频率表中的对象的访问频率，根据访问频率设置的百分比阈值生成相应的迁移策略和确定迁移的对象。

2.如权利要求1所述的用于多数据库分离的智能分析业务方法，其特征在于，所述语句类型包括查询语句和更新语句。

3.如权利要求1所述的用于多数据库分离的智能分析业务方法，其特征在于，所述方法还包括：根据访问策略确定访问的目标数据库。

4.如权利要求1-3任一项所述的用于多数据库分离的智能分析业务方法，其特征在于，所述根据语句的类型执行相对应的访问策略的具体方法包括：

若语句类型为查询语句，则判断查询语句所需的访问数据是否存储在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据；

若语句类型为更新语句，则判断更新语句所需的数据块是否存储在数据缓存区，若是，则在数据缓存区中更新数据；若否，则将更新的数据写入目标数据库。

5.一种用于多数据库分离的智能分析业务***，其特征在于，包括语义分析模块、对象分析模块、访问策略生成模块、访问频率表生成模块和迁移策略生成模块，

所述语义分析模块用于对前端业务的访问请求进行语义分析，根据语句类型对访问请求进行分类；

所述对象分析模块用于对访问对象情况进行分析，得到对象分析结果；

所述访问策略生成模块用于根据所述对象分析结果进行分析生成访问策略；

所述访问频率表生成模块用于根据语句类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；

所述迁移策略生成模块用于定期智能分析访问频率表中的对象的访问频率，根据访问频率设置的百分比阈值生成相应的迁移策略和确定迁移的对象。

6.如权利要求5所述的用于多数据库分离的智能分析业务***，其特征在于，所述语句类型包括查询语句和更新语句。

7.如权利要求6所述的用于多数据库分离的智能分析业务***，其特征在于，所述***还包括对象跟踪模块，所述对象跟踪模块用于对访问请求的流程和访问的页面进行跟踪和监控。

8.如权利要求5所述的用于多数据库分离的智能分析业务***，其特征在于，所述***还包括数据路由模块，所述数据路由模块用于访问策略确定访问的目标数据库。

9.如权利要求5-8任一项所述的用于多数据库分离的智能分析业务***，其特征在于，所述语义分析模块包括查询语句分析单元和更新语句分析单元，

所述查询语句分析单元用于当语句类型为查询语句时，判断查询语句所需的访问数据是否存储在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据；

所述更新语句分析单元用于当语句类型为更新语句时，判断更新语句所需的数据块是否存在储数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。

10.一种计算机可读存储介质，其特征在于，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行如权利要求1-4任一项所述的方法。