CN112905618A - 数据处理方法以及装置 - Google Patents
数据处理方法以及装置 Download PDFInfo
- Publication number
- CN112905618A CN112905618A CN202110368246.4A CN202110368246A CN112905618A CN 112905618 A CN112905618 A CN 112905618A CN 202110368246 A CN202110368246 A CN 202110368246A CN 112905618 A CN112905618 A CN 112905618A
- Authority
- CN
- China
- Prior art keywords
- data
- log
- log data
- updated
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 48
- 238000013500 data storage Methods 0.000 claims description 25
- 238000012544 monitoring process Methods 0.000 claims description 25
- 230000005540 biological transmission Effects 0.000 claims description 21
- 238000012545 processing Methods 0.000 claims description 14
- 238000004458 analytical method Methods 0.000 claims description 8
- 238000000034 method Methods 0.000 description 16
- 230000008859 change Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 230000001360 synchronised effect Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/273—Asynchronous replication or reconciliation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本说明书实施例提供数据处理方法以及装置,其中所述数据处理方法包括:在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库;从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据;解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器。
Description
技术领域
本说明书实施例涉及计算机技术领域,特别涉及一种数据处理方法。本说明书一个或者多个实施例同时涉及一种数据处理装置,一种计算设备,以及一种计算机可读存储介质。
背景技术
随着计算机技术以及网络技术的高速发展,推动了大数据时代的到来,传统的集中式数据存储***已经无法满足大规模数据存储的需求,为有效实现大数据存储,分布式数据存储***得到了长足的发展。但是,在分布式数据存储***的数据读取过程中,不仅会存在相对严重的时延问题,而且导致了数据库的读取压力,也使得数据访问的效率低。
发明内容
有鉴于此,本说明书施例提供了一种数据处理方法。本说明书一个或者多个实施例同时涉及一种数据处理装置,一种计算设备,以及一种计算机可读存储介质,以解决现有技术中存在的技术缺陷。
根据本说明书实施例的第一方面,提供了一种数据处理方法,包括:
在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库;
从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据;
解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器。
根据本说明书实施例的第二方面,提供了一种数据处理装置,包括:
确定模块,被配置为在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库;
获取模块,被配置为从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据;
解析模块,被配置为解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器。
根据本说明书实施例的第三方面,提供了一种计算设备,包括:
存储器和处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,其中,所述处理器执行所述计算机可执行指令时实现所述数据处理方法的步骤。
根据本说明书实施例的第四方面,提供了一种计算机可读存储介质,其存储有计算机可执行指令,该计算机指令被处理器执行时实现任意一项所述数据处理方法的步骤。
本说明书一个实施例实现了在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库;从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据;解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器,通过在数据库集群外增加服务器,存储目标日志文件中更新后的日志数据,以实现数据库与服务器之间的一种异步更新缓存,进而从服务器中获取数据不仅能够缓解数据库的访问压力,也可提高数据访问效率。
附图说明
图1是本说明书一个实施例提供的一种数据处理方法应用的***结构示意图;
图2是本说明书一个实施例提供的一种数据处理方法的流程图;
图3是本说明书一个实施例提供的一种数据处理方法的处理过程流程图;
图4是本说明书一个实施例提供的一种数据处理装置的结构示意图;
图5是本说明书一个实施例提供的一种计算设备的结构框图。
具体实施方式
在下面的描述中阐述了很多具体细节以便于充分理解本说明书。但是本说明书能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本说明书内涵的情况下做类似推广,因此本说明书不受下面公开的具体实施的限制。
在本说明书一个或多个实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本说明书一个或多个实施例中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本说明书一个或多个实施例中可能采用术语第一、第二等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本说明书一个或多个实施例范围的情况下,第一也可以被称为第二,类似地,第二也可以被称为第一。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
首先,对本说明书一个或多个实施例涉及的名词术语进行解释。
binlog(日志文件):记录数据库表结构,表数据修改的二进制日志文件,用于分布式数据库数据同步,数据恢复。
消息中间件:基于队列与消息传递技术,在网络环境提供同步或者异步、可靠的消息传输支持软件***。
分布式缓存:分布式环境中,处理大量动态数据提升读取速率,应用于高频率且数据内容小的场景。
缓存击穿:应用优先会取缓存中的数据,缓存中不存在则再读取数据库的数据,同步到缓存中。
sql(结构化查询语言):一种数据库查询和程序设计语言,用于存取数据以及查询、更新和管理关系数据库***。
hbase(开源数据库):一个适合于非结构化数据存储的数据库。
本申请实施例提供的数据处理方法,为了使用缓存的数据,用于数据链路的高保,减少数据库访问的压力,用户可以先读取缓存中的数据,读取不到的情况下再读取数据库的数据,由于在数据库集群中,数据写入点较多,进而实现中异步更新缓存的方法,需要建立一套基于数据库binlog异步更新缓存的链路。
目前缓存更新数据有两种方式,先读取缓存中的数据,在缓存中的数据查找不存在的情况下,再读取数据库中的数据,再更新缓存中的数据;在数据库中的数据进行变更的情况下,同时也更新缓存中的数据,以保证数据的一致性,这两种方式无法解决写入点比较多的情况和只执行sql语句没办法监听数据变更的情况。本说明书实施例提供的数据处理方法仅需要考虑数据库中的数据变更情况,进而根据数据变更情况同步缓存数据,不仅保证缓存数据和数据库中的数据保持一致,而且可用于多种数据源,例如搜索引擎、hbase等。
目前缓存更新依赖于数据的变更,数据变更点比较多,进而无法使用同步的方式来进行缓存更新,需要采用一种异步的方式进行更新,本说明书实施例提供的数据处理方法,通过监听日志文件来异步进行更新缓存。
在本说明书中,提供了一种数据处理方法,本说明书同时涉及一种数据处理装置,一种计算设备,以及一种计算机可读存储介质,在下面的实施例中逐一进行详细说明。
图1示出了根据本说明书一个实施例提供的一种数据处理方法的***结构图。
在高并发大流量下,数据库资源有限,为了减少数据库的读取压力,在数据库之外的***架构中增加服务器,用于数据缓存,进而实现减少对数据库的访问。
图1中的A部分为服务器,图1中的B部分为数据库集群,其中,数据库集群中包括数据库1、数据库2以及数据库3,服务器在监听到数据库集群中的数据发生更新的情况下,若可确定更新的数据对应的目标数据为数据库1,则从该数据库1中确定更新后的目标日志文件,并从该目标日志文件中获取更新的日志数据,服务器则对该日志数据进行解析,确定更新前的日志数据和更新后的日志数据,并将更新后的日志数据作为目标数据存放至服务器。
需要说明的是,数据库集群中的数据更新是一个循环往复的过程,在数据库集群中的数据不断更新的情况下,服务器中的缓存数据也在不断更新,使得服务器与数据库集群保持数据一致。
此外,在数据访问的过程中,先从服务器中访问最新的缓存数据,在服务器中未访问到缓存数据的情况下,再从数据库集群中访问数据,以实现快速地访问数据。
本说明书实施例提供的数据处理方法,为了保证服务器中缓存的数据和ob(OceanBase,数据库)中存储的数据保持一致,在ob数据变更时通过监听ob变更消息,异步地去更新缓存,以便于后续用户在读取数据时,可以优先在服务器中快速地访问到最新的缓存数据,不仅缓解数据库的访问压力,也进而提高数据的访问效率。
参见图2,图2示出了根据本说明书一个实施例提供的一种数据处理方法的流程图,具体包括以下步骤。
步骤202:在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库。
其中,日志文件可以理解为数据库中的事务日志以操作***文件的形式存在,每个数据库中至少有一个日志文件。
具体的,服务器确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库。
实际应用中,服务器可监听数据库集群的数据变更,在数据库集群中,数据的写入、修改等操作都会在对应的日志文件中记录,则根据更新的日志文件可确定对应数据变化的目标数据库。
进一步地,服务器可通过中间件对数据库集群进行监测,以确定数据库集群中数据的更新情况;具体的,所述在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库,包括:
通过事件监听中间件对数据库集群进行监测,在监测到所述数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库。
具体的,服务器通过事件监听中间件对数据库集群中的数据进行实时监测,在监测到数据库集群的日志文件发生更新的情况下,可在数据库集群中确定更新的日志文件所对应的目标数据库。
例如,数据库集群中的数据库节点有三个,分别为数据库1、数据库2、数据库3,在数据库2的数据节点中执行sql语句写入数据,数据库2的数据更新在日志文件中记录,则可确定数据库集群中的日志文件发生更新的目标数据库为数据库2。
本说明书实施例提供的数据处理方法,服务器通过事件监听中间件对数据库集群进行监测,以确定数据更新的目标数据库,以便于后续快速地获取目标数据库中的更新的日志文件中的数据。
实际应用中,为了保证服务器对数据库集群中的数据更新监测的有效性,将根据预设时间间隔对数据库集群进行检测;具体的,所述通过事件监听中间件对数据库集群进行监测,包括:
根据预设时间间隔通过事件监听中间件对数据库集群进行监测。
具体的,服务器在预设时间间隔内通过事件监听中间件对数据库集群进行监测,以确定数据库集群中更新的日志文件对应的目标数据库。
沿用上例,服务器在对上述数据库集群进行监测时,可预设时间间隔为0.5秒,则在每隔0.5秒对数据库集群进行监测,通过事件监听中间件对数据库集群中的数据进行监测,确定进行更新的日志文件对应的目标数据库。
本说明书实施例提供的数据处理方法,按照预设时间间隔通过事件监听中间件进行监测,不仅可以缓解服务器的监测压力,也可以快速地实现对数据库集群中更新数据的确认。
步骤204:从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据。
其中,目标日志文件可以理解为数据库集群中更新的日志文件,比如,binlog日志文件。
其中,日志数据可以理解为记录数据更新的二进制的数据文件。
具体的,目标数据库中包括至少一个日志文件,在至少一个日志文件中可确定更新后的日志文件作为目标日志文件,并从该目标日志文件中获取更新的日志数据。
实际应用中,在数据库集群中,可以存在至少一个日志文件进行数据更新,本说明书实施例中确定的目标日志文件,是通过sql语句对数据库集群中的数据进行写入、修改或删除等操作的日志文件,需要说明的是,该日志文件中记录的日志数据是二进制日志文件,用于分布式数据库中数据同步或数据恢复。
步骤206:解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器。
具体的,服务器在获取到目标日志文件中的日志数据之后,对该日志数据进行解析,在日志数据中可解析出目标日志文件对应的数据库更新前的日志数据和更新后的日志数据,并将更新后的日志数据作为目标数据存放至服务器中。
需要说明的是,解析日志数据后,可以确定数据库集群中的数据更新前的数据内容以及更新后的数据内容。
沿用上例,在数据库2中获取到日志数据A后,在对日志数据A进行解析,可确定该数据库2在该条日志数据写入之前,对于变更的数据,更新前的数据内容为a,更新后的数据内容为b,则将更新后的数据内容b作为目标数据存放至服务器中。
进一步地,解析后的日志数据可以与服务器的格式保持一致;具体的,所述解析所述日志数据,确定更新前的日志数据和更新后的日志数据,包括:
确定所述服务器的数据存储格式,将所述日志数据根据所述数据存储格式进行解析,以确定解析后、转换为所述数据存储格式的更新前的日志数据和更新后的日志数据。
其中,数据存储格式可以理解为服务器中缓存数据的存储格式。
具体的,可确定服务器的数据存储格式,服务器将获取到的日志数据根据数据存储格式进行解析,进而确定解析后,转换为与该数据存储格式相一致的更新前的日志数据和更新后的日志数据。
实际应用中,数据存储格式可以为文本格式、计算机标记语言格式等格式,服务器可自行选择相应的数据存储格式,并将从服务器集群中获取到的日志数据进行相应的数据存储格式的转变,以数据存储格式为文本格式为例,将日志数据转换为文本格式的数据,可以转换为:更新前-数据1,更新后-数据2。
本说明书实施例提供的数据处理方法,服务器将日志数据按照确定的数据存储格式进行解析,以获取与服务器数据存储格式相匹配的日志数据,以便于后续快速地将更新后的日志数据存储至服务器。
在将更新后的日志数据作为目标数据存储至服务器之后,还需将解析后的数据发送至客户端,以便于用户后续通过客户端获取相应的数据;具体的,所述解析所述日志数据,确定更新前的日志数据和更新后的日志数据之后,还包括:
基于预设传输条件将所述更新前的日志数据和所述更新后的日志数据发送至客户端。
其中,预设传输条件可以理解为在数据满足预设的需求条件,比如,数据所占的数据大小、数据满足用户预设的数据类型等条件。
具体的,服务器可根据预设传输条件,将解析日志数据之后确定的更新前的日志数据和更新后的日志数据发送至客户端,用户可通过客户端获取更新前的日志数据和更新后的日志数据,以便于后续用户对数据的使用。
沿用上例,预设传输条件为向客户端发送数据的数据大小为12k,则在确定的更新前的日志数据和更新后的日志数据大小满足12k的情况下,将更新前的日志数据和更新后的日志数据发送至客户端,需要说明的是,在更新前的日志数据和更新后的日志数据未满足预设传输条件中的12k的情况下,可等待下一次获取到的日志数据,再次判断数据大小是否满足12k,在确定的更新前的日志数据和更新后的日志数据大小满足12k之后,再向客户端发送相应的更新前的日志数据和更新后的日志数据。
本说明书实施例提供的数据处理方法,通过预设传输条件将更新前的日志数据和更新后的日志数据发送至客户端,以便于后续用户通过客户端快速地获取日志数据。
为了将更新前的日志数据和更新后的日志数据快速地发送至客户端;具体的,所述基于预设传输条件将所述更新前的日志数据和所述更新后的日志数据发送至客户端之前,还包括:
将所述更新前的日志数据和所述更新后的日志数据存放至消息传输中间件的消息队列中;
在接收到客户端的数据获取请求的情况下,基于所述数据获取请求中的日志数据标识从所述消息队列中,获取与所述日志数据标识对应的所述更新前的日志数据和所述更新后的日志数据。
其中,消息传输中间件可以理解为基于队列与消息传递技术,在网络环境提供同步或者异步、可靠的消息传输支持软件***,以便于传输更新前的日志数据和更新后的日志数据。
具体的,服务器将解析后获取的更新前的日志数据和更新后的日志数据存放至消息传输中间件的消息队列中,服务器在接收到用户通过客户端发送的数据获取请求的情况下,基于数据获取请求中的日志数据标识从消息队列中,获取与日志数据标识对应的更新前的日志数据和更新后的日志数据。
实际应用中,消息队列可以存放至少一个日志数据,在将更新前的日志数据和更新后的日志数据发送至客户端的过程中,利用消息传输中间件将更新前的日志数据和更新后的日志数据进行传输,需要说明的是,本说明书实施例以消息传输中间件的方式进行数据传输,也可以其他方式进行数据传输,在此不做任何限定。
沿用上例,若服务器的消息队列中存放的日志数据为数据1、数据2、数据3,则根据用户的数据获取请求中的日志数据标识可确定用户所需获取数据为数据2,则在该消息队列中获取数据2,并发送至客户端。
本说明书实施例提供的数据处理方法,通过将更新前的日志数据和更新后的日志数据存放至消息传输中间件的消息队列中,进而实现在消息传输中间件中的消息队列中获取更新前的日志数据和更新后的日志数据,以便于后续快速地应用获取到的数据。
此外,在用户通过客户端向服务器发送数据读取请求的情况下,预设时间段内可能存在多个更新后的日志数据,可根据更新时间确定目标日志数据;具体的,所述将所述更新后的日志数据作为目标数据存放至所述服务器之后,还包括:
在接收用户的数据读取请求的情况下,基于所述数据读取请求中的日志数据标识确定所述更新后的日志数据的更新时间,基于更新时间确定目标日志数据,将所述目标日志数据返回至所述用户。
具体的,服务器在接收到用户通过客户端发送的数据读取请求的情况下,根据数据读取请求中携带的日志数据标识可确定更新后的日志数据的更新时间,并根据该更新时间确定目标日志数据,将该目标日志数据返回至用户。
实际应用中,在预设时间段内可能存在多个更新后的数据,每个更新后的数据均携带有更新时间,服务器可根据用户需求确定需要获取某一更新时间的更新数据,将该更新数据确定为目标日志数据返回至用户。
例如,服务器存储的更新时间以及更新后的日志数据分别为:2020-1-1 00:00数据1,2020-1-1 00:01数据2,2020-1-1 00:02数据3,可以说明的是,该数据在两秒内更新了两次,由数据1更新为数据2,由数据2更新为数据3,用户通过客户端向服务器发送数据读取请求,根据该数据读取请求中携带的日志数据标识可确定更新后的日志数据的更新时间为2020-1-1 00:01,根据该更新时间可以确定数据2为目标日志数据,并将该目标日志数据返回至用户。
本说明书实施例提供的数据处理方法,在服务器接收到数据读取请求的情况下,可根据数据读取请求中携带的日志数据标识确定在服务器缓存的目标日志数据,以便于快速地将该目标日志数据返回至用户,通过向服务器获取目标日志数据的方式,不仅可以缓解数据库的访问压力,也可以快速直接地获取到目标数据。
需要说明的是,本说明书实施例提供的数据处理方法,提供的异步缓存更新机制,针对数据库集群写入点比较多的场景,同步更新的效率不高,主要是接收数据库binlog(日志文件)的更新,并解析binlog(日志文件)内容异步更新,实现同步缓存多数据源,进而实现数据的缓存。
综上,本说明书实施例提供的数据处理方法,通过在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库;从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据;解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器,通过在数据库集群外增加服务器,以存储目标日志文件中更新后的日志数据,以实现数据库与服务器之间的一种异步更新缓存,进而从服务器中获取数据不仅能够缓解数据库的访问压力,也可提高数据访问效率。
下述结合附图3,以本说明书提供的数据处理方法在监听binlog日志文件的应用为例,对所述数据处理方法进行进一步说明。其中,图3示出了本说明书一个实施例提供的一种数据处理方法的处理过程流程图,具体步骤包括步骤302至步骤310。
本说明书实施例提供的数据处理方法通过监测binlog日志文件的变更,同时异步更新缓存数据,以保证缓存数据与数据库集群中的数据保持一致。
步骤302:数据库集群中的数据进行数据更新,将数据更新操作写入binlog日志文件。
具体的,在数据库集群中的数据进行数据更新后,对数据进行更新的操作,可在binlog日志文件进行写入。
步骤304:服务器监测到binlog日志文件发生变更,确定数据库集群中相应的目标数据库,服务器从目标数据库确定的更新的binlog日志文件中,获取更新的日志数据。
具体的,服务器通过事件监听中间件监测binlog日志文件的变更,以确定数据库集群中相应的目标数据库,并从binlog日志文件中获取更新的日志数据。
步骤306:服务器解析更新的日志数据,确定更新前的日志数据和更新后的日志数据。
步骤308:服务器将更新后的日志数据作为目标数据存放至服务器的缓存结构中。
步骤310:服务器将更新前的日志数据和更新后的日志数据发送至客户端。
本说明书一个实施例实现了在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库;从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据;解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器,通过在数据库集群外增加服务器,以存储目标日志文件中更新后的日志数据,以实现数据库与服务器之间的一种异步更新缓存,进而从服务器中获取数据不仅能够缓解数据库的访问压力,也可提高数据访问效率。
与上述方法实施例相对应,本说明书还提供了数据处理装置实施例,图4示出了本说明书一个实施例提供的一种数据处理装置的结构示意图。如图4所示,该装置包括:
确定模块402,被配置为在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库;
获取模块404,被配置为从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据;
解析模块406,被配置为解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器。
可选地,所述装置,还包括:
发送模块,被配置为基于预设传输条件将所述更新前的日志数据和所述更新后的日志数据发送至客户端。
可选地,所述解析模块406,进一步被配置为:
确定所述服务器的数据存储格式,将所述日志数据根据所述数据存储格式进行解析,以确定解析后、转换为所述数据存储格式的更新前的日志数据和更新后的日志数据。
可选地,所述确定模块402,进一步被配置为:
通过事件监听中间件对数据库集群进行监测,在监测到所述数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库。
可选地,所述确定模块402,进一步被配置为:
根据预设时间间隔通过事件监听中间件对数据库集群进行监测。
可选地,所述装置,还包括:
将所述更新前的日志数据和所述更新后的日志数据存放至消息传输中间件的消息队列中;
在接收到客户端的数据获取请求的情况下,基于所述数据获取请求中的日志数据标识从所述消息队列中,获取与所述日志数据标识对应的所述更新前的日志数据和所述更新后的日志数据。
可选地,所述装置,还包括:
在接收用户的数据读取请求的情况下,基于所述数据读取请求中的日志数据标识确定所述更新后的日志数据的更新时间,基于更新时间确定目标日志数据,将所述目标日志数据返回至所述用户。
本说明书实施例提供的数据处理装置,在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库;从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据;解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器,通过在数据库集群外增加服务器,以存储目标日志文件中更新后的日志数据,以实现数据库与服务器之间的一种异步更新缓存,进而从服务器中获取数据不仅能够缓解数据库的访问压力,也可提高数据访问效率。
上述为本实施例的一种数据处理装置的示意性方案。需要说明的是,该数据处理装置的技术方案与上述的数据处理方法的技术方案属于同一构思,数据处理装置的技术方案未详细描述的细节内容,均可以参见上述数据处理方法的技术方案的描述。
图5示出了根据本说明书一个实施例提供的一种计算设备500的结构框图。该计算设备500的部件包括但不限于存储器510和处理器520。处理器520与存储器510通过总线530相连接,数据库550用于保存数据。
计算设备500还包括接入设备540,接入设备540使得计算设备500能够经由一个或多个网络560通信。这些网络的示例包括公用交换电话网(PSTN)、局域网(LAN)、广域网(WAN)、个域网(PAN)或诸如因特网的通信网络的组合。接入设备540可以包括有线或无线的任何类型的网络接口(例如,网络接口卡(NIC))中的一个或多个,诸如IEEE802.11无线局域网(WLAN)无线接口、全球微波互联接入(Wi-MAX)接口、以太网接口、通用串行总线(USB)接口、蜂窝网络接口、蓝牙接口、近场通信(NFC)接口,等等。
在本说明书的一个实施例中,计算设备500的上述部件以及图5中未示出的其他部件也可以彼此相连接,例如通过总线。应当理解,图5所示的计算设备结构框图仅仅是出于示例的目的,而不是对本说明书范围的限制。本领域技术人员可以根据需要,增添或替换其他部件。
计算设备500可以是任何类型的静止或移动计算设备,包括移动计算机或移动计算设备(例如,平板计算机、个人数字助理、膝上型计算机、笔记本计算机、上网本等)、移动电话(例如,智能手机)、可佩戴的计算设备(例如,智能手表、智能眼镜等)或其他类型的移动设备,或者诸如台式计算机或PC的静止计算设备。计算设备500还可以是移动式或静止式的服务器。
其中,处理器520用于执行如下计算机可执行指令,其中,所述处理器执行所述计算机可执行指令时实现所述数据处理方法的步骤。
上述为本实施例的一种计算设备的示意性方案。需要说明的是,该计算设备的技术方案与上述的数据处理方法的技术方案属于同一构思,计算设备的技术方案未详细描述的细节内容,均可以参见上述数据处理方法的技术方案的描述。
本说明书一实施例还提供一种计算机可读存储介质,其存储有计算机指令,该指令被处理器执行时实现所述数据处理方法的步骤。
上述为本实施例的一种计算机可读存储介质的示意性方案。需要说明的是,该存储介质的技术方案与上述的数据处理方法的技术方案属于同一构思,存储介质的技术方案未详细描述的细节内容,均可以参见上述数据处理方法的技术方案的描述。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
所述计算机指令包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
需要说明的是,对于前述的各方法实施例,为了简便描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本说明书实施例并不受所描述的动作顺序的限制,因为依据本说明书实施例,某些步骤可以采用其它顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定都是本说明书实施例所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其它实施例的相关描述。
以上公开的本说明书优选实施例只是用于帮助阐述本说明书。可选实施例并没有详尽叙述所有的细节,也不限制该发明仅为所述的具体实施方式。显然,根据本说明书实施例的内容,可作很多的修改和变化。本说明书选取并具体描述这些实施例,是为了更好地解释本说明书实施例的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本说明书。本说明书仅受权利要求书及其全部范围和等效物的限制。
Claims (10)
1.一种数据处理方法,应用于服务器,包括:
在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库;
从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据;
解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器。
2.根据权利要求1所述的数据处理方法,所述解析所述日志数据,确定更新前的日志数据和更新后的日志数据之后,还包括:
基于预设传输条件将所述更新前的日志数据和所述更新后的日志数据发送至客户端。
3.根据权利要求1或2所述的数据处理方法,所述解析所述日志数据,确定更新前的日志数据和更新后的日志数据,包括:
确定所述服务器的数据存储格式,将所述日志数据根据所述数据存储格式进行解析,以确定解析后、转换为所述数据存储格式的更新前的日志数据和更新后的日志数据。
4.根据权利要求3所述的数据处理方法,所述在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库,包括:
通过事件监听中间件对数据库集群进行监测,在监测到所述数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库。
5.根据权利要求4所述的数据处理方法,所述通过事件监听中间件对数据库集群进行监测,包括:
根据预设时间间隔通过事件监听中间件对数据库集群进行监测。
6.根据权利要求2所述的数据处理方法,所述基于预设传输条件将所述更新前的日志数据和所述更新后的日志数据发送至客户端之前,还包括:
将所述更新前的日志数据和所述更新后的日志数据存放至消息传输中间件的消息队列中;
在接收到客户端的数据获取请求的情况下,基于所述数据获取请求中的日志数据标识从所述消息队列中,获取与所述日志数据标识对应的所述更新前的日志数据和所述更新后的日志数据。
7.根据权利要求5所述的数据处理方法,所述将所述更新后的日志数据作为目标数据存放至所述服务器之后,还包括:
在接收用户的数据读取请求的情况下,基于所述数据读取请求中的日志数据标识确定所述更新后的日志数据的更新时间,基于更新时间确定目标日志数据,将所述目标日志数据返回至所述用户。
8.一种数据处理装置,应用于服务器,包括:
确定模块,被配置为在确定数据库集群的日志文件发生更新的情况下,确定更新的日志文件对应的目标数据库;
获取模块,被配置为从所述目标数据库中确定更新后的目标日志文件,并从所述目标日志文件中获取更新的日志数据;
解析模块,被配置为解析所述日志数据,确定更新前的日志数据和更新后的日志数据,并将所述更新后的日志数据作为目标数据存放至所述服务器。
9.一种计算设备,包括:
存储器和处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,其中,所述处理器执行所述计算机可执行指令时实现权利要求1-7任意一项所述数据处理方法的步骤。
10.一种计算机可读存储介质,其存储有计算机指令,该计算机指令被处理器执行时实现权利要求1-7任意一项所述数据处理方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110368246.4A CN112905618A (zh) | 2021-04-06 | 2021-04-06 | 数据处理方法以及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110368246.4A CN112905618A (zh) | 2021-04-06 | 2021-04-06 | 数据处理方法以及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112905618A true CN112905618A (zh) | 2021-06-04 |
Family
ID=76110002
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110368246.4A Pending CN112905618A (zh) | 2021-04-06 | 2021-04-06 | 数据处理方法以及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112905618A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113673818A (zh) * | 2021-07-13 | 2021-11-19 | 交控科技股份有限公司 | 一种调整行车折返能力的方法及装置 |
CN114500255A (zh) * | 2022-03-01 | 2022-05-13 | 北京百度网讯科技有限公司 | 一种日志数据上报方法、装置、设备及存储介质 |
CN115150418A (zh) * | 2022-08-26 | 2022-10-04 | 北京蔚领时代科技有限公司 | 服务器集群的数据存储方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103838867A (zh) * | 2014-03-20 | 2014-06-04 | 网宿科技股份有限公司 | 日志处理方法和装置 |
CN107341212A (zh) * | 2017-06-26 | 2017-11-10 | 努比亚技术有限公司 | 一种缓存更新方法及设备 |
CN108399256A (zh) * | 2018-03-06 | 2018-08-14 | 北京慧萌信安软件技术有限公司 | 异构数据库内容同步方法、装置及中间件 |
CN108804237A (zh) * | 2017-05-05 | 2018-11-13 | 北京京东尚科信息技术有限公司 | 数据实时统计方法、装置、存储介质和电子设备 |
CN109033268A (zh) * | 2018-07-10 | 2018-12-18 | 安心财产保险有限责任公司 | 数据同步方法、装置、设备及存储介质 |
US20190163776A1 (en) * | 2017-11-30 | 2019-05-30 | International Business Machines Corporation | Ensuring consistent replication of updates in databases |
CN112000737A (zh) * | 2020-08-14 | 2020-11-27 | 苏州浪潮智能科技有限公司 | 基于多云管理的数据同步方法、***、终端及存储介质 |
CN112434043A (zh) * | 2020-12-02 | 2021-03-02 | 新华三大数据技术有限公司 | 一种数据同步方法、装置、电子设备及介质 |
-
2021
- 2021-04-06 CN CN202110368246.4A patent/CN112905618A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103838867A (zh) * | 2014-03-20 | 2014-06-04 | 网宿科技股份有限公司 | 日志处理方法和装置 |
CN108804237A (zh) * | 2017-05-05 | 2018-11-13 | 北京京东尚科信息技术有限公司 | 数据实时统计方法、装置、存储介质和电子设备 |
CN107341212A (zh) * | 2017-06-26 | 2017-11-10 | 努比亚技术有限公司 | 一种缓存更新方法及设备 |
US20190163776A1 (en) * | 2017-11-30 | 2019-05-30 | International Business Machines Corporation | Ensuring consistent replication of updates in databases |
CN108399256A (zh) * | 2018-03-06 | 2018-08-14 | 北京慧萌信安软件技术有限公司 | 异构数据库内容同步方法、装置及中间件 |
CN109033268A (zh) * | 2018-07-10 | 2018-12-18 | 安心财产保险有限责任公司 | 数据同步方法、装置、设备及存储介质 |
CN112000737A (zh) * | 2020-08-14 | 2020-11-27 | 苏州浪潮智能科技有限公司 | 基于多云管理的数据同步方法、***、终端及存储介质 |
CN112434043A (zh) * | 2020-12-02 | 2021-03-02 | 新华三大数据技术有限公司 | 一种数据同步方法、装置、电子设备及介质 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113673818A (zh) * | 2021-07-13 | 2021-11-19 | 交控科技股份有限公司 | 一种调整行车折返能力的方法及装置 |
CN113673818B (zh) * | 2021-07-13 | 2024-04-19 | 交控科技股份有限公司 | 一种调整行车折返能力的方法及装置 |
CN114500255A (zh) * | 2022-03-01 | 2022-05-13 | 北京百度网讯科技有限公司 | 一种日志数据上报方法、装置、设备及存储介质 |
CN114500255B (zh) * | 2022-03-01 | 2024-03-15 | 北京百度网讯科技有限公司 | 一种日志数据上报方法、装置、设备及存储介质 |
CN115150418A (zh) * | 2022-08-26 | 2022-10-04 | 北京蔚领时代科技有限公司 | 服务器集群的数据存储方法 |
CN115150418B (zh) * | 2022-08-26 | 2024-01-26 | 北京蔚领时代科技有限公司 | 服务器集群的数据存储方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112905618A (zh) | 数据处理方法以及装置 | |
CN113297166B (zh) | 数据处理***、方法以及装置 | |
CN111475584B (zh) | 数据处理方法、***以及装置 | |
CN108647304B (zh) | 报表显示***、方法、计算机设备及存储介质 | |
US20170060922A1 (en) | Method and device for data search | |
CN113282611A (zh) | 一种流数据同步的方法、装置、计算机设备及存储介质 | |
CN113297269A (zh) | 数据查询方法及装置 | |
CN104281673A (zh) | 一种数据库的缓存构建***及对应的构建方法 | |
CN110955719B (zh) | 一种数据存取处理设备、***和方法 | |
CN114579532A (zh) | 处理预写日志的方法、装置及*** | |
CN107169047A (zh) | 一种实现数据缓存的方法及装置 | |
US20190057028A1 (en) | Conflict Resolution and Garbage Collection in Distributed Databases | |
CN112597163A (zh) | 数据处理***、方法及装置 | |
CN114996361B (zh) | 数据处理方法及*** | |
CN116257584A (zh) | 数据同步方法及装置 | |
CN114153547B (zh) | 管理页面显示方法及装置 | |
CN113656469B (zh) | 大数据处理方法及装置 | |
CN115374078A (zh) | 一种数据存储与读取***及其工作方法 | |
CN112286947B (zh) | 保持不同存储***的数据一致的方法以及装置 | |
CN114385596A (zh) | 数据处理方法及装置 | |
CN114168589A (zh) | 索引构建方法及装置 | |
CN114691720A (zh) | 数据查询方法、数据库***、可读介质和电子设备 | |
CN110955722B (zh) | 数据同步方法及装置 | |
US11055266B2 (en) | Efficient key data store entry traversal and result generation | |
CN111475492A (zh) | 数据处理方法以及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210604 |