CN107092685A - 一种联合使用文件***和rdbms存储事务数据的方法 - Google Patents
一种联合使用文件***和rdbms存储事务数据的方法 Download PDFInfo
- Publication number
- CN107092685A CN107092685A CN201710269586.5A CN201710269586A CN107092685A CN 107092685 A CN107092685 A CN 107092685A CN 201710269586 A CN201710269586 A CN 201710269586A CN 107092685 A CN107092685 A CN 107092685A
- Authority
- CN
- China
- Prior art keywords
- file
- transaction
- logic
- rdbms
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 45
- 238000012217 deletion Methods 0.000 claims abstract description 35
- 230000037430 deletion Effects 0.000 claims abstract description 35
- 238000013507 mapping Methods 0.000 claims abstract description 20
- 238000002955 isolation Methods 0.000 claims description 5
- 238000000547 structure data Methods 0.000 claims 1
- 239000002253 acid Substances 0.000 abstract description 8
- 238000012545 processing Methods 0.000 abstract description 7
- 238000013500 data storage Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 238000003860 storage Methods 0.000 description 9
- 230000004044 response Effects 0.000 description 7
- 238000007726 management method Methods 0.000 description 6
- 230000008901 benefit Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000010304 firing Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 230000002688 persistence Effects 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
- G06F16/2379—Updates performed during online database operations; commit processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种联合使用文件***和RDBMS存储事务数据的方法,具体步骤如下:步骤一,在RBBMS(关系型数据库管理***)中为结构化的事务数据建立表,以及映射表和逻辑删除表;步骤二,编写新增、删除和更新事务数据的程序代码;步骤三,编写用于事务数据(包含文件部分)读取和访问的程序代码;步骤四,编写后台服务程序代码,定时为标记为逻辑删除的文件执行物理删除。本发明的方法使得OLTP(联机事务处理)***可以在保持事务ACID特性,保持RDBMS(关系数据库管理***)在高并发环境下的高响应能力的前提下,联合使用文件***和RDBMS(关系型数据库管理***)存储事务数据;本方法无额外的软硬件要求,可充分利用现有软硬件资产和技术技能。
Description
技术领域
本发明涉及数据处理领域,具体是一种联合使用文件***和RDBMS存储事务数据的方法。
背景技术
经典的OLTP(联机事务处理)***通常会根据需要存储的数据,设计符合范式的关系模型,并使用RDBMS(关系型数据库管理***)进行数据管理。OLTP(联机事务处理)的一个基本要求是事务的ACID属性,即事务的原子性、一致性、隔离性和持久性,而RDBMS(关系型数据库管理***)的事务机制保障了这一点。
随着计算机技术的进步和普及,单一的结构化数据已经不能满足部分管理***的需求,非结构化数据和结构化数据统一被管理的需求越来越普遍,例如政府机构面向企业的申报***,一个申报事务数据既包含了结构化的表单数据,也可能包含word文档、pdf文档等非结构化数据。目前针对这种需求,现有解决方案有以下四种:第一种,使用RDBMS(关系型数据库管理***)中的CLOB、BLOB等大文本、大二进制字段来存储非结构化的文档数据,对CLOB、BLOB的读写操作不包含进数据库事务。这种方法的优点是设计简单、数据库事务持续时间短,高并发环境下RDBMS(关系型数据库管理***)响应速度不会显著下降;缺点是不能保障事务的ACID属性,对一些数据质量要求严苛的***来说,是不可接受的;第二种,使用RDBMS(关系型数据库管理***)中的CLOB、BLOB等大文本、大二进制字段来存储非结构化的文档数据,对CLOB、BLOB的读写操作包含进数据库事务。这种方法的优点是设计简单,能保障事务的ACID属性;缺点是当事务中包含大量(数量和大小)的文档数据时,数据库事务执行时间将大大增长,高并发环境下RDBMS(关系型数据库管理***)响应速度将成指数下降;数据库日志和数据将急剧膨胀,导致数据库管理的难度和RDBMS(关系型数据库管理***)对硬件平台的要求显著增高;第三种,使用文件***来存储非结构化文档数据,使用RDBMS(关系型数据库管理***)来存储结构化数据,建立结构化数据和文件的关联,对文件的读写操作不包含进数据库事务。这种方法的优点是简单、高并发环境下RDBMS(关系型数据库管理***)响应速度不会下降;缺点是不能保障事务的ACID属性,对一些数据质量要求严苛的***来说,是不可接受的;第四种,使用文件***来存储非结构化文档数据,使用RDBMS(关系型数据库管理***)来存储结构化数据,建立结构化数据和文件的关联,利用两阶段提交协议保障事务的ACID属性。这种方法的优点是能保障事务的ACID属性;缺点是当事务中包含大量(数量和大小)的文档数据时,两阶段提交事务执行时间将大大增长,高并发环境下RDBMS(关系型数据库管理***)响应速度将成指数下降;要实现两阶段提交,需要使用特定的文件***或文件中间件、事务协调服务等,并使用两阶段提交API进行编程,可能导致项目投资增加,程序员学习和编程周期增长。这些都为人们的使用带来了不便。
发明内容
本发明的目的在于提供一种联合使用文件***和RDBMS存储事务数据的方法,以解决上述背景技术中提出的问题。
为实现上述目的,本发明提供如下技术方案:
一种联合使用文件***和RDBMS存储事务数据的方法,具体步骤如下:
步骤一,在RBBMS(关系型数据库管理***)中为结构化的事务数据建立表,以及映射表和逻辑删除表;
步骤二,编写新增、删除和更新事务数据的程序代码;
步骤三,编写用于事务数据(包含文件部分)读取和访问的程序代码;
步骤四,编写后台服务程序代码,定时为标记为逻辑删除的文件执行物理删除。
作为本发明进一步的方案:步骤一中,在RDBMS(关系型数据库管理***)中建立映射表管理结构化事务数据和文件的对应关系。
作为本发明进一步的方案:步骤一中,在RDBMS(关系型数据库管理***)中建立逻辑删除表来记录已经被逻辑删除文件的文件名和逻辑删除的时间。
作为本发明进一步的方案:步骤二中,新增事务数据的操作顺序是开始数据库事务,将要新增文件的文件名添加到逻辑删除表进行逻辑删除,提交数据库事务,新增文件,开始数据库事务,新增其他结构化数据,删除步骤一中***的所有逻辑删除记录,提交数据库事务。
作为本发明进一步的方案:步骤二中删除事务数据操作并不物理删除事务对应的文件,而是将事务对应文件的文件名加入逻辑删除表。
作为本发明进一步的方案:步骤二中更新事务数据操作如果涉及文件更新,并不是在原文件上修改,而是将原文件逻辑删除,使用新文件/文件名保存更新后的数据,并使映射表中相应的记录指向新文件。
作为本发明进一步的方案:步骤二中,更新事务数据的操作顺序是开始数据库事务,将要新增文件的文件名添加到逻辑删除表进行逻辑删除,提交数据库事务,新增文件,开始数据库事务,将要新增文件的文件名添加到逻辑删除表进行逻辑删除,更新其他结构化数据,删除步骤一中***的所有逻辑删除记录,提交数据库事务。
作为本发明进一步的方案:步骤三中,在对文件的读取和访问前,应该按文件名查找逻辑删除表或映射表,确保文件没有被逻辑删除;为保障事务数据的隔离特性,文件的读取访问操作的代码应该在读取对应数据库事务数据的数据库事务执行序列的中间被执行。
作为本发明进一步的方案:步骤四中,后台服务程序并非对逻辑删除表中记录的所有文件都执行物理删除,而是只对特定时间前被逻辑删除的文件执行物理删除。
与现有技术相比,本发明的有益效果是:本发明的方法使得OLTP(联机事务处理)***可以在保持事务ACID特性,保持RDBMS(关系数据库管理***)在高并发环境下的高响应能力的前提下,联合使用文件***和RDBMS(关系型数据库管理***)存储事务数据;本方法无额外的软硬件要求,可充分利用现有软硬件资产和技术技能。
附图说明
图1为联合使用文件***和RDBMS存储事务数据的方法的流程示意图。
图2为联合使用文件***和RDBMS存储事务数据的方法中实施例的关系数据库表设计示意图。
图3为联合使用文件***和RDBMS存储事务数据的方法中实施例的两份网上职位申请原始状态的数据图。
图4为联合使用文件***和RDBMS存储事务数据的方法中实施例的数据存储在无事务数据状态的示意图。
图5为联合使用文件***和RDBMS存储事务数据的方法中实施例的数据存储在事务数据新增成功后的状态示意图。
图6为联合使用文件***和RDBMS存储事务数据的方法中实施例的数据存储在事务数据新增失败后的其中一种状态示意图。
图7为联合使用文件***和RDBMS存储事务数据的方法中实施例的数据存储在事务数据新增失败后的其中一种状态示意图。
图8为联合使用文件***和RDBMS存储事务数据的方法中实施例的数据存储在事务数据新增失败后的其中一种状态示意图。
图9为联合使用文件***和RDBMS存储事务数据的方法中实施例的数据存储在事务数据更新成功后的状态示意图。
图10为联合使用文件***和RDBMS存储事务数据的方法中实施例的数据存储在事务数据更新失败后的其中一种状态示意图。
图11为联合使用文件***和RDBMS存储事务数据的方法中实施例的数据存储在事务数据更新失败后的其中一种状态示意图。
图12为联合使用文件***和RDBMS存储事务数据的方法中实施例的数据存储在事务数据删除后的状态示意图。
图13为联合使用文件***和RDBMS存储事务数据的方法中步骤二中新增事务数据的程序流程图。
图14为联合使用文件***和RDBMS存储事务数据的方法中步骤二中更新事务数据的程序流程图。
图15为联合使用文件***和RDBMS存储事务数据的方法中步骤二中删除事务数据的程序流程图。
图16为联合使用文件***和RDBMS存储事务数据的方法中步骤三中读取已知事务标志的事务数据的程序流程图。
图17为联合使用文件***和RDBMS存储事务数据的方法中步骤三中读取已知文件名的事务数据的程序流程图。
图18为联合使用文件***和RDBMS存储事务数据的方法中步骤四中服务程序执行物理删除的程序流程图。
具体实施方式
下面结合具体实施方式对本专利的技术方案作进一步详细地说明。
实施例
结合一个虚构的应用***《网上职位申请***》,来说明本发明的具体实施方式和方法,以及获得的效果。该虚构的应用***《网上职位申请***》:某大公司需要在多个城市招聘大量员工,于是在线上发布《网上职位申请***》,申请者可以通过***在线申请职位,所需提供的数据类型如图3所示。申请者还可以使用修改申请、取消/删除申请等操作。这个虚拟应用***将使用本发明的技术方案,将身份证图片、简历文档等非结构化的数据存储在文件***;将其他结构化数据存储在关系数据库中。
该***的使用方法如下:步骤一,使用传统的关系模型,为结构化的事务数据建立表,每份事务数据有一个唯一标志ID,建立映射表用以建立结构化事务数据和非结构化事务数据(文件)的联系,通过查找映射表,已知事务唯一标志ID可以找到对应的文件,且已知文件名可以找到事务唯一标志ID(这里的文件名是全局唯一的,如果在不同路径存储文件则需要包含路径信息);建立逻辑删除表用以逻辑删除不需要的文件,当某个文件的文件名被写入逻辑删除表时,则代表这个文件已经被逻辑删除,并且在之后的某个时间会被物理删除,逻辑删除时还需要记录逻辑删除时间;
步骤二,根据流程图逻辑,我们可以推导出:新增事务数据无论那个节点出现意外失败,事务数据都会保持新增前的状态(排除已经逻辑删除的文件),因此能保证新增事务的原子性和一致性;流程中两个数据库事务中都不包含对文件数据的读写,因此能保证事务执行时间短,提高数据库的并发响应性能,假如初始存储状态如图4所示,现在将图3所示的申请版本1.0数据新增进***,如果新增操作成功,存储状态必然如图5所示,如果新增操作失败,存储必然是图4、图6、图7、图8所示的其中一个状态。
更新事务数据时,如果部分文件内容需要更新,这里采取的方法并不是在原文件上修改覆盖,而是建立一个新文件,将新内容写入新文件,后续操作再逻辑删除原文件。根据流程图逻辑,我们可以推导出:更新事务数据无论那个节点出现意外失败,事务数据都会保持更新前的状态(排除已经逻辑删除的文件),因此能保证更新事务的原子性和一致性;流程中两个数据库事务中都不包含对文件数据的读写,因此能保证事务执行时间短,提高数据库的并发响应性能。这里结合虚构的应用***《网上职位申请***》和例图,给出一个直观的理解:假如初始存储状态如图5所示,现在将图3所示的申请版本2.0数据更新进***,如果更新操作成功,存储状态必然如图9所示,如果更新操作失败,存储必然是图5、图10、图11所示的其中一个状态。
删除事务数据无论那个节点出现意外失败,事务数据都会保持删除前的状态,因此能保证删除事务的原子性和一致性;流程中数据库事务中不包含对文件数据的读写删除,因此能保证事务执行时间短,提高数据库的并发响应性能。这里结合虚构的应用***《网上职位申请***》和例图,给出一个直观的理解:假如初始存储状态如图5所示,现在删除Apply_id=1的申请,如果删除操作成功,存储状态必然如图12所示,如果删除操作失败,存储必然是图5所示的状态。
步骤三,已知文件名可以找到其对应的唯一事务标志ID(如果存在的话), 所以事务数据的读取和访问的需求逻辑上可以归结成两类:第一类是已知事务的唯一标识,读取关系数据库和文件***中的部分或全部该事务的数据;第二类是已知文件名,只想读取本文件数据。图16是第一类读取的程序流程图;图17是第二类读取的程序流程图。文件的读取包含在数据库的读取事务当中,且在成功读取映射表中相应的数据记录之后,从逻辑上可以得出以下结论:读取映射表数据失败则读取文件也失败,读取映射表成功之后,读取文件也会成功。因为映射表记录指向的文件必然存在,根据第二步骤的描述,文件的保存先于映射表记录(即使在读取映射表后,并发进程已经将此文件逻辑删除,但物理删除会发生在足够长的时间之后;读取到内存的映射表记录数据和之后读取的文件数据版本是一致的,因为根据第二步骤的描述,文件一旦保存,就不会有内容或名称上的变化,而映射表记录的版本一旦变化,就不会指向当前这个文件。即可得到采用第三步骤定义的事务数据读取流程,文件数据的读取同映射表数据读取具有相同的事务隔离性特征,而映射表数据读取的事务隔离性由数据库的事务机制保障和定义。
步骤四,服务程序用于定时运行,执行逻辑删除文件的物理删除以回收磁盘空间,流程图如图18所示。图18中处理1所指的“满足删除时间要求的文件名”是因为物理删除只能在逻辑删除执行之后特定时间执行。之所以这样要求,是为了保障步骤三中,保障读取操作能够读取到版本一致的映射表数据和文件数据。出于安全考虑,特定时间可以定义为单一读取运算操作的最大运行时间,或定义一个足够长的时间,比如一天。图18中处理2“删除fileNames[i]指向的文件”,当删除操作前发现文件不存在时也算处理成功。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。
此外,应当理解,虽然本说明书按照实施方式加以描述,但并非每个实施方式仅包含一个独立的技术方案,说明书的这种叙述方式仅仅是为清楚起见,本领域技术人员应当将说明书作为一个整体,各实施例中的技术方案也可以经适当组合,形成本领域技术人员可以理解的其他实施方式。
Claims (9)
1.一种联合使用文件***和RDBMS存储事务数据的方法,其特征在于,具体步骤如下:
步骤一,在RBBMS(关系型数据库管理***)中为结构化的事务数据建立表,以及映射表和逻辑删除表;
步骤二,编写新增、删除和更新事务数据的程序代码;
步骤三,编写用于事务数据(包含文件部分)读取和访问的程序代码;
步骤四,编写后台服务程序代码,定时为标记为逻辑删除的文件执行物理删除。
2.根据权利要求1所述的联合使用文件***和RDBMS存储事务数据的方法,其特征在于,所述步骤一中,在RDBMS(关系型数据库管理***)中建立映射表管理结构化事务数据和文件的对应关系。
3.根据权利要求1或2所述的联合使用文件***和RDBMS存储事务数据的方法,其特征在于,所述步骤一中,在RDBMS(关系型数据库管理***)中建立逻辑删除表来记录已经被逻辑删除文件的文件名和逻辑删除的时间。
4.根据权利要求1所述的联合使用文件***和RDBMS存储事务数据的方法,其特征在于,所述步骤二中,新增事务数据的操作顺序是开始数据库事务,将要新增文件的文件名添加到逻辑删除表进行逻辑删除,提交数据库事务,新增文件,开始数据库事务,新增其他结构化数据,删除步骤一中***的所有逻辑删除记录,提交数据库事务。
5.根据权利要求2所述的联合使用文件***和RDBMS存储事务数据的方法,其特征在于,所述步骤二中删除事务数据操作并不物理删除事务对应的文件,而是将事务对应文件的文件名加入逻辑删除表。
6.根据权利要求1所述的联合使用文件***和RDBMS存储事务数据的方法,其特征在于,所述步骤二中更新事务数据操作如果涉及文件更新,并不是在原文件上修改,而是将原文件逻辑删除,使用新文件/文件名保存更新后的数据,并使映射表中相应的记录指向新文件。
7.根据权利要求1所述的联合使用文件***和RDBMS存储事务数据的方法,其特征在于,所述步骤二中,更新事务数据的操作顺序是开始数据库事务,将要新增文件的文件名添加到逻辑删除表进行逻辑删除,提交数据库事务,新增文件,开始数据库事务,将要新增文件的文件名添加到逻辑删除表进行逻辑删除,更新其他结构化数据,删除步骤一中***的所有逻辑删除记录,提交数据库事务。
8.根据权利要求1所述的联合使用文件***和RDBMS存储事务数据的方法,其特征在于,所述步骤三中,在对文件的读取和访问前,应该按文件名查找逻辑删除表或映射表,确保文件没有被逻辑删除;为保障事务数据的隔离特性,文件的读取访问操作的代码应该在读取对应数据库事务数据的数据库事务执行序列的中间被执行。
9.根据权利要求1所述的联合使用文件***和RDBMS存储事务数据的方法,其特征在于,所述步骤四中,后台服务程序并非对逻辑删除表中记录的所有文件都执行物理删除,而是只对特定时间前被逻辑删除的文件执行物理删除。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710269586.5A CN107092685A (zh) | 2017-04-24 | 2017-04-24 | 一种联合使用文件***和rdbms存储事务数据的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710269586.5A CN107092685A (zh) | 2017-04-24 | 2017-04-24 | 一种联合使用文件***和rdbms存储事务数据的方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107092685A true CN107092685A (zh) | 2017-08-25 |
Family
ID=59638563
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710269586.5A Pending CN107092685A (zh) | 2017-04-24 | 2017-04-24 | 一种联合使用文件***和rdbms存储事务数据的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107092685A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108459925A (zh) * | 2018-02-10 | 2018-08-28 | 深圳市先河***技术有限公司 | 私有云设备及其数据库的修复方法、具有存储功能的装置 |
CN108563694A (zh) * | 2018-03-19 | 2018-09-21 | 广州视源电子科技股份有限公司 | 对逻辑删除的sql执行方法、装置、计算机设备和存储介质 |
CN111737331A (zh) * | 2020-06-22 | 2020-10-02 | 中国银行股份有限公司 | 一种数据库与对象存储的事务一致性处理方法及*** |
CN111753141A (zh) * | 2019-03-26 | 2020-10-09 | 华为技术有限公司 | 一种数据管理方法及相关设备 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1892652A (zh) * | 2005-07-05 | 2007-01-10 | 国际商业机器公司 | 将文件***事件集成到关系数据库中的方法和*** |
CN101080715A (zh) * | 2004-12-15 | 2007-11-28 | 皇家飞利浦电子股份有限公司 | 用于管理二进制大对象的***和方法 |
US20090228429A1 (en) * | 2008-03-05 | 2009-09-10 | Microsoft Corporation | Integration of unstructed data into a database |
US20090300037A1 (en) * | 2004-08-12 | 2009-12-03 | Amdocs (Israel) Ltd. | Enhanced database structure configuration |
CN103646077A (zh) * | 2013-12-11 | 2014-03-19 | 北京控制工程研究所 | 一种本地工作区与远程数据服务器结合的高效软件数据管理方法 |
CN103678665A (zh) * | 2013-12-24 | 2014-03-26 | 焦点科技股份有限公司 | 一种基于数据仓库的异构大数据整合方法和*** |
CN104462497A (zh) * | 2014-12-19 | 2015-03-25 | 深圳中兴网信科技有限公司 | 基于关系型数据库的跨库事务处理方法和*** |
CN105574093A (zh) * | 2015-12-10 | 2016-05-11 | 深圳市华讯方舟软件技术有限公司 | 一种在基于HDFS的spark-sql大数据处理***上建立索引的方法 |
CN106547859A (zh) * | 2016-10-21 | 2017-03-29 | 杭州朗和科技有限公司 | 一种多租户数据存储***下的数据文件的存储方法及装置 |
-
2017
- 2017-04-24 CN CN201710269586.5A patent/CN107092685A/zh active Pending
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090300037A1 (en) * | 2004-08-12 | 2009-12-03 | Amdocs (Israel) Ltd. | Enhanced database structure configuration |
CN101080715A (zh) * | 2004-12-15 | 2007-11-28 | 皇家飞利浦电子股份有限公司 | 用于管理二进制大对象的***和方法 |
CN1892652A (zh) * | 2005-07-05 | 2007-01-10 | 国际商业机器公司 | 将文件***事件集成到关系数据库中的方法和*** |
US20070011207A1 (en) * | 2005-07-05 | 2007-01-11 | Vishnubhotla Prasad R | Method and system for integrating file system events into a relational database |
US20090228429A1 (en) * | 2008-03-05 | 2009-09-10 | Microsoft Corporation | Integration of unstructed data into a database |
CN103646077A (zh) * | 2013-12-11 | 2014-03-19 | 北京控制工程研究所 | 一种本地工作区与远程数据服务器结合的高效软件数据管理方法 |
CN103678665A (zh) * | 2013-12-24 | 2014-03-26 | 焦点科技股份有限公司 | 一种基于数据仓库的异构大数据整合方法和*** |
CN104462497A (zh) * | 2014-12-19 | 2015-03-25 | 深圳中兴网信科技有限公司 | 基于关系型数据库的跨库事务处理方法和*** |
CN105574093A (zh) * | 2015-12-10 | 2016-05-11 | 深圳市华讯方舟软件技术有限公司 | 一种在基于HDFS的spark-sql大数据处理***上建立索引的方法 |
CN106547859A (zh) * | 2016-10-21 | 2017-03-29 | 杭州朗和科技有限公司 | 一种多租户数据存储***下的数据文件的存储方法及装置 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108459925A (zh) * | 2018-02-10 | 2018-08-28 | 深圳市先河***技术有限公司 | 私有云设备及其数据库的修复方法、具有存储功能的装置 |
CN108563694A (zh) * | 2018-03-19 | 2018-09-21 | 广州视源电子科技股份有限公司 | 对逻辑删除的sql执行方法、装置、计算机设备和存储介质 |
CN108563694B (zh) * | 2018-03-19 | 2021-04-13 | 广州视源电子科技股份有限公司 | 对逻辑删除的sql执行方法、装置、计算机设备和存储介质 |
CN111753141A (zh) * | 2019-03-26 | 2020-10-09 | 华为技术有限公司 | 一种数据管理方法及相关设备 |
CN111753141B (zh) * | 2019-03-26 | 2024-06-11 | 华为技术有限公司 | 一种数据管理方法及相关设备 |
CN111737331A (zh) * | 2020-06-22 | 2020-10-02 | 中国银行股份有限公司 | 一种数据库与对象存储的事务一致性处理方法及*** |
CN111737331B (zh) * | 2020-06-22 | 2023-08-18 | 中国银行股份有限公司 | 一种数据库与对象存储的事务一致性处理方法及*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103765393B (zh) | 存储*** | |
CN105630865B (zh) | 用于内存列式存储的n比特压缩版本化列数据阵列 | |
US6789094B2 (en) | Method and apparatus for providing extended file attributes in an extended attribute namespace | |
US10261960B2 (en) | Snapshots and forks of storage systems using distributed consistent databases implemented within an object store | |
US8046334B2 (en) | Dual access to concurrent data in a database management system | |
CN110799960A (zh) | 数据库租户迁移的***和方法 | |
US9996557B2 (en) | Database storage system based on optical disk and method using the system | |
JP7507142B2 (ja) | データベースにおいてレコードを一括削除するためのシステムおよび方法 | |
TWI388994B (zh) | 使用靜態列表以管理資料之系統及方法,以及具有可施行相同用途之電腦可執行元件的電腦可存取媒體 | |
CN107092685A (zh) | 一种联合使用文件***和rdbms存储事务数据的方法 | |
KR20070034916A (ko) | 버저닝 기반 트리거를 위한 시스템 및 방법 | |
CN103597440A (zh) | 用于创建克隆文件的方法以及采用该方法的文件*** | |
KR102139087B1 (ko) | 인덱스 리두 로그를 이용한 인덱스 복구를 위한 방법, 서버 및 컴퓨터 판독가능 저장매체 | |
CN103106286A (zh) | 元数据的管理方法和装置 | |
CN108153812A (zh) | 数据通信的方法、装置、计算机设备及存储介质 | |
EP3369006A1 (en) | Techniques for application undo and redo using sql patchsets or changesets | |
CN100504800C (zh) | 磁盘快照的方法 | |
CN103942301A (zh) | 一种面向多数据类型访问应用的分布式文件*** | |
CN109446258A (zh) | 一种分布式数据存储方法及*** | |
Patterson | A conversation with Jim Gray | |
US20070299890A1 (en) | System and method for archiving relational database data | |
US8909875B1 (en) | Methods and apparatus for storing a new version of an object on a content addressable storage system | |
CN107506189A (zh) | 一种基于工厂模式实现的iOS数据持久化方法 | |
KR20210033880A (ko) | 인덱스 리두 로그를 이용한 인덱스 복구를 위한 방법, 서버 및 컴퓨터 판독가능 저장매체 | |
KR100449419B1 (ko) | 데이터 크기에 따른 선별적 공간데이터 관리방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20170825 |
|
WD01 | Invention patent application deemed withdrawn after publication |