CN109491987B - 数据管理方法与装置 - Google Patents
数据管理方法与装置 Download PDFInfo
- Publication number
- CN109491987B CN109491987B CN201811295990.0A CN201811295990A CN109491987B CN 109491987 B CN109491987 B CN 109491987B CN 201811295990 A CN201811295990 A CN 201811295990A CN 109491987 B CN109491987 B CN 109491987B
- Authority
- CN
- China
- Prior art keywords
- data
- access identifier
- system time
- precision
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开提供一种数据管理方法与装置。数据管理方法包括:响应对应于一数据的数据存储请求,根据第一***时间以及数据的数据过期时间精度的比值生成数据的第一访问标识符,并按第一访问标识符存储数据;响应对应于数据的数据读取请求,根据第二***时间以及数据过期时间精度的比值获取数据的第二访问标识符,并按第二访问标识符读取数据;如果第二访问标识符与第一访问标识符相同,对应数据读取请求返回数据读取成功消息以及数据;如果第二访问标识符与第一访问标识符不同,对应数据读取请求返回数据读取失败消息。本发明公开提供的数据管理方法可以在客户端实现对数据过期时间精度的提高。
Description
技术领域
本公开涉及计算机技术领域,具体而言,涉及一种数据管理方法与装置。
背景技术
为了更好的应对会话、动态令牌等业务场景,NoSQL数据库提供了数据有效期这一概念,也就是说客户端向NoSQL数据库写入数据的时候,可以额外设置一个过期时间,在过期时间内客户端可以正常访问该数据,到达过期时间后该数据被识别为过期数据并清理。
可是在一些NoSQL数据库中(比如Redis2.6以前的版本、Couchbase、MongDB)时间单位只能精确到秒,此时过期时间存在0~1秒的误差,即这些数据库最多只能提供秒级别的过期时间精度。当业务上需要某些特殊数据必须在给定的有效时间到达时失效,且失效误差不超过1ms,即面对具有高精度要求的场景时(比如以计数器为基础的秒级别流控需要在1.0秒时刻创建的计数器必须在2.0秒时刻立即失效),这些NoSQL产品显然无法满足用户需求。
相关技术中,管理数据过期时间精度大多依赖于数据库服务端的处理,完全由数据库开发者保证。由数据库开发者在开发端满足过期精度需求虽然可以最大程度保证性能和质量,但会拉长整个反馈周期,还会产生底层数据库升级需求,使***面对冒然升级底层数据库可能带来的潜在风险。在一些情况下,用户甚至可能需要更换数据库。不论是底层数据库升级还是更换都必然引发数据迁移、灰度升级以及各种破坏性演练等一系列工作,浪费大量的时间和资源,稍有不慎还有可能引发更多严重隐患。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的目的在于提供一种数据管理方法与数据管理装置,用于至少在一定程度上克服由于相关技术的限制和缺陷而导致数据库的数据过期时间精度无法自定义的问题。
根据本公开实施例的第一方面,提供一种数据管理方法,包括:响应对应于一数据的数据存储请求,根据第一***时间以及数据的数据过期时间精度的比值生成数据的第一访问标识符,并按第一访问标识符存储数据;响应对应于数据的数据读取请求,根据第二***时间以及数据过期时间精度的比值获取数据的第二访问标识符,并按第二访问标识符读取数据;如果第二访问标识符与第一访问标识符相同,对应数据读取请求返回数据读取成功消息以及数据;如果第二访问标识符与第一访问标识符不同,对应数据读取请求返回数据读取失败消息。
在本公开的一种示例性实施例中,根据第一***时间以及数据的数据过期时间精度的比值生成数据的第一访问标识符包括:将数据存储请求到达时数据库服务器端的当前***时间作为第一***时间;根据数据存储请求获取数据的数据访问标识符以及数据过期时间精度;根据数据访问标识符以及第一***时间与数据过期时间精度的比值生成第一访问标识符。
在本公开的一种示例性实施例中,根据第二***时间以及数据过期时间精度的比值获取数据的第二访问标识符包括:将数据读取请求到达时数据库服务器端的当前***时间作为第二***时间;根据数据读取请求获取数据的数据访问标识符;根据数据访问标识符以及第二***时间与数据过期时间精度的比值获取第二访问标识符。
在本公开的一种示例性实施例中,根据第一***时间以及数据的数据过期时间精度的比值生成数据的第一访问标识符包括:将数据存储请求到达时数据库服务器端的当前***时间作为第一***时间;根据数据存储请求获取数据的数据访问标识符以及数据过期时间精度;获取数据队列长度,以数据队列长度对第一***时间与数据过期时间精度的比值取余数,根据数据访问标识符和余数生成第一访问标识符。
在本公开的一种示例性实施例中,根据第二***时间以及数据过期时间精度的比值获取数据的第二访问标识符包括:将数据读取请求到达时数据库服务器端的当前***时间作为第二***时间;根据数据读取请求获取数据的数据访问标识符;以数据队列长度对第二***时间与数据过期时间精度的比值取余数,根据数据访问标识符和余数获取第二访问标识符。
在本公开的一种示例性实施例中,还包括:根据数据过期时间精度调整第一***时间、第二***时间的精度。
在本公开的一种示例性实施例中,还包括:如果按第二访问标识符读取数据失败,则按第二访问标识符存储数据。
根据本公开实施例的第二方面,提供一种数据管理装置,包括:
存储处理模块,设置为响应对应于一数据的数据存储请求,根据第一***时间以及数据的数据过期时间精度的比值生成数据的第一访问标识符,并按第一访问标识符存储数据;
读取处理模块,设置为响应对应于数据的数据读取请求,根据第二***时间以及数据过期时间精度的比值获取数据的第二访问标识符,并按第二访问标识符读取数据,如果第二访问标识符与第一访问标识符相同,对应数据读取请求返回数据读取成功消息以及数据;如果第二访问标识符与第一访问标识符不同,对应数据读取请求返回数据读取失败消息。
根据本公开的第三方面,提供一种电子设备,包括:存储器;以及耦合到存储器的处理器,处理器被配置为基于存储在存储器中的指令,执行如上述任意一项的方法。
根据本公开的第四方面,提供一种计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现如上述任意一项的数据管理方法。
本公开实施例通过在客户端读写数据过程中对数据访问标识符按存取***时间、过期时间精度进行处理,生成能通过修改过期时间精度来进行修改的自定义访问识别符,再通过自定义访问识别符存储、读取数据,不但可以有效避免读取过期数据,而且可以使用户根据实际情况自定义过期时间精度。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示意性示出本公开示例性实施例中数据管理方法的流程图。
图2示意性示出本公开示例性实施例中数据管理方法中步骤S1的一个子流程图。
图3示意性示出本公开示例性实施例中数据管理方法中步骤S1的另一个子流程图。
图4示意性示出本公开示例性实施例中数据管理方法中步骤S2的一个子流程图。
图5示意性示出本公开示例性实施例中数据管理方法的另一种流程图。
图6示意性示出本公开示例性实施例中数据管理方法中步骤S1的再一个子流程图。
图7示意性示出本公开示例性实施例中数据管理方法中步骤S2的另一个子流程图。
图8示意性示出本公开示例性实施例中数据管理方法在一种应用场景中的交互示意图。
图9示意性示出本公开一个示例性实施例中一种数据管理装置的方框图。
图10示意性示出本公开一个示例性实施例中一种电子设备的方框图。
图11示意性示出本公开一个示例性实施例中一种计算机可读存储介质的示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解,图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
下面结合附图对本公开示例实施方式进行详细说明。
图1是本公开示例性实施例中数据管理方法的流程图。
参考图1,数据管理方法100可以包括:
步骤S1,响应对应于一数据的数据存储请求,根据第一***时间以及数据的数据过期时间精度的比值生成数据的第一访问标识符,并按第一访问标识符存储数据;
步骤S2,响应对应于数据的数据读取请求,根据第二***时间以及数据过期时间精度的比值获取数据的第二访问标识符,并按第二访问标识符读取数据,如果第二访问标识符与第一访问标识符相同,对应数据读取请求返回数据读取成功消息以及数据;如果第二访问标识符与第一访问标识符不同,对应数据读取请求返回数据读取失败消息。
本公开实施例通过在客户端读写数据过程中对数据访问标识符按存取***时间、数据过期时间精度进行处理,生成能通过修改数据过期时间精度来进行修改的自定义访问识别符,再通过自定义访问识别符存储、读取数据,不但可以有效避免读取过期数据,而且可以使用户根据实际情况自定义过期时间精度。
在步骤S1,响应对应于一数据的数据存储请求,根据第一***时间以及数据的数据过期时间精度的比值生成数据的第一访问标识符,并按第一访问标识符存储数据。
本方法主要可以应用于高并发访问场景,例如数据库客户端。在高并发访问场景下,短时间内大量访问请求均匀分布,因此对数据过期时间精度有较高要求。
首先,响应于客户发送的数据存储请求,识别待存储数据。该待存储数据可以包括多个文件,只要共同使用一个数据访问标识符即可。
图2是本公开示例性实施例中步骤S1的一个子流程图。
参考图2,在本公开的一种示例性实施例中,根据第一***时间以及数据的数据过期时间精度为数据生成第一访问标识符包括:
步骤S11,将数据存储请求到达时数据库服务器端的当前***时间作为第一***时间;
步骤S12,根据数据存储请求获取数据的数据访问标识符以及数据过期时间精度;
步骤S13,根据数据访问标识符以及第一***时间与数据过期时间精度的比值生成第一访问标识符。
步骤S1例如可以由数据库客户端执行。在步骤S1,首先可以在获取数据存储请求时获取数据库服务器端的当前***时间,并将其作为第一***时间。在一些实施例中,也可以预先设置客户端***时间与服务器端***时间同步,则此时可以直接使用客户端当前***时间作为第一***时间。
数据访问标识符(key,本领域通常翻译为键)对于不同数据而言其含义不完全相同。例如,对于要在文档型数据库中存储的数据,可以将DocumentID(文档识别符)作为数据访问标识符。对于其他类型的数据,如果以key-value(键-键值)的形式存储,也可以获取数据的key值作为数据访问识别符。
数据过期时间精度可以由用户自行设置。对于不同类型、不同来源的数据,数据过期时间精度往往不相同。例如对一些数据,数据过期时间精度为1000ms,而对另一些数据,数据过期时间精度为200ms等。因此,可以根据数据存储请求查找数据来源、数据类型等参数,再在本地或网络设备上查找这些参数对应的数据过期时间精度。
在本公开实施例的高并发应用场景下,可以使用计时器和计数器来管理过期时间精度,例如每隔1000ms或200ms创建一个计数器,以对该数据过期时间精度内的访问请求进行管理,并且在超过该过期时间精度时,例如第1001ms或第201ms销毁该计数器以及其对应的数据,创建一个新的计数器。
接下来,对第一***时间与数据过期时间精度进行比值计算,并将计算结果与数据原来的数据访问标识符一起作为数据存储时的第一访问标识符。
图3是步骤S1的另一个子流程图。
在一个实施例中,步骤S1还可以包括:
步骤S10,根据数据过期时间精度调整第一***时间的精度。
例如,确定数据过期时间精度为毫秒级,例如为每1000ms过期时,可以将***时间转换为以毫秒为单位的Unix时间戳格式,获取第一***时间。计算第一***时间与数据过期时间精度比值的时候,即可根据数据过期时间精度设置的不同而获取到不同结果。
经过步骤S13后,如果数据存储请求,数据“Data1”的数据访问标识符为key1,对第一***时间与数据过期时间精度的比值取整得到为x,则可以以key1_x作为新的数据访问标识符存储数据“Data1”。对于使用客户端的用户而言,无需关注内部细节,仍然发送数据“Data1”的数据存储请求即可。
在步骤S2,响应对应于数据的数据读取请求,根据第二***时间以及数据过期时间精度的比值获取数据的第二访问标识符,并按第二访问标识符读取数据。
图4是步骤S2的一个子流程图。
参考图4,在本公开的一种示例性实施例中,根据第二***时间以及数据过期时间精度获取数据的第二访问标识符可以包括:
步骤S21,将数据读取请求到达时数据库服务器端的当前***时间作为第二***时间;
步骤S22,根据数据读取请求获取数据的数据访问标识符;
步骤S23,根据数据访问标识符以及第二***时间与数据过期时间精度的比值获取第二访问标识符。
其中,首先可以在获取数据读取请求时获取数据库服务器端的当前***时间,并将其作为第二***时间。在一些实施例中,也可以预先设置客户端***时间与服务器端***时间同步,则此时可以直接使用客户端当前***时间作为第二***时间。
在步骤S2中,对于读取数据“Data1”的数据读取请求而言,可以获取数据访问识别符“key1”。此时,对第二***时间与数据过期时间精度的比值取整,获取到整数比值y,根据比值y生成用于访问数据“Data1”的第二访问标识符“key1_y”,并使用“key1_y”去读取数据“Data1”。
与步骤S1相同的是,在步骤S2中也可以根据数据过期时间精度调整***时间精度,从而调整第二***时间的精度。由于第二***时间的精度一般与第一***时间的精度相同,均从属于***时间精度,因此本公开于此不再赘述。
由于数据“Data1”存储时的访问识别符是第一访问识别符“key1_x”,如果key1_y与key1_x相同,可以成功访问到数据“Data1”;如果key1_y与key1_x不同,则无法成功访问到数据“Data1”。
图5是本公开实施例中的一种数据请求生成情况。
参考图5,在一个实施例中,数据管理方法100还包括:
步骤S3,如果根据第二访问识别符读取数据失败,则说明该数据过期,在一些情况下,会触发数据存储请求,即按第二访问识别符存储该数据。
由于在高并发应用场景中,访问请求十分密集,因此通常会在一个计数器开始运行的时候进行数据存储,该数据在计数器运行期间(即数据过期时间内)都可以被访问到。即数据存储请求通常产生在一个计数器开始运行时。一个典型的应用场景是,在对数据库进行访问时,如果没有根据第二访问识别符访问到数据,则根据第二访问识别符创建该数据。
例如,当数据过期时间精度为每1000ms过期时,在0ms、1000ms、2000ms、3000ms……均新建一个计数器,并销毁上一时间段使用的计数器以及对应的数据。因此,当数据存储请求在1000ms到达时,根据key1_(1000/1000)即key1_1无法访问到访问识别符是key1_0的数据,此时生成一个访问识别符为key1_1的数据,在第1001ms创建的计数器的运行时间内有效,在第1000ms~第1999ms均可以被访问识别符key1_1访问到,并随着第1001ms创建的计数器被销毁而失效。
本公开实施例通过使用存取时间与数据过期时间精度的比值设置数据存取、读取标识符,可以自定义过期时间精度,从而在高并发访问下有效避免读取到过期数据。
图6是本公开实施例中数据管理方法100的另一个流程图。
图7是本公开实施例中数据管理方法100的再一个流程图。
参考图6和图7,在本公开的一种示例性实施例中,数据管理方法100还可以包括获取数据队列长度。
在图6,步骤S1除上文的步骤S11、步骤S12外还可以包括:
步骤S14,确定数据队列长度,以数据队列长度对第一***时间与数据过期时间精度的比值取余数,根据数据访问标识符和余数生成第一访问标识符。
在图7,步骤S2除上文的步骤S21、步骤S22外还可以包括:
步骤S24,确定数据队列长度,以数据队列长度对第二***时间与数据过期时间精度的比值取余数,根据数据访问标识符和余数获取第二访问标识符。
为节约存储资源,避免数据冗余,可以设置冗余队列,将有效、失效的数据均存储在队列中。例如,如果不设置队列,数据“Data1”在不同存储时间的第一访问识别符例如可以包括“key1_1”、“key1_2”、……“key1_n”等,虽然数据库会对过期数据进行清除,但是不同的第一访问识别符仍然需要占用不同的存储空间,影响***效率。
因此,在本公开实施例中,设置冗余队列以及数据队列长度,通过数据队列长度对第一访问识别符和第二访问识别符进行处理,使数据访问保持在固定的存储空间中,提高***效率。
在步骤S14,如果数据队列长度为3,则可以对第一***时间与数据过期时间精度的比值取余数之后取整,从而生成第一访问识别符。
例如,数据“Data1”的第一***时间与数据过期时间精度的比值取整后的范围为[0,n],其中n为自然数。但是对3取余后,只存在0、1、2三种标识,从而可以将数据“Data1”的所有存储时间的第一访问识别符的范围限制在“key1_0”、“key1_1”、“key1_2”,只需要在存储空间中分配一个三位的队列即可。
在步骤S24,与步骤S14相同,当数据队列长度为3时,获取到的数据“Data1”的第二访问识别符仅限于“key1_0”、“key1_1”、“key1_2”。此时,如果第一访问识别符为“key1_0”,第二访问识别符也为“key1_0”,可以成功读取到数据“Data1”。
如果第二***时间与第一***时间分别位于数据过期时间精度的分界点两侧,例如0ms、1000ms、2000ms、3000ms,则第二访问识别符可以为“key1_0”、“key1_1”、“key1_2”中的任意一个。如果第二***时间与第一***时间的差值较小,则第二访问识别符极有可能是“key1_1”或“key1_2”,此时无法成功访问到数据“Data1”。由于数据库会定期清理过期数据,通过合理设置数据队列的长度,可以使以“key1_0”为访问识别符的数据“Data1”在访问识别符“key1_1”、“key1_2”作用期间,即下一个访问识别符为key1_0的数据存储请求到来之前被清理掉,从而最新存储的数据可以重新使用“key1_0”为存储地址。这种方法可以保障用户访问的都是未到期的有效数据,无法访问过期数据。
在数据队列长度设置上,最好根据数据库清理过期数据的时间来设置。可以尽量设置较长的数据队列或者提高清理过期数据的频率,以避免在较长时间后产生相同的访问识别符时,旧数据还未来得及清理的情况。
下面通过具体实施场景来对上述方法100进行详细说明。
以NoSQL数据库的高并发应用场景中的数据读写为例,由于数据过期时间精度的准确性依赖于稳定的集群时钟,以下方案建立在NoSQL集群内时钟同步的前提下。
客户端可以根据NoSQL数据库的当前***时间在存储数据时对数据的访问访问识别符key1添加(currentTime/expiry)%length的后缀,生成新的数据库内部认证的访问识别符“key1_x”。其中,currentTime为客户端当前***时间戳,expiry为数据过期时间精度,currentTime和expiry单位相同;length为数据队列长度。
可设置客户端和NoSQL数据库的时钟同步,使客户端和NoSQL数据库的***时间一致,这样可以无需请求NoSQL数据库当前***时间。
在读取数据时同样可以通过以上方式确定访问识别符。
通过在数据的访问识别符key1中融入时间戳可以保证每个时间单位中访问识别符的唯一性。如果以秒为单位,则下一秒无法再访问上一秒的数据,因为随着时间的变化(key_currentTime/1000)%2(这里取length=2)发生了变化,即“key1_x”中的x发生了变化,这样即使服务端没有及时清理过期数据,客户端在下一秒读取数据时也会访问“key1_(x+1)”而非“key1_x”,从而避免了脏读。
由于时间戳是递增的,废弃的访问识别符“key1_x”不会被再次访问也就不会触发被动清理,只能等待NoSQL数据库的定时任务来主动清理,这种滞后性会导致垃圾数据占据大量资源。因此在高精度和少垃圾的权衡下,为控制垃圾数据的数量,可以通过对length取余操作维护一个固定长度的数据队列,即为每一个数据维护少量的专用访问识别符。
例如有效时间为1秒的计数器的数据访问识别符为counter,设置数据队列长度为2,数据过期时间精度为1s。第一秒钟客户端可以通过key=counter_0访问该计数器,第二秒钟由于NoSQL存在0~1S的过期延迟,过期的counter_0仍然可以被访问。此时,通过以上方法,可以获取第二秒钟的数据访问识别符为counter_1,在第二秒钟读写counter均可以使用该访问识别符。第三秒钟开始的时候,由于counter_0已经确切的被NoSQL服务器识别为过期数据了,所以没有必要再去创建counter_2,只需要复用counter_0即可。这样同一个计数器,数据库中至多存在key_0和key_1两份数据,切换由服务器***时间控制,既保证了毫秒级的过期精度,又保证了垃圾数据量可控。
图8是本公开实施例的一个应用场景的流程图。本公开实施的应用场景例如可以为具有高并发访问的开放平台,例如分布式缓存,couch系列、mongdb、Hbase等。
参考图8,设置客户端和服务器的***时间同步(也可仅同步NoSQL客户端之间的时钟),客户端可以直接以自己的***时间为时间戳对数据访问标识符进行加工处理。
在步骤S81,获取数据过期时间精度为毫秒级,将***时间转换为以毫秒为单位的Unix时间戳格式;
在步骤S82,根据数据过期时间精度和数据队列长度生成第一访问识别符,并按第一访问识别符存储数据。比如用户要操作一个有效期为60S的数据,将该数据的队列长度设置为3,且要求毫秒级别过期精度,那么最终生成的第一访问识别符为key_((currentTime/60*1000ms)%3)。
通过在原key上添加(currentTime/expiry)%length,可以每expiry时间切换一次key,一共可以生成key_0,key_1…共length个第一访问识别符。
在步骤S83,客户端使用与步骤S82同样逻辑生成的第二访问识别符访问NoSQL数据库。
在步骤S84,服务器可以根据是否存在与第二访问识别符相同的第一访问识别符来应答客户端的数据访问。
本公开实施例从客户端方向入手矫正数据库服务端的数据过期功能,不依赖数据库服务器端的开发,在出现高精度业务场景需求时能够快速响应,保证了线上***的灵活性和快速迭代。由于不需要变更数据库,仅修改少量客户端与数据库的交互代码,也避免了升级数据库带来的潜在风险,能最大限度保证***稳定。此外,由客户端分摊计算压力,只在数据库产生少量可控的冗余数据,减轻了数据库服务器端的负荷,保证了数据服务的稳定。
此外,本公开实施例通过调整时间单位即可进一步提高精度,虽然以上方案只列举了如何将秒级精度提高至毫秒精度,但公式本身完全可以不受限制的提高过期精度,如果要以同样低廉的代价完成毫秒级精度至微妙精度的提升,只需将***时间和数据过期时间精度的单位修改为微秒即可。
最后,本公开实施例对现有代码的改动较少,通过修改极少量的交互代码即可避免读取过期数据,极大降低了资源投入;通过设置数据队列降低了计算和存储资源的消耗;客户端与NoSQL数据库的交互较少,不改变用户对数据库的使用方式,在提高过期精度的同时不影响用户体验。
对应于上述方法实施例,本公开还提供一种数据管理装置,可以用于执行上述方法实施例。
图9示意性示出本公开一个示例性实施例中一种数据管理装置的方框图。
参考图9,数据管理装置900可以包括:
存储处理模块91,设置为响应对应于一数据的数据存储请求,根据第一***时间以及数据的数据过期时间精度的比值生成数据的第一访问标识符,并按第一访问标识符存储数据;
读取处理模块92,设置为响应对应于数据的数据读取请求,根据第二***时间以及数据过期时间精度的比值获取数据的第二访问标识符,并按第二访问标识符读取数据,如果第二访问标识符与第一访问标识符相同,对应数据读取请求返回数据读取成功消息以及数据;如果第二访问标识符与第一访问标识符不同,对应数据读取请求返回数据读取失败消息。
在本公开的一种示例性实施例中,存储处理模块91设置为:将数据存储请求到达时数据库服务器端的当前***时间作为第一***时间;根据数据存储请求获取数据的数据访问标识符以及数据过期时间精度;根据数据访问标识符以及第一***时间与数据过期时间精度的比值生成第一访问标识符。
在本公开的一种示例性实施例中,读取处理模块92设置为:将数据读取请求到达时数据库服务器端的当前***时间作为第二***时间;根据数据读取请求获取数据的数据访问标识符;根据数据访问标识符以及第二***时间与数据过期时间精度的比值获取第二访问标识符。
在本公开的一种示例性实施例中,存储处理模块91设置为:将数据存储请求到达时数据库服务器端的当前***时间作为第一***时间;根据数据存储请求获取数据的数据访问标识符以及数据过期时间精度;获取数据队列长度,以数据队列长度对第一***时间与数据过期时间精度的比值取余数,根据数据访问标识符和余数生成第一访问标识符。
在本公开的一种示例性实施例中,读取处理模块92设置为:将数据读取请求到达时数据库服务器端的当前***时间作为第二***时间;根据数据读取请求获取数据的数据访问标识符;以数据队列长度对第二***时间与数据过期时间精度的比值取余数,根据数据访问标识符和余数获取第二访问标识符。
在本公开的一种示例性实施例中,还包括:时间精度调整模块93,设置为根据数据过期时间精度调整第一***时间、第二***时间的精度。
在本公开的一种示例性实施例中,还包括:存储请求生成模块94,设置为如果按第二访问标识符读取数据失败,则按第二访问标识符存储数据。
由于装置900的各功能已在其对应的方法实施例中予以详细说明,本公开于此不再赘述。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
在本公开的示例性实施例中,还提供了一种能够实现上述方法的电子设备。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为***、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“***”。
下面参照图10来描述根据本发明的这种实施方式的电子设备1000。图10显示的电子设备1000仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图10所示,电子设备1000以通用计算设备的形式表现。电子设备1000的组件可以包括但不限于:上述至少一个处理单元1010、上述至少一个存储单元1020、连接不同***组件(包括存储单元1020和处理单元1010)的总线1030。
其中,存储单元存储有程序代码,程序代码可以被处理单元1010执行,使得处理单元1010执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如,处理单元1010可以执行如图1中所示的步骤。
存储单元1020可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)10201和/或高速缓存存储单元10202,还可以进一步包括只读存储单元(ROM)10203。
存储单元1020还可以包括具有一组(至少一个)程序模块10205的程序/实用工具10204,这样的程序模块10205包括但不限于:操作***、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线1030可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备1000也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备1000交互的设备通信,和/或与使得该电子设备1000能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口1050进行。并且,电子设备1000还可以通过网络适配器1060与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器1060通过总线1030与电子设备1000的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备1000使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储***等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。
在本公开的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。
参考图11所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品1100,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
此外,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和构思由权利要求指出。
Claims (16)
1.一种数据管理方法,其特征在于,包括:
响应对应于一数据的数据存储请求,根据第一***时间以及所述数据的数据过期时间精度的比值生成所述数据的第一访问标识符,并按所述第一访问标识符存储所述数据;
响应对应于所述数据的数据读取请求,根据第二***时间以及所述数据过期时间精度的比值获取所述数据的第二访问标识符,并按所述第二访问标识符读取数据;
如果所述第二访问标识符与所述第一访问标识符相同,对应所述数据读取请求返回数据读取成功消息以及所述数据;
如果所述第二访问标识符与所述第一访问标识符不同,对应所述数据读取请求返回数据读取失败消息。
2.如权利要求1所述的数据管理方法,其特征在于,所述根据第一***时间以及所述数据的数据过期时间精度的比值生成所述数据的第一访问标识符包括:
将所述数据存储请求到达时数据库服务器端的当前***时间作为所述第一***时间;
根据所述数据存储请求获取所述数据的数据访问标识符以及数据过期时间精度;
根据所述数据访问标识符以及所述第一***时间与所述数据过期时间精度的比值生成所述第一访问标识符。
3.如权利要求2所述的数据管理方法,其特征在于,所述根据第二***时间以及所述数据过期时间精度的比值获取所述数据的第二访问标识符包括:
将所述数据读取请求到达时数据库服务端的当前***时间作为所述第二***时间;
根据所述数据读取请求获取所述数据的数据访问标识符;
根据所述数据访问标识符以及所述第二***时间与所述数据过期时间精度的比值获取所述第二访问标识符。
4.如权利要求1所述的数据管理方法,其特征在于,所述根据第一***时间以及所述数据的数据过期时间精度的比值生成所述数据的第一访问标识符包括:
将所述数据存储请求到达时数据库服务器端的当前***时间作为所述第一***时间;
根据所述数据存储请求获取所述数据的数据访问标识符以及数据过期时间精度;
确定数据队列长度,以所述数据队列长度对所述第一***时间与所述数据过期时间精度的比值取余数,根据所述数据访问标识符和所述余数生成所述第一访问标识符。
5.如权利要求4所述的数据管理方法,其特征在于,所述根据第二***时间以及所述数据过期时间精度的比值获取所述数据的第二访问标识符包括:
将所述数据读取请求到达时数据库服务器端的当前***时间作为所述第二***时间;
根据所述数据读取请求获取所述数据的数据访问标识符;
确定数据队列长度,以所述数据队列长度对所述第二***时间与所述数据过期时间精度的比值取余数,根据所述数据访问标识符和所述余数获取所述第二访问标识符。
6.如权利要求1~5任一项所述的数据管理方法,其特征在于,还包括:
根据所述数据过期时间精度调整所述第一***时间、所述第二***时间的精度。
7.如权利要求1所述的数据管理方法,其特征在于,还包括:
如果按所述第二访问标识符读取数据失败,则按所述第二访问标识符存储所述数据。
8.一种数据管理装置,其特征在于,包括:
存储处理模块,设置为响应对应于一数据的数据存储请求,根据第一***时间以及所述数据的数据过期时间精度的比值生成所述数据的第一访问标识符,并按所述第一访问标识符存储所述数据;
读取处理模块,设置为响应对应于所述数据的数据读取请求,根据第二***时间以及所述数据过期时间精度的比值获取所述数据的第二访问标识符,并按所述第二访问标识符读取数据,如果所述第二访问标识符与所述第一访问标识符相同,对应所述数据读取请求返回数据读取成功消息以及所述数据;如果所述第二访问标识符与所述第一访问标识符不同,对应所述数据读取请求返回数据读取失败消息。
9.如权利要求8所述的数据管理装置,其特征在于,所述存储处理模块设置为:
将所述数据存储请求到达时数据库服务器端的当前***时间作为所述第一***时间;
根据所述数据存储请求获取所述数据的数据访问标识符以及数据过期时间精度;
根据所述数据访问标识符以及所述第一***时间与所述数据过期时间精度的比值生成所述第一访问标识符。
10.如权利要求9所述的数据管理装置,其特征在于,所述读取处理模块设置为:
将所述数据读取请求到达时数据库服务器端的当前***时间作为所述第二***时间;
根据所述数据读取请求获取所述数据的数据访问标识符;
根据所述数据访问标识符以及所述第二***时间与所述数据过期时间精度的比值获取所述第二访问标识符。
11.如权利要求8所述的数据管理装置,其特征在于,所述存储处理模块设置为:
将所述数据存储请求到达时数据库服务器端的当前***时间作为所述第一***时间;
根据所述数据存储请求获取所述数据的数据访问标识符以及数据过期时间精度;
获取数据队列长度,以所述数据队列长度对所述第一***时间与所述数据过期时间精度的比值取余数,根据所述数据访问标识符和所述余数生成所述第一访问标识符。
12.如权利要求11所述的数据管理装置,其特征在于,所述读取处理模块设置为:
将所述数据读取请求到达时数据库服务器端的当前***时间作为所述第二***时间;
根据所述数据读取请求获取所述数据的数据访问标识符;
以所述数据队列长度对所述第二***时间与所述数据过期时间精度的比值取余数,根据所述数据访问标识符和所述余数获取所述第二访问标识符。
13.如权利要求9~12任一项所述的数据管理装置,其特征在于,还包括:时间精度调整模块,设置为根据所述数据过期时间精度调整所述第一***时间、所述第二***时间的精度。
14.如权利要求8所述的数据管理装置,其特征在于,还包括:存储请求生成模块,设置为如果按所述第二访问标识符读取数据失败,则按所述第二访问标识符存储所述数据。
15.一种电子设备,其特征在于,包括:
存储器;以及
耦合到所述存储器的处理器,所述处理器被配置为基于存储在所述存储器中的指令,执行如权利要求1-7任一项所述的数据管理方法。
16.一种计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现如权利要求1-7任一项所述的数据管理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811295990.0A CN109491987B (zh) | 2018-11-01 | 2018-11-01 | 数据管理方法与装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811295990.0A CN109491987B (zh) | 2018-11-01 | 2018-11-01 | 数据管理方法与装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109491987A CN109491987A (zh) | 2019-03-19 |
CN109491987B true CN109491987B (zh) | 2020-09-01 |
Family
ID=65692167
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811295990.0A Active CN109491987B (zh) | 2018-11-01 | 2018-11-01 | 数据管理方法与装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109491987B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113420334A (zh) * | 2021-07-21 | 2021-09-21 | 北京优奥创思科技发展有限公司 | 一种依据授权期限按字段清除过期信息的数据保护方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102117338B (zh) * | 2011-04-02 | 2013-03-13 | 天脉聚源(北京)传媒科技有限公司 | 一种数据库缓存的方法 |
CN102867070A (zh) * | 2012-09-29 | 2013-01-09 | 瑞庭网络技术(上海)有限公司 | 更新key-value分布式存储***缓存的方法 |
US10430437B2 (en) * | 2017-02-08 | 2019-10-01 | Bank Of America Corporation | Automated archival partitioning and synchronization on heterogeneous data systems |
EP3385867B1 (en) * | 2017-04-05 | 2019-11-20 | Amadeus S.A.S. | Management of unique identifiers in a database |
CN108108416A (zh) * | 2017-12-14 | 2018-06-01 | 上海斐讯数据通信技术有限公司 | redis数据过期处理的方法和装置 |
-
2018
- 2018-11-01 CN CN201811295990.0A patent/CN109491987B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN109491987A (zh) | 2019-03-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107133234B (zh) | 缓存数据更新的方法、装置及*** | |
JP6353924B2 (ja) | ブロックベースストレージに対するデータボリュームの耐久性状態の低減 | |
US9697050B2 (en) | System and method for scaling for a large number of concurrent users | |
CN107016016B (zh) | 一种数据处理的方法及装置 | |
WO2013185175A1 (en) | Predictive analytics for resource provisioning in hybrid cloud | |
CN109522043B (zh) | 一种配置数据的管理方法、装置及存储介质 | |
CN106886371A (zh) | 缓存数据处理方法及装置 | |
Levitin et al. | Dynamic checkpointing policy in heterogeneous real-time standby systems | |
US11330078B1 (en) | Method and system for managing updates of a data manager | |
US8266189B2 (en) | Adapting between coupled and decoupled provider interfaces | |
CN114722119A (zh) | 数据同步方法及*** | |
US20210329003A1 (en) | On-the-fly creation of transient least privileged roles for serverless functions | |
CN110825425A (zh) | 配置数据管理方法及装置、电子设备、存储介质 | |
US9063995B2 (en) | Access control list (ACL) generation for replicated data | |
CN109491987B (zh) | 数据管理方法与装置 | |
CN111143126A (zh) | 一种分布式文件***的数据拷贝方法、***及相关组件 | |
CN114371914A (zh) | 容器ip地址配置方法、装置、存储介质及电子设备 | |
CN111800511B (zh) | 同步登录态的处理方法、***、设备及可读存储介质 | |
US20160062661A1 (en) | Generating Initial Copy in Replication Initialization | |
KR100587532B1 (ko) | 스트리밍 서비스용 응용 소프트웨어 제작 장치 및 방법과네트워크 고장감내를 지원하는 소프트웨어 스트리밍서비스 제공 시스템 및 방법 | |
CN104317820A (zh) | 报表的统计方法和装置 | |
CN113486116A (zh) | 一种数据同步方法、装置、电子设备及计算机可读介质 | |
US11416264B2 (en) | Software component configuration alignment | |
CN111930720A (zh) | 数据倾斜的处理方法、***、电子设备和介质 | |
CN115485677A (zh) | 在分布式数据存储环境中的安全数据复制 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |