CN113760965A - 数据查询的方法和装置 - Google Patents
数据查询的方法和装置 Download PDFInfo
- Publication number
- CN113760965A CN113760965A CN202010554261.3A CN202010554261A CN113760965A CN 113760965 A CN113760965 A CN 113760965A CN 202010554261 A CN202010554261 A CN 202010554261A CN 113760965 A CN113760965 A CN 113760965A
- Authority
- CN
- China
- Prior art keywords
- database
- key
- filtering result
- determining
- primary key
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000001914 filtration Methods 0.000 claims abstract description 100
- 238000004590 computer program Methods 0.000 claims description 9
- 230000000694 effects Effects 0.000 abstract description 6
- 238000010586 diagram Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000035515 penetration Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24553—Query execution of query operations
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了数据查询的方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括：当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果；其中，所述过滤结果包括：可能存在和不存在；若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存；若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值。该实施方式解决了短时间内查询数据库的次数过量的技术问题，进而达到大幅度减少短时间内因查询过量产生的消息拥堵、保持数据稳定的技术效果。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种数据查询的方法和装置。
背景技术
随着越来越多用户对互联网应用的需求的增加，现有技术采用缓存的方案来解决瞬时流量过高，或者长期流量过高的问题。
在实现本发明过程中，发明人发现现有技术中至少存在如下问题：
当缓存中不存在需要查询的内容，则需要再深入一层对关系型数据库进行查询。当查询数据库的流量过高，会导致数据库不可用，严重影响使用数据库性能，进而产生缓存击穿。
发明内容
有鉴于此，本发明实施例提供一种数据查询的方法和装置，能够解决短时间内查询数据库的次数过量的技术问题，进而达到大幅度减少短时间内因查询过量产生的消息拥堵、保持数据稳定的技术效果。
为实现上述目的，根据本发明实施例的一个方面，提供了一种数据查询的方法，包括：
当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果；其中，所述过滤结果包括：可能存在和不存在；
若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存；
若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值。
可选地，所述若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值，包括：
若所述过滤结果为可能存在时，确定所述主键对应的任务查询数据库；
在所述任务查询数据库中确定所述主键对应的键值；
将所述键值存储在所述缓存中。
可选地，所述若所述过滤结果为可能存在时，确定所述主键对应的任务查询数据库，包括：
当所述过滤结果为可能存在时，查询是否存在与所述主键对应的任务查询数据库；
若是，则将查询到的任务查询数据库确定为所述主键对应的任务查询数据库；
若否，则判断在预设时间段内，查询是否存在与所述主键对应的任务查询数据库的第一查询次数；若所述第一查询次数已经达到阈值，则将所述过滤结果更新为不存在；若所述第一查询次数未达到阈值，则继续查询是否存在与所述主键对应的任务查询数据库。
可选地，所述若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存，包括：
若所述过滤结果为不存在时，生成所述主键在所述数据库中没有对应键值的过滤结果的表达式；
将所述表达式存储至所述缓存。
可选地，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存之后，包括：
根据所述缓存中的所述表达式，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果。
可选地，当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果之前，包括：
确定所述主键；
在所述缓存中查询所述主键对应的键值。
根据本发明实施例的一个方面，提供了一种数据查询的装置，包括：
过滤结果确定模块，用于当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果；其中，所述过滤结果包括：可能存在和不存在；
反馈模块，用于若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存；
键值确定模块，用于若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值。
可选地，所述若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值，包括：
若所述过滤结果为可能存在时，确定所述主键对应的任务查询数据库；
在所述任务查询数据库中确定所述主键对应的键值；
将所述键值存储在所述缓存中。
根据本发明实施例的另一个方面，提供了一种数据查询的电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明提供的数据查询方法。
根据本发明实施例的还一个方面，提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现本发明提供的数据查询的方法。
上述发明中的一个实施例具有如下优点或有益效果：
本申请实施例通过采用布隆过滤器对待查询的主键进行筛选的技术手段，解决了短时间内查询数据库的次数过量，容易导致数据库崩溃的技术问题，进而达到大幅度减少短时间内因查询过量产生的消息拥堵、保持数据库稳定的技术效果。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明，不构成对本发明的不当限定。其中：
图1是根据本发明实施例的一种数据查询的方法的主要流程的示意图；
图2是根据本发明具体实施例的一种数据查询的方法的详细流程的示意图；
图3是根据本发明实施例的一种数据查询的装置的主要模块的示意图；
图4是本发明实施例可以应用于其中的示例性***架构图；
图5是适于用来实现本发明实施例的终端设备或服务器的计算机***的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
图1是根据本发明实施例的一种数据查询的方法的主要流程的示意图，如图1所示，包括：
步骤S101、当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果；其中，所述过滤结果包括：可能存在和不存在；
步骤S1021、若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存；
步骤S1022、若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值。
由于缓存中的存储空间有限，不能存放每个主键(key)对应的键值(value)，进而当主键在缓存中没有存储所述主键对应的键值时，可以通过数据库进行查询。当查询数量较大时，访问次数过高，导致无法正常查询的情况。该情况也称为缓存穿透。
为解决短时间内查询数据库的次数过量的技术问题，本申请实施例中采用布隆过滤器对待查询的主键进行筛选的技术手段，进而大幅度减少短时间内因查询过量产生的消息拥堵的技术效果。
具体地，当确定了一个需要在数据库中进行查询的主键(key)后，将该主键key利用布隆过滤器进行过滤。其中，通过所述布隆过滤器可能会产生两个结果，分别为：在数据库中可能存在所述主键key对应的键值或在数据库中不存在所述主键key对应的键值。也就是通过布隆过滤器的查询不能确定所述主键key具体对应的键值。
进而通过布隆过滤器确定了所述主键key在数据库中不存在对应的键值的情况时，则无需进行后续的查询，进而过滤掉了一部分查询，避免了因查询数量过大导致的访问次数过大的技术问题。
在实际应用中，当通过布隆过滤器的查询结果，也就是过滤结果为不存在时，可以暂时不进行查询，待查询量在一定范围内时，再进行后续的查询。具体地，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存之后，包括：根据所述缓存中的所述表达式，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果。
可选地，当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果之前，包括：
确定所述主键；
在所述缓存中查询所述主键对应的键值。
本申请可选实施例通过将布隆过滤器与通过主键查询缓存的技术相结合的技术手段，解决了现有技术通过主键进行删除和扩容的过程中存在的容易产生缓存穿透的技术缺陷，进而实现高并发的控制数据查询，在保证缓存的情况下，避免大量查询的请求。
可选地，所述若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值，包括：
若所述过滤结果为可能存在时，确定所述主键对应的任务查询数据库；
在所述任务查询数据库中确定所述主键对应的键值；
将所述键值存储在所述缓存中。通过将所述主键对应的键值存储在所述缓存中，即可实现对所述主键对应键值更为便捷的读取。
所述过滤结果为可能存在时，可以理解为，所述主键存在对应的任务查询数据库或所述主键不存在对应的任务查询数据库，进而当所述过滤结果为可能存在时，可以继续查询是否存在与所述主键对应的任务查询数据库。
若存在与所述主键对应的任务查询数据库，则将查询到的任务查询数据库确定为所述主键对应的任务查询数据库；
若不存在与所述主键对应的任务查询数据库，则判断在预设时间段内，查询是否存在与所述主键对应的任务查询数据库的第一查询次数；若所述第一查询次数已经达到阈值，则将所述过滤结果更新为不存在；若所述第一查询次数未达到阈值，则继续查询是否存在与所述主键对应的任务查询数据库。
也就是，当不存在与所述主键对应的任务查询数据库时，可以通过不断的轮询查找所属任务对应的任务查询数据库。
可选地，所述若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存，包括：
若所述过滤结果为不存在时，生成所述主键在所述数据库中没有对应键值的过滤结果的表达式；所述表达式至少包括所述主键和过滤结果。
将所述表达式存储至所述缓存。
下面以一具体实施例详细说明本申请的技术方案。
图2是根据本发明具体实施例的一种数据查询的方法的详细流程的示意图，如图2所示，包括：
步骤S201、确定待查询的主键key；
步骤S202、判断缓存中是否存在所述主键key对应的键值；若存在则执行步骤S203返回查询到的键值value；若不存在，则执行步骤S204；
步骤S204、确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果；若所述过滤结果为可能存在，则执行步骤S206；若所述过滤结果为不存在，则执行步骤S205；
步骤S205、生成所述过滤结果为不存在的表达式，将所述表达式存储在所述缓存中；
步骤S206、确认在预设时间段内查询所述主键对应的任务查询数据库的次数是否达到阈值；若是，则将所述过滤结果更新为不存在，并执行步骤S205；若否则执行步骤S207；
步骤S207、查询所述主键对应的任务查询数据库；
步骤S208、判断是否查询到所述主键对应的任务查询数据库，若否，则继续执行步骤S206，直至确定所述主键对应的任务查询数据库；然后，执行步骤S208；
步骤S208、查询所述主键在对应的任务查询数据库中对应的键值；
步骤S209、将所述键值存储在缓存中，返回查询到的键值value。
图3是根据本发明实施例的一种数据查询的装置300的主要模块的示意图；如图3所示，包括：
过滤结果确定模块301，用于当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果；其中，所述过滤结果包括：可能存在和不存在；
反馈模块302，用于若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存；
键值确定模块303，用于若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值。
可选地，所述若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值，包括：
若所述过滤结果为可能存在时，确定所述主键对应的任务查询数据库；
在所述任务查询数据库中确定所述主键对应的键值；
将所述键值存储在所述缓存中。
可选地，所述若所述过滤结果为可能存在时，确定所述主键对应的任务查询数据库，包括：
当所述过滤结果为可能存在时，查询是否存在与所述主键对应的任务查询数据库；
若是，则将查询到的任务查询数据库确定为所述主键对应的任务查询数据库；
若否，则判断在预设时间段内，查询是否存在与所述主键对应的任务查询数据库的第一查询次数；若所述第一查询次数已经达到阈值，则将所述过滤结果更新为不存在；若所述第一查询次数未达到阈值，则继续查询是否存在与所述主键对应的任务查询数据库。
可选地，所述若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存，包括：
若所述过滤结果为不存在时，生成所述主键在所述数据库中没有对应键值的过滤结果的表达式；
将所述表达式存储至所述缓存。
可选地，循环查找模块，用于将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存之后，
根据所述缓存中的所述表达式，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果。
可选地，当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果之前，包括：
确定所述主键；
在所述缓存中查询所述主键对应的键值。
图4示出了可以应用本发明实施例的数据查询方法或数据查询装置的示例性***架构400。
如图4所示，***架构400可以包括终端设备401、402、403，网络404和服务器405。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备401、402、403通过网络404与服务器405交互，以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器405可以是提供各种服务的服务器，例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理，并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是，本发明实施例所提供的数据查询方法一般由服务器405执行，相应地，数据查询装置一般设置于服务器405中。
应该理解，图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
下面参考图5，其示出了适于用来实现本发明实施例的终端设备的计算机***500的结构示意图。图5示出的终端设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示，计算机***500包括中央处理单元(CPU)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中，还存储有***500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时，执行本发明的***中限定的上述功能。
需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括发送模块、获取模块、确定模块和第一处理模块。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定，例如，发送模块还可以被描述为“向所连接的服务端发送图片获取请求的模块”。
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括：
当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果；其中，所述过滤结果包括：可能存在和不存在；
若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存；
若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值。
根据本发明实施例的技术方案，可以达到如下有益效果：
本申请实施例通过采用布隆过滤器和现有技术结合对待查询的主键进行筛选的技术手段，解决了短时间内查询数据库的次数过量的技术问题，进而达到大幅度减少短时间内因查询过量产生的消息拥堵、保持数据稳定的技术效果。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。
Claims (10)
1.一种数据查询的方法，其特征在于，包括：
当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果；其中，所述过滤结果包括：可能存在和不存在；
若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存；
若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值。
2.根据权利要求1所述的方法，其特征在于，所述若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值，包括：
若所述过滤结果为可能存在时，确定所述主键对应的任务查询数据库；
在所述任务查询数据库中确定所述主键对应的键值；
将所述键值存储在所述缓存中。
3.根据权利要求2所述的方法，其特征在于，所述若所述过滤结果为可能存在时，确定所述主键对应的任务查询数据库，包括：
当所述过滤结果为可能存在时，查询是否存在与所述主键对应的任务查询数据库；
若是，则将查询到的任务查询数据库确定为所述主键对应的任务查询数据库；
若否，则判断在预设时间段内，查询是否存在与所述主键对应的任务查询数据库的第一查询次数；若所述第一查询次数已经达到阈值，则将所述过滤结果更新为不存在；若所述第一查询次数未达到阈值，则继续查询是否存在与所述主键对应的任务查询数据库。
4.根据权利要求1-4中任一所述的方法，其特征在于，所述若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存，包括：
若所述过滤结果为不存在时，生成所述主键在所述数据库中没有对应键值的过滤结果的表达式；
将所述表达式存储至所述缓存。
5.根据权利要求4所述的方法，其特征在于，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存之后，包括：
根据所述缓存中的所述表达式，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果。
6.根据权利要求1所述的方法，其特征在于，当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果之前，包括：
确定所述主键；
在所述缓存中查询所述主键对应的键值。
7.一种数据查询的装置，其特征在于，包括：
过滤结果确定模块，用于当主键在缓存中无法确定对应的键值时，确定利用布隆过滤器在数据库中过滤所述主键对应键值的过滤结果；其中，所述过滤结果包括：可能存在和不存在；
反馈模块，用于若所述过滤结果为不存在时，将所述主键在所述数据库中没有对应键值的过滤结果反馈至缓存；
键值确定模块，用于若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值。
8.根据权利要求7所述的装置，其特征在于，所述若所述过滤结果为可能存在时，根据所述主键在所述数据库中确定对应的键值，包括：
若所述过滤结果为可能存在时，确定所述主键对应的任务查询数据库；
在所述任务查询数据库中确定所述主键对应的键值；
将所述键值存储在所述缓存中。
9.一种数据查询的电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
10.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-6中任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010554261.3A CN113760965B (zh) | 2020-06-17 | 2020-06-17 | 数据查询的方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010554261.3A CN113760965B (zh) | 2020-06-17 | 2020-06-17 | 数据查询的方法和装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113760965A true CN113760965A (zh) | 2021-12-07 |
| CN113760965B CN113760965B (zh) | 2024-07-16 |
Family
ID=78785472
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010554261.3A Active CN113760965B (zh) | 2020-06-17 | 2020-06-17 | 数据查询的方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113760965B (zh) |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102622361A (zh) * | 2011-01-28 | 2012-08-01 | 天脉聚源(北京)传媒科技有限公司 | 一种数据库查询方法 |
| US8972337B1 (en) * | 2013-02-21 | 2015-03-03 | Amazon Technologies, Inc. | Efficient query processing in columnar databases using bloom filters |
| CN104572727A (zh) * | 2013-10-22 | 2015-04-29 | 阿里巴巴集团控股有限公司 | 一种数据查询方法及装置 |
| CN105718455A (zh) * | 2014-12-01 | 2016-06-29 | 阿里巴巴集团控股有限公司 | 一种数据查询方法及装置 |
| CN106445944A (zh) * | 2015-08-06 | 2017-02-22 | 阿里巴巴集团控股有限公司 | 一种数据查询请求的处理方法、装置及电子设备 |
| CN107515882A (zh) * | 2016-06-17 | 2017-12-26 | 阿里巴巴集团控股有限公司 | 数据查询方法及装置 |
| CN107729535A (zh) * | 2017-11-17 | 2018-02-23 | 中国科学技术大学 | 一种键值数据库内布隆过滤器的配置方法 |
| US20180210959A1 (en) * | 2017-01-24 | 2018-07-26 | Microsoft Technology Licensing, Llc | Front end bloom filters in distributed databases |
| CN109885574A (zh) * | 2019-02-22 | 2019-06-14 | 广州荔支网络技术有限公司 | 一种数据查询方法及装置 |
| US20190370411A1 (en) * | 2018-06-01 | 2019-12-05 | Sap Se | Rotating probabilistic data structure |
-
2020
- 2020-06-17 CN CN202010554261.3A patent/CN113760965B/zh active Active
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102622361A (zh) * | 2011-01-28 | 2012-08-01 | 天脉聚源(北京)传媒科技有限公司 | 一种数据库查询方法 |
| US8972337B1 (en) * | 2013-02-21 | 2015-03-03 | Amazon Technologies, Inc. | Efficient query processing in columnar databases using bloom filters |
| CN104572727A (zh) * | 2013-10-22 | 2015-04-29 | 阿里巴巴集团控股有限公司 | 一种数据查询方法及装置 |
| CN105718455A (zh) * | 2014-12-01 | 2016-06-29 | 阿里巴巴集团控股有限公司 | 一种数据查询方法及装置 |
| CN106445944A (zh) * | 2015-08-06 | 2017-02-22 | 阿里巴巴集团控股有限公司 | 一种数据查询请求的处理方法、装置及电子设备 |
| CN107515882A (zh) * | 2016-06-17 | 2017-12-26 | 阿里巴巴集团控股有限公司 | 数据查询方法及装置 |
| US20180210959A1 (en) * | 2017-01-24 | 2018-07-26 | Microsoft Technology Licensing, Llc | Front end bloom filters in distributed databases |
| CN107729535A (zh) * | 2017-11-17 | 2018-02-23 | 中国科学技术大学 | 一种键值数据库内布隆过滤器的配置方法 |
| US20190370411A1 (en) * | 2018-06-01 | 2019-12-05 | Sap Se | Rotating probabilistic data structure |
| CN109885574A (zh) * | 2019-02-22 | 2019-06-14 | 广州荔支网络技术有限公司 | 一种数据查询方法及装置 |
Non-Patent Citations (2)
| Title |
|---|
| 时磊;杨骅;王红梅;张铁军;王东辉;: "基于布隆过滤器的事务存储架构中的高速缓存", 微电子学与计算机, no. 03, 5 March 2011 (2011-03-05), pages 147 - 149 * |
| 饶文;陈旭;: "基于布隆过滤器的海量数据查询技术的优化与应用", 微型电脑应用, no. 02, 20 February 2018 (2018-02-20), pages 71 - 74 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113760965B (zh) | 2024-07-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107844488B (zh) | 数据查询方法和装置 | |
| CN110909022A (zh) | 一种数据查询方法和装置 | |
| CN110795315A (zh) | 监控业务的方法和装置 | |
| CN110648216A (zh) | 一种风控方法和装置 | |
| CN113452733A (zh) | 文件下载方法和装置 | |
| CN113312553B (zh) | 一种用户标签的确定方法和装置 | |
| CN112445988A (zh) | 一种数据加载方法和装置 | |
| CN110866001A (zh) | 确定待处理订单的方法和装置 | |
| CN113742389A (zh) | 一种业务处理方法和装置 | |
| CN112948138A (zh) | 一种处理消息的方法和装置 | |
| CN109144991B (zh) | 动态分表的方法、装置、电子设备和计算机可存储介质 | |
| CN113127923A (zh) | 管理权限的方法和装置 | |
| CN112688982B (zh) | 一种用户请求处理方法和装置 | |
| CN110019671B (zh) | 一种处理实时消息的方法和*** | |
| CN112711572B (zh) | 适用于分库分表的在线扩容方法和装置 | |
| CN113760965B (zh) | 数据查询的方法和装置 | |
| CN112783914B (zh) | 优化语句的方法和装置 | |
| CN109087097B (zh) | 一种更新链码同一标识的方法和装置 | |
| CN109213815B (zh) | 控制执行次数的方法、装置、服务器终端以及可读介质 | |
| CN113722193A (zh) | 检测页面异常的方法和装置 | |
| CN113220981A (zh) | 一种优化缓存的方法和装置 | |
| CN110019026B (zh) | 一种文件清理的方法和装置 | |
| CN107665241B (zh) | 一种实时数据多维度去重方法和装置 | |
| CN113742617A (zh) | 一种缓存更新的方法和装置 | |
| CN113127416A (zh) | 数据查询方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant |