CN108694188B - 一种索引数据更新的方法以及相关装置 - Google Patents

一种索引数据更新的方法以及相关装置 Download PDF

Info

Publication number
CN108694188B
CN108694188B CN201710225105.0A CN201710225105A CN108694188B CN 108694188 B CN108694188 B CN 108694188B CN 201710225105 A CN201710225105 A CN 201710225105A CN 108694188 B CN108694188 B CN 108694188B
Authority
CN
China
Prior art keywords
index data
updating
data
search result
index
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710225105.0A
Other languages
English (en)
Other versions
CN108694188A (zh
Inventor
卜立军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201710225105.0A priority Critical patent/CN108694188B/zh
Publication of CN108694188A publication Critical patent/CN108694188A/zh
Application granted granted Critical
Publication of CN108694188B publication Critical patent/CN108694188B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明实施例公开了一种索引数据更新的方法,可应用于索引数据更新装置,索引数据更新装置包含内存区域以及硬盘区域,该方法包括接收索引数据更新请求;根据索引数据更新请求对内存区域中的索引数据进行更新,并得到第一索引数据;若第一索引数据满足预设索引数据更新条件,则根据第一索引数据对硬盘区域中的索引数据进行更新,并得到第二索引数据。本发明还提供一种索引数据更新装置。本发明实施例可以对索引数据进行分级存储,并针对不同的索引数据类型,分别采用不同的存储方式,以此实现在实时更新第一索引数据的同时,周期性地更新第二索引数据,从而可以有效地平衡索引数据的更新,减少内存消耗以及计算资源,降低计算成本。

Description

一种索引数据更新的方法以及相关装置
技术领域
本发明涉及互联网技术领域,尤其涉及一种索引数据更新的方法以及相关装置。
背景技术
随着互联网技术的不断发展,用户利用互联网进行检索也越来越普遍。为了进行检索,通常需要先对数据库中的检索资料进行索引。索引是对数据库表中一列或多列的值进行排序的一种结构,使用索引可快速访问数据库表中的特定信息。检索平台在接入各个垂直业务的过程中,一般根据业务的具体类型,例如数据量、数据更新量,以及检索量等业务特性,采用不同的索引存储解决方案。
目前,对对于数据量较大且索引更新不频繁的业务而言,一般采用固态硬盘(Solid State Drives,SSD)或者磁盘的存储方式,也就是将全量索引存放于SSD或硬盘中,更新数据的线上生效时间几乎等同于索引数据全量更新的时间。
然而,采用SSD或硬盘的索引存储方式虽然在一定程度上降低了成本,但是受限于SSD或硬盘的物理特性,同时进行索引更新以及查询会给硬盘带来同时“读”和“写”的问题。为了解决同时“读”和“写”的问题,索引一般不允许实时更新,而采用周期过长的全量更新方式。此时,为了使得增量更新的索引数据能够尽快上线,则需要尽量降低索引全量更新的周期,导致计算成本的增加。
发明内容
本发明实施例提供了一种索引数据更新的方法以及相关装置,可以对索引数据进行分级存储,即将索引数据分成第一索引数据和第二索引数据,可针对不同的索引数据类型,分别采用不同的存储方式,以此实现在实时更新第一索引数据的同时,周期性地更新第二索引数据,从而可以有效地平衡索引数据的更新,减少内存消耗以及计算资源,降低计算成本。
有鉴于此,本发明第一方面提供了一种索引数据更新的方法,所述方法应用于索引数据更新装置,所述索引数据更新装置包含内存区域以及硬盘区域,所述方法包括:
接收索引数据更新请求;
根据所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据;
若所述第一索引数据满足预设索引数据更新条件,则根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据。
本发明第二方面提供了一种索引数据更新装置,所述索引数据更新装置包含内存区域以及硬盘区域,所述索引数据更新装置包括:
第一接收模块,用于接收索引数据更新请求;
第一更新模块,用于根据所述第一接收模块接收的所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据;
第二更新模块,用于若所述第一更新模块更新得到的所述第一索引数据满足预设索引数据更新条件,则根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据。
从以上技术方案可以看出,本发明实施例具有以下优点:
本发明实施例中,提供了一种索引数据更新的方法,该方法可应用于索引数据更新装置,该索引数据更新装置包含内存区域以及硬盘区域,首先索引数据更新装置接收索引数据更新请求,然后根据索引数据更新请求对内存区域中的索引数据进行更新,并得到第一索引数据,若第一索引数据满足预设索引数据更新条件,则根据第一索引数据对硬盘区域中的索引数据进行更新,并得到第二索引数据。通过上述方法,可以对索引数据进行分级存储,即将索引数据分成第一索引数据和第二索引数据,可针对不同的索引数据类型,分别采用不同的存储方式,以此实现在实时更新第一索引数据的同时,周期性地更新第二索引数据,从而可以有效地平衡索引数据的更新,减少内存消耗以及计算资源,降低计算成本。
附图说明
图1为本发明实施例中内存索引独立存储方案的拓扑图;
图2为本发明实施例中硬盘索引独立存储方案的拓扑图;
图3为本发明实施例中内存索引与硬盘索引结合存储的拓扑图;
图4为本发明实施例中索引数据更新的方法一个实施例示意图;
图5为本发明实施例中数据检索的一个流程示意图;
图6为本发明实施例中索引数据更新装置一个实施例示意图;
图7为本发明实施例中索引数据更新装置一个实施例示意图;
图8为本发明实施例中索引数据更新装置一个实施例示意图;
图9为本发明实施例中索引数据更新装置一个实施例示意图;
图10为本发明实施例中索引数据更新装置一个实施例示意图;
图11为本发明实施例中索引数据更新装置一个实施例示意图;
图12为本发明实施例中索引数据更新装置一个实施例示意图;
图13为本发明实施例中索引数据更新装置一个实施例示意图;
图14为本发明实施例中索引数据更新装置一个结构示意图。
具体实施方式
本发明实施例提供了一种索引数据更新的方法以及相关装置,可以对索引数据进行分级存储,即将索引数据分成第一索引数据和第二索引数据,可针对不同的索引数据类型,分别采用不同的存储方式,以此实现在实时更新第一索引数据的同时,周期性地更新第二索引数据,从而可以有效地平衡索引数据的更新,减少内存消耗以及计算资源,降低计算成本。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应理解,本发明可应用于服务器的内存区域以及硬盘区域,其中,内存区域即为内存,硬盘区域即为硬盘,目前,对于索引数据的存储通常可以有两种方式,一种为存储于内存中,而另一种则为存储于硬盘中。下面将简单介绍这两种独立存储的方案。
索引数据存储于内存的方式具体为,请参阅图1,图1为本发明实施例中内存索引独立存储方案的拓扑图,如图所示,在内存中存储有增量索引和全量索引,搜索引擎可以调用内存索引中的信息。在用户进行数据检索时,可通过搜索引擎从内存索引中查找相应的索引数据,并根据索引数据确定对应的检索结果,然后发送至客户端,以展现给用户。在进行数据更新时,内存索引中的增量索引会实时进行更新,并且全量索引也会同步进行更新。
索引数据存储于硬盘的方式具体为,请参阅图2,图2为本发明实施例中硬盘索引独立存储方案的拓扑图,如图所示,在硬盘中存储有全量索引,搜索引擎可以调用全量索引中的信息。在用户进行数据检索时,可以通过搜索引擎从硬盘索引中查找相应的索引数据,并根据索引数据确定对应的检索结果,然后发送至客户端,以展现给用户。在进行数据更新时,硬盘索引中的全量索引也会进行更新。
而本发明所采用的索引数据存储方案较上述两种存储方案而言,能够很大限度地降低索引存储成本。请参阅图3,图3为本发明实施例中内存索引与硬盘索引结合存储的拓扑图,如图所示,在一个检索服务中可分为三层,即搜索接入层、搜索引擎实现层以及数据衔接层。其中,检索接入层主要用于对外屏蔽内部搜索引擎的实现细节,主要的功能包括:检索接入、检索结果的归并、检索结果排重以及数据更新请求的接入。搜索引擎实现层主要用于在内部实现时将所有存储分为两部分,即内存索引和硬盘索引,内存索引存储部分保持最近一段时间的更新数据,主要接收实时数据更新请求以及数据检索请求,而硬盘索引存储部分则是保持最新的一份全量索引数据,主要接收数据检索请求,不接收实时数据更新请求。数据衔接层主要用于实现内存与硬盘索引数据的衔接、全量数据定期归并以及全量数据定期更新。
下面将从索引数据更新装置的角度,对本发明中索引数据更新的方法进行介绍,请参阅图4,本发明实施例中索引数据更新的方法一个实施例包括:
101、索引数据更新装置接收索引数据更新请求,其中,索引数据更新装置包含内存区域以及硬盘区域;
本实施例中,部署于服务器中的索引数据更新装置首先接收索引数据更新请求,该索引数据更新请求将同步到内存区域以及硬盘区域中。在内存区域存储的是最近一段时间的更新数据,主要用于实时接收索引数据更新请求以及数据检索请求,而硬盘区域存储的是一份最新的全量索引数据,主要接收数据检索请求,但不实时接收索引数据更新请求。
索引数据是为了加速对表中数据行的检索而创建的一种分散的存储结构。索引是针对表而建立的,它是由数据页面以外的索引页面组成的,每个索引页面中的行都会含有逻辑指针,以便加速检索物理数据。
索引数据主要包括顺排数据、倒排数据和摘要数据等。由于不同业务在数据规模、更新频率以及检索量等各个方面的差别,因此对不同的业务类型所采用的索引存储以及更新模型都是不同的。例如:对于一个数据更新较频繁的业务而言,索引数据的存储模型应该尽可能保证数据更新的性能以及数据的完整性。其中,顺排索引是指一篇文档到这篇文档包含的所有词的映射。倒排索引是指一个词语到所有包含这个词语的文档的映射。
102、索引数据更新装置根据索引数据更新请求对内存区域中的索引数据进行更新,并得到第一索引数据;
本实施例中,接下来,索引数据更新装置会根据索引数据更新请求,实时地对内存区域中的索引数据进行更新,其中,第一索引数据包括增量索引,增量索引具体可以是指在内存区域中增加新的索引数据。例如,内存区域中的A列表原本有索引数据a和索引数据b,现在A列表更新后增加了索引数据c,索引数据c即为增量索引。于是索引数据a、索引数据b和索引数据c共同构成了第一索引数据。
103、若第一索引数据满足预设索引数据更新条件,则索引数据更新装置根据第一索引数据对硬盘区域中的索引数据进行更新,并得到第二索引数据。
本实施例中,如果存储于内存区域中的第一索引数据满足预设索引数据更新条件,那么索引数据更新装置将利用第一索引数据对硬盘区域中的索引数据进行更新,并得到第二索引数据,第二索引数据也可以称为全量数据。
类似地,假设硬盘区域中的B列表有索引数据x、索引数据y和索引数据z,现在将内存区域中的第一索引数据(即索引数据a、索引数据b和索引数据c)与B列表中的数据进行合并,就可以得到第二索引数据,即包含索引数据a、索引数据b、索引数据c、索引数据x、索引数据y和索引数据z。
本发明实施例中,提供了一种索引数据更新的方法,该方法可应用于索引数据更新装置,该索引数据更新装置包含内存区域以及硬盘区域,首先索引数据更新装置接收索引数据更新请求,然后根据索引数据更新请求对内存区域中的索引数据进行更新,并得到第一索引数据,若第一索引数据满足预设索引数据更新条件,则根据第一索引数据对硬盘区域中的索引数据进行更新,并得到第二索引数据。通过上述方法,可以对索引数据进行分级存储,即将索引数据分成第一索引数据和第二索引数据,可针对不同的索引数据类型,分别采用不同的存储方式,以此实现在实时更新第一索引数据的同时,周期性地更新第二索引数据,从而可以有效地平衡索引数据的更新,减少内存消耗以及计算资源,降低计算成本。
可选地,在上述图4对应的实施例的基础上,本发明实施例提供的索引数据更新的方法第一个可选实施例中,根据索引数据更新请求对内存区域中的索引数据进行更新,并得到第一索引数据之后,还可以包括:
获取第一索引数据对应的数据量;
判断第一索引数据对应的数据量是否达到存储容量阈值,若是,则确定第一索引数据满足预设索引数据更新条件。
本实施例中,索引数据更新装置还可以先获取第一索引数据对应的数据量,然后判断第一索引数据对应的数据量是否达到预先设定的存储容量阈值,当达到该存储容量阈值时,则可以利用第一索引数据对硬盘区域中的索引数据进行更新,并得到第二索引数据。
由于内存区域的存储资源有限,所以通常需要对内存区域的占用量设置一个存储容量阈值,假如存储容量阈值为80%,当内存区域中索引数据的存储容量达到一定的存储容量阈值(例如80%)时,需要将内存区域中索引数据与硬盘区域中的索引数据进行合并,生成新的全量数据并重新加载。
其次,本发明实施例中,提供了一种判断第一索引数据是否满足预设索引数据更新条件的方法,具体为先获取第一索引数据对应的数据量,然后判断该数据量是否达到了存储容量阈值,只有达到了存储容量阈值,才确定第一索引数据满足预设索引数据更新条件。通过上述方式,一方面可以设置合理的存储容量阈值,既达到充分利用内存空间的目的,又不造成内存空间的浪费,另一方面当内存中第一索引数据的数据量达到存储容量阈值时,可以自动将第一索引数据发送至硬盘,从而保证充足的内存空间。
可选地,在上述图4对应的实施例的基础上,本发明实施例提供的索引数据更新的方法第二个可选实施例中,根据索引数据更新请求对内存区域中的索引数据进行更新,并得到第一索引数据之后,还可以包括:
检测第一索引数据对应的时刻值;
判断第一索引数据对应的时刻值是否达到目标时刻,若是,则确定第一索引数据满足预设索引数据更新条件。
本实施例中,除了上述图4对应的第一个实施例中介绍的方式,还可以周期性地对第二索引数据进行更新。具体为,先检测获取到第一索引数据时的时刻值,假设该时刻值为12:00:00,如果这个时刻值达到预先设定的目标时刻,那么认为更新周期已经到了,因此可以确定第一索引数据满足预设索引数据更新条件,于是将第一索引数据发送至硬盘区域,使得硬盘区域根据第一索引数据进行更新,并得到第二索引数据。
其次,本发明实施例中,提供了另一种判断第一索引数据是否满足预设索引数据更新条件的方法,具体为先检测第一索引数据对应的时刻值,然后判断该时刻值是否达到目标时刻,只有达到了目标时刻,才确定第一索引数据满足预设索引数据更新条件。通过上述方式,能够在内存资源有限的情况下,利用内存空间周期性地向硬盘发送第一索引数据,使得硬盘也可以周期地进行索引数据更新,不影响内存以及硬盘中索引数据更新的效果,从而提升了方案的灵活性和实用性。
可选地,在上述图4以及图4对应的第一或第二个实施例的基础上,本发明实施例提供的索引数据更新的方法第三个可选实施例中,根据第一索引数据对硬盘区域中的索引数据进行更新,并得到第二索引数据,可以包括:
对第一索引数据与硬盘区域中的索引数据进行合并处理,并得到第二索引数据。
本实施例中,将具体介绍如何对硬盘区域中的索引数据进行更新。
具体地,假设当前内存区域中存储了A列表,且A列表中包括一段时间内的索引数据,请参阅表1,表1为A列表中的索引数据。
表1
Figure BDA0001264975720000081
由表1可以看出,第一索引数据也就包括a、b、c和d,接下来将第一索引数据与硬盘区域中已存储的索引数据进行合并处理,即在B列表中展示合并后得到的第二索引数据,请参阅表2,表2为B列表中的索引数据。
表2
Figure BDA0001264975720000082
由表2可以看出,第二索引数据也就包括a、b、c、d和x。至此完成对硬盘区域中索引数据的更新。
再次,本发明实施例中,索引数据更新装置对硬盘区域中的索引数据进行更新,然后得到第二索引数据,这个过程可以是将内存区域中的第一索引数据添加到硬盘区域中,与硬盘区域中原本存储的索引数据共同构成第二索引数据。通过上述方式,能够完成硬盘区域中索引数据的更新,从而提升方案的可行性和可操作性,为方案的实现提供具体依据。
可选地,在上述图4对应的第三个实施例的基础上,本发明实施例提供的索引数据更新的方法第四个可选实施例中,根据第一索引数据对硬盘区域中的索引数据进行更新,并得到第二索引数据之后,还可以包括:
根据第二索引数据的检索频率确定第三索引数据,其中,第三索引数据为第二索引数据中的一部分索引数据;
采用第三索引数据替换第一索引数据,以将第三索引数据存储至内存区域。
本实施例中,索引数据更新装置在得到第二索引数据之后,还可以进一步从第二索引数据中选择一部分检索频率较高的索引数据作为第三索引数据,然后将第三索引数据发送到内存区域中,此时,内存区域中的第一索引数据将被清空,取而代之的是第三索引数据。
可以理解的是,无论是硬盘区域中对索引数据进行更新,以得到第二索引数据,还是从第二索引数据中选择第三索引数据,都可以采用线下处理的方式,处理完成后切换路由上线的方案。
进一步地,本发明实施例中,索引数据更新装置得到第二索引数据之后,还可以根据第二索引数据的检索频率确定第三索引数据,然后将第三索引数据同步至内存区域,使得内存区域中原本存储的第一索引数据被替换为第三索引数据。通过上述方式,在用户进行检索时,直接从内存区域中提取相应检索结果的可能性更大,通常情况下,从内存中查找信息比在硬盘中查找信息的效率更高,因此,将检索频率较高的第三索引数据存储在内存中,更有利于检索效率的提升,从而增加方案的实用性。
可选地,在上述图4对应的实施例的基础上,本发明实施例提供的索引数据更新的方法第五个可选实施例中,还可以包括:
接收数据检索请求;
根据数据检索请求从内存区域中获取第一索引数据所对应的第一检索结果,并从硬盘区域获取第二索引数据所对应的第二检索结果;
若第一检索结果与第二检索结果一致,则发送第一检索结果或第二检索结果。
本实施例中,将介绍一种利用索引数据进行数据检索的方式。首先索引数据更新装置接收用户通过客户端发起的数据检索请求,接下来,索引数据更新装置将同时把该数据检索请求发送至内存区域以及硬盘区域中。在内存区域中,利用第一索引数据获取数据检索请求对应的第一检索结果,同时,在硬盘区域中,利用第二索引数据获取数据检索请求对应的第二检索结果。
例如,假设用户在数据检索请求中携带了“2016年***篮球赛”,于是,在内存区域和硬盘区域中将查询与“2016年***篮球赛”相关的目录,即索引数据,通过索引数据就可以得到所需的检索结果。
如果在内存区域中得到的第一检索结果与在硬盘区域中得到的第二检索结果一致,则选择其中一个检索结果发送给用户即可。
其次,本发明实施例中,介绍了一种数据检索的过程,该过程为先接收用户发送的数据检索请求,然后根据数据检索请求既可以从内存区域中获取第一索引数据所对应的第一检索结果,又可以从硬盘区域获取第二索引数据所对应的第二检索结果,如果检测到第一检索结果与第二检索结果一致,则选择其中一个检索结果即可。通过上述方式,能够得到增量索引对应的检索结果以及全量索引对应的检索结果,从而提升检索的可靠性和全面性,在实际应用在中,可以在第一检索结果与第二检索结果中选择其一进行发送,以此保证发送的检索结果不会重复,从而提升检索的合理性。
可选地,在上述图4对应的第五个实施例的基础上,本发明实施例提供的索引数据更新的方法第六个可选实施例中,发送第一检索结果或第二检索结果之前,还可以包括:
获取第一检索结果的第一更新时长以及第二检索结果的第二更新时长,其中,第一更新时长为获取第一检索结果的时刻到当前时刻之间的时间长度,第二更新时长为获取第二检索结果的时刻到当前时刻之间的时间长度;
发送第一检索结果或第二检索结果,可以包括:
若第一更新时长小于第二更新时长,则发送第一检索结果;
若第一更新时长大于第二更新时长,则发送第二检索结果。
本实施例中,由于搜索引擎内部在实现上将所有索引数据分成了两份存储(即内存存储和硬盘存储),当一个数据检索请求到来时,极有可能在两份索引数据中同时存在同一条查询结果。此时,需要根据结果的更新时间选择最新的结果,作为最终结果返回给用户,而次新的结果将会被直接丢弃。
具体地,假设索引数据更新装置获取第一检索结果的时刻为2017年3月18日10点15分35秒,而获取第二检索结果的时刻为2017年3月17日12点38分27秒,则不难看出,获取第二检索结果的时间更长,于是,将优先发送第一检索结果。这样就可以选择更新的检索结果。反之,如果第一更新时长大于第二更新时长,则向用户发送第二检索结果。
再次,本发明实施例中,当第一检索结果与第二检索结果一致时,还可以进一步利用两者的更新时长来选择其中一个检索结果,也就是先获取第一检索结果的第一更新时长以及第二检索结果的第二更新时长,第一更新时长为获取第一检索结果的时刻到当前时刻之间的时间长度,而第二更新时长为获取第二检索结果的时刻到当前时刻之间的时间长度,最后选择更新时长较短的检索结果作为发送对象。通过上述方式,能够使得索引数据更新装置向用户提供更具有时效性的检索结果,同时,第一检索结果通常存储于内存中,若第一更新时长小于第二更新时长,则优先从内存中调用第一检索结果,而从内存中提取所需第一检索结果的时间更短,从而提升方案的可操作性以及实用性。
可选地,在上述图4对应的实施例的基础上,本发明实施例提供的索引数据更新的方法第七个可选实施例中,还可以包括:
接收数据检索请求;
根据数据检索请求从硬盘区域获取第二索引数据所对应的检索结果;
发送第二索引数据所对应的检索结果。
本实施例中,将介绍另一种利用索引数据进行数据检索的方式。首先索引数据更新装置接收用户通过客户端发起的数据检索请求,接下来,索引数据更新装置将该数据检索请求发送至硬盘区域中,这是由于很多情况下,内存区域所能存储的索引数据较为有限,因此,为了克服这个问题,我们可以将数据量较大的索引数据存储于硬盘区域中。以此,索引数据更新装置可以根据数据检索请求,直接从硬盘区域中获取第二索引数据所对应的检索结果即可,最后通过客户端向用户发送该检索数据
其次,本发明实施例中,介绍了一种数据检索的过程,该过程为先接收用户发送的数据检索请求,然后根据数据检索请求直接从硬盘区域中调取检索结果即可,该检索结果只存储于硬盘区域,而不存放于内存区域中,因此无需消耗时间和资源从内存区域中查找检索结果。通过上述方式,能够尽可能减少对内存资源的消耗,直接从硬盘区域中提取相应检索结果,由此提升方案的应用效率以及可行性。
为便于理解,下面可以以一个具体应用场景对本发明中实现数据检索的过程进行详细描述,具体为:
索引数据更新装置通过对搜索引擎进行抽象,将搜索引擎组件化之后研发的一个自助接入搜索业务的平台。使用索引数据更新装置搭建搜索引擎使得搜索功能的实现更为简单。搜索引擎的核心在于索引数据,其中,多索引数据的操作主要包括索引数据的的存储、更新以及检索等,特别是业务数据量较大时,索引数据的存储以及更新的问题显得更为突出。因此,在搜索服务的搭建过程中,如何对索引数据进行存储、更新成为一个关键的问题。下面将介绍数据检索的具体流程。
请参阅图5,图5为本发明实施例中数据检索的一个流程示意图,具体为:
步骤201中,首先索引数据更新装置接收用户通过客户端发送的数据检索请求,该请求中携带了用户想要检索的内容;
步骤202中,然后,索引数据更新装置将会根据数据检索请求,判断是否可以从内存区域中获取第一索引数据对应的第一检索结果,同时,也需要判断是否可以从硬盘区域中获取第二索引数据对应的第二检索结果,若能够同时获取到这两个检索结果,则进入步骤203,反之,则跳转至步骤204;
步骤203中,如果索引数据更新装置同时获取到第一检索结果以及第二检索结果,那么还应该从两个检索结果中选择其一作为最终的检索结果;
步骤204中,索引数据更新装置向客户端发送选择得到的检索结果。
下面对本发明中的索引数据更新装置进行详细描述,请参阅图6,索引数据更新装置包含内存区域以及硬盘区域,索引数据更新装置30包括:
第一接收模块301,用于接收索引数据更新请求;
第一更新模块302,用于根据所述第一接收模块301接收的所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据;
第二更新模块303,用于若所述第一更新模块302更新得到的所述第一索引数据满足预设索引数据更新条件,则根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据。
本实施例中,第一接收模块301接收索引数据更新请求,第一更新模块302根据所述第一接收模块301接收的所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据,若所述第一更新模块302更新得到的所述第一索引数据满足预设索引数据更新条件,则第二更新模块303根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据。
本发明实施例中,提供了一种索引数据更新装置,该索引数据更新装置包含内存区域以及硬盘区域,首先索引数据更新装置接收索引数据更新请求,然后根据索引数据更新请求对内存区域中的索引数据进行更新,并得到第一索引数据,若第一索引数据满足预设索引数据更新条件,则根据第一索引数据对硬盘区域中的索引数据进行更新,并得到第二索引数据。通过上述方法,可以对索引数据进行分级存储,即将索引数据分成第一索引数据和第二索引数据,可针对不同的索引数据类型,分别采用不同的存储方式,以此实现在实时更新第一索引数据的同时,周期性地更新第二索引数据,从而可以有效地平衡索引数据的更新,减少内存消耗以及计算资源,降低计算成本。
可选地,在上述图6所对应的实施例的基础上,请参阅图7,本发明实施例提供的索引数据更新装置30的另一实施例中,
所述索引数据更新装置30还包括:
第一获取模块304A,用于在所述第一更新模块302根据所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据之后,获取所述第一索引数据对应的数据量;
第一判断模块304B,用于判断所述第一获取模块304A获取的所述第一索引数据对应的数据量是否达到存储容量阈值,若是,则确定所述第一索引数据满足所述预设索引数据更新条件。
其次,本发明实施例中,提供了一种判断第一索引数据是否满足预设索引数据更新条件的方法,具体为先获取第一索引数据对应的数据量,然后判断该数据量是否达到了存储容量阈值,只有达到了存储容量阈值,才确定第一索引数据满足预设索引数据更新条件。通过上述方式,一方面可以设置合理的存储容量阈值,既达到充分利用内存空间的目的,又不造成内存空间的浪费,另一方面当内存中第一索引数据的数据量达到存储容量阈值时,可以自动将第一索引数据发送至硬盘,从而保证充足的内存空间。
可选地,在上述图6所对应的实施例的基础上,请参阅图8,本发明实施例提供的索引数据更新装置30的另一实施例中,
所述索引数据更新装置30还包括:
检测模块305A,用于在所述第一更新模块302根据所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据之后,检测所述第一索引数据对应的时刻值;
第二判断模块305B,用于判断所述检测模块305A检测得到的所述第一索引数据对应的时刻值是否达到目标时刻,若是,则确定所述第一索引数据满足所述预设索引数据更新条件。
其次,本发明实施例中,提供了另一种判断第一索引数据是否满足预设索引数据更新条件的方法,具体为先检测第一索引数据对应的时刻值,然后判断该时刻值是否达到目标时刻,只有达到了目标时刻,才确定第一索引数据满足预设索引数据更新条件。通过上述方式,能够在内存资源有限的情况下,利用内存空间周期性地向硬盘发送第一索引数据,使得硬盘也可以周期地进行索引数据更新,不影响内存以及硬盘中索引数据更新的效果,从而提升了方案的灵活性和实用性。
可选地,在上述图6、图7或图8所对应的实施例的基础上,请参阅图9,本发明实施例提供的索引数据更新装置30的另一实施例中,
所述第二更新模块303包括:
处理单元3031,用于对所述第一索引数据与所述硬盘区域中的索引数据进行合并处理,并得到所述第二索引数据。
再次,本发明实施例中,索引数据更新装置对硬盘区域中的索引数据进行更新,然后得到第二索引数据,这个过程可以是将内存区域中的第一索引数据添加到硬盘区域中,与硬盘区域中原本存储的索引数据共同构成第二索引数据。通过上述方式,能够完成硬盘区域中索引数据的更新,从而提升方案的可行性和可操作性,为方案的实现提供具体依据。
可选地,在上述图9所对应的实施例的基础上,请参阅图10,本发明实施例提供的索引数据更新装置30的另一实施例中,
所述索引数据更新装置30还包括:
确定模块306A,用于在所述第二更新模块303根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据之后,根据所述第二索引数据的检索频率确定第三索引数据,其中,所述第三索引数据为所述第二索引数据中的一部分索引数据;
替换模块306B,用于采用所述确定模块306A确定的所述第三索引数据替换第一索引数据,以将所述第三索引数据存储至所述内存区域。
进一步地,本发明实施例中,索引数据更新装置得到第二索引数据之后,还可以根据第二索引数据的检索频率确定第三索引数据,然后将第三索引数据同步至内存区域,使得内存区域中原本存储的第一索引数据被替换为第三索引数据。通过上述方式,在用户进行检索时,直接从内存区域中提取相应检索结果的可能性更大,通常情况下,从内存中查找信息比在硬盘中查找信息的效率更高,因此,将检索频率较高的第三索引数据存储在内存中,更有利于检索效率的提升,从而增加方案的实用性。
可选地,在上述图6所对应的实施例的基础上,请参阅图11,本发明实施例提供的索引数据更新装置30的另一实施例中,
所述索引数据更新装置30还包括:
第二接收模块307A,用于接收数据检索请求;
第二获取模块307B,用于根据所述第二接收模块307A接收的所述数据检索请求从所述内存区域中获取所述第一索引数据所对应的第一检索结果,并从所述硬盘区域获取所述第二索引数据所对应的第二检索结果;
第一发送模块307C,用于若所述第二获取模块307B获取的所述第一检索结果与所述第二检索结果一致,则发送所述第一检索结果或所述第二检索结果。
其次,本发明实施例中,介绍了一种数据检索的过程,该过程为先接收用户发送的数据检索请求,然后根据数据检索请求既可以从内存区域中获取第一索引数据所对应的第一检索结果,又可以从硬盘区域获取第二索引数据所对应的第二检索结果,如果检测到第一检索结果与第二检索结果一致,则选择其中一个检索结果即可。通过上述方式,能够得到增量索引对应的检索结果以及全量索引对应的检索结果,从而提升检索的可靠性和全面性,在实际应用在中,可以在第一检索结果与第二检索结果中选择其一进行发送,以此保证发送的检索结果不会重复,从而提升检索的合理性。
可选地,在上述图11所对应的实施例的基础上,请参阅图12,本发明实施例提供的索引数据更新装置30的另一实施例中,
所述索引数据更新装置30还包括:
第三获取模块308,用于在所述第一发送模块307C发送所述第一检索结果或所述第二检索结果之前,获取所述第一检索结果的第一更新时长以及所述第二检索结果的第二更新时长,其中,所述第一更新时长为获取所述第一检索结果的时刻到当前时刻之间的时间长度,所述第二更新时长为获取所述第二检索结果的时刻到所述当前时刻之间的时间长度;
所述第一发送模块307C包括:
第一发送单元307C1,用于若所述第一更新时长小于所述第二更新时长,则发送所述第一检索结果;
第二发送单元307C2,用于若所述第一更新时长大于所述第二更新时长,则发送所述第二检索结果。
再次,本发明实施例中,当第一检索结果与第二检索结果一致时,还可以进一步利用两者的更新时长来选择其中一个检索结果,也就是先获取第一检索结果的第一更新时长以及第二检索结果的第二更新时长,第一更新时长为获取第一检索结果的时刻到当前时刻之间的时间长度,而第二更新时长为获取第二检索结果的时刻到当前时刻之间的时间长度,最后选择更新时长较短的检索结果作为发送对象。通过上述方式,能够使得索引数据更新装置向用户提供更具有时效性的检索结果,同时,第一检索结果通常存储于内存中,若第一更新时长小于第二更新时长,则优先从内存中调用第一检索结果,而从内存中提取所需第一检索结果的时间更短,从而提升方案的可操作性以及实用性。
可选地,在上述图6所对应的实施例的基础上,请参阅图13,本发明实施例提供的索引数据更新装置30的另一实施例中,
所述索引数据更新装置30还包括:
第三接收模块309A,用于接收数据检索请求;
第四获取模块309B,用于根据所述第三接收模块309A接收的所述数据检索请求从所述硬盘区域获取所述第二索引数据所对应的检索结果;
第二发送模块309C,用于发送所述第四获取模块309B获取的所述第二索引数据所对应的检索结果。
其次,本发明实施例中,介绍了一种数据检索的过程,该过程为先接收用户发送的数据检索请求,然后根据数据检索请求直接从硬盘区域中调取检索结果即可,该检索结果只存储于硬盘区域,而不存放于内存区域中,因此无需消耗时间和资源从内存区域中查找检索结果。通过上述方式,能够尽可能减少对内存资源的消耗,直接从硬盘区域中提取相应检索结果,由此提升方案的应用效率以及可行性。
图14是本发明实施例提供的一种索引数据更新装置结构示意图,该索引数据更新装置400可因配置或性能不同而产生比较大的差异,可以包括一个或一个以***处理器(central processing units,CPU)422(例如,一个或一个以上处理器)和存储器432,一个或一个以上存储应用程序442或数据444的存储介质430(例如一个或一个以上海量存储设备)。其中,存储器432和存储介质430可以是短暂存储或持久存储。存储在存储介质430的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器中的一系列指令操作。更进一步地,中央处理器422可以设置为与存储介质430通信,索引数据更新装置400上执行存储介质430中的一系列指令操作。
索引数据更新装置400还可以包括一个或一个以上电源426,一个或一个以上有线或无线网络接口450,一个或一个以上输入输出接口458,和/或,一个或一个以上操作***441,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM等等。
上述实施例中由服务器所执行的步骤可以基于该图14所示的服务器结构。
其中,中央处理器422可用于执行如下步骤:
接收索引数据更新请求;
根据所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据;
若所述第一索引数据满足预设索引数据更新条件,则根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据。
中央处理器422还可用于执行如下步骤:
获取所述第一索引数据对应的数据量;
判断所述第一索引数据对应的数据量是否达到存储容量阈值,若是,则确定所述第一索引数据满足所述预设索引数据更新条件。
中央处理器422还可用于执行如下步骤:
检测所述第一索引数据对应的时刻值;
判断所述第一索引数据对应的时刻值是否达到目标时刻,若是,则确定所述第一索引数据满足所述预设索引数据更新条件。
中央处理器422具体用于执行如下步骤:
对所述第一索引数据与所述硬盘区域中的索引数据进行合并处理,并得到所述第二索引数据。
中央处理器422还可用于执行如下步骤:
根据所述第二索引数据的检索频率确定第三索引数据,其中,所述第三索引数据为所述第二索引数据中的一部分索引数据;
采用所述第三索引数据替换第一索引数据,以将所述第三索引数据存储至所述内存区域。
中央处理器422还可用于执行如下步骤:
接收数据检索请求;
根据所述数据检索请求从所述内存区域中获取所述第一索引数据所对应的第一检索结果,并从所述硬盘区域获取所述第二索引数据所对应的第二检索结果;
若所述第一检索结果与所述第二检索结果一致,则发送所述第一检索结果或所述第二检索结果。
中央处理器422还可用于执行如下步骤:
获取所述第一检索结果的第一更新时长以及所述第二检索结果的第二更新时长,其中,所述第一更新时长为获取所述第一检索结果的时刻到当前时刻之间的时间长度,所述第二更新时长为获取所述第二检索结果的时刻到所述当前时刻之间的时间长度;
中央处理器422具体用于执行如下步骤:
若所述第一更新时长小于所述第二更新时长,则发送所述第一检索结果;
若所述第一更新时长大于所述第二更新时长,则发送所述第二检索结果。
中央处理器422还可用于执行如下步骤:
接收数据检索请求;
根据所述数据检索请求从所述硬盘区域获取所述第二索引数据所对应的检索结果;
发送所述第二索引数据所对应的检索结果。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的***,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的***,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (12)

1.一种索引数据更新的方法,其特征在于,所述方法应用于索引数据更新装置,所述索引数据更新装置包含内存区域以及硬盘区域,所述方法包括:
接收索引数据更新请求;
根据所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据;
若所述第一索引数据满足预设索引数据更新条件,则根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据;
接收数据检索请求;
根据所述数据检索请求从所述内存区域中获取所述第一索引数据所对应的第一检索结果,并从所述硬盘区域获取所述第二索引数据所对应的第二检索结果;
若所述第一检索结果与所述第二检索结果一致,则获取所述第一检索结果的第一更新时长以及所述第二检索结果的第二更新时长,其中,所述第一更新时长为获取所述第一检索结果的时刻到当前时刻之间的时间长度,所述第二更新时长为获取所述第二检索结果的时刻到所述当前时刻之间的时间长度;
若所述第一更新时长小于所述第二更新时长,则发送所述第一检索结果;
若所述第一更新时长大于所述第二更新时长,则发送所述第二检索结果。
2.根据权利要求1所述的方法,其特征在于,所述根据所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据之后,所述方法还包括:
获取所述第一索引数据对应的数据量;
判断所述第一索引数据对应的数据量是否达到存储容量阈值,若是,则确定所述第一索引数据满足所述预设索引数据更新条件。
3.根据权利要求1所述的方法,其特征在于,所述根据所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据之后,所述方法还包括:
检测所述第一索引数据对应的时刻值;
判断所述第一索引数据对应的时刻值是否达到目标时刻,若是,则确定所述第一索引数据满足所述预设索引数据更新条件。
4.根据权利要求1至3中任一项所述的方法,其特征在于,所述根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据,包括:
对所述第一索引数据与所述硬盘区域中的索引数据进行合并处理,并得到所述第二索引数据。
5.根据权利要求4所述的方法,其特征在于,所述根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据之后,所述方法还包括:
根据所述第二索引数据的检索频率确定第三索引数据,其中,所述第三索引数据为所述第二索引数据中的一部分索引数据;
采用所述第三索引数据替换第一索引数据,以将所述第三索引数据存储至所述内存区域。
6.一种索引数据更新装置,其特征在于,所述索引数据更新装置包含内存区域以及硬盘区域,所述索引数据更新装置包括:
第一接收模块,用于接收索引数据更新请求;
第一更新模块,用于根据所述第一接收模块接收的所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据;
第二更新模块,用于若所述第一更新模块更新得到的所述第一索引数据满足预设索引数据更新条件,则根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据;
第二接收模块,用于接收数据检索请求;
第二获取模块,用于根据所述第二接收模块接收的所述数据检索请求从所述内存区域中获取所述第一索引数据所对应的第一检索结果,并从所述硬盘区域获取所述第二索引数据所对应的第二检索结果;
第三获取模块,用于若所述第二获取模块获取的所述第一检索结果与所述第二检索结果一致,则获取所述第一检索结果的第一更新时长以及所述第二检索结果的第二更新时长,其中,所述第一更新时长为获取所述第一检索结果的时刻到当前时刻之间的时间长度,所述第二更新时长为获取所述第二检索结果的时刻到所述当前时刻之间的时间长度;
第一发送单元,用于若所述第一更新时长小于所述第二更新时长,则发送所述第一检索结果;
第二发送单元,用于若所述第一更新时长大于所述第二更新时长,则发送所述第二检索结果。
7.根据权利要求6所述的索引数据更新装置,其特征在于,所述索引数据更新装置还包括:
第一获取模块,用于在所述第一更新模块根据所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据之后,获取所述第一索引数据对应的数据量;
第一判断模块,用于判断所述第一获取模块获取的所述第一索引数据对应的数据量是否达到存储容量阈值,若是,则确定所述第一索引数据满足所述预设索引数据更新条件。
8.根据权利要求6所述的索引数据更新装置,其特征在于,所述索引数据更新装置还包括:
检测模块,用于在所述第一更新模块根据所述索引数据更新请求对所述内存区域中的索引数据进行更新,并得到第一索引数据之后,检测所述第一索引数据对应的时刻值;
第二判断模块,用于判断所述检测模块检测得到的所述第一索引数据对应的时刻值是否达到目标时刻,若是,则确定所述第一索引数据满足所述预设索引数据更新条件。
9.根据权利要求6至8中任一项所述的索引数据更新装置,其特征在于,所述第二更新模块包括:
处理单元,用于对所述第一索引数据与所述硬盘区域中的索引数据进行合并处理,并得到所述第二索引数据。
10.根据权利要求9所述的索引数据更新装置,其特征在于,所述索引数据更新装置还包括:
确定模块,用于在所述第二更新模块根据所述第一索引数据对所述硬盘区域中的索引数据进行更新,并得到第二索引数据之后,根据所述第二索引数据的检索频率确定第三索引数据,其中,所述第三索引数据为所述第二索引数据中的一部分索引数据;
替换模块,用于采用所述确定模块确定的所述第三索引数据替换第一索引数据,以将所述第三索引数据存储至所述内存区域。
11.一种服务器,其特征在于,包括存储器和处理器;
所述存储器中存储有程序;
所述处理器用于执行所述程序,以实现如权利要求1~5任一项所述的索引数据更新的方法。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有程序,所述程序在被计算机设备执行时,实现如权利要求1~5任一项所述的索引数据更新的方法。
CN201710225105.0A 2017-04-07 2017-04-07 一种索引数据更新的方法以及相关装置 Active CN108694188B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710225105.0A CN108694188B (zh) 2017-04-07 2017-04-07 一种索引数据更新的方法以及相关装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710225105.0A CN108694188B (zh) 2017-04-07 2017-04-07 一种索引数据更新的方法以及相关装置

Publications (2)

Publication Number Publication Date
CN108694188A CN108694188A (zh) 2018-10-23
CN108694188B true CN108694188B (zh) 2023-05-12

Family

ID=63842129

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710225105.0A Active CN108694188B (zh) 2017-04-07 2017-04-07 一种索引数据更新的方法以及相关装置

Country Status (1)

Country Link
CN (1) CN108694188B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110737747A (zh) * 2019-09-12 2020-01-31 苏宁云计算有限公司 一种数据操作方法、装置及***
CN112069175B (zh) * 2020-08-25 2024-03-29 北京五八信息技术有限公司 数据查询的方法、装置及电子设备
CN112115154A (zh) * 2020-09-27 2020-12-22 北京有竹居网络技术有限公司 数据处理和数据查询方法、装置、设备和计算机可读介质
CN113076456A (zh) * 2021-03-25 2021-07-06 咪咕文化科技有限公司 一种数据搜索处理方法、装置、电子设备和存储介质
CN113449155B (zh) * 2021-07-16 2024-02-27 百度在线网络技术(北京)有限公司 用于特征表示处理的方法、装置、设备和介质
US20240054102A1 (en) * 2022-08-12 2024-02-15 Google Llc Scalable and Cost-Efficient Information Retrieval Architecture for Massive Datasets

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102081625A (zh) * 2009-11-30 2011-06-01 ***通信集团北京有限公司 一种数据查询的方法及查询服务器

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101295323B (zh) * 2008-06-30 2011-11-02 腾讯科技(深圳)有限公司 一种用于索引更新的处理方法和***
US9262526B2 (en) * 2010-01-28 2016-02-16 Karl Muth System and method for compiling search results using information regarding length of time users spend interacting with individual search results
CN102169507B (zh) * 2011-05-26 2013-03-20 厦门雅迅网络股份有限公司 一种分布式实时搜索引擎的实现方法
CN102339315B (zh) * 2011-09-30 2014-11-19 亿赞普(北京)科技有限公司 一种广告数据的索引更新方法和***
CN103473229A (zh) * 2012-06-06 2013-12-25 深圳市世纪光速信息技术有限公司 一种内存检索***和方法、以及实时检索***和方法
CN103942289B (zh) * 2014-04-12 2017-01-25 广西师范大学 一种Hadoop上面向范围查询的内存缓存方法
CN104021223B (zh) * 2014-06-25 2017-07-25 国家电网公司 一种集群数据库测点的访问方法及装置
CN104199892B (zh) * 2014-08-26 2018-01-30 上海爱数信息技术股份有限公司 一种基于压缩合并异步更新的索引读写方法
CN104537112B (zh) * 2015-01-20 2017-07-14 成都携恩科技有限公司 一种安全云计算的方法
CN104899249B (zh) * 2015-05-04 2018-07-13 中国科学院信息工程研究所 一种海量数据下可靠索引更新***及方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102081625A (zh) * 2009-11-30 2011-06-01 ***通信集团北京有限公司 一种数据查询的方法及查询服务器

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
An integrated system for building enterprise taxonomies;Li Zhang 等;Information Retrieval;第10卷;1-55 *
一种基于共享执行策略的间隔查询优化技术;周新 等;软件学报;第27卷(第12期);3067-3084 *

Also Published As

Publication number Publication date
CN108694188A (zh) 2018-10-23

Similar Documents

Publication Publication Date Title
CN108694188B (zh) 一种索引数据更新的方法以及相关装置
CN105447075B (zh) 用于动态划分的计算机实现方法
CN108304444B (zh) 信息查询方法及装置
CN110704453B (zh) 一种数据查询方法、装置、存储介质及电子设备
CN102667761B (zh) 可扩展的集群数据库
US8126997B2 (en) Hot data management method based on hit counter
JP5494454B2 (ja) 検索結果生成方法、検索結果生成プログラムおよび検索システム
CN104301360A (zh) 一种日志数据记录的方法、日志服务器及***
KR20080106194A (ko) 쿼리의 일부에 기초하는 캐시된 쿼리 결과들의 제공 방법, 쿼리 시스템 및 쿼리 구축 방법
US9195745B2 (en) Dynamic query master agent for query execution
CN110347651A (zh) 基于云存储的数据同步方法、装置、设备及存储介质
RU2733482C2 (ru) Способ и система для обновления базы данных поискового индекса
JP2008305225A (ja) 制御計算機、計算機システム及びアクセス制御方法
CN110399348A (zh) 文件重删方法、装置、***及计算机可读存储介质
CN107391600A (zh) 用于在内存中存取时序数据的方法和装置
CN111651424B (zh) 一种数据处理方法、装置、数据节点及存储介质
CN108319634B (zh) 分布式文件***的目录访问方法和装置
CN111159130A (zh) 一种小文件合并方法及电子设备
CN113568940A (zh) 数据查询的方法、装置、设备以及存储介质
CN114610680A (zh) 分布式文件***元数据管理方法、装置、设备及存储介质
US8996512B2 (en) Search engine optimization using a find operation
CN102129454A (zh) 一种基于云存储的百科数据处理方法及***
Hou et al. Pacaca: mining object correlations and parallelism for enhancing user experience with cloud storage
CN109669814A (zh) 一种元数据服务的恢复方法、装置、设备及可读存储介质
CN115129789A (zh) 一种分布式对象存储***的桶索引存储方法、装置及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant