CN115391581A - 索引创建、图像存储、图像检索方法、装置及电子设备 - Google Patents
索引创建、图像存储、图像检索方法、装置及电子设备 Download PDFInfo
- Publication number
- CN115391581A CN115391581A CN202211124585.9A CN202211124585A CN115391581A CN 115391581 A CN115391581 A CN 115391581A CN 202211124585 A CN202211124585 A CN 202211124585A CN 115391581 A CN115391581 A CN 115391581A
- Authority
- CN
- China
- Prior art keywords
- image
- storage
- retrieved
- target
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 133
- 239000012634 fragment Substances 0.000 claims abstract description 250
- 230000004044 response Effects 0.000 claims description 44
- 238000004891 communication Methods 0.000 claims description 34
- 238000004590 computer program Methods 0.000 claims description 26
- 238000004422 calculation algorithm Methods 0.000 claims description 6
- 238000007726 management method Methods 0.000 description 91
- 238000005192 partition Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 238000013467 fragmentation Methods 0.000 description 3
- 238000006062 fragmentation reaction Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/51—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/53—Querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/53—Querying
- G06F16/538—Presentation of query results
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例提供了索引创建、图像存储、图像检索方法、装置及电子设备,涉及图像检索技术领域。该索引创建方法包括:基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量;向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片。与现有技术相比,应用本发明实施例提供的方案,可以提高图像存储和图像检索的效率。
Description
技术领域
本发明涉及图像检索技术领域,特别是涉及索引创建、图像存储、图像检索方法、装置及电子设备。
背景技术
当前,随着图像检索技术的快速发展,人们可以通过对待识别对象的图像进行图像检索,获取关于待识别对象的信息,例如,利用人脸检索对待识别对象进行身份认证、利用人脸检索对目标对象的活动轨迹进行查询等。因此,图像检索在人员管理、视频监控等领域中有着重要的应用。
相关技术中,利用单服务器架构对人脸进行检索。然而,上述技术只适用于在内存不紧张、涉及的人脸数据量有限的情况。随着人脸存储的数据量增加,以及人脸检索需求的增加,利用上述技术方案对人脸进行存储和检索,可能会出现服务器需要处理的人脸存储和人脸检索的任务数量超过该服务器的处理上限,使得服务器的处理速度降低,导致人脸检索和人脸存储的效率较低。
发明内容
本发明实施例的目的在于提供索引创建、图像存储、图像检索方法、装置及电子设备,以实现提高图像存储和图像检索的效率。具体技术方案如下:
第一方面,本发明实施例提供了一种索引创建方法,所述方法包括:
基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量;
向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片。
可选的,一种具体实现方式中,所述方法还包括:
基于所述第二数量和预设的每个存储分片所关联的备份分片的第三数量,确定所述ES集群中的每个存储节点对应的备份分片;
所述向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片,包括:
向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片和备份分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片和备份分片。
可选的,一种具体实现方式中,所述基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,包括:
若所述第二数量满足预设条件,则确定所述ES集群中的每个存储节点对应的存储分片。
可选的,一种具体实现方式中,所述基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量,包括:
利用第一公式,确定用于存储指定应用场景中的图像的存储分片的第二数量;其中,所述第一公式为:
P=Y*n/(r+1);
其中,P为所述第二数量,r为每个存储分片所关联的备份分片的数量,n为所述第一数量,Y为固定常量。
可选的,一种具体实现方式中,所述若所述第二数量满足预设条件,则确定所述ES集群中的每个存储节点对应的存储分片,包括:
若所述第二数量满足第二公式,则确定所述ES集群中的每个存储节点对应的存储分片;其中,所述第二公式为:
P*(r+1)%n=0。
第二方面,本发明实施例提供了一种图像存储方法,应用于ES集群中的管理节点,所述方法包括:
获取图像存储请求;其中,所述图像存储请求包括待存储图像、所述待存储图像的图像特征和所述待存储图像所属目标应用场景的目标场景标识;
确定所述目标场景标识对应的目标索引;其中,所述目标索引是根据第一方面提供的一种的索引创建方法构建的;
生成所述待存储图像的图像标识,并基于所述图像标识,在所述目标索引对应的各个存储分片中,确定用于响应所述图像存储请求的目标存储分片;
将所述图像存储请求和所述图像标识发送至所述目标存储分片所属的目标节点,以使所述目标节点在所述目标存储分片中,对应存储所述待存储图像、所述图像特征和所述图像标识。
可选的,一种具体实现方式中,每个存储分片关联有至少一个备份分片,所述方法还包括:
将所述图像存储请求和所述图像标识发送至所述目标存储分片所关联的目标备份分片所属的目标备份节点,以使所述目标备份节点在所述目标备份分片中对应存储所述待存储图像、所述图像特征和所述图像标识;
其中,针对每个存储分片,该存储分片和该存储分片所关联的至少一个备份分片分别属于不同的存储节点。
可选的,一种具体实现方式中,所述基于所述图像标识,在所述目标索引对应的各个存储分片中,确定用于响应所述图像存储请求的目标存储分片,包括:
利用第三公式,确定用于响应所述图像存储请求的目标存储分片;其中,所述第三公式表示为:
Px=hash(ID)%P
其中,Px为所述目标存储分片的分片标识,ID为所述图像标识,hash(ID)为利用散列算法确定的所述ID的哈希值,P为所述目标索引对应的各个存储分片的数量。
第三方面,本发明实施例提供了一种图像存储方法,应用于ES集群中的管理节点,所述方法包括:
获取图像检索请求;其中,所述图像检索请求包括待检索图像的待检索图像特征、所述待检索图像所属待检索应用场景的待检索场景标识;
确定所述待检索场景标识对应的待检索索引;其中,所述待检索索引是根据第一方面提供的一种的索引创建方法构建的;
将所述图像检索请求发送至所述待检索索引对应的各个待检索存储分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所述各个待检索节点所包括的所述待检索存储分片中进行图像检索,并将所得到的检索结果反馈给所述管理节点;
获取各个待检索节点反馈的检索结果,并基于所获取到的各个检索结果确定所述图像检索请求的目标响应结果。
可选的,一种具体实现方式中,所述根据所述待检索图像的图像特征,在所述各个待检索节点所包括的所述待检索存储分片中进行图像检索,包括:
针对各个待检索节点所包括的每个待检索存储分片,计算所述待检索图像的图像特征与该待检索存储分片中的每个图像的图像特征的特征相似度,得到关于该待检索节点的检索结果。
可选的,一种具体实现方式中,每个待检索节点反馈的检索结果包括:
包括多个条目的优先级队列;其中,所述各个条目按照所包括的所述特征相似度由高到低的顺序排列,每个条目对应于该待检索节点所包括所述待检索存储分片中的一个图像,且每一条目包括:该条目所对应图像、该条目所对应图像的图像特征与所述待检索图像的图像特征的特征相似度,以及该条目所对应图像的图像标识。
可选的,一种具体实现方式中,所述基于所获取到的各个检索结果确定所述图像检索请求的目标响应结果,包括:
按照所包括的特征相似度由高到低的顺序,排列所获取到的各个检索结果中的各个条目,并将排列在预设位置之前的各个条目中所包括的图像确定为所述图像检索请求的目标响应结果。
可选的,一种具体实现方式中,所述方法还包括:
在预设信息存储空间中,获取所述目标响应结果中的各个目标图像所关联的附加信息。
可选的,一种具体实现方式中,所述方法还包括:
输出所述目标响应结果。
可选的,一种具体实现方式中,每个待检索存储分片关联有至少一个待检索备份分片;
在获取到多个包括所述待检索场景标识的图像检索请求的情况下,所述将所述图像检索请求发送至所述待检索索引对应的各个待检索存储分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所包括所述待检索存储分片中进行图像检索,包括:
从第一个图像检索请求开始,按照预设的轮询顺序,将每个图像检索请求依次发送至所述待检索索引对应的一组目标分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所包括所述目标分片中进行图像检索;
其中,每组目标分片包括:全部待检索存储分片,或者,全部待检索存储分片分别所关联的一个待检索备份分片。
第四方面,本发明实施例提供了一种索引创建装置,所述装置包括:
第二数量确定模块,用于基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量;
索引创建模块,用于向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片。
可选的,一种具体实现方式中,所述装置还包括:
备份分片模块,用于基于所述第二数量和预设的每个存储分片所关联的备份分片的第三数量,确定所述ES集群中的每个存储节点对应的备份分片;
所述索引创建模块具体用于:
向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片和备份分片。
可选的,一种具体实现方式中,所述索引创建模块具体用于:
若所述第二数量满足预设条件,则确定所述ES集群中的每个存储节点对应的存储分片。
可选的,一种具体实现方式中,所述第二数量确定模块具体用于:
利用第一公式,确定用于存储指定应用场景中的图像的存储分片的第二数量;其中,所述第一公式为:
P=Y*n/(r+1);
其中,P为所述第二数量,r为每个存储分片所关联的备份分片的数量,n为所述第一数量,Y为固定常量。
可选的,一种具体实现方式中,所述索引创建模块具体用于:
若所述第二数量满足第二公式,则确定所述ES集群中的每个存储节点对应的存储分片;其中,所述第二公式为:
P*(r+1)%n=0。
第五方面,本发明实施例提供了图像存储装置,应用于ES集群中的管理节点,所述装置包括:
图像存储请求模块,用于获取图像存储请求;其中,所述图像存储请求包括待存储图像、所述待存储图像的图像特征和所述待存储图像所属目标应用场景的目标场景标识;
目标索引确定模块,用于确定所述目标场景标识对应的目标索引;其中,所述目标索引是根据第一方面提供的一种的索引创建方法构建的;
目标存储分片确定模块,用于生成所述待存储图像的图像标识,并基于所述图像标识,在所述目标索引对应的各个存储分片中,确定用于响应所述图像存储请求的目标存储分片;
目标存储分片存储模块,用于将所述图像存储请求和所述图像标识发送至所述目标存储分片所属的目标节点,以使所述目标节点在所述目标存储分片中,对应存储所述待存储图像、所述图像特征和所述图像标识。
可选的,一种具体实现方式中,每个存储分片关联有至少一个备份分片,所述装置还包括:
备份分片存储模块,用于将所述图像存储请求和所述图像标识发送至所述目标存储分片所关联的目标备份分片所属的目标备份节点,以使所述目标备份节点在所述目标备份分片中对应存储所述待存储图像、所述图像特征和所述图像标识;
其中,针对每个存储分片,该存储分片和该存储分片所关联的至少一个备份分片分别属于不同的存储节点。
可选的,一种具体实现方式中,所述目标存储分片确定模块具体用于:
利用第三公式,确定用于响应所述图像存储请求的目标存储分片;其中,所述第三公式表示为:
Px=hash(ID)%P
其中,Px为所述目标存储分片的分片标识,ID为所述图像标识,hash(ID)为利用散列算法确定的所述ID的哈希值,P为所述目标索引对应的各个存储分片的数量。
第六方面,本发明实施例提供了一种图像检索装置,应用于ES集群中的管理节点,所述装置包括:
图像检索请求模块,用于获取图像检索请求;其中,所述图像检索请求包括待检索图像的待检索图像特征、所述待检索图像所属待检索应用场景的待检索场景标识;
待检索索引确定模块,用于确定所述待检索场景标识对应的待检索索引;其中,所述待检索索引是根据第一方面提供的一种的索引创建方法构建的;
检索结果获取模块,用于将所述图像检索请求发送至所述待检索索引对应的各个待检索存储分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所述各个待检索节点所包括的所述待检索存储分片中进行图像检索,并将所得到的检索结果反馈给所述管理节点;
目标响应结果获取模块,用于获取各个待检索节点反馈的检索结果,并基于所获取到的各个检索结果确定所述图像检索请求的目标响应结果。
可选的,一种具体实现方式中,所述检索结果获取模块具体用于:
针对各个待检索节点所包括的每个待检索存储分片,计算所述待检索图像的图像特征与该待检索存储分片中的每个图像的图像特征的特征相似度,得到关于该待检索节点的检索结果。
可选的,一种具体实现方式中,每个待检索节点反馈的检索结果包括:
包括多个条目的优先级队列;其中,所述各个条目按照所包括的所述特征相似度由高到低的顺序排列,每个条目对应于该待检索节点所包括所述待检索存储分片中的一个图像,且每一条目包括:该条目所对应图像、该条目所对应图像的图像特征与所述待检索图像的图像特征的特征相似度,以及该条目所对应图像的图像标识。
可选的,一种具体实现方式中,所述目标响应结果获取模块具体用于:
按照所包括的特征相似度由高到低的顺序,排列所获取到的各个检索结果中的各个条目,并将排列在预设位置之前的各个条目中所包括的图像确定为所述图像检索请求的目标响应结果。
可选的,一种具体实现方式中,所述装置还包括:
附加信息获取模块,用于在预设信息存储空间中,获取所述目标响应结果中的各个目标图像所关联的附加信息。
可选的,一种具体实现方式中,所述装置还包括:
输出模块,用于输出所述目标响应结果。
可选的,一种具体实现方式中,每个待检索存储分片关联有至少一个待检索备份分片;
在获取到多个包括所述待检索场景标识的图像检索请求的情况下,所述检索结果获取模块具体用于:
从第一个图像检索请求开始,按照预设的轮询顺序,将每个图像检索请求依次发送至所述待检索索引对应的一组目标分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所包括所述目标分片中进行图像检索;
其中,每组目标分片包括:全部待检索存储分片,或者,全部待检索存储分片分别所关联的一个待检索备份分片。
第七方面,本发明实施例提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述第一方面提供的任一索引创建方法的步骤。
第八方面,本发明实施例提供了一种计算机可读介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面提供的任一索引创建方法的步骤。
第九方面,本发明实施例提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述第二方面提供的任一图像存储方法的步骤,和/或,第三方面提供的任一图像检索方法的步骤。
第十方面,本发明实施例提供了一种计算机可读介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述第二方面提供的任一图像存储方法的步骤和/或,第三方面提供的任一图像检索方法的步骤。
第十一方面,本发明实施例提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述第一方面提供的任一索引创建方法的步骤。
第十二方面,本发明实施例提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述第二方面提供的任一图像存储方法的步骤,和/或,第三方面提供的任一图像检索方法的步骤。
本发明实施例有益效果:
以上可见,应用本发明实施例提供的方案,在基于ES(Elastic Search,简称ES,用于分布式全文检索)构建索引时,首先,可以基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量,从而,可以向上述ES集群中的管理节点发送携带有上述第二数量的索引创建请求,以使得上述管理节点在接收到上述索引创建请求后,基于上述第二数量,确定上述ES集群中的每个存储节点对应的存储分片,并创建上述指定应用场景对应的指定索引,并在各个存储节点中创建上述指定索引对应的存储分片。
基于此,应用本发明实施例提供的方案,可以通过向ES集群中的管理节点发送携带有用于存储指定应用场景中的图像的存储分片的第二数量的索引创建请求,以使得上述管理节点基于上述索引创建请求,创建指定应用场景对应的指定索引,并在各个存储节点中创建上述指定索引对应的存储分片,从而,在进行图像存储和图像检索时,可以通过所构建的索引进行存储和检索,进而,提高图像存储和图像检索的效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,还可以根据这些附图获得其他的实施例。
图1为本发明实施例提供的一种索引创建方法的流程示意图;
图2为本发明实施例提供的另一种索引创建方法的流程示意图;
图3为本发明实施例提供的一种图像存储方法的流程示意图;
图4为本发明实施例提供的另一种图像存储方法的流程示意图;
图5为本发明实施例提供的一种图像检索方法的流程示意图;
图6为本发明实施例的一种具体实施例的流程示意图;
图7为本发明实施例提供的一种索引创建装置的结构示意图;
图8为本发明实施例提供的一种图像存储装置的结构示意图;
图9为本发明实施例提供的一种图像检索装置的结构示意图;
图10为本发明实施例提供的一种电子设备的结构示意图;
图11为本发明实施例提供的另一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员基于本申请所获得的所有其他实施例,都属于本发明保护的范围。
相关技术中,利用单服务器架构对人脸进行检索。然而,上述技术只适用于在内存不紧张、涉及的人脸数据量有限的情况。随着人脸存储的数据量增加,以及人脸检索需求的增加,利用上述技术方案对人脸进行存储和检索,可能会出现服务器需要处理的人脸存储和人脸检索的任务数量超过该服务器的处理上限,使得服务器的处理速度降低,导致人脸检索和人脸存储的效率较低。
为了解决上述技术问题,本发明实施例提供了一种索引创建方法。
其中,本方法可以适用于各种关于数据存储和数据检索的应用场景,例如,利用人脸图像检索、人脸图像存储等。并且,该方法可以应用于笔记本电脑、平板电脑、台式电脑等各类电子设备中,以下简称电子设备,其中,电子设备可以通过运行所安装的用于执行该方法客户端执行该方法,也可以通过运行所安装的用于执行该方法的功能模块执行该方法。基于此,本发明实施例不对该方法的应用场景和执行主体进行限定。
本发明实施例提供的一种索引创建方法,可以包括如下步骤:
基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量;
向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片。
以上可见,应用本发明实施例提供的方案,在基于ES构建索引时,首先,可以基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量,从而,可以向上述ES集群中的管理节点发送携带有上述第二数量的索引创建请求,以使得上述管理节点在接收到上述索引创建请求后,基于上述第二数量,确定上述ES集群中的每个存储节点对应的存储分片,并创建上述指定应用场景对应的指定索引,并在各个存储节点中创建上述指定索引对应的存储分片。
基于此,应用本发明实施例提供的方案,可以通过向ES集群中的管理节点发送携带有用于存储指定应用场景中的图像的存储分片的第二数量的索引创建请求,以使得上述管理节点基于上述索引创建请求,创建指定应用场景对应的指定索引,并在各个存储节点中创建上述指定索引对应的存储分片,从而,在进行图像存储和图像检索时,可以通过所构建的索引进行存储和检索,进而,提高图像存储和图像检索的效率。
下面,结合附图,对本发明实施例提供的一种索引创建方法进行具体说明。
图1为本发明实施例提供的一种索引创建方法的流程示意图,如图1所示,该方法包括如下步骤S101-S102:
S101:基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量。
在利用基于ES的索引进行存储或者检索前,可以预先构建基于ES的索引。因此,可以预先建立ES集群,其中,ES集群中包括有多个存储节点。
所谓ES集群,是一个P2P(peer-to-peer,对等网络)类型(使用gossip协议)的分布式***,除了集群状态管理以外,其他所有的请求都可以发送到集群内任意一个节点上,这个节点可以自己找到需要转发给哪些节点,并且直接跟这些节点通信。
所谓P2P是指在P2P体系下客户端可以直接通信,通信的双方称为对等方。而对等方之间可以共享资源,如文件等。
由于,在ES集群的存储节点的数量是已知的,因此,电子设备在接收到索引创建请求后,便可以将上述ES集群中的存储节点的数量确定为第一数量,并基于上述第一数量,确定上述用于存储指定应用场景中的图像的存储分片的第二数量。
S102:向ES集群中的管理节点发送携带有第二数量的索引创建请求,以使管理节点在接收到索引创建请求后,基于第二数量,确定ES集群中的每个存储节点对应的存储分片,并创建指定应用场景对应的指定索引,并在各个存储节点中创建指定索引对应的存储分片。
在确定上述ES集群中用于存储指定应用场景中的图像的存储分片的第二数量后,便可以向上述ES集群中的管理节点发送携带有第二数量的索引创建请求,从而,可以使得上述管理节点在接收到上述请求后,基于所得到的上述ES集群中的存储分片的第二数量,确定上述ES集群中的每个存储节点对应的存储分片。
其中,为了均衡ES集群中的各个存储节点所存储的数据,可以将上述所确定的第二数量个存储分片,分散分配给各个存储节点。
可选的,当上述ES集群中的存储分片的第二数量小于ES集群中的存储节点的第一数量时,可以在ES集群中的各个存储节点中选择第二数量个存储节点,从而,为每个存储节点分配一个存储分片;
当上述ES集群中的存储分片的第二数量是ES集群中的存储节点的第一数量的整数倍时,可以将各个存储分片均匀分配给各个存储分片。
这样,上述管理节点便可以针对指定应用场景创建对应的指定索引,并在各个存储节点中创建上述指定索引对应的存储分片。
也就是说,电子设备可以向ES集群中的任一存储节点发送携带有用于存储指定应用场景中的图像的存储分片的第二数量的索引创建请求,然后,该存储节点便可以将上述请求转发至ES集群中的管理节点,以使管理节点在接收到上述携带有第二数量的索引创建请求后,便可以基于上述第二数量,确定ES集群中的每个存储节点对应的存储分片,并按照ES集群中各个存储节点的资源信息,例如,内存剩余、磁盘剩余、已有分片数量等。从而,可以将上述索引创建请求转发至对应的存储节点中,以及该存储节点在接收到上述请求后,针对指定应用场景创建对应的指定索引,并在该存储节点中创建上述指定索引对应的存储分片。
例如,ES集群中的管理节点为:节点A,ES集群中用于存储指定应用场景中的图像的存储分片的第二数量为2,包括存储节点B和存储节点C。
电子设备向上述ES集群中的节点A发送携带有第二数量的索引创建请求,以使的上述节点A在接收到上述索引创建请求后,便可以基于上述第二数量,确定ES集群中的存储节点B对应的存储分片为:存储分片b1,存储节点C对应的存储分片为:存储分片c1,并基于存储分片b1对应的指定应用场景:十字路口,创建关于十字路口对应的指定索引1,以及基于存储分片c1对应的指定应用场景:商铺门口,创建关于商铺门口对应的指定索引2,并在存储节点B中创建指定索引1对应的存储分片b1,在存储节点C中创建指定索引2对应的存储分片c1。
此外,可选的,ES集群可以是一个去中心化的集群,即ES集群中没有特定的管理节点。,从而,在ES集群中的任一存储节点都可以在作为管理节点的同时,作为具有数据存储和数据检索的功能节点。
因此,可选的,电子设备可以向ES集群中的任一存储节点发送携带有第二数量的索引创建请求,以使任一存储节点在接收到上述索引创建请求后,基于上述第二数量,确定上述ES集群中的每个存储节点对应的存储分片,并创建指定应用常用对应的指定索引,并在各个存储节点中创建指定索引对应的存储分片。
例如,ES集群中用于存储指定应用场景中的图像的存储分片的第二数量为2,包括存储节点B和存储节点C。
因此,电子设备便可以在向上述ES集群中的存储节点B和存储节点C中的任一存储节点发送携带有用于存储指定应用场景中的图像的存储分片的第二数量的索引创建请求后,基于上述第二数量,确定ES集群中的存储节点B对应的存储分片为:存储分片b1,存储节点C对应的存储分片为:存储分片c1。
若电子设备向上述ES集群中的存储节点B发送携带有第二数量的索引创建请求,则上述存储节点B在接收到上述索引创建请求后,便可以基于存储分片b1对应的指定应用场景:十字路口,创建关于十字路口对应的指定索引1,以及基于存储分片c1对应的指定应用场景:商铺门口,创建关于商铺门口对应的指定索引2,并在存储节点B中创建指定索引1对应的存储分片b1,在存储节点C中创建指定索引2对应的存储分片c1。
若电子设备向上述ES集群中的存储节点C发送携带有第二数量的索引创建请求,则上述存储节点C在接收到上述索引创建请求后,便可以基于存储分片b1对应的指定应用场景:十字路口,创建关于十字路口对应的指定索引1,以及基于存储分片c1对应的指定应用场景:商铺门口,创建关于商铺门口对应的指定索引2,并在存储节点B中创建指定索引1对应的存储分片b1,在存储节点C中创建指定索引2对应的存储分片c1。
为了提高电子设备的容灾能力,可以为每个存储分片配置至少一个备份分片,这样,在存储分片发生故障时,可以利用备份分片继续执行任务,从而,提高电子设备执行任务的稳定性。
基于此,可选的,一种具体实现方式中,如图2所示,为本发明实施例提供的一种索引创建方法的流程示意图,本发明实施例提供的一种索引创建方法还可以包括如下步骤S201:
S201:基于第二数量和预设的每个存储分片所关联的备份分片的第三数量,确定ES集群中的每个存储节点对应的备份分片。
在本具体实现方式中,为了提高电子设备的容灾能力,可以为每个存储分片配置至少一个备份分片。
因此,在得到上述ES集群中的存储分片的第二数量后,便可以基于上述第二数量和预设的每个存储分片所关联的备份分片的第三数量,确定上述ES集群中的每个存储节点对应的备份分片。
相应的,上述步骤S102,可以包括如下步骤S1021:
S1021:向ES集群中的管理节点发送携带有第二数量的索引创建请求,以使管理节点在接收到索引创建请求后,基于第二数量,确定ES集群中的每个存储节点对应的存储分片和备份分片,并创建指定应用场景对应的指定索引,并在各个存储节点中创建指定索引对应的存储分片和备份分片。
在本具体实现方式中,在确定上述ES集群中用于存储指定应用场景中的图像的存储分片的第二数量后,便可以向上述ES集群中的管理节点发送携带有第二数量的索引创建请求,从而,可以使得上述管理节点在接收到上述请求后,针对指定应用场景创建对应的指定索引,并在各个存储节点中创建上述指定索引对应的存储分片和备份分片,进而,在存储分片发生故障时,可以利用备份分片继续执行任务,进一步的,提高电子设备执行任务的稳定性。
例如,ES集群中的管理节点为:节点A,ES集群中用于存储指定应用场景中的图像的存储分片的第二数量为2,包括存储节点B和存储节点C。
ES集群中的存储节点B对应的存储分片为:存储分片b1,存储节点C对应的存储分片为:存储分片c1。其中,存储分片b1关联有备份分片b11,存储分片c1关联有备份分片c11。
电子设备向上述ES集群中的节点A发送携带有第二数量的索引创建请求,以使的上述节点A在接收到上述索引创建请求后,便可以基于上述第二数量,确定ES集群中的存储节点B对应的存储分片为:存储分片b1,存储节点C对应的存储分片为:存储分片c1。其中,存储分片b1关联有备份分片b11,存储分片c1关联有备份分片c11。然后,便可以基于存储分片b1对应的指定应用场景:十字路口,创建关于十字路口对应的指定索引1,以及基于存储分片c1对应的指定应用场景:商铺门口,创建关于商铺门口对应的指定索引2,并在存储节点B中创建指定索引1对应的存储分片b1和和备份分片b11,在存储节点C中创建指定索引2对应的存储分片c1和备份分片c11。
可选的,一种具体实现方式中,上述步骤S101,可以包括如下步骤11:
步骤11:利用第一公式,确定用于存储指定应用场景中的图像的存储分片的第二数量;其中,第一公式为:
P=Y*n/(r+1);
其中,P为第二数量,r为每个存储分片所关联的备份分片的数量,n为第一数量,Y为固定常量。
例如,ES集群中的存储节点的第一数量n为2,每个存储分片所关联的备份分片的数量r为1,固定常量Y为3,则利用第一公式,确定用于存储指定应用场景中的图像的存储分片的第二数量P为:P=3*2/(1+1)=3。
其中,当增大每个存储分片所关联的备份分片的数量时,可以为索引在ES集群提供更大的并行计算能力,从而,提高图像检索和图像存储的效率。
由于预先构建的存储空间的内存量有限,为了电子设备可以执行上述索引创建的过程,可以预先设置关于上述存储分片的第二数量是否合理的预设条件,以判断上述第二数量是否满足上述预设条件。
基于此,可选的,一种具体实现方式中,上述步骤S102中,基于第二数量,确定ES集群中的每个存储节点对应的存储分片,可以包括如下步骤22:
步骤22:若第二数量满足预设条件,则确定ES集群中的每个存储节点对应的存储分片。
在本具体实现方式中,可以预先设置关于上述存储分片的第二数量是否合理的预设条件。
因此,在确定用于存储指定应用场景中的图像的存储分片的第二数量后,可以判断上述第二数量是否满足预设条件。
若满足,则可以确定上述ES集群中的每个存储节点对应的存储分片。
若不满足,则可以调整上述存储分片的第二数量,以使得上述第二数量可以满足上述预设条件。
可选的,一种具体实现方式中,上述步骤22,可以包括如下步骤33:
步骤33:若第二数量满足第二公式,则确定ES集群中的每个存储节点对应的存储分片;其中,第二公式为:
P*(r+1)%n=0。
在本具体实现方式中,可以判断上述ES集群中的用于存储指定应用场景中的图像的存储分片的第二数量是否满足第二公式,若满足,则确定上述ES集群中的每个存储节点对应的存储分片。
其中,P为ES集群中的用于存储指定应用场景中的图像的存储分片的第二数量,r为每个存储分片所关联的备份分片的数量,n为ES集群中的存储节点的第一数量,%为取余计算。
也就是说,在每个存储分片所关联的备份分片的数量增加1后的和值,与所确定的第二数量的乘值后,将所得到的乘值中的余数作为结果,并计算上述结果与ES集群中的存储节点的第一数量的乘值。当该乘值等于零时,确定ES集群中的每个存储节点对应的存储分片。
可选的,若第二数量不满足上述第二公式,则可以调整上述存储分片的第二数量,以使得上述第二数量可以满足上述第二公式。
例如,ES集群中的存储节点的第一数量n为2,每个存储分片所关联的备份分片的数量r为1,ES集群中的用于存储指定应用场景中的图像的存储分片的第二数量P为3,则3*(1+1)%2=0,其中,3≠0,等式不成立,因此,上述第二数量不满足上述第二公式。
以上可见,应用本发明实施例提供的方案,在基于ES构建索引时,首先,可以基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量,从而,可以向上述ES集群中的管理节点发送携带有上述第二数量的索引创建请求,以使得上述管理节点在接收到上述索引创建请求后,基于上述第二数量,确定上述ES集群中的每个存储节点对应的存储分片,并创建上述指定应用场景对应的指定索引,并在各个存储节点中创建上述指定索引对应的存储分片。
基于此,应用本发明实施例提供的方案,可以通过向ES集群中的管理节点发送携带有用于存储指定应用场景中的图像的存储分片的第二数量的索引创建请求,以使得上述管理节点基于上述索引创建请求,创建指定应用场景对应的指定索引,并在各个存储节点中创建上述指定索引对应的存储分片,从而,在进行图像存储和图像检索时,可以通过所构建的索引进行存储和检索,进而,提高图像存储和图像检索的效率。
相应于上述本发明实施例提供的一种索引创建方法,本发明实施例提供了一种图像存储方法,该方法应用于ES集群中的管理节点。
图3为本发明实施例提供的一种图像存储方法的流程示意图,如图3所示,该方法包括如下步骤S301-S304。
S301:获取图像存储请求;
其中,图像存储请求包括待存储图像、待存储图像的图像特征和待存储图像所属目标应用场景的目标场景标识。
由于不同应用场景下,所存储的图像的用途不同。例如,某实体店店铺可以通过电子设备对进门客户进行图像采集并存储,以便于对该店铺的客户进行更好的管理。又例如,门卫保安可以通过电子设备对进门人员进行图像采集并存储,以便于在出现可疑人员时,为住户的安全提供保障。
因此,对于不同应用场景下的图像存储,可以为待存储图像添加该待存储图像所属目标应用场景下的目标场景标识,以便于对存储空间中所存储的各个图像进行划分归类,从而,可以提高图像存储和图像检索的效率。
这样,电子设备在利用索引对待存储图像进行存储时,首先可以获取包括待存储图像、待存储图像的图像特征和待存储图像所属目标应用场景的目标场景标识的图像存储请求。
S302:确定目标场景标识对应的目标索引;
其中,目标索引是根据上述本发明实施例提供的一种索引创建方法构建的。
在获取图像存储请求后,便可以利用上述图像存储请求中待存储图像所属目标应用场景的目标场景标识,确定该目标场景标识对应的目标索引。
可选的,预先建立关于场景标识与索引的对应关系,从而,在获取图像存储请求后,便可以利用上述图像存储请求中待存储图像所属目标应用场景的目标场景标识,基于上述预先建立的关于场景标识与索引的对应关系,确定该目标场景标识对应的目标索引。
其中,可选的,上述关于场景标识与索引的对应关系可以通过表格的形式进行存储,从而,在获取图像存储请求后,便可以利用上述图像存储请求中待存储图像所属目标应用场景的目标场景标识,在上述预先建立的关于场景标识与索引的对应关系的表格中,选取该目标场景标识对应的索引,作为目标索引。例如,表1为关于场景标识与索引的对应关系的部分表格。
表1
场景标识 | 索引 |
X | 1 |
Z | 2 |
这样,在确定图像存储请求中待存储图像所属目标应用场景的目标场景标识为:场景标识:X时,在上述预先建立的关于场景标识与索引的对应关系的表格中,确定该目标场景标识对应的目标索引为:索引1;在确定图像存储请求中待存储图像所属目标应用场景的目标场景标识为:场景标识:Z时,在上述预先建立的关于场景标识与索引的对应关系的表格中,确定该目标场景标识对应的目标索引为:索引2。
S303:生成待存储图像的图像标识,并基于图像标识,在目标索引对应的各个存储分片中,确定用于响应图像存储请求的目标存储分片。
为了便于存储,针对待存储图像,ES集群中的管理节点可以生成该待存储图像的图像标识,从而,可以基于上述图像标识,在所确定的目标索引对应的各个存储分片中,确定用于响应上述图像存储请求的目标存储分片。
其中,可选的,ES集群可以是去中心化的集群,在ES集群中的任一存储节点都可以在作为管理节点的同时,作为用于存储和检索的功能节点。因此,上述管理节点可以为ES集群中的任一待检索节点。
S304:将图像存储请求和图像标识发送至目标存储分片所属的目标节点,以使目标节点在目标存储分片中,对应存储待存储图像、图像特征和图像标识。
在基于所生成的待存储图像的图像标识,确定用于响应上述图像存储请求的目标存储分片后,便可以确定上述目标存储分片所属的目标节点,从而,ES集群中的管理节点便可以将上述图像存储请求和上述图像标识,发送至上述目标节点,以使上述目标节点在上述目标存储分片中,对应存储上述图像存储请求中的待存储图像、待存储图像的图像特征以及生成的待存储图像的图像标识。
基于此,应用本发明实施例提供的方案,可以通过向ES集群中的管理节点发送包括待存储图像、待存储图像的图像特征和待存储图像所属目标应用场景的目标场景标识的图像存储请求,以使得上述管理节点基于上述待存储图像的图像特征生成的图像标识,在上述目标场景对应的目标索引中,确定用于响应上述图像存储请求的目标存储分片,从而,可以将上述图像存储请求和上述图像标识发送至上述目标存储分片所属目标节点,以使的上述目标节点在目标存储分片中,对应存储待存储图像、图像特征和图像标识,从而,可以基于所构建的索引,对待存储图像进行存储,进而,提高图像存储的效率。
为了提高电子设备的容灾能力,可以为每个存储分片配置至少一个备份分片,这样,在存储分片发生故障时,可以利用备份分片继续执行任务,从而,提高电子设备执行任务的稳定性。
基于此,可选的,一种具体实现方式中,如图4所示,为本发明实施例提供的一种图像存储方法的流程示意图,在每个存储分片关联有至少一个备份分片时,本发明实施例提供的一种图像存储方法还可以包括如下步骤S401:
S401:将图像存储请求和图像标识发送至目标存储分片所关联的目标备份分片所属的目标备份节点,以使目标备份节点在目标备份分片中对应存储待存储图像、图像特征和图像标识;
其中,针对每个存储分片,该存储分片和该存储分片所关联的至少一个备份分片分别属于不同的存储节点。
在本具体实现方式中,在每个存储分片关联有至少一个备份分片时,管理节点在基于所生成的待存储图像的图像标识,确定用于响应上述图像存储请求的目标存储分片后,便可以将上述图像存储请求和上述图像标识发送至上述目标存储分片所关联的目标备份分片所属的目标备份节点处,以使得上述目标备份节点在上述目标备份分片中,对应存储上述图像存储请求中的待存储图像、待存储图像的图像特征以及生成的待存储图像的图像标识。
这样,在目标存储分片发生故障时,可以利用目标备份分片继续执行图像存储过程,从而,提高图像存储的稳定性。
可选的,一种具体实现方式中,上述步骤S303中,基于图像标识,在目标索引对应的各个存储分片中,确定用于响应图像存储请求的目标存储分片的步骤,可以包括如下步骤44:
步骤44:利用第三公式,确定用于响应图像存储请求的目标存储分片;其中,第三公式表示为:
Px=hash(ID)%P
其中,Px为目标存储分片的分片标识,ID为图像标识,hash(ID)为利用散列算法确定的ID的哈希值,P为目标索引对应的各个存储分片的数量,hash(ID)%P为用散列算法确定的ID的哈希值对目标索引对应的各个存储分片的数量取余。
也就是说,将利用散列算法确定的ID的哈希值对目标索引对应的各个存储分片的数量中的余数,作为目标存储分片的分片标识。
其中,图像标识可以是ES集群生成的,也可以是人工标注的。对此,本发明实施例不做具体限定。
并且,hash(ID)在足够离散时,可以使得每个分片数据是均衡分布的。
在本具体实现方式中,可以预先为每个存储分片设置分片标识,这样,便可以基于图像标识,利用第三公式,确定用于响应上述图像存储请求的目标存储分片的分片标识。
例如,图像标识ID为α,P为目标索引对应的各个存储分片的数量,则利用第三公式,确定用于响应图像存储请求的目标存储分片为:Px=hash(α)%P。
相应于上述本发明实施例提供的一种索引创建方法,本发明实施例提供了一种图像检索方法,该方法应用于ES集群中的管理节点。
图5为本发明实施例提供的一种图像检索方法的流程示意图,如图5所示,该方法包括如下步骤S501-S504。
S501:获取图像检索请求;其中,图像检索请求包括待检索图像的待检索图像特征、待检索图像所属待检索应用场景的待检索场景标识;
由于不同应用场景下,所存储的图像的用途不同。例如,某实体店店铺可以通过电子设备对进门客户进行图像采集并存储,以便于对该店铺的客户进行更好的管理。又例如,门卫保安可以通过电子设备对进门人员进行图像采集并存储,以便于在出现可疑人员时,为住户的安全提供保障。
因此,对于不同应用场景下的图像存储,可以为待存储图像添加该待存储图像所述目标应用场景下的目标场景标识,以便于对存储空间中所存储的各个图像进行划分归类,从而,可以提高图像存储和图像检索的效率。
这样,电子设备在利用索引对待检索图像进行检索时,首先可以获取包括待检索图像的待检索图像特征、所述待检索图像所属待检索应用场景的待检索场景标识的图像检索请求。
S502:确定待检索场景标识对应的待检索索引;
其中,待检索索引是根据本发明实施例提供的一种索引创建方法构建的。
在获取图像检索请求后,便可以利用上述图像检索请求中待检索图像所属的待检索应用场景的待检索场景标识,确定该待检索场景标识对应的待检索索引。
其中,上述步骤S502的具体实现方式,与上述步骤S203的具体实现方式相似,在此不再赘述。
S503:将图像检索请求发送至待检索索引对应的各个待检索存储分片所属的待检索节点,以使各个待检索节点在接收到图像检索请求后,根据待检索图像的图像特征,在各个待检索节点所包括的待检索存储分片中进行图像检索,并将所得到的检索结果反馈给管理节点。
在确定上述待检索场景标识对应的待检索索引后,管理节点便可以将上述图像检索请求发送至上述待检索索引对应的各个待检索存储分片所属的待检索节点,从而,使得各个待检索节点在接收到上述图像检索请求后,可以根据上述图像检索请求中的待检索图像特征,在各个待检索节点所包括的待检索存储分片中进行图像检索,并在得到检索结果后,将所得到的检索结果反馈至上述管理节点。
其中,可选的,ES集群可以是去中心化的集群,从而,在ES集群中的任一存储节点都可以在作为管理节点的同时,作为用于存储和检索的功能节点。因此,上述管理节点可以为ES集群中的任一待检索节点。
可选的,一种具体实现方式中,上述步骤S503中,根据待检索图像的图像特征,在各个待检索节点所包括的待检索存储分片中进行图像检索,可以包括如下步骤5031:
步骤5031:针对各个待检索节点所包括的每个待检索存储分片,计算待检索图像的图像特征与该待检索存储分片中的每个图像的图像特征的特征相似度,得到关于该待检索节点的检索结果。
在本具体实现方式中,在确定上述待检索场景标识对应的待检索索引后,管理节点便可以将上述图像检索请求发送至上述待检索索引对应的各个待检索存储分片所属的待检索节点,从而,使得各个待检索节点在接收到上述图像检索请求后,便可以针对各个待检索节点所包括的每个待检索存储分片,在利用上述图像检索请求中的待检索图像特征进行图像检索时,通过计算上述待检索图像的图像特征与该待检索存储分片中的每个图像的图像特征的相似度分数,若所计算得到的该图像的图像特征与上述待检索图像的图像特征的相似度分数超过预设分数,则将该图像确定为检索结果。
可选的,由于目标对象距离图像采集设备的距离过大、图像采集设备的采集参数不适用于应用场景等情况,导致所采集到的待检索图像存在不清晰、模糊等问题,可以预先设置关于图像特征的预设置信度,在根据待检索图像的图像特征,在各个待检索节点所包括的待检索存储分片中进行图像检索前,可以判断上述待检索图像的图像特征的置信度是否达到上述预设置信度,若达到,可以根据待检索图像的图像特征,在各个待检索节点所包括的待检索存储分片中进行图像检索。否则,可以反馈用于保证由于上述待检索图像的图像特征的置信度较低导致的检索无法进行的提示信息。
S504:获取各个待检索节点反馈的检索结果,并基于所获取到的各个检索结果确定图像检索请求的目标响应结果。
管理节点在获取到各个待检索节点反馈的检索结果后,便可以基于所获取到的各个检索结果,确定上述图像检索请求的目标响应结果。
可选的,一种具体实现方式中,每个待检索节点反馈的检索结果包括:包括多个条目的优先级队列;
其中,各个条目按照所包括的特征相似度由高到低的顺序排列,每个条目对应于该待检索节点所包括待检索存储分片中的一个图像,且每一条目包括:该条目所对应图像、该条目所对应图像的图像特征与待检索图像的图像特征的特征相似度,以及该条目所对应图像的图像标识。
在本具体实现方式中,针对每个待检索节点,若该待检索节点包括的各个待检索存储分片反馈多个检索结果时,可以在该待检索节点中预先建立多个条目的优先级队列,其中,每个条目对应于该待检索节点所包括待检索存储分片中的一个图像,且每一条目包括:该条目所对应图像、该条目所对应图像的图像特征与待检索图像的图像特征的特征相似度,以及该条目所对应图像的图像标识,从而,可以将各个条目按照所包括的特征相似度由高到低的顺序进行排列。
例如,管理节点为:节点A,待检索节点为:节点R,其中,节点R包括待检索存储分片r1和待检索存储分片r2。根据待检索图像特征,在待检索存储分片r1中进行图像检索,得到检索结果1和检索结果2;在待检索存储分片r2中进行图像检索,得到检索结果3和检索结果4。其中,检索结果1的对应的特征相似度为80%,检索结果2的对应的特征相似度为75%,检索结果3的对应的特征相似度为77%,检索结果4的对应的特征相似度为70%。则将检索结果1、检索结果2、检索结果3和检索结果4,按照特征相似度由高到低的顺序排列得到的优先级队列为:检索结果1、检索结果2、检索结果4和检索结果3。
为了便于管理节点获取图像检索请求的目标响应结果,从而,提高图像检索的效率。
可选的,一种具体实现方式中,上述步骤S504中,基于所获取到的各个检索结果确定图像检索请求的目标响应结果的步骤,可以包括如下步骤55:
步骤55:按照所包括的特征相似度由高到低的顺序,排列所获取到的各个检索结果中的各个条目,并将排列在预设位置之前的各个条目中所包括的图像确定为图像检索请求的目标响应结果。
在本具体实现方式中,管理节点在获取到各个待检索节点反馈的检索结果后,便可以将各个检索结果按照各个检索结果所对应的条目所包括的特征相似度由高到低的顺序,排列所获取到的各个检索结果中的各个条目,从而,在确定各个待检索节点所反馈的检索结果的排列顺序后,将排列在预设位置之前的各个条目中所包括的图像确定为上述图像检索请求的目标响应结果。
例如,预设位置为2,管理节点在获取到各个待检索节点反馈的检索结果后,按照特征相似度由高到低的顺序排列得到的顺序为:检索结果1、检索结果2、检索结果4和检索结果3,则可以将检索结果1对应的条目中所包括的图像确定为上述图像检索请求的目标响应结果。
基于此,应用本发明实施例提供的方案,可以通过向ES集群中的管理节点发送包括待检索图像的待检索图像特征、待检索图像所属待检索应用场景的待检索场景标识的图像检索请求,以使得上述管理节点基于上述目标场景对应的待检索索引,将上述图像检索请求发送至上述待检索索引对应的各个待检索存储分片所属的待检索节点,从而,可以使的上述各个待检索节点,在各个待检索节点所包括的待检索存储分片中进行图像检索,进而,基于所获取的各个待检索节点反馈的检索结果,确定上述图像检索请求的目标响应结果,进一步的,实现基于所构建的索引,对待检索图像进行检索,提高图像检索的效率。
由于每个目标图像在存储时,可以将该目标图像所关联的附加信息与该目标图像一起存储,从而,在检索该目标图像时,可以获取该目标图像所关联的附加信息,例如,身份证号码、会员等级等。
可选的,一种具体实现方式中,本发明实施例提供的一种图像检索方法,还可以包括如下步骤66:
步骤66:在预设信息存储空间中,获取目标响应结果中的各个目标图像所关联的附加信息。
为了便于提高用户的使用体验,可以预先设置信息存储空间,在存储各个目标图像时,对各个目标图像所关联的附加信息进行对应存储,从而,管理节点在获取目标响应结果时,可以在预设信息存储空间中,获取该目标响应结果中各个目标图像所关联的附加信息。
可选的,一种具体实现方式中,本发明实施例提供的一种图像检索方法,还可以包括如下步骤77:
步骤77:输出目标响应结果。
在得到上述图像检索请求的目标响应结果后,便可以输出该目标响应结果,以使得用户可以得到上述图像检索请求对应的目标响应结果。
可选的,输出目标响应结果以及该目标响应结果所关联的附加信息。
在一些情况下,管理节点可能获取到多个包括待检索场景标识的图像检索请求,因此,可以按照预设顺序,将各个图像检索请求发送至对应的目标分片所属的待检索节点,从而,提高图像检索的效率。
基于此,可选的,一种具体实现方式中,每个待检索存储分片关联有至少一个待检索备份分片;在获取到多个包括待检索场景标识的图像检索请求的情况下,上述步骤S503,可以包括如下步骤5032:
步骤5032:从第一个图像检索请求开始,按照预设的轮询顺序,将每个图像检索请求依次发送至待检索索引对应的一组目标分片所属的待检索节点,以使各个待检索节点在接收到图像检索请求后,根据待检索图像的图像特征,在各个待检索节点所包括的待检索存储分片中进行图像检索;
其中,每组目标分片包括:全部待检索存储分片,或者,全部待检索存储分片分别所关联的一个待检索备份分片。
在本具体实现方式中,每个待检索存储分片关联有至少一个待检索备份分片。则在获取到多个包括待检索场景标识的图像检索请求的情况下,管理节点可以从第一个图像检索请求开始,按照预设的轮询顺序,将每个图像检索请求依次发送至待检索索引对应的一组目标分片所属的待检索节点,从而,可以使得各个待检索节点在接收到上述图像检索请求后,可以上述待检索图像的图像特征,在每个待检索节点所包括的待检索存储分片中进行图像检索。
这样,管理节点在获取到多个包括待检索场景标识的图像检索请求时,可以利用待检索索引对应的一组目标分片所属的多个待检索节点,并行进行图像检索,从而,提高图像检索的效率。
为了便于理解上述步骤S503,将图像检索请求发送至待检索索引对应的各个待检索存储分片所属的待检索节点,以使各个待检索节点在接收到图像检索请求后,根据待检索图像的图像特征,在各个待检索节点所包括的待检索存储分片中进行图像检索,并将所得到的检索结果反馈给管理节点。示例性的,以人脸检索请求为例,如图6所示,为本发明实施例的一种具体实施例的流程示意图。
其中,协调节点Nx在接收到检索请求后,首先建立一个用于记录各个检索结果的优先级队列,然后,便将上述检索请求以轮询的方式,广播给索引的每个分片,从而,降低ES集群中各个节点的任务压力。
节点Ny在接收到对一个或者多个分片P执行检索的请求后,可以计算上述检索请求在每个分片P上执行请求的任务量。
分片P在执行检索请求时,首先初始化人脸评分脚本,然后,便可以创建一个用于存放分片的检索结果的优先级队列,从而,按照检索请求中的查询过滤调节执行文档过滤,进行针对于分片P的图像检索。在进行图像检索的过程中,分片P对每个被过滤到的文档,执行人脸评分脚本,从而,可以获取文档中的人脸特征fn,并将计算得到该文档中的人脸特征fn与请求中的人脸特征f0的相似度score(分数),作为该文档在上述检索请求中的相关性评分。这样,分片P便可以将所得到的所有文档评分结果放入该分片所创建的优先级队列中,并按照评分由高到低的顺序,将各个评分结果进行排列,并将TOPN的结果反馈至协调节点Nx处。
协调节点Nx,以上述分片P聚合结果的方式聚合各个节点反馈的结果,并将检索到的文档,也就是在上述检索请求对应的分片所在节点处所获取到的文档详细信息,作为上述检索请求的响应结果。
相应于上述本发明实施例提供的一种索引创建方法,本发明实施例提供了一种索引创建装置。
图7为本发明实施例提供的一种索引创建装置的结构示意图,如图7所示,该装置可以包括如下模块:
第二数量确定模块710,用于基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量;
索引创建模块720,用于向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片。
以上可见,应用本发明实施例提供的方案,在基于ES构建索引时,首先,可以基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量,从而,可以向上述ES集群中的管理节点发送携带有上述第二数量的索引创建请求,以使得上述管理节点在接收到上述索引创建请求后,基于上述第二数量,确定上述ES集群中的每个存储节点对应的存储分片,并创建上述指定应用场景对应的指定索引,并在各个存储节点中创建上述指定索引对应的存储分片。
基于此,应用本发明实施例提供的方案,可以通过向ES集群中的管理节点发送携带有用于存储指定应用场景中的图像的存储分片的第二数量的索引创建请求,以使得上述管理节点基于上述索引创建请求,创建指定应用场景对应的指定索引,并在各个存储节点中创建上述指定索引对应的存储分片,从而,在进行图像存储和图像检索时,可以通过所构建的索引进行存储和检索,进而,提高图像存储和图像检索的效率。
可选的,一种具体实现方式中,所述装置还包括:
备份分片模块,用于基于所述第二数量和预设的每个存储分片所关联的备份分片的第三数量,确定所述ES集群中的每个存储节点对应的备份分片;
所述索引创建模块720具体用于:
向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片和备份分片。
可选的,一种具体实现方式中,所述索引创建模块720具体用于:
若所述第二数量满足预设条件,则确定所述ES集群中的每个存储节点对应的存储分片。
可选的,一种具体实现方式中,所述第二数量确定模块710具体用于:
利用第一公式,确定用于存储指定应用场景中的图像的存储分片的第二数量;其中,所述第一公式为:
P=Y*n/(r+1);
其中,P为所述第二数量,r为每个存储分片所关联的备份分片的数量,n为所述第一数量,Y为固定常量。
可选的,一种具体实现方式中,所述索引创建模块720具体用于:
若所述第二数量满足第二公式,则确定所述ES集群中的每个存储节点对应的存储分片;其中,所述第二公式为:
P*(r+1)%n=0。
相应于上述本发明实施例提供的一种图像存储方法,本发明实施例提供了一种图像存储装置。
图8为本发明实施例提供的一种图像存储装置的结构示意图,如图8所示,该装置可以包括如下模块:
图像存储请求模块810,用于获取图像存储请求;其中,所述图像存储请求包括待存储图像、所述待存储图像的图像特征和所述待存储图像所属目标应用场景的目标场景标识;
目标索引确定模块820,用于确定所述目标场景标识对应的目标索引;其中,所述目标索引是根据本发明实施例提供的一种索引创建方法构建的;
目标存储分片确定模块830,用于生成所述待存储图像的图像标识,并基于所述图像标识,在所述目标索引对应的各个存储分片中,确定用于响应所述图像存储请求的目标存储分片;
目标存储分片存储模块840,用于将所述图像存储请求和所述图像标识发送至所述目标存储分片所属的目标节点,以使所述目标节点在所述目标存储分片中,对应存储所述待存储图像、所述图像特征和所述图像标识。
基于此,应用本发明实施例提供的方案,可以通过向ES集群中的管理节点发送包括待存储图像、待存储图像的图像特征和待存储图像所属目标应用场景的目标场景标识的图像存储请求,以使得上述管理节点基于上述待存储图像的图像特征生成的图像标识,在上述目标场景对应的目标索引中,确定用于响应上述图像存储请求的目标存储分片,从而,可以将上述图像存储请求和上述图像标识发送至上述目标存储分片所属目标节点,以使的上述目标节点在目标存储分片中,对应存储待存储图像、图像特征和图像标识,从而,可以基于所构建的索引,对待存储图像进行存储,进而,提高图像存储的效率。
可选的,一种具体实现方式中,每个存储分片关联有至少一个备份分片,所述装置还包括:
备份分片存储模块,用于将所述图像存储请求和所述图像标识发送至所述目标存储分片所关联的目标备份分片所属的目标备份节点,以使所述目标备份节点在所述目标备份分片中对应存储所述待存储图像、所述图像特征和所述图像标识;
其中,针对每个存储分片,该存储分片和该存储分片所关联的至少一个备份分片分别属于不同的存储节点。
可选的,一种具体实现方式中,所述目标存储分片确定模块830具体用于:
利用第三公式,确定用于响应所述图像存储请求的目标存储分片;其中,所述第三公式表示为:
Px=hash(ID)%P
其中,Px为所述目标存储分片的分片标识,ID为所述图像标识,hash(ID)为利用散列算法确定的所述ID的哈希值,P为所述目标索引对应的各个存储分片的数量。
相应于本发明实施例提供的一种图像检索方法,本发明实施例提供了一种图像检索装置。
图9为本发明实施例提供的一种图像检索装置的结构示意图,如图9所示,该装置可以包括如下模块:
图像检索请求模块910,用于获取图像检索请求;其中,所述图像检索请求包括待检索图像的待检索图像特征、所述待检索图像所属待检索应用场景的待检索场景标识;
待检索索引确定模块920,用于确定所述待检索场景标识对应的待检索索引;其中,所述待检索索引是根据本发明实施例提供的一种索引创建方法构建的;
检索结果获取模块930,用于将所述图像检索请求发送至所述待检索索引对应的各个待检索存储分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所述各个待检索节点所包括的所述待检索存储分片中进行图像检索,并将所得到的检索结果反馈给所述管理节点;
目标响应结果获取模块940,用于获取各个待检索节点反馈的检索结果,并基于所获取到的各个检索结果确定所述图像检索请求的目标响应结果。
基于此,应用本发明实施例提供的方案,可以通过向ES集群中的管理节点发送包括待检索图像的待检索图像特征、待检索图像所属待检索应用场景的待检索场景标识的图像检索请求,以使得上述管理节点基于上述目标场景对应的待检索索引,将上述图像检索请求发送至上述待检索索引对应的各个待检索存储分片所属的待检索节点,从而,可以使的上述各个待检索节点,在各个待检索节点所包括的待检索存储分片中进行图像检索,进而,基于所获取的各个待检索节点反馈的检索结果,确定上述图像检索请求的目标响应结果,进一步的,实现基于所构建的索引,对待检索图像进行检索,提高图像检索的效率。
可选的,一种具体实现方式中,所述检索结果获取模块930具体用于:
针对各个待检索节点所包括的每个待检索存储分片,计算所述待检索图像的图像特征与该待检索存储分片中的每个图像的图像特征的特征相似度,得到关于该待检索节点的检索结果。
可选的,一种具体实现方式中,每个待检索节点反馈的检索结果包括:
包括多个条目的优先级队列;其中,所述各个条目按照所包括的所述特征相似度由高到低的顺序排列,每个条目对应于该待检索节点所包括所述待检索存储分片中的一个图像,且每一条目包括:该条目所对应图像、该条目所对应图像的图像特征与所述待检索图像的图像特征的特征相似度,以及该条目所对应图像的图像标识。
可选的,一种具体实现方式中,所述目标响应结果获取模块940具体用于:
按照所包括的特征相似度由高到低的顺序,排列所获取到的各个检索结果中的各个条目,并将排列在预设位置之前的各个条目中所包括的图像确定为所述图像检索请求的目标响应结果。
可选的,一种具体实现方式中,所述装置还包括:
附加信息获取模块,用于在预设信息存储空间中,获取所述目标响应结果中的各个目标图像所关联的附加信息。
可选的,一种具体实现方式中,所述装置还包括:
输出模块,用于输出所述目标响应结果。
可选的,一种具体实现方式中,每个待检索存储分片关联有至少一个待检索备份分片;在获取到多个包括所述待检索场景标识的图像检索请求的情况下,所述检索结果获取模块930具体用于:
从第一个图像检索请求开始,按照预设的轮询顺序,将每个图像检索请求依次发送至所述待检索索引对应的一组目标分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所包括所述目标分片中进行图像检索;
其中,每组目标分片包括:全部待检索存储分片,或者,全部待检索存储分片分别所关联的一个待检索备份分片。
相应于上述本发明实施例提供的一种索引创建方法、上述本发明实施例提供的一种图像存储方法和上述本发明实施例提供的一种图像检索方法,本发明实施例还提供了一种电子设备,如图10所示,包括处理器1001、通信接口1002、存储器1003和通信总线1004,其中,处理器1001,通信接口1002,存储器1003通过通信总线1004完成相互间的通信,
存储器1003,用于存放计算机程序;
处理器1001,用于执行存储器1003上所存放的程序时,实现上述本发明实施例提供的任一索引创建方法的步骤。
相应于上述本发明实施例提供的一种索引创建方法、上述本发明实施例提供的一种图像存储方法和上述本发明实施例提供的一种图像检索方法,本发明实施例还提供了一种电子设备,如图11所示,包括处理器1101、通信接口1102、存储器1103和通信总线1104,其中,处理器1101,通信接口1102,存储器1103通过通信总线1104完成相互间的通信,
存储器1103,用于存放计算机程序;
处理器1101,用于执行存储器1103上所存放的程序时,实现上述本发明实施例提供的任一图像存储方法的步骤,和/或,上述本发明实施例提供的任一图像检索方法的步骤。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect,PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory,RAM),也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述本发明实施例提供的任一索引创建方法的步骤。
在本发明提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述本发明实施例中任一图像存储方法的步骤,和/或,上述本发明实施例提供的任一图像检索方法的步骤。
在本发明提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述本发明实施例提供的任一索引创建方法的步骤。
在本发明提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述本发明实施例提供的任一图像存储方法的步骤,和/或,上述本发明实施例提供的任一图像检索方法的步骤。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置实施例、电子设备实施例、计算机可读存储介质实施例以及计算机程序产品实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (22)
1.一种索引创建方法,其特征在于,所述方法包括:
基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量;
向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
基于所述第二数量和预设的每个存储分片所关联的备份分片的第三数量,确定所述ES集群中的每个存储节点对应的备份分片;
所述向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片,包括:
向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片和备份分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片和备份分片。
3.根据权利要求1或2所述的方法,其特征在于,所述基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,包括:
若所述第二数量满足预设条件,则确定所述ES集群中的每个存储节点对应的存储分片。
4.根据权利要求3所述的方法,其特征在于,所述基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量,包括:
利用第一公式,确定用于存储指定应用场景中的图像的存储分片的第二数量;其中,所述第一公式为:
P=Y*n/(r+1);
其中,P为所述第二数量,r为每个存储分片所关联的备份分片的数量,n为所述第一数量,Y为固定常量。
5.根据权利要求4所述的方法,其特征在于,所述若所述第二数量满足预设条件,则确定所述ES集群中的每个存储节点对应的存储分片,包括:
若所述第二数量满足第二公式,则确定所述ES集群中的每个存储节点对应的存储分片;其中,所述第二公式为:
P*(r+1)%n=0。
6.一种图像存储方法,其特征在于,应用于ES集群中的管理节点,所述方法包括:
获取图像存储请求;其中,所述图像存储请求包括待存储图像、所述待存储图像的图像特征和所述待存储图像所属目标应用场景的目标场景标识;
确定所述目标场景标识对应的目标索引;其中,所述目标索引是根据权利要求1-5任一项所述的方法构建的;
生成所述待存储图像的图像标识,并基于所述图像标识,在所述目标索引对应的各个存储分片中,确定用于响应所述图像存储请求的目标存储分片;
将所述图像存储请求和所述图像标识发送至所述目标存储分片所属的目标节点,以使所述目标节点在所述目标存储分片中,对应存储所述待存储图像、所述图像特征和所述图像标识。
7.根据权利要求6所述的方法,其特征在于,每个存储分片关联有至少一个备份分片,所述方法还包括:
将所述图像存储请求和所述图像标识发送至所述目标存储分片所关联的目标备份分片所属的目标备份节点,以使所述目标备份节点在所述目标备份分片中对应存储所述待存储图像、所述图像特征和所述图像标识;
其中,针对每个存储分片,该存储分片和该存储分片所关联的至少一个备份分片分别属于不同的存储节点。
8.根据权利要求6或7所述的方法,其特征在于,所述基于所述图像标识,在所述目标索引对应的各个存储分片中,确定用于响应所述图像存储请求的目标存储分片,包括:
利用第三公式,确定用于响应所述图像存储请求的目标存储分片;其中,所述第三公式表示为:
Px=hash(ID)%P
其中,Px为所述目标存储分片的分片标识,ID为所述图像标识,hh(ID)为利用散列算法确定的所述ID的哈希值,P为所述目标索引对应的各个存储分片的数量。
9.一种图像检索方法,其特征在于,应用于ES集群中的管理节点,所述方法包括:
获取图像检索请求;其中,所述图像检索请求包括待检索图像的待检索图像特征、所述待检索图像所属待检索应用场景的待检索场景标识;
确定所述待检索场景标识对应的待检索索引;其中,所述待检索索引是根据权利要求1-5任一项所述的方法构建的;
将所述图像检索请求发送至所述待检索索引对应的各个待检索存储分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所述各个待检索节点所包括的所述待检索存储分片中进行图像检索,并将所得到的检索结果反馈给所述管理节点;
获取各个待检索节点反馈的检索结果,并基于所获取到的各个检索结果确定所述图像检索请求的目标响应结果。
10.根据权利要求9所述的方法,其特征在于,所述根据所述待检索图像的图像特征,在所述各个待检索节点所包括的所述待检索存储分片中进行图像检索,包括:
针对各个待检索节点所包括的每个待检索存储分片,计算所述待检索图像的图像特征与该待检索存储分片中的每个图像的图像特征的特征相似度,得到关于该待检索节点的检索结果。
11.根据权利要求10所述的方法,其特征在于,每个待检索节点反馈的检索结果包括:
包括多个条目的优先级队列;其中,所述各个条目按照所包括的所述特征相似度由高到低的顺序排列,每个条目对应于该待检索节点所包括所述待检索存储分片中的一个图像,且每一条目包括:该条目所对应图像、该条目所对应图像的图像特征与所述待检索图像的图像特征的特征相似度,以及该条目所对应图像的图像标识。
12.根据权利要求11所述的方法,其特征在于,所述基于所获取到的各个检索结果确定所述图像检索请求的目标响应结果,包括:
按照所包括的特征相似度由高到低的顺序,排列所获取到的各个检索结果中的各个条目,并将排列在预设位置之前的各个条目中所包括的图像确定为所述图像检索请求的目标响应结果。
13.根据权利要求9-12所述的方法,其特征在于,所述方法还包括:
在预设信息存储空间中,获取所述目标响应结果中的各个目标图像所关联的附加信息。
14.根据权利要求9-12任一项所述的方法,其特征在于,所述方法还包括:
输出所述目标响应结果。
15.根据权利要求9所述的方法,其特征在于,每个待检索存储分片关联有至少一个待检索备份分片;
在获取到多个包括所述待检索场景标识的图像检索请求的情况下,所述将所述图像检索请求发送至所述待检索索引对应的各个待检索存储分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所包括所述待检索存储分片中进行图像检索,包括:
从第一个图像检索请求开始,按照预设的轮询顺序,将每个图像检索请求依次发送至所述待检索索引对应的一组目标分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所包括所述目标分片中进行图像检索;
其中,每组目标分片包括:全部待检索存储分片,或者,全部待检索存储分片分别所关联的一个待检索备份分片。
16.一种索引创建装置,其特征在于,所述装置包括:
第二数量确定模块,用于基于ES集群中的存储节点的第一数量,确定用于存储指定应用场景中的图像的存储分片的第二数量;
索引创建模块,用于向所述ES集群中的管理节点发送携带有所述第二数量的索引创建请求,以使所述管理节点在接收到所述索引创建请求后,基于所述第二数量,确定所述ES集群中的每个存储节点对应的存储分片,并创建所述指定应用场景对应的指定索引,并在各个存储节点中创建所述指定索引对应的存储分片。
17.一种图像存储装置,其特征在于,应用于ES集群中的管理节点,所述装置包括:
图像存储请求模块,用于获取图像存储请求;其中,所述图像存储请求包括待存储图像、所述待存储图像的图像特征和所述待存储图像所属目标应用场景的目标场景标识;
目标索引确定模块,用于确定所述目标场景标识对应的目标索引;其中,所述目标索引是根据权利要求1-5任一项所述的方法构建的;
目标存储分片确定模块,用于生成所述待存储图像的图像标识,并基于所述图像标识,在所述目标索引对应的各个存储分片中,确定用于响应所述图像存储请求的目标存储分片;
目标存储分片存储模块,用于将所述图像存储请求和所述图像标识发送至所述目标存储分片所属的目标节点,以使所述目标节点在所述目标存储分片中,对应存储所述待存储图像、所述图像特征和所述图像标识。
18.一种图像检索装置,其特征在于,应用于ES集群中的管理节点,所述装置包括:
图像检索请求模块,用于获取图像检索请求;其中,所述图像检索请求包括待检索图像的待检索图像特征、所述待检索图像所属待检索应用场景的待检索场景标识;
待检索索引确定模块,用于确定所述待检索场景标识对应的待检索索引;其中,所述待检索索引是根据权利要求1-5任一项所述的方法构建的;
检索结果获取模块,用于将所述图像检索请求发送至所述待检索索引对应的各个待检索存储分片所属的待检索节点,以使各个待检索节点在接收到所述图像检索请求后,根据所述待检索图像的图像特征,在所述各个待检索节点所包括的所述待检索存储分片中进行图像检索,并将所得到的检索结果反馈给所述管理节点;
目标响应结果获取模块,用于获取各个待检索节点反馈的检索结果,并基于所获取到的各个检索结果确定所述图像检索请求的目标响应结果。
19.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现权利要求1-5任一所述的方法步骤。
20.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现权利要求6-8任一所述的方法步骤,和/或,权利要求9-15任一所述的方法步骤。
21.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-5任一所述的方法步骤。
22.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求6-8任一所述的方法步骤,和/或,权利要求9-15任一所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211124585.9A CN115391581A (zh) | 2022-09-15 | 2022-09-15 | 索引创建、图像存储、图像检索方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211124585.9A CN115391581A (zh) | 2022-09-15 | 2022-09-15 | 索引创建、图像存储、图像检索方法、装置及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115391581A true CN115391581A (zh) | 2022-11-25 |
Family
ID=84126124
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211124585.9A Pending CN115391581A (zh) | 2022-09-15 | 2022-09-15 | 索引创建、图像存储、图像检索方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115391581A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117150059A (zh) * | 2023-10-27 | 2023-12-01 | 湖南视觉伟业智能科技有限公司 | 一种基于nvr设备的碎片化图像数据存储方法 |
-
2022
- 2022-09-15 CN CN202211124585.9A patent/CN115391581A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117150059A (zh) * | 2023-10-27 | 2023-12-01 | 湖南视觉伟业智能科技有限公司 | 一种基于nvr设备的碎片化图像数据存储方法 |
CN117150059B (zh) * | 2023-10-27 | 2024-02-13 | 湖南视觉伟业智能科技有限公司 | 一种基于nvr设备的碎片化图像数据存储方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8489612B2 (en) | Identifying similar files in an environment having multiple client computers | |
US8977623B2 (en) | Method and system for search engine indexing and searching using the index | |
US20130097140A1 (en) | Presenting social network connections on a search engine results page | |
US10776361B2 (en) | Time series database search system | |
US11775656B2 (en) | Secure multi-party information retrieval | |
JP2021500649A (ja) | シャード・データベースのシャード・テーブルにレコードを記憶するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、シャード・データベースのシャード・テーブルからレコードを検索するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、ならびにシャード・データベースを記憶するためのシステム | |
US10984059B2 (en) | Data retrieval method and system | |
CN107515879B (zh) | 用于文档检索的方法和电子设备 | |
CN109376277B (zh) | 确定设备指纹同源性的方法及装置 | |
US11562004B2 (en) | Classifying and filtering platform data via k-means clustering | |
US20240095260A1 (en) | Multi-subgraph matching method and apparatus, and device | |
US10691669B2 (en) | Big-data processing method and apparatus | |
CN115391581A (zh) | 索引创建、图像存储、图像检索方法、装置及电子设备 | |
US20180285693A1 (en) | Incremental update of a neighbor graph via an orthogonal transform based indexing | |
US20200226153A1 (en) | Execution of queries in relational databases | |
CN106557503A (zh) | 一种图像检索的方法和*** | |
Elmisery et al. | Privacy aware obfuscation middleware for mobile jukebox recommender services | |
US20180336252A1 (en) | Summarization of Large Histograms | |
US20170180511A1 (en) | Method, system and apparatus for dynamic detection and propagation of data clusters | |
WO2021047305A1 (zh) | 人脸搜索方法、装置、设备及计算机可读存储介质 | |
US10606844B1 (en) | Method and apparatus for identifying legitimate files using partial hash based cloud reputation | |
US20210097049A1 (en) | Method, device and computer program product for managing index tables | |
WO2020237511A1 (zh) | 相似性搜索方法、装置、服务器及存储介质 | |
US10326595B1 (en) | Load balancing probabilistic robot detection | |
CN110750555A (zh) | 用于生成索引的方法、装置、计算设备以及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |