CN112380169A - 存储装置、数据处理方法、装置、设备、介质和*** - Google Patents
存储装置、数据处理方法、装置、设备、介质和*** Download PDFInfo
- Publication number
- CN112380169A CN112380169A CN202011311360.5A CN202011311360A CN112380169A CN 112380169 A CN112380169 A CN 112380169A CN 202011311360 A CN202011311360 A CN 202011311360A CN 112380169 A CN112380169 A CN 112380169A
- Authority
- CN
- China
- Prior art keywords
- data
- storage
- module
- target
- target data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 24
- 238000012545 processing Methods 0.000 claims abstract description 77
- 238000004364 calculation method Methods 0.000 claims abstract description 38
- 238000000034 method Methods 0.000 claims description 28
- 239000013598 vector Substances 0.000 claims description 19
- 230000008569 process Effects 0.000 claims description 14
- 238000000605 extraction Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 9
- 230000001815 facial effect Effects 0.000 claims description 8
- 238000012795 verification Methods 0.000 claims description 6
- 230000005540 biological transmission Effects 0.000 abstract description 17
- 238000010586 diagram Methods 0.000 description 12
- 230000003287 optical effect Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000012216 screening Methods 0.000 description 5
- 238000012217 deletion Methods 0.000 description 3
- 230000037430 deletion Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/14—Details of searching files based on file metadata
- G06F16/148—File search processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/14—Details of searching files based on file metadata
- G06F16/156—Query results presentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Library & Information Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开了一种存储装置、数据处理方法、装置、设备、介质和***。所述存储装置包括:至少一个存储模块和各所述存储模块对应的计算模块,所述存储模块与所述对应的计算模块相连;所述存储模块用于存储数据;所述计算模块用于在相连的存储模块中进行数据处理。本发明实施例可以减少查询传输数据量,提高数据查询效率。
Description
技术领域
本发明实施例涉及数据处理领域,尤其涉及一种存储装置、数据处理方法、装置、设备、介质和***。
背景技术
随着互联网的广泛应用,各行各业都存在大量的信息交互,导致流通的数据量越来越庞大。在数据检索应用中,例如公安局进行人脸检索和指纹检索等,检索匹配的数据非常庞大(10G以上)。
现有大数据检索的应用中,存储装置中存有全部检索数据,采样模块用于采集样本,处理器接收到采集样本,并对采集样本进行特征提取,由于处理器上的存储空间有限,因此处理器分批次接收存储装置发送的对比特征,然后对分批接收的对比特征与提取到的特征进行比对,直至确定最终结果。
但在使用上述方式时,需要从存储装置向处理器传输大量数据,并且由于最终结果的位置不确定,甚至需要向处理器传输10G以上的数据,导致传输耗时久,处理时间长。
发明内容
本发明实施例提供一种存储装置、数据处理方法、装置、设备、介质和***,可以减少查询传输数据量,提高数据查询效率。
第一方面,本发明实施例提供了一种存储装置,包括:
至少一个存储模块和各所述存储模块对应的计算模块,所述存储模块与所述对应的计算模块相连;
所述存储模块用于存储数据;
所述计算模块用于在相连的存储模块中进行数据处理。
第二方面,本发明实施例还提供了一种数据处理方法,应用于如本发明任一实施例所述的存储装置,包括:
通过计算模块获取待处理的目标数据;
通过所述计算模块在相连的存储模块中,根据所述目标数据进行数据处理。
第三方面,本发明实施例还提供了一种数据处理方法,包括:
获取待查询的目标数据;
将所述目标数据发送至至少一个计算模块,以使各所述计算模块根据所述目标数据在对应的存储模块中进行数据查询;
接收各所述计算模块反馈的查询结果,并进行处理得到目标查询结果,其中,如本发明任一实施例所述的存储装置包括各所述计算模块和各所述存储模块,所述计算模块与对应的存储模块相连。
第四方面,本发明实施例还提供了一种数据处理装置,包括:
目标数据获取模块,用于获取待查询的目标数据;
数据查询模块,用于将所述目标数据发送至至少一个计算模块,以使各所述计算模块根据所述目标数据在对应的存储模块中进行数据查询;
查询结果处理模块,用于接收各所述计算模块反馈的查询结果,并进行处理得到目标查询结果,其中,如本发明任一实施例所述的存储装置包括各所述计算模块和各所述存储模块,所述计算模块与对应的存储模块相连。
第五方面,本发明实施例还提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序所述处理器执行所述程序时实现如本发明实施例中任一所述的数据处理方法。
第六方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例中任一所述的数据处理方法。
第七方面,本发明实施例还提供了一种数据处理***,包括:如本发明任一实施例所述的存储装置,和如本发明任一实施例所述的查询设备,所述存储装置与所述查询设备相连;
所述存储装置用于存储数据,并根据所述查询设备发送的目标数据,在存储的数据中进行查询,向所述查询设备反馈查询结果;
所述查询设备用于向所述存储装置发送所述目标数据,并接收所述存储装置反馈的所述查询结果,并进行处理得到目标查询结果。
本发明实施例通过在存储装置中配置多个存储模块和各存储模块对应的计算模块,计算模块用于在对应的存储模块中进行数据处理,实现在存储装置中对数据进行预处理,可以提高查询效率以及减少查询结果的数据量,解决了现有技术中大数据检索的传输数据量大,处理时间长的问题,可以在存储装置中进行数据的预处理,减少查询结果中的数据量,并减少传输的数据量,提高数据查询效率和传输效率。
附图说明
图1是本发明实施例一中的一种存储装置的结构示意图;
图2是本发明实施例二中的一种数据处理方法的流程图;
图3a是本发明实施例三中的一种数据处理方法的流程图;
图3b是本发明实施例三中的一种数据处理方法的流程图;
图4是本发明实施例四中的一种数据处理装置的结构示意图;
图5是本发明实施例五中的一种计算机设备的结构示意图;
图6是本发明实施例五中的一种计算机设备的结构示意图;
图7是本发明实施例七中的一种数据处理***的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一中的一种存储装置的结构示意图,本实施例可适用于存储数据并对存储的数据进行处理的情况,如图1所示,存储装置100可以包括存储模块110和计算模块120。
存储装置100包括至少一个存储模块110和各存储模块110对应的计算模块120,存储模块110与对应的计算模块120相连。其中,存储模块110用于存储数据;计算模块120用于在相连的存储模块110中进行数据处理。
存储模块可以通过对存储装置的存储空间进行划分获取。多个存储模块形成的存储空间可以存储大量数据,例如,10G数据。存储模块分布式排列,以将存储装置的存储空间进行打散,并对应存储模块分别配置计算模块。
计算模块可以是指对相连的存储模块中存储的数据进行数据处理的模块。不同存储模块中数据由不同计算模块负责处理。示例性的,计算模块可以包括至少一个计算核。其中,计算模块包括的计算核可以是具备通用计算功能的计算核,也可以不具备通用计算功能,例如,针对性的配置查询功能的计算核,这样设置的好处在于,可以降低存储装置的成本。
可选的,数据处理可以包括分类处理、查询处理和存储处理等。存储装置可以进行数据处理,替代查询方预先执行初步查询操作,可以减少查询结果的数据量,从而减少传输查询结果的数据量,同时,可以减少查询方的处理操作,提高查询方的数据查询效率。此外,数据处理还可以包括修改处理和删除处理等,具体可以根据需要进行设定。
本发明实施例通过在存储装置中配置多个存储模块和各存储模块对应的计算模块,计算模块用于在对应的存储模块中进行数据处理,实现在存储装置中对数据进行预处理,可以提高查询效率以及减少查询结果的数据量,解决了现有技术中大数据检索的传输数据量大,处理时间长的问题,可以在存储装置中进行数据的预处理,减少查询结果中的数据量,并减少传输的数据量,提高数据查询效率和传输效率。
实施例二
图2为本发明实施例二中的一种数据处理方法的流程图的示意图,本实施例可适用于存储数据并对存储的数据进行处理的情况,该方法可以由本发明实施例提供的存储装置来执行,该装置可采用软件和/或硬件的方式实现,并一般可集成存储装置中。如图2所示,本实施例的方法具体包括:
S210,通过计算模块获取待处理的目标数据。
计算模块与外部模块相连,并接收外部模块发送的待处理的目标数据。目标数据可以是指待存储的数据,或者是待匹配查询的数据。此外,目标数据还可以是待删除的数据和待修改的数据,以在存储装置中查询到匹配的数据进行删除和修改。具体可以根据实际情况进行设定,对此本发明实施例不作具体限制。
S220,通过所述计算模块在相连的存储模块中,根据所述目标数据进行数据处理。
计算模块在相连的存储模块中,根据目标数据对相连的存储模块进行数据处理。数据处理可以包括存储、查询、分类、修改和删除等处理。
可选的,所述根据所述目标数据进行数据处理,包括:对所述目标数据进行查询,并反馈查询结果;或者获取所述目标数据的类型,并对所述目标数据进行存储,以使所述目标数据存储在与所述类型匹配的存储模块中。
在存在查询需求时,对目标数据进行查询,可以是指在对应的存储模块中查询与目标数据匹配的数据。查询结果包括在对应的存储模块中与目标数据匹配的数据。向发送目标数据的查询方反馈查询结果。需要说明的是,查询结果的精确程度,根据计算模块的计算能力确定。其中,查询结果可以仅仅是初步筛选的结果,反馈给查询方,由查询方进一步在查询结果中进行查询,实现将查询方的部分查询操作转移到存储装置的计算模块执行,可以缩小查询方的查询范围,提高查询方的查询效率。
在存在存储需求时,对目标数据进行分类存储。可以根据预设分类规则,确定目标数据的类型,并按照目标数据的类型将目标数据与同类型的数据存储在一起,例如存储在同一个存储模块中,或者是在存储地址相邻的存储模块中。与类型匹配的存储模块可以是指存储该类型的数据的存储模块,或者与存储该类型的数据的存储模块位置相邻的存储模块。可选的,不同存储模块用于存储不同类型的数据。
其中,计算模块可以与任意一个存储模块相连,或者只与对应的存储模块相连。如果计算模块与任意一个存储模块均相连,则将目标数据发送至与类型匹配的存储模块中存储;如果计算模块与仅与对应的存储模块相连,则将目标数据发送至与类型匹配的计算模块,并由该计算模块将该目标数据转发至与类型匹配的存储模块中存储。
通过将数据处理配置为数据查询,实现将查询方的部分查询操作转移到存储装置的计算模块执行,可以缩小查询方的查询范围,提高查询方的查询效率,或者将数据处理配置为数据分类存储,实现对数据进行分类,在查询中,可以快速获取同一类型的数据,加快查询速度,提高查询效率。
此外,计算模块可以根据相连的存储模块中存储的数据的类型,针对性对存储的数据进行处理。
可选的,数据处理方法还包括:通过计算模块在相连的存储模块中,对图像数据进行图像处理。
示例性的,存储的数据为图像数据,计算模块还用于对相连的存储模块中存储的数据进行图像处理。还有其他情况,具体可以根据需求进行设定,例如,存储的数据为音频数据,计算模块还用于对相连的存储模块中存储的数据进行音频处理。
通过配置存储数据类型为图像数据,并通过计算模块针对性对图像数据进行图像处理,可以增加存储装置在图像查询匹配应用场景中的业务模块,丰富存储装置的应用场景,增加存储装置中存储的数据的多样性。
同时,计算模块还可以对接收到的目标数据进行与类型匹配的数据处理,例如,目标数据为图像数据,计算模块对目标数据进行图像处理;又如,目标数据为音频数据,计算模块对目标数据进行音频处理。
本发明实施例通过在存储装置中配置多个存储模块和各存储模块对应的计算模块,计算模块可以在对应的存储模块中进行数据处理,实现在存储装置中对数据进行预处理,可以提高查询效率以及减少查询结果的数据量,解决了现有技术中大数据检索的传输数据量大,处理时间长的问题,可以在存储装置中进行数据的预处理,减少查询结果中的数据量,并减少传输的数据量,提高数据查询效率和传输效率。
图3a为本发明实施例三中的一种数据处理方法的流程图的示意图,本实施例可适用于向存储装置发送查询数据并接收反馈查询结果的情况,该方法可以由本发明实施例提供的数据处理装置来执行,该装置可采用软件和/或硬件的方式实现,并一般可集成计算机设备中,具体由计算机设备中处理器执行。如图3a所示,本实施例的方法具体包括:
S310,获取待查询的目标数据。
目标数据作为目标数据,用于在存储装置中进行匹配查询。
S320,将所述目标数据发送至至少一个计算模块,以使各所述计算模块根据所述目标数据在对应的存储模块中进行数据查询。
计算模块与执行本发明实施例提供的数据处理方法的计算机设备中处理器相连。示例性的,存储装置上配置有外部接口,处理器通过该外部接口与存储装置相连,具体,各计算模块与该外部接口分别相连,从而,处理器通过该外部接口与各计算模块相连。
处理器将目标数据发送计算模块,计算模块可以根据该目标数据在对应的存储模块的数据中进行匹配查询。
此外,处理器还可以将数据发送至各计算模块,存入各计算模块对应的存储模块中。其中,各计算模块可以对待存储的数据进行分类,并按照类型分布存储在不同的存储模块中。
其中,目标数据的格式可以与存储模块中数据的格式相同,计算模块可以将目标数据与存储模块中每条数据进行逐一比对,查询与目标数据匹配的数据,确定为查询结果。目标数据的格式可以与存储模块中数据的格式不同,计算模块可以将目标数据处理成与存储模块中数据的格式匹配的目标数据,或者将存储模块中数据处理成与目标数据的格式匹配的数据,再将目标数据与存储模块中每条数据进行逐一比对,查询与目标数据匹配的数据。
在一个具体的例子中,目标数据为人脸图像的关键点特征向量,如果存储模块中数据为不同用户人脸图像的关键点特征向量,计算模块可以逐一将目标数据与存储模块中数据进行比对,获取与目标数据匹配的数据,作为查询结果。
又如,目标数据为人脸图像,如果存储模块中数据为不同用户人脸图像的关键点特征向量,计算模块可以预先对人脸图像进行处理,得到关键点特征向量,作为目标数据的处理结果,逐一将目标数据对应的处理结果与存储模块中数据进行比对,获取与目标数据匹配的数据,作为查询结果。
又如,目标数据为人脸图像的关键点特征向量,如果存储模块中数据为不同用户人脸图像,计算模块可以预先分别对存储模块中的人脸图像进行处理,得到关键点特征向量,作为存储模块中数据的处理结果,逐一将目标数据与存储模块中数据对应的处理结果进行比对,获取与目标数据匹配的数据,作为查询结果。
S330,接收各所述计算模块反馈的查询结果,并进行处理得到目标查询结果,其中,如本发明式任一实施例所述的存储装置包括各所述计算模块和各所述存储模块,所述计算模块与对应的存储模块相连。
每个计算模块都可以获取一个查询结果。获取各计算模块反馈的多个查询结果,进行统计,得到目标查询结果。
实际上,当计算模块的计算能力低时,计算模块无法直接获得精确的查询结果。此时,计算模块相当于是对存储模块中数据进行初步筛选,排除掉大部分毫不相关的数据,然后反馈筛选后的数据,由查询方,如处理器,完成最后的查询,最终得到对比结果。而当计算模块的计算能力高时,计算模块直接查询得到精确的查询结果。
在一个具体的例子中,如图3b所示,数据处理方法可以包括:
S301,处理器对采集的数据进行特征提取,得到目标数据。
S302,处理器将目标数据分发至各个计算模块。
S303,各个计算模块接收目标数据。
S304,在计算模块处理能力低时,计算模块进行初步筛选。
计算模块可以排除大部分干扰结果。
S305,将筛选后的查询结果发送回处理器,由处理器查询得到目标查询结果。
S306,在计算模块处理能力高时,直接查询匹配,获得目标查询结果。
可选的,所述并进行处理得到目标查询结果,包括:在各所述查询结果中,查询与所述目标数据匹配的数据,获取目标查询结果。
无论查询结果是否精确,查询方都可以在缩小范围后的数据范围内继续查询,确定与目标数据匹配的数据,以得到精确的目标查询结果。
通过在各查询结果中继续查询与目标数据匹配的数据,得到的目标查询结果,可以得到精确的查询结果,并提高查询结果的准确性,同时,通过存储装置进行初步筛选,由查询方进行精细筛选,可以缩小查询方的数据查询范围,提高查询数据的准确率。
可选的,所述并进行处理得到目标查询结果,包括:对各所述计算模块反馈的查询结果进行校验;如果校验通过,则将各所述查询结果确定为目标查询结果;如果检验不通过,则在各所述查询结果中,查询与所述目标数据匹配的数据,获取目标查询结果。
计算模块反馈的查询结果是在实际处理过程中动态完成,计算模块能否完成精确查询是无法预知的,只能通过查询结果确定,从而查询方无法预先确定接收到的查询结果是否精确,可以对查询结果进行校验确定。
校验用于判断查询结果是否为精确的查询结果,如果满足,则确定查询结果满足查询方的查询需求,将查询结果直接确定为目标查询结果;如果不满足,则仍需要对查询结果进行进一步的查询匹配,得到目标查询结果。其中,校验可以是判断查询结果的数据量是否超过设定数量阈值,如果是,则校验通过,否则,校验不通过;或者判断n个查询结果与目标数据的相似度阈值是否超过设定相似度阈值,如果是,则校验通过,否则,校验不通过,n小于等于查询结果的数量。此外,还可以根据具体情况进行设定。
通过对查询结果进行校验,并在校验不通过时,确定计算模块的计算能力不足以得到精确结果,可以继续对查询结果进行进一步匹配查询,提高查询结果的准确率,并在检验通过时,直接将查询结果确定为目标查询结果,减少查询方的查询数据量,提高查询效率。
可选的,所述获取待查询的目标数据,包括:对采集数据进行特征提取,获取目标数据;其中,所述存储模块中数据的格式与所述目标数据相同。
采集的数据可以包括下述至少一项:文本、图像、音频和视频。对采集数据进行特征提取,用于从采集的数据中提取出特征信息。特征提取方法可以包括采用预先训练的特征提取模型或采用预设模板等从采集的数据中提取出关键数据,确定为目标数据。示例性的,采集的数据为文本,目标数据可以是文本中设定字段以及对应的属性值。采集的数据为图像,目标数据可以是图像中目标物体的特征信息,如车牌位置。采集的数据为音频,目标数据可以是音频中的音频特征,如频率。采集的数据为视频,目标数据可以是视频中的运动物体的运动特征数据,如速度。此外,可以根据具体情况进行设定。
存储模块中数据的格式与目标数据相同,表明计算模块可以直接在存储模块中进行数据匹配查询,无需对目标数据或存储模块中数据进行处理。
通过对采集的数据进行特征提取,确定目标数据,可以从采集的数据中提炼出特征信息进行匹配查询,提高查询准确率,同时减少查询的数据量,提高查询效率。
在一个具体的应用场景中,可选的,所述对采集数据进行特征提取,获取目标数据,包括:获取人脸图像;对所述人脸图像进行特征提取,获取面部特征向量;其中,所述存储模块中存储有多个用户的面部特征向量。
采集的数据为人脸图像。人脸图像的特征信息可以为面部特征向量。面部特征向量用于描述空间结构特征、纹理特征、形状特征和颜色特征等特征。特征提取方法可以包括基于模型的特征提取方法或基于预先训练的机器学习模型的特征提取方法等。存储模块中数据为不同用户的面部特征向量。计算模块可以直接对比面部特征向量,例如,计算两个目标数据与存储模块中数据之间的向量距离,并在向量距离小于等于设定阈值时,确定该数据与目标数据匹配,从而确定为查询结果。
通过将目标数据配置为人脸图像的面部特征向量,以应用于人脸匹配查询的应用场景中,可以提高人脸匹配查询的效率和准确率。
本发明实施例通过获取待查询的目标数据,并发送至存储装置的各计算模块中,获取各计算模块的查询结果,可以避免获取未处理的全部数据,减少传输的数据量,缩短查询结果的传输时间,并加快查询结果的传输速度,实现快速得到查询结果,并快速进入后续处理,从而提高运行速度。
实施例四
图4为本发明实施例四中的一种数据处理装置的示意图。实施例四是实现本发明上述实施例三提供的数据处理方法的相应装置,该装置可采用软件和/或硬件的方式实现,并一般可集成计算机设备中。
相应的,本实施例的装置可以包括:
目标数据获取模块410,用于获取待查询的目标数据;
数据查询模块420,用于将所述目标数据发送至至少一个计算模块,以使各所述计算模块根据所述目标数据在对应的存储模块中进行数据查询;
查询结果处理模块430,用于接收各所述计算模块反馈的查询结果,并进行处理得到目标查询结果,其中,如权利要求1所述的存储装置包括各所述计算模块和各所述存储模块,所述计算模块与对应的存储模块相连。
本发明实施例通过获取待查询的目标数据,并发送至存储装置的各计算模块中,获取各计算模块的查询结果,可以避免获取未处理的全部数据,减少传输的数据量,缩短查询结果的传输时间,并加快查询结果的传输速度,实现快速得到查询结果,并快速进入后续处理,从而提高运行速度。
进一步的,所述查询结果处理模块430,具体用于:在各所述查询结果中,查询与所述目标数据匹配的数据,获取目标查询结果。
进一步的,所述查询结果处理模块430,具体用于:对各所述计算模块反馈的查询结果进行校验;如果校验通过,则将各所述查询结果确定为目标查询结果;如果检验不通过,则在各所述查询结果中,查询与所述目标数据匹配的数据,获取目标查询结果。
进一步的,所述目标数据获取模块410,具体用于:对采集数据进行特征提取,获取目标数据;其中,所述存储模块中数据的格式与所述目标数据相同。
进一步的,所述目标数据获取模块410,具体用于:获取人脸图像;对所述人脸图像进行特征提取,获取面部特征向量;其中,所述存储模块中存储有多个用户的面部特征向量。
上述装置可执行本发明实施例所提供的数据处理方法,具备执行方法相应的功能模块和有益效果。
实施例五
图5为本发明实施例五提供的一种计算机设备的结构示意图。图5示出了适于用来实现本发明实施方式的示例性计算机设备12的框图。图5显示的计算机设备12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,计算机设备12以通用计算设备的形式表现。计算机设备12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,***存储器28,连接不同***组件(包括***存储器28和处理单元16)的总线18。计算机设备12可以是挂接在总线上的设备。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,***总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture,ISA)总线,微通道体系结构(Micro Channel Architecture,MCA)总线,增强型ISA总线、视频电子标准协会(Video Electronics Standards Association,VESA)局域总线以及***组件互连(PerIPheral Component Interconnect,PCI)总线。
计算机设备12典型地包括多种计算机***可读介质。这些介质可以是任何能够被计算机设备12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
***存储器28可以包括易失性存储器形式的计算机***可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机***存储介质。仅作为举例,存储***34可以用于读写不可移动的、非易失性磁介质(图5未显示,通常称为“硬盘驱动器”)。尽管图5中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如紧凑磁盘只读存储器(Compact Disc Read-Only Memory,CD-ROM),数字视盘(Digital Video Disc-Read Only Memory,DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。***存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如***存储器28中,这样的程序模块42包括但不限于操作***、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
计算机设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该计算机设备12交互的设备通信,和/或与使得该计算机设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(Input/Output,I/O)接口22进行。并且,计算机设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(Local AreaNetwork,LAN),广域网(Wide Area Network,WAN)通信。如图所示,网络适配器20通过总线18与计算机设备12的其它模块通信。应当明白,尽管图5中未示出,可以结合计算机设备12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列(Redundant Arrays of Inexpensive Disks,RAID)***、磁带驱动器以及数据备份存储***等。
处理单元16通过运行存储在***存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例三所提供的数据处理方法。
在另外一个可选的实施例中,如图6所示,本实施例中提供的计算机设备包括处理器和存储装置100,即存储装置不是独立运行的设备。
实施例六
本发明实施例六提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本申请所有发明实施例提供的方法:
也即,该程序被处理器执行时实现:获取待查询的目标数据;将所述目标数据发送至至少一个计算模块,以使各所述计算模块根据所述目标数据在对应的存储模块中进行数据查询;接收各所述计算模块反馈的查询结果,并进行处理得到目标查询结果,其中,如本发明实施例所述的存储装置包括各所述计算模块和各所述存储模块,所述计算模块与对应的存储模块相连。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、RAM、只读存储器(Read OnlyMemory,ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory,EPROM)、闪存、光纤、便携式CD-ROM、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、电线、光缆、无线电频率(RadioFrequency,RF)等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括LAN或WAN——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
实施例七
图7为本发明实施例七中的一种数据处理***的结构示意图,本实施例可适用于计算机设备发送目标数据到存储装置中进行数据查询的情况,如图7所示,数据处理***300包括存储装置100和计算机设备200。其中,存储装置100可以包括存储模块110和计算模块120。
存储装置100为本发明任一实施例所述的存储装置,计算机设备200为本发明任一实施例所述的查询设备,存储装置100与计算机设备200相连;
其中,存储装置100用于存储数据,并根据计算机设备200发送的目标数据,在存储的数据中进行查询,向计算机设备200反馈查询结果;计算机设备200用于向存储装置100发送目标数据,并接收存储装置100反馈的查询结果,并进行处理得到目标查询结果。
在数据处理***中,计算机设备200将大部分匹配查询的操作转移至存储装置100上执行,理想情况下(具体是由存储装置100上的计算模块直接获得查询结果),只需要传输目标数据,即便存储装置100中计算模块的运算能力有限,也能够筛除掉大部分干扰结果,从而大大减小传输的数据量,并相应减少传输所需时间,提高整体运行速度。存储装置100中多个计算模块在收到相同的目标之后,可以同步开始搜索和匹配的操作。为保证结果的准确性,计算机设备200可以对各查询结果进行最终校验,最终确定目标查询结果。
在本发明实施例中,存储装置100不属于计算机设备200,存储装置100可以通过插拔方式,与计算机设备200连接。存储装置100与计算机设备200相连,具体的,存储装置100与计算机设备200中处理器相连。
本发明实施例通过存储装置筛除掉大部分干扰结果,减小存储装置与计算机设备之间传输的数据量,并相应减少传输所需时间,提高***运行速度。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (13)
1.一种存储装置,其特征在于,包括:至少一个存储模块和各所述存储模块对应的计算模块,所述存储模块与所述对应的计算模块相连;
所述存储模块用于存储数据;
所述计算模块用于在相连的存储模块中进行数据处理。
2.一种数据处理方法,其特征在于,应用于如权利要求1所述的存储装置,包括:
通过计算模块获取待处理的目标数据;
通过所述计算模块在相连的存储模块中,根据所述目标数据进行数据处理。
3.根据权利要求2所述的方法,其特征在于,所述根据所述目标数据进行数据处理,包括:
对所述目标数据进行查询,并反馈查询结果;或者
获取所述目标数据的类型,并对所述目标数据进行存储,以使所述目标数据存储在与所述类型匹配的存储模块中。
4.根据权利要求2或3所述的方法,其特征在于,还包括:
通过计算模块在相连的存储模块中,对图像数据进行图像处理。
5.一种数据处理方法,其特征在于,包括:
获取待查询的目标数据;
将所述目标数据发送至至少一个计算模块,以使各所述计算模块根据所述目标数据在对应的存储模块中进行数据查询;
接收各所述计算模块反馈的查询结果,并进行处理得到目标查询结果,其中,如权利要求1所述的存储装置包括各所述计算模块和各所述存储模块,所述计算模块与对应的存储模块相连。
6.根据权利要求5所述的方法,其特征在于,所述并进行处理得到目标查询结果,包括:
在各所述查询结果中,查询与所述目标数据匹配的数据,获取目标查询结果。
7.根据权利要求5所述的方法,其特征在于,所述并进行处理得到目标查询结果,包括:
对各所述计算模块反馈的查询结果进行校验;
如果校验通过,则将各所述查询结果确定为目标查询结果;
如果检验不通过,则在各所述查询结果中,查询与所述目标数据匹配的数据,获取目标查询结果。
8.根据权利要求5所述的方法,其特征在于,所述获取待查询的目标数据,包括:
对采集数据进行特征提取,获取目标数据;其中,所述存储模块中数据的格式与所述目标数据相同。
9.根据权利要求8所述的方法,其特征在于,所述对采集数据进行特征提取,获取目标数据,包括:
获取人脸图像;
对所述人脸图像进行特征提取,获取面部特征向量;其中,所述存储模块中存储有多个用户的面部特征向量。
10.一种数据处理装置,其特征在于,包括:
目标数据获取模块,用于获取待查询的目标数据;
数据查询模块,用于将所述目标数据发送至至少一个计算模块,以使各所述计算模块根据所述目标数据在对应的存储模块中进行数据查询;
查询结果处理模块,用于接收各所述计算模块反馈的查询结果,并进行处理得到目标查询结果,其中,如权利要求1所述的存储装置包括各所述计算模块和各所述存储模块,所述计算模块与对应的存储模块相连。
11.一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器与所述权利要求1所述的存储装置相连,其特征在于,所述处理器执行所述程序时实现如权利要求5-9中任一所述的数据处理方法。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求5-9中任一所述的数据处理方法。
13.一种数据处理***,其特征在于,包括:如权利要求1所述的存储装置,和如权利要求11所述的计算机设备,所述存储装置与所述计算机设备相连;
所述存储装置用于存储数据,并根据所述计算机设备发送的目标数据,在存储的数据中进行查询,向所述计算机设备反馈查询结果;
所述计算机设备用于向所述存储装置发送所述目标数据,并接收所述存储装置反馈的所述查询结果,并进行处理得到目标查询结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011311360.5A CN112380169A (zh) | 2020-11-20 | 2020-11-20 | 存储装置、数据处理方法、装置、设备、介质和*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011311360.5A CN112380169A (zh) | 2020-11-20 | 2020-11-20 | 存储装置、数据处理方法、装置、设备、介质和*** |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112380169A true CN112380169A (zh) | 2021-02-19 |
Family
ID=74585921
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011311360.5A Pending CN112380169A (zh) | 2020-11-20 | 2020-11-20 | 存储装置、数据处理方法、装置、设备、介质和*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112380169A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113849454A (zh) * | 2021-09-08 | 2021-12-28 | 北京灵汐科技有限公司 | 计算*** |
CN115098548A (zh) * | 2022-07-21 | 2022-09-23 | 南宁沃众科技有限公司 | 一种数据决策方法、***及云平台 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109408508A (zh) * | 2018-09-30 | 2019-03-01 | 广州恩业电子科技有限公司 | 监测数据的存储和查询方法、装置和计算机设备 |
CN110457256A (zh) * | 2019-08-01 | 2019-11-15 | 大众问问(北京)信息科技有限公司 | 数据存储方法、装置、计算机设备及存储介质 |
CN110737678A (zh) * | 2019-10-23 | 2020-01-31 | 北京锐安科技有限公司 | 一种数据查找方法、装置、设备和存储介质 |
CN111078723A (zh) * | 2019-11-29 | 2020-04-28 | 支付宝(杭州)信息技术有限公司 | 一种区块链浏览器的数据处理方法及装置 |
CN111190991A (zh) * | 2019-12-10 | 2020-05-22 | 华能集团技术创新中心有限公司 | 一种非结构化数据传输***及交互方法 |
CN111190992A (zh) * | 2019-12-10 | 2020-05-22 | 华能集团技术创新中心有限公司 | 一种非结构化数据的海量存储方法及存储*** |
CN111488114A (zh) * | 2019-01-28 | 2020-08-04 | 北京灵汐科技有限公司 | 一种可重构的处理器架构及计算设备 |
-
2020
- 2020-11-20 CN CN202011311360.5A patent/CN112380169A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109408508A (zh) * | 2018-09-30 | 2019-03-01 | 广州恩业电子科技有限公司 | 监测数据的存储和查询方法、装置和计算机设备 |
CN111488114A (zh) * | 2019-01-28 | 2020-08-04 | 北京灵汐科技有限公司 | 一种可重构的处理器架构及计算设备 |
CN110457256A (zh) * | 2019-08-01 | 2019-11-15 | 大众问问(北京)信息科技有限公司 | 数据存储方法、装置、计算机设备及存储介质 |
CN110737678A (zh) * | 2019-10-23 | 2020-01-31 | 北京锐安科技有限公司 | 一种数据查找方法、装置、设备和存储介质 |
CN111078723A (zh) * | 2019-11-29 | 2020-04-28 | 支付宝(杭州)信息技术有限公司 | 一种区块链浏览器的数据处理方法及装置 |
CN111190991A (zh) * | 2019-12-10 | 2020-05-22 | 华能集团技术创新中心有限公司 | 一种非结构化数据传输***及交互方法 |
CN111190992A (zh) * | 2019-12-10 | 2020-05-22 | 华能集团技术创新中心有限公司 | 一种非结构化数据的海量存储方法及存储*** |
Non-Patent Citations (3)
Title |
---|
钱磊;原昊;赵锦明;李祥;吴东;谢向辉;: "基于蚁群平台的智能存储技术及应用", 计算机工程与设计, no. 05, 31 May 2017 (2017-05-31), pages 1 - 7 * |
钱磊;原昊;赵锦明;李祥;吴东;谢向辉;: "基于蚁群平台的智能存储技术及应用", 计算机工程与设计, no. 05, pages 1 - 3 * |
高玉平;: "海量图书检索信息的快速查询***优化设计研究", 现代电子技术, no. 06, pages 299 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113849454A (zh) * | 2021-09-08 | 2021-12-28 | 北京灵汐科技有限公司 | 计算*** |
CN115098548A (zh) * | 2022-07-21 | 2022-09-23 | 南宁沃众科技有限公司 | 一种数据决策方法、***及云平台 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109309630B (zh) | 一种网络流量分类方法、***及电子设备 | |
US11182594B2 (en) | Face image retrieval methods and systems, photographing apparatuses, and computer storage media | |
CN106951484B (zh) | 图片检索方法及装置、计算机设备及计算机可读介质 | |
CN112184508B (zh) | 一种用于图像处理的学生模型的训练方法及装置 | |
CN111325156B (zh) | 人脸识别方法、装置、设备和存储介质 | |
WO2020155790A1 (zh) | 理赔信息提取方法和装置、电子设备 | |
CN110610127B (zh) | 人脸识别方法、装置、存储介质及电子设备 | |
CN111343161A (zh) | 异常信息处理节点分析方法、装置、介质及电子设备 | |
CN109885597B (zh) | 基于机器学习的用户分群处理方法、装置及电子终端 | |
CN111209431A (zh) | 一种视频搜索方法、装置、设备及介质 | |
CA3052846A1 (en) | Character recognition method, device, electronic device and storage medium | |
CN112380169A (zh) | 存储装置、数据处理方法、装置、设备、介质和*** | |
CN112085701A (zh) | 一种人脸模糊度检测方法、装置、终端设备及存储介质 | |
CN111694866A (zh) | 数据搜索及存储方法、数据搜索***、装置、设备及介质 | |
CN110909817B (zh) | 分布式聚类方法及***、处理器、电子设备及存储介质 | |
CN109800215B (zh) | 一种对标处理的方法、装置、计算机存储介质及终端 | |
WO2019100348A1 (zh) | 图像检索方法和装置以及图像库的生成方法和装置 | |
CN117011581A (zh) | 图像识别方法、介质、装置和计算设备 | |
CN111444362A (zh) | 恶意图片拦截方法、装置、设备和存储介质 | |
US10346716B2 (en) | Fast joint template machining | |
CN111738290B (zh) | 图像检测方法、模型构建和训练方法、装置、设备和介质 | |
US20140172874A1 (en) | Intelligent analysis queue construction | |
US20230186613A1 (en) | Sample Classification Method and Apparatus, Electronic Device and Storage Medium | |
CN113177479B (zh) | 图像分类方法、装置、电子设备及存储介质 | |
CN116503596A (zh) | 图片分割方法、装置、介质和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |