CN113779021B - 数据处理方法、装置、计算机***及可读存储介质 - Google Patents
数据处理方法、装置、计算机***及可读存储介质 Download PDFInfo
- Publication number
- CN113779021B CN113779021B CN202110150449.6A CN202110150449A CN113779021B CN 113779021 B CN113779021 B CN 113779021B CN 202110150449 A CN202110150449 A CN 202110150449A CN 113779021 B CN113779021 B CN 113779021B
- Authority
- CN
- China
- Prior art keywords
- target data
- data
- identification information
- target
- caching
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 33
- 238000000034 method Methods 0.000 claims abstract description 39
- 238000012545 processing Methods 0.000 claims abstract description 37
- 238000012795 verification Methods 0.000 claims abstract description 35
- 238000004590 computer program Methods 0.000 claims abstract description 27
- 230000008569 process Effects 0.000 claims abstract description 14
- 238000000605 extraction Methods 0.000 claims description 22
- 238000004364 calculation method Methods 0.000 claims description 14
- 230000005856 abnormality Effects 0.000 claims description 13
- 230000015654 memory Effects 0.000 claims description 11
- 230000002159 abnormal effect Effects 0.000 claims description 8
- 238000001914 filtration Methods 0.000 claims description 6
- 238000012544 monitoring process Methods 0.000 claims description 6
- 238000004806 packaging method and process Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000003139 buffering effect Effects 0.000 description 5
- 238000012546 transfer Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000009472 formulation Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 108010001267 Protein Subunits Proteins 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2255—Hash tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种数据处理方法,包括:对接收到的待处理的数据进行验证,确定验证通过的目标数据;对目标数据进行标记,生成目标数据的标识信息;确定目标数据的属性特征;基于属性特征,对目标数据和目标数据的标识信息进行缓存与提取,以便与标识信息对应的目标处理器接收目标数据,以及对目标数据进行处理。本公开还提供了数据处理装置、计算机***、可读存储介质以及计算机程序产品。
Description
技术领域
本公开涉及计算机技术领域,更具体地,涉及一种数据处理方法、装置、计算机***、可读存储介质及计算机程序产品。
背景技术
智能终端发展非常迅速,新应用层出不穷,不少应用都要求智能终端有较高的性能,因此,要求智能终端处理器对上报上来的异常数据具有较高的反应和处理能力,才能提供给用户完整的功能和较好的体验。
在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:异常数据上报后,被直接流转到智能终端处理器,并没有进行逻辑分析,容易对耦合业务误操作或者造成数据的无效流转,导致处理效率低下。
发明内容
有鉴于此,本公开提供了一种数据处理方法、装置、计算机***、可读存储介质及计算机程序产品。
本公开的一个方面提供了一种数据处理方法,包括:
对接收到的待处理的数据进行验证,确定验证通过的目标数据;
对目标数据进行标记,生成目标数据的标识信息;
确定目标数据的属性特征;以及
基于属性特征,对目标数据和目标数据的标识信息进行缓存与提取,以便与标识信息对应的目标处理器接收目标数据,以及对目标数据进行处理。
根据本公开的实施例,其中,属性特征包括哈希值;
基于属性特征,对目标数据和目标数据的标识信息进行缓存与提取包括:
对目标数据和目标数据的标识信息进行哈希值计算,确定目标数据和目标数据的标识信息的哈希值;
基于目标数据和目标数据的标识信息的哈希值,将目标数据和目标数据的标识信息缓存至与哈希值对应的缓存节点中;
基于哈希值,从与哈希值对应的缓存节点中提取目标格式的数据;
其中,缓存节点为缓存虚拟划分的多个节点中的一个或多个。
根据本公开的实施例,上述的数据处理方法还包括:
监控缓存节点的缓存状态,其中,缓存状态包括提取状态或空闲状态;
在缓存节点的缓存状态为空闲状态的情况下,确定缓存节点为目标缓存节点,其中,目标缓存节点表征为能够对缓存节点中缓存的目标数据和目标数据的标识信息进行提取的缓存节点。
根据本公开的实施例,上述的数据处理方法还包括:
确定提取目标数据和目标数据的标识信息的提取时间;
在提取时间大于或等于预设阈值的情况下,转移到下一个目标缓存节点进行目标数据和目标数据的标识信息的提取。
根据本公开的实施例,其中,对接收到的待处理的数据进行验证,确定目标数据包括:
判断数据是否包括预设验证信息;
在数据包括预设验证信息的情况下,将数据确定为目标数据;以及
在数据不包括预设验证信息的情况下,滤除不包括预设验证信息的的数据。
根据本公开的实施例,其中,
对目标数据进行标记,生成目标数据的标识信息包括:
获取目标数据的异常原因信息;以及
基于目标数据的异常原因信息对目标数据进行标记,生成目标数据的标识信息,其中,目标数据的标识信息包括异常原因标识信息或者待处理方式标识信息。
根据本公开的实施例,上述的数据处理方法还包括:
将目标数据和目标数据的标识信息进行封装,生成目标格式的数据。
本公开的再一方面提供了一种数据处理装置,包括:
验证模块,用于对接收到的待处理的数据进行验证,确定验证通过的目标数据;
标记模块,用于对目标数据进行标记,生成目标数据的标识信息;
确定模块,用于确定目标数据的属性特征;以及
缓存和提取模块,用于基于属性特征,对目标数据和目标数据的标识信息进行缓存与提取,以便与标识信息对应的目标处理器接收目标数据,以及对目标数据进行处理。
本公开的再一方面提供一种计算机***,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
其中,当一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器实现上述的数据处理方法。
本公开的再一方面提供一种计算机可读存储介质,其上存储有可执行指令,指令被处理器执行时使处理器实现上述的数据处理方法。
本公开的再一方面提供一种计算机程序产品,包括计算机程序,计算机程序包括计算机可执行指令,指令在被执行时用于实现上述的数据处理方法。
根据本公开的实施例,因为采用了对接收到的待处理的数据进行验证,确定验证通过的目标数据;对目标数据进行标记,生成目标数据的标识信息;确定目标数据的属性特征;基于属性特征,对目标数据和目标数据的标识信息进行缓存与提取,以便与标识信息对应的目标处理器接收目标数据,以及对目标数据进行处理的技术手段,利用对接收到的数据进行验证,确定验证通过的目标数据,以及对目标数据进行标记,生成目标数据的标识信息,减少了数据的无效流转以及处理;所以至少部分地克服了现有技术中异常数据上报后,被直接流转到智能终端处理器,并没有进行逻辑分析,容易对耦合业务误操作或者造成数据的无效流转,导致处理效率低下的技术问题,进而达到了高效、快速的数据处理的技术效果。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了可以应用本公开的数据处理方法和装置的示例性***架构;
图2示意性示出了根据本公开实施例的数据处理方法的流程图;
图3示意性示出了根据本公开另一实施例的数据处理方法的流程图;
图4示意性示出了根据本公开另一实施例的应用数据处理方法的架构图;
图5示意性示出了根据本公开实施例的数据处理装置的框图;以及
图6示意性示出了根据本公开实施例的适于实现数据处理方法的计算机***的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的***”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的***等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的***”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的***等)。
本公开的实施例提供了一种数据处理方法。该方法包括:对接收到的待处理的数据进行验证,确定验证通过的目标数据;对目标数据进行标记,生成目标数据的标识信息;确定目标数据的属性特征;基于属性特征,对目标数据和目标数据的标识信息进行缓存与提取,以便与标识信息对应的目标处理器接收目标数据,以及对目标数据进行处理。
图1示意性示出了根据本公开实施例的可以应用数据处理方法和装置的示例性***架构100。需要注意的是,图1所示仅为可以应用本公开实施例的***架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、***、环境或场景。
如图1所示,根据该实施例的***架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的数据处理方法一股可以由服务器105执行。相应地,本公开实施例所提供的数据处理装置一股可以设置于服务器105中。本公开实施例所提供的数据处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的数据处理装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
例如,待处理的数据可以原本存储在终端设备101、102、或103中的任意一个(例如,终端设备101,但不限于此)之中,或者存储在外部存储设备上并可以导入到终端设备101中。然后,终端设备101可以将待处理的数据发送到其他终端设备、服务器、或服务器集群,并由接收该待处理的数据的其他服务器、或服务器集群来执行本公开实施例所提供的数据处理方法。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
如图2所示,该方法包括操作S210~S240。
在操作S210,对接收到的待处理的数据进行验证,确定验证通过的目标数据。
根据本公开的实施例,待处理的数据可以是用户终端上报的异常数据。
根据本公开的实施例,对接收到的待处理的数据进行验证,确定验证通过的目标数据;可以是将待处理的数据与预设信息进行匹配验证,匹配成功的数据为验证通过的目标数据。
但是并不局限于此,根据本公开的其他实施例,还可以是对接收到的待处理的数据进行过滤,去除“脏数据”或者无效数据。
根据本公开的可选实施例,对接收到的待处理的数据进行验证,还可以包括对接收到的待处理的数据进行数据清洗,格式统一等。
根据本公开的实施例,通过对接收到的待处理的数据进行验证,确定验证通过的目标数据,避免了无效数据的后续处理过程,提高了处理能力,节省了处理空间。
在操作S220,对目标数据进行标记,生成目标数据的标识信息。
根据本公开的实施例,目标数据的标识信息生成策略,可以基于目标处理器进行设置。目标数据的标识信息与后续操作中的目标处理器相互对应,有利于将目标数据传输至对应的目标处理器进行处理。
在操作S230,确定目标数据的属性特征。
根据本公开的实施例,目标数据的属性特征可以是该目标数据的唯一属性特征,在多个目标数据存在的情况下,可以通过属性特征进行区分,将对应的数据存入对应的缓存节点以及从对应的缓存节点提取欲提取的数据。
在操作S240,基于属性特征,对目标数据和目标数据的标识信息进行缓存与提取,以便与标识信息对应的目标处理器接收目标数据,以及对目标数据进行处理。
根据本公开的实施例,基于属性特征,对目标数据和目标数据的标识信息进行缓存与提取,为缓存与提取提供依据。
根据本公开的实施例,将目标数据和目标数据的标识信息进行缓存与提取,实现目标处理器的异步处理数据的处理方式,提高目标处理器对数据的处理能力,减少用户终端请求的等待时间,提高响应速度。
根据本公开的实施例,相比于现有技术直接将上报数据流转至处理器,本公开经对接收到的待处理的数据进行验证、标记以及缓存与提取的处理过程,避免了业务繁杂导致的逻辑处理混乱、以及在处理器中的无效流转等问题,进而提升用户体验,提升运营效率。
下面参考图3~图4,结合具体实施例对图2所示的方法做进一步说明。
图3示意性示出了根据本公开另一实施例的数据处理方法的流程图。
如图3所示,数据处理方法包括操作S310~S360。
在操作S310,接收待处理的数据。
在操作S320,对接收到的待处理的数据进行验证,确定验证通过的目标数据。
在操作S330,对目标数据进行标记,生成目标数据的标识信息。
根据本公开的可选实施例,对目标数据进行标记,生成目标数据的标识信息可以包括如下操作。例如获取目标数据的异常原因信息;以及基于目标数据的异常原因信息对目标数据进行标记,生成目标数据的标识信息,其中,目标数据的标识信息包括异常原因标识信息或者待处理方式标识信息。
根据本公开的实施例,对目标数据进行标记的主要目的是,一方面,标识信息表征后续将要流转到的对应的目标处理器,为后续目标数据流转提供依据,防止无效流转;另一方面,标识信息标识后,防止将多个具有不同的标识信息的目标数据因代码的耦合而流转到同一目标处理器,最终导致无关联的业务之间的牵扯与改动。
在操作S340,将目标数据和目标数据的标识信息进行封装,生成目标格式的数据。
在操作S350,确定目标数据的属性特征。
在操作S360,基于属性特征,对目标格式的数据进行缓存与提取。
根据本公开的实施例,待处理的数据可以为不同渠道上报流转来的数据。如图3中,待处理的数据可以是由用户终端通过Web环境发送的数据、抓取到的数据或者数据接口传输的数据。数据上报方式复杂,多种渠道导致数据不规整,具有多样性。
根据本公开的实施例,可以在生成目标数据的标识信息后,将目标数据和目标数据的标识信息进行封装,生成目标格式的数据。保证数据在后续流转中的完整性和唯一性。
如图3所示,根据本公开的其他实施例,操作S320还可以包括操作S3210、S3221和S3222。
在操作S3210,判断数据是否包括预设验证信息。
在操作S3221,在数据包括预设验证信息的情况下,将数据确定为目标数据。
在操作S3222,在数据不包括预设验证信息的情况下,滤除不包括预设验证信息的的数据。
根据本公开的实施例,预设验证信息可以为预设的某字段信息,例如部门字段信息;但是并不局限于此,还可以是调用接口识别信息、单号信息等。
根据本公开的实施例,通过对待处理的数据进行验证,能够验证过滤掉目标处理器不能处理的数据,避免后续无效数据流转以及资源的浪费。
根据本公开的实施例,基于属性特征,对目标数据和目标数据的标识信息进行缓存与提取可以具体包括如下操作。
对目标数据和目标数据的标识信息进行哈希值计算,确定目标数据和目标数据的标识信息的哈希值;基于目标数据和目标数据的标识信息的哈希值,将目标数据和目标数据的标识信息缓存至与哈希值对应的缓存节点中;以及基于哈希值,从与哈希值对应的缓存节点中提取目标数据和目标数据的标识信息;其中,缓存节点为缓存虚拟划分的多个节点中的一个或多个。
根据本公开的实施例,属性特征可以为通过哈希值计算得到的哈希值。
根据本公开的实施例,本公开的哈希值计算可以采用一致性哈希算法进行计算。
根据本公开的实施例,可以为采用目标数据的ID信息和目标数据的标识信息的集合作为输入进行哈希值计算,得到目标数据和目标数据的标识信息的哈希值;但是并不局限于此,还可以采用其他的目标数据和目标数据的标识信息的特征信息作为哈希值计算的输入,只要能够唯一标识即可。
根据本公开的实施例,判断目标数据和目标数据的标识信息应该被存入多个缓存节点中的具***置。不仅要得到目标数据和目标数据的标识信息的哈希值;还需要对缓存节点进行哈希值计算。
根据本公开的实施例,对缓存节点进行哈希值计算,可以将缓存节点的IP地址作为输入,但是并不局限于此,还可以采用缓存节点的其他特征信息作为输入,只要能够是对应缓存节点的唯一标识信息即可。
根据本公开的实施例,目标数据和目标数据的标识信息的哈希值与缓存节点的哈希值的对应关系,只要能够相互映射即可。在本公开中,可以利用hash环(哈希环)得到一一映射关系即可。
根据本公开的实施例,缓存的方式是基于目标数据和目标数据的标识信息的哈希值与缓存节点的哈希值的映射关系,提取的方式也可以基于目标数据和目标数据的标识信息的哈希值与缓存节点的哈希值的映射关系。
根据本公开的实施例,采用哈希值计算的方式,利用哈希值对应关系,相对于从缓存节点中遍历查询的方式提取,快速、高效且精准。
根据本公开的可选实施例,在将目标数据和目标数据的标识信息存入缓存节点的同时,还可以记录目标数据和目标数据的标识信息的状态,并归档,用于解决***不稳定或者宕机时数据丢失的问题。
根据本公开的可选实施例,预设数据保存缓存节点,用于在将目标数据和目标数据的标识信息存入缓存节点时,还有一份相同数据同时缓存入预设数据保存缓存节点中,以起到备份的作用。
根据本公开的可选实施例,在将数据从缓存节点中提取,并发送到对应目标处理器的操作中,还可以进行监控缓存节点的缓存状态的操作,其中,缓存状态包括提取状态或空闲状态。在缓存节点的缓存状态为空闲状态的情况下,确定缓存节点为目标缓存节点,其中,目标缓存节点表征为能够对缓存节点中缓存的目标数据和目标数据的标识信息进行提取的缓存节点。
图4示意性示出了根据本公开另一实施例的应用数据处理方法的架构图。
根据本公开的可选实施例,如图4所示,数据处理方法可以通过设计分派器,例如分派器1和分派器2,来将缓存节点中的数据提取,并相应分派到对应的目标处理器,例如目标处理器1、目标处理器2或者目标处理器3。
根据本公开的实施例,同一个分派器可以对应负责将多个缓存节点中的数据提取并分派到对应的目标处理器。在此情况下,可以利用ZooKeeper(分布式协调服务)实现集群管理。
根据本公开的实施例,可以将缓存节点注册在ZooKeeper注册中心进行服务注册,例如将对应的IP地址信息和端口信息注册到ZooKeeper注册中心,实现对各个缓存节点的缓存状态的监控和记录。分派器根据该缓存状态,来确定目标缓存节点,从而避免缓存节点相互竞争的问题。
根据本公开的可选实施例,本公开的数据处理方法还可以通过设计时间窗口,确定提取目标数据和目标数据的标识信息的提取时间;在提取时间大于或等于预设阈值的情况下,转移到下一个目标缓存节点进行目标数据和目标数据的标识信息的提取。
根据本公开的实施例,在多个缓存节点对应匹配一个分派器的情况下,分派器在一个缓存节点上提取数据的时间过长,有可能会造成其他缓存节点上缓存的数据不能及时被传输至目标服务器进行处理,导致数据积压。而通过确定提取时间,把控提取时间的长度,则避免了路由长时间被一个缓存节点占用而导致其他数据积压的问题。
综上所述,本公开的数据处理方法,通过对接收到的待处理的数据进行验证,确定验证通过的目标数据,实现了数据清洗的效果,方便业务方需求的变更。利用缓存技术来异步处理数据,提高***对数据的处理能力。并且能够根据业务需求,将数据分在不同的阶段处理,及时的变更数据处理方式,灵活调整。以及通过缓存节点注册在ZooKeepe的方式防止数据消费竞争。提高了异常数据的处理效率,提升了用户使用体验。
图5示意性示出了根据本公开的实施例的数据处理装置的框图。
如图5所示,数据处理装置500包括验证模块510、标记模块520、确定模块530、以及缓存和提取模块540。
验证模块510,用于对接收到的待处理的数据进行验证,确定验证通过的目标数据;
标记模块520,用于对目标数据进行标记,生成目标数据的标识信息;
确定模块530,用于确定目标数据的属性特征;以及
缓存和提取模块540,用于基于属性特征,对目标数据和目标数据的标识信息进行缓存与提取,以便与标识信息对应的目标处理器接收目标数据,以及对目标数据进行处理。
根据本公开的实施例,其中,属性特征包括哈希值。
根据本公开的实施例,缓存和提取模块540包括哈希值计算单元、缓存单元和提取单元。
哈希值计算单元,用于对目标数据和目标数据的标识信息进行哈希值计算,确定目标数据和目标数据的标识信息的哈希值;
缓存单元,用于基于目标数据和目标数据的标识信息的哈希值,将目标数据和目标数据的标识信息缓存至与哈希值对应的缓存节点中;
提取单元,用于基于哈希值,从与哈希值对应的缓存节点中提取目标格式的数据;其中,缓存节点为缓存虚拟划分的多个节点中的一个或多个。
根据本公开的实施例,数据处理装置500还包括状态监控模块和状态确定模块。
状态监控模块,用于监控缓存节点的缓存状态,其中,缓存状态包括提取状态或空闲状态;
状态确定模块,用于在缓存节点的缓存状态为空闲状态的情况下,确定缓存节点为目标缓存节点,其中,目标缓存节点表征为能够对缓存节点中缓存的目标数据和目标数据的标识信息进行提取的缓存节点。
根据本公开的实施例,数据处理装置500还包括时间确定模块和转移提取模块。
时间确定模块,用于确定提取目标数据和目标数据的标识信息的提取时间;
转移提取模块,用于在提取时间大于或等于预设阈值的情况下,转移到下一个目标缓存节点进行目标数据和目标数据的标识信息的提取。
根据本公开的实施例,其中,验证模块510包括判断单元、数据确定单元和滤除单元。
判断单元,用于判断数据是否包括预设验证信息;
数据确定单元,用于在数据包括预设验证信息的情况下,将数据确定为目标数据;以及
滤除单元,用于在数据不包括预设验证信息的情况下,滤除不包括预设验证信息的的数据。
根据本公开的实施例,标记模块520包括获取单元和生成单元。
获取单元,用于获取目标数据的异常原因信息;以及
生成单元,用于基于目标数据的异常原因信息对目标数据进行标记,生成目标数据的标识信息,其中,目标数据的标识信息包括异常原因标识信息或者待处理方式标识信息。
根据本公开的实施例,数据处理装置500还包括封装模块。
封装模块,用于将目标数据和目标数据的标识信息进行封装,生成目标格式的数据。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上***、基板上的***、封装上的***、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,验证模块510、标记模块520、确定模块530、以及缓存和提取模块540中的任意多个可以合并在一个模块/单元/子单元中实现,或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者,这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合,并在一个模块/单元/子单元中实现。根据本公开的实施例,验证模块510、标记模块520、确定模块530、以及缓存和提取模块540中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上***、基板上的***、封装上的***、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,验证模块510、标记模块520、确定模块530、以及缓存和提取模块540中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
需要说明的是,本公开的实施例中数据处理装置部分与本公开的实施例数据处理方法部分是相对应的,数据处理装置部分的描述具体参考数据处理方法部分,在此不再赘述。
图6示意性示出了根据本公开实施例的适于实现上文描述的方法的计算机***的框图。图6示出的计算机***仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,根据本公开实施例的计算机***600包括处理器601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。处理器601例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器601还可以包括用于缓存用途的板载存储器。处理器601可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 603中,存储有***600操作所需的各种程序和数据。处理器601、ROM 602以及RAM 603通过总线604彼此相连。处理器601通过执行ROM 602和/或RAM 603中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 602和RAM 603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,***600还可以包括输入/输出(I/O)接口605,输入/输出(I/O)接口605也连接至总线604。***600还可以包括连接至I/O接口605的以下部件中的一项或多项:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被处理器601执行时,执行本公开实施例的***中限定的上述功能。根据本公开的实施例,上文描述的***、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/***中所包含的;也可以是单独存在,而未装配入该设备/装置/***中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 602和/或RAM 603和/或ROM 602和RAM 603以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行本公开实施例所提供的方法的程序代码,当计算机程序产品在电子设备上运行时,该程序代码用于使电子设备实现本公开实施例所提供的数据处理方法。
在该计算机程序被处理器601执行时,执行本公开实施例的***/装置中限定的上述功能。根据本公开的实施例,上文描述的***、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分609被下载和安装,和/或从可拆卸介质611被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (10)
1.一种数据处理方法,包括:
对接收到的待处理的数据进行验证,确定验证通过的目标数据;
对所述目标数据进行标记,生成所述目标数据的标识信息,其中,所述目标数据的标识信息表征用于处理所述目标数据的目标处理器;
确定所述目标数据的属性特征,其中,所述属性特征是通过对所述目标数据和所述目标数据的标识信息进行哈希值计算得到的;以及
基于所述属性特征,对所述目标数据和所述目标数据的标识信息进行缓存与提取,以便与所述标识信息对应的目标处理器接收所述目标数据,以及对所述目标数据进行处理;
其中,所述对所述目标数据进行标记,生成所述目标数据的标识信息包括:
获取所述目标数据的异常原因信息;以及
基于所述目标数据的异常原因信息对所述目标数据进行标记,生成所述目标数据的标识信息,其中,所述目标数据的标识信息包括异常原因标识信息或者待处理方式标识信息。
2.根据权利要求1所述的方法,其中,所述属性特征包括哈希值;
所述基于所述属性特征,对所述目标数据和所述目标数据的标识信息进行缓存与提取包括:
对所述目标数据和所述目标数据的标识信息进行哈希值计算,确定所述目标数据和所述目标数据的标识信息的哈希值;
基于所述目标数据和所述目标数据的标识信息的哈希值,将所述目标数据和所述目标数据的标识信息缓存至与所述哈希值对应的缓存节点中;
基于所述哈希值,从与所述哈希值对应的缓存节点中提取所述目标格式的数据;
其中,所述缓存节点为缓存虚拟划分的多个节点中的一个或多个。
3.根据权利要求2所述的方法,还包括:
监控所述缓存节点的缓存状态,其中,所述缓存状态包括提取状态或空闲状态;
在所述缓存节点的缓存状态为空闲状态的情况下,确定所述缓存节点为目标缓存节点,其中,所述目标缓存节点表征为能够对所述缓存节点中缓存的所述目标数据和所述目标数据的标识信息进行提取的缓存节点。
4.根据权利要求3所述的方法,还包括:
确定提取所述目标数据和所述目标数据的标识信息的提取时间;
在所述提取时间大于或等于预设阈值的情况下,转移到下一个目标缓存节点进行所述目标数据和所述目标数据的标识信息的提取。
5.根据权利要求1所述的方法,其中,所述对接收到的待处理的数据进行验证,确定目标数据包括:
判断所述数据是否包括预设验证信息;
在所述数据包括预设验证信息的情况下,将所述数据确定为目标数据;以及
在所述数据不包括预设验证信息的情况下,滤除不包括预设验证信息的数据。
6.根据权利要求1所述的方法,还包括:
将所述目标数据和所述目标数据的标识信息进行封装,生成目标格式的数据。
7.一种数据处理装置,包括:
验证模块,用于对接收到的待处理的数据进行验证,确定验证通过的目标数据;
标记模块,用于对所述目标数据进行标记,生成所述目标数据的标识信息,其中,所述目标数据的标识信息表征用于处理所述目标数据的目标处理器;
确定模块,用于确定所述目标数据的属性特征,其中,所述属性特征是通过对所述目标数据和所述目标数据的标识信息进行哈希值计算得到的;以及
缓存和提取模块,用于基于所述属性特征,对所述目标数据和所述目标数据的标识信息进行缓存与提取,以便与所述标识信息对应的目标处理器接收所述目标数据,以及对所述目标数据进行处理;
其中,所述标记模块包括:
获取单元,用于获取所述目标数据的异常原因信息;以及
生成单元,用于基于所述目标数据的异常原因信息对所述目标数据进行标记,生成所述目标数据的标识信息,其中,所述目标数据的标识信息包括异常原因标识信息或者待处理方式标识信息。
8.一种计算机***,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现权利要求1至6中任一项所述的方法。
9.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器实现权利要求1至6中任一项所述的方法。
10.一种计算机程序产品,包括计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现权利要求1至6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110150449.6A CN113779021B (zh) | 2021-02-03 | 2021-02-03 | 数据处理方法、装置、计算机***及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110150449.6A CN113779021B (zh) | 2021-02-03 | 2021-02-03 | 数据处理方法、装置、计算机***及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113779021A CN113779021A (zh) | 2021-12-10 |
CN113779021B true CN113779021B (zh) | 2024-05-17 |
Family
ID=78835585
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110150449.6A Active CN113779021B (zh) | 2021-02-03 | 2021-02-03 | 数据处理方法、装置、计算机***及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113779021B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115225586B (zh) * | 2022-07-14 | 2024-04-26 | 中科驭数(北京)科技有限公司 | 数据包发送方法、装置、设备及计算机可读存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105049431A (zh) * | 2015-06-30 | 2015-11-11 | 深圳市深信服电子科技有限公司 | 数据访问控制方法和装置 |
CN106851636A (zh) * | 2017-01-10 | 2017-06-13 | 南京邮电大学 | 一种应用于无线传感器网络的动态密钥虚假数据过滤方法 |
CN108881397A (zh) * | 2018-05-25 | 2018-11-23 | 沈阳东软医疗***有限公司 | 医疗设备处理信息的方法、装置、设备及存储介质 |
CN109101641A (zh) * | 2018-08-20 | 2018-12-28 | 联想(北京)有限公司 | 表格处理方法、装置、***和介质 |
CN110008257A (zh) * | 2019-04-10 | 2019-07-12 | 深圳市腾讯计算机***有限公司 | 数据处理方法、装置、***、计算机设备和存储介质 |
CN111078147A (zh) * | 2019-12-16 | 2020-04-28 | 南京领行科技股份有限公司 | 一种缓存数据的处理方法、装置、设备及存储介质 |
CN111125107A (zh) * | 2019-12-23 | 2020-05-08 | 京东数字科技控股有限公司 | 数据处理方法、装置、电子设备和介质 |
CN111382146A (zh) * | 2018-12-29 | 2020-07-07 | 浙江宇视科技有限公司 | 数据存储控制方法、装置、设备以及存储介质 |
-
2021
- 2021-02-03 CN CN202110150449.6A patent/CN113779021B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105049431A (zh) * | 2015-06-30 | 2015-11-11 | 深圳市深信服电子科技有限公司 | 数据访问控制方法和装置 |
CN106851636A (zh) * | 2017-01-10 | 2017-06-13 | 南京邮电大学 | 一种应用于无线传感器网络的动态密钥虚假数据过滤方法 |
CN108881397A (zh) * | 2018-05-25 | 2018-11-23 | 沈阳东软医疗***有限公司 | 医疗设备处理信息的方法、装置、设备及存储介质 |
CN109101641A (zh) * | 2018-08-20 | 2018-12-28 | 联想(北京)有限公司 | 表格处理方法、装置、***和介质 |
CN111382146A (zh) * | 2018-12-29 | 2020-07-07 | 浙江宇视科技有限公司 | 数据存储控制方法、装置、设备以及存储介质 |
CN110008257A (zh) * | 2019-04-10 | 2019-07-12 | 深圳市腾讯计算机***有限公司 | 数据处理方法、装置、***、计算机设备和存储介质 |
CN111078147A (zh) * | 2019-12-16 | 2020-04-28 | 南京领行科技股份有限公司 | 一种缓存数据的处理方法、装置、设备及存储介质 |
CN111125107A (zh) * | 2019-12-23 | 2020-05-08 | 京东数字科技控股有限公司 | 数据处理方法、装置、电子设备和介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113779021A (zh) | 2021-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2018184535A1 (zh) | 保险业务处理方法、装置、服务器和存储介质 | |
CN111800462B (zh) | 微服务实例处理方法、装置、计算机设备及存储介质 | |
US9948524B2 (en) | Network element diagnostic evaluation | |
CN114201278B (zh) | 任务处理方法、任务处理装置、电子设备以及存储介质 | |
CN110807050B (zh) | 性能分析方法、装置、计算机设备及存储介质 | |
CN114760233B (zh) | 业务处理方法、装置、电子设备及存储介质 | |
CN113779021B (zh) | 数据处理方法、装置、计算机***及可读存储介质 | |
CN112860412B (zh) | 业务数据处理方法、装置、电子设备及存储介质 | |
CN114020529A (zh) | 一种流表数据的备份方法、装置、网络设备和存储介质 | |
CN113791792A (zh) | 应用调用信息的获取方法、设备以及存储介质 | |
CN109981697B (zh) | 一种文件转存方法、***、服务器及存储介质 | |
CN114449040B (zh) | 基于云平台的配置下发方法及装置 | |
CN114356713A (zh) | 线程池监控方法、装置、电子设备及存储介质 | |
CN110753082B (zh) | 服务调用方法及终端设备 | |
CN113781154A (zh) | 一种信息回滚方法、***、电子设备及存储介质 | |
WO2019169696A1 (zh) | 平台客户数据回流方法、电子装置、设备及存储介质 | |
CN114844810B (zh) | 心跳数据处理方法、装置、设备及介质 | |
CN112215527A (zh) | 一种物流管理方法及装置 | |
CN115333871B (zh) | 防火墙的运维方法及装置、电子设备和可读存储介质 | |
CN117435367B (zh) | 用户行为处理方法、装置、设备、存储介质和程序产品 | |
CN114844957B (zh) | 链路报文转换方法、装置、设备、存储介质和程序产品 | |
CN113452703B (zh) | 组合通信请求响应方法、装置、电子设备及可读存储介质 | |
CN116627682B (zh) | 基于共享内存的远程工业信息检测方法及装置 | |
CN113434508B (zh) | 用于存储信息的方法和装置 | |
US11212259B2 (en) | Inspection offload clustering |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |