CN114238476A - 数据处理方法、装置、终端设备及存储介质 - Google Patents

数据处理方法、装置、终端设备及存储介质 Download PDF

Info

Publication number
CN114238476A
CN114238476A CN202111538650.8A CN202111538650A CN114238476A CN 114238476 A CN114238476 A CN 114238476A CN 202111538650 A CN202111538650 A CN 202111538650A CN 114238476 A CN114238476 A CN 114238476A
Authority
CN
China
Prior art keywords
data
group
data group
database
cache
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111538650.8A
Other languages
English (en)
Inventor
唐健
邹倡振
韩占东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Kemanda Intelligent Management Science & Technology Co ltd
Original Assignee
Shenzhen Kemanda Intelligent Management Science & Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Kemanda Intelligent Management Science & Technology Co ltd filed Critical Shenzhen Kemanda Intelligent Management Science & Technology Co ltd
Priority to CN202111538650.8A priority Critical patent/CN114238476A/zh
Publication of CN114238476A publication Critical patent/CN114238476A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25—Integrating or interfacing systems involving database management systems
    • G06F16/258—Data format conversion from or to a database
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22—Indexing; Data structures therefor; Storage structures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06395—Quality analysis or management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G06Q10/103—Workflow collaboration or project management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/04—Manufacturing
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30—Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Theoretical Computer Science (AREA)
  • Strategic Management (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Data Mining & Analysis (AREA)
  • Tourism & Hospitality (AREA)
  • Educational Administration (AREA)
  • Quality & Reliability (AREA)
  • Operations Research (AREA)
  • Development Economics (AREA)
  • General Engineering & Computer Science (AREA)
  • Game Theory and Decision Science (AREA)
  • Software Systems (AREA)
  • Manufacturing & Machinery (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请适用于计算机技术领域，提供了一种数据处理方法、装置、终端设备及存储介质，该方法包括：获取消息中间件中的待处理数据；将待处理数据划分为至少一个数据组，每个数据组中的数据属于相同的数据类型；统计数据组的数据量；当数据组的数据量达到预设值时，根据数据组对应的数据类型将数据组中的数据存储到数据库中。通过上述方法可以减少数据输入数据库的频次，从而提升数据库性能。

Description

数据处理方法、装置、终端设备及存储介质
技术领域
本申请属于计算机技术领域，尤其涉及一种数据处理方法、装置、终端设备及存储介质。
背景技术
随着大数据时代的到来，各个行业对数据价值越来重视。数据价值与数据分析密不可分。通过数据分析能够根据客户的战略目标推动他们的业务向前发展。比如在企业经营过程中的数据分析，通过数据分析形成数据分析报表从而能够清楚的了解到企业的运营状况。
目前非标项目离线分析，数据需要频繁的输入到数据库中，这会造成数据库性能降低问题。
发明内容
本申请实施例提供了一种数据处理方法、装置、终端设备及存储介质，可以减少数据输入数据库的频次，从而提升数据库性能。
第一方面，本申请实施例提供了一种数据处理方法，包括：
获取消息中间件中的待处理数据；
将所述待处理数据划分为至少一个数据组，每个数据组中的数据属于相同的数据类型；
统计所述数据组的数据量；
当所述数据组的数据量达到预设值时，根据所述数据组对应的数据类型将所述数据组中的数据存储到数据库中。
第二方面，本申请实施例提供了一种数据处理装置，包括：
获取模块，用于获取消息中间件中的待处理数据；
分组模块，用于将所述待处理数据划分为至少一个数据组，每个数据组中的数据属于相同的数据类型；
统计模块，用于统计所述数据组的数据量；
第一数据处理模块，用于在所述数据组的数据量达到预设值时，根据所述数据组对应的数据类型将所述数据组中的数据存储到数据库中。
第三方面，本申请实施例提供了一种终端设备，包括：存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面中任一项所述的数据处理方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面中任一项所述的数据处理方法。
第五方面，本申请实施例提供了一种计算机程序产品，当计算机程序产品在终端设备上运行时，使得终端设备执行上述第一方面中任一项所述的数据处理方法。
本申请第一方面实施例与现有技术相比存在的有益效果是：首先通过获取消息中间件中的待处理数据；将待处理数据划分为至少一个数据组，每个数据组中的数据属于相同的数据类型；之后，统计数据组的数据量，最后当数据组的数据量达到预设值时，根据数据组对应的数据类型将数据组中的数据存储到数据库中，这样，通过对从消息中间件中获取的待处理数据进行数据处理，能够提升数据处理的及时性；而且，当数据量达到预设值时，将对应的数据存储到数据库中，能够减少数据输入数据库的频次，从而提升数据库性能。
可以理解的是，上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述，在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的数据处理方法的流程示意图；
图2是本申请另一实施例提供的数据处理方法的流程示意图；
图3是本申请一实施例提供的数据处理装置的结构示意图；
图4是本申请一实施例提供的终端设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定***结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的***、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
应当理解，当在本申请说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
如在本申请说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当……时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
图1示出了本申请提供的数据处理方法的示意性流程图，需要说明的是，执行本申请实施例方法的终端设备为服务器。参照图1，对该数据处理方法的详述如下：
S101，获取消息中间件中的待处理数据。
本步骤中，消息中间件是基于队列与消息传递技术，在网络环境中为应用***提供同步或异步、可靠的消息传输的支撑性软件***。
为了节约成本，作为示例而非限定，消息中间件为Kafka，其中，Kafka是一种高吞吐量的分布式发布订阅消息***，它可以处理消费者规模的网站中的所有动作流数据。
需要说明的是，消息中间件中的待处理数据一般是消息中间件接收到的由前端数据采集设备上传的数据。
若待处理数据为待处理的非标项目数据，由于非标项目离线分析都是在数据存储到数据库后再进行分析，且为定时分析，比如每隔一个小时执行一次，各类报表所展示的数据都是前段时间的统计结果，数据分析缺乏实时性，这样会导致数据不准，造成分析报表不能及时反映经非标项目经营情况的问题。而本步骤中服务器从消息中间件中获取待处理的非标项目数据，能够提升后续数据处理的及时性。
S102，将待处理数据划分为至少一个数据组，每个数据组中的数据属于相同的数据类型。
需要说明的是，每个数据组中的数据所属的数据类型可以是一个或者多个。也就是说，划分待处理数据的维度可以是多个，这里维度应理解为分类项或者数据类型。比如，若待处理数据为收费类数据，则数据组中的数据类型可包括应收金额、实收金额、实收笔数、优惠金额、优惠笔数等。这样，便于后续基于该数数据组生成的数据分析报表对应的数据条理是清楚的，能够反映对应项目的运营情况。更具体的，若待处理数据为小区物业的停车场的停车收费数据，则数据组中的数据类型可包括停车场编号、停车时长、实收金额、支付方式等。
S103，统计数据组的数据量。
这里，针对每个数据组，都执行该步骤中，也就是说，统计每个数据组的数据量。
基于本申请实施例的方法，若最终要得到的是数据分析报表，可选的，数据组的数据量为数据组的数据条数。
S104，当数据组的数据量达到预设值时，根据数据组对应的数据类型将数据组中的数据存储到数据库中。
本步骤中，当数据组的数据量达到预设值，比如数据组的数据条数达到10条，根据数据组对应的数据类型将数据组中的数据存储到数据库中，而不是来一条数据就将这条数据存储到数据库中，这样，能够减少数据输入数据库的频次，从而提升数据库性能。
需要说明的是，预设值是可以预先配置的，预设值具体配置规则是在兼顾数据存储实时性的基础上，减少数据输入数据库的频次。
在一种可能的实现方式中，步骤S104的实现过程可以包括：
若数据库中存在与数据组对应的数据类型相同的第一目标数据，则以第一预设方式将数据组中的数据存储到数据库中；
若数据库中不存在与数据组对应的数据类型相同的第一目标数据，则以第二预设方式将数据组中的数据存储到数据库中。
本实现方式中，对于数据组中的数据存储到数据库中采用两种预设方式实现。
其中，若数据库中存在与数据组对应的数据类型相同的第一目标数据，则以第一预设方式将数据组中的数据存储到数据库中，可具体包括：
若数据库中存在与数据组对应的数据类型相同的第一目标数据，则根据数据组对应的数据类型对数据组的数据进行汇总，得到第一中间数据。
将第一中间数据与第一目标数据累加，得到更新后的第一目标数据。
需要说明的是，数据库中存在与数据组对应的数据类型相同的第一目标数据，说明在此之前，数据库中已经存储有与该数据组对应的数据类型相同的数据，此时，对数据组的数据进行汇总，得到第一中间数据，即第一汇总结果，将第一中间数据与第一目标数据累加，得到更新后的第一目标数据，可以是先将第一中间数据存储至数据库中，之后，再对数据库中的第一中间数据和第一目标数据累加，得到更新后的第一目标数据；还可以是先将第一中间数据与第一目标数据累加，得到累加后的数据，之后将累加后的数据更新到数据库中，累加后的数据为更新后的第一目标数据。上述存储方式并不是将数据组的数据不做任何处理，直接存储到数据库中(比如数据组中有10条数据，将这10条数据直接存储到数据库中)，这样可以节省数据库的存储空间，而且在存入数据库之前进行了数据汇总，与之前待数据传输到数据库后再进行处理相比，提升了数据处理的实时性，提高数据处理效率。
应理解，基于本申请实施例的方法，若最终要得到的是数据分析报表，可选的，本实现方式中对数据进行汇总的方式包括但不限于求和、求平均、计数。
若数据库中不存在与数据组对应的数据类型相同的第一目标数据，则以第二预设方式将数据组中的数据存储到数据库中，可具体包括：
若数据库中不存在与数据组对应的数据类型相同的第一目标数据，则在数据库中为该数据组分配第一存储区域，将该数据组中的数据(后文称为第三目标数据)存储到第一存储区域内。
当从消息中间件中再次获取数据组，若数据组的数据类型与该第三目标数据的数据类型相同，则可以按照上述的若数据库中存在与数据组对应的数据类型相同的第一目标数据的存储方式将数据组中的数据存储到第一存储区域内。
需要说明的是，数据库中不存在与数据组对应的数据类型相同的数据，说明在此之间数据库中没有存储与数据组对应的数据类型相同的数据，那么将新数据类型的数据直接***到数据库中，用于将新数据类型的数据记录到数据库中。
在一种可能的实现方式中，参照图2，在步骤S103之后，上述方法还包括：
S105，当数据组的数据量未达到预设值时，根据数据组对应的数据类型将数据组中的数据存储到缓存中。
本步骤中，当数据组的数据量未达到预设值，即小于预设值，比如数据组的数据条数小于10条，根据数据组对应的数据类型将数据组中的数据存储到缓存中，其目的是为了减少数据输入数据库的频次，暂时将数据存储到缓存中。
本实现方式中，对于数据组中的数据存储到数据库中采用两种预设方式实现。
其中，若缓存中存在与数据组对应的数据类型相同的第二目标数据，则以第三预设方式将数据组中的数据存储到缓存中。
若缓存中不存在与数据组对应的数据类型相同的第二目标数据，则以第四预设方式将数据组中的数据存储到缓存中。
相应的，若缓存中存在与数据组对应的数据类型相同的第二目标数据，则以第三预设方式将数据组中的数据存储到缓存中，可具体包括：
若缓存中存在与数据组对应的数据类型相同的第二目标数据，则对数据组的数据进行汇总，得到第二中间数据。
将第二中间数据与第二目标数据累加，得到更新后的第二目标数据。
需要说明的是，缓存中存在与数据组对应的数据类型相同的第二目标数据，说明在此之间，缓存中已经存储有与该数据组对应的数据类型相同的数据，此时，对数据组的数据进行汇总，得到第二中间数据，即第二汇总结果，将第一中间数据与第一目标数据累加，得到更新后的第二目标数据，可以是先将第二中间数据存储至缓存中，之后，再对缓存中的第二中间数据和第二目标数据累加，得到更新后的第二目标数据；还可以是先将第二中间数据与第二目标数据累加，得到累加后的数据，之后将累加后的数据更新到缓存中，累加后的数据为更新后第二目标数据。上述存储方式并不是将数据组的数据不做任何处理，直接存储到缓存中，这样可以进一步节省缓存的存储空间，而且在存入缓存之前就进行了数据汇总，提升数据处理的实时性，提高数据处理的效率。
应理解，基于本申请实施例的方法，若最终要得到的是数据分析报表，可选的，本实现方式中对数据进行汇总的方式包括但不限于求和、求平均、计数。
若缓存中不存在与数据组对应的数据类型相同的第二目标数据，则以第四预设方式将数据组中的数据存储到缓存中，可具体包括：
若缓存中不存在与数据组对应的数据类型相同的第二目标数据，则在缓存中为该数据组分配第一缓存区域，将该数据组中的数据(后文称为第四目标数据)存储到第一缓存区域内。
当从消息中间件再次获取数据组，若数据组的数据类型与第四目标数据的数据类型相同，则可以按照上述的若缓存中存在与数据组对应的数据类型相同的第二目标数据的存储方式将该数据组中的数据存储到第一缓存区域内。
需要说明的是，缓存中不存在与数据组对应的数据类型相同的数据，说明在此之前缓存中没有存储于与数据组对应的数据类型相同的数据，那么将新数据类型的数据直接***缓存，用于将新数据类型的数据记录到缓存中。
上述已经说明当数据组的数据量未达到预设值时，根据数据组对应的数据类型将数据组中的数据存储到缓存中，其目的是为了减少数据输入数据库的频次，暂时将数据存储到缓存中。但为了后续得到准确的数据分析报表，数据不能永久存储在缓存中，因此，何时将缓存中的数据存储至数据库中显得尤为重要，在一种可能的实现方式中，在当所述数据组的数据量未达到预设值时，根据所述数据组对应的数据类型将所述数据组中的数据存储至缓存中之后，上述方法还包括：
当接收到调用指令时，根据调用指令将缓存中的数据定时存储至数据库中。
可选的，每当接收到调用指令，即将缓存中的数据全部存储至数据库中。
可选的，调用指令中携带有定时时长时，根据定时时长(比如每3分钟、每5分钟等)将缓存中的数据存储至数据库中，其目的一者是为了减少缓存中的数据输入数据库的频次，提升数据库性能，二者是为了提升数据处理的实时性。
这里，该定时时长可预先设置。设置原则是定时时长要短于现有数据离线分析的定时分析的时长，这样能够确保数据分析的实时性，提升数据分析报表的准确性，进而提高用户体验、保证平台稳定可靠和降低成本。
可选的，还可以每当缓存中的数据量累计到预设数据量时，将缓存中的数据存储至数据库中。
对应于上文实施例所述的方法，图3示出了本申请实施例提供的数据处理装置的结构框图，为了便于说明，仅示出了与本申请实施例相关的部分。
参照图3，该装置200可以包括：获取模块210、分组模块220、统计模块230和第一处理模块240。
其中，获取模块210用于获取消息中间件中的待处理数据；分组模块220，用于将待处理数据划分为至少一个数据组，每个数据组中的数据属于相同的数据类型；统计模块230，用于统计数据组的数据量；第一数据处理模块240，用于在数据组的数据量达到预设值时，根据数据组对应的数据类型将数据组中的数据存储到数据库中。
在一种可能的实现方式中，第一数据处理模块240具体包括：
第一数据处理单元，用于在数据库中存在与数据组对应的数据类型相同的第一目标数据时，以第一预设方式将数据组中的数据存储到数据库中。
第二数据处理单元，用于在数据库中不存在与所述数据组对应的数据类型相同的第一目标数据时，以第二预设方式将数据组中的数据存储到数据库中。
在一种可能的实现方式中，第一数据处理单元可以具体用于：
若数据库中存在与数据组对应的数据类型相同的第一目标数据，则在消息中间件中根据数据组对应的数据类型，则对数据组的数据进行汇总，得到第一中间数据；
将第一中间数据与第一目标数据累加，得到更新后的第一目标数据。
在一种可能的实现方式中，该装置200还包括：
第二数据处理模块，用于当数据组的数据量未达到预设值时，根据数据组对应的数据类型将数据组中的数据存储到缓存中。
在一种可能的实现方式中，第二数据处理模块具体包括：
第三数据处理单元，用于在数据库中存在与数据组对应的数据类型相同的第二目标数据时，以第三预设方式将数据组中的数据存储到缓存中。
第四数据处理单元，用于在数据库中不存在与数据组对应的数据类型相同的第二目标数据时，以第四预设方式将数据组中的数据存储到缓存中。
在一种可能的实现方式中，第三数据处理单元具体用于：
若缓存中存在与数据组对应的数据类型相同的第二目标数据，则对数据组的数据进行汇总，得到第二中间数据；
将第二中间数据与第二目标数据累加，得到更新后的第二目标数据。
在一种可能的实现方式中，该装置200还包括：
当接收到调用指令时，根据调用指令将缓存中的数据存储至数据库中。
需要说明的是，上述装置/单元之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
本申请实施例还提供了一种终端设备，参见图4，该终端设备300可以包括：至少一个处理器310、存储器320以及存储在所述存储器320中并可在所述至少一个处理器310上运行的计算机程序，所述处理器310执行所述计算机程序时实现上述任意各个方法实施例中的步骤，例如图1所示实施例中的步骤S101至步骤S104。或者，处理器310执行所述计算机程序时实现上述各装置实施例中各模块/单元的功能，例如图3所示模块210至240的功能。
示例性的，计算机程序可以被分割成一个或多个模块/单元，一个或者多个模块/单元被存储在存储器320中，并由处理器310执行，以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序段，该程序段用于描述计算机程序在终端设备300中的执行过程。
本领域技术人员可以理解，图3仅仅是终端设备的示例，并不构成对终端设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如输入输出设备、网络接入设备、总线等。
处理器310可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器320可以是终端设备的内部存储单元，也可以是终端设备的外部存储设备，例如插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)等。所述存储器320用于存储所述计算机程序以及终端设备所需的其他程序和数据。所述存储器320还可以用于暂时地存储已经输出或者将要输出的数据。
总线可以是工业标准体系结构(Industry Standard Architecture，ISA)总线、外部设备互连(Peripheral Component，PCI)总线或扩展工业标准体系结构(ExtendedIndustry Standard Architecture，EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，本申请附图中的总线并不限定仅有一根总线或一种类型的总线。
本申请实施例提供的数据处理方法可以应用于计算机、平板电脑、笔记本电脑、上网本、个人数字助理(personal digital assistant，PDA)等终端设备上，本申请实施例对终端设备的具体类型不作任何限制。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的终端设备、装置和方法，可以通过其它的方式实现。例如，以上所描述的终端设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被一个或多个处理器执行时，可实现上述各个方法实施例的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被一个或多个处理器执行时，可实现上述各个方法实施例的步骤。
同样，作为一种计算机程序产品，当计算机程序产品在终端设备上运行时，使得终端设备执行时实现可实现上述各个方法实施例中的步骤。
其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random AccessMemory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括是电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种数据处理方法，其特征在于，包括：
获取消息中间件中的待处理数据；
将所述待处理数据划分为至少一个数据组，每个数据组中的数据属于相同的数据类型；
统计所述数据组的数据量；
当所述数据组的数据量达到预设值时，根据所述数据组对应的数据类型将所述数据组中的数据存储到数据库中。
2.如权利要求1所述的数据处理方法，其特征在于，所述根据所述数据组对应的数据类型将所述数据组中的数据存储到数据库中，包括：
若所述数据库中存在与所述数据组对应的数据类型相同的第一目标数据，则以第一预设方式将所述数据组中的数据存储到所述数据库中；
若所述数据库中不存在与所述数据组对应的数据类型相同的第一目标数据，则以第二预设方式将所述数据组中的数据存储到所述数据库中。
3.如权利要求2所述的数据处理方法，其特征在于，所述若所述数据库中存在与所述数据组对应的数据类型相同的第一目标数据，则以第一预设方式将所述数据组中的数据存储到所述数据库中，包括：
若所述数据库中存在与所述数据组对应的数据类型相同的第一目标数据，则根据所述数据组对应的数据类型对所述数据组的数据进行汇总，得到第一中间数据；
将所述第一中间数据与所述第一目标数据累加，得到更新后的第一目标数据。
4.如权利要求1所述的数据处理方法，其特征在于，在统计所述数据组的数据量之后，所述方法还包括：
当所述数据组的数据量未达到预设值时，根据所述数据组对应的数据类型将所述数据组中的数据存储到缓存中。
5.如权利要求4所述的数据处理方法，其特征在于，所述根据所述数据组对应的数据类型将所述数据组中的数据存储到缓存中，包括：
若所述缓存中存在与所述数据组对应的数据类型相同的第二目标数据，则以第三预设方式将所述数据组中的数据存储到所述缓存中；
若所述缓存中不存在与所述数据组对应的数据类型相同的第二目标数据，则以第四预设方式将所述数据组中的数据存储到所述缓存中。
6.如权利要求5所述的数据处理方法，其特征在于，所述若所述缓存中存在与所述数据组对应的数据类型相同的第二目标数据，则以第三预设方式将所述数据组中的数据存储到所述缓存中，包括：
若所述缓存中存在与所述数据组对应的数据类型相同的第二目标数据，则对所述数据组的数据进行汇总，得到第二中间数据；
将所述第二中间数据与所述第二目标数据累加，得到更新后的第二目标数据。
7.如权利要求4所述的数据处理方法，其特征在于，在当所述数据组的数据量未达到预设值时，根据所述数据组对应的数据类型将所述数据组中的数据存储至缓存中之后，所述方法还包括：
当接收到调用指令时，根据所述调用指令将所述缓存中的数据存储至所述数据库中。
8.一种数据处理装置，其特征在于，包括：
获取模块，用于获取消息中间件中的待处理数据；
分组模块，用于将所述待处理数据划分为至少一个数据组，每个数据组中的数据属于相同的数据类型；
统计模块，用于统计所述数据组的数据量；
第一数据处理模块，用于在所述数据组的数据量达到预设值时，根据所述数据组对应的数据类型将所述数据组中的数据存储到数据库中。
9.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的数据处理方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的数据处理方法。
CN202111538650.8A 2021-12-15 2021-12-15 数据处理方法、装置、终端设备及存储介质 Pending CN114238476A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111538650.8A CN114238476A (zh) 2021-12-15 2021-12-15 数据处理方法、装置、终端设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111538650.8A CN114238476A (zh) 2021-12-15 2021-12-15 数据处理方法、装置、终端设备及存储介质

Publications (1)

Publication Number Publication Date
CN114238476A true CN114238476A (zh) 2022-03-25

Family

ID=80756565

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111538650.8A Pending CN114238476A (zh) 2021-12-15 2021-12-15 数据处理方法、装置、终端设备及存储介质

Country Status (1)

Country Link
CN (1) CN114238476A (zh)

Similar Documents

Publication Publication Date Title
CN110225104B (zh) 数据获取方法、装置及终端设备
CN108876464B (zh) 一种作弊行为检测方法、装置、服务设备及存储介质
CN112000675A (zh) 行情数据更新方法、装置、终端设备及存储介质
CN113704243A (zh) 数据分析方法、装置、计算机装置及存储介质
CN107688626B (zh) 慢查询日志处理方法、装置及电子设备
CN110633977A (zh) 支付异常处理方法、装置及终端设备
CN111858698B (zh) 一种数据检查方法、数据检查装置及终端设备
CN113010116B (zh) 一种数据处理方法、装置、终端设备及可读存储介质
CN115328974B (zh) 一种数据实时性检测方法、装置、设备及可读存储介质
CN111104426A (zh) 一种数据查询方法及***
CN113129150A (zh) 交易数据的处理方法、装置、终端设备及可读存储介质
CN116362750A (zh) 数据筛选方法、装置、电子设备及存储介质
CN114238476A (zh) 数据处理方法、装置、终端设备及存储介质
CN116303820A (zh) 标签生成方法、装置、计算机设备及介质
CN115994830A (zh) 取数模型的构建方法和数据归集方法及相关装置
CN111222739B (zh) 核电站的任务分配方法及核电站的任务分配***
CN115422293A (zh) 一种分布式数据库及其数据检索方法
CN114648656A (zh) 图像识别方法、装置、终端设备及可读存储介质
CN113806737A (zh) 一种恶意进程风险等级评估方法、终端设备及存储介质
CN110851441A (zh) 一种数据存储方法及相关设备
CN111131393A (zh) 用户活跃度数据统计方法、电子装置及存储介质
CN116382924B (zh) 资源配置的推荐方法、装置、电子设备及存储介质
CN109344132B (zh) 用户信息的合并方法、计算机可读存储介质及终端设备
CN109447386B (zh) 工作考核方法及终端设备
CN117743344A (zh) 一种表单行数确定方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination