CN110019071A - 数据处理方法及装置 - Google Patents

数据处理方法及装置 Download PDF

Info

Publication number
CN110019071A
CN110019071A CN201711131550.7A CN201711131550A CN110019071A CN 110019071 A CN110019071 A CN 110019071A CN 201711131550 A CN201711131550 A CN 201711131550A CN 110019071 A CN110019071 A CN 110019071A
Authority
CN
China
Prior art keywords
data
data processing
processed
batching
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201711131550.7A
Other languages
English (en)
Inventor
马欢
张丹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University Founder Group Co Ltd
Beijing Founder Electronics Co Ltd
Original Assignee
Peking University Founder Group Co Ltd
Beijing Founder Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University Founder Group Co Ltd, Beijing Founder Electronics Co Ltd filed Critical Peking University Founder Group Co Ltd
Priority to CN201711131550.7A priority Critical patent/CN110019071A/zh
Publication of CN110019071A publication Critical patent/CN110019071A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/18—File system types
    • G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
    • G06F16/1815—Journaling file systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/951—Indexing; Web crawling techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明实施例提供一种数据处理方法及装置。该方法包括：获取待处理的多个数据；将待处理的多个数据构造成一个批处理数据；将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理。本发明实施例通过获取待处理的多个数据，将待处理的多个数据构造成一个批处理数据，将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理，实现了对于不同的数据可以选择不同的数据处理模块进行处理，提高了数据处理的灵活性。

Description

数据处理方法及装置
技术领域
本发明实施例涉及通信技术领域，尤其涉及一种数据处理方法及装置。
背景技术
随着互联网的迅猛发展，新闻网站、论坛网站、手机App等作为信息的主要传播渠道，新信息正不断的从中涌现，并在不同的传播渠道之间互相传播。
现有技术通过网络爬虫抓取大量的互联网数据，并经过简单格式化后进行数据处理、存储。
但是，不同的数据所需要的处理过程或处理方式可能并不相同，如此，导致数据处理的灵活性较低。
发明内容
本发明实施例提供一种数据处理方法及装置，以提高数据处理的灵活性。
本发明实施例的一个方面是提供一种数据处理方法，包括：
获取待处理的多个数据；
将待处理的多个数据构造成一个批处理数据；
将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理。
本发明实施例的另一个方面是提供一种数据处理装置，包括：
获取模块，用于获取待处理的多个数据；
构成模块，用于将待处理的多个数据构造成一个批处理数据；
发送模块，用于将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理。
本发明实施例提供的数据处理方法及装置，通过获取待处理的多个数据，将待处理的多个数据构造成一个批处理数据，将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理，实现了对于不同的数据可以选择不同的数据处理模块进行处理，提高了数据处理的灵活性。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
图1为本发明实施例提供的通信***的示意图；
图2为本发明实施例提供的数据处理方法流程图；
图3为本发明实施例提供的数据处理方法流程图；
图4为本发明实施例提供的数据处理方法流程图；
图5为本发明实施例提供的数据处理方法流程图；
图6为本发明实施例提供的数据处理装置的结构图；
图7为本发明另一实施例提供的数据处理装置的结构图。
通过上述附图，已示出本公开明确的实施例，后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本公开构思的范围，而是通过参考特定实施例为本领域技术人员说明本公开的概念。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
本发明提供的数据处理方法，可以适用于图1所示的通信***。如图1所示，该通信***包括：计算机11以及互联网12。需要说明的是，计算机11可以是连网的一台计算机，计算机具体可以是高速计算的电子计算机器，可以进行数值计算，又可以进行逻辑计算，还具有存储记忆功能，是能够按照程序运行，自动、高速处理海量数据的现代化智能电子设备。该计算机由硬件***和软件***组成。
本发明提供的数据处理方法，旨在解决现有技术的如上技术问题。
下面以具体地实施例对本发明的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合，对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图，对本发明的实施例进行描述。
本实施例方法的执行主体可以是如图1所示的计算机11，计算机11可以对数据格式进行抽象，还可以对多个不同的数据处理模块的功能进行抽象，还可以对数据处理流程进行抽象。
可选的，对数据格式进行抽象具体可以是对数据格式进行模糊化，例如将待处理的数据统一模糊化为字符格式。另外，对数据格式进行抽象时具体还可以对数据批处理进行定义，例如定义一次可处理的数据的数据量。
可选的，对多个不同的数据处理模块的功能进行抽象具体可以是将重复处理动作抽象成一个功能，一个数据处理模块执行一种功能，不同的数据处理模块执行不同的功能。例如，计算机包括多个数据处理模块，一个数据处理模块可以是一个程序包，计算机可以将多个数据处理模块分别对应的程序包集合在一起。计算机可以定义每个数据处理模块可实现的功能。每个数据处理模块在进行数据处理时，记录数据处理时的日志信息。当数据处理模块在进行数据处理时发生了中断，再次对数据进行处理时，可根据历史的日志信息恢复出数据。另外，多个数据处理模块可以对同一数据进行串行处理，不同的数据处理模块对数据进行处理的速度不同，在本实施例中，计算机还可以控制不同的数据处理模块对数据进行处理的速度，例如，同步数据处理队列，防止有的数据处理模块对数据处理过快，有的数据处理模块对数据处理过慢。
可选的，对数据处理流程进行抽象具体可以是对于不同的数据，可以选择不同的数据处理模块对不同的数据进行处理，以及选择的数据处理模块之间对该数据进行处理的先后顺序。
图2为本发明实施例提供的数据处理方法流程图。本发明实施例针对现有技术的如上技术问题，提供了数据处理方法，该方法具体步骤如下：
步骤201、获取待处理的多个数据。
本实施例方法的执行主体可以是如图1所示的计算机11，计算机11可获取待处理的多个数据。
在本实施例中，具体的，所述获取待处理的多个数据包括如下几种可行的实现方式：
一种可行的实现方式是：根据日志信息恢复出待处理的数据。
例如，当数据处理模块在进行数据处理时发生了中断，再次对数据进行处理时，可根据历史的日志信息恢复出数据。
另一种可行的实现方式是：从互联网中获取待处理的数据。
如图1所示，计算机11可以从互联网12中抓取各种类型或格式的数据。
步骤202、将待处理的多个数据构造成一个批处理数据。
例如，计算机11将从互联网12中抓取的各种类型或格式的数据，以及根据历史的日志信息恢复出的数据进行批量构造，例如构造成一个批处理数据。每个数据处理模块可以给批处理数据添加属性信息，也可以给批处理数据减少属性信息。
步骤203、将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理。
可选的，对待处理的多个数据构造成一个批处理数据的过程可以是计算机的构造模块执行的，当构造模块将待处理的多个数据构造成一个批处理数据之后，将该批处理数据发送给预设的多个数据处理模块中的第一个数据处理模块，第一个数据处理模块对该批处理数据进行处理，并记录处理过程的日志信息，当第一个数据处理模块对该批处理数据处理完之后，将该批处理数据发送给第二个数据处理模块，由第二个数据处理模块对该批处理数据进行处理，并记录处理过程的日志信息，当第二个数据处理模块对该批处理数据处理完之后，将该批处理数据发送给第三个数据处理模块，依次类推，直至最后一个数据处理模块对该批处理数据处理完。
本发明实施例通过获取待处理的多个数据，将待处理的多个数据构造成一个批处理数据，将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理，实现了对于不同的数据可以选择不同的数据处理模块进行处理，提高了数据处理的灵活性。
图3为本发明实施例提供的数据处理方法流程图。本发明实施例针对现有技术的如上技术问题，提供了数据处理方法，该方法具体步骤如下：
步骤301、根据日志信息恢复出待处理的数据。
例如，当数据处理模块在进行数据处理时发生了中断，再次对数据进行处理时，可根据历史的日志信息恢复出数据。
步骤302、将待处理的多个数据构造成一个批处理数据。
例如，计算机11将根据历史的日志信息恢复出的数据进行批量构造，例如构造成一个批处理数据。每个数据处理模块可以给批处理数据添加属性信息，也可以给批处理数据减少属性信息。
步骤303、将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理。
可选的，对待处理的多个数据构造成一个批处理数据的过程可以是计算机的构造模块执行的，当构造模块将待处理的多个数据构造成一个批处理数据之后，将该批处理数据发送给预设的多个数据处理模块中的第一个数据处理模块，第一个数据处理模块对该批处理数据进行处理，并记录处理过程的日志信息，当第一个数据处理模块对该批处理数据处理完之后，将该批处理数据发送给第二个数据处理模块，由第二个数据处理模块对该批处理数据进行处理，并记录处理过程的日志信息，当第二个数据处理模块对该批处理数据处理完之后，将该批处理数据发送给第三个数据处理模块，依次类推，直至最后一个数据处理模块对该批处理数据处理完。
本发明实施例通过获取待处理的多个数据，将待处理的多个数据构造成一个批处理数据，将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理，实现了对于不同的数据可以选择不同的数据处理模块进行处理，提高了数据处理的灵活性。
图4为本发明实施例提供的数据处理方法流程图。本发明实施例针对现有技术的如上技术问题，提供了数据处理方法，该方法具体步骤如下：
步骤401、从互联网中获取待处理的数据。
如图1所示，计算机11可以从互联网12中抓取各种类型或格式的数据。
步骤402、将待处理的多个数据构造成一个批处理数据。
例如，计算机11将从互联网12中抓取的各种类型或格式的数据进行批量构造，例如构造成一个批处理数据。每个数据处理模块可以给批处理数据添加属性信息，也可以给批处理数据减少属性信息。
步骤403、将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理。
可选的，对待处理的多个数据构造成一个批处理数据的过程可以是计算机的构造模块执行的，当构造模块将待处理的多个数据构造成一个批处理数据之后，将该批处理数据发送给预设的多个数据处理模块中的第一个数据处理模块，第一个数据处理模块对该批处理数据进行处理，并记录处理过程的日志信息，当第一个数据处理模块对该批处理数据处理完之后，将该批处理数据发送给第二个数据处理模块，由第二个数据处理模块对该批处理数据进行处理，并记录处理过程的日志信息，当第二个数据处理模块对该批处理数据处理完之后，将该批处理数据发送给第三个数据处理模块，依次类推，直至最后一个数据处理模块对该批处理数据处理完。
本发明实施例通过获取待处理的多个数据，将待处理的多个数据构造成一个批处理数据，将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理，实现了对于不同的数据可以选择不同的数据处理模块进行处理，提高了数据处理的灵活性。
图5为本发明实施例提供的数据处理方法流程图。本发明实施例针对现有技术的如上技术问题，提供了数据处理方法，该方法具体步骤如下：
步骤501、根据日志信息恢复出待处理的数据。
例如，当数据处理模块在进行数据处理时发生了中断，再次对数据进行处理时，可根据历史的日志信息恢复出数据。
步骤502、从互联网中获取待处理的数据。
如图1所示，计算机11可以从互联网12中抓取各种类型或格式的数据。
步骤503、对待处理的多个数据进行格式化处理。
进一步的，对待处理的多个数据进行格式化处理，例如，使用通用的键值对表示数据。
步骤504、将待处理的多个数据构造成一个批处理数据。
例如，计算机11将从互联网12中抓取的各种类型或格式的数据，以及根据历史的日志信息恢复出的数据进行批量构造，例如构造成一个批处理数据。每个数据处理模块可以给批处理数据添加属性信息，也可以给批处理数据减少属性信息。
步骤505、将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理。
可选的，对待处理的多个数据构造成一个批处理数据的过程可以是计算机的构造模块执行的，当构造模块将待处理的多个数据构造成一个批处理数据之后，将该批处理数据发送给预设的多个数据处理模块中的第一个数据处理模块，第一个数据处理模块对该批处理数据进行处理，并记录处理过程的日志信息，当第一个数据处理模块对该批处理数据处理完之后，将该批处理数据发送给第二个数据处理模块，由第二个数据处理模块对该批处理数据进行处理，并记录处理过程的日志信息，当第二个数据处理模块对该批处理数据处理完之后，将该批处理数据发送给第三个数据处理模块，依次类推，直至最后一个数据处理模块对该批处理数据处理完。
步骤506、控制所述多个数据处理模块对所述批处理数据进行处理的处理速度。
多个数据处理模块可以对同一数据进行串行处理，不同的数据处理模块对数据进行处理的速度不同，在本实施例中，计算机还可以控制不同的数据处理模块对数据进行处理的速度，例如，同步数据处理队列，防止有的数据处理模块对数据处理过快，有的数据处理模块对数据处理过慢。
在其他实施例中，不同的数据处理模块需继承相同的数据处理基础类，每一个数据处理模块为一个程序包，将所有的数据处理程序包集合起来，通过启动程序指定的数据处理模块之间的数据处理顺序，启动即可。此时可采用网络数据传输模块，进一步扩展数据处理为分布式形式。
本发明实施例通过获取待处理的多个数据，将待处理的多个数据构造成一个批处理数据，将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理，实现了对于不同的数据可以选择不同的数据处理模块进行处理，提高了数据处理的灵活性。
图6为本发明实施例提供的数据处理装置的结构图。本发明实施例提供的数据处理装置可以执行数据处理方法实施例提供的处理流程，如图6所示，数据处理装置60包括：获取模块61、构成模块62、发送模块63、数据处理模块64；其中，获取模块61用于获取待处理的多个数据；构成模块62用于将待处理的多个数据构造成一个批处理数据；发送模块63用于将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理。
本发明实施例提供的数据处理装置可以具体用于执行上述图2所提供的方法实施例，具体功能此处不再赘述。
本发明实施例通过获取待处理的多个数据，将待处理的多个数据构造成一个批处理数据，将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理，实现了对于不同的数据可以选择不同的数据处理模块进行处理，提高了数据处理的灵活性。
图7为本发明另一实施例提供的数据处理装置的结构图。在图6所示的实施例的基础上，可选的，获取模块61获取待处理的多个数据时，具体用于根据日志信息恢复出待处理的数据。
可选的，获取模块61获取待处理的多个数据时，具体用于从互联网中获取待处理的数据。
可选的，数据处理装置60还包括：格式化处理模块65，格式化处理模块65用于对待处理的多个数据进行格式化处理。
可选的，数据处理装置60还包括：控制模块66，控制模块66用于控制所述多个数据处理模块对所述批处理数据进行处理的处理速度。
本发明实施例提供的数据处理装置可以具体用于执行上述图3-图5所提供的方法实施例，具体功能此处不再赘述。
本发明实施例通过获取待处理的多个数据，将待处理的多个数据构造成一个批处理数据，将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理，实现了对于不同的数据可以选择不同的数据处理模块进行处理，提高了数据处理的灵活性。
综上所述，本发明实施例通过获取待处理的多个数据，将待处理的多个数据构造成一个批处理数据，将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理，实现了对于不同的数据可以选择不同的数据处理模块进行处理，提高了数据处理的灵活性。
在本发明所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域技术人员可以清楚地了解到，为描述的方便和简洁，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。上述描述的装置的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (10)

1.一种数据处理方法，其特征在于，包括：
获取待处理的多个数据；
将待处理的多个数据构造成一个批处理数据；
将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理。
2.根据权利要求1所述的方法，其特征在于，所述获取待处理的多个数据，包括：
根据日志信息恢复出待处理的数据。
3.根据权利要求1所述的方法，其特征在于，所述获取待处理的多个数据，包括：
从互联网中获取待处理的数据。
4.根据权利要求1-3任一项所述的方法，其特征在于，所述获取待处理的多个数据之后，还包括：
对待处理的多个数据进行格式化处理。
5.根据权利要求4所述的方法，其特征在于，还包括：
控制所述多个数据处理模块对所述批处理数据进行处理的处理速度。
6.一种数据处理装置，其特征在于，包括：
获取模块，用于获取待处理的多个数据；
构成模块，用于将待处理的多个数据构造成一个批处理数据；
发送模块，用于将所述批处理数据发送给预设的多个数据处理模块中的一个数据处理模块，以使所述多个数据处理模块分别对所述批处理数据进行处理。
7.根据权利要求6所述的数据处理装置，其特征在于，所述获取模块获取待处理的多个数据时，具体用于根据日志信息恢复出待处理的数据。
8.根据权利要求6所述的数据处理装置，其特征在于，所述获取模块获取待处理的多个数据时，具体用于从互联网中获取待处理的数据。
9.根据权利要求6-8任一项所述的数据处理装置，其特征在于，还包括：
格式化处理模块，用于对待处理的多个数据进行格式化处理。
10.根据权利要求9所述的数据处理装置，其特征在于，还包括：
控制模块，用于控制所述多个数据处理模块对所述批处理数据进行处理的处理速度。
CN201711131550.7A 2017-11-15 2017-11-15 数据处理方法及装置 Pending CN110019071A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711131550.7A CN110019071A (zh) 2017-11-15 2017-11-15 数据处理方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711131550.7A CN110019071A (zh) 2017-11-15 2017-11-15 数据处理方法及装置

Publications (1)

Publication Number Publication Date
CN110019071A true CN110019071A (zh) 2019-07-16

Family

ID=67186482

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711131550.7A Pending CN110019071A (zh) 2017-11-15 2017-11-15 数据处理方法及装置

Country Status (1)

Country Link
CN (1) CN110019071A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110837419A (zh) * 2019-11-08 2020-02-25 上海交通大学 基于弹性批处理的推理引擎***、方法及电子设备
CN113064869A (zh) * 2021-03-23 2021-07-02 网易（杭州）网络有限公司 日志处理方法、装置、发送端、接收端设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102707993A (zh) * 2012-04-11 2012-10-03 招商银行股份有限公司 业务数据集中处理***及方法
CN102929585A (zh) * 2012-09-25 2013-02-13 上海证券交易所 一种支持多主机分布式数据处理的批处理方法及***
CN105487924A (zh) * 2015-11-30 2016-04-13 中国建设银行股份有限公司 一种批处理控制方法及装置
CN105892996A (zh) * 2015-12-14 2016-08-24 乐视网信息技术（北京）股份有限公司 一种批量数据处理的流水线作业方法及装置
CN106156079A (zh) * 2015-03-31 2016-11-23 西门子公司 日志数据处理方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102707993A (zh) * 2012-04-11 2012-10-03 招商银行股份有限公司 业务数据集中处理***及方法
CN102929585A (zh) * 2012-09-25 2013-02-13 上海证券交易所 一种支持多主机分布式数据处理的批处理方法及***
CN106156079A (zh) * 2015-03-31 2016-11-23 西门子公司 日志数据处理方法和装置
CN105487924A (zh) * 2015-11-30 2016-04-13 中国建设银行股份有限公司 一种批处理控制方法及装置
CN105892996A (zh) * 2015-12-14 2016-08-24 乐视网信息技术（北京）股份有限公司 一种批量数据处理的流水线作业方法及装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110837419A (zh) * 2019-11-08 2020-02-25 上海交通大学 基于弹性批处理的推理引擎***、方法及电子设备
CN110837419B (zh) * 2019-11-08 2023-05-19 上海交通大学 基于弹性批处理的推理引擎***、方法及电子设备
CN113064869A (zh) * 2021-03-23 2021-07-02 网易（杭州）网络有限公司 日志处理方法、装置、发送端、接收端设备及存储介质

Similar Documents

Publication Publication Date Title
US10210255B2 (en) Distributed system for large volume deep web data extraction
US11979433B2 (en) Highly scalable four-dimensional web-rendering geospatial data system for simulated worlds
US20210166170A1 (en) System for fully integrated predictive decision-making and simulation
CN107526645B (zh) 一种通信优化方法及***
US10860660B2 (en) Method and apparatus for crowdsourced data gathering, extraction, and compensation
CN105389191A (zh) 一种基于局域网的软件升级方法、装置和***
CN108121511A (zh) 一种分布式边缘存储***中的数据处理方法、装置及设备
US11782771B2 (en) Method and subsystem within a distributed log-analytics system that automatically determines and enforces log-retention periods for received log-event messages
CN105677755B (zh) 一种处理图数据的方法及装置
CN107015989A (zh) 数据处理方法和装置
CN105045790A (zh) 图数据搜索***、方法和设备
CN109544344B (zh) 基于dag的区块链的交易处理方法及设备
CN107894945A (zh) 埋点添加方法、移动终端及计算机可读存储介质
CN109753300A (zh) 一种算法升级方法、计算任务发送方法及相关产品
CN110019071A (zh) 数据处理方法及装置
CN101495978B (zh) 减少总线连接的消费者和产生者之间的消息流
CN111224970A (zh) Sdn网络***、网络攻击防御方法、设备及存储介质
CN110505655A (zh) 数据指令处理方法、存储介质及蓝牙盾
CN108595149A (zh) 可重构乘加运算装置
CN113761293A (zh) 图数据强连通分量挖掘方法、装置、设备及存储介质
CN113177088A (zh) 一种材料辐照损伤多尺度模拟大数据管理***
CN109558270A (zh) 数据备份的方法和装置、数据还原的方法和装置
CN107729218A (zh) 一种监控处理计算资源设备的***及方法
CN110247818A (zh) 一种数据监控方法、装置、存储介质和服务器
US20210397922A1 (en) System and methods for creation of learning agents in simulated environments

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20190716