CN116401117B - 一种流计算***和传统软件应用***结合的数据处理方法 - Google Patents
一种流计算***和传统软件应用***结合的数据处理方法 Download PDFInfo
- Publication number
- CN116401117B CN116401117B CN202310220742.4A CN202310220742A CN116401117B CN 116401117 B CN116401117 B CN 116401117B CN 202310220742 A CN202310220742 A CN 202310220742A CN 116401117 B CN116401117 B CN 116401117B
- Authority
- CN
- China
- Prior art keywords
- data
- message queue
- software application
- topic
- computing system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 26
- 238000012545 processing Methods 0.000 claims abstract description 37
- 238000000034 method Methods 0.000 claims abstract description 16
- 230000001360 synchronised effect Effects 0.000 claims abstract description 16
- 238000012544 monitoring process Methods 0.000 claims abstract description 5
- 230000000977 initiatory effect Effects 0.000 claims abstract description 4
- 230000006870 function Effects 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 10
- 238000013500 data storage Methods 0.000 claims description 7
- 230000008569 process Effects 0.000 abstract description 9
- 230000002708 enhancing effect Effects 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 9
- 230000003993 interaction Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000007405 data analysis Methods 0.000 description 2
- 238000002955 isolation Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3089—Monitoring arrangements determined by the means or processing involved in sensing the monitored data, e.g. interfaces, connectors, sensors, probes, agents
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/04—Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- General Engineering & Computer Science (AREA)
- Accounting & Taxation (AREA)
- Software Systems (AREA)
- Quality & Reliability (AREA)
- Finance (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- Technology Law (AREA)
- General Business, Economics & Management (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种流计算***和传统软件应用***结合的数据处理方法，包括如下步骤：确定消息队列配置；其他***在后台启动一条异步线程，持续监听消息队列；向其他***发起请求，获取数据将其写入消息队列；流***监听消息队列，处理并返回数据至消息队列；根据请求类型，执行同步或异步查询逻辑；返回结果，进入后续其他程序。本发明提供的流计算***和传统软件应用***结合的数据处理方法、设备和计算机可读存储介质，在实时计算的扩展性、稳定性、时效性等方面，对复杂规则下流***联合处理进行增强。
Description
技术领域
本发明涉及数据处理技术领域，具体而言，涉及一种流计算***和传统软件应用***结合的数据处理方法、设备和计算机可读存储介质。
背景技术
本发明对于背景技术的描述属于与本发明相关的相关技术，仅仅是用于说明和便于理解本发明的发明内容，不应理解为申请人明确认为或推定申请人认为是本发明在首次提出申请的申请日的现有技术。
近年来，社会信息化程度不断加深，数据量也日渐庞大，也因此衍生出许多需求。以金融行业为例，金融行业数据不仅在数据量上出现急剧递增的态势，而且数据分析的需求也多样化，流处理技术的重要性也越来越突出。随着流技术的广泛使用，往往会出现以下问题，流加工出来的数据怎么使用？其他***怎么获取这些数据并用于后续决策、分析？这个环节给开发使用人员带来巨大的困扰，其一：多个流处理业务的数据如何做到业务隔离，避免混到一起？其二：其他***因网络等问题一直拿不到数据如何处理？其三：其他***因请求方式不同，如何做到不同的交互？这些场景比较复杂给企业管理人员带来巨大的管理难度，同时这些复杂场景中蕴含极富价值的客户数据，在金融企业分析客户、规避风险、及时发现异常金融行为等方面发挥了极其重要的作用，并且可以帮助金融客户对突发情况作出及时而准确的决策响应，近年来对金融数据的进行实时计算的***和方法对提高金融企业的欺诈预警能力提供了极为重要的作用，进一步完善了金融企业在欺诈预警方面的能力。
“实时计算”这一概念的提出源于对计算机科学中对受到“实时约束”的电脑硬件和电脑软件***的研究，实时约束像是从事件发生到***回应之间的最长时间限制。实时程序必须保证在严格的时间内做出响应。实时计算也因其研究特性被广泛应用于实时智能推荐、实时欺诈检测、舆情分析、复杂事件处理、实时机器学习等场景。
为了使金融管理者能够更加便捷的获取流数据和分析金融数据，需要对实时产生的金融数据按需求执行不同交互，寻找实时数据与其他***沟通的桥梁，为金融企业提供实时数据分析决策能力。
基于后台配置与消息队列实现流计算***与传统应用之间的数据交互，流计算***后台保持读写能力，将从消息队列中得到的数据，写入缓存中间件。根据业务能力需要，主线程会提供不同的处理方式。若是要同步返回，主线程会持续读取缓存数据；若是要异步返回，则生成缓存令牌直接返回，供下次访问。现有技术的缺陷是获取流处理数据随着网络波动，同步请求可能出现短时间内获取不到流加工数据的情况。
为了解决上述技术问题，本发明提出了一种流计算***和传统软件应用***结合的数据处理方法、设备和计算机可读存储介质，在实时计算的扩展性、稳定性、时效性等方面，对复杂规则下流***联合处理进行增强。
发明内容
本发明提供了一种流计算***和传统软件应用***结合的数据处理方法、设备和计算机可读存储介质，在实时计算的扩展性、稳定性、时效性等方面，对复杂规则下流***联合处理进行增强。
本发明第一方面的实施例提供了一种流计算***和传统软件应用***结合的数据处理方法，包括如下步骤：确定消息队列配置；其他***在后台启动一条异步线程，持续监听消息队列；向其他***发起请求，获取数据将其写入消息队列；流***监听消息队列，处理并返回数据至消息队列；根据请求类型，执行同步或异步查询逻辑；返回结果，进入后续其他程序。
优选地，确定消息队列配置的步骤，具体包括如下操作：明确消息队列配置信息，配置信息包括url，数据输入的topic，数据输出的topic；明确消息队列配置的topic，在同个url下保证全局唯一。
优选地，其他***在后台启动一条异步线程，持续监听消息队列的步骤，包括如下操作：其他***要发布功能时，在后台生成一条异步线程，持续监听消息队列的输出topic。
优选地，向其他***发起请求，获取数据将其写入消息队列的步骤，包括如下操作：向其他***发起同步或异步请求，数据写入消息队列输入topic。
优选地，流***监听消息队列，处理并返回数据至消息队列的步骤，包括如下操作：流处理***持续监听消息队列输入topic，读取到数据，进行流处理，处理完成后将此消息写入队列的输出topic；其他***的后台线程，监听消息队列的输出topic，读取到数据，按命名规则将数据写入数据存储中间件。
优选地，根据请求类型，执行同步或异步查询逻辑的步骤，包括如下操作：若为异步请求，根据消息队列配置以及命名规则，生成查询令牌返回，以供后续查询；若为同步请求，按命名规则去数据源中间件循环读取数据，若在限定时间内未读取数据，则返回异常，若成功读取数据，则返回结果。
优选地，返回结果，进入后续其他程序的步骤，包括如下操作：整合返回的结果，将加工过的数据用于后续其他程序。
优选地，从消息队列中得到的数据，写入缓存中间件或数据库。
本发明第二方面的实施例还提供了一种流计算***和传统软件应用***结合的数据处理设备，其包括存储器和处理器；其中，存储器用于存储可执行程序代码；处理器用于读取存储器中存储的可执行程序代码以执行流计算***和传统软件应用***结合的数据处理方法。
本发明第三方面的实施例还提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序被处理器执行时实现流计算***和传统软件应用***结合的数据处理方法。
本发明提供的一种流计算***和传统软件应用***结合的数据处理方法、设备和计算机可读存储介质，在实时计算的扩展性、稳定性、时效性等方面，对复杂规则下流***联合处理进行增强。
本发明的附加方面和优点将在下面的描述部分中变得明显，或通过本发明的实践了解到。
附图说明
本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解，其中：
图1示出根据本发明实施例的流计算***和传统软件应用***结合的数据处理方法的流程图；
图2是本说明书流计算***和传统软件应用***结合的数据处理设备的一个实施例的结构图；
图3是本说明书流计算***和传统软件应用***结合的数据处理方法的计算机可读存储介质的一个实施例的结构图。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点，下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是，在不冲突的情况下，本申请的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本发明，但是，本发明还可以采用其他不同于在此描述的其他方式来实施，因此，本发明的保护范围并不受下面公开的具体实施例的限制。
下述讨论提供了本发明的多个实施例。虽然每个实施例代表了发明的单一组合，但是本发明不同实施例可以替换，或者合并组合，因此本发明也可认为包含所记载的相同和/或不同实施例的所有可能组合。因而，如果一个实施例包含A、B、C，另一个实施例包含B和D的组合，那么本发明也应视为包括含有A、B、C、D的一个或多个所有其他可能的组合的实施例，尽管该实施例可能并未在以下内容中有明确的文字记载。
图1示出根据本发明实施例的流计算***和传统软件应用***结合的数据处理方法的流程图。如图1所示，流计算***和传统软件应用***结合的数据处理方法，包括如下步骤：步骤S01，确定消息队列配置；步骤S02，其他***在后台启动一条异步线程，持续监听消息队列；步骤S03，向其他***发起请求，获取数据将其写入消息队列；步骤S04，流***监听消息队列，处理并返回数据至消息队列；步骤S05，根据请求类型，执行同步或异步查询逻辑；步骤S06，返回结果，进入后续其他程序。
本发明实施例所提供的流计算***和传统软件应用***结合的数据处理方法中，步骤S01，确定消息队列配置的步骤，具体包括如下操作：步骤S101，明确消息队列配置信息，配置信息包括url，数据输入的topic，数据输出的topic；步骤S102，明确消息队列配置的topic，在同个url下保证全局唯一，避免业务数据混淆。步骤S02，其他***在后台启动一条异步线程，持续监听消息队列的步骤，包括如下操作：步骤S201，其他***要发布功能时，在后台生成一条异步线程，持续监听消息队列的输出topic。步骤S03，向其他***发起请求，获取数据将其写入消息队列的步骤，包括如下操作：步骤S301，向其他***发起同步或异步请求，数据写入消息队列输入topic。步骤S04，流***监听消息队列，处理并返回数据至消息队列的步骤，包括如下操作：步骤S401，流处理***持续监听消息队列输入topic，读取到数据，进行流处理，处理完成后将此消息写入队列的输出topic；步骤S402，其他***的后台线程，监听消息队列的输出topic，读取到数据，按命名规则将数据写入数据存储中间件。步骤S05，根据请求类型，执行同步或异步查询逻辑的步骤，包括如下操作：步骤S501，若为异步请求，根据消息队列配置以及命名规则，生成查询令牌返回，以供后续查询；步骤S502，若为同步请求，按命名规则去数据源中间件循环读取数据，若在限定时间内未读取数据，则返回异常，若成功读取数据，则返回结果。步骤S06，返回结果，进入后续其他程序的步骤，包括如下操作：步骤S601，整合返回的结果，将加工过的数据用于后续其他程序。
本发明实施例所提供的流计算***和传统软件应用***结合的数据处理方法中，从消息队列中得到的数据，写入缓存中间件或数据库。
本发明实施例所提供的流计算***和传统软件应用***结合的数据处理方法，后台启动线程，持续读写业务数据，通过消息队列与流平台做数据交互，同时基于消息队列实现数据业务隔离；根据同步/异步请求方式的不同，借助缓存中间件提供不同的处理方式。
具体结合图1，本发明实施例所提供的流计算***和传统软件应用***结合的数据处理方法的流程如下：
开始；
普通应用***读取消息队列配置(如Kafka)，其中后台线程持续操作配置链接url，输入topic，输出topic；
输入、输出topic是否保证同url下全局唯一；若为否，则调整消息队列配置，返回至普通应用***读取消息队列配置。
输入、输出topic保证同url下全局唯一，则普通应用***将数据写入Kafka的输入topic；在此过程中，后台线程持续操作流***监听Kafka输入topic得到数据进行流处理加工；加工不成功，则不处理，普通应用***读取时会抛出异常；若加工成功，则写入结果，Kafak的输出topic输入至普通应用***启动后台线程持续读取Kafak的输出topic数据，后台线程持续操作写入数据存储中间件(如Redis)。
主线程请求是否为同步请求，若为否，则返回查询数据存储中间件的令牌供后续查询，并结束。
主线程请求若为同步请求，则根据循环读取数据存储中间件，判断按特定命名规则是否读取到数据，若为否，则判断是否在限定时间内，具体地，若在限定时间内，则返回至数据存储中间件，进入循环；若为否则同步返回异常，并结束。
判断按特定命名规则读取到数据，则同步返回结果，并结束。
图2是本说明书流计算***和传统软件应用***结合的数据处理设备的一个实施例的结构图；下面参考图2，其示出了适于用来实现本公开实施例的流计算***和传统软件应用***结合的数据处理设备300的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图2示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图2所示，电子设备300可以包括处理装置(例如中央处理器、图形处理器等)301，其可以根据存储在只读存储器(ROM)302中的程序或者从存储装置308加载到随机访问存储器(RAM)303中的程序而执行各种适当的动作和处理。在RAM303中，还存储有电子设备300操作所需的各种程序和数据。处理装置301、ROM 302以及RAM303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
通常，以下装置可以连接至I/O接口305：包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置306；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置307；包括例如磁带、硬盘等的存储装置308；以及通信装置309。通信装置309可以允许电子设备300与其他设备进行无线或有线通信以交换数据。虽然图2示出了具有各种装置的电子设备300，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置309从网络上被下载和安装，或者从存储装置308被安装，或者从ROM 302被安装。在该计算机程序被处理装置301执行时，执行本公开实施例的方法中限定的上述功能。
图3是本说明书流计算***和传统软件应用***结合的数据处理方法的计算机可读存储介质的一个实施例的结构图。如图3所示，根据本公开实施例的计算机可读存储介质40，其上存储有非暂时性计算机可读指令41。当该非暂时性计算机可读指令41由处理器运行时，执行前述的本公开各实施例的流计算***和传统软件应用***结合的数据处理方法的全部或部分步骤。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：构建基础页面，所述基础页面的页面代码用于搭建所述业务页面运行所需的环境和/或实现同类业务场景中抽象出的相同的工作流程；构建一个或多个页面模板，所述页面模板用于提供业务场景中实现业务功能的代码模板；基于相应的所述页面模板，通过业务场景的每一个页面的具体功能的代码转换，生成业务场景的每一个页面的最终页面代码；将生成的所述每一个页面的最终页面代码合并入所述基础页面的页面代码，生成所述业务页面的代码。
或者，上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：构建基础页面，所述基础页面的页面代码用于搭建所述业务页面运行所需的环境和/或实现同类业务场景中抽象出的相同的工作流程；构建一个或多个页面模板，所述页面模板用于提供业务场景中实现业务功能的代码模板；基于相应的所述页面模板，通过业务场景的每一个页面的具体功能的代码转换，生成业务场景的每一个页面的最终页面代码；将生成的所述每一个页面的最终页面代码合并入所述基础页面的页面代码，生成所述业务页面的代码。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本发明提供的流计算***和传统软件应用***结合的数据处理方法、设备和计算机可读存储介质，在实时计算的扩展性、稳定性、时效性等方面，对复杂规则下流***联合处理进行增强。
在本发明中，术语“第一”、“第二”、“第三”仅用于描述的目的，而不能理解为指示或暗示相对重要性；术语“多个”则指两个或两个以上，除非另有明确的限定。术语“安装”、“相连”、“连接”、“固定”等术语均应做广义理解，例如，“连接”可以是固定连接，也可以是可拆卸连接，或一体地连接；“相连”可以是直接相连，也可以通过中间媒介间接相连。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。
本发明的描述中，需要理解的是，术语“上”、“下”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或单元必须具有特定的方向、以特定的方位构造和操作，因此，不能理解为对本发明的限制。
在本说明书的描述中，术语“一个实施例”、“一些实施例”、“具体实施例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或实例。而且，描述的具体特征、结构、材料或特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
以上仅为本发明的某些实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (5)
1.一种流计算***和传统软件应用***结合的数据处理方法，其特征在于，包括如下步骤：
确定消息队列配置，包括：明确消息队列配置信息，所述配置信息包括url，数据输入的topic，数据输出的topic，明确消息队列配置的topic，在同个url下保证全局唯一；
其他***要发布功能时，在后台启动一条异步线程，持续监听消息队列的输出topic；
向其他***发起同步或异步请求，获取数据将其写入消息队列输入topic；
流***监听消息队列输入topic，读取到数据，进行流处理，处理完成后将此消息写入队列的输出topic，其他***的后台线程，监听消息队列的输出topic，读取到数据，按命名规则将数据写入数据存储中间件；
根据请求类型，执行同步或异步查询逻辑；
返回结果，进入后续其他程序；
所述根据请求类型，执行同步或异步查询逻辑的步骤，包括如下操作：
若为异步请求，根据消息队列配置以及命名规则，生成查询令牌返回，以供后续查询；
若为同步请求，按命名规则去数据源中间件循环读取数据，若在限定时间内未读取数据，则返回异常，若成功读取数据，则返回结果。
2.根据权利要求1所述的流计算***和传统软件应用***结合的数据处理方法，其特征在于，所述返回结果，进入后续其他程序的步骤，包括如下操作：
整合返回的结果，将加工过的数据用于后续其他程序。
3.根据权利要求1-2中任意一项所述的流计算***和传统软件应用***结合的数据处理方法，其特征在于，从消息队列中得到的数据，写入缓存中间件或数据库。
4.一种流计算***和传统软件应用***结合的数据处理设备，其包括存储器和处理器；其中，所述存储器用于存储可执行程序代码；所述处理器用于读取所述存储器中存储的可执行程序代码以执行根据权利要求1-3任意一项所述的流计算***和传统软件应用***结合的数据处理方法。
5.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-3任意一项所述的流计算***和传统软件应用***结合的数据处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310220742.4A CN116401117B (zh) | 2023-03-09 | 2023-03-09 | 一种流计算***和传统软件应用***结合的数据处理方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310220742.4A CN116401117B (zh) | 2023-03-09 | 2023-03-09 | 一种流计算***和传统软件应用***结合的数据处理方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116401117A CN116401117A (zh) | 2023-07-07 |
| CN116401117B true CN116401117B (zh) | 2024-04-09 |
Family
ID=87013269
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310220742.4A Active CN116401117B (zh) | 2023-03-09 | 2023-03-09 | 一种流计算***和传统软件应用***结合的数据处理方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116401117B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109271417A (zh) * | 2018-11-23 | 2019-01-25 | 福建榕基软件股份有限公司 | 一种基于数据库的轻量级消息队列实现方法及存储设备 |
| CN109413043A (zh) * | 2018-09-25 | 2019-03-01 | 聚好看科技股份有限公司 | 实现数据库动态配置的方法及装置、电子设备、存储介质 |
| CN115221242A (zh) * | 2022-06-30 | 2022-10-21 | 济南浪潮数据技术有限公司 | 一种数据同步方法、装置及计算机可读存储介质 |
| CN115396494A (zh) * | 2022-08-19 | 2022-11-25 | 北京银丰新融科技开发有限公司 | 基于流式计算的实时监控方法及*** |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB2516852A (en) * | 2013-08-01 | 2015-02-11 | Ibm | Consuming ordered streams of messages in a message oriented middleware |
| US11005933B2 (en) * | 2016-03-17 | 2021-05-11 | International Business Machines Corporation | Providing queueing in a log streaming messaging system |
-
2023
- 2023-03-09 CN CN202310220742.4A patent/CN116401117B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109413043A (zh) * | 2018-09-25 | 2019-03-01 | 聚好看科技股份有限公司 | 实现数据库动态配置的方法及装置、电子设备、存储介质 |
| CN109271417A (zh) * | 2018-11-23 | 2019-01-25 | 福建榕基软件股份有限公司 | 一种基于数据库的轻量级消息队列实现方法及存储设备 |
| CN115221242A (zh) * | 2022-06-30 | 2022-10-21 | 济南浪潮数据技术有限公司 | 一种数据同步方法、装置及计算机可读存储介质 |
| CN115396494A (zh) * | 2022-08-19 | 2022-11-25 | 北京银丰新融科技开发有限公司 | 基于流式计算的实时监控方法及*** |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116401117A (zh) | 2023-07-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111382228B (zh) | 用于输出信息的方法和装置 | |
| US10061761B2 (en) | Real-time dynamic visual aid implementation based on context obtained from heterogeneous sources | |
| CN111338797A (zh) | 任务处理方法、装置、电子设备及计算机可读存储介质 | |
| CN112307774B (zh) | 对话理解方法、装置、可读介质及电子设备 | |
| CN111857720B (zh) | 用户界面状态信息的生成方法、装置、电子设备及介质 | |
| WO2023040967A1 (zh) | 显示提醒信息的方法、装置、电子设备和存储介质 | |
| CN111738316B (zh) | 零样本学习的图像分类方法、装置及电子设备 | |
| CN110928732A (zh) | 服务器集群性能采样分析方法、装置及电子设备 | |
| WO2020199659A1 (zh) | 用于确定推送优先级信息的方法和装置 | |
| CN112954056B (zh) | 监控数据处理方法、装置、电子设备及存储介质 | |
| CN110489326B (zh) | 基于ids的httpapi调试方法装置、介质和设备 | |
| CN116401117B (zh) | 一种流计算***和传统软件应用***结合的数据处理方法 | |
| CN112291121A (zh) | 一种数据处理方法及相关设备 | |
| CN112379967B (zh) | 模拟器检测方法、装置、设备及介质 | |
| CN111414161B (zh) | 一种生成idl文件的方法、装置、介质和电子设备 | |
| CN111787043A (zh) | 数据请求方法和装置 | |
| CN115062022B (zh) | 航空器手册拆分方法、装置、电子设备和计算机可读介质 | |
| CN118035594B (zh) | 生产文档访问方法、装置、电子设备与计算机可读介质 | |
| CN111461227B (zh) | 样本生成方法、装置、电子设备和计算机可读介质 | |
| CN116820539B (zh) | 一种基于互联网的***软件运行维护***及方法 | |
| CN116796000A (zh) | 基于指定关系类型的知识图谱实体融合方法、装置 | |
| US20240184973A1 (en) | Method and apparatus for generating document tag, and terminal and storage medium | |
| CN111581305B (zh) | 特征处理方法、装置、电子设备和介质 | |
| WO2022152162A1 (zh) | 信息处理方法、装置、终端和存储介质 | |
| CN111258670B (zh) | 组件数据的管理方法、装置、电子设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |