CN109379305A - 一种数据下发方法、装置、服务器及存储介质 - Google Patents
一种数据下发方法、装置、服务器及存储介质 Download PDFInfo
- Publication number
- CN109379305A CN109379305A CN201811437197.XA CN201811437197A CN109379305A CN 109379305 A CN109379305 A CN 109379305A CN 201811437197 A CN201811437197 A CN 201811437197A CN 109379305 A CN109379305 A CN 109379305A
- Authority
- CN
- China
- Prior art keywords
- queue
- data
- timestamp
- idle
- new
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/50—Queue scheduling
- H04L47/56—Queue scheduling implementing delay-aware scheduling
- H04L47/562—Attaching a time tag to queues
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开了一种数据下发方法、装置、服务器及存储介质,该方法包括:将采集到的数据同时缓存到至少两路队列中;根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列,队列时间戳根据队列中采集的最新数据的时间戳实时更新;下发所述目标队列中的数据,并在下发过程中监测所述闲置队列中,是否存在时间戳比目标队列的时间戳快预设时长的闲置队列;如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,并下发新的目标队列中的数据。实现了利用多路队列缓存数据,并动态选择下发时间戳最快队列中的数据,确保了下发数据的及时性和准确性。
Description
技术领域
本发明涉及互联网技术领域,尤其涉及一种数据下发方法、装置、服务器及存储介质。
背景技术
互联网金融公司随着业务开展,A股、美股、港股、期货、黄金等数据种类繁多,秒级数据峰值能达到万级别行情数据。
现有技术中,通常是在服务器中将采集到的数据利用一个队列将行情数据下发至用户端,但是由于这一过程属于高并发且处理的数据量大,一旦遇到行情数据采集过程中延时或者数据丢失的问题,就会导致该队列中的行情数据下发中断,从而导致行情数据无法及时送达的情况,影响用户的体验。
发明内容
本发明提供一种数据下发方法、装置、服务器及存储介质,解决了在行情下发过程中,行情数据中断而造成行情无法及时送达的问题。
第一方面,本发明实施例提供了一种数据下发方法,包括:
将采集到的数据同时缓存到至少两路队列中;
根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列,其中,队列的时间戳根据队列中采集的最新数据的时间戳实时更新;
下发所述目标队列中的数据,并在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列;
如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将该闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,并下发所述新的目标队列中的数据。
第二方面,本发明实施例还提供了一种数据下发装置,包括:
队列数据存储模块,用于将采集到的数据同时缓存到至少两路队列中;
目标队列确定模块,用于根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列,其中,队列的时间戳根据队列中采集的最新数据的时间戳实时更新;
队列数据下发模块,用于下发所述目标队列中的数据,并在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列;如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将该闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,并下发所述新的目标队列中的数据。
第三方面,本发明实施例还提供了一种服务器,所述服务器包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明任意实施例所述的一种数据下发方法。
第四方面,本发明实施例还提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如本发明任意实施例所述的一种数据下发方法。
本发明实施例的技术方案,将采集到的数据同时缓存到至少两路队列中;根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列,其中,队列的时间戳根据队列中采集的最新数据的时间戳实时更新;下发所述目标队列中的数据,并在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列;如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将该闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,并下发所述新的目标队列中的数据。由于本发明实施例中的多路队列进行缓存采集的数据,解决了现有技术中只有一路队列进行行情数据的采集和下发,一旦行情数据中断而造成行情无法及时送达的问题,并且实现了动态选择下发时间戳最快的目标队列中的行情数据,确保了下发的行情数据的及时性和准确性。
附图说明
图1是本发明实施例一中的一种数据下发方法的流程图。
图2是本发明实施例二中的一种数据下发方法的流程图。
图3是本发明实施例三中的一种数据下发装置的结构示意图。
图4是本发明实施例四中的一种服务器的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一提供的一种数据下发方法的流程图,本实施例可适用于数据下发的情况,该方法可以由数据下发装置来执行,该装置可以采用硬件和/或软件实现,可以配置于服务器中,该方法具体包括如下步骤:
S110、将采集到的数据同时缓存到至少两路队列中。
采集的数据可以是任意类型的需要下发的数据,比如行情数据。行情数据可以是指金融市场上利率或汇兑的上涨或下跌等情况的数据,对于投资者进行相关交易时的重要参考数据,因此行情数据能否及时送达至客户端是用户而言是非常重要的。行情数据可以是数据采集***或采集器从互联网或交易所网关中采集到的,并以多个队列的形式缓存采集到的行情数据。
具体的,多路队列中各列可以分别各配置相应的数据采集装置去采集同一行情数据,这样就可以将采集到的数据同时缓存至多路队列中。其中,队列(queue)是一种先进先出的线性表,它可以在表的前端(front)进行删除操作,而在表的后端(rear)进行***操作。进行***操作的端称为队尾,进行删除操作的端称为队头。
S120、根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列。
其中,队列中存储的行情数据本身可以携带时间戳信息,比如时间戳可以表示该数据产生的时间。而队列的时间戳可以是队列中最新数据的时间戳,因此队列时间戳根据队列中采集的最新数据的时间戳实时更新,而采集的最新数据即是队列的队尾数据。
在具体实施过程中,可以将各个队列的时间戳以列表的形式保存并实时更新,这样可以通过该列表直接确定当前时间戳最快的队列。将各队列中的队列时间戳最快的一个队列可以作为目标队列,而其他队列作为闲置队列。目标队列是用于下发数据的队列,而闲置队列是暂时不做下发数据的队列。由于队列时间戳快表明该队列缓存的数据更新且更及时,因此,将队列时间戳最快的目标队列中的数据进行下发,可以保证数据可以及时送达客户端。
S130、下发所述目标队列中的数据,并在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列。
在下发目标队列中数据的过程中,可以同时监控闲置队列的时间戳信息。示例性的,可以通过队列时间戳列表中的内容确定当前闲置队列中是否有时间戳比目标队列时间戳快预设时长的队列。其中,预设时长可以是预先设定的用于切换目标队列的时间参数。
S140、如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将该闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,并下发所述新的目标队列中的数据。
示例性的,如果预设时长是20秒,则当闲置队列的时间戳比目标队列的时间戳快20秒时,则将该闲置队列作为新的目标队列,将其他队列作为新的闲置队列。同时,下发新的目标队列中的数据,以保证数据更及时地送达用户端
可选的,在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列,包括:
当所述目标队列下发预设数量的数据时,确定所述闲置队列中是否存在比目标队列的时间戳快预设时长的闲置队列。
在目标队列数据的下发过程中,检测是否存在新的目标队列的检测周期可以是预先设定的。比如在目标队列下发数据量达到预设数量时或者下发数据到达预设时间时,便检测是否存在新的目标队列。
本实施例的技术方案,将采集到的数据同时缓存到至少两路队列中,并筛选出各队列中的时间戳最快的队列作为目标队列对数据进行下发。由于本发明实施例中的多路队列进行缓存数据,并且动态选择下发时间戳最快的目标队列中的行情数据的,确保了下发的行情数据的及时性和准确性。即使其中一路行情采集数据由于故障或者延迟,可以自动切换到另外一路,也不会影响该类行情数据的下发,同时规避掉重复数据问题完成行情数据的下发。解决了现有技术中只有一路队列进行行情数据的采集和下发,一旦行情数据中断而造成行情无法及时送达的问题。
实施例二
图2为本发明实施例二提供的一种数据下发方法的流程图,在上述实施例的基础上,可选的,对下发目标队列中的数据的过程做了进一步的优化,如图2所示,该方法具体包括:
S210、将采集到的数据同时缓存到至少两路队列中。
S220、根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列,其中,队列的时间戳根据队列中采集的最新数据的时间戳实时更新。
S230、将所述目标队列中要出列数据中的数据时间戳比当前已下发的最新数据的时间戳快的数据进行下发,并在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列。
以行情数据为例,在下发目标队列中的行情数据时,由于当前目标队列中即将要出列的数据可能存在上一个目标队列中已经下发过的行情数据,因此需要先确认目标队列中即将要出列的数据是否已经下发过,如果已经下发过,则可以直接丢弃。如果没有下发过,则可以直接下发该数据。即在下发当前的目标队列中的数据时,需要剔除已经下发过的数据,从而下发没有下发过的数据,以避免重复下发行情数据。示例性的,可以通过比较数据时间戳确定目标队列中哪些数据已经下发过,比如直接将目标队列中数据时间戳比下发的最新数据时间戳快的数据进行下发,通过时间戳判断简单快速,可以保证下发数据的高效率。
S240、如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将该闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,将所述新的目标队列中要出列数据中的数据时间戳比当前已下发的最新数据的时间戳快的数据进行下发。
可选的,所述下发目标队列中的数据,包括:当所述目标队列中要出列数据中的数据时间戳与当前已下发的最新数据的时间戳相同时,将所述目标队列中要出列数据中的数据内容与当前已下发的数据内容不同的数据进行下发。
对于行情数据而言,每秒级行情数据峰值可能达到万级别,即可能存在所述目标队列中要出列数据中的数据时间戳与当前已下发的最新数据的时间戳相同的情况,不能判断该数据是否是已经下发过,这种情况下可以根据数据内容确定数据是否重复或已经下发过。其中,数据内容可以包括数据本身的内容信息,比如对行情数据而言,可以包括该条行情数据中的价格,上次成交情况等要素。这样即使数据时间戳相同,将目标队列中与已下发过的数据内容相同的数据剔除,从而下发非重复数据。
可选的,所述方法还包括:
检测闲置队列中的最新数据时间戳与最早数据时间戳之间的差值是否大于预设时间,如果闲置队列中的最新数据时间戳与最早数据时间戳之间的差值大于预设时间,则将所述闲置队列中最早数据清理;
检测所述闲置队列中新的最新数据时间戳与新的最早数据时间戳之间的差值是否大于预设时间,如果闲置队列中新的最新数据时间戳与新的最早数据时间戳之间的差值大于预设时间,则将所述闲置队列中新的最早数据清理;
直至清理的数据量达到预设的每次清理量。
具体的,在下发队列中数据的整个过程中,可以定期的清理闲置队列,使队列一直保持在一定的长度,以减少对***资源的占用,以及减少目标队列下发数据过程中判断数据与已下发数据是否重复的计算量,加快数据下发的过程。
在具体实施过程中,可以按照一定的周期以及每次清理的数据量对闲置队列进行清理,比如通过控制闲置队列进行出数达到队列数据清理的目的。每次清理时,可以检测闲置队列中的最新数据时间戳与最早数据时间戳之间的差值是否大于预设时间,如果闲置队列中的最新数据时间戳与最早数据时间戳之间的差值大于预设时间,则将所述闲置队列中最早数据清理,即将该最早数据出数丢弃。一直需要进行检测判断,在闲置队列中的新的最新数据时间戳与新的最早数据时间戳之间的差值大于预设时间,将所述闲置队列中新的最早数据出数丢弃,直至丢弃的数据量达到预设的每次清理量完成该周期的清理,则可以休眠,等到下一个周期后再次对新的闲置队列中的数据做清理。当然,清理周期和每次的清理量是可以根据***性能和经验参数进行配置的。
示例性的,该预设时间可以是根据经验参数设定,比如20分钟,但是需要注意的是,预设时间的大小要合适,避免将闲置队列中的最新数据时间戳与最早数据时间戳之间差值较小的数据清理掉,造成将闲置队列中与当前目标队列中相同但是还未下发的数据丢弃掉,进一步导致在下次切换目标队列进行数据下发时出现的短缺数据的情况。在具体实施该数据下发的方案之前,可以先对行情数据进行采集,筛选和清理等功能的处理线程进行初始化,以完成后续的数据下发的整个过程。
本发明实施例的技术方案,将采集到的数据同时缓存到至少两路队列中;并筛选出各队列中的时间戳最快的队列作为目标队列对数据进行下发。下发行情数据过程中根据多个队列时间戳的最新情况选择目标队列中的数据进行下发,同时下发过程中对目标队列中即将出列的数据进行踢重,避免数据重复下发,将行情数据及时且准确地送达客户端。另外,定期清理闲置队列,以减少对***资源的占用和加快数据下发的整个过程。
实施例三
图3为本发明实施例三提供的一种数据下发装置的结构示意图,如图4所示,所述装置包括:
队列数据缓存模块310,用于将采集到的数据同时缓存到至少两路队列中;
目标队列确定模块320,用于根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列,其中,队列的时间戳根据队列中采集的最新数据的时间戳实时更新;
队列数据下发模块330,用于下发所述目标队列中的数据,并在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列;如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将该闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,并下发所述新的目标队列中的数据。
可选的,所述队列数据下发模块330,具体用于:将所述目标队列中要出列数据中的数据时间戳比当前已下发的最新数据的时间戳快的数据进行下发。
可选的,所述队列数据下发模块330,还具体用于:当所述目标队列中要出列数据中的数据时间戳与当前已下发的最新数据的时间戳相同时,将所述目标队列中要出列数据中的数据内容与当前已下发的数据内容不同的数据进行下发。
可选的,所述装置还包括:队列数据清理模块,用于检测闲置队列中的最新数据时间戳与最早数据时间戳之间的差值是否大于预设时间,如果闲置队列中的最新数据时间戳与最早数据时间戳之间的差值大于预设时间,则将所述闲置队列中最早数据清理;检测所述闲置队列中新的最新数据时间戳与新的最早数据时间戳之间的差值是否大于预设时间,如果闲置队列中新的最新数据时间戳与新的最早数据时间戳之间的差值大于预设时间,则将所述闲置队列中新的最早数据清理;直至清理的数据量达到预设的每次清理量。
可选的,所述队列数据下发模块330还用于,当所述目标队列下发预设数量的数据时,确定所述闲置队列中是否存在比目标队列的时间戳快预设时长的闲置队列。
本发明实施例所提供的数据下发装置,可执行本发明任意实施例所提供的数据下发方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本发明任意实施例提供的一种数据下发方法。
实施例四
参见图4,本实施例提供了一种服务器400,其包括:一个或多个处理器420;存储装置410,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器420执行,使得所述一个或多个处理器420实现本发明实施例所提供的一种数据下发方法,包括:
将采集到的数据同时缓存到至少两路队列中;
根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列,其中,队列的时间戳根据队列中采集的最新数据的时间戳实时更新;
下发所述目标队列中的数据,并在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列;
如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将该闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,并下发所述新的目标队列中的数据。
当然,本领域技术人员可以理解,处理器420还可以实现本发明任意实施例所提供的一种数据下发方法的技术方案。
图4显示的服务器400仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,服务器400以通用计算设备的形式表现。服务器400的组件可以包括但不限于:一个或者多个处理器420,存储装置410,连接不同***组件(包括存储装置410和处理器420)的总线450。
总线440表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,***总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及***组件互连(PCI)总线。
服务器400典型地包括多种计算机***可读介质。这些介质可以是任何能够被服务器400访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储装置410可以包括易失性存储器形式的计算机***可读介质,例如随机存取存储器(RAM)411和/或高速缓存存储器412。服务器400可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机***存储介质。仅作为举例,存储***413可以用于读写不可移动的、非易失性磁介质(图4未显示,通常称为“硬盘驱动器”)。尽管图4中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线450相连。存储装置410可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块415的程序/实用工具414,可以存储在例如存储装置410中,这样的程序模块415包括但不限于操作***、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块415通常执行本发明所描述的任意实施例中的功能和/或方法。
服务器400也可以与一个或多个外部设备460(例如键盘、指向设备、显示器470等)通信,还可与一个或者多个使得用户能与该服务器400交互的设备通信,和/或与使得该服务器400能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口430进行。并且,服务器400还可以通过网络适配器440与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图4所示,网络适配器440通过总线450与服务器400的其它模块通信。应当明白,尽管图中未示出,可以结合服务器400使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储***等。
处理器420通过运行存储在存储装置410中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的一种数据下发方法。
实施例五
本发明实施例五提供一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行一种数据下发方法,该方法包括:
将采集到的数据同时缓存到至少两路队列中;
根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列,其中,队列的时间戳根据队列中采集的最新数据的时间戳实时更新;
下发所述目标队列中的数据,并在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列;
如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将该闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,并下发所述新的目标队列中的数据。
当然,本发明实施例所提供的一种包含计算机可执行指令的存储介质,其计算机可执行指令不限于如上所述的方法操作,还可以执行本发明任意实施例所提供的一种数据下发方法中的相关操作。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种数据下发方法,其特征在于,所述方法包括:
将采集到的数据同时缓存到至少两路队列中;
根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列,其中,队列的时间戳根据队列中采集的最新数据的时间戳实时更新;
下发所述目标队列中的数据,并在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列;
如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将该闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,并下发所述新的目标队列中的数据。
2.根据权利要求1所述的方法,其特征在于,所述下发目标队列中的数据,包括:
将所述目标队列中要出列数据中的数据时间戳比当前已下发的最新数据的时间戳快的数据进行下发。
3.根据权利要求1或2所述的方法,其特征在于,所述下发目标队列中的数据,包括:
当所述目标队列中要出列数据中的数据时间戳与当前已下发的最新数据的时间戳相同时,将所述目标队列中要出列数据中的数据内容与当前已下发的数据内容不同的数据进行下发。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
检测闲置队列中的最新数据时间戳与最早数据时间戳之间的差值是否大于预设时间,如果闲置队列中的最新数据时间戳与最早数据时间戳之间的差值大于预设时间,则将所述闲置队列中最早数据清理;
检测所述闲置队列中新的最新数据时间戳与新的最早数据时间戳之间的差值是否大于预设时间,如果闲置队列中新的最新数据时间戳与新的最早数据时间戳之间的差值大于预设时间,则将所述闲置队列中新的最早数据清理;
直至清理的数据量达到预设的每次清理量。
5.根据权利要求1所述的方法,其特征在于,在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列,包括:
当所述目标队列下发预设数量的数据时,确定所述闲置队列中是否存在比目标队列的时间戳快预设时长的闲置队列。
6.一种数据下发装置,其特征在于,所述装置包括:
队列数据缓存模块,用于通过至少两路队列缓存采集到的数据;
目标队列确定模块,用于根据各队列的时间戳从至少两路队列中确定一个目标队列,并将其他队列作为闲置队列,其中,队列的时间戳根据队列中采集的最新数据的时间戳实时更新;
队列数据下发模块,用于下发所述目标队列中的数据,并在下发过程中监测所述闲置队列中,是否存在时间戳比所述目标队列的时间戳快预设时长的闲置队列;如果存在时间戳比目标队列的时间戳快预设时长的闲置队列,则将该闲置队列切换为新的目标队列,将其他队列作为新的闲置队列,并下发所述新的目标队列中的数据。
7.根据权利要求6所述的装置,其特征在于,所述队列数据下发模块,具体用于:将所述目标队列中要出列数据中的数据时间戳比当前已下发的最新数据的时间戳快的数据进行下发。
8.根据权利要求6或7所述的装置,其特征在于,所述队列数据下发模块,还具体用于:
当所述目标队列中要出列数据中的数据时间戳与当前已下发的最新数据的时间戳相同时,将所述目标队列中要出列数据中的数据内容与当前已下发的数据内容不同的数据进行下发。
9.一种服务器,其特征在于,所述服务器包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的一种数据下发方法。
10.一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-5中任一所述的一种数据下发方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811437197.XA CN109379305B (zh) | 2018-11-28 | 2018-11-28 | 一种数据下发方法、装置、服务器及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811437197.XA CN109379305B (zh) | 2018-11-28 | 2018-11-28 | 一种数据下发方法、装置、服务器及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109379305A true CN109379305A (zh) | 2019-02-22 |
CN109379305B CN109379305B (zh) | 2023-06-23 |
Family
ID=65377266
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811437197.XA Active CN109379305B (zh) | 2018-11-28 | 2018-11-28 | 一种数据下发方法、装置、服务器及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109379305B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111582629A (zh) * | 2020-03-24 | 2020-08-25 | 青岛奥利普自动化控制***有限公司 | 资源调度方法、装置、设备和存储介质 |
WO2021033135A1 (en) * | 2019-08-20 | 2021-02-25 | International Business Machines Corporation | Processing of a message stream |
CN114519017A (zh) * | 2020-11-18 | 2022-05-20 | 舜宇光学(浙江)研究院有限公司 | 用于事件相机的数据传输方法及其***和电子设备 |
CN114546270A (zh) * | 2022-02-15 | 2022-05-27 | 杭州隆埠科技有限公司 | 数据存储方法、装置及电子设备 |
CN114615327A (zh) * | 2022-02-25 | 2022-06-10 | 上海金仕达软件科技有限公司 | 行情数据优选的方法、装置、***及存储介质 |
CN115437577A (zh) * | 2022-11-04 | 2022-12-06 | 平安银行股份有限公司 | 数据写入方法、计算机设备及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103309732A (zh) * | 2013-05-15 | 2013-09-18 | 中国矿业大学(北京) | 防止探地雷达数据采集***中数据溢出的方法 |
CN106296397A (zh) * | 2015-05-26 | 2017-01-04 | 南京艾科朗克信息科技有限公司 | 期货行情加速***及加速方法 |
CN106569733A (zh) * | 2015-10-12 | 2017-04-19 | 北京国双科技有限公司 | 缓存数据的处理方法和装置 |
-
2018
- 2018-11-28 CN CN201811437197.XA patent/CN109379305B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103309732A (zh) * | 2013-05-15 | 2013-09-18 | 中国矿业大学(北京) | 防止探地雷达数据采集***中数据溢出的方法 |
CN106296397A (zh) * | 2015-05-26 | 2017-01-04 | 南京艾科朗克信息科技有限公司 | 期货行情加速***及加速方法 |
CN106569733A (zh) * | 2015-10-12 | 2017-04-19 | 北京国双科技有限公司 | 缓存数据的处理方法和装置 |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021033135A1 (en) * | 2019-08-20 | 2021-02-25 | International Business Machines Corporation | Processing of a message stream |
US11055156B2 (en) | 2019-08-20 | 2021-07-06 | International Business Machines Corporation | Processing of a message stream |
CN114245982A (zh) * | 2019-08-20 | 2022-03-25 | 国际商业机器公司 | 消息流的处理 |
GB2602418A (en) * | 2019-08-20 | 2022-06-29 | Ibm | Processing of a message stream |
GB2602418B (en) * | 2019-08-20 | 2022-10-19 | Ibm | Processing of a message stream |
CN111582629A (zh) * | 2020-03-24 | 2020-08-25 | 青岛奥利普自动化控制***有限公司 | 资源调度方法、装置、设备和存储介质 |
CN111582629B (zh) * | 2020-03-24 | 2023-11-17 | 青岛奥利普奇智智能工业技术有限公司 | 资源调度方法、装置、设备和存储介质 |
CN114519017A (zh) * | 2020-11-18 | 2022-05-20 | 舜宇光学(浙江)研究院有限公司 | 用于事件相机的数据传输方法及其***和电子设备 |
CN114519017B (zh) * | 2020-11-18 | 2024-03-29 | 舜宇光学(浙江)研究院有限公司 | 用于事件相机的数据传输方法及其***和电子设备 |
CN114546270B (zh) * | 2022-02-15 | 2024-02-09 | 杭州隆埠科技有限公司 | 数据存储方法、装置及电子设备 |
CN114546270A (zh) * | 2022-02-15 | 2022-05-27 | 杭州隆埠科技有限公司 | 数据存储方法、装置及电子设备 |
CN114615327A (zh) * | 2022-02-25 | 2022-06-10 | 上海金仕达软件科技有限公司 | 行情数据优选的方法、装置、***及存储介质 |
CN115437577A (zh) * | 2022-11-04 | 2022-12-06 | 平安银行股份有限公司 | 数据写入方法、计算机设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109379305B (zh) | 2023-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109379305A (zh) | 一种数据下发方法、装置、服务器及存储介质 | |
KR100517242B1 (ko) | 컴퓨터 구현 모니터링 방법 | |
CN108776934B (zh) | 分布式数据计算方法、装置、计算机设备及可读存储介质 | |
CN104601696B (zh) | 服务处理方法、服务调用***、装置和*** | |
CN109445955B (zh) | 一种计数方法及计数*** | |
CN108111554B (zh) | 一种访问队列的控制方法及装置 | |
CN105446893A (zh) | 数据存储方法及设备 | |
US20110172963A1 (en) | Methods and Apparatus for Predicting the Performance of a Multi-Tier Computer Software System | |
CN104679884B (zh) | 数据库的数据分析方法、装置以及*** | |
CN110147470A (zh) | 一种跨机房数据比对***及方法 | |
CN110825731A (zh) | 数据存储方法、装置、电子设备及存储介质 | |
CN105302907A (zh) | 一种请求的处理方法及装置 | |
Cao et al. | Timon: A timestamped event database for efficient telemetry data processing and analytics | |
CN108932241A (zh) | 日志数据统计方法、装置及节点 | |
CN110232136A (zh) | 一种基于云计算的大数据处理*** | |
US20180314615A1 (en) | Collecting hardware performance data | |
CN112181662B (zh) | 任务调度方法、装置、电子设备及存储介质 | |
JP2009271755A (ja) | コンピュータ稼動状態分析支援プログラム,コンピュータ稼動状態分析支援方法及びコンピュータ稼動状態分析支援装置 | |
CN103530173A (zh) | 动态权重事件处理***和方法 | |
CN110427293A (zh) | 应用处理方法、装置、设备和介质 | |
EP4209933A1 (en) | Data processing method and apparatus, and electronic device and storage medium | |
CN109117278A (zh) | 一种移动终端及其进程间通信的限制方法、存储介质 | |
CN115048595A (zh) | 数据获取方法、装置、终端及存储介质 | |
CN102930046A (zh) | 数据处理方法、计算节点及*** | |
US9678852B2 (en) | Tracing the operations of a data processing apparatus using trace data source identifiers to respond to flush requests |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |