CN113760177A - 一种数据的上报方法和装置 - Google Patents

一种数据的上报方法和装置 Download PDF

Info

Publication number
CN113760177A
CN113760177A CN202110003276.5A CN202110003276A CN113760177A CN 113760177 A CN113760177 A CN 113760177A CN 202110003276 A CN202110003276 A CN 202110003276A CN 113760177 A CN113760177 A CN 113760177A
Authority
CN
China
Prior art keywords
data
reporting
real
reported
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110003276.5A
Other languages
English (en)
Inventor
吴飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Wodong Tianjun Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN202110003276.5A priority Critical patent/CN113760177A/zh
Publication of CN113760177A publication Critical patent/CN113760177A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0608Saving storage space on storage systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0614Improving the reliability of storage systems
    • G06F3/0619Improving the reliability of storage systems in relation to data integrity, e.g. data losses, bit errors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0659Command handling arrangements, e.g. command buffers, queues, command scheduling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • G06F3/0683Plurality of storage devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

本发明公开了一种数据的上报方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据;对第一数据进行上报处理;存储第二数据,根据上报条件对第二数据进行上报处理。该实施方式能够根据具体需求灵活设置数据上报方式,既保证了数据上报的时效性,又避免了待上报数据的丢失情况,提高了数据上报的准确率和效率,提升了用户体验。

Description

一种数据的上报方法和装置
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据的上报方法和装置。
背景技术
随着互联网的发展,越来越多企业在开发客户端应用产品,以拓展用户群体,促进自身发展。同时,为了提供更好的用户体验,需要对诸如应用产品,乃至客户端的数据进行上报,例如对诸如电量、上传/下载速度的数据、或对诸如服务端失败响应代码等的使用情况数据进行上报。现有的数据上报方式主要包括两种:实时上报和非实时上报。
现有技术中至少存在如下问题:
现有的数据上报方法无法根据具体需求灵活设置数据上报方式,易导致待上报的数据丢失、上报延迟等情形,存在数据上报准确率低、上报效率低、用户体验差的技术问题。
发明内容
有鉴于此,本发明实施例提供一种数据的上报方法和装置,能够根据具体需求灵活设置数据上报方式,既保证了数据上报的时效性,又避免了待上报数据的丢失情况,提高了数据上报的准确率和效率,提升了用户体验。
为实现上述目的,根据本发明实施例的第一方面,提供了一种数据的上报方法,包括:
获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据;
对第一数据进行上报处理;
存储第二数据,根据上报条件对第二数据进行上报处理。
进一步地,存储第二数据,包括:
生成第二数据对应的写入操作,并将写入操作置入串行队列中;
根据串行队列中关于数据操作的执行顺序和写入操作,存储第二数据。
进一步地,上报条件包括最大上报数量和/或上报频率;根据上报条件对第二数据进行上报处理,包括:
生成第二数据对应的读取操作,并将读取操作置入串行队列中;
根据串行队列中关于数据操作的执行顺序和读取操作,以及根据最大上报数量和/或上报频率,从所存储的第二数据中确定目标第二数据,并对目标第二数据进行上报处理。
进一步地,方法还包括:
生成目标第二数据对应的删除操作,并在串行队列中将删除操作置于读取操作之后;
在目标第二数据上报处理成功之后,根据串行队列中数据操作的执行顺序和删除操作,从所存储的第二数据中删除目标第二数据。
进一步地,对于所存储的第二数据依次设置数据编号;根据最大上报数量从所存储的第二数据中确定目标第二数据,还包括:
根据最大上报数量和数据编号从所存储的第二数据中确定目标第二数据。
进一步地,对于上报处理失败的第一数据,方法还包括:
判断处理失败的次数是否超过次数阈值;
若否,继续对上报处理失败的第一数据进行上报处理;
若是,存储上报处理失败的第一数据。
进一步地,以异步的方式对第一数据进行上报处理;以同步的方式对所存储的数据进行上报处理。
根据本发明实施例的第二方面,提供了一种数据的上报装置,包括:
数据上报方式确定模块,用于获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据;
第一上报模块,用于对第一数据进行上报处理;
第二上报模块,用于存储第二数据,根据上报条件对第二数据进行上报处理。
进一步地,第二上报模块还用于:
生成第二数据对应的写入操作,并将写入操作置入串行队列中;
根据串行队列中关于数据操作的执行顺序和写入操作,存储第二数据。
进一步地,第二上报模块还用于:
生成第二数据对应的读取操作,并将读取操作置入串行队列中;
根据串行队列中关于数据操作的执行顺序和读取操作,以及根据最大上报数量和/或上报频率,从所存储的第二数据中确定目标第二数据,并对目标第二数据进行上报处理。
根据本发明实施例的第三方面,提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上述任一种数据的上报方法。
根据本发明实施例的第四方面,提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如上述任一种数据的上报方法。
上述发明中的一个实施例具有如下优点或有益效果:因为采用获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据;对第一数据进行上报处理;存储第二数据,根据上报条件对第二数据进行上报处理的技术手段,所以克服了现有的数据上报方法中存在的数据上报准确率低、上报效率低、用户体验差的技术问题,进而达到根据具体需求灵活设置数据上报方式,既保证了数据上报的时效性,又避免了待上报数据的丢失情况提高了数据上报的准确率和效率,提升了用户体验的技术效果。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明第一实施例提供的数据的上报方法的主要流程的示意图;
图2a是根据本发明第二实施例提供的数据的上报方法的主要流程的示意图;
图2b是图2a所述方法中对数据的上报方式进行划分的主要流程的示意图;
图2c是图2a所述方法中数据上报的主要流程的示意图;
图2d是图2a所述方法中数据操作置入串行队列的主要流程的示意图;
图3是根据本发明实施例提供的数据的上报装置的主要模块的示意图;
图4是本发明实施例可以应用于其中的示例性***架构图;
图5是适于用来实现本发明实施例的终端设备或服务器的计算机***的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本发明第一实施例提供的数据的上报方法的主要流程的示意图;如图1所示,本发明实施例提供的数据的上报方法主要包括:
步骤S101,获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据。
具体地,根据本发明实施例,上报策略是预配置的,可以预先将上报策略写入终端,终端也可以从服务端下载上报策略。上报策略指示了对具体数据的上报方式,例如,对于诸如电量、上传/下载速度之类的性能数据,上报方式为非实时上报;对于诸如服务端失败响应代码等使用情况数据,上报方式为实时上报。
进一步地,根据本发明实施例,上述根据上报策略确定数据上报方式的步骤可以为:根据上报策略设定需要实时上报的数据类型和非实时上报的数据类型,进而根据获取的数据的类型来确定相应的数据上报方式。
根据本发明实时的一个具体实施方式,还可以通过在数据中添加标识字段,根据标识字段的字段值来确定该数据对应的数据上报方式。
需要说明的是,本发明实时主要提供了一种灵活设置数据上报方法,以提高数据上报准确率和效率,因此,未提及不上报的数据的情形,在实际应用时,也可根据具体需求确定不上报的数据类型,对于不上报的数据,只需进行持久化处理即可。
优选地,根据本发明实施例,在获取数据后,上述方法还包括:为获取的数据添加应用参数,其中,应用参数包括下列参数中的至少一种:appID(应用编号)、用户pin(用户识别码)、应用版本号、环境参数(线下、预发、线上)等。
通过上述设置,后续可针对上报的数据快速对相应的应用产品进行更新和维护,以提升用户体验。
步骤S102,对第一数据进行上报处理。
根据上报策略确定的第一数据即需要进行实时上报的数据,此类数据的上报优先级最高,故而直接调用网络模块进行上报处理即可。具体地,根据本发明实施例的一具体实施方式,还可以根据网络模块确定当前网络状态,根据当前网络状态对第一数据进行批量上报处理,以进一步提高上报效率。
根据本发明实施例,对于第一数据进行上报处理可以采用后台线程,其中,后台线程可以为多个,以实现多个第一数据的上报处理,提升上报效率。
步骤S103,存储第二数据,根据上报条件对第二数据进行上报处理。
根据上报策略确定的第二数据的上报优先级较低,不需要实时上报处理,由于第二数据的具体上报时间需要根据上报条件来确定,通过上述设置,将第二数据进行存储,例如,存储至数据库,存储至内存,存储至硬盘等等,能够避免未上报的数据丢失,进而提高数据上报的准确率。
具体地,根据本发明实施例,上述存储第二数据,包括:
生成第二数据对应的写入操作,并将写入操作置入串行队列中;
根据串行队列中关于数据操作的执行顺序和写入操作,存储第二数据。
通过上述设置,将对于数据库、内存等存储装置的数据操作(写入操作、读取操作、删除操作)放置于串行队列中,串行队列根据放置在其内的数据操作的顺序依次执行数据操作任务,避免了数据丢失的情形。
进一步地,根据本发明实施例,上述上报条件包括最大上报数量和/或上报频率;根据上报条件对第二数据进行上报处理的步骤包括:
生成第二数据对应的读取操作,并将读取操作置入串行队列中;
根据串行队列中关于数据操作的执行顺序和读取操作,以及根据最大上报数量和/或上报频率,从所存储的第二数据中确定目标第二数据,并对目标第二数据进行上报处理。
具体地,上述上报条件可以根据实际情况进行设置,还可以根据上报所采用的网络类型(如蜂窝网络、WIFI网络等)、当前网络状况(带宽、是否存在网络堵塞等)来进行调整。根据本发明实施例,也可以先确定好需要进行上报处理的目标第二数据,再为该目标第二数据生成读取操作,并将读取操作放置于串行队列中,根据串行队列中数据操作的执行顺序来执行相应的读取操作,并对读取的目标第二数据进行上报处理。
串行队列保证了各个数据操作任务的先后执行顺序,有利于避免死锁,提升数据的上报效率。根据本发明实施例,串行队列对应某个后台线程,这个线程是不固定的,也不会影响主线程的UI刷新和用户响应。
优选地,根据本发明实施例,对于所存储的第二数据依次设置数据编号;根据最大上报数量从所存储的第二数据中确定目标第二数据,还包括:
根据最大上报数量和数据编号从所存储的第二数据中确定目标第二数据。
根据本发明实施例,在数据在存储过程中,依次生成递增的数据编号,并以该编号作为所存储数据的上报优先级。在满足上报条件的情况下(最大上报数量、上报频率),根据最大上报数量及数据编号确定目标数据,既能有效避免数据丢失,提升数据的上报准确率,又能避免数据上报延迟,提升用户体验。
进一步地,根据本发明实施例,方法还包括:
生成目标第二数据对应的删除操作,并在串行队列中将删除操作置于读取操作之后;
在目标第二数据上报处理成功之后,根据串行队列中数据操作的执行顺序和删除操作,从所存储的第二数据中删除目标第二数据。
对于数据库、内存等存储装置中上报成功的数据,将其在存储装置中进行删除处理,利于释放存储空间。
进一步地,根据本发明实施例,对于上报处理失败的第一数据,上述方法还包括:
判断处理失败的次数是否超过次数阈值;
若否,继续对上报处理失败的第一数据进行上报处理;
若是,存储上报处理失败的第一数据。
通过上述设置,为第一数据的上报处理过程提供了一个兜底策略,在第一数据上报一定次数仍不成功的情况下(可能是当前网络或者***资源可用性不高),存储上报处理失败的第一数据,将其作为非实时上报方式的数据进行后续上报处理,避免了多次重试上报对其他正常的功能业务的影响,提高了数据上报的整体效率。
优选地,根据本发明实施例,以异步的方式对所述第一数据进行上报处理;以同步的方式对所存储的数据进行上报处理。
通过上述设置,即保证数据的高效上报,又保证了上报失败后数据不丢失。
根据本发明实施例的技术方案,因为采用获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据;对第一数据进行上报处理;存储第二数据,根据上报条件对第二数据进行上报处理的技术手段,所以克服了现有的数据上报方法中存在的数据上报准确率低、上报效率低、用户体验差的技术问题,进而达到根据具体需求灵活设置数据上报方式,既保证了数据上报的时效性,又避免了待上报数据的丢失情况提高了数据上报的准确率和效率,提升了用户体验的技术效果。
图2a是根据本发明第二实施例提供的数据的上报方法的主要流程的示意图;本发明实施例的一应用场景是性能数据的上报,如图2a所示,本发明实施例提供的数据的上报方法主要包括:
步骤S201,获取性能数据,并为获取的性能数据添加应用参数。
具体地,根据本发明实施例,上述性能数据包括:应用的启动时间、内存使用量、CPU占用率、应用闪退频率、应用业务异常数据、电量、上传/下载速度等。上述应用参数包括下列参数中的至少一种:appID、用户pin、应用版本号、环境参数(线下、预发、线上)等。
通过上述设置,后续可针对上报的数据快速对相应的应用产品进行更新和维护,以提升用户体验。
步骤S202,根据上报策略将性能数据划分为不上报性能数据、实时上报性能数据和非实时上报性能数据。
具体地,根据本发明实施例,上述根据上报策略划分数据上报方式(不上报、实时上报、非实时上报)的步骤可以为:根据上报策略设定需要实时上报的数据类型、非实时上报的数据类型和不上报的数据类型,进而根据获取的数据的类型来确定相应的数据上报方式。
根据本发明实时的一个具体实施方式,还可以通过在数据中添加标识字段,根据标识字段的字段值来确定该数据对应的数据上报方式。例如,根据字段rt(real time,实时)来进行划分,rt对应的字段值为1,表示实时上报;rt对应的字段值为0,表示不上报;rt对应的字段值为1和0之外的任意值,表示非实时上报。
需要说明的是,本发明实时主要提供了一种灵活设置数据上报方法,以提高数据上报准确率和效率,可以不涉及不上报的数据的情形,也可以在实际应用时根据具体需求确定不上报的数据类型,对于不上报的数据,只需进行持久化处理即可。
如图2b所示,获取性能数据之后,可根据业务需求(实时上报类型、非实时上报类型)和其他状况(如网络状况、上报时间间隔、最大上报数量、数据上报情况等)确定不上报数据、实时上报数据和非实时上报数据。
步骤S203,存储不上报性能数据。
具体地,根据本发明实施例,不上报的性能数据也可根据实际情况进行丢弃,不需进行存储。
步骤S204,对实时上报性能数据进行上报处理,并判断是否上报成功。若是,表示该实时上报性能数据的上报流程处理结果;若否,转到步骤S205。
根据业务需求确定的实时上报性能数据的上报优先级最高,故而直接调用网络模块进行上报处理即可。具体地,根据本发明实施例的一具体实施方式,还可以根据网络模块确定当前网络状态,根据当前网络状态对实时上报性能数据进行批量上报处理,以进一步提高上报效率。
根据本发明实施例,对于实时上报性能数据进行上报处理可以采用后台线程,其中,后台线程可以为多个,以实现多个实时上报性能数据的上报处理,提升上报效率。如图2c所示,可以由多条线程进行实时上报,但是对于非实时上报性能数据,由于是根据串行队列中的数据操作来依次执行,因此,只有一条线程,但是该条线程允许多个存储装置中的数据批量上报。
步骤S205,判断处理失败的次数是否超过次数阈值。若是,即处理失败的次数超过次数阈值,执行步骤S206;若否,即处理失败的次数没超过次数阈值,转到步骤S204。
具体地,上述次数阈值可根据实际情况进行设置。
步骤S206,存储上报处理失败的实时上报性能数据。然后转到步骤S208。
通过上述设置,为实时上报性能数据的上报处理过程提供了一个兜底策略,在实时上报性能数据上报一定次数仍不成功的情况下(可能是当前网络或者***资源可用性不高),将上报处理失败的实时上报性能数据进行存储,例如,存储至数据库,存储至内存,存储至硬盘等等,能够避免未上报的性能数据丢失,进而提高性能数据上报的准确率。
步骤S207,生成非实时上报性能数据对应的写入操作,并将写入操作置入串行队列中;根据串行队列中关于数据操作的执行顺序和写入操作,存储非实时上报性能数据。
根据具体需求指定的上报策略所确定的非实时上报性能数据的上报优先级较低,不需要实时上报处理,由于非实时上报性能数据的具体上报时间需要根据上报条件来确定,通过上述设置,对非实时上报性能数据进行持久化处理,能够避免未上报的性能数据丢失,进而提高性能数据上报的准确率。
通过上述设置,将对于数据库、内存等存储装置的数据操作(写入操作、读取操作、删除操作)放置于串行队列中,串行队列根据放置在其内的数据操作的顺序依次执行数据操作任务,避免了性能数据丢失的情形。
步骤S208,判断所存储的性能数据是否符合上报条件。若是,即存储的性能数据符合上报条件,执行步骤S209;若否,即存储的性能数据不符合上报条件,继续存储其他性能数据。
具体地,上述上报条件包括上报数量和上报频率,上报条件可以根据实际情况进行设置,还可以根据上报所采用的网络类型(如蜂窝网络、WIFI网络等)、当前网络状况(带宽、是否存在网络堵塞等)来进行调整。
步骤S209,生成所存储的性能数据对应的读取操作和删除操作,并将读取操作、删除操作置入串行队列中,其中,串行队列中删除操作位于读取操作之后。
根据本发明实施例,还可以先确定好需要进行上报处理的目标性能数据后,为该目标性能数据生成读取操作,并将读取操作放置于串行队列中,根据串行队列中数据操作的执行顺序来执行响应的读取操作,并对读取的目标数据进行上报处理。
串行队列保证了各个数据操作任务的先后执行顺序,有利于避免死锁,提升性能数据的上报效率。根据本发明实施例,串行队列对应某个后台线程,这个线程是不固定的,也不会影响主线程的UI刷新和用户响应。
如图2d所示,将生成的数据操作(写入操作、读取操作、删除操作)置入串行队列中,然后根据串行队列中各数据操作的执行顺序依次完成相应的操作。
优选地,根据本发明实施例,对于所存储的性能数据依次设置数据编号;根据最大上报数量从所存储的性能数据中确定目标性能数据,还包括:
根据最大上报数量和数据编号从所存储的性能数据中确定目标性能数据。
例如,上报数据为n,从所存储的性能数据中根据数据编号递增的顺序确定前n条性能数据为目标性能数据。
步骤S210,根据串行队列中关于数据操作的执行顺序和读取操作,以及根据最大上报数量和/或上报频率,从所存储的性能数据中确定目标性能数据,并对目标性能数据进行上报处理。
根据本发明实施例,在数据在存储过程中,依次生成递增的数据编号,并以该编号作为所存储数据的上报优先级。在满足上报条件的情况下(最大上报数量、上报频率),根据最大上报数量及数据编号确定目标数据,既能有效避免数据丢失,提升数据的上报准确率,又能避免数据上报延迟,提升用户体验。
步骤S211,在目标性能数据上报处理成功之后,根据串行队列中的删除操作,对存储装置中的目标性能数据进行删除处理。
对于数据库、内存等存储装置中上报成功的性能数据,将其在存储装置中进行删除处理,利于释放存储空间。
优选地,根据本发明实施例,以异步的方式对实时上报性能数据进行上报处理;以同步的方式对所存储的性能数据(包括非实时上报性能数据、上报失败的实时上报性能数据)进行上报处理。
通过上述设置,即保证性能数据的高效上报,又保证了上报失败后性能数据不丢失。
根据本发明实施例的技术方案,因为采用获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据;对第一数据进行上报处理;存储第二数据,根据上报条件对第二数据进行上报处理的技术手段,所以克服了现有的数据上报方法中存在的数据上报准确率低、上报效率低、用户体验差的技术问题,进而达到根据具体需求灵活设置数据上报方式,既保证了数据上报的时效性,又避免了待上报数据的丢失情况提高了数据上报的准确率和效率,提升了用户体验的技术效果。
图3是根据本发明实施例提供的数据的上报装置的主要模块的示意图;如图3所示,本发明实施例提供的数据的上报装置300主要包括:
数据上报方式确定模块301,用于获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据。
具体地,根据本发明实施例,上报策略是预配置的,可以预先将上报策略写入终端,终端也可以从服务端下载上报策略。上报策略指示了对具体数据的上报方式,例如,对于诸如电量、上传/下载速度之类的性能数据,上报方式为非实时上报;对于诸如服务端失败响应代码等使用情况数据,上报方式为实时上报。
进一步地,根据本发明实施例,上述数据上报方式确定模块301还用于:
根据上报策略设定需要实时上报的数据类型和非实时上报的数据类型,进而根据获取的数据的类型来确定相应的数据上报方式。
根据本发明实时的一个具体实施方式,还可以通过在数据中添加标识字段,根据标识字段的字段值来确定该数据对应的数据上报方式。
需要说明的是,本发明实时主要提供了一种灵活设置数据上报装置,以提高数据上报准确率和效率,因此,未提及不上报的数据的情形,在实际应用时,也可根据业务需求确定不上报的数据类型,对于不上报的数据,只需进行持久化处理即可。
优选地,根据本发明实施例,在获取数据后,上述数据的上报装置300还包括应用参数添加模块,用于
为获取的数据添加应用参数,其中,应用参数包括下列参数中的至少一种:appID(应用编号)、用户pin(用户识别码)、应用版本号、环境参数(线下、预发、线上)等。
通过上述设置,后续可针对上报的数据快速对相应的应用产品进行更新和维护,以提升用户体验。
第一上报模块302,用于对第一数据进行上报处理。
第一数据对应的上报优先级最高,故而直接调用网络模块进行上报处理即可。具体地,根据本发明实施例的一具体实施方式,第一上报模块302还用于:根据网络模块确定当前网络状态,根据当前网络状态对第一数据进行批量上报处理,以进一步提高上报效率。
根据本发明实施例,对于第一数据进行上报处理可以采用后台线程,其中,后台线程可以为多个,以实现多个第一数据的上报处理,提升上报效率。
第二上报模块303,用于存储第二数据,根据上报条件对第二数据进行上报处理。
根据上报策略确定的第二数据的上报优先级较低,不需要实时上报处理,由于第二数据的具体上报时间需要根据上报条件来确定,通过上述设置,将第二数据进行存储,例如,存储至数据库,存储至内存,存储至硬盘等等,能够避免未上报的数据丢失,进而提高数据上报的准确率。
具体地,根据本发明实施例,第二上报模块303还用于:
生成第二数据对应的写入操作,并将写入操作置入串行队列中;
根据串行队列中关于数据操作的执行顺序和写入操作,存储第二数据。
通过上述设置,将对于数据库、内存等存储装置的数据操作(写入操作、读取操作、删除操作)放置于串行队列中,串行队列根据放置在其内的数据操作的顺序依次执行数据操作任务,避免了数据丢失的情形。
进一步地,根据本发明实施例,第二上报模块303还用于:
生成第二数据对应的读取操作,并将读取操作置入串行队列中;
根据串行队列中关于数据操作的执行顺序和读取操作,以及根据最大上报数量和/或上报频率,从所存储的第二数据中确定目标第二数据,并对目标第二数据进行上报处理。
具体地,上述上报条件可以根据实际情况进行设置,还可以根据上报所采用的网络类型(如蜂窝网络、WIFI网络等)、当前网络状况(带宽、是否存在网络堵塞等)来进行调整。根据本发明实施例,也可以先确定好需要进行上报处理的目标第二数据,再为该目标第二数据生成读取操作,并将读取操作放置于串行队列中,根据串行队列中数据操作的执行顺序来执行相应的读取操作,并对读取的目标第二数据进行上报处理。
串行队列保证了各个数据操作任务的先后执行顺序,有利于避免死锁,提升数据的上报效率。根据本发明实施例,串行队列对应某个后台线程,这个线程是不固定的,也不会影响主线程的UI刷新和用户响应。
优选地,根据本发明实施例,对于所存储的第二数据依次设置数据编号;上述第二上报模块303还用于:
根据最大上报数量和数据编号从所存储的第二数据中确定目标第二数据。
根据本发明实施例,在数据在存储过程中,依次生成递增的数据编号,并以该编号作为所存储数据的上报优先级。在满足上报条件的情况下(最大上报数量、上报频率),根据最大上报数量及数据编号确定目标数据,既能有效避免数据丢失,提升数据的上报准确率,又能避免数据上报延迟,提升用户体验。
进一步地,根据本发明实施例,上述数据的上报装置300还包括删除模块,在生成目标数据对应的读取操作的步骤之后,删除模块还用于:
生成目标第二数据对应的删除操作,并在串行队列中将删除操作置于读取操作之后;
在目标第二数据上报处理成功之后,根据串行队列中数据操作的执行顺序和删除操作,从所存储的第二数据中删除目标第二数据。
对于数据库、内存等存储装置中上报成功的数据,将其在存储装置中进行删除处理,利于释放存储空间。
进一步地,根据本发明实施例,上述数据的上报装置300还包括第一数据存储模块,对于上报处理失败的第一数据,第一数据持久化模块用于:
判断处理失败的次数是否超过次数阈值;
若否,继续对上报处理失败的第一数据进行上报处理;
若是,存储上报处理失败的第一数据。
通过上述设置,为第一数据的上报处理过程提供了一个兜底策略,在第一数据上报一定次数仍不成功的情况下(可能是当前网络或者***资源可用性不高),存储上报处理失败的第一数据,将其作为非实时上报方式的数据进行后续上报处理,避免了多次重试上报对其他正常的功能业务的影响,提高了数据上报的整体效率。
优选地,根据本发明实施例,以异步的方式对所述第一数据进行上报处理;以同步的方式对所存储的数据进行上报处理。
通过上述设置,即保证数据的高效上报,又保证了上报失败后数据不丢失。
根据本发明实施例的技术方案,因为采用获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据;对第一数据进行上报处理;存储第二数据,根据上报条件对第二数据进行上报处理的技术手段,所以克服了现有的数据上报方法中存在的数据上报准确率低、上报效率低、用户体验差的技术问题,进而达到根据具体需求灵活设置数据上报方式,既保证了数据上报的时效性,又避免了待上报数据的丢失情况提高了数据上报的准确率和效率,提升了用户体验的技术效果。
图4示出了可以应用本发明实施例的数据的上报方法或数据的上报装置的示例性***架构400。
如图4所示,***架构400可以包括终端设备401、402、403,网络404和服务器405(此架构仅仅是示例,具体架构中包含的组件可以根据申请具体情况调整)。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备401、402、403通过网络404与服务器405交互,以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用,例如数据上报类应用、数据采集类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器405可以是提供各种服务的服务器,例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的数据等数据进行分析等处理,并将处理结果(例如第一数据、第二数据--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的数据的上报方法一般由服务器405执行,相应地,数据的上报装置一般设置于服务器405中。
应该理解,图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图5,其示出了适于用来实现本发明实施例的终端设备或服务器的计算机***500的结构示意图。图5示出的终端设备或服务器仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,计算机***500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有***500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时,执行本发明的***中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括数据上报方式确定模块、第一上报模块和第二上报模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,数据上报方式确定模块还可以被描述为“用于获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据;对第一数据进行上报处理;存储第二数据,根据上报条件对第二数据进行上报处理。
根据本发明实施例的技术方案,因为采用获取待上报数据,根据上报策略确定数据上报方式;其中,数据上报方式包括实时上报方式和非实时上报方式,实时上报方式对应的待上报数据为第一数据,非实时上报方式对应的待上报数据为第二数据;对第一数据进行上报处理;存储第二数据,根据上报条件对第二数据进行上报处理的技术手段,所以克服了现有的数据上报方法中存在的数据上报准确率低、上报效率低、用户体验差的技术问题,进而达到根据具体需求灵活设置数据上报方式,既保证了数据上报的时效性,又避免了待上报数据的丢失情况提高了数据上报的准确率和效率,提升了用户体验的技术效果。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (12)

1.一种数据的上报方法,其特征在于,包括:
获取待上报数据,根据上报策略确定数据上报方式;其中,所述数据上报方式包括实时上报方式和非实时上报方式,所述实时上报方式对应的待上报数据为第一数据,所述非实时上报方式对应的待上报数据为第二数据;
对所述第一数据进行上报处理;
存储所述第二数据,根据上报条件对所述第二数据进行上报处理。
2.根据权利要求1所述的数据的上报方法,其特征在于,所述存储所述第二数据,包括:
生成所述第二数据对应的写入操作,并将所述写入操作置入串行队列中;
根据所述串行队列中关于数据操作的执行顺序和所述写入操作,存储所述第二数据。
3.根据权利要求2所述的数据的上报方法,其特征在于,所述上报条件包括最大上报数量和/或上报频率;所述根据上报条件对所述第二数据进行上报处理,包括:
生成所述第二数据对应的读取操作,并将所述读取操作置入所述串行队列中;
根据所述串行队列中关于数据操作的执行顺序和所述读取操作,以及根据所述最大上报数量和/或所述上报频率,从所存储的第二数据中确定目标第二数据,并对所述目标第二数据进行上报处理。
4.根据权利要求3所述的数据的上报方法,其特征在于,所述方法还包括:
生成所述目标第二数据对应的删除操作,并在所述串行队列中将所述删除操作置于所述读取操作之后;
在所述目标第二数据上报处理成功之后,根据所述串行队列中数据操作的执行顺序和所述删除操作,从所存储的第二数据中删除所述目标第二数据。
5.根据权利要求3所述的数据的上报方法,其特征在于,对于所存储的第二数据依次设置数据编号;所述根据所述最大上报数量从所存储的第二数据中确定所述目标第二数据,还包括:
根据所述最大上报数量和所述数据编号从所存储的第二数据中确定所述目标第二数据。
6.根据权利要求1所述的数据的上报方法,其特征在于,对于上报处理失败的第一数据,所述方法还包括:
判断处理失败的次数是否超过次数阈值;
若否,继续对所述上报处理失败的第一数据进行上报处理;
若是,存储所述上报处理失败的第一数据。
7.根据权利要求1所述的数据的上报方法,其特征在于,以异步的方式对所述第一数据进行上报处理;以同步的方式对所存储的数据进行上报处理。
8.一种数据的上报装置,其特征在于,包括:
数据上报方式确定模块,用于获取待上报数据,根据上报策略确定数据上报方式;其中,所述数据上报方式包括实时上报方式和非实时上报方式,所述实时上报方式对应的待上报数据为第一数据,所述非实时上报方式对应的待上报数据为第二数据;
第一上报模块,用于对所述第一数据进行上报处理;
第二上报模块,用于存储所述第二数据,根据上报条件对所述第二数据进行上报处理。
9.根据权利要求8所述的数据的上报装置,其特征在于,所述第二上报模块还用于:
生成所述第二数据对应的写入操作,并将所述写入操作置入串行队列中;
根据所述串行队列中关于数据操作的执行顺序和所述写入操作,存储所述第二数据。
10.根据权利要求9所述的数据的上报装置,其特征在于,所述第二上报模块还用于:
生成所述第二数据对应的读取操作,并将所述读取操作置入所述串行队列中;
根据所述串行队列中关于数据操作的执行顺序和所述读取操作,以及根据所述最大上报数量和/或所述上报频率,从所存储的第二数据中确定目标第二数据,并对所述目标第二数据进行上报处理。
11.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
CN202110003276.5A 2021-01-04 2021-01-04 一种数据的上报方法和装置 Pending CN113760177A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110003276.5A CN113760177A (zh) 2021-01-04 2021-01-04 一种数据的上报方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110003276.5A CN113760177A (zh) 2021-01-04 2021-01-04 一种数据的上报方法和装置

Publications (1)

Publication Number Publication Date
CN113760177A true CN113760177A (zh) 2021-12-07

Family

ID=78786258

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110003276.5A Pending CN113760177A (zh) 2021-01-04 2021-01-04 一种数据的上报方法和装置

Country Status (1)

Country Link
CN (1) CN113760177A (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107171856A (zh) * 2017-06-21 2017-09-15 珠海信达九州科技有限公司 一种即时通讯***组织架构快速更新的方法
CN107885590A (zh) * 2017-11-30 2018-04-06 百度在线网络技术(北京)有限公司 用于智能设备的任务处理方法和装置
CN109618331A (zh) * 2019-02-01 2019-04-12 深圳乐信软件技术有限公司 数据上报方法、装置、设备及存储介质
CN111510395A (zh) * 2020-06-16 2020-08-07 腾讯科技(深圳)有限公司 业务消息上报方法、装置、设备及介质
CN112000541A (zh) * 2020-07-23 2020-11-27 招联消费金融有限公司 埋点数据上报方法、装置、计算机设备和存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107171856A (zh) * 2017-06-21 2017-09-15 珠海信达九州科技有限公司 一种即时通讯***组织架构快速更新的方法
CN107885590A (zh) * 2017-11-30 2018-04-06 百度在线网络技术(北京)有限公司 用于智能设备的任务处理方法和装置
CN109618331A (zh) * 2019-02-01 2019-04-12 深圳乐信软件技术有限公司 数据上报方法、装置、设备及存储介质
CN111510395A (zh) * 2020-06-16 2020-08-07 腾讯科技(深圳)有限公司 业务消息上报方法、装置、设备及介质
CN112000541A (zh) * 2020-07-23 2020-11-27 招联消费金融有限公司 埋点数据上报方法、装置、计算机设备和存储介质

Similar Documents

Publication Publication Date Title
CN109905286B (zh) 一种监控设备运行状态的方法和***
CN112596920A (zh) 一种消息处理的方法、装置、电子设备和存储介质
CN113742389A (zh) 一种业务处理方法和装置
CN110795328A (zh) 一种接口测试方法和装置
CN113760982A (zh) 一种数据处理方法和装置
CN113360815A (zh) 一种请求重试方法和装置
CN112685481A (zh) 一种数据处理方法和装置
CN112667368A (zh) 一种任务数据处理方法和装置
CN112395337A (zh) 一种数据导出方法和装置
CN113760177A (zh) 一种数据的上报方法和装置
CN112688982B (zh) 一种用户请求处理方法和装置
CN112953810B (zh) 一种网络请求的处理方法和装置
CN113127561B (zh) 业务单号的生成方法、装置、电子设备和存储介质
CN109213815B (zh) 控制执行次数的方法、装置、服务器终端以及可读介质
CN114049065A (zh) 一种数据处理方法、装置及***
CN113779122A (zh) 导出数据的方法和装置
CN113535020A (zh) 用于生成应用图标的方法、装置、设备、介质和产品
CN112925623A (zh) 任务处理方法、装置、电子设备和介质
CN113742376A (zh) 一种同步数据的方法、第一服务器以及同步数据的***
CN113722193A (zh) 检测页面异常的方法和装置
CN112463616A (zh) 一种面向Kubernetes容器平台的混沌测试方法和装置
CN110019671B (zh) 一种处理实时消息的方法和***
CN113468053B (zh) 一种应用***的测试方法和装置
CN113766437B (zh) 一种短信发送方法和装置
CN110262756B (zh) 用于缓存数据的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination