CN106210032A - 基于终端数据批量上报的方法及装置 - Google Patents
基于终端数据批量上报的方法及装置 Download PDFInfo
- Publication number
- CN106210032A CN106210032A CN201610529996.4A CN201610529996A CN106210032A CN 106210032 A CN106210032 A CN 106210032A CN 201610529996 A CN201610529996 A CN 201610529996A CN 106210032 A CN106210032 A CN 106210032A
- Authority
- CN
- China
- Prior art keywords
- data
- terminal data
- terminal
- default
- threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本发明实施例公开了一种基于终端数据批量上报的方法及装置,所述方法包括:接收多个终端数据的上报请求;将所述终端数据存储到预设的临时存储文件夹中,并将所述终端数据按照预设的数据格式进行组合,得到所述终端数据的组合数据包;将所述组合数据包作为上报数据上报到计算服务器中;在服务器中按照预设的解析方法,将组合数据包解析为原始的终端数据,并分别发送到数据存储服务器中。所述基于终端数据批量上报的方法及装置,通过在终端中设置临时存储文件夹,使上报的批量数据按照预设的数据格式组合成为组合数据包进行上报,不仅提高了终端数据上报的速度和效率,而且预设数据组合的格式能够提高终端传输过程中的安全性。
Description
技术领域
本发明涉及数据处理技术领域,特别是指一种基于终端数据批量上报的方法及装置。
背景技术
随着科技的不断发展,无论是在生活还是工作中,人们都越来越离不开移动终端的辅助,而为了更好的了解用户在移动终端上的需求,同时不断改进相关的服务,目前多数的运营商或者移动设备相关的品牌企业均需要采集移动终端中的操作数据信息,例如:下载的APP,使用的频率、时间,或者升级信息等等与用户使用或者操作移动设备相关的数据信息。
发明人在实现本发明的过程中发现:现有技术中,实现移动终端(例如手机)中用户操作记录(操作日志)上报的方法是:在手机的应用中预先设置一个client.jar程序以及相关的上报服务器(service),其中,client.jar程序将会采集客户端手机用户的操作,并发送到手机内的上报服务器(service)中,然后上报服务器通过TCP协议将操作记录数据发送到接收服务器(tcp logger)中,然后接收服务器依次传递数据到缓存服务器(kafka)中—实时计算服务器(storm),最后将数据信息存储到数据存储服务器(HDFS server)中。
但是,现有移动终端数据上报的方法均是当移动终端出现一个操作时才上报一次相应的终端数据信息,当同时出现批量操作时,不能将批量的数据信息上报,而且由于数据信息的滞留,容易导致产生的数据信息会出现遗失或者不全,给终端数据的上报带来不利因素。例如:终端中同时出现批量下载或者升级APP应用。
发明内容
有鉴于此,本发明的目的在于提出一种基于终端数据批量上报的方法及装置,能够将终端数据批量上报,同时提高数据上报的效率和准确性。
基于上述目的本发明实施例提供的一种基于终端数据批量上报的方法,包括:
接收多个终端数据的上报请求;
将所述终端数据存储到预设的临时存储文件夹中,并将所述终端数据按照预设的数据格式进行组合,得到所述终端数据的组合数据包;
将所述组合数据包作为上报到计算服务器中。
可选的,所述接收多个终端数据的上报请求的步骤之后还包括:
将所述终端数据存储到预设的中转文件夹中,并记录所述接收终端数据上报请求对应的时间;
将所述接收终端数据上报请求对应的时间作为起始时间,将在预设的时间长度阈值范围内所述中转文件夹中存储的终端数据发送到预设的临时存储文件夹。
可选的,所述将所述终端数据存储到预设的临时存储文件夹中的步骤之后还包括:
判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值;
若大于或等于预设的数量阈值或长度阈值,则停止接收终端数据,并将所述终端数据按照预设的数据结构进行组合;
若小于预设的数量阈值或长度阈值,继续接收所述终端数据。
可选的,所述判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值的步骤之前还包括:
检测移动终端当前的网络状态;
根据网络状态与数量阈值或长度阈值对应关系列表,查找所述当前网络状态对应的数量阈值或长度阈值,将所述当前网络状态对应的数量阈值或长度阈值作为预设的数量阈值或长度阈值。
可选的,所述将所述终端数据按照预设的数据结构进行组合的步骤还包括:
根据接收所述终端数据的时间顺序,给所述终端数据分别配置一个时序标签。
可选的,所述将所述终端数据按照预设的数据结构进行组合的步骤还包括:
按照预设的规则,提取不同所述终端数据的字符作为初始校验码,并将所述初始校验码组合到所述组合数据包中。
本发明实施例还提供了一种基于终端数据批量上报的方法,包括:
接收终端上报的组合数据包;
按照预设的解析方法,将所述组合数据包解析为原始的终端数据;
将解析后的终端数据发送到数据存储服务器中。
可选的,所述将解析后的终端数据发送到数据存储服务器中的步骤之前还包括:
将所述组合数据包解析后,按照所述终端数据中配置的时序标签的顺序将所述终端数据依次发送到数据存储服务器中。
可选的,所述将所述组合数据包解析为原始的终端数据的步骤之后还包括:
将所述组合数据包解析后,按照相同的预设规则提取所述终端数据的字符,得到结果校验码,将所述结果校验码与所述初始校验码进行比对,判断所述终端数据是否完整。
本发明实施例还提供了一种基于终端数据批量上报的装置,包括:
临时存储模块,用于接收多个终端数据的上报请求,将所述终端数据存储到预设的临时存储文件夹中;
数据组合模块,用于将所述终端数据按照预设的数据格式进行组合,得到所述终端数据的组合数据包;将所述组合数据包发送到数据发送模块;
数据发送模块,用于接收所述数据组合模块发送的数据组合包,并将所述组合数据包作为上报到计算服务器中。
可选的,所述临时存储模块还包括:中转文件夹;
所述临时存储模块还用于在接收终端数据的上报请求后,将所述终端数据存储到预设的中转文件夹中,并记录所述接收终端数据上报请求对应的时间,将所述接收终端数据上报请求对应的时间作为起始时间,将在预设的时间长度阈值范围内所述中转文件夹中存储的终端数据发送到预设的临时存储文件夹。
可选的,所述临时存储模块还包括阈值判断模块;
所述阈值判断模块用于,判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值;若大于或等于预设的数量阈值或长度阈值,则停止接收终端数据,并将所述终端数据按照预设的数据结构进行组合;若小于预设的数量阈值或长度阈值,继续接收所述终端数据。
可选的,所述临时存储模块还包括阈值设定模块;
所述阈值设定模块,用于检测移动终端当前的网络状态,根据网络状态与数量阈值或长度阈值对应关系列表,查找所述当前网络状态对应的数量阈值或长度阈值,将所述当前网络状态对应的数量阈值或长度阈值作为预设的数量阈值或长度阈值,并发送给所述阈值判断模块。
可选的,所述数据组合模块还用于,根据接收所述终端数据的时间顺序,给所述终端数据分别配置一个时序标签。
可选的,所述数据组合模块还用于,按照预设的规则,提取不同所述终端数据的字符作为初始校验码,并将所述初始校验码组合到所述组合数据包中。
本发明实施例还提供了一种基于终端数据批量上报的装置,包括:
数据接收模块,用于接收终端上报的组合数据包;
数据解析模块,用于按照预设的解析方法,将所述组合数据包解析为原始的终端数据;
数据转发模块,用于将解析后的终端数据发送到数据存储服务器中。
可选的,所述数据解析模块还用于,将所述组合数据包解析后,按照所述终端数据中配置的时序标签的顺序将所述终端数据依次发送到数据存储服务器中。
可选的,所述数据解析模块还用于,将组合数据包解析后,按照相同的预设规则提取所述终端数据的字符,得到结果校验码,将所述结果校验码与所述初始校验码进行比对,判断所述终端数据是否完整。
从上面所述可以看出,本发明实施例提供的基于终端数据批量上报的方法及装置,通过在终端中设置有临时存储文件夹,使得同时上报的批量终端数据能够安全的存储到所述临时存储文件夹中,然后按照预设的数据格式进行组合、打包,将待上报的批量所述终端数据组合为一个组合数据包进行数据的上报和传输,不仅提高了终端数据上报的速度和效率,而且所述预设数据组合的格式能够进一步提高上报终端数据传输过程中的安全性。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
为了更清楚地说明本公开的实施例,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的基于终端数据批量上报的方法应用于终端的第一实施例的流程图;
图2为本发明提供的基于终端数据批量上报的方法应用于终端的第二实施例的流程图;
图3为本发明提供的基于终端数据批量上报的方法应用于终端的第三实施例的流程图;
图4为本发明提供的基于终端数据批量上报的方法应用于服务器的一个实施例的流程图;
图5为本发明提供的基于终端数据批量上报的方法应用于服务器的另一个实施例的流程图;
图6为本发明提供的基于终端数据批量上报的装置应用于终端的一个实施例的结构示意图;
图7为本发明提供的基于终端数据批量上报的装置应用于服务器的一个实施例的结构示意图。
通过上述附图,已示出本公开明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本公开构思的范围,而是通过参考特定实施例为本领域技术人员说明本公开的概念。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明进一步详细说明。
需要说明的是,本发明实施例中所有使用“第一”和“第二”的表述均是为了区分两个相同名称非相同的实体或者非相同的参量,可见“第一”“第二”仅为了表述的方便,不应理解为对本发明实施例的限定,后续实施例对此不再一一说明。
参照图1所示,为本发明提供的基于终端数据批量上报的方法应用于终端的第一实施例的流程图。所述基于终端数据批量上报的方法包括:
步骤101,接收多个终端数据的上报请求;
当在同一时间出现批量的上报请求时,会产生批量的终端数据。或者,即使终端中的数据上报请求并不是同时出现,但是这一时刻的终端上报的路径或传输通道、网络比较拥堵时,也可以连续接收数据上报的请求,而不需要立即上报终端数据。判断是否出现多个上报请求时,可以设定一个时间范围,在这一时间范围内接收的数据上报请求均作为同一时刻接收的上报请求。所述终端数据是指移动终端中产生的相关操作日志等数据信息,反映了用户使用终端的情况。所述终端是指手机、平板等智能移动终端或者电脑、控制台灯终端设备。
步骤102,将所述终端数据存储到预设的临时存储文件夹中,并将所述终端数据按照预设的数据格式进行组合,得到所述终端数据的组合数据包;
其中,所述临时存储文件夹是指在移动终端中预设的一个用于临时存储的存储单元,既可以预先建立好,也可以当接收到批量终端数据上报请求时再建立所述临时存储文件夹;所述预设的数据格式是指根据常用或者预设的算法定义出的新的数据类型,能够将多个终端数据组合到一起,作为组合数据包,或者说将多个待上报的终端数据打包为一个数据包。这样,需要上报多个终端数据时,只需要上报一个数据包就能够将接收的所有终端数据上报到指定的数据存储服务器中。
步骤103,将所述组合数据包上报到计算服务器中。
可选的,所述终端将所述组合数据包作为上报数据依次通过接收服务器、缓存服务器上报到计算服务器中。
由上述实施例可知,所述基于终端数据批量上报的方法,通过在终端中设置临时存储文件夹,使得同时上报的批量终端数据能够安全的存储到所述临时存储文件夹中,然后按照预设的数据格式进行组合、打包,将上报的批量终端数据组合为组合数据包进行数据的上报和传输,不仅提高了终端数据上报的速度和效率,而且由于预设数据组合的格式使得传输过程中得不到原始的终端数据,能够进一步提高终端上报终端数据传输过程中的安全性和可靠性。
参照图2所示,为本发明提供的基于终端数据批量上报的方法应用于终端的第二实施例的流程图。所述基于终端数据批量上报的方法包括:
步骤201,接收多个终端数据的上报请求;
步骤202,将所述终端数据存储到预设的临时存储文件夹中,并将所述终端数据按照预设的数据格式进行组合,得到所述终端数据的组合数据包;
可选的,所述将所述终端数据存储到预设的中转文件夹中的步骤之后还包括:
步骤2021,将所述终端数据存储到预设的中转文件夹中,并记录所述接收终端数据上报请求对应的时间;
步骤2022,将所述接收终端数据上报请求对应的时间作为起始时间,将在预设的时间长度阈值范围内所述中转文件夹中存储的终端数据发送到预设的临时存储文件夹。若超过所述预设的时间长度阈值后,将接收终端数据上报请求的时刻作为新的起始时间。
这样,通过记录接收所述终端数据的接收时间,能够通过预设的时间阈值确定是否需要将中转文件夹中的终端数据发送出去,而且,通过所述中转文件夹能够使得发送到所述临时存储文件夹中的终端数据处于可控的范围内,进而能够进一步提高多个终端数据进行组合的稳定性。
可选的,还可以在预设的时间长度阈值范围内,检测是否接收到新的终端数据上报请求,若是,则将中转文件夹中的终端数据发送到预设的临时存储文件夹中,并将新的终端数据上报请求对应的终端数据存储到中转文件夹中,记录新的时间节点信息,将新的时间节点信息作为新的起点时间,在预设的时间长度阈值范围内,检测是否接收到下一次上报请求;否则,将中转文件夹中的终端数据直接上报。
通过在预设的时间长度阈值范围内监测是否有新的数据上报请求,既可以确定当移动终端中有多个数据需要上报时,何时才能进行上报数据,而且又不必等待过长的时间而耽误终端数据的上报。而且在本发明实施例的上报方法中设置有中转文件夹(通常其存储容量远小于临时存储文件夹),使得能够判断是否需要将待上报的终端数据发送到临时存储文件夹中进行数据的组合处理。提高了终端数据上报的效率。具体的,当在设定的时间长度阈值范围内只有一个终端数据的上报请求时,表示此时的上报并不频繁,因此终端可以将终端数据一个一个依次进行上报,也即,此时不需要将终端数据进行组合处理就能够达到较好的上报效率,而当终端数据上报的频率增大时,也即在预设的时间长度阈值范围内能够监测到多个上报请求时,终端若是将终端数据一个一个上报,则效率会很低,此时就需要对终端数据进行组合处理,以提高数据上报的速度和效率。
可选的,所述将所述终端数据存储到预设的临时存储文件夹中的步骤之后还包括:
步骤2025,判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值;
若大于或等于预设的数量阈值或长度阈值,则执行步骤2026;
若小于预设的数量阈值或长度阈值,继续接收所述终端数据。
步骤2026,停止接收终端数据,并将所述终端数据按照预设的数据结构进行组合,得到组合数据包;
为了防止接收过量的终端数据使得组合数据包过大,而影响终端数据上报的速度,进而造成数据的滞留或传输的堵塞。需要限定组合数据包的大小,本发明通过设置预设的数量阈值或长度阈值,进而限定了组合数据包的大小。提高了移动终端数据上报时数据处理的速度和效率。
可选的,所述预设的数据格式为采用Google Protocol Buffer定义的批次消息的数据格式。当然,还可以使用其他方法定义性的数据格式,使得能够将多个终端数据进行组合。Google Protocol Buffer是一种轻便高效的结构化数据存储格式,可以用于结构化数据串行化,或者说序列化。它很适合做数据存储或RPC数据交换格式。可用于通讯协议、数据存储等领域的语言无关、平台无关、可扩展的序列化结构数据格式。
可选的,所述判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值的步骤2025之前还包括:
步骤2023,检测移动终端当前的网络状态;
步骤2024,根据网络状态与数量阈值或长度阈值对应关系列表,查找所述当前网络状态对应的数量阈值或长度阈值,将所述当前网络状态对应的数量阈值或长度阈值作为预设的数量阈值或长度阈值。
通过根据当前移动终端的网络状态能够适应性的设定终端数据的数量阈值或长度阈值,进而既能够充分利用网络带宽的传输能力,又不会导致终端数据的传输出现终端或阻塞。提高了移动终端数据上报的效率和稳定性。
步骤203,将所述组合数据包上报到计算服务器中。
可选的,所述将所述组合数据包上报到计算服务器中的步骤203还包括:
步骤2031,按照预设的规则,提取不同所述终端数据的字符作为初始校验码,并将所述初始校验码组合到所述组合数据包中。
其中,所述预设的规则是指选定的终端数据字符的位置,例如:选定终端数据前端两位字符和后端的两位字符组合作为初始校验码。这样,通过提取终端数据的字符,既能够对终端数据上报的过程进行校验,而且通过对由终端数据字符组成的初始校验码的校验,能够进一步判断上报后的终端数据的是否完整。也即,所述移动终端数据批量上报的方法及提高了终端数据上报的安全性,又检验了终端数据传输上报过程的完整性,或者说,接收的终端数据的可靠性。
可选的,所述将所述组合数据包上报到计算服务器中的步骤203还包括:
步骤2032,根据接收所述终端数据的时间顺序,给所述终端数据分别配置一个时序标签。
这样,能够使得所有上报的终端数据在打包称为组合数据包时不会影响终端数据的先后顺序,同时也减少了终端数据之间相互干扰出错的概率,最终提高了移动终端数据上报时的稳定性和可靠性。参照图3所示,为本发明提供的基于终端数据批量上报的方法应用于终端的第三实施例的流程图。所述基于终端数据批量上报的方法包括:
步骤301,接收终端数据的上报请求;
步骤302,将所述终端数据存储到预设的中转文件夹中,并记录所述接收终端数据上报请求对应的时间;
步骤303,将所述接收终端数据上报请求对应的时间作为起始时间,将在预设的时间长度阈值范围内所述中转文件夹中存储的终端数据发送到预设的临时存储文件夹;
步骤304,检测移动终端当前的网络状态;
步骤305,根据网络状态与数量阈值或长度阈值对应关系列表,查找所述当前网络状态对应的数量阈值或长度阈值,将所述当前网络状态对应的数量阈值或长度阈值作为预设的数量阈值或长度阈值;
步骤306,判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值;
若大于或等于预设的数量阈值或长度阈值,则执行步骤307;
若小于预设的数量阈值或长度阈值,继续接收所述终端数据。
步骤307,停止接收终端数据,并将所述终端数据按照预设的数据结构进行组合,得到组合数据包;
步骤308,按照预设的规则,提取不同所述终端数据的字符作为初始校验码,并将所述初始校验码组合到所述组合数据包中;
步骤309,根据接收所述终端数据的时间顺序,给所述终端数据分别配置一个时序标签。
由上述实施例可知,所述基于终端数据批量上报的方法,通过预设的时间长度阈值,判断是否需要继续等待终端数据上报,还是将已接收的终端数据进行上报,通过当前终端的网络状态计算得到终端数据的长度或者数量阈值,进而限定终端数据组合的数量,避免组合数据包因过大而影响数据的传输;通过提取终端数据的字符作为校验码不仅能够对终端数据的上报过程进行校验,而且能够保证上报后的终端数据的完整性。
需要说明的是,本发明并不限于上述实施例中所限定的步骤和顺序,可以根据实际需要,相应的调整或者调换步骤的顺序,或者,还可以减少某些可以省略的步骤,以提高终端数据上报的速度。
参照图4所示,为本发明提供的基于终端数据批量上报的方法应用于服务器的一个实施例的流程图。所述基于终端数据批量上报的方法包括:
步骤401,接收终端上报的组合数据包;
步骤402,按照预设的解析方法,将所述组合数据包解析为原始的终端数据;
步骤403,将解析后的终端数据发送到数据存储服务器中。
其中,当组合数据包发送到计算服务器或者数据存储服务器中时,需要将该组合数据包解析为原始的多个终端数据进行存储,此时,在所述计算服务器或者数据存储服务器中预设有与组合相对应的解析的方法或者是解析模块。这里,既可以在计算服务器中解析后发送到数据存储服务器,也可以先发送到数据存储服务器中后再去解析。
由上述实施例可知,所述基于终端数据批量上报的方法通过终端数据的组合与解析不仅提高了数据传输过程中的速率和安全稳定性,而且使得终端数据不易发生丢失或遗漏,保证数据的完整性。
参照图5所示,为本发明提供的基于终端数据批量上报的方法应用于服务器的另一个实施例的流程图。所述基于终端数据批量上报的方法包括:
步骤501,接收终端上报的组合数据包;
步骤502,按照预设的解析方法,将所述组合数据包解析为原始的终端数据;
步骤503,将解析后的终端数据发送到数据存储服务器中。
可选的,所述将解析后的终端数据发送到数据存储服务器中的步骤503还包括:
步骤5031,将所述组合数据包解析后,按照相同的预设规则提取所述终端数据的字符,得到结果校验码,将所述结果校验码与所述初始校验码进行比对,判断所述终端数据是否完整。
可选的,所述将解析后的终端数据发送到数据存储服务器中的步骤503还包括:
步骤5032,将所述组合数据包解析后,按照所述终端数据中配置的时序标签的顺序将所述终端数据依次发送到数据存储服务器中。
由上述实施例可知,所述基于终端数据批量上报的方法通过提取检验码不仅能够保证终端数据的完整性,而且可以进一步检验终端数据传输过程的可靠性。通过时序标签使得所述终端数据能够按照原有的时间顺序进行数据的上报和存储,提高了整个数据上报***的稳定性和可靠性。
参照图6所示,为本发明提供的基于终端数据批量上报的装置应用于终端的一个实施例的结构示意图。所述基于终端数据批量上报的装置包括:
临时存储模块601,用于接收多个终端数据的上报请求,将待上报的所述终端数据存储到预设的临时存储文件夹6012中;
数据组合模块602,用于将所述终端数据按照预设的数据格式进行组合,得到终端数据的组合数据包;将所述组合数据包发送到数据发送模块603;
数据发送模块603,用于接收所述数据组合模块602发送的数据组合包,并将所述组合数据包上报到计算服务器中。
由上述实施例可知,所述基于终端数据批量上报的装置,通过所述临时存储模块601将待上报的所述终端数据发送到预设的临时存储文件夹6012中,通过所述数据组合模块602将多个终端数据进行组合,得到一个组合数据包,通过所述数据发送模块603实现组合数据包的发送,进而高效、有序的完成终端数据的上报。所述基于终端数据批量上报的装置不仅提高了终端数据批量上报的效率,而且使得上报的终端数据具有一个的安全性,不会轻易被截获终端数据的人解读出来。也即进一步提高了终端数据批量上报的安全性。
在本发明一些可选的实施例中,所述临时存储模块601还包括:中转文件夹6011;
所述临时存储模块601还用于接收终端数据的上报请求,将所述终端数据存储到预设的中转文件夹中6011,并记录所述接收终端数据上报请求对应的时间,将所述接收终端数据上报请求对应的时间作为起始时间,将在预设的时间长度阈值范围内所述中转文件夹中6011存储的终端数据发送到预设的临时存储文件夹6012。
在本发明另一些可选的实施例中,所述临时存储模块601还包括阈值判断模块6014;
所述阈值判断模块6014用于,判断临时存储文件夹6012中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值,若大于或等于预设的数量阈值或长度阈值,则停止接收终端数据,并将终端数据按照预设的数据结构进行组合;若小于预设的数量阈值或长度阈值,继续接收所述终端数据。可选的,所述临时存储模块601还包括阈值设定模块6013,所述阈值设定模块6013,用于检测移动终端当前的网络状态,根据网络状态与数量阈值或长度阈值对应关系列表,查找所述当前网络状态对应的数量阈值或长度阈值,将所述当前网络状态对应的数量阈值或长度阈值作为预设的数量阈值或长度阈值,并发送给所述阈值判断模块6014。
在一些较佳的实施例中,所述数据组合模块602还用于,根据接收所述终端数据的时间顺序,给每个所述终端数据分别配置一个时序标签;
在另一些较佳的实施例中,所述数据组合模块602还用于,按照预设的规则,提取不同所述终端数据的字符作为初始校验码,并将所述初始校验码组合到组合数据包中;
参照图7所示,为本发明提供的基于终端数据批量上报的装置应用于服务器的一个实施例的结构示意图。所述基于终端数据批量上报的装置包括:
数据接收模块701,用于接收终端上报的组合数据包;
数据解析模块702,用于按照预设的解析方法,将所述组合数据包解析为原始的终端数据;
数据转发模块703,用于将解析后的终端数据发送到数据存储服务器中。
由上述实施例可知,所述基于终端数据批量上报的装置通过所述数据解析模块702将组合数据包解析为原始终端数据,进而使得终端数据上报后能够得到真实、可靠的数据,提高了终端数据上报的稳定性和可靠性。
可选的,所述数据解析模块702还用于,将所述组合数据包解析后,按照所述终端数据中配置的时序标签的顺序将所述终端数据依次发送到数据存储服务器中。
可选的,所述数据解析模块702还用于,将所述组合数据包解析后,按照相同的预设规则提取所述终端数据的字符,得到结果校验码,将所述结果校验码与所述初始校验码进行比对,判断所述终端数据是否完整。
在本发明的又一方面,还提供了一种装置,所述装置的一个实施例,包括:
一个或多个处理器,可选的,所述一个或多个处理器用于执行上面任意一个或多个实施例所述的方法中所限定的步骤;以及
用于存储操作指令的存储器;
所述一个或多个处理器被配置为从所述存储器中获取操作指令并执行:
接收多个终端数据的上报请求;
将所述终端数据存储到预设的临时存储文件夹中,并将所述终端数据按照预设的数据格式进行组合,得到所述终端数据的组合数据包;
将所述组合数据包作为上报到计算服务器中。
可选的,所述接收多个终端数据的上报请求的步骤之后还包括:
将所述终端数据存储到预设的中转文件夹中,并记录所述接收终端数据上报请求对应的时间;
将所述接收终端数据上报请求对应的时间作为起始时间,将在预设的时间长度阈值范围内所述中转文件夹中存储的终端数据发送到预设的临时存储文件夹。
可选的,所述将所述终端数据存储到预设的临时存储文件夹中的步骤之后还包括:
判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值;
若大于或等于预设的数量阈值或长度阈值,则停止接收终端数据,并将所述终端数据按照预设的数据结构进行组合;
若小于预设的数量阈值或长度阈值,继续接收所述终端数据。
可选的,所述判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值的步骤之前还包括:
检测移动终端当前的网络状态;
根据网络状态与数量阈值或长度阈值对应关系列表,查找所述当前网络状态对应的数量阈值或长度阈值,将所述当前网络状态对应的数量阈值或长度阈值作为预设的数量阈值或长度阈值。
可选的,所述将所述终端数据按照预设的数据结构进行组合的步骤还包括:
根据接收所述终端数据的时间顺序,给所述终端数据分别配置一个时序标签。
可选的,所述将所述终端数据按照预设的数据结构进行组合的步骤还包括:
按照预设的规则,提取不同所述终端数据的字符作为初始校验码,并将所述初始校验码组合到所述组合数据包中。
还可以执行:
接收终端上报的组合数据包;
按照预设的解析方法,将所述组合数据包解析为原始的终端数据;
将解析后的终端数据发送到数据存储服务器中。
可选的,所述将解析后的终端数据发送到数据存储服务器中的步骤之前还包括:
将所述组合数据包解析后,按照所述终端数据中配置的时序标签的顺序将所述终端数据依次发送到数据存储服务器中。
可选的,所述将所述组合数据包解析为原始的终端数据的步骤之后还包括:
将所述组合数据包解析后,按照相同的预设规则提取所述终端数据的字符,得到结果校验码,将所述结果校验码与所述初始校验码进行比对,判断所述终端数据是否完整。
此外,典型地,本公开所述的装置可为各种电子终端设备,例如手机、个人数字助理(PDA)、平板电脑(PAD)、平板电脑(PAD)、智能电视等,因此本公开的保护范围不应限定为某种特定类型的装置。
此外,根据本公开的方法还可以被实现为由CPU执行的计算机程序,该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被CPU执行时,执行本公开的方法中限定的上述功能。
此外,上述方法步骤以及***单元也可以利用控制器以及用于存储使得控制器实现上述步骤或单元功能的计算机程序的计算机可读存储介质实现。
此外,应该明白的是,本文所述的计算机可读存储介质(例如,存储器)可以是易失性存储器或非易失性存储器,或者可以包括易失性存储器和非易失性存储器两者。作为例子而非限制性的,非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦写可编程ROM(EEPROM)或快闪存储器。易失性存储器可以包括随机存取存储器(RAM),该RAM可以充当外部高速缓存存储器。作为例子而非限制性的,RAM可以以多种形式获得,比如同步RAM(DRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据速率SDRAM(DDR SDRAM)、增强SDRAM(ESDRAM)、同步链路DRAM(SLDRAM)以及直接RambusRAM(DRRAM)。所公开的方面的存储设备意在包括但不限于这些和其它合适类型的存储器。
本领域技术人员还将明白的是,结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性,已经就各种示意性组件、方块、模块、电路和步骤的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个***的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现所述的功能,但是这种实现决定不应被解释为导致脱离本公开的范围。
结合这里的公开所描述的各种示例性逻辑块、模块和电路可以利用被设计成用于执行这里所述功能的下列部件来实现或执行:通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件组件或者这些部件的任何组合。通用处理器可以是微处理器,但是可替换地,处理器可以是任何传统处理器、控制器、微控制器或状态机。处理器也可以被实现为计算设备的组合,例如,DSP和微处理器的组合、多个微处理器、一个或多个微处理器结合DSP核、或任何其它这种配置。
结合这里的公开所描述的方法或算法的步骤可以直接包含在硬件中、由处理器执行的软件模块中或这两者的组合中。软件模块可以驻留在RAM存储器、快闪存储器、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动盘、CD-ROM、或本领域已知的任何其它形式的存储介质中。示例性的存储介质被耦合到处理器,使得处理器能够从该存储介质中读取信息或向该存储介质写入信息。在一个替换方案中,所述存储介质可以与处理器集成在一起。处理器和存储介质可以驻留在ASIC中。ASIC可以驻留在用户终端中。在一个替换方案中,处理器和存储介质可以作为分立组件驻留在用户终端中。
在一个或多个示例性设计中,所述功能可以在硬件、软件、固件或其任意组合中实现。如果在软件中实现,则可以将所述功能作为一个或多个指令或代码存储在计算机可读介质上或通过计算机可读介质来传送。计算机可读介质包括计算机存储介质和通信介质,该通信介质包括有助于将计算机程序从一个位置传送到另一个位置的任何介质。存储介质可以是能够被通用或专用计算机访问的任何可用介质。作为例子而非限制性的,该计算机可读介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储设备、磁盘存储设备或其它磁性存储设备,或者是可以用于携带或存储形式为指令或数据结构的所需程序代码并且能够被通用或专用计算机或者通用或专用处理器访问的任何其它介质。此外,任何连接都可以适当地称为计算机可读介质。例如,如果使用同轴线缆、光纤线缆、双绞线、数字用户线路(DSL)或诸如红外线、无线电和微波的无线技术来从网站、服务器或其它远程源发送软件,则上述同轴线缆、光纤线缆、双绞线、DSL或诸如红外先、无线电和微波的无线技术均包括在介质的定义。如这里所使用的,磁盘和光盘包括压缩盘(CD)、激光盘、光盘、数字多功能盘(DVD)、软盘、蓝光盘,其中磁盘通常磁性地再现数据,而光盘利用激光光学地再现数据。上述内容的组合也应当包括在计算机可读介质的范围内。
公开的示例性实施例,但是应当注公开的示例性实施例,但是应当注意,在不背离权利要求限定的本公开的范围的前提下,可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外,尽管本公开的元素可以以个体形式描述或要求,但是也可以设想多个,除非明确限制为单数。
应当理解的是,在本文中使用的,除非上下文清楚地支持例外情况,单数形式“一个”旨在也包括复数形式。还应当理解的是,在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。
上述本公开实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
Claims (18)
1.一种基于终端数据批量上报的方法,其特征在于,包括:
接收多个终端数据的上报请求;
将所述终端数据存储到预设的临时存储文件夹中,并将所述终端数据按照预设的数据格式进行组合,得到所述终端数据的组合数据包;
将所述组合数据包上报到计算服务器中。
2.根据权利要求1所述的方法,其特征在于,所述接收多个终端数据的上报请求的步骤之后还包括:
将所述终端数据存储到预设的中转文件夹中,并记录所述接收终端数据上报请求对应的时间;
将所述接收终端数据上报请求对应的时间作为起始时间,将在预设的时间长度阈值范围内所述中转文件夹中存储的终端数据发送到预设的临时存储文件夹。
3.根据权利要求1所述的方法,其特征在于,所述将所述终端数据存储到预设的临时存储文件夹中的步骤之后还包括:
判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值;
若大于或等于预设的数量阈值或长度阈值,则停止接收终端数据,并将所述终端数据按照预设的数据结构进行组合;
若小于预设的数量阈值或长度阈值,继续接收所述终端数据。
4.根据权利要求3所述的方法,其特征在于,所述判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值的步骤之前还包括:
检测移动终端当前的网络状态;
根据网络状态与数量阈值或长度阈值对应关系列表,查找所述当前网络状态对应的数量阈值或长度阈值,将所述当前网络状态对应的数量阈值或长度阈值作为预设的数量阈值或长度阈值。
5.根据权利要求1所述的方法,其特征在于,所述将所述终端数据按照预设的数据结构进行组合的步骤还包括:
根据接收所述终端数据的时间顺序,给所述终端数据分别配置一个时序标签。
6.根据权利要求1所述的方法,其特征在于,所述将所述终端数据按照预设的数据结构进行组合的步骤还包括:
按照预设的规则,提取不同所述终端数据的字符作为初始校验码,并将所述初始校验码组合到所述组合数据包中。
7.一种基于终端数据批量上报的方法,其特征在于,包括:
接收终端上报的组合数据包;
按照预设的解析方法,将所述组合数据包解析为原始的终端数据;
将解析后的终端数据发送到数据存储服务器中。
8.根据权利要求7所述的方法,其特征在于,所述将解析后的终端数据发送到数据存储服务器中的步骤之前还包括:
将所述组合数据包解析后,按照所述终端数据中配置的时序标签的顺序将所述终端数据依次发送到数据存储服务器中。
9.根据权利要求7所述的方法,其特征在于,所述将所述组合数据包解析为原始的终端数据的步骤之后还包括:
将所述组合数据包解析后,按照相同的预设规则提取所述终端数据的字符,得到结果校验码,将所述结果校验码与所述初始校验码进行比对,判断所述终端数据是否完整。
10.一种基于终端数据批量上报的装置,其特征在于,包括:
临时存储模块,用于接收多个终端数据的上报请求,将所述终端数据存储到预设的临时存储文件夹中;
数据组合模块,用于将所述终端数据按照预设的数据格式进行组合,得到所述终端数据的组合数据包;将所述组合数据包发送到数据发送模块;
数据发送模块,用于接收所述数据组合模块发送的数据组合包,并将所述组合数据包作为上报到计算服务器中。
11.根据权利要求10所述的装置,其特征在于,所述临时存储模块还包括:中转文件夹;
所述临时存储模块还用于在接收终端数据的上报请求后,将所述终端数据存储到预设的中转文件夹中,并记录所述接收终端数据上报请求对应的时间,将所述接收终端数据上报请求对应的时间作为起始时间,将在预设的时间长度阈值范围内所述中转文件夹中存储的终端数据发送到预设的临时存储文件夹。
12.根据权利要求10所述的装置,其特征在于,所述临时存储模块还包括阈值判断模块;
所述阈值判断模块用于,判断临时存储文件夹中的终端数据的数量或长度是否大于或等于预设的数量阈值或长度阈值;若大于或等于预设的数量阈值或长度阈值,则停止接收终端数据,并将所述终端数据按照预设的数据结构进行组合;若小于预设的数量阈值或长度阈值,继续接收所述终端数据。
13.根据权利要求12所述的装置,其特征在于,所述临时存储模块还包括阈值设定模块;
所述阈值设定模块,用于检测移动终端当前的网络状态,根据网络状态与数量阈值或长度阈值对应关系列表,查找所述当前网络状态对应的数量阈值或长度阈值,将所述当前网络状态对应的数量阈值或长度阈值作为预设的数量阈值或长度阈值,并发送给所述阈值判断模块。
14.根据权利要求10所述的装置,其特征在于,所述数据组合模块还用于,根据接收所述终端数据的时间顺序,给所述终端数据分别配置一个时序标签。
15.根据权利要求10所述的装置,其特征在于,所述数据组合模块还用于,按照预设的规则,提取不同所述终端数据的字符作为初始校验码,并将所述初始校验码组合到所述组合数据包中。
16.一种基于终端数据批量上报的装置,其特征在于,包括:
数据接收模块,用于接收终端上报的组合数据包;
数据解析模块,用于按照预设的解析方法,将所述组合数据包解析为原始的终端数据;
数据转发模块,用于将解析后的终端数据发送到数据存储服务器中。
17.根据权利要求16所述的装置,其特征在于,所述数据解析模块还用于,将所述组合数据包解析后,按照所述终端数据中配置的时序标签的顺序将所述终端数据依次发送到数据存储服务器中。
18.根据权利要求16所述的装置,其特征在于,所述数据解析模块还用于,将组合数据包解析后,按照相同的预设规则提取所述终端数据的字符,得到结果校验码,将所述结果校验码与所述初始校验码进行比对,判断所述终端数据是否完整。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610529996.4A CN106210032A (zh) | 2016-07-06 | 2016-07-06 | 基于终端数据批量上报的方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610529996.4A CN106210032A (zh) | 2016-07-06 | 2016-07-06 | 基于终端数据批量上报的方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106210032A true CN106210032A (zh) | 2016-12-07 |
Family
ID=57472411
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610529996.4A Pending CN106210032A (zh) | 2016-07-06 | 2016-07-06 | 基于终端数据批量上报的方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106210032A (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108305628A (zh) * | 2017-06-27 | 2018-07-20 | 腾讯科技(深圳)有限公司 | 语音识别方法、装置、计算机设备和存储介质 |
CN108696568A (zh) * | 2018-02-23 | 2018-10-23 | 福建天泉教育科技有限公司 | 一种请求批量处理方法及终端 |
CN110825533A (zh) * | 2018-08-10 | 2020-02-21 | 网宿科技股份有限公司 | 一种数据发射方法及装置 |
CN111639902A (zh) * | 2020-04-29 | 2020-09-08 | 深圳壹账通智能科技有限公司 | 基于kafka的数据审核方法、控制装置及计算机设备、存储介质 |
CN111797117A (zh) * | 2020-07-02 | 2020-10-20 | 北京润科通用技术有限公司 | 一种数据处理方法及装置 |
CN112422618A (zh) * | 2020-09-23 | 2021-02-26 | 广州启盟信息科技有限公司 | 位置感应数据上报方法、装置及*** |
CN113761433A (zh) * | 2020-11-04 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 业务处理方法和装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101437179A (zh) * | 2008-12-17 | 2009-05-20 | 烽火通信科技股份有限公司 | 一种基于epon***实现批量同步多配置数据的方法 |
CN104536959A (zh) * | 2014-10-16 | 2015-04-22 | 南京邮电大学 | 一种Hadoop存取海量小文件的优化方法 |
-
2016
- 2016-07-06 CN CN201610529996.4A patent/CN106210032A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101437179A (zh) * | 2008-12-17 | 2009-05-20 | 烽火通信科技股份有限公司 | 一种基于epon***实现批量同步多配置数据的方法 |
CN104536959A (zh) * | 2014-10-16 | 2015-04-22 | 南京邮电大学 | 一种Hadoop存取海量小文件的优化方法 |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108305628A (zh) * | 2017-06-27 | 2018-07-20 | 腾讯科技(深圳)有限公司 | 语音识别方法、装置、计算机设备和存储介质 |
CN108305628B (zh) * | 2017-06-27 | 2020-10-02 | 腾讯科技(深圳)有限公司 | 语音识别方法、装置、计算机设备和存储介质 |
CN108696568A (zh) * | 2018-02-23 | 2018-10-23 | 福建天泉教育科技有限公司 | 一种请求批量处理方法及终端 |
CN108696568B (zh) * | 2018-02-23 | 2021-07-06 | 福建天泉教育科技有限公司 | 一种请求批量处理方法及终端 |
CN110825533A (zh) * | 2018-08-10 | 2020-02-21 | 网宿科技股份有限公司 | 一种数据发射方法及装置 |
CN110825533B (zh) * | 2018-08-10 | 2022-12-20 | 网宿科技股份有限公司 | 一种数据发射方法及装置 |
CN111639902A (zh) * | 2020-04-29 | 2020-09-08 | 深圳壹账通智能科技有限公司 | 基于kafka的数据审核方法、控制装置及计算机设备、存储介质 |
CN111797117A (zh) * | 2020-07-02 | 2020-10-20 | 北京润科通用技术有限公司 | 一种数据处理方法及装置 |
CN112422618A (zh) * | 2020-09-23 | 2021-02-26 | 广州启盟信息科技有限公司 | 位置感应数据上报方法、装置及*** |
CN113761433A (zh) * | 2020-11-04 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 业务处理方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106210032A (zh) | 基于终端数据批量上报的方法及装置 | |
US10652265B2 (en) | Method and apparatus for network forensics compression and storage | |
CN105446750B (zh) | WebApp启动运行、生成镜像文件的方法和装置 | |
CN104503745B (zh) | 一种生成应用渠道包的方法和装置 | |
CN108133008A (zh) | 数据库中业务数据的处理方法、装置、设备和存储介质 | |
CN110489315B (zh) | 一种操作请求的跟踪方法、跟踪装置及服务器 | |
CN109582655B (zh) | ***日志的定位方法及装置、计算机可读存储介质 | |
CN106911782A (zh) | 一种数据读取方法及装置 | |
CN113595788B (zh) | 一种基于插件的api网关管理方法及装置 | |
CN108874825B (zh) | 一种异常数据的校验方法和装置 | |
CN107329735A (zh) | 一种内网补丁更新方法与装置 | |
CN109660513A (zh) | 一种基于Storm集群识别问题账号的方法及装置 | |
CN107562426B (zh) | 无埋点式云端收集分析浏览器Trace的方法及*** | |
CN109660496A (zh) | 校验信息的获取、资源校验和发布方法、装置及电子设备 | |
CN107040613A (zh) | 一种报文传输方法及*** | |
CN105184559B (zh) | 一种支付***及方法 | |
CN111315026B (zh) | 信道的选择方法、装置、网关及计算机可读存储介质 | |
CN116545701A (zh) | Http报文规则匹配方法、***、设备及介质 | |
CN115361450B (zh) | 请求信息处理方法、装置、电子设备、介质和程序产品 | |
CN116132625A (zh) | 交易流程的监管方法和装置 | |
CN111935316B (zh) | 一种前端设备目录获取方法及装置 | |
US11556649B2 (en) | Methods and apparatus to facilitate malware detection using compressed data | |
CN108805741B (zh) | 一种电能质量数据的融合方法、装置及*** | |
CN108023920A (zh) | 一种数据包传输方法、设备及应用接口 | |
CN104468736A (zh) | 一种对rfid阅读器进行信令跟踪的***和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20161207 |
|
WD01 | Invention patent application deemed withdrawn after publication |