CN112269837A - 一种数据处理的方法和装置 - Google Patents
一种数据处理的方法和装置 Download PDFInfo
- Publication number
- CN112269837A CN112269837A CN202011291330.2A CN202011291330A CN112269837A CN 112269837 A CN112269837 A CN 112269837A CN 202011291330 A CN202011291330 A CN 202011291330A CN 112269837 A CN112269837 A CN 112269837A
- Authority
- CN
- China
- Prior art keywords
- data
- security level
- service nodes
- service
- hotspot
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract description 6
- 238000000034 method Methods 0.000 claims abstract description 46
- 238000012545 processing Methods 0.000 claims description 22
- 238000004590 computer program Methods 0.000 claims description 17
- 230000008901 benefit Effects 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 11
- 230000004927 fusion Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 238000010276 construction Methods 0.000 description 5
- 238000007726 management method Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000013523 data management Methods 0.000 description 3
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000004888 barrier function Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/275—Synchronous replication
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2457—Query processing with adaptation to user needs
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明实施例提供了一种数据处理的方法,应用于专有云,所述专有云具有多个服务节点,所述方法包括:获取所述多个服务节点的服务日志数据;根据所述服务日志数据,从预置数据库中确定热点数据;确定所述热点数据的安全级别;判断所述安全级别是否小于预设安全级别;在判定所述安全级别小于预设安全级别时,将所述热点数据缓存到所述多个服务节点,以在所述多个服务节点进行本地访问。实现了热点数据的快速分享,保证了数据信息的及时性,对于用户可能需求或可能该兴趣的数据信息,能第一时间对应缓存,不会受制于用户获取数据信息时的网络环境,满足用户了用户的使用需求,提高了用户体验。
Description
技术领域
本发明涉及数据处理领域,特别是涉及一种数据处理的方法和装置。
背景技术
在当今社会中,信息数据产业高速发展,人类正式进入信息***时代,各行各业都对各种的信息数据的具有大量需求,尤其在是在智慧城市以及智能生态的建设中,更需要庞大的信息数据作为支撑。
目前,大多数获得数据信息的方式较为单一,即请求端在用户指令或其他指令下,通过信息网络向服务器或数据库请求需要的数据信息,该方式可以满足用户对数据信息的基本需求。但实际上,实施该方式却受限于请求数据信息时信息网络的网络环境和网络速度,且一些用户感兴趣的数据信息时,会因用户生理记忆等原因难以想到对应的关键词,导致用户无法及时获取该数据信息,给用户造成了不好的体验。
发明内容
鉴于上述问题,提出了以便提供克服上述问题或者至少部分地解决上述问题的一种数据处理的方法和装置,包括:
第一方面,提供了一种数据处理的方法,应用于专有云,所述专有云具有多个服务节点,所述方法包括:
获取所述多个服务节点的服务日志数据;
根据所述服务日志数据,从预置数据库中确定热点数据;
确定所述热点数据的安全级别;
判断所述安全级别是否小于预设安全级别;
在判定所述安全级别小于预设安全级别时,将所述热点数据缓存到所述多个服务节点,以在所述多个服务节点进行本地访问。
可选的,还包括:
当检测到所述热点数据发生更新时,将所述更新后的热点数据同步至所述多个服务节点。
可选的,所述根据所述服务日志数据,从预置数据库中确定热点数据,包括:在本发明一实施例中,所述装置还包括:
根据所述服务日志数据,确定预置数据库中各个候选数据的访问频率;
确定所述访问频率大于预设访问频率的候选数据为热点数据。
可选的,还包括:
获取针对所述热点数据的过期时间;
在检测到当前时间1大于所述过期时间时,控制所述多个服务节点对所述热点数据进行本地删除。
可选的,在所述将所述热点数据缓存到所述多个服务节点之前,还包括:
在所述热点数据为加密数据时,对所述热点数据进行解密。
可选的,还包括:
在前端展示针对所述热点数据的快捷访问控件。
可选的,所述多个服务节点为同一区域门户平台提供不同服务。
第二方面,提供了一种数据处理的装置,应用于专有云,所述专有云具有多个服务节点,所述装置包括:
服务日志数据获取模块,获取所述多个服务节点的服务日志数据;
热点数据确定模块,根据所述服务日志数据,从预置数据库中确定热点数据;
安全级别确定模块,确定所述热点数据的安全级别;
安全级别判定模块,判断所述安全级别是否小于预设安全级别;
热点数据缓存模块,在判定所述安全级别小于预设安全级别时,将所述热点数据缓存到所述多个服务节点,以在所述多个服务节点进行本地访问。
可选的,所述装置还包括:
数据同步模块,当检测到所述热点数据发生更新时,将所述更新后的热点数据同步至所述多个服务节点。
可选的,所述热点数据确定模块,还包括:
访问频率确定子模块,根据所述服务日志数据,确定预置数据库中各个候选数据的访问频率;
候选数据确定子模块,确定所述访问频率大于预设访问频率的候选数据为热点数据。
可选的,所述装置,还包括:
过期时间获取模块,获取针对所述热点数据的过期时间;
本地删除模块,在检测到当前时间大于所述过期时间时,控制所述多个服务节点对所述热点数据进行本地删除。
可选的,所述装置,还包括:
热点数据解密模块,在所述热点数据为加密数据时,对所述热点数据进行解密。
可选的,所述多个服务节点为同一区域门户平台提供不同服务。
第三方面,提供了一种电子设备,包括处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如上所述的数据处理的方法。
第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如上所述数据处理的方法。
本发明实施例具有以下优点:
在本发明实施例中,通过获取多个服务节点的服务日志数据,根据服务日志数据,从预置数据库中确定热点数据,确定热点数据的安全级别,判断安全级别是否小于预设安全级别,在判定安全级别小于预设安全级别时,将热点数据缓存到多个服务节点,以在多个服务节点进行本地访问,实现了热点数据的快速分享,保证了数据信息的及时性,对于用户可能需求或可能该兴趣的数据信息,能第一时间对应缓存,不会受制于用户获取数据信息时的网络环境,满足用户了用户的使用需求,提高了用户体验。
附图说明
为了更清楚地说明本发明的技术方案,下面将对本发明的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例提供的一种云平台的整体结构示意图;
图2是本发明一实施例提供的一种数据处理的方法的步骤流程图;
图3是本发明一实施例提供的另一种数据处理的方法的步骤流程图;
图4是本发明一实施例提供的数据处理的装置的结构示意图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在智慧城市建设中,通过引入云计算,大数据,物联网,移动互联等先进技术,搭建标准统一、入口统一、采集统一、管理统一、服务统一、数据统一的跨域多维大数据公共服务云平台,从而实现跨部门、跨领域和跨地域的数据融通能力,并达到域内数据集中、域外数据共享交换、域边界依规则柔性扩展,以形成数字经济的生态循环,推动了城市管理、社会民生、资源环境、经济产业各领域的数据共享,提升了行政效率、城市治理能力、居民生活品质,促进了行业融合发展,推动了产业转型升级、创新商业模式。
通过跨域多维大数据云平台的建设,能够打破数据壁垒,实现数据集中,破解了大数据发展难题。基于云平台建设,将进一步针对云平台进行数据中台、数据共享服务体系建设。
针对数据中台(即统一数据平台)建设,通过引入数据资源平台、数据共享平台等,并配套对应的数据规范,进而可以建设一个打通各级业务协同机构、视频区域,以及各层级的业务***、各领域的智慧应用,也可以形成一个提供开放、互联、共享的数据共享平台,且同时能够具备数据上云、数据治理、数据探索、全链路监控等统一数据管理体系。
如图1所示,云平台中部署有城市应用门户、开放服务网关、统一数据平台、城市物联传感***以及其它结构,其中,开放服务网关包括融合业务共享中心、融合数据创新中心,以下对云平台的各个部分进行具体说明:
(一)城市应用门户
在城市应用门户中,主要分为交通、环保、旅游、工商、医疗、教育、区域经济大脑、就业、跨域鉴权等板块,用户可以通过城市应用门户进入各板块,并可以获取经处理后的数据所组成的各板块对应的资讯信息。
(二)融合业务共享中心与融合数据创新中心
融合业务共享中心可以按业务分类将各区域数据进行融合后创建不同的数据共享中心,例如:个人信息中心、信用信息中心、法人信息中心、金融服务中心、旅游服务中心、综合治理服务中心、时空服务中心、物联网服务中心等。
融合数据创新中心通过数据融合体系和AI算法体系可以实现对融合数据的创新应用。融合业务共享中心与融合数据创新中心可以将数据进行融合处理后,通过城市应用门户向用户呈现处理后的数据。
(三)统一数据平台
统一数据平台可以包括数据资源平台和数据共享平台,其中,数据资源平台可以包括多个组件,例如,数据上云、智能数仓、智能标签、数据探索、AIMaster、数据DNA、全景监控、数据资产,进而能够为上层的行业应用和业务场景提供服务,解决了数据管理领域中的数据标准化和数据质量等问题,且采用拖拽等交互方式,简化了业务逻辑和业务功能的实现,提高了数据平台的易用性。
(四)城市物联传感***
城市物联传感***由压力、湿度、摄像头、光源、红外传感、温度等相关传感设备及设备数据构成。
(五)其它结构
此外,还可以通过超算集群、城市云计算平台、OpenStackFIWare集群(一个开源的云计算管理平台项目,是一系列软件开源项目的组合),对数据进行处理。
参照图2,示出了本发明一实施例提供的一种数据处理的方法的步骤流程图,应用于专有云,所述专有云具有多个服务节点。
其中,专有云可以是一种从物理层面隔离出的专属虚拟化资源池,与传统互联网之间可以存在隔离防火墙,而融合业务共享中心与融合数据创新中心,统一数据平台等可以部署于专有云之中,用户可以通过管理专有云来通过城市物联传感***采集信息数据,以及调用处理后的信息数据为各城市应用门户等功能门户或应用进行服务。
作为一示例:所述多个服务节点为同一区域门户平台提供不同服务。
在实际应用中,多个服务节点可以采用分布式架构方式,根据实际情况部署在不同的物理机、虚拟机上,具体的,可以将同一区域门户平台的处理数据信息的服务器等进行拆分,可以拆分为多个服务节点来分别实现不同的服务功能,从而提升性能瓶颈,而多个服务节点可以互相调用从而为同一区域门户平台提供多种功能服务。
具体可以包括如下步骤:
步骤201,获取所述多个服务节点的服务日志数据。
通常,调用服务节点进行的任何数据操作,都可以通过服务日志数据的形式保存下来。具体的,多个服务节点保存的服务日志数据可以包括:请求的数据名称,数据的服务类型信息,请求数据时的时间戳信息等。
继而,可以通过特定访问日志的指令,从多个服务节点中访问一段时间内的服务日志数据。需要说明的是,多个服务节点可以根据实际情况采用不同的数据结构来记录上述数据。
步骤202,根据所述服务日志数据,从预置数据库中确定热点数据。
其中,预置数据库可以储存有同一区域门户平台所需的各种数据信息,从而可以根据计算结果,确定预置数据库中同一区域门户平台在一定时间间隔内会经常请求的热点数据。
而且,预置数据库可以是专有云中设置的数据库,可以是接入专有云的数据库,可以是专有云通过信息认证能够访问的数据库,等等。
在实际应用中,在通过特定访问日志的指令获取多个服务节点的服务日志数据后,可以对获取到的服务日志数据进行统计分析和计算,可以根据一定的规则确定同一区域门户平台的热点数据,例如,可以根据同一区域门户平台的用户的使用***台的用户的使用频率确定热点数据,即一段时间段内使用数据信息的使用频率较高的数据信息。
步骤203,确定所述热点数据的安全级别。
在实际应用中,预置数据库中预先划分了不同的安全级别,数据信息在进行存储时,会针对数据信息的安全性进行评估,并将其储存在预置数据库中对应安全级别的存储区域中。且数据信息的安全级别越高,则说明该数据信息越重要,高安全级别的数据信息,只在通过特定的身份认证下才能进行访问,在此不作过多的赘述。
步骤204,判断所述安全级别是否小于预设安全级别
在实际应用中,当确定热点数据的安全级别后,为了确定该热点数据是否为重要的数据、确保预置数据库中不会直接泄露,所以需要判断热点数据的安全级别符合可以直接进行数据操作的安全级别,即判断热点数据安全级别是否小于预设安全级别。
步骤205,在判定所述安全级别小于预设安全级别时,将所述热点数据缓存到所述多个服务节点,以在所述多个服务节点进行本地访问。
在实际应用中,当判定热点数据安全级别小于预设安全级别时,可以将热点数据从预置数据库中取出,发送并储存在多个服务节点对应的服务器上,从而,当用户通过同一区域门户平台进行数据信息请求时,若分析出该数据信息请求的对象是该热点数据,则可以直接根据已储存在多个服务节点的热点数据,进行本地访问。
在本发明一实施例中,在所述将所述热点数据缓存到所述多个服务节点之前,该方法还可以包括如下步骤:
在所述热点数据为加密数据时,对所述热点数据进行解密。
在实际应用中,在预置数据库储存数据时,可以对数据采用加密算法实现对数据信息的逻辑加密,并对数据密文与密钥分离管理,当提取热点数据时,若该热点数据为加密数据,则调用密钥对作为加密数据的热点数据进行解密,从而,当在多个服务节点调用热点数据时,无需再获取密钥进行解密,加快了同一区域门户平台获取热点数据的效率。
在本发明实施例中,通过获取多个服务节点的后服务日志数据,根据服务日志数据,从预置数据库中确定热点数据,确定热点数据的安全级别,判断安全级别是否小于预设安全级别,在判定安全级别小于预设安全级别时,将热点数据缓存到多个服务节点,以在多个服务节点进行本地访问,实现了热点数据的快速分享,保证了数据信息的及时性,对于用户可能需求或可能该兴趣的数据信息,能第一时间对应缓存,不会受制于用户获取数据信息时的网络环境,满足用户了用户的使用需求,提高了用户体验。
参照图3,示出了本发明一实施例提供的另一种数据处理的方法的步骤流程图,具体可以包括如下步骤:
步骤301,获取所述多个服务节点的服务日志数据;
步骤302,根据所述服务日志数据,确定预置数据库中各个候选数据的访问频率;
在具体实现中,在获取了多个服务节点的服务日志数据,可以访问预置数据库,并将同一区域门户平台一段时间内从预置数据库中的使用过的数据信息作为候选数据,进一步可以统计各个候选数据在一段时间内的访问频率,该访问频率的计算可以通过专有云所连接的计算引擎进行计算,并可以将各个候选数据的访问频率从高到低进行排列分析,从而确定热点数据。此外,可以将排列后得到的排列表存储在多个服务节点本地,也可以主动向同一区域门户平台进行推送该关于访问频率的排列表。
步骤303,确定所述访问频率大于预设访问频率的候选数据为热点数据。
在实际应用中,可以针对候选数据设置预设访问频率,通过将各个候选数据在一段时间内的访问频率与预设访问频率进行比较,筛选出一段时间内的访问频率大于预设访问频率的候选数据,继而将这些候选数据确定为预置数据库中的热点数据。
需要说明的是,预设访问频率可以是由用户直接设置的频率,也可以是根据大数据算法所计算出的单位时间内热点数据的最低访问频率,此处可以根据实际情况自由选择。
步骤304,确定所述热点数据的安全级别。
步骤305,判断所述安全级别是否小于预设安全级别。
步骤306,在判定所述安全级别小于预设安全级别时,将所述热点数据缓存到所述多个服务节点,以在所述多个服务节点进行本地访问。
在本发明一实施例中,该方法还可以包括如下步骤:
当检测到所述热点数据发生更新时,将所述更新后的热点数据同步至所述多个服务节点。
在具体实现中,在将热点数据缓存到多个服务节点后,可以定时对预置数据库中的热点数据进行检测,当检测到热点数据发生更新时,可以将更新的热点数据,采用在先缓存热点数据时相同的路径,缓存到多个服务节点,从而同一区域门户平台可以第一时间获取到更新后的热点数据,即同一区域门户平台需要使用该热点数据时,总可以确保是最新状态的热点数据。
在本发明另一实施例中,在前端展示针对所述热点数据的快捷访问控件。
在具体实现中,在将所述热点数据缓存到所述多个服务节点后,可以在同一区域门户平台的前端中部署热点数据的快捷访问控件,当快捷访问控件被点击时,则可以在多个服务节点进行本地访问。
在本发明再一实施例中,该方法也可以包括如下子步骤:
获取针对所述热点数据的过期时间;在检测到当前时间大于所述过期时间时,控制所述多个服务节点对所述热点数据进行本地删除。
在实际应用中,热点数据在储存至预置数据库或从预置数据库缓存至多个服务节点时,可以针对该热点数据预设过期时间,该过期时间可以与热点数据储存一起储存。
在具体实现中,当检测到了当前时间大于过期时间时,则可以依据将所述热点数据缓存到所述多个服务节点时的路径,从多个服务节点中将热点数据进行本地删除,从而避免了因存储了过多了热点数据,而影响同一区域门户平台的使用。
在本发明实施例中,通过获取多个服务节点的服务日志数据,根据所述服务日志数据,确定预置数据库中各个候选数据的访问频率,确定所述访问频率大于预设访问频率的候选数据为热点数据,确定所述热点数据的安全级别,确定所述热点数据的安全级别,判断所述安全级别是否小于预设安全级别,在判定所述安全级别小于预设安全级别时,将所述热点数据缓存到所述多个服务节点,以在所述多个服务节点进行本地访问,实现了快速获取热点数据,同一区域门户平台可以便捷地对热点数据进行的访问,且能够自动对热点数据进行及时的更新和删除,避免了因存储了过多了热点数据,而影响同一区域门户平台的使用,提高了用户使用门户平台的体验。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
参照图4,示出了本发明一实施例提供的一种数据处理的装置的结构示意图,应用于专有云,该专有云具有多个服务节点,具体可以包括如下模块:
服务日志数据获取模块401,获取所述多个服务节点的服务日志数据;
热点数据确定模块402,根据所述服务日志数据,从预置数据库中确定热点数据;
安全级别确定模块403,确定所述热点数据的安全级别;
安全级别判定模块404,判断所述安全级别是否小于预设安全级别;
热点数据缓存模块405,在判定所述安全级别小于预设安全级别时,将所述热点数据缓存到所述多个服务节点,以在所述多个服务节点进行本地访问。
在本发明一实施例中,所述装置还包括:
数据同步模块,当检测到所述热点数据发生更新时,将所述更新后的热点数据同步至所述多个服务节点。
在本发明一实施例中,所述热点数据确定模块还包括:
访问频率确定子模块,根据所述服务日志数据,确定预置数据库中各个候选数据的访问频率;
候选数据确定子模块,确定所述访问频率大于预设访问频率的候选数据为热点数据。
在本发明一实施例中,所述装置还包括:
过期时间获取模块,获取针对所述热点数据的过期时间;
本地删除模块,在检测到当前时间大于所述过期时间时,控制所述多个服务节点对所述热点数据进行本地删除。
在本发明一实施例中,所述装置还包括:
热点数据解密模块,在所述热点数据为加密数据时,对所述热点数据进行解密。
在本发明一实施例中,所述多个服务节点为同一区域门户平台提供不同服务。
在本发明实施例中,通过获取多个服务节点的服务日志数据,根据服务日志数据,从预置数据库中确定热点数据,确定热点数据的安全级别,判断安全级别是否小于预设安全级别,在判定安全级别小于预设安全级别时,将热点数据缓存到多个服务节点,以在多个服务节点进行本地访问,实现了热点数据的快速分享,保证了数据信息的及时性,对于用户可能需求或可能该兴趣的数据信息,能第一时间对应缓存,不会受制于用户获取数据信息时的网络环境,满足用户了用户的使用需求,提高了用户体验。
本发明一实施例还提供了一种电子设备,可以包括处理器、存储器及存储在存储器上并能够在处理器上运行的计算机程序,计算机程序被处理器执行时实现如上数据处理的方法。
本发明一实施例还提供了一种计算机可读存储介质,计算机可读存储介质上存储计算机程序,计算机程序被处理器执行时实现如上数据处理的方法。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白,本发明实施例可提供为方法、装置、或计算机程序产品。因此,本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对所提供的一种数据处理的方法和装置,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种数据处理的方法,其特征在于,应用于专有云,所述专有云具有多个服务节点,所述方法包括:
获取所述多个服务节点的服务日志数据;
根据所述服务日志数据,从预置数据库中确定热点数据;
确定所述热点数据的安全级别;
判断所述安全级别是否小于预设安全级别;
在判定所述安全级别小于预设安全级别时,将所述热点数据缓存到所述多个服务节点,以在所述多个服务节点进行本地访问。
2.根据权利要求1所述的方法,其特征在于,还包括:
当检测到所述热点数据发生更新时,将所述更新后的热点数据同步至所述多个服务节点。
3.根据权利要求1或2所述的方法,其特征在于,所述根据所述服务日志数据,从预置数据库中确定热点数据,包括:
根据所述服务日志数据,确定预置数据库中各个候选数据的访问频率;
确定所述访问频率大于预设访问频率的候选数据为热点数据。
4.根据权利要求1所述的方法,其特征在于,还包括:
获取针对所述热点数据的过期时间;
在检测到当前时间大于所述过期时间时,控制所述多个服务节点对所述热点数据进行本地删除。
5.根据权利要求所述的方法,其特征在于,在所述将所述热点数据缓存到所述多个服务节点之前,还包括:
在所述热点数据为加密数据时,对所述热点数据进行解密。
6.根据权利要求1所述的方法,其特征在于,还包括:
在前端展示针对所述热点数据的快捷访问控件。
7.根据权利要求1所述的方法,其特征在于,所述多个服务节点为同一区域门户平台提供不同服务。
8.一种数据处理的装置,其特征在于,应用于专有云,所述专有云具有多个服务节点,所述装置包括:
服务日志数据获取模块,获取所述多个服务节点的服务日志数据;
热点数据确定模块,根据所述服务日志数据,从预置数据库中确定热点数据;
安全级别确定模块,确定所述热点数据的安全级别;
安全级别判定模块,判断所述安全级别是否小于预设安全级别;
热点数据缓存模块,在判定所述安全级别小于预设安全级别时,将所述热点数据缓存到所述多个服务节点,以在所述多个服务节点进行本地访问。
9.一种电子设备,其特征在于,包括处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至7中任一项所述的数据处理的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的数据处理的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011291330.2A CN112269837A (zh) | 2020-11-17 | 2020-11-17 | 一种数据处理的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011291330.2A CN112269837A (zh) | 2020-11-17 | 2020-11-17 | 一种数据处理的方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112269837A true CN112269837A (zh) | 2021-01-26 |
Family
ID=74340350
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011291330.2A Pending CN112269837A (zh) | 2020-11-17 | 2020-11-17 | 一种数据处理的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112269837A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114721592A (zh) * | 2022-03-14 | 2022-07-08 | 北京云宽志业网络技术有限公司 | 适用于冷数据的微服务存储平台及其使用方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105072172A (zh) * | 2015-07-31 | 2015-11-18 | 网宿科技股份有限公司 | 一种基于内容分发网络的热点统计及推送方法及*** |
CN106027552A (zh) * | 2016-06-30 | 2016-10-12 | 中经汇通电子商务有限公司 | 一种用户访问云存储数据的方法及*** |
CN107124630A (zh) * | 2017-03-30 | 2017-09-01 | 华为技术有限公司 | 节点数据管理的方法及装置 |
CN107370811A (zh) * | 2017-07-14 | 2017-11-21 | 北京知道创宇信息技术有限公司 | 一种cdn网络的资源分发方法、计算设备及可读存储介质 |
CN109871388A (zh) * | 2019-02-19 | 2019-06-11 | 北京字节跳动网络技术有限公司 | 数据缓存方法、装置、终电子设备及存储介质 |
CN110083616A (zh) * | 2019-04-19 | 2019-08-02 | 深圳前海微众银行股份有限公司 | 页面数据处理方法、装置、设备及计算机可读存储介质 |
CN111857597A (zh) * | 2020-07-24 | 2020-10-30 | 浪潮电子信息产业股份有限公司 | 一种热点数据缓存方法、***及相关装置 |
-
2020
- 2020-11-17 CN CN202011291330.2A patent/CN112269837A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105072172A (zh) * | 2015-07-31 | 2015-11-18 | 网宿科技股份有限公司 | 一种基于内容分发网络的热点统计及推送方法及*** |
CN106027552A (zh) * | 2016-06-30 | 2016-10-12 | 中经汇通电子商务有限公司 | 一种用户访问云存储数据的方法及*** |
CN107124630A (zh) * | 2017-03-30 | 2017-09-01 | 华为技术有限公司 | 节点数据管理的方法及装置 |
CN107370811A (zh) * | 2017-07-14 | 2017-11-21 | 北京知道创宇信息技术有限公司 | 一种cdn网络的资源分发方法、计算设备及可读存储介质 |
CN109871388A (zh) * | 2019-02-19 | 2019-06-11 | 北京字节跳动网络技术有限公司 | 数据缓存方法、装置、终电子设备及存储介质 |
CN110083616A (zh) * | 2019-04-19 | 2019-08-02 | 深圳前海微众银行股份有限公司 | 页面数据处理方法、装置、设备及计算机可读存储介质 |
CN111857597A (zh) * | 2020-07-24 | 2020-10-30 | 浪潮电子信息产业股份有限公司 | 一种热点数据缓存方法、***及相关装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114721592A (zh) * | 2022-03-14 | 2022-07-08 | 北京云宽志业网络技术有限公司 | 适用于冷数据的微服务存储平台及其使用方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Kumari et al. | Multimedia big data computing and Internet of Things applications: A taxonomy and process model | |
US10776447B2 (en) | Digital communications platform for webpage overlay | |
US11647097B2 (en) | Providing access to managed content | |
CN110597943B (zh) | 基于人工智能的兴趣点处理方法、装置及电子设备 | |
Xu et al. | Distilling at the edge: A local differential privacy obfuscation framework for IoT data analytics | |
Yin et al. | LCARS: A spatial item recommender system | |
CN100527684C (zh) | 用于管理多主机环境下的公共信息模型的方法和*** | |
Karim et al. | Big data management in participatory sensing: Issues, trends and future directions | |
Liang et al. | Search engine for the internet of things: Lessons from web search, vision, and opportunities | |
US20100042615A1 (en) | Systems and methods for aggregating content on a user-content driven website | |
US10120947B2 (en) | Propagation of photographic images with social networking | |
Al-Asadi et al. | Discovering similar user navigation behavior in web log data | |
CN110929129B (zh) | 一种信息检测方法、设备及机器可读存储介质 | |
CN112269837A (zh) | 一种数据处理的方法和装置 | |
CN112258369A (zh) | 统一数据平台和基于统一数据平台的数据处理方法 | |
US10944756B2 (en) | Access control | |
US11356382B1 (en) | Protecting integration between resources of different services using service-generated dependency tags | |
Chen | Cloud computing database and travel smart platform design based on LSTM algorithm | |
Yang et al. | Incorporating site-level knowledge for incremental crawling of web forums: A list-wise strategy | |
Roussaki et al. | Optimising context data dissemination and storage in distributed pervasive computing systems | |
CA2520258C (en) | System and method for dynamically generating a user-centric portal | |
KR20200003625A (ko) | 블록체인 및 분산 인프라 P2P 모델 기반 PoR 증명을 이용한 인터넷 서비스 제공 방법 | |
Diplaris et al. | SocialSensor: Surfacing real-time trends and insights from multiple social networks | |
Alostad et al. | An application to manage widespread social media accounts with one smart touch | |
US11748346B2 (en) | Multi-tenant hosting of inverted indexes for text searches |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |