CN108287666B - 用于云存储环境的数据存储方法及装置 - Google Patents
用于云存储环境的数据存储方法及装置 Download PDFInfo
- Publication number
- CN108287666B CN108287666B CN201810042737.8A CN201810042737A CN108287666B CN 108287666 B CN108287666 B CN 108287666B CN 201810042737 A CN201810042737 A CN 201810042737A CN 108287666 B CN108287666 B CN 108287666B
- Authority
- CN
- China
- Prior art keywords
- storage
- data
- stored
- storage node
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0604—Improving or facilitating administration, e.g. storage management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0608—Saving storage space on storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0653—Monitoring storage devices or systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种用于云存储环境的数据存储方法及装置,涉及云存储技术领域,该方法包括:当接收到待存储数据时,根据待存储数据、当前的多个存储节点和网络环境,确定各存储影响因素对应的数值;存储影响因素包括:待存储数据的数据量、待存储数据与存储节点之间的传输距离、存储节点的故障率、存储节点的剩余空间、存储节点的内存占用率、存储节点对应的网络带宽或存储节点对应的网络延迟;根据各存储影响因素对应的数值,确定与待存储数据匹配的最佳存储节点,以将待存储数据对应存储于最佳存储节点中。本发明能够基于多因素考虑而为待存储数据合理匹配存储节点,提供较好的数据存储方案。
Description
技术领域
本发明涉及云存储技术领域,尤其是涉及一种用于云存储环境的数据存储方法及装置。
背景技术
云存储环境下的资源调度方案,主要是提供一种优选数据存储方案,也即能够将待存储数据合理的存储于存储节点中,以期得到最小的存储耗时。传统的云存储环境下的资源调度方法主要基于存储节点的剩余空间(如Openstack的Cinder块存储)来为数据选择合适的存储节点,也即为待存储数据实现合理的存储节点调度。然而,这种仅考虑存储节点的剩余空间来进行数据存储的方式,考虑因素单一,致使最终所得的数据存储方案不佳。
发明内容
有鉴于此,本发明的目的在于提供一种用于云存储环境的数据存储方法及装置,能够基于多因素考虑而为待存储数据合理匹配存储节点,提供较好的数据存储方案。
为了实现上述目的,本发明实施例采用的技术方案如下:
第一方面,本发明实施例提供了一种用于云存储环境的数据存储方法,包括:
当接收到待存储数据时,根据所述待存储数据、当前的多个存储节点和网络环境,确定各存储影响因素对应的数值;所述存储影响因素包括:待存储数据的数据量、待存储数据与存储节点之间的传输距离、存储节点的故障率、存储节点的剩余空间、存储节点的内存占用率、存储节点对应的网络带宽或存储节点对应的网络延迟;
根据各所述存储影响因素对应的数值,确定与所述待存储数据匹配的最佳存储节点,以将所述待存储数据对应存储于最佳存储节点中。
结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,所述根据各所述存储影响因素对应的数值,确定与所述待存储数据匹配的最佳存储节点的步骤,包括:
通过三角模糊层次分析法确定各所述存储影响因素对应的权重;
根据各所述存储影响因素对应的数值和权重,基于遗传算法确定与所述待存储数据匹配的最佳存储节点。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第二种可能的实施方式,其中,所述根据各所述存储影响因素对应的数值和权重,基于遗传算法确定与所述待存储数据匹配的最佳存储节点的步骤,包括:
对各所述存储影响因素对应的数值进行归一化处理;
将归一化处理后的各所述存储影响因素对应的数值、各所述存储影响因素对应的权重代入至预先建立的遗传目标函数,求解获得待存储数据与最佳存储节点的对应关系。
结合第一方面的第二种可能的实施方式,本发明实施例提供了第一方面的第三种可能的实施方式,其中,所述遗传目标函数的建立过程包括:
设置待存储数据的序列为X={x1,x2,…,xm},当前可用的存储节点的序列为Y={y1,y2,...,ym},建立存储方案矩阵Mk如下:
基于存储方案矩阵Mk,构造以下遗传目标函数Zk:
其中,矩阵P为各所述存储节点对应的代价矩阵,Dj为所述待存储数据所在的数据中心根节点与第j个存储节点之间的传输距离,Sizei为归一化处理后的第i个待存储数据的数据量,Capacityj为归一化处理后的第j个存储节点的初始空间,Spacej为归一化处理后的第j个存储节点的剩余空间,Memj为归一化处理后的第j个存储节点的内存使用率,NetBj为归一化处理后的第j个存储节点对应的网络带宽,NetDj为归一化处理后的第j个存储节点对应的网络延迟,Failj为归一化处理后的第j个存储节点的故障率,w1为存储节点的故障率对应的权重,w2为存储节点的剩余空间对应的权重,w3为存储节点的内存使用率对应的权重,w4为待存储数据的传输距离对应的权重,w5为待存储数据的数据量对应的权重,w6为存储节点的网络带宽对应的权重,w7为存储节点的网络延迟对应的权重。
结合第一方面的第三种可能的实施方式,本发明实施例提供了第一方面的第四种可能的实施方式,其中,所述求解获得待存储数据与最佳存储节点的对应关系的步骤,包括:
在求解所述遗传目标函数的过程中,对Mk进行变异处理,以实现所述遗传算法中的种群进化;其中,设定Mk为所述遗传算法中的染色体;
在所述种群进化的过程中,采用多次迭代的方式计算得到最优存储方案矩阵MAG;其中,每次迭代均选取适应度排名在预设范围内的优质染色体作为在下次迭代过程中进行计算的Mk,并淘汰适应度排名在预设范围外的致死染色体
根据所述最优存储方案矩阵MAG,确定待存储数据与最佳存储节点的对应关系。
结合第一方面的第四种可能的实施方式,本发明实施例提供了第一方面的第五种可能的实施方式,其中,所述变异处理的方式包括:
结合第一方面的第四种可能的实施方式,本发明实施例提供了第一方面的第六种可能的实施方式,其中,所述根据所述最优存储方案矩阵MAG,确定待存储数据与最佳存储节点的对应关系的步骤,包括:
根据所述最优存储方案矩阵MAG中各元素的值,确定待存储数据的序列为X={x1,x2,…,xm}与当前可用的存储节点的序列为Y={y1,y2,...,ym}的存储匹配关系K=(k1,k2,…,km);在存储匹配关系K中,m为待存储数据的序列号,km为序列号为m的待存储数据对应的最佳存储节点的序列号。
结合第一方面的第四种可能的实施方式,本发明实施例提供了第一方面的第七种可能的实施方式,其中,设定在待存储数据的序列X={x1,x2,…,xm}中,xi={si,mi,ni},si为第i个待存储数据所需占用的存储空间,mi为第i个待存储数据所需占用的内存量,ni为第i个待存储数据所需占用的网络资源;
设定在存储节点的序列为Y={y1,y2,...,ym}中,yi={Si,Mi,Ni},Si为第i个存储节点的存储空间,Mi为第i个存储节点的内存资源,Ni为第i个存储节点的网络资源;
假设第i个存储节点对应存储第a个待存储数据、第b个待存储数据和第c个待存储数据,所述存储方案矩阵Mk需满足如下约束条件:
Si≥sa+sb+…sc
Mi≥ma+mb+…mc
Ni≥na+nb+…nc
其中ti(s)为在数据存储过程中由待存储数据产生的耗时,ti(m)在数据存储过程中由存储节点产生的耗时,ti(n)为在数据存储过程中由网络环境产生的耗时。
第二方面,本发明实施例还提供一种用于云存储环境的数据存储装置,包括:
因素确定模块,用于当接收到待存储数据时,根据所述待存储数据、当前的多个存储节点和网络环境,确定各存储影响因素对应的数值;所述存储影响因素包括:待存储数据的数据量、待存储数据与存储节点之间的传输距离、存储节点的故障率、存储节点的剩余空间、存储节点的内存占用率、存储节点对应的网络带宽或存储节点对应的网络延迟;
最佳节点确定模块,用于根据各所述存储影响因素对应的数值,确定与所述待存储数据匹配的最佳存储节点,以将所述待存储数据对应存储于最佳存储节点中。
第三方面,本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行第一方面任一项所述的方法的步骤。
本发明实施例提供了一种用于云存储环境的数据存储方法及装置,在接收到待存储数据时,能够根据待存储数据、当前的多个存储节点和网络环境确定各存储影响因素对应的数值,进而根据各存储影响因素对应的数值,确定与待存储数据匹配的最佳存储节点。这种基于多种存储影响因素的综合考虑而选取合适的存储节点的方式,考虑因素较为全面,能够基于全局进行考虑,以提供较好的数据存储方案。
本公开的其他特征和优点将在随后的说明书中阐述,或者,部分特征和优点可以从说明书推知或毫无疑义地确定,或者通过实施本公开的上述技术即可得知。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了本发明实施例所提供的一种用于云存储环境的数据存储方法的流程图;
图2示出了本发明实施例所提供的一种云存储环境的存储影响因素的示意图;
图3示出了本发明实施例所提供的另一种用于云存储环境的数据存储方法的示意图;
图4示出了本发明实施例所提供的一种用于云存储环境的数据存储装置的结构示意图;
图5示出了本发明实施例所提供的一种终端的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
云存储环境下的资源调度方案的存储最小耗时问题主要指对同一时刻到达数据中心的待存储数据,采用合适的策略将其存储到存储节点中,以期得到最小的存储耗时。其中,资源调度的过程又可理解为选取现有资源(存储节点)以存储数据的过程。在传统的云存储环境下的资源调度方法中,主要基于存储节点的剩余空间来为待存储数据匹配存储节点,资源调度决策的考虑因素太过单一,这将导致最终所得的数据存储方案只能陷入一个局部最优解,无法以全局的角度进行综合分析,也即无法得到全局最优解,因此现有的数据存储方法(也即,资源调度方法)所得结果并非最优,存储耗时仍旧较长。此外,由于云存储环境下的资源调度也是一种复杂的离散组合最优化问题,在高复杂度的解空间中,使用现有仅基于存储节点的剩余空间的资源调度方法难以找到一个多项式时间算法来求其最优解,因此这种基于剩余空间进行资源调度的方法也较不合理。
为改善上述问题,本发明实施例提供的一种用于云存储环境的数据存储方法及装置,也可理解为本发明实施例提供了一种云存储环境下的数据存储方法及装置,该技术可应用于云存储场合中,以下对本发明实施例进行详细介绍。
实施例一:
参见图1所示的一种用于云存储环境的数据存储方法的流程图,该方法可以由终端执行,终端可以为计算机、上位机、服务器等智能终端,包括以下步骤:
步骤S102,当接收到待存储数据时,根据待存储数据、当前的多个存储节点和网络环境,确定各存储影响因素对应的数值;存储影响因素包括:待存储数据的数据量、待存储数据与存储节点之间的传输距离、存储节点的故障率、存储节点的剩余空间、存储节点的内存占用率、存储节点对应的网络带宽或存储节点对应的网络延迟。其中,存储影响因素又可称为资源调度影响因素,数据量也即数据大小,剩余空间也即剩余存储空间。
在本实施例中,主要考虑存储节点、待存储数据和网络环境三大指标,其中,参见图2所示的一种云存储环境的存储影响因素的示意图,示意出选取最佳存储节点需考虑存储节点、待存储数据和网络环境三大指标,且存储节点指标对应的存储影响因素为故障率、剩余空间和内存占用率,待存储数据指标对应的存储影响因素为数据大小和数据距离,网络环境指标对应的存储影响因素为网络带宽和网络延迟。
在具体应用中,可以根据实际需要而灵活选取上述存储影响因素中的多个作为数据存储中的参考因素,在此不再赘述。
步骤S104,根据上述各存储影响因素对应的数值,确定与待存储数据匹配的最佳存储节点,以将待存储数据对应存储于最佳存储节点中。
在一种实施方式中,可以通过三角模糊层次分析法确定各存储影响因素对应的权重;根据各存储影响因素对应的数值和权重,基于遗传算法确定与待存储数据匹配的最佳存储节点。
上述待存储数据可以为多个,也即多个待存储数据同时到达数据中心时,可以利用上述数据存储方法为多个待存储数据调度相应的最佳存储节点进行存储。
本实施例的上述方法中,在接收到待存储数据时,能够根据待存储数据、当前的多个存储节点和网络环境确定各存储影响因素对应的数值,进而根据各存储影响因素对应的数值,确定与待存储数据匹配的最佳存储节点。这种基于多种存储影响因素的综合考虑而选取合适的存储节点的方式,考虑因素较为全面,能够基于全局进行考虑,得到全局最优解,存储耗时更少,得到的数据存储方案更加可靠,以便实现更好的负载平衡,使云资源存储***能够稳定运行。
三角模糊层次分析法是一种定性与定量相结合的***分析方法,能够量化评价指标,为最优方案的选择提供了依据,对同一层次(等级)的要素进行两两比较,并根据评定尺度确定其相对重要程度,最后据此建立模糊判断矩阵,从而确定各要素的相对重要度。通过采用三角模糊层次分析法,可确定各存储影响因素对应的权重。在具体实施时,可采用“1-9”标度来衡量指标的重要性,通过对云存储环境的数据进行分析,对两两之间的存储影响因素的比较可以都选取三组三角模糊数据,最终确定每个存储影响因素对应的权重,以便于构造遗传算法目标函数。其中,所有存储影响因素对应的权重的总和为1。
在具体实施时,根据各存储影响因素对应的数值和权重,基于遗传算法确定与待存储数据匹配的最佳存储节点的步骤,包括:
(1)对各存储影响因素对应的数值进行归一化处理。
以待存储数据的数据量、待存储数据与存储节点之间的传输距离、存储节点的故障率、存储节点的剩余空间、存储节点的内存占用率、存储节点对应的网络带宽和存储节点对应的网络延迟共七个存储影响因素为例,令存储节点的剩余空间和存储节点对应的网络带宽为正指标(也即,数值越大越好),其余的存储影响因素均为反指标(也即,数值越小越好),通过对各数值进行归一化,可消除量纲效应。
(2)将归一化处理后的各存储影响因素对应的数值、各存储影响因素对应的权重代入至预先建立的遗传目标函数,求解获得待存储数据与最佳存储节点的对应关系。
在具体实施时,需要调度的资源主要为存储节点,具体需要考虑到存储节点的剩余空间、内存占用率和网络延迟。其中内存占用率与网络延迟会随着同时或连续存入的数据量的增加而上升,达到一定程度后会导致数据传输失败。除此之外,其它的存储影响因素可作为遗传目标函数的约束条件,以罚函数的形式体现在遗传目标函数中。
设定在数据存储过程中考虑待存储数据的数据量、待存储数据与存储节点之间的传输距离、存储节点的故障率、存储节点的剩余空间、存储节点的内存占用率、存储节点对应的网络带宽和存储节点对应的网络延迟共七个存储影响因素,遗传目标函数的建立过程包括:
设置待存储数据的序列为X={x1,x2,…,xm},当前可用的存储节点的序列为Y={y1,y2,…,ym},设置n≤m,也即设置待存储数据的个数少于存储节点的个数,建立存储方案矩阵Mk如下:
基于存储方案矩阵Mk,构造以下遗传目标函数Zk:
其中,矩阵P为各存储节点对应的代价矩阵,Dj为待存储数据所在的数据中心根节点与第j个存储节点之间的传输距离(可以为路由跳数),Sizei为归一化处理后的第i个待存储数据的数据量,Capacityj为归一化处理后的第j个存储节点的初始空间,Spacej为归一化处理后的第j个存储节点的剩余空间,Memj为归一化处理后的第j个存储节点的内存使用率,NetBj为归一化处理后的第j个存储节点对应的网络带宽,NetDj为归一化处理后的第j个存储节点对应的网络延迟,Failj为归一化处理后的第j个存储节点的故障率,w1为存储节点的故障率对应的权重,w2为存储节点的剩余空间对应的权重,w3为存储节点的内存使用率对应的权重,w4为待存储数据的传输距离对应的权重,w5为待存储数据的数据量对应的权重,w6为存储节点的网络带宽对应的权重,w7为存储节点的网络延迟对应的权重。其中,w1至w7的七个权重的总和为1。为了使遗传目标函数的求解更为简洁,假设所有存储节点具有相同的I/O频率,考虑到数据量在整体上对存储节点的选取影响偏低,因此可统一设置各待存储数据的数据量为常数Size。
设定在待存储数据的序列X={x1,x2,…,xm}中,xi={si,mi,ni},si为第i个待存储数据所需占用的存储空间,mi为第i个待存储数据所需占用的内存量,ni为第i个待存储数据所需占用的网络资源;
设定在存储节点的序列为Y={y1,y2,…,ym}中,yi={Si,Mi,Ni},Si为第i个存储节点的存储空间,Mi为第i个存储节点的内存资源,Ni为第i个存储节点的网络资源;
假设第i个存储节点对应存储第a个待存储数据、第b个待存储数据和第c个待存储数据,存储方案矩阵Mk需满足如下约束条件:
Si≥sa+sb+…sc
Mi≥ma+mb+…mc
Ni≥na+nb+…nc
其中ti(s)为在数据存储过程中由待存储数据产生的耗时,ti(m)在数据存储过程中由存储节点产生的耗时,ti(n)为在数据存储过程中由网络环境产生的耗时。
在求解获得待存储数据与最佳存储节点的对应关系的步骤中,具体可参照如下方式执行:
(1)在求解遗传目标函数的过程中,对Mk进行变异处理,以实现遗传算法中的种群进化;其中,设定Mk为遗传算法中的染色体。
在具体实现时,可以给出如下定义:设存在矩阵T为n×m阶初等矩阵,则称种群中个体交换后的结果为M′k=Mk·T;将染色体Mk中若干行中的“1”调整为“0”,并在该行随机选择一个“0”调整为“1”,称之为变异。在确保成立的基础上,即可完成种群的进化。
(2)在种群进化的过程中,采用多次迭代的方式计算得到最优存储方案矩阵MAG;其中,每次迭代均选取适应度排名在预设范围内的优质染色体作为在下次迭代过程中进行计算的Mk,并淘汰适应度排名在预设范围外的致死染色体
在具体实现时,对于进化过程中所产生的致死染色体,本实施例提供了一种基于学习的致死染色体自我改善算法,首先有如下定义:
种群中适应度排名前10%的个体染色体为优质染色体种群中适应度排名后10%及不符合的染色体称为致死染色体具体的,该算法首先为每个致死染色体从优质染色体集合中选择一个作为学习模板,若两者在相同基因位置的值都为1,则将其保留,然后根据学习率随机从学习模板中选择若干值为1的基因,将其替换到致死染色体的对应位置中,则该行原为1的基因值替换为0,最后,将所有优质染色体的基因进行累加,并将累加值等于优质染色体个数的基因进行保留且置为1,得到该种群的一个综合优质染色体MAG,并将MAG中值为1的基因位置所对应的致死染色体基因值置为1,相应地该行原为1的基因替换为0。该算法在保证种群基因多样性的基础上提高了基因质量。
(3)根据最优存储方案矩阵MAG,确定待存储数据与最佳存储节点的对应关系。具体实施时,根据最优存储方案矩阵MAG中各元素的值,确定待存储数据的序列为X={x1,x2,…,xm}与当前可用的存储节点的序列为Y={y1,y2,...,ym}的存储匹配关系K=(k1,k2,…,km);在存储匹配关系K中,m为待存储数据的序列号,km为序列号为m的待存储数据对应的最佳存储节点的序列号。
在前述基础上,可参见图3所示的另一种用于云存储环境的数据存储方法的示意图,为便于理解,在此对图3进行解释说明:
1,根据当前的存储节点对调度影响因素(也即前述的存储影响因素)进行分析,确定调度影响因素。在一种实施方式中,可以确定调度影响因素包括:待存储数据的数据量、待存储数据与存储节点之间的传输距离、存储节点的故障率、存储节点的剩余空间、存储节点的内存占用率、存储节点对应的网络带宽或存储节点对应的网络延迟。
2,根据分析得到的调度影响因素和用户数据序列(也即,前述的待存储数据的序列),进行三角模糊层次分析,得到层次分析结果,也即确定各调度影响因素对应的权重。
3,根据层次分析结果以及用户数据序列,构造改进的遗传算法。其中,改进的遗传算法指的是基于本实施例提出的遗传目标函数进行求解。
4,根据用户数据序列和构造的改进遗传算法,得到优选存储方案。
5,根据优选存储方案为待存储数据分配存储节点,也即实现存储节点的调度。
图3中各步骤的具体实现方式可参照前述内容,在图3中的各数字与上述步骤相对应,表示执行次序,在此不再赘述。
综上所述,本实施例提供的用于云存储环境的数据存储方法,能够基于全局进行考虑,得到全局最优解,存储耗时更少,得到的数据存储方案更加可靠,以便实现更好的负载平衡,使云资源存储***能够稳定运行。
实施例二:
对应于前述实施例提供的数据存储方法,本实施例提供了一种数据存储装置,参见图4所示的一种用于云存储环境的数据存储装置的结构示意图,包括:
因素确定模块402,用于当接收到待存储数据时,根据待存储数据、当前的多个存储节点和网络环境,确定各存储影响因素对应的数值;存储影响因素包括:待存储数据的数据量、待存储数据与存储节点之间的传输距离、存储节点的故障率、存储节点的剩余空间、存储节点的内存占用率、存储节点对应的网络带宽或存储节点对应的网络延迟;
最佳节点确定模块404,用于根据各存储影响因素对应的数值,确定与待存储数据匹配的最佳存储节点,以将待存储数据对应存储于最佳存储节点中。
本发明实施例提供的上述用于云存储环境的数据存储装置,在接收到待存储数据时,能够根据待存储数据、当前的多个存储节点和网络环境确定各存储影响因素对应的数值,进而根据各存储影响因素对应的数值,确定与待存储数据匹配的最佳存储节点。这种基于多种存储影响因素的综合考虑而选取合适的存储节点的方式,考虑因素较为全面,能够提供较好的数据存储方案。
在具体实施时,上述因素确定模块302包括:
权重确定单元,用于通过三角模糊层次分析法确定各存储影响因素对应的权重;
最佳节点确定单元,根据各存储影响因素对应的数值和权重,基于遗传算法确定与待存储数据匹配的最佳存储节点。
最佳节点确定单元进一步用于:对各存储影响因素对应的数值进行归一化处理;将归一化处理后的各存储影响因素对应的数值、各存储影响因素对应的权重代入至预先建立的遗传目标函数,求解获得待存储数据与最佳存储节点的对应关系。
遗传目标函数的建立过程包括:
设置待存储数据的序列为X={x1,x2,…,xm},当前可用的存储节点的序列为Y={y1,y2,...,ym},建立存储方案矩阵Mk如下:
基于存储方案矩阵Mk,构造以下遗传目标函数Zk:
其中,矩阵P为各存储节点对应的代价矩阵,Dj为待存储数据所在的数据中心根节点与第j个存储节点之间的传输距离,Sizei为归一化处理后的第i个待存储数据的数据量,Capacityj为归一化处理后的第j个存储节点的初始空间,Spacej为归一化处理后的第j个存储节点的剩余空间,Memj为归一化处理后的第j个存储节点的内存使用率,NetBj为归一化处理后的第j个存储节点对应的网络带宽,NetDj为归一化处理后的第j个存储节点对应的网络延迟,Failj为归一化处理后的第j个存储节点的故障率,w1为存储节点的故障率对应的权重,w2为存储节点的剩余空间对应的权重,w3为存储节点的内存使用率对应的权重,w4为待存储数据的传输距离对应的权重,w5为待存储数据的数据量对应的权重,w6为存储节点的网络带宽对应的权重,w7为存储节点的网络延迟对应的权重。
最佳节点确定单元进一步用于:
在求解遗传目标函数的过程中,对Mk进行变异处理,以实现遗传算法中的种群进化;其中,设定Mk为遗传算法中的染色体;变异处理的方式包括:随机从存储方案矩阵Mk中挑选对于挑选得到的在满足的基础上,如果调整为如果调整为
在种群进化的过程中,采用多次迭代的方式计算得到最优存储方案矩阵MAG;其中,每次迭代均选取适应度排名在预设范围内的优质染色体作为在下次迭代过程中进行计算的Mk,并淘汰适应度排名在预设范围外的致死染色体
根据最优存储方案矩阵MAG,确定待存储数据与最佳存储节点的对应关系。
最佳节点确定单元进一步用于:根据最优存储方案矩阵MAG中各元素的值,确定待存储数据的序列为X={x1,x2,…,xm}与当前可用的存储节点的序列为Y={y1,y2,...,ym}的存储匹配关系K=(k1,k2,…,km);在存储匹配关系K中,m为待存储数据的序列号,km为序列号为m的待存储数据对应的最佳存储节点的序列号。
设定在待存储数据的序列X={x1,x2,…,xm}中,xi={si,mi,ni},si为第i个待存储数据所需占用的存储空间,mi为第i个待存储数据所需占用的内存量,ni为第i个待存储数据所需占用的网络资源;
设定在存储节点的序列为Y={y1,y2,...,ym}中,yi={Si,Mi,Ni},Si为第i个存储节点的存储空间,Mi为第i个存储节点的内存资源,Ni为第i个存储节点的网络资源;
假设第i个存储节点对应存储第a个待存储数据、第b个待存储数据和第c个待存储数据,存储方案矩阵Mk需满足如下约束条件:
Si≥sa+sb+…sc
Mi≥ma+mb+…mc
Ni≥na+nb+…nc
其中ti(s)为在数据存储过程中由待存储数据产生的耗时,ti(m)在数据存储过程中由存储节点产生的耗时,ti(n)为在数据存储过程中由网络环境产生的耗时。
本实施例所提供的装置,其实现原理及产生的技术效果和前述实施例相同,为简要描述,装置实施例部分未提及之处,可参考前述方法实施例中相应内容。
实施例三:
对应于前述实施例,本实施例提供了一种终端,该终端包括存储器以及处理器,存储器用于存储支持处理器执行实施例一提供的用于云存储环境的数据存储方法的程序,处理器被配置为用于执行存储器中存储的程序。具体的,该终端可以为计算机、上位机、服务器等。
进一步,本实施例还提供了一种计算机存储介质,用于储存为实施例一提供的用于云存储环境的数据存储方法所用的计算机软件指令。
图5为本发明实施例提供的一种终端的结构示意图,包括:处理器50,存储器51,总线52和通信接口53,处理器50、通信接口53和存储器51通过总线52连接;处理器50用于执行存储器51中存储的可执行模块,例如计算机程序。
其中,存储器51可能包含高速随机存取存储器(RAM,Random Access Memory),也可能还包括非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。通过至少一个通信接口53(可以是有线或者无线)实现该***网元与至少一个其他网元之间的通信连接,可以使用互联网,广域网,本地网,城域网等。
总线52可以是ISA总线、PCI总线或EISA总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,图5中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
其中,存储器51用于存储程序,处理器50在接收到执行指令后,执行程序501,前述本发明实施例任一实施例揭示的流过程定义的装置所执行的方法可以应用于处理器50中,或者由处理器50实现。
处理器50可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器50中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器50可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(Digital SignalProcessing,简称DSP)、专用集成电路(Application Specific Integrated Circuit,简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器51,处理器50读取存储器51中的信息,结合其硬件完成上述方法的步骤。
本发明实施例所提供的用于云存储环境的数据存储方法及装置的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行前面方法实施例中所述的方法,具体实现可参见方法实施例,在此不再赘述。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
Claims (9)
1.一种用于云存储环境的数据存储方法,其特征在于,包括:
当接收到待存储数据时,根据所述待存储数据、当前的多个存储节点和网络环境,确定各存储影响因素对应的数值;所述存储影响因素包括:待存储数据的数据量、待存储数据与存储节点之间的传输距离、存储节点的故障率、存储节点的剩余空间、存储节点的内存占用率、存储节点对应的网络带宽或存储节点对应的网络延迟;
通过三角模糊层次分析法确定各所述存储影响因素对应的权重;
根据各所述存储影响因素对应的数值和权重,基于遗传算法确定与所述待存储数据匹配的最佳存储节点,以将所述待存储数据对应存储于最佳存储节点中。
2.根据权利要求1所述的方法,其特征在于,所述根据各所述存储影响因素对应的数值和权重,基于遗传算法确定与所述待存储数据匹配的最佳存储节点的步骤,包括:
对各所述存储影响因素对应的数值进行归一化处理;
将归一化处理后的各所述存储影响因素对应的数值、各所述存储影响因素对应的权重代入至预先建立的遗传目标函数,求解获得待存储数据与最佳存储节点的对应关系。
3.根据权利要求2所述的方法,其特征在于,所述遗传目标函数的建立过程包括:
设置待存储数据的序列为X={x1,x2,…,xm},当前可用的存储节点的序列为Y={y1,y2,...,ym},建立存储方案矩阵Mk如下:
基于存储方案矩阵Mk,构造以下遗传目标函数Zk:
其中,矩阵P为各所述存储节点对应的代价矩阵,Dj为所述待存储数据所在的数据中心根节点与第j个存储节点之间的传输距离,Sizei为归一化处理后的第i个待存储数据的数据量,Capacityj为归一化处理后的第j个存储节点的初始空间,Spacej为归一化处理后的第j个存储节点的剩余空间,Memj为归一化处理后的第j个存储节点的内存使用率,NetBj为归一化处理后的第j个存储节点对应的网络带宽,NetDj为归一化处理后的第j个存储节点对应的网络延迟,Failj为归一化处理后的第j个存储节点的故障率,w1为存储节点的故障率对应的权重,w2为存储节点的剩余空间对应的权重,w3为存储节点的内存使用率对应的权重,w4为待存储数据的传输距离对应的权重,w5为待存储数据的数据量对应的权重,w6为存储节点的网络带宽对应的权重,w7为存储节点的网络延迟对应的权重。
6.根据权利要求4所述的方法,其特征在于,所述根据所述最优存储方案矩阵MAG,确定待存储数据与最佳存储节点的对应关系的步骤,包括:
根据所述最优存储方案矩阵MAG中各元素的值,确定待存储数据的序列为X={x1,x2,…,xm}与当前可用的存储节点的序列为Y={y1,y2,...,ym}的存储匹配关系K=(k1,k2,…,km);在存储匹配关系K中,m为待存储数据的序列号,km为序列号为m的待存储数据对应的最佳存储节点的序列号。
7.根据权利要求3所述的方法,其特征在于,
设定在待存储数据的序列X={x1,x2,…,xm}中,xi={si,mi,ni},si为第i个待存储数据所需占用的存储空间,mi为第i个待存储数据所需占用的内存量,ni为第i个待存储数据所需占用的网络资源;
设定在存储节点的序列为Y={y1,y2,...,ym}中,yi={Si,Mi,Ni},Si为第i个存储节点的存储空间,Mi为第i个存储节点的内存资源,Ni为第i个存储节点的网络资源;
假设第i个存储节点对应存储第a个待存储数据、第b个待存储数据和第c个待存储数据,所述存储方案矩阵Mk需满足如下约束条件:
Si≥sa+sb+…sc
Mi≥ma+mb+…mc
Ni≥na+nb+…nc
其中ti(s)为在数据存储过程中由待存储数据产生的耗时,ti(m)在数据存储过程中由存储节点产生的耗时,ti(n)为在数据存储过程中由网络环境产生的耗时。
8.一种用于云存储环境的数据存储装置,其特征在于,包括:
因素确定模块,用于当接收到待存储数据时,根据所述待存储数据、当前的多个存储节点和网络环境,确定各存储影响因素对应的数值;所述存储影响因素包括:待存储数据的数据量、待存储数据与存储节点之间的传输距离、存储节点的故障率、存储节点的剩余空间、存储节点的内存占用率、存储节点对应的网络带宽或存储节点对应的网络延迟;
最佳节点确定模块,用于通过三角模糊层次分析法确定各所述存储影响因素对应的权重,根据各所述存储影响因素对应的数值和权重,基于遗传算法确定与所述待存储数据匹配的最佳存储节点,以将所述待存储数据对应存储于最佳存储节点中。
9.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时执行上述权利要求1至7任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810042737.8A CN108287666B (zh) | 2018-01-16 | 2018-01-16 | 用于云存储环境的数据存储方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810042737.8A CN108287666B (zh) | 2018-01-16 | 2018-01-16 | 用于云存储环境的数据存储方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108287666A CN108287666A (zh) | 2018-07-17 |
CN108287666B true CN108287666B (zh) | 2021-01-26 |
Family
ID=62835414
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810042737.8A Active CN108287666B (zh) | 2018-01-16 | 2018-01-16 | 用于云存储环境的数据存储方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108287666B (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108900626B (zh) * | 2018-07-18 | 2021-11-19 | 中国联合网络通信集团有限公司 | 一种云环境下数据存储方法、装置及*** |
CN109063121B (zh) * | 2018-08-01 | 2024-04-05 | 平安科技(深圳)有限公司 | 数据存储方法、装置、计算机设备及计算机存储介质 |
CN109542352B (zh) * | 2018-11-22 | 2020-05-08 | 北京百度网讯科技有限公司 | 用于存储数据的方法和装置 |
CN109831508B (zh) * | 2019-02-15 | 2021-11-19 | 网宿科技股份有限公司 | 一种缓存方法及设备、存储介质 |
CN109960587A (zh) * | 2019-02-27 | 2019-07-02 | 厦门市世纪网通网络服务有限公司 | 超融合云计算***的存储资源分配方法和装置 |
CN111240900B (zh) * | 2019-05-23 | 2020-11-24 | 北京天华星航科技有限公司 | 基于虚拟磁带库的数据备份方法 |
CN110442449A (zh) * | 2019-07-09 | 2019-11-12 | 北京云和时空科技有限公司 | 一种资源调度方法和装置 |
CN113688062B (zh) * | 2020-05-18 | 2022-08-26 | 北京市商汤科技开发有限公司 | 用于存储数据的方法和相关产品 |
CN112118323B (zh) * | 2020-11-18 | 2021-02-19 | 北京滕华软件有限公司 | 一种基于人工智能的数据加密模块化云存储*** |
CN112463673B (zh) * | 2020-11-25 | 2023-03-21 | 海光信息技术股份有限公司 | 一种片上总线、及用于片上总线的服务质量仲裁方法、装置 |
CN113268376B (zh) * | 2021-04-16 | 2023-01-31 | 济南轨道交通集团有限公司 | 基于遗传算法的数据中心对象存储方法及*** |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1450493A (zh) * | 2003-04-25 | 2003-10-22 | 北京工业大学 | 实现遗传算法的神经网络*** |
CN104899100A (zh) * | 2015-05-28 | 2015-09-09 | 北京邮电大学 | 一种用于云***的资源调度方法 |
CN106161552A (zh) * | 2015-04-16 | 2016-11-23 | 国家电网公司 | 一种海量数据环境下负载均衡方法及*** |
CN106484512A (zh) * | 2016-10-08 | 2017-03-08 | 电子科技大学 | 计算单元的调度方法 |
CN106611277A (zh) * | 2016-05-13 | 2017-05-03 | 四川用联信息技术有限公司 | 混合云模式下的一种云资源调度方法 |
CN107239336A (zh) * | 2016-03-28 | 2017-10-10 | 中兴通讯股份有限公司 | 一种实现任务调度的方法及装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170344900A1 (en) * | 2016-05-24 | 2017-11-30 | Sultan Saad ALZAHRANI | Method and apparatus for automated organization of visual-content media files according to preferences of a user |
-
2018
- 2018-01-16 CN CN201810042737.8A patent/CN108287666B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1450493A (zh) * | 2003-04-25 | 2003-10-22 | 北京工业大学 | 实现遗传算法的神经网络*** |
CN106161552A (zh) * | 2015-04-16 | 2016-11-23 | 国家电网公司 | 一种海量数据环境下负载均衡方法及*** |
CN104899100A (zh) * | 2015-05-28 | 2015-09-09 | 北京邮电大学 | 一种用于云***的资源调度方法 |
CN107239336A (zh) * | 2016-03-28 | 2017-10-10 | 中兴通讯股份有限公司 | 一种实现任务调度的方法及装置 |
CN106611277A (zh) * | 2016-05-13 | 2017-05-03 | 四川用联信息技术有限公司 | 混合云模式下的一种云资源调度方法 |
CN106484512A (zh) * | 2016-10-08 | 2017-03-08 | 电子科技大学 | 计算单元的调度方法 |
Non-Patent Citations (1)
Title |
---|
云存储调度关键技术研究与实现;肖博;《中国优秀硕士学位论文全文数据库》;20170215;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN108287666A (zh) | 2018-07-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108287666B (zh) | 用于云存储环境的数据存储方法及装置 | |
CN108009016B (zh) | 一种资源负载均衡控制方法及集群调度器 | |
CN109067670B (zh) | 一种cdn调度方法及cdn调度设备 | |
CN109976901B (zh) | 一种资源调度方法、装置、服务器及可读存储介质 | |
CN109919532B (zh) | 一种物流节点确定方法及装置 | |
EP3690767A1 (en) | Method and apparatus for determining risk management decision-making critical values | |
CN112256402B (zh) | 一种云平台数据中心资源预测与调度方法及*** | |
CN105678586A (zh) | 一种信息扶持方法和装置 | |
CN110225096B (zh) | 基于遗传算法的服务器负载均衡方法 | |
CN109872049B (zh) | 资源配置优化方法及装置 | |
CN114172937A (zh) | 基于深度强化学习的动态服务功能链编排方法及*** | |
CN112101674B (zh) | 基于群智能算法资源配置匹配方法、装置、设备及介质 | |
CN111626497A (zh) | 人流量预测方法、装置、设备和存储介质 | |
CN110908804A (zh) | 计算资源分配方法、装置及其模型的训练方法、装置 | |
CN111428885A (zh) | 一种联邦学习中用户的索引方法及联邦学习装置 | |
CN108093083B (zh) | 云制造任务调度方法、装置及终端 | |
CN112148471A (zh) | 分布式计算***中资源调度的方法和装置 | |
CN109245948B (zh) | 安全感知的虚拟网络映射方法及其装置 | |
CN113381417A (zh) | 一种配电网台区三相负荷不平衡优化方法、装置及终端 | |
CN109544347B (zh) | 尾差分配方法、计算机可读存储介质及尾差分配*** | |
CN115633317A (zh) | 一种消息通道配置方法和*** | |
CN114205249B (zh) | 资源分配方法及终端设备 | |
CN112506644B (zh) | 基于云边端混合计算模式***的任务调度方法和*** | |
CN110659034B (zh) | 云边混合计算服务的组合优化部署方法、***及存储介质 | |
CN108920269B (zh) | 容器的i/o传输任务的调度方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |