CN113986825B - 数据迁移的***、方法、装置、电子设备及可读存储介质 - Google Patents

数据迁移的***、方法、装置、电子设备及可读存储介质 Download PDF

Info

Publication number
CN113986825B
CN113986825B CN202111607777.0A CN202111607777A CN113986825B CN 113986825 B CN113986825 B CN 113986825B CN 202111607777 A CN202111607777 A CN 202111607777A CN 113986825 B CN113986825 B CN 113986825B
Authority
CN
China
Prior art keywords
data
server
target
cloud platform
servers
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111607777.0A
Other languages
English (en)
Other versions
CN113986825A (zh
Inventor
刘波
孙元涛
王旭
辛玉龙
卢华军
李德怀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xinghan Future Network Technology Co ltd
Original Assignee
Beijing Xinghan Future Network Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xinghan Future Network Technology Co ltd filed Critical Beijing Xinghan Future Network Technology Co ltd
Priority to CN202111607777.0A priority Critical patent/CN113986825B/zh
Publication of CN113986825A publication Critical patent/CN113986825A/zh
Application granted granted Critical
Publication of CN113986825B publication Critical patent/CN113986825B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/11File system administration, e.g. details of archiving or snapshots
    • G06F16/119Details of migration of file systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/18File system types
    • G06F16/182Distributed file systems
    • G06F16/1824Distributed file systems implemented using Network-attached Storage [NAS] architecture
    • G06F16/183Provision of network file services by network file servers, e.g. by using NFS, CIFS
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/602Providing cryptographic facilities or services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/62Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Bioethics (AREA)
  • Software Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请属于通信技术领域,公开了数据迁移的***、方法、装置、电子设备及可读存储介质,该方法应用于数据迁移***中的调度服务器,数据迁移***中还包含至少一个云平台,包括:确定接收到针对待迁移的目标数据的数据迁移请求后,获取目标数据的数据配置信息;根据数据配置信息,对至少一个云平台进行弹性扩容,获得服务器集合,服务器集合中包含至少两个云服务器;调用服务器集合中的云服务器,对目标数据进行数据迁移;确定数据迁移完成时,释放服务器集合。在对海量数据进行远距离迁移时,降低了数据迁移成本。

Description

数据迁移的***、方法、装置、电子设备及可读存储介质
技术领域
本申请涉及通信技术领域,具体而言,涉及数据迁移的***、方法、装置、电子设备及可读存储介质。
背景技术
随着互联网技术的发展,互联网数据越来越多,海量数据的远距离迁移的难度也越来越大。例如,由于东部地区的能耗成本高且局限性大,而西部地区的能耗成本低且局限性小,因此,为减少能耗成本,需要将东部地区的海量数据迁移至西部地区,这就需要进行海量数据的远距离迁移。现有技术下,通常采用专线的方式进行海量数据的远距离迁移,但是,采用这种方式,需要构建多个专线,这会耗费大量的硬件成本以及时间成本。
由此,在对海量数据进行远距离迁移时,如何降低数据迁移成本,是一个需要解决的技术问题。
发明内容
本申请实施例的目的在于提供数据迁移的***、方法、装置、电子设备及可读存储介质,用以在对海量数据进行远距离迁移时,降低数据迁移成本。
一方面,提供一种数据迁移***,包括调度服务器以及至少一个云平台,其中,
调度服务器:用于确定接收到针对待迁移的目标数据的数据迁移请求后,获取目标数据的数据配置信息;根据数据配置信息,对至少一个云平台进行弹性扩容,获得服务器集合;调用服务器集合中的云服务器,对目标数据进行数据迁移;确定数据迁移完成时,释放服务器集合,服务器集合中包含至少两个云服务器;
每一云平台:用于确定接收到调度服务器的弹性扩容指令时,进行弹性扩容,获得云服务器。
一种实施方式中,数据迁移***是基于云原生架构构建的,服务器集合包括至少一个发送服务器和至少一个接收服务器;数据配置信息包括以下信息中的至少一个:目录信息、目标迁移时长、源设备的源地址信息以及目标设备的目的地址信息。
一种实施方式中,调度服务器用于:
根据数据配置信息,获取待传输的文件总容量;
根据文件总容量、目标迁移时长,以及服务器集合的数据迁移速率,确定服务器集合中的服务器数量;
按照服务器数量,对至少一个云平台进行弹性扩容,获得服务器集合。
一种实施方式中,调度服务器用于:
根据数据配置信息中包含的源地址信息,确定源设备对应的云平台;
基于服务器数量,对源设备对应的云平台,进行弹性扩容,确定弹性扩容后的发送服务器;
根据数据配置信息中包含的目的地址信息,确定目标设备对应的云平台;
基于服务器数量,对目标设备对应的云平台,进行弹性扩容,获得弹性扩容后的接收服务器。
一种实施方式中,调度服务器用于:
将目标数据进行分配,分别确定每一发送服务器被分配的数据块,其中,数据块是将目标数据划分后获得的;
每一发送服务器用于:基于数据配置信息中的源地址信息,从源设备中读取分配的数据块,并将分配的数据块进行拆分,获得至少一个数据片,以及将每一数据片发送至相应的接收服务器;
每一接收服务器用于:基于数据配置信息中的目的地址信息,将接收的每一数据片,写入目标设备。
一种实施方式中,每一发送服务器用于:
从至少一个数据片中随机选取至少一个数据片,并分别对选取的每一数据片进行加密,获得加密数据片,以及将包含加密数据片的至少一个数据片,发送至对应的接收服务器;
每一接收服务器用于:
对接收的加密数据片进行解密,获得解密数据片,并将包含包含解密数据片的至少一个数据片写入所述目标设备。
一方面,提供一种数据迁移的方法,应用于数据迁移***中的调度服务器,数据迁移***中还包含至少一个云平台,包括:
确定接收到针对待迁移的目标数据的数据迁移请求后,获取目标数据的数据配置信息;
根据数据配置信息,对至少一个云平台进行弹性扩容,获得服务器集合,服务器集合中包含至少两个云服务器;
调用服务器集合中的云服务器,对目标数据进行数据迁移;
确定数据迁移完成时,释放服务器集合。
在上述实现过程中,在进行数据迁移时,采用弹性扩容的方式,获得用于数据迁移的服务器集合,不需要构建专线,不会影响正在运行的业务,减少了数据迁移设备配置的繁琐步骤以及软硬件成本,且可以根据待迁移的目标数据,确定服务器数量,提高了数据迁移效率,以及迁移完成后,还可以释放服务器集合,进一步降低了成本。
一种实施方式中,数据迁移***是基于云原生架构构建的,服务器集合包括至少一个发送服务器和至少一个接收服务器;数据配置信息包括以下信息中的至少一个:目录信息、目标迁移时长、源设备的源地址信息以及目标设备的目的地址信息。
一种实施方式中,根据数据配置信息,对至少一个云平台进行弹性扩容,获得服务器集合,包括:
根据数据配置信息,获取待传输的文件总容量;
根据文件总容量、目标迁移时长,以及服务器集合的数据迁移速率,确定服务器集合中的服务器数量;
按照服务器数量,对至少一个云平台进行弹性扩容,获得服务器集合。
在上述实现过程中,可以根据待迁移的目标数据,确定服务器数量,提高了数据迁移效率,
一种实施方式中,按照服务器数量,对至少一个云平台进行弹性扩容,获得服务器集合,包括:
根据数据配置信息中包含的源地址信息,确定源设备对应的云平台;
基于服务器数量,对源设备对应的云平台,进行弹性扩容,确定弹性扩容后的发送服务器;
根据数据配置信息中包含的目的地址信息,确定目标设备对应的云平台;
基于服务器数量,对目标设备对应的云平台,进行弹性扩容,获得弹性扩容后的接收服务器。
在上述实现过程中,分别对源设备和目标设备附近的云平台进行弹性扩容,从而可以获得源设备附近的发送设备,以及目标设备附近的接收设备,从而可以通过发送设备和接收设备进行数据传输,提高了传输效率。
一种实施方式中,调用服务器集合中的云服务器,对目标数据进行数据迁移,包括:
将目标数据进行分配,分别确定每一发送服务器被分配的数据块,其中,数据块是将目标数据划分后获得的;
分别调用每一发送服务器,执行以下步骤:基于数据配置信息中的源地址信息,从源设备中读取分配的数据块,并将分配的数据块进行拆分,获得至少一个数据片,以及将每一数据片发送至相应的接收服务器;
分别调用每一接收服务器,执行以下步骤:基于数据配置信息中的目的地址信息,将接收的每一数据片,写入目标设备。
在上述实现过程中,以数据片为数据传输单位,将数据块包含的各数据片并行传输,提高了数据传输效率。
一方面,提供一种数据迁移的装置,应用于数据迁移***中的调度服务器,数据迁移***中还包含至少一个云平台,包括:
获取单元,用于确定接收到针对待迁移的目标数据的数据迁移请求后,获取目标数据的数据配置信息;
扩容单元,用于根据数据配置信息,对至少一个云平台进行弹性扩容,获得服务器集合,服务器集合中包含至少两个云服务器;
迁移单元,用于调用服务器集合中的云服务器,对目标数据进行数据迁移;
释放单元,用于确定数据迁移完成时,释放服务器集合。
一种实施方式中,数据迁移***是基于云原生架构构建的,服务器集合包括至少一个发送服务器和至少一个接收服务器;数据配置信息包括以下信息中的至少一个:目录信息、目标迁移时长、源设备的源地址信息以及目标设备的目的地址信息。
一种实施方式中,扩容单元用于:
根据数据配置信息,获取待传输的文件总容量;
根据文件总容量、目标迁移时长,以及服务器集合的数据迁移速率,确定服务器集合中的服务器数量;
按照服务器数量,对至少一个云平台进行弹性扩容,获得服务器集合。
一种实施方式中,扩容单元用于:
根据数据配置信息中包含的源地址信息,确定源设备对应的云平台;
基于服务器数量,对源设备对应的云平台,进行弹性扩容,确定弹性扩容后的发送服务器;
根据数据配置信息中包含的目的地址信息,确定目标设备对应的云平台;
基于服务器数量,对目标设备对应的云平台,进行弹性扩容,获得弹性扩容后的接收服务器。
一种实施方式中,迁移单元用于:
将目标数据进行分配,分别确定每一发送服务器被分配的数据块,其中,数据块是将目标数据划分后获得的;
分别调用每一发送服务器,执行以下步骤:基于数据配置信息中的源地址信息,从源设备中读取分配的数据块,并将分配的数据块进行拆分,获得至少一个数据片,以及将每一数据片发送至相应的接收服务器;
分别调用每一接收服务器,执行以下步骤:基于数据配置信息中的目的地址信息,将接收的每一数据片,写入目标设备。
一方面,提供了一种电子设备,包括处理器以及存储器,存储器存储有计算机可读取指令,当计算机可读取指令由处理器执行时,运行如上述任一种数据迁移的各种可选实现方式中提供的方法的步骤。
一方面,提供了一种可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时运行如上述任一种数据迁移的各种可选实现方式中提供的方法的步骤。
一方面,提供了一种计算机程序产品,计算机程序产品在计算机上运行时,使得计算机执行如上述任一种数据迁移的各种可选实现方式中提供的方法的步骤。
本申请的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本申请而了解。本申请的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的一种数据迁移的应用场景示意图;
图2为本申请实施例提供的一种数据迁移的方法的实施流程图;
图3为本申请实施例提供的一种数据片传输的示意图;
图4为本申请实施例提供的一种数据迁移的装置的结构框图;
图5为本申请实施方式中一种电子设备的结构示意图。
具体实施方式
下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本申请的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
首先对本申请实施例中涉及的部分用语进行说明,以便于本领域技术人员理解。
终端设备:可以是移动终端、固定终端或便携式终端,例如移动手机、站点、单元、设备、多媒体计算机、多媒体平板、互联网节点、通信器、台式计算机、膝上型计算机、笔记本计算机、上网本计算机、平板计算机、个人通信***设备、个人导航设备、个人数字助理、音频/视频播放器、数码相机/摄像机、定位设备、电视接收器、无线电广播接收器、电子书设备、游戏设备或者其任意组合,包括这些设备的配件和外设或者其任意组合。还可预见到的是,终端设备能够支持任意类型的针对用户的接口(例如可穿戴设备)等。
服务器:可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式***,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务以及大数据和人工智能平台等基础云计算服务的云服务器。
为了对海量数据进行远距离迁移时,降低数据迁移成本,本申请实施例提供了数据迁移的***、方法、装置、电子设备及可读存储介质。
参阅图1所示,为本申请实施例提供的一种数据迁移的应用场景示意图。该应用场景中包括:用户设备、数据迁移***、源设备以及目标设备。
其中,数据迁移***是基于云原生架构构建的,数据迁移***中包含调度服务器以及至少一个云平台。
用户设备:用于基于用户的数据迁移指令,向数据迁移***中的调度服务器发送针对待迁移的目标数据的数据迁移请求。
可选的,用户设备可以为终端设备,也可以为服务器,在此不作限制。
源设备:为存储目标数据的设备。
目标设备:为用户指示的迁入目标数据的设备。
一种实施方式中,源设备和目标设备,均可以包含以下数据库中的至少一种:
对象存储(Object Storage Service,OSS),网络附属存储(Network AttachedStorage,NAS),表格存储(Tablestore),分布式文件***(Hadoop Distributed FileSystem,HDFS),数据库文件存储(Database File Storage,DBFS),块存储(Elastic BlockStorage,EBS),以及并行文件***(Cloud Paralleled File System,CPFS)。
可选的,源设备和目标设备,均可以为服务器或终端设备,在此不做限制。
调度服务器:用于确定接收到针对待迁移的目标数据的数据迁移请求后,获取目标数据的数据配置信息;根据数据配置信息,对至少一个云平台进行弹性扩容,获得服务器集合;调用服务器集合中的云服务器,对目标数据进行数据迁移;确定数据迁移完成时,释放服务器集合。
一种实施方式中,服务器集合中包含至少两个云服务器(Elastic ComputeService,ECS)。服务器集合包括至少一个发送服务器和至少一个接收服务器;数据配置信息包括以下信息中的至少一个:目录信息、目标迁移时长、源设备的源地址信息以及目标设备的目的地址信息。
可选的,服务器集合也可以为其它类型服务器的集合,在此不做限制。
每一云平台:用于确定接收到调度服务器的弹性扩容指令时,进行弹性扩容,获得云服务器。
一种实施方式中,获得服务器集合时,调度服务器可以采用以下步骤:根据数据配置信息,获取待传输的文件总容量;根据文件总容量、目标迁移时长,以及服务器集合的数据迁移速率,确定服务器集合中的服务器数量,并按照服务器数量,对至少一个云平台进行弹性扩容,获得服务器集合。
一种实施方式中,弹性扩容时,调度服务器可以采用以下步骤:根据数据配置信息中包含的源地址信息,确定源设备对应的云平台,并基于服务器数量,对源设备对应的云平台,进行弹性扩容,确定弹性扩容后的发送服务器,以及根据数据配置信息中包含的目的地址信息,确定目标设备对应的云平台,并基于服务器数量,对目标设备对应的云平台,进行弹性扩容,获得弹性扩容后的接收服务器。
例如,源设备位于北京,则对北京的云平台进行弹性扩容,目标设备位于乌兰察布,则对乌兰察布的云平台进行弹性扩容。
一种实施方式中,数据迁移时,可以采用以下步骤:
调度服务器将目标数据进行分配,分别确定每一发送服务器被分配的数据块。其中,数据块是将目标数据划分后获得的;每一发送服务器基于数据配置信息中的源地址信息,从源设备中读取分配的数据块,并将分配的数据块进行拆分,获得至少一个数据片,以及将每一数据片发送至相应的接收服务器。每一接收服务器基于数据配置信息中的目的地址信息,将接收的每一数据片,写入目标设备。
一种实施方式中,传输数据片时,可以采用以下步骤:
每一发送服务器从至少一个数据片中随机选取至少一个数据片,并分别对选取的每一数据片进行加密,获得加密数据片,以及将包含加密数据片的至少一个数据片,发送至对应的接收服务器。每一接收服务器对接收的加密数据片进行解密,获得解密数据片,并将包含包含解密数据片的至少一个数据片写入所述目标设备。
本申请实施例中,执行主体为调度服务器。参阅图2所示,为本申请实施例提供的一种数据迁移的方法的实施流程图,结合图1所示的应用场景进行说明,该方法的具体实施流程如下:
步骤200:确定接收到针对待迁移的目标数据的数据迁移请求后,获取目标数据的数据配置信息。
一种实施例中,用户设备响应于用户针对数据迁移页面的任务创建操作,创建数据迁移任务,并响应于用户的输入操作,获得待迁移的目标数据的数据配置信息,以及基于用户的数据迁移指令,向调度服务器发送针对目标数据的数据迁移请求。调度服务器接收到数据迁移请求后,获取数据迁移请求中的数据配置信息。
一种实施方式中,调度服务器接收并存储一个或多个用户设备分别发送的数据迁移请求后,对存储的数据迁移请求进行扫描,依次针对扫描到的每一数据迁移请求执行后续的数据迁移操作。
需要说明的是,用户设备提交数据迁移请求的操作以及服务器执行数据迁移请求的操作,可以是同步的,也可以是异步的,在此不作限制。
可选的,数据配置信息中可以包含以下信息中的至少一种:数据标识信息、目录信息、目标迁移时长、源设备的源地址信息、目标设备的目的地址信息、数据类型、文件***、挂载点、专有网络、交换机以及账户信息。
实际应用中,数据配置信息可以根据实际应用场景进行设置,在此不作限制。
这样,就可以基于用户的数据迁移请求,获取目标数据的数据配置信息。
步骤201:根据数据配置信息,对至少一个云平台进行弹性扩容,获得服务器集合。
一种实施方式中,执行步骤201时,可以采用以下步骤:
S2011:根据数据配置信息,获取待传输的文件总容量。
一种实施方式中,获取数据配置信息中包含的文件总容量。
一种实施方式中,根据数据配置信息中的目录信息,调用源设备将目标数据进行压缩处理,获得处理后的压缩文件的文件总容量。
一种实施方式中,将目标数据进行压缩处理的实现过程包括:根据目录信息,分别获取目标数据中每一文件的文件容量,并筛选出文件容量大于预设容量的文件;调用源设备,按照预设容量,分别将筛选出的每一文件进行逻辑拆分,获得每一文件对应的逻辑子文件,使得逻辑子文件的文件容量均小于预设容量,以及按照预设容量,将未被筛选出的文件以及逻辑子文件进行划分,获得至少一个文件集合,并分别对每一文件集合进行压缩,获得压缩文件。
需要说明的是,为便于文件传输以及文件的完整性,本申请实施例中,对大文件(即筛选出的文件)进行逻辑上的切分,而不是物理上的切分。
这样,就可以将目标数据进行打包压缩,获得便于数据传输的压缩文件。
S2012:根据文件总容量、目标迁移时长,以及服务器集合的数据迁移速率,确定服务器集合中的服务器数量。
一种实施方式中,根据文件总容量、目标迁移时长,以及每一云服务器的数据迁移速率,确定服务器集合中的服务器数量的实现过程包括:获取目标迁移时长,以及服务器集合的数据迁移速率,并根据文件总容量、目标迁移时长,以及服务器集合的数据迁移速率,确定服务器集合的服务器数量。
其中,目标迁移时长可以是用户指示的,也可以是预设时长,实际应用中,目标迁移时长可以根据实际应用场景进行设置,如,5天, 在此不做限制。
其中,服务器集合中包括至少一个发送服务器和至少一个接收服务器。发送服务器和接收服务器均为云服务器。服务器集合的数据迁移速率是指:发送服务器和接收服务器之间数据传输的速率。不同服务器组合的数据迁移速率可以相同,也可以不同,在此不做限制。
其中,服务器数量与文件总容量呈正相关,与目标迁移时长和数据迁移速率均呈负相关。
一种实施方式中,确定目标迁移时长与单台服务器的数据迁移速率之间的乘积,获得单台服务器的文件传输容量,并根据文件总容量与上述文件传输容量之间的比值,确定服务器数量。
这样,就可以获得所需的服务器数量,即确定所需要的调度资源。
S2013:按照服务器数量,对至少一个云平台进行弹性扩容,获得服务器集合。
一种实施方式中,执行S2013时,可以采用以下步骤:
步骤1:根据数据配置信息中包含的源地址信息,确定源设备对应的云平台。
具体的,源地址信息可以包括源设备的网络地址,还可以包括源设备的地理地址。源设备对应的云平台是根据云平台与源设备之间的网络距离或地理距离确定的。
一种实施方式中,获取数据迁移***中每一云平台的网络地址,并根据源地址信息中的网络地址,以及各云平台的网络地址,确定源设备分别与每一云平台之间的网络距离,并确定源设备对应的云平台,为各网络距离中的最小网络距离对应的云平台。
一种实施方式中,获取数据迁移***中各云平台的地理地址,并根据源地址信息中的地理地址,以及各云平台的地理地址,确定源设备分别与每一云平台之间的地理距离,并确定源设备对应的云平台,为各地理距离中的最小地理距离对应的云平台。
这样,就可以确定出与源设备较为相近的云平台。
步骤2:基于服务器数量,对源设备对应的云平台,进行弹性扩容,获得弹性扩容后的发送服务器。
一种实施方式中,调用弹性扩容服务,对源设备对应的云平台进行弹性扩容,获得弹性扩容后的发送服务器,以及发送服务器的网络地址。
可选的,弹性扩容服务可以为算力调度引擎(BridgX)弹性扩容服务。
一种实施方式中,对云平台进行弹性扩容,即通过云厂商的接口,调用云厂商的云服务器作为发送服务器,且按照设定配置以及设定传输镜像,配置云服务器,使得配置后的云服务器的配置为上述设定配置,且安装有上述设定传输镜像。
其中,传输镜像为用于数据迁移的程序。实际应用中,设定内存以及设定传输镜像,均可以根据实际应用场景进行设置,在此不做限制。网络地址可以为互联网协议(Internet Protocol,IP)地址。
步骤3:根据数据配置信息中包含的目的地址信息,确定目标设备对应的云平台。
一种实施方式中,目的地址信息可以包括目标设备的网络地址,也可以包括目标设备的地理地址。目标设备对应的云平台是根据云平台与目标设备之间的网络距离或地理距离确定的。
一种实施方式中,获取数据迁移***中各云平台的网络地址,并根据目的地址信息中的网络地址,以及各云平台的网络地址,确定目标设备分别与每一云平台之间的网络距离,并确定目标设备对应的云平台,为各网络距离中的最小网络距离对应的云平台。
一种实施方式中,获取数据迁移***中各云平台的地理地址,并根据目的地址信息中的地理地址,以及各云平台的地理地址,确定目标设备分别与每一云平台之间的地理距离,并确定目标设备对应的云平台,为各地理距离中的最小地理距离对应的云平台。
这样,就可以确定出与目标设备较为相近的云平台。
步骤4:基于服务器数量,对目标设备对应的云平台,进行弹性扩容,获得弹性扩容后的接收服务器。
一种实施方式中,基于与获得发送服务器相似的原理,对目标设备对应的云平台进行弹性扩容,获得接收服务器以及接收服务器的网络地址,在此不再赘述。
步骤5:构建包含发送服务器和接收服务器的服务器集合。
一种实施方式中,建立服务器集合中发送服务器和接收服务器之间的对应关系。
可选的,发送服务器和接收服务器之间的对应关系,也可以为一对一、一对多、多对一或多对多,在此不做限制。
一种实施方式中,根据发送服务器的网络地址和接收服务器的网络地址,建立发送服务器和接收服务器之间的一一对应关系。
一种实施方式中,按照上述对应关系,将服务器集合中的发送服务器的网络地址和接收服务器的网络地址,关联存储至数据库,如,数据库(Data Base,DB)。
实际应用中,数据库可以根据是实际应用场景进行设置,在此不做限制。
这样,就可以根据待迁移的目标数据,分别对源设备和目标设备周边的云平台进行弹性扩容,获得用于迁移目标数据的云服务器,并可以在后续步骤中,按照上述对应关系,调用发送服务器和相应的接收服务器进行数据迁移。
步骤202:调用服务器集合中的云服务器,对目标数据进行数据迁移。
一种实施方式中,执行步骤202时,可以采用以下步骤:
S2021:将目标数据进行分配,分别确定每一发送服务器被分配的数据块。
具体的,数据块是按照压缩文件大小以及服务器数量,将目标数据划分后获得的。可选的,数据块可以为1G或者10G等,实际应用中,数据块的大小也可以根据实际应用场景进行设置,在此不做限制。
一种实施方式中,基于目标数据对应的压缩文件,构建用于传输压缩文件的传输任务,并按照压缩文件大小以及服务器数量,分别对每一传输任务对应的压缩文件进行逻辑划分,获得每一传输任务各自需要传输的数据块,以及将数据块分配至服务器集合中的各发送服务器。
这样,就可以将目标数据进行逻辑划分,获得划分出的数据块,并将划分出的数据块分配至各云服务器,从而可以在后续步骤中,通过各云服务器并行传输数据块。
S2022:分别调用每一发送服务器,执行以下步骤:基于数据配置信息中的源地址信息,从源设备中读取分配的数据块,并将分配的数据块进行拆分,获得至少一个数据片,以及将每一数据片发送至相应的接收服务器。
其中,数据片(Chunk)为发送服务器进行数据传输时的数据发送单位,即发送服务器每次向接收服务器发送一个数据片。
可选的,数据片的大小可以为10M,实际应用中,数据片的大小可以根据实际应用场景进行设置,在此不做限制。
一种实施方式中,以一个发送服务器为例,对S2022进行说明,执行S2022时,可以采用以下步骤:
步骤1:调度服务器向一个发送服务器发送用于发送分配的数据块的数据发送指示。
一种实施方式中,数据发送指示中包含源地址信息以及该发送服务器对应的接收服务器的网络地址。
步骤2:发送服务器基于调度服务器的数据发送指示,基于数据配置信息中的源地址信息,从源设备中读取分配的数据块,并将分配的数据块进行拆分,获得拆分后的至少一个数据片。
步骤3:发送服务器分别将每一数据片发送至该服务器集合中的接收服务器。
一种实施方式中,从至少一个数据片中随机选取至少一个数据片,并分别对选取的每一数据片进行加密,获得加密数据片,以及将包含加密数据片的至少一个数据片,发送至对应的接收服务器。
一种实施方式中,发送服务器还将加密数据片的数据片信息存储至数据库。数据片信息可以包括以下信息中的至少一种:数据片大小、数据片序号以及加密数据片的序号和加解密方式。
这样,就可以对随机选取的数据片进行加密,由于攻击者不知道哪一个数据片为加密数据片,因此,难以对加密数据片进行定位以及解密,又由于攻击者需要获取各数据片组合后的完整目标数据,因此,采用随机加密的方式,避免了攻击者获取完整目标数据的问题,提高了数据的安全性,且采用这种方式,不需要对所有数据片进行加密,数据加密耗费的***资源和时间较少,降低了资源成本和时间成本,提高了数据片传输的效率。
S2023:分别调用每一接收服务器,执行以下步骤:基于数据配置信息中的目的地址信息,将接收的每一数据片,写入目标设备。
一种实施方式中,以一个接收服务器为例进行说明,执行S2022时,可以采用以下步骤:
步骤1:调度服务器向接收服务器发送用于接收数据块的数据接收指示。
一种实施方式中,数据接收指示中包含目的地址信息。
步骤2:接收服务器基于调度服务器的数据传输指示,接收发送服务器发送的数据片,并基于目的地址信息,将接收的数据片,发送至目标设备。
一种实施方式中,对接收的加密数据片进行解密,获得解密数据片,并将包含包含解密数据片的至少一个数据片写入目标设备。
一种实施方式中,接收服务器通过数据库获取加密数据片的数据片信息,并获取加密数据片的数据片信息中的数据片序号以及加解密方式,并基于该加解密方式以及该数据片序号,对加密数据片进行解密,获得解密数据片,以及将解密数据片发送至目标设备。目标设备存储接收的每一数据片。
需要说明的是,云服务器之间可以采用并行的方式,传输数据片。
参阅图3所示,为本申请实施例提供的一种数据片传输的示意图。图3中包括:源设备、多个发送服务器、多个接收服务器以及目标设备。发送服务器读取源设备的数据块中数据片,并将读取的数据片发送至接收服务器。接收服务器将接收的数据片发送至目标设备。
进一步地,目标设备按照根据存储的数据片的数据片序号,确定迁移异常的数据片,并将迁移异常的数据片序号发送至调度服务器。调度服务器根据迁移异常的数据片序号,调用服务器集合重新发送迁移异常的数据片。
可选的,迁移异常的数据片可以为发送失败或者保存失败的数据片,也可以为其它异常,在此不做限制。
需要说明的是,数据传输时,可以异步传输也可以同步传输,数据存储时,可以异步存储,也可以同步存储,在此不做限制。
步骤203:确定数据迁移完成时,释放服务器集合。
一种实施方式中,确定数据迁移完成后,调用弹性缩容服务,释放服务器集合,即通过云厂商的接口,将调用的服务器集合归还至云厂商,并停止服务器计费。
本申请实施例中,基于云原生架构构建数据迁移***,可以按照用户的数据迁移需求,进行服务器资源的加载,实现了对服务器资源的有效利用、具有运维自动化、弹性扩缩容、强隔离性以及敏捷部署等技术特点,降低了数据迁移的软硬件成本以及时间成本,可以对用户的数据迁移任务进行统一调度,且可以根据任务的大小,合理分配服务器资源的启动和回收,以及支持分布式运行,避免了单机海量数据迁移时容易出现的资源不足以及长时间占用的问题,通过数据块的并行传输,提高了传输效率,以及对随机选取的数据片进行加密,既保障了数据传输的安全性,还保障了数据传输的高效性,可以应用于企业数据异地备份、企业业务异地共享以及“东数西算”战略工程的东部数据西迁等应用场景,支持公有云、私有云、混合云以及跨云厂商之间的数据迁移,应用范围广,灵活性强。
基于同一发明构思,本申请实施例中还提供了一种数据迁移的装置,由于上述装置及设备解决问题的原理与一种数据迁移的方法相似,因此,上述装置的实施可以参见方法的实施,重复之处不再赘述。
如图4所示,其为本申请实施例提供的一种数据迁移的装置的结构示意图,应用于数据迁移***中的调度服务器,数据迁移***中还包含至少一个云平台,包括:
获取单元401,用于确定接收到针对待迁移的目标数据的数据迁移请求后,获取目标数据的数据配置信息;
扩容单元402,用于根据数据配置信息,对至少一个云平台进行弹性扩容,获得服务器集合,服务器集合中包含至少两个云服务器;
迁移单元403,用于调用服务器集合中的云服务器,对目标数据进行数据迁移;
释放单元404,用于确定数据迁移完成时,释放服务器集合。
一种实施方式中,数据迁移***是基于云原生架构构建的,服务器集合包括至少一个发送服务器和至少一个接收服务器;数据配置信息包括以下信息中的至少一个:目录信息、目标迁移时长、源设备的源地址信息以及目标设备的目的地址信息。
一种实施方式中,扩容单元402用于:
根据数据配置信息,获取待传输的文件总容量;
根据文件总容量、目标迁移时长,以及服务器集合的数据迁移速率,确定服务器集合中的服务器数量;
按照服务器数量,对至少一个云平台进行弹性扩容,获得服务器集合。
一种实施方式中,扩容单元402用于:
根据数据配置信息中包含的源地址信息,确定源设备对应的云平台;
基于服务器数量,对源设备对应的云平台,进行弹性扩容,确定弹性扩容后的发送服务器;
根据数据配置信息中包含的目的地址信息,确定目标设备对应的云平台;
基于服务器数量,对目标设备对应的云平台,进行弹性扩容,获得弹性扩容后的接收服务器。
一种实施方式中,迁移单元403用于:
将目标数据进行分配,分别确定每一发送服务器被分配的数据块,其中,数据块是将目标数据划分后获得的;
分别调用每一发送服务器,执行以下步骤:基于数据配置信息中的源地址信息,从源设备中读取分配的数据块,并将分配的数据块进行拆分,获得至少一个数据片,以及将每一数据片发送至相应的接收服务器;
分别调用每一接收服务器,执行以下步骤:基于数据配置信息中的目的地址信息,将接收的每一数据片,写入目标设备。
图5示出了一种电子设备5000的结构示意图。参阅图5所示,电子设备5000包括:处理器5010以及存储器5020,可选的,还可以包括电源5030、显示单元5040、输入单元5050。
处理器5010是电子设备5000的控制中心,利用各种接口和线路连接各个部件,通过运行或执行存储在存储器5020内的软件程序和/或数据,执行电子设备5000的各种功能,从而对电子设备5000进行整体监控。
本申请实施例中,处理器5010调用存储器5020中存储的计算机程序时执行如图2中所示的实施例提供的数据迁移的方法。
可选的,处理器5010可包括一个或多个处理单元;优选的,处理器5010可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作***、用户界面和应用等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器5010中。在一些实施例中,处理器、存储器、可以在单一芯片上实现,在一些实施例中,它们也可以在独立的芯片上分别实现。
存储器5020可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作***、各种应用等;存储数据区可存储根据电子设备5000的使用所创建的数据等。此外,存储器5020可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件等。
电子设备5000还包括给各个部件供电的电源5030(比如电池),电源可以通过电源管理***与处理器5010逻辑相连,从而通过电源管理***实现管理充电、放电、以及功耗等功能。
显示单元5040可用于显示由用户输入的信息或提供给用户的信息以及电子设备5000的各种菜单等,本发明实施例中主要用于显示电子设备5000中各应用的显示界面以及显示界面中显示的文本、图片等对象。显示单元5040可以包括显示面板5041。显示面板5041可以采用液晶显示屏(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置。
输入单元5050可用于接收用户输入的数字或字符等信息。输入单元5050可包括触控面板5051以及其他输入设备5052。其中,触控面板5051,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触摸笔等任何适合的物体或附件在触控面板5051上或在触控面板5051附近的操作)。
具体的,触控面板5051可以检测用户的触摸操作,并检测触摸操作带来的信号,将这些信号转换成触点坐标,发送给处理器5010,并接收处理器5010发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板5051。其他输入设备5052可以包括但不限于物理键盘、功能键(比如音量控制按键、开关机按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
当然,触控面板5051可覆盖显示面板5041,当触控面板5051检测到在其上或附近的触摸操作后,传送给处理器5010以确定触摸事件的类型,随后处理器5010根据触摸事件的类型在显示面板5041上提供相应的视觉输出。虽然在图5中,触控面板5051与显示面板5041是作为两个独立的部件来实现电子设备5000的输入和输出功能,但是在某些实施例中,可以将触控面板5051与显示面板5041集成而实现电子设备5000的输入和输出功能。
电子设备5000还可包括一个或多个传感器,例如压力传感器、重力加速度传感器、接近光传感器等。当然,根据具体应用中的需要,上述电子设备5000还可以包括摄像头等其它部件,由于这些部件不是本申请实施例中重点使用的部件,因此,在图5中没有示出,且不再详述。
本领域技术人员可以理解,图5仅仅是电子设备的举例,并不构成对电子设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件。
本申请实施例中,一种可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时,使得通信设备可以执行上述实施例中的各个步骤。
为了描述的方便,以上各部分按照功能划分为各模块(或单元)分别描述。当然,在实施本申请时可以把各模块(或单元)的功能在同一个或多个软件或硬件中实现。
本领域内的技术人员应明白,本申请的实施例可提供为方法、***、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本申请的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本申请范围的所有变更和修改。
显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。

Claims (18)

1.一种数据迁移***,其特征在于,包括调度服务器以及至少一个云平台,其中,
所述调度服务器:用于确定接收到针对待迁移的目标数据的数据迁移请求后,获取所述目标数据的数据配置信息;根据所述数据配置信息,对所述至少一个云平台进行弹性扩容,获得服务器集合;调用所述服务器集合中的云服务器,对所述目标数据进行数据迁移;确定数据迁移完成时,释放所述服务器集合,所述服务器集合中包含至少两个云服务器;
每一云平台:用于确定接收到所述调度服务器的弹性扩容指令时,进行弹性扩容,获得云服务器,所述服务器集合包括具有对应关系的发送服务器以及接收服务器,每一发送服务器用于将源设备中读取的数据发送至相应接收服务器,每一服务器用于将接收的数据写入目标设备,所述发送服务器是基于与所述源设备之间的网络距离或地理距离最小的云平台获得的,所述接收服务器是基于与所述目标设备之间的网络距离或地理距离最小的云平台获得的。
2.如权利要求1所述的***,其特征在于,所述数据迁移***是基于云原生架构构建的,服务器集合包括至少一个发送服务器和至少一个接收服务器;所述数据配置信息包括以下信息中的至少一个:目录信息、目标迁移时长、源设备的源地址信息以及目标设备的目的地址信息。
3.权利要求2所述的***,其特征在于,所述调度服务器用于:
根据所述数据配置信息,获取待传输的文件总容量;
根据所述文件总容量、所述目标迁移时长,以及所述服务器集合的数据迁移速率,确定所述服务器集合中的服务器数量;
按照所述服务器数量,对所述至少一个云平台进行弹性扩容,获得所述服务器集合。
4.如权利要求3所述的***,其特征在于,所述调度服务器用于:
根据所述数据配置信息中包含的源地址信息,确定源设备对应的云平台;
基于所述服务器数量,对所述源设备对应的云平台,进行弹性扩容,确定弹性扩容后的发送服务器;
根据所述数据配置信息中包含的目的地址信息,确定目标设备对应的云平台;
基于所述服务器数量,对所述目标设备对应的云平台,进行弹性扩容,获得弹性扩容后的接收服务器。
5.如权利要求3所述的***,其特征在于,所述调度服务器用于:
将所述目标数据进行分配,分别确定每一发送服务器被分配的数据块,其中,所述数据块是将所述目标数据划分后获得的;
每一发送服务器用于:基于所述数据配置信息中的源地址信息,从源设备中读取分配的数据块,并将所述分配的数据块进行拆分,获得至少一个数据片,以及将每一数据片发送至相应的接收服务器;
每一接收服务器用于:基于所述数据配置信息中的目的地址信息,将接收的每一数据片,写入目标设备。
6.如权利要求5所述的***,其特征在于,每一发送服务器用于:
从所述至少一个数据片中随机选取至少一个数据片,并分别对选取的每一数据片进行加密,获得加密数据片,以及将包含加密数据片的至少一个数据片,发送至对应的接收服务器;
每一接收服务器用于:
对接收的加密数据片进行解密,获得解密数据片,并将包含解密数据片的至少一个数据片写入所述目标设备。
7.一种数据迁移的方法,其特征在于,应用于数据迁移***中的调度服务器,所述数据迁移***中还包含至少一个云平台,包括:
确定接收到针对待迁移的目标数据的数据迁移请求后,获取所述目标数据的数据配置信息;
根据所述数据配置信息,对所述至少一个云平台进行弹性扩容,获得服务器集合,所述服务器集合中包含至少两个云服务器,所述服务器集合包括具有对应关系的发送服务器以及接收服务器,每一发送服务器用于将源设备中读取的数据发送至相应接收服务器,每一服务器用于将接收的数据写入目标设备,所述发送服务器是基于与所述源设备之间的网络距离或地理距离最小的云平台获得的,所述接收服务器是基于与所述目标设备之间的网络距离或地理距离最小的云平台获得的;
调用所述服务器集合中的云服务器,对所述目标数据进行数据迁移;
确定数据迁移完成时,释放所述服务器集合。
8.如权利要求7所述的方法,其特征在于,所述数据迁移***是基于云原生架构构建的,服务器集合包括至少一个发送服务器和至少一个接收服务器;所述数据配置信息包括以下信息中的至少一个:目录信息、目标迁移时长、源设备的源地址信息以及目标设备的目的地址信息。
9.如权利要求8所述的方法,其特征在于,所述根据所述数据配置信息,对所述至少一个云平台进行弹性扩容,获得服务器集合,包括:
根据所述数据配置信息,获取待传输的文件总容量;
根据所述文件总容量、所述目标迁移时长,以及所述服务器集合的数据迁移速率,确定所述服务器集合中的服务器数量;
按照所述服务器数量,对所述至少一个云平台进行弹性扩容,获得所述服务器集合。
10.如权利要求9所述的方法,其特征在于,所述按照所述服务器数量,对所述至少一个云平台进行弹性扩容,获得所述服务器集合,包括:
根据所述数据配置信息中包含的源地址信息,确定源设备对应的云平台;
基于所述服务器数量,对所述源设备对应的云平台,进行弹性扩容,确定弹性扩容后的发送服务器;
根据所述数据配置信息中包含的目的地址信息,确定目标设备对应的云平台;
基于所述服务器数量,对所述目标设备对应的云平台,进行弹性扩容,获得弹性扩容后的接收服务器。
11.如权利要求9所述的方法,其特征在于,所述调用所述服务器集合中的云服务器,对所述目标数据进行数据迁移,包括:
将所述目标数据进行分配,分别确定每一发送服务器被分配的数据块,其中,所述数据块是将所述目标数据划分后获得的;
分别调用每一发送服务器,执行以下步骤:基于所述数据配置信息中的源地址信息,从源设备中读取分配的数据块,并将所述分配的数据块进行拆分,获得至少一个数据片,以及将每一数据片发送至相应的接收服务器;
分别调用每一接收服务器,执行以下步骤:基于所述数据配置信息中的目的地址信息,将接收的每一数据片,写入目标设备。
12.一种数据迁移的装置,其特征在于,应用于数据迁移***中的调度服务器,所述数据迁移***中还包含至少一个云平台,包括:
获取单元,用于确定接收到针对待迁移的目标数据的数据迁移请求后,获取所述目标数据的数据配置信息;
扩容单元,用于根据所述数据配置信息,对所述至少一个云平台进行弹性扩容,获得服务器集合,所述服务器集合中包含至少两个云服务器,所述服务器集合包括具有对应关系的发送服务器以及接收服务器,每一发送服务器用于将源设备中读取的数据发送至相应接收服务器,每一服务器用于将接收的数据写入目标设备,所述发送服务器是基于与所述源设备之间的网络距离或地理距离最小的云平台获得的,所述接收服务器是基于与所述目标设备之间的网络距离或地理距离最小的云平台获得的;
迁移单元,用于调用所述服务器集合中的云服务器,对所述目标数据进行数据迁移;
释放单元,用于确定数据迁移完成时,释放所述服务器集合。
13.如权利要求12所述的装置,其特征在于,所述数据迁移***是基于云原生架构构建的,服务器集合包括至少一个发送服务器和至少一个接收服务器;所述数据配置信息包括以下信息中的至少一个:目录信息、目标迁移时长、源设备的源地址信息以及目标设备的目的地址信息。
14.如权利要求13所述的装置,其特征在于,所述扩容单元用于:
根据所述数据配置信息,获取待传输的文件总容量;
根据所述文件总容量、所述目标迁移时长,以及所述服务器集合的数据迁移速率,确定所述服务器集合中的服务器数量;
按照所述服务器数量,对所述至少一个云平台进行弹性扩容,获得所述服务器集合。
15.如权利要求14所述的装置,其特征在于,所述扩容单元用于:
根据所述数据配置信息中包含的源地址信息,确定源设备对应的云平台;
基于所述服务器数量,对所述源设备对应的云平台,进行弹性扩容,确定弹性扩容后的发送服务器;
根据所述数据配置信息中包含的目的地址信息,确定目标设备对应的云平台;
基于所述服务器数量,对所述目标设备对应的云平台,进行弹性扩容,获得弹性扩容后的接收服务器。
16.如权利要求14所述的装置,其特征在于,所述迁移单元用于:
将所述目标数据进行分配,分别确定每一发送服务器被分配的数据块,其中,所述数据块是将所述目标数据划分后获得的;
分别调用每一发送服务器,执行以下步骤:基于所述数据配置信息中的源地址信息,从源设备中读取分配的数据块,并将所述分配的数据块进行拆分,获得至少一个数据片,以及将每一数据片发送至相应的接收服务器;
分别调用每一接收服务器,执行以下步骤:基于所述数据配置信息中的目的地址信息,将接收的每一数据片,写入目标设备。
17.一种电子设备,其特征在于,包括处理器以及存储器,所述存储器存储有计算机可读取指令,当所述计算机可读取指令由所述处理器执行时,运行如权利要求7-11任一所述方法。
18.一种可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时运行如权利要求7-11任一所述方法。
CN202111607777.0A 2021-12-27 2021-12-27 数据迁移的***、方法、装置、电子设备及可读存储介质 Active CN113986825B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111607777.0A CN113986825B (zh) 2021-12-27 2021-12-27 数据迁移的***、方法、装置、电子设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111607777.0A CN113986825B (zh) 2021-12-27 2021-12-27 数据迁移的***、方法、装置、电子设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN113986825A CN113986825A (zh) 2022-01-28
CN113986825B true CN113986825B (zh) 2022-03-22

Family

ID=79734390

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111607777.0A Active CN113986825B (zh) 2021-12-27 2021-12-27 数据迁移的***、方法、装置、电子设备及可读存储介质

Country Status (1)

Country Link
CN (1) CN113986825B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114625502A (zh) * 2022-03-03 2022-06-14 盐城金堤科技有限公司 一种投词任务处理方法、装置、存储介质和电子设备
CN117675706B (zh) * 2024-01-31 2024-04-19 利亚德智慧科技集团有限公司 多并发终端的光影秀数据处理方法、装置、介质及设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102135963A (zh) * 2010-01-21 2011-07-27 深圳市智骏数据科技有限公司 数据迁移的方法和***
CN110555012A (zh) * 2018-05-14 2019-12-10 杭州海康威视数字技术股份有限公司 数据迁移方法及装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106843755B (zh) * 2017-01-04 2019-10-11 北京百度网讯科技有限公司 用于服务器集群的数据均衡方法与装置
CN106953893A (zh) * 2017-02-15 2017-07-14 北京百度网讯科技有限公司 云存储***间的数据迁移
CN111459415B (zh) * 2020-04-15 2023-05-23 腾讯云计算(长沙)有限责任公司 跨云数据迁移方法、装置、设备及存储介质
CN111930715A (zh) * 2020-07-16 2020-11-13 北京金山云网络技术有限公司 数据迁移方法、装置、计算机设备和存储介质

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102135963A (zh) * 2010-01-21 2011-07-27 深圳市智骏数据科技有限公司 数据迁移的方法和***
CN110555012A (zh) * 2018-05-14 2019-12-10 杭州海康威视数字技术股份有限公司 数据迁移方法及装置

Also Published As

Publication number Publication date
CN113986825A (zh) 2022-01-28

Similar Documents

Publication Publication Date Title
CN113986825B (zh) 数据迁移的***、方法、装置、电子设备及可读存储介质
CN110266480B (zh) 数据传输方法、装置及存储介质
CN109271283A (zh) 一种基于区块链的数据备份方法
US9251187B2 (en) Metadata-driven version management service in pervasive environment
CN103180842A (zh) 云计算***和用于该云计算***的数据同步方法
CN108268211B (zh) 一种数据处理方法及装置
US10922193B2 (en) Data backup method, storage medium, and terminal
CN113110939A (zh) 运行数据的处理方法、装置、计算机设备及存储介质
Xiong et al. Design and implementation of a prototype cloud video surveillance system
CN112035897A (zh) 区块链存证方法和相关装置
CN103685515A (zh) 一种应用下载的方法及***
CN113553178A (zh) 任务处理方法、装置和电子设备
CN111679790A (zh) 远程软件开发存储空间分配方法及装置
CN111324667A (zh) 一种数据同步方法、装置、电子设备及存储介质
CN108234551B (zh) 一种数据处理方法及装置
CN102882960A (zh) 一种资源文件的发送方法及装置
CN113302585A (zh) 加速应用和子包安装
CN110399248B (zh) 一种镜像文件创建、获取方法、装置及服务器
CN115878138B (zh) 应用预下载方法、装置、计算机、存储介质
CN113010498A (zh) 一种数据同步方法、装置、计算机设备及存储介质
CN115349117A (zh) 用于多租户无服务器环境的多级高速缓存网格***
CN111625288B (zh) 应用程序的启动控制方法、装置、计算机设备和存储介质
CN115495765A (zh) 数据处理方法、装置、计算机设备及存储介质
CN113660352A (zh) 一种服务器调度的方法、装置、电子设备及可读存储介质
EP3606009B1 (en) Image synchronization method and device, and server

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant