JP6021680B2 - 自律分散重複排除ファイルシステム、記憶装置ユニット及びデータアクセス方法 - Google Patents
自律分散重複排除ファイルシステム、記憶装置ユニット及びデータアクセス方法 Download PDFInfo
- Publication number
- JP6021680B2 JP6021680B2 JP2013029852A JP2013029852A JP6021680B2 JP 6021680 B2 JP6021680 B2 JP 6021680B2 JP 2013029852 A JP2013029852 A JP 2013029852A JP 2013029852 A JP2013029852 A JP 2013029852A JP 6021680 B2 JP6021680 B2 JP 6021680B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- node
- storage device
- storage
- device unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/064—Management of blocks
- G06F3/0641—De-duplication techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0608—Saving storage space on storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
- G06F3/0635—Configuration or reconfiguration of storage systems by changing the path, e.g. traffic rerouting, path reconfiguration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Computer Security & Cryptography (AREA)
Description
従来のストレージ機器で行われる重複排除は、完全に同一内容のセクタを排除することで実質データ量を削減するものである。
特許文献2の発明では、重複度が閾値に達するまでは重複する実データが削除される。この重複する実データの削減によりデータ量は削減されるが、それらのデータに対する複数の利用者端末からのアクセスに対する並列処理の機会は失われる。
なお、自律分散型ファイルシステムに対するデータ参照装置として、以下では、ネットワークに接続されたサーバを例に挙げて説明するが、本発明はこれに限定されるものではなく、各種の端末に適用可能である。
自律分散型ファイルシステムは、データ参照装置である複数のサーバが複数のアクセスパスにより繋がれており、各アクセスパスはデータを保持したファイルが格納される記憶装置ユニットに繋がれている。すなわち、複数のサーバ1000(a〜n)が、第1のネットワーク1006を介して、複数の自律分散型の記憶装置ユニット1001(a〜m)に接続されている。各記憶装置ユニット(以下、ノードとも記す)1001a〜1001nは、各サーバからの要求に基づいて、ファイル(データ列)のデータの書き込みや読み出しを行う。
処理中フラグ11346は、各ノードが処理中の状態にあるか(=1)、否か(=0)を表している。
記憶装置ユニットb及びeのローカルコントローラは、重複データ維持ユニット及びハッシュ値・データ値の演算比較機能を備えており、ローカルストレージの論理ブロックに空きが有る場合、換言するとストレージ容量を圧迫しない場合には、データの1つの実データ及び少なくとも1つの複製データとを重複して保持し続け、論理ブロックに空きが無い場合、換言するとストレージ容量に余裕が無い場合には、複製データの書き込みを制限若しくは排除する機能を有している。より具体的には、次の通りである。
[書き込みと重複制御]
(1)各記憶装置ユニット1001は、ストレージディレクトリ1134に自身のノードが有するデータの特徴値(ハッシュ値等)を演算し記録する。
(2)(ストレージに接続された)サーバが、(論理・物理ブロック)の論理位置pに対して新規データDを書き込むと、データを受け取った記憶装置ユニット(この例では1001e)は、前記新規データDの特徴(ハッシュ値)Hを演算し、自ノードに記録されている特徴値のリストから同一のハッシュ値を持つデータを抽出し、自ノードに前記新規データDと重複するデータD’が有ればそれにリンクを張る。
(3)データを受け取った記憶装置ユニット1001eは、前記新規データDの特徴(ハッシュ値)Hを、ストレージシステムを構成する他の各記憶装置ユニットi(以下、代表して記憶装置ユニット1001b)に報告する。
(4)前記特徴値を受け取った記憶装置ユニットbは、自ノードに記録されている特徴値のリストから同一のハッシュ値を持つデータを選択する。同一値H‘が存在した記憶装置ユニットbは記憶装置ユニットeにデータDを要求する。
(6)記憶装置ユニットbはデータDと同一のデータD’を自ノードが有するか判定し、結果を記憶装置ユニットeに返す。
(7)もし同一のデータD’を有している記憶装置ユニットbがあった場合、記憶装置ユニットeはデータDをデータD’の複製として保持すると共に、データDからデータD’へのリンクを作成し、ストレージディレクトリ1134eに記録する。この記憶装置ユニットbへのリンクの作成は、データDが、記憶装置ユニットeのストレージ容量が圧迫される状態になった時に「重複排除できるデータ」としてあるとマークされたことを意味する。
[読み出し]
(1)サーバ(x)は論理位置pを指定して記憶装置ユニットeにデータDを要求する。
(2)記憶装置ユニットeは、自身が論理値pのデータDを有する場合、それを返す。
(3)記憶装置ユニットeは自ノードに要求されたデータはないが、pに対するリンクが存在する場合、そのリンク先の記憶装置ユニットbに対してデータD’の転送を要求する。
(4)記憶装置ユニットeは、記憶装置ユニットbからデータD’を受け取り後、それをサーバに返す。
図6は、記憶装置ユニットeに対するデータ書き込み時の、重複データ維持ユニット1135を主体した処理(S2000)を示すフロー図である。
記憶装置ユニットeは、サーバ(x)からのデータ(D1)の書き込みを受信すると(S2001)、自ノードのストレージディレクトリ1134eの論理ブロックに空きが有るかを判定する(S2002)。
(以下、実施例1と同様にして、「他ノードの重複排除」機能を実行)。
Claims (14)
- 第1のネットワークを介してデータ参照装置に接続される自律分散型ファイルシステムであって、
前記自律分散型ファイルシステムは、第2のネットワークを介して相互に接続されると共に各々前記第1のネットワークに接続される複数の記憶装置ユニットと、ストレージディレクトリとを備えており、
前記各記憶装置ユニットは、各々、ローカルストレージと、重複データ維持ユニットとを備えており、
前記各記憶装置ユニットを構成する各ノードには、各々、固有のノードIDの値が予め与えられており、特定のノードIDを有する前記ノードが特定ノードとして設定されており、
前記重複データ維持ユニットは、前記データ参照装置からの要求データの書き込み要求に対して、前記ストレージディレクトリを参照し、前記何れかのノードに関して、論理的ブロック及び物理的ブロックに空きが有るかを判定する機能と、該判定の結果、前記論理的ブロック及び前記物理的ブロックに空きが有る場合には、前記特定ノードに前記要求データの1つの実データを保持し、前記特定ノード若しくは他ノードに前記要求データの1つ以上の複製データを保持し同一内容のデータにリンクを作成する機能と、前記判定の結果、前記論理的ブロックに空きが有り前記物理的ブロックには空きが無い場合には、前記何れかのノードに保持された重複する前記複製データもしくは前記リンクを削除して空きを確保する機能とを有する
ことを特徴とする自律分散型ファイルシステム。 - 請求項1において、
前記重複データ維持ユニットは、前記判定の結果、前記各記憶装置ユニットの何れかにおいて、自ノードのローカルストレージの前記論理的ブロック及び前記物理的ブロックに空きが有る場合には、同一内容の前記データの重複書き込みを許容し、前記物理的ブロックに空きが無く、かつ、前記ストレージディレクトリに前記リンクを持つ前記論理的ブロックが無い場合には、前記ストレージディレクトリから前記自ノード若しくは他の前記ノードの重複した前記物理的ブロックへのポインタを削除し、前記同一内容のデータの重複書き込みを排除する
ことを特徴とする自律分散型ファイルシステム。 - 請求項1において、
前記各記憶装置ユニットは、各々、ストレージインタフェースと、ローカルコントローラとを備えており、
前記各ローカルコントローラは、前記ストレージディレクトリ及び前記重複データ維持ユニットの機能を有しており、
前記重複データ維持ユニットは、
自ノードの前記ストレージディレクトリを参照し、
前記判定の結果、前記各記憶装置ユニットの何れかにおいて、自ノードのローカルストレージの前記論理的ブロック及び前記物理的ブロックに空きが有る場合には、同一内容の前記データの重複書き込みを許容し、前記物理的ブロックに空きが無く、かつ、前記ストレージディレクトリに前記リンクを持つ前記論理的ブロックが無い場合には、前記ストレージディレクトリから前記自ノード若しくは他の前記ノードの重複した前記物理的ブロックへのポインタを削除し、前記同一内容のデータの重複書き込みを排除する
ことを特徴とする自律分散型ファイルシステム。 - 請求項3において、
前記記憶装置ユニットにはファイルが格納され、
前記重複データ維持ユニットは、
前記データ参照装置からの要求データの書き込み要求に対して、前記自ノードのストレージディレクトリを参照し、
前記判定の結果、前記ローカルストレージの前記論理的ブロック及び前記物理的ブロックに空きが有る場合には、前記同一内容のデータの重複書き込みを許容し、
前記論理的ブロックに空きが有り前記物理的ブロックに空きが無い場合には、前記ストレージディレクトリから重複した前記物理的ブロックへのポインタを削除し、空きブロックを確保してこの空きブロックに前記要求データを格納すると共に、前記自ノード若しくは前記他ノードの異なる前記ファイルに前記データと同一のデータが存在する場合には、前記特定ノードに1つの実データを残し他の同一のデータへの前記リンクを張って同一データを複数保持し、
前記ストレージディレクトリの値を更新する
ことを特徴とする自律分散型ファイルシステム。 - 請求項4において、
前記ストレージディレクトリは、前記データのハッシュ値を保持する機能、及び、前記各ノードが処理中の状態にあるか否かを表す処理中フラグの値を保持する機能を有しており、
該ハッシュ値を用いて、前記自ノード及び前記何れかの他ノードに同じデータが存在するか否かのチェックを行い、
前記処理中フラグの値を用いて、前記他ノードに、前記自ノードのデータと同じデータが存在することを通知する
ことを特徴とする自律分散型ファイルシステム。 - 請求項1において、
自律分散型ファイルシステムは、前記データ参照装置である複数のサーバが前記第1のネットワークを介して、複数の自律分散型の前記記憶装置ユニットに接続されており、
前記各記憶装置ユニットは、各々、ストレージインタフェースと、ローカルコントローラとを備えており、
前記第1のネットワーク及び前記第2のネットワークは、SAN、LAN、若しくはWANで構成されており、
前記ローカルコントローラは、管理端末を有し、前記サーバから受信したコマンドに従って前記ローカルストレージに対する制御を行う
ことを特徴とする自律分散型ファイルシステム。 - 請求項1において、
前記第1、第2のネットワークに接続された管理サーバを備え、
該管理サーバは、前記ストレージディレクトリの機能及び前記重複データ維持ユニットの機能を備えており、
前記要求データの書き込み時の、前記各記憶装置ユニット内の論理位置と前記データ及び特徴量を保持し、
前記データ参照装置からの前記データの読み出し時には、前記管理サーバが前記ストレージディレクトリを参照して当該データを持つ前記記憶装置ユニットの位置の情報を得る
ことを特徴とする自律分散型ファイルシステム。 - 請求項7において、
前記判定の結果、第1の前記記憶装置ユニットの前記論理的ブロックに空きが有り前記物理的ブロックに空きが無い場合において、
該第1の記憶装置ユニット若しくは他の記憶装置ユニットに前記データと同一のデータが存在する場合には、前記各記憶装置ユニットのノードのIDの比較結果に基づいて、前記特定ノードの前記実データを残し他の同一の前記データへの前記リンクを張って前記実データの重複書き込みを排除する
ことを特徴とする自律分散型ファイルシステム。 - 自律分散型ファイルシステムを構成する記憶装置ユニットであって、
ローカルストレージと、ローカルコントローラとを備えており、
前記ローカルコントローラは、ストレージディレクトリと、重複データ維持ユニットとを備えており、
前記各記憶装置ユニットを構成する各ノードには、各々、固有のノードIDの値が予め与えられており、特定のノードIDを有する前記ノードが特定ノードとして設定されており、
前記ストレージディレクトリは、保持されるデータに関して、前記各記憶装置ユニットの前記ローカルストレージの論理的ブロックのID及び物理的ブロックのID、同じ若しくは他の前記記憶装置ユニットのノードIDへのリンク及び該ノードIDの前記論理的ブロックIDへの前記リンクの値を保持する機能を有しており、
前記重複データ維持ユニットは、データ参照装置からの要求データの書き込み要求に対して、前記ストレージディレクトリを参照して前記何れかのノードに関して論理的ブロック及び物理的ブロックに空きが有るかを判定する機能と、該判定の結果、前記論理的ブロック及び前記物理的ブロックに空きが有る場合には、前記特定ノード若しくは他ノードに前記要求データの1つ以上の複製データを保持し同一内容のデータにリンクを作成する機能と、前記判定の結果、前記論理的ブロックに空きが有り前記物理的ブロックには空きが無い場合には、前記何れかのノードに保持された重複する前記複製データもしくは前記リンクを削除して空きを確保する機能とを有する
ことを特徴とする記憶装置ユニット。 - 請求項9において、
前記記憶装置ユニットにはファイルが格納され、
前記重複データ維持ユニットは、
前記データ参照装置からの前記要求データの書き込み要求に対して、自ノードのストレージディレクトリを参照する機能と、
前記判定の結果、前記ローカルストレージの前記論理的ブロック及び前記物理的ブロックに空きが有る場合には、前記同一内容のデータの重複書き込みを許容する機能と、
前記論理的ブロックに空きが有り前記物理的ブロックに空きが無い場合には、前記ストレージディレクトリから重複した前記物理的ブロックへのポインタを削除し、空きブロックを確保してこの空きブロックに前記要求データを格納すると共に、前記自ノード若しくは前記他ノードの異なる前記ファイルに前記データと同一のデータが存在する場合には、前記特定ノードに1つの実データを残し他の同一のデータへの前記リンクを張って同一データを複数保持する機能と、
前記ストレージディレクトリの値を更新するする機能とを有する
ことを特徴とする記憶装置ユニット。 - 自律分散型ファイルシステムへのデータアクセス方法であって、
前記自律分散型ファイルシステムは、データ参照装置である複数のサーバが複数のアクセスパスにより繋がれており、各アクセスパスは複数の記憶装置ユニットに繋がれている、ファイルシステムであり、
前記各記憶装置ユニットは、ストレージインタフェースと、ローカルコントローラとローカルストレージを備えており、
前記各ローカルコントローラは、自ノードの前記記憶装置ユニットに対するデータの書き込みや読み出しを、該記憶装置ユニットの空き容量に応じて管理するためのテーブルであるストレージディレクトリを備えており、
前記各記憶装置ユニットを構成する各ノードには、各々、固有のノードIDの値が予め与えられており、特定のノードIDを有する前記ノードが特定ノードとして設定されており、
前記サーバからの要求データの書き込み要求を受け付け、
前記要求データの書き込み要求に対して、前記ストレージディレクトリを参照して前記何れかのノードに関して論理的ブロック及び物理的ブロックに空きが有るかを判定し、
前記判定の結果、前記論理的ブロック及び前記物理的ブロックに空きが有る場合には、前記データの1つの実データ及び少なくとも1つの複製データとを重複して保持し、前記判定の結果、該判定の結果、前記論理的ブロック及び前記物理的ブロックに空きが有る場合には、前記特定ノード若しくは他ノードに前記要求データの1つ以上の複製データを保持し同一内容のデータにリンクを作成し、前記判定の結果、前記論理的ブロックに空きが有り前記物理的ブロックには空きが無い場合には、前記何れかのノードに保持された重複する前記複製データもしくは前記リンクを削除して空きを確保する
ことを特徴とするデータアクセス方法。 - 請求項11において
前記ノードに関して前記物理的ブロックに空きが有る場合には、前記特定ノードに1つの実データを保持し、該特定ノード若しくは他の前記ノードに1つ以上の複製データを保持しあるいは前記リンクを作成する
ことを特徴とするデータアクセス方法。 - 請求項12において
前記ファイルシステムのデータへアクセスする手順は、
前記サーバから第1の記憶装置ユニットにデータの読み込みを要求するステップと、
データの読み込み要求を受け取った前記第1の記憶装置ユニットに前記要求データが存在する場合に該データを前記サーバに転送するステップと、
前記データの読み込み要求を受け取った前記第1の記憶装置ユニットに前記要求データが存在しない場合に同じデータの前記リンクの存在を探すステップと、
前記リンクが張られている場合にリンク先の第2の記憶装置ユニットに前記データを前記第1の記憶装置ユニットに転送することを要求するステップと、
前記第1の記憶装置ユニットからの要求を受信した前記第2の記憶装置ユニットにおいて、要求された前記データを前記第1の記憶装置ユニットに送信するステップと、
前記第2の記憶装置ユニットから前記データを受信した前記第1の記憶装置ユニットが受信した前記データを前記サーバに送るステップを含む
ことを特徴とするデータアクセス方法。 - 請求項12において
前記ファイルシステムのデータへアクセスする手順は、
前記サーバから第1の記憶装置ユニットにデータの読み込みを要求するステップと、
前記データの読み込み要求を受け取った前記第1の記憶装置ユニットに前記要求データが存在する場合に該データを前記サーバに転送するステップと、
前記データの読み込み要求を受け取った前記第1の記憶装置ユニットに前記要求データが存在しない場合に同じデータの前記リンクの存在を探すステップと、
前記リンクが張られている場合にリンク先の第2の記憶装置ユニットに前記データを前記第1の記憶装置ユニットに転送することを要求するステップと、
前記第1の記憶装置ユニットからの要求を受信した前記第2の記憶装置ユニットにおいて、要求された前記データを前記サーバに送るステップを含む
ことを特徴とするデータアクセス方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013029852A JP6021680B2 (ja) | 2013-02-19 | 2013-02-19 | 自律分散重複排除ファイルシステム、記憶装置ユニット及びデータアクセス方法 |
US14/184,128 US20140237202A1 (en) | 2013-02-19 | 2014-02-19 | System for preventing duplication of autonomous distributed files, storage device unit, and data access method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013029852A JP6021680B2 (ja) | 2013-02-19 | 2013-02-19 | 自律分散重複排除ファイルシステム、記憶装置ユニット及びデータアクセス方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014160311A JP2014160311A (ja) | 2014-09-04 |
JP6021680B2 true JP6021680B2 (ja) | 2016-11-09 |
Family
ID=51352159
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013029852A Expired - Fee Related JP6021680B2 (ja) | 2013-02-19 | 2013-02-19 | 自律分散重複排除ファイルシステム、記憶装置ユニット及びデータアクセス方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20140237202A1 (ja) |
JP (1) | JP6021680B2 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9659047B2 (en) * | 2014-12-03 | 2017-05-23 | Netapp, Inc. | Data deduplication utilizing extent ID database |
US10437784B2 (en) * | 2015-01-30 | 2019-10-08 | SK Hynix Inc. | Method and system for endurance enhancing, deferred deduplication with hardware-hash-enabled storage device |
WO2017068617A1 (ja) * | 2015-10-19 | 2017-04-27 | 株式会社日立製作所 | ストレージシステム |
WO2017109822A1 (ja) * | 2015-12-21 | 2017-06-29 | 株式会社日立製作所 | 重複排除機能を有するストレージシステム |
US20180181676A1 (en) * | 2016-12-22 | 2018-06-28 | Google Inc. | Nodes in directed acyclic graph |
JP6815277B2 (ja) * | 2017-05-24 | 2021-01-20 | ルネサスエレクトロニクス株式会社 | 半導体装置及びデータ処理システム |
US11269531B2 (en) * | 2017-10-25 | 2022-03-08 | International Business Machines Corporation | Performance of dispersed location-based deduplication |
US11093446B2 (en) * | 2018-10-31 | 2021-08-17 | Western Digital Technologies, Inc. | Duplicate request checking for file system interfaces |
JP2020086477A (ja) * | 2018-11-15 | 2020-06-04 | 株式会社日立製作所 | 大規模ストレージシステム及び大規模ストレージシステムにおけるデータ配置方法 |
US11138154B2 (en) | 2019-05-03 | 2021-10-05 | EMC IP Holding Company, LLC | System and method for offset-based deduplication |
US10963437B2 (en) | 2019-05-03 | 2021-03-30 | EMC IP Holding Company, LLC | System and method for data deduplication |
US10733158B1 (en) * | 2019-05-03 | 2020-08-04 | EMC IP Holding Company LLC | System and method for hash-based entropy calculation |
US10817475B1 (en) | 2019-05-03 | 2020-10-27 | EMC IP Holding Company, LLC | System and method for encoding-based deduplication |
US10990565B2 (en) | 2019-05-03 | 2021-04-27 | EMC IP Holding Company, LLC | System and method for average entropy calculation |
CN110247973B (zh) * | 2019-06-17 | 2021-09-24 | 华云数据控股集团有限公司 | 数据读取、写入的方法及文件网关 |
CN112181899A (zh) * | 2019-07-05 | 2021-01-05 | 中兴通讯股份有限公司 | 一种元数据的处理方法、装置及计算机可读存储介质 |
JP7102460B2 (ja) * | 2020-05-27 | 2022-07-19 | 株式会社日立製作所 | 分散ストレージ装置および分散ストレージ装置におけるデータ管理方法 |
US11853568B2 (en) * | 2020-10-21 | 2023-12-26 | EMC IP Holding Company LLC | Front-end offload of storage system hash and compression processing |
CN114943021B (zh) * | 2022-07-20 | 2022-11-08 | 之江实验室 | 一种tb级增量数据筛选方法和装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8001085B1 (en) * | 2003-11-25 | 2011-08-16 | Symantec Operating Corporation | Remote data access for local operations |
JP4690783B2 (ja) * | 2005-06-08 | 2011-06-01 | 株式会社日立製作所 | ボリューム管理システムおよびその方法 |
US20120109907A1 (en) * | 2010-10-30 | 2012-05-03 | International Business Machines Corporation | On-demand data deduplication |
US8538926B2 (en) * | 2011-03-08 | 2013-09-17 | Rackspace Us, Inc. | Massively scalable object storage system for storing object replicas |
US9471586B2 (en) * | 2013-01-10 | 2016-10-18 | International Business Machines Corporation | Intelligent selection of replication node for file data blocks in GPFS-SNC |
-
2013
- 2013-02-19 JP JP2013029852A patent/JP6021680B2/ja not_active Expired - Fee Related
-
2014
- 2014-02-19 US US14/184,128 patent/US20140237202A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
JP2014160311A (ja) | 2014-09-04 |
US20140237202A1 (en) | 2014-08-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6021680B2 (ja) | 自律分散重複排除ファイルシステム、記憶装置ユニット及びデータアクセス方法 | |
US11218539B2 (en) | Synchronous replication for storage | |
US20230013281A1 (en) | Storage space optimization in a system with varying data redundancy schemes | |
US20240118977A1 (en) | Incremental backup to object store | |
WO2020010503A1 (zh) | 基于多层一致性哈希的分布式数据存储方法与*** | |
JP5427533B2 (ja) | 階層ストレージ管理システムにおける重複ファイルの転送方法及びシステム | |
US20200117362A1 (en) | Erasure coding content driven distribution of data blocks | |
WO2014183708A1 (zh) | 一种实现分布式文件***块存储的方法及*** | |
US11748208B2 (en) | Persistent memory architecture | |
US10031682B1 (en) | Methods for improved data store migrations and devices thereof | |
US11768624B2 (en) | Resilient implementation of client file operations and replication | |
US20170039119A1 (en) | System, Method and Computer Program Product for Recovering Stub Files | |
US20210334241A1 (en) | Non-disrputive transitioning between replication schemes | |
JP2020510265A (ja) | 複合集合体アーキテクチャー | |
US8117493B1 (en) | Fast recovery in data mirroring techniques | |
US10331362B1 (en) | Adaptive replication for segmentation anchoring type | |
EP3616069B1 (en) | Methods for improved data replication in cloud environments and devices thereof | |
US11216204B2 (en) | Degraded redundant metadata, DRuM, technique | |
JP6671708B2 (ja) | バックアップリストアシステム及びバックアップリストア方法 | |
JP2021060818A (ja) | ストレージシステムおよびデータ移行方法 | |
JP7306665B2 (ja) | ストレージ装置、データ移行方法、プログラム | |
US11748310B2 (en) | Dependency aware improvements to support parallel replay or parallel replication of operations which are directed to a common node | |
JP2011180658A (ja) | 分散ファイルシステムにおける冗長化方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20140908 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150828 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160525 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160628 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160804 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160906 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20161004 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6021680 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |