JP2005217815A - パス制御方法 - Google Patents
パス制御方法 Download PDFInfo
- Publication number
- JP2005217815A JP2005217815A JP2004022463A JP2004022463A JP2005217815A JP 2005217815 A JP2005217815 A JP 2005217815A JP 2004022463 A JP2004022463 A JP 2004022463A JP 2004022463 A JP2004022463 A JP 2004022463A JP 2005217815 A JP2005217815 A JP 2005217815A
- Authority
- JP
- Japan
- Prior art keywords
- paths
- congestion
- network
- ratio
- storage
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/26—Flow control; Congestion control using explicit feedback to the source, e.g. choke packets
- H04L47/263—Rate modification at the source after receiving feedback
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/22—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks comprising specially adapted graphical user interfaces [GUI]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/50—Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Small-Scale Networks (AREA)
Abstract
【課題】
計算機あるいはストレージ装置が、複数の経路を用いてストレージ装置へアクセスするシステムにおいて、経路上で輻輳が発生した時の、スループットの低下を防止する。
【解決手段】
計算機、ストレージ装置およびストレージ管理装置がネットワークで接続され、計算機あるいは第一のストレージ装置が、ネットワーク内の複数の経路を用いて、第二のストレージ装置へアクセスし、かつ計算機あるいは第一のストレージ装置が、あらかじめ設定された割合に基づき複数の経路間の負荷分散を行う計算機システムにおいて、経路上で輻輳が発生したことを検出し、当該経路の輻輳時の比重を計算し、輻輳時の割合と設定された割合との差分を、計算機あるいは第一のストレージ装置と第二のストレージ装置との間の、その他の経路の割合へ割り振る。
【選択図】 図2
計算機あるいはストレージ装置が、複数の経路を用いてストレージ装置へアクセスするシステムにおいて、経路上で輻輳が発生した時の、スループットの低下を防止する。
【解決手段】
計算機、ストレージ装置およびストレージ管理装置がネットワークで接続され、計算機あるいは第一のストレージ装置が、ネットワーク内の複数の経路を用いて、第二のストレージ装置へアクセスし、かつ計算機あるいは第一のストレージ装置が、あらかじめ設定された割合に基づき複数の経路間の負荷分散を行う計算機システムにおいて、経路上で輻輳が発生したことを検出し、当該経路の輻輳時の比重を計算し、輻輳時の割合と設定された割合との差分を、計算機あるいは第一のストレージ装置と第二のストレージ装置との間の、その他の経路の割合へ割り振る。
【選択図】 図2
Description
本発明は、ネットワークを介して接続されたストレージ装置と情報処理装置を有するシステムに関する。
近年、計算機(以下「ホスト」ともいう)にストレージ装置を直結する形態の代わりに、一つ又は複数のストレージ装置を、ネットワークを介して複数のホストと接続する形態が盛んに用いられるようになっている。このネットワークを用いたストレージ装置の接続形態のことをストレージエリアネットワーク(以下「SAN」)という。これまでSANはファイバチャネル(以下「FC」)技術を用いて構築されていた。以下、FCベースのSANをFC−SANと称する。
FC−SANを構築する場合、システム全体の可用性を向上させるために、ホストとストレージ装置との間は複数の物理的な通信経路(以下「パス」ともいう)で接続される。ホストは、ストレージ装置へ送信するコマンドやデータを各々のパスを使用して送信することで、パスに掛かる負荷を分散させる。複数のパスの使用割合を決めるアルゴリズムとして、送信されるコマンドやデータを各々のパスに異なる割合(例えば送信されるコマンド数の6割:4割)で割り振る重み付けラウンドロビンが挙げられる。またホストは、FC−SANを構成するスイッチの故障やネットワークの切断等の原因により1つのパスが使用不能になったことを検出した場合、残りのパスを使用してストレージ装置との通信を継続する。
上記のようなパス間の負荷分散は、ホストとストレージ装置との間の通信(以下「ホストストレージ装置間通信」)だけではなく、ストレージ装置と他のストレージ装置との間の通信(以下「ストレージ装置間通信」)でも実施されている。ストレージ装置間通信の例としてリモートコピーが挙げられる。リモートコピーとは、ストレージ装置に格納されるデータを、地理的に離れた拠点に設置された他のストレージ装置へ転送してデータを複製保存する技術である。
上述したホストストレージ装置間通信におけるパス制御技術の1つが特許文献1に開示されている。
一方、FCよりも導入コストが低いインターネットプロトコル(以下「IP」)を用いたネットワーク(以下「IPネットワーク」)を用いて構築されたSANであるIP−SANが注目を集めている。ホストがIP−SANを介してストレージ装置と通信する場合、SCSIプロトコルをTCP/IPでカプセル化したプロトコルであるiSCSIが主に用いられる。
IP−SANにおいてホストストレージ装置間通信又はストレージ装置間通信をする場合、特許文献1に開示されたパス制御技術では以下の問題が発生する。
上述したように、特許文献1ではネットワークとしてFCを使用する。FCでは、通信におけるフロー制御にバッファクレジットと呼ばれる技術が用いられる。バッファクレジットでは、ホストやストレージ装置などのネットワークの末端(以下「エンドポイント」)と、そのエンドポイントが接続されているスイッチとが、受信したパケットを一時的に保存するためのバッファの空きサイズの情報をお互いに交換する。同様に、隣接したスイッチ同士もバッファの空きサイズの情報をお互いに交換する。これによりネットワーク間でバッファの空きサイズ以上のパケットを送信しない様に各装置がデータを転送する。このため、FCでは基本的にネットワーク内での輻輳が発生しない。したがって、特許文献1ではそもそも輻輳に基づいてパスを制御することは全く考慮されていない。
上述したように、特許文献1ではネットワークとしてFCを使用する。FCでは、通信におけるフロー制御にバッファクレジットと呼ばれる技術が用いられる。バッファクレジットでは、ホストやストレージ装置などのネットワークの末端(以下「エンドポイント」)と、そのエンドポイントが接続されているスイッチとが、受信したパケットを一時的に保存するためのバッファの空きサイズの情報をお互いに交換する。同様に、隣接したスイッチ同士もバッファの空きサイズの情報をお互いに交換する。これによりネットワーク間でバッファの空きサイズ以上のパケットを送信しない様に各装置がデータを転送する。このため、FCでは基本的にネットワーク内での輻輳が発生しない。したがって、特許文献1ではそもそも輻輳に基づいてパスを制御することは全く考慮されていない。
一方、TCP/IPでは、フロー制御にスライディングウィンドウと呼ばれる技術が用いられる。スライディングウィンドウでは、エンドポイント同士がバッファの空きサイズの情報をお互いに交換する。ここで、エンドポイントはネットワークを構成するスイッチのバッファの空きサイズを考慮せずにパケットを送信する。したがって、ネットワークに送出されたパケットがスイッチのバッファの許容量を超過した場合、輻輳が発生する。輻輳が発生すると、スイッチは受信したパケットを廃棄してしまう。更にエンドポイントは、タイムアウト等の手段で輻輳の発生を検出すると、輻輳を回復させるためにパケットの送信レートを大幅に下げる。この仕組みは、RFC2581により規定されている。
従って、輻輳が発生しないFCを前提とした従来のパス制御技術をIP−SANに適用すると、TCP/IPの仕組みそのままに、輻輳が発生したパスの転送レートが大幅に下がってしまう。しかし、特許文献1等で開示された従来のパス制御技術では輻輳を考慮しないので、各エンドポイントはその送信レートが低下したパスを同じ使用率で使用し続ける。したがってシステム全体のパケット送信のスループットが大幅に下がってしまう。特にストレージ装置へのデータの入出力の際にはスループットが低下することは大きな問題(書き込み応答の遅延等)となる。
そこで、本発明の一実施形態として、第一の装置と、第二の装置と、第一の装置と前記第二の装置とを接続する複数のパスと、第一の装置と接続される第三の装置とを有するシステムで、第一の装置は、所定の割合で複数のパスを使用して第二の装置へデータを転送し、第三の装置は、複数のパスの輻輳を検出して第一の装置へ通知し、第一の装置は、通知に基づいて、所定のパス間の割合を変更して複数のパスを使用して第二の装置へデータを転送する構成とする。
尚、本発明の実施態様として、第一の装置は計算機でもストレージ装置でも良い。又、第三の装置は第一の装置に含まれていても良い。
更に、本発明の実施態様として、第三の装置で所定の割合及び所定の割合の変更率に関する情報を有し、複数のパスの輻輳を検出した場合、変更後の前記所定のパス間の割合を変更率に基づいて計算し、変更後の所定のパス間の割合の情報を第一の装置に送信し、第一の装置は、変更後の所定のパス間の割合に基づいて、複数のパスを用いて第二の装置へデータを転送する構成でも良い。
更に、本発明の実施態様として、複数のパスは第一の装置と第二の装置を接続するネットワーク装置を有し、第三の装置はネットワーク装置から輻輳の発生や輻輳からの回復についての情報を得る構成も考えられる。その他の実施態様については、以下の記載で明らかにされる。
本発明により、システム全体のパケット送信スループット、具体的にはホストストレージ装置間又はストレージ装置間のパケット転送スループットの低下を最小限に抑えることができる。
以下、本発明の実施形態について図面を用いて説明する。以下の図中、同一の部分には同一の符号を付加する。ただし本発明が実施形態に制限されることは無く、本発明の思想に合致するあらゆる応用例が本発明に該当する。また、特に限定しない限り、各構成要素は複数でも単数でも構わない。
第一の実施形態は、ストレージ装置間で実行されるiSCSIを用いたリモートコピーに本発明を適用したシステムに関する。第一の実施形態では、一方のストレージ装置(以下「マスタストレージ装置」)が、他方のストレージ装置(以下「リモートストレージ装置」)と1つ以上のTCPコネクションから成る1つのiSCSIセッションを確立してリモートコピーを実行する。それぞれのTCPコネクションを用いて送信されるパケットが通る経路が1つのパスに相当する。
図1は、第一の実施形態のシステムの構成例を示した図である。システムは、マスタサイト11、リモートサイト12およびこれらのサイト間を接続する1つ以上のWAN(Wide Area Network)8を有する。なお「サイト」とは装置が設置される場所や装置群を指し、一つのビル等を指す。また本実施形態では、マスタサイト11とリモートサイト12とはある程度距離が離れているもの(例えば東京と大阪等)とする。
マスタサイト11は、マスタストレージ装置1、マスタストレージ装置1を管理するストレージ管理装置2、ホスト4、端末6、ホスト4、マスタストレージ装置1およびストレージ管理装置2を接続するIPネットワークであるIP−SAN7並びに端末6とホスト4とを接続するIPネットワークであるLAN9を有する。また、マスタストレージ装置1、ストレージ管理装置2およびホスト4とIP−SAN7とは、UTP(Unshielded Twisted Pair)ケーブルや光ファイバケーブル等の通信線10で接続されている。同様に、端末6およびホスト4とLAN9とは、通信線10で接続されている。
なお、端末6等の装置と、IP−SAN7やLAN9等のIPネットワークとを、無線通信技術を使用して接続する場合、通信線10は不要である。また、本実施形態ではIP−SAN7とLAN9とが各々別である例を示すが、IP−SAN7がLAN9を兼ねる、すなわち全ての装置がIP−SAN7に接続される構成としても良い。この場合にはシステム設置のコストは抑えられる。しかしストレージ装置間通信用のパケットと端末間での通信に使用されるパケットが一つのネットワークに混在してネットワークが混雑するという問題がある。これを解消するためには本実施形態の構成が好ましい。
リモートサイト12は、リモートストレージ装置5、ホスト4、端末6、ホスト4とリモートストレージ装置5とを接続するIP−SAN7、端末6とホスト4とを接続するLAN9を有する。リモートストレージ装置5およびホスト4とIP−SAN7とは、通信線10で接続されている。同様に、端末6およびホスト4とLAN9とは、通信線10で接続されている。リモートサイト12でも、ネットワークが一つである構成も考えられる。
ホスト4および端末6は一般的な計算機であり、CPU、主メモリおよび入出力装置等を有する。また、ホスト4および端末6は、他の装置と通信線10を介して接続するインタフェースであるネットワークインタフェース(以下「NIF」)を有する。
WAN8は、受信したパケットを転送する1つ以上のネットワーク装置3を有する。
WAN8は、受信したパケットを転送する1つ以上のネットワーク装置3を有する。
図2(a)は、マスタストレージ装置1の構成例を示した図である。マスタストレージ装置1は、単体の記憶装置あるいは複数の記憶装置を有する記憶装置システムである。なお、記憶装置は、ハードディスクドライブやDVDと言った、不揮発性の記憶媒体を用いた装置が含まれる。また、記憶装置システムでは、RAID構成が採用されていてもよい。マスタストレージ装置1は、記憶装置(以下「ディスク装置」)103、ディスク装置103に対するデータの書き込みや読み出しを制御する制御装置107および制御装置107とディスク装置103とを接続する通信線106を有する。
制御装置107は、揮発性のメモリ(以下「主メモリ」)101、バスなどの通信線102、中央演算装置(以下「CPU」)104、制御装置107と通信線106とを接続するインタフェースであるIOインタフェース(以下「IO IF」)105および制御装置107と通信線10とを接続するNIF108を有する。
主メモリ101には、ディスク装置103から読み出されたデータ又はホスト等から受信したデータを記憶するキャッシュ領域110、リモートコピーを実行する際にCPU104で実行されるリモートコピー実行プログラム111、ストレージ管理装置2から割合変更要求を受信した際にCPU104で実行される割合変更要求受信プログラム112が格納される。
図2(b)は、ストレージ管理装置2の構成例を示した図である。ストレージ管理装置2は、主メモリ201、通信線202、ディスク装置203、CPU204、表示装置などの出力装置(以下「ディスプレイ」)205、マウスなどのポインティング装置206、キーボードなどの文字入力装置207およびNIF208を有する計算機である。
主メモリ201には、ネットワーク装置3から輻輳発生通知や輻輳回復通知を受信した際にCPU204で実行される輻輳受信プログラム210、パス間の負荷分散の割合を計算する際にCPU204で実行される割合計算プログラム211、マスタストレージ装置1等へ割合変更要求を送信する際にCPU204で実行される割合変更プログラム212およびシステム管理者等にグラフィカルなユーザインターフェースを提供する際にCPU204で実行されるGUI制御プログラム213が格納される。
なお、ここで「パス間の負荷分散の割合」(以下単に「パス間の割合」又は「パスの割合」ということもある)とは、ホストストレージ装置間通信やストレージ装置間通信で使用されるパス群でどのようにコマンドやデータの転送量(あるいは数)を分担するかを示す数値である。具体的には、ある一つの処理において3本のパスを使用する場合、「パス間の負荷分散の割合」とは、当該処理に含まれる転送パケット数のうちの3割を第一のパスで、3割を第二のパスで、4割を第三のパスで送信する場合の「3割、3割、4割」の組又はその組の個々の数値を示す。
また、ディスク装置203には、WAN8を構成するネットワーク装置3の情報を記憶するネットワーク管理テーブル220、マスタストレージ装置1がリモートコピーの個々のタスクを実行するのに必要な情報を記憶するタスク管理テーブル221およびマスタストレージ装置1とリモートストレージ装置5との間で使用されるパスの情報を記憶するパス管理テーブル222が格納される。ここで、タスクとは、マスタストレージ装置1が有する論理ユニット(Logical Unit:LU)から、リモートストレージ装置2が有する論理ユニットへのリモートコピーに関わるデータ転送処理を指す。なお、LUとはディスク装置が有する物理的な記憶領域から構成される論理的な記憶領域である。LUは一つのディスク装置が有する記憶領域から構成されてもよく、複数のディスク装置の個々の記憶領域の集合体として定義されても良い。
なお、第一の実施形態では、ストレージ管理装置2にて障害が発生した場合でも各テーブルが記憶する情報が喪失されないようにディスク装置203に各テーブルが格納されることとしたが、各テーブルの情報が主メモリ201に格納されても良い。
なお、リモートストレージ装置5は、主メモリ101に割合変更要求受信プログラム112が格納されない点を除き、マスタストレージ装置1と同様の構成を有する。
図3は、ネットワーク装置3の構成例を示した図である。ネットワーク装置3は、主メモリ301、通信線302、CPU304、NIF308およびNIF308が受信したパケットを別のNIF308を介して他の装置へ送信するパケット転送装置309を有する。主メモリ301には、転送待ちパケットを一時的に格納するバッファ領域310およびバッファ領域310の容量が不足した時にストレージ管理装置2へ輻輳発生通知を送信する際やバッファ領域310の容量が空いた時にストレージ管理装置2へ輻輳回復通知を送信する際にCPU304で実行される輻輳状態通知プログラム311が格納される。
なお、上述のプログラムは、あらかじめ、または可搬型記録媒体からの読み込み、または他の計算機からのネットワーク経由のダウンロードにより、ディスク装置やメモリに格納される。これらのプログラムは、必要に応じて主メモリに転送され、CPUで実行される。
次に、ストレージ管理装置2のディスク装置203に格納される各種テーブルのデータ構造について説明する。
ネットワーク管理テーブル220、タスク管理テーブル221およびパス管理テーブル222は配列構造を成し、1つ以上のレコードを格納可能である。ただし、データ構造が配列構造に限定されることはない。
図4(a)は、ネットワーク管理テーブル220のデータ構造例を示す図である。ネットワーク管理テーブル220は、マスタストレージ装置1とリモートストレージ装置5との通信に関わるネットワーク装置3の個数分のレコードを有する。ネットワーク管理テーブル220の各レコードは、対応するネットワーク装置3が属するネットワークを識別する為の識別子であるネットワークIDが登録されるエントリ2201、ネットワーク装置3を識別するための識別子である装置IDが登録されるエントリ2202およびネットワーク装置3が送信する輻輳発生通知や輻輳回復通知のソースIPアドレスが登録されるエントリ2203を有する。
図4(b)は、タスク管理テーブル221のデータ構造例を示す図である。タスク管理テーブル221は、リモートコピーのタスクごとに1つのレコードを有する。タスク管理テーブル221の各レコードは、個々のリモートコピータスクを識別するための識別子であるタスクIDが登録されるエントリ2211、iSCSIイニシエータとして動作するマスタストレージ装置1が有するiSCSI名であるイニシエータiSCSI名が登録されるエントリ2212、コピー対象となる論理ユニットを識別するための識別子であるイニシエータLU番号(LUN)が登録されるエントリ2213、iSCSIターゲットとして動作するリモートストレージ装置5が有するiSCSI名であるターゲットiSCSI名が登録されるエントリ2214、コピー先のLUを識別するためのターゲットLUNが登録されるエントリ2215、輻輳が発生した時にパス間の負荷分散の割合を変更するか否かを示す割合変更フラグが登録されるエントリ2216および輻輳が発生したパスの負荷分散の割合の変更率を示す割合変更率が登録されるエントリ2217を有する。
第一の実施形態では、エントリ2216の「0」は輻輳時に割合変更を行わないことを、「1」は輻輳時に割合変更を行うことをそれぞれ表すものとする。また、第一の実施形態では、エントリ2217には、割合変更率を百分率で表した値が登録されるものとする。例えば、エントリ2217に登録された値が「50」の場合、輻輳が発生したパスの負荷分散の割合を、以前の割合の50%とする。
図5は、パス管理テーブル222のデータ構造例を示す図である。パス管理テーブル222は、ホストストレージ装置間通信又はストレージ装置間通信で使用されるパスごとに1つのレコードを有する。パス管理テーブル222の各レコードは、レコードに対応する個々のパスを識別する為の識別子であるパスIDが登録されるエントリ2221、当該レコードに対応するパスを使用するリモートコピータスクのタスクIDが登録されるエントリ2222、当該パスが経由するネットワークのネットワークIDが登録されるエントリ2223、当該パス上で輻輳が発生していない時点での割合であるデフォルト割合が登録されるエントリ2224、当該パスの現時点での割合が登録されるエントリ2225、当該パス上で発生した輻輳の回数が登録されるエントリ2226、当該パスのマスタストレージ装置1側のIPアドレスであるイニシエータIPアドレスが登録されるエントリ2227および当該パスのリモートストレージ装置5側のIPアドレスであるターゲットIPアドレスが登録されるエントリ2228を有する。
なお第一の実施形態では、リモートストレージ装置5が、ウェルノウンポートである「3260」以外のTCPポート番号をiSCSI通信の通信ポートに使用する場合、エントリ2228には、IPアドレスと前記TCPポート番号とを「:」でつなげた文字列がターゲットIPアドレスとして登録されるものとする。ここで、ウェルノウンポートとは、IANA(Internet Assigned Numbers Authority)が、iSCSI等のアプリケーションレイヤプロトコルに割り当てたTCPポート番号である。
本実施形態では、ストレージ管理装置2がストレージ装置間通信で使用されているパスの状況を監視する。ここで、パスを構成するネットワーク装置3は、輻輳が発生すると、輻輳の発生をストレージ管理装置2へ通知する。輻輳の発生を通知されたストレージ管理装置2は、あらかじめ設定された変更率でマスタストレージ装置1が使用するパスの割合の変更後の値を計算し、その結果をマスタストレージ装置1へ送信する。結果を受信したマスタストレージ装置1は、受け取った情報に基づいてパスの割合を変更してストレージ装置間通信を継続する。
まず、システム管理者等があらかじめストレージ装置間通信のパス、そのパスの使用率、輻輳時のパスの割合の変更率等の情報をストレージ管理装置2及びマスタストレージ装置1に設定する際の処理手順について説明する。
最初に、第一の実施形態で用いられるグラフィカルユーザインタフェース(以下「GUI」)について説明する。これらのGUIは、CPU204がGUI制御プログラム213を実行することによってディスプレイ205に表示される。システム管理者等は、文字入力装置207およびポインティング装置206を用いて、表示されたGUI上で各パラメータを設定する。
なお、ディスプレイ205、文字入力装置207およびポインティング装置206は、ストレージ管理装置2とは別の計算機が有していてもよい。例えば、ストレージ管理装置2とIP−SAN7あるいはシリアルケーブルを介して接続されるコンソール用端末がディスプレイ205等を有していても良い。この場合、CPU204は、GUI制御プログラム213を実行して画面データをコンソール用端末へ送信し、コンソール用端末がディスプレイ205にGUIを表示する。さらに、コンソール用端末は、システム管理者等が文字入力装置207とポインティング装置206とを用いて設定した各パラメータをストレージ管理装置2へ送信する。
また、ストレージ管理装置2は、第一の実施形態で説明するGUIのかわりに、そのGUIと同等の機能を有するコマンドラインインタフェースを備えてもよい。
図6は、システム管理者等が、ネットワーク装置3の情報をストレージ管理装置2に登録するために使用するネットワーク登録画面600の表示例を示す図である。ネットワーク登録画面600は、ネットワークIDが入力される領域601、ネットワークを構成するネットワーク装置3の情報が入力される領域602、領域602で入力された情報をネットワーク管理テーブル220に追加する際に使用されるボタン605、領域607を用いて指定されたネットワーク装置3に相当するレコードをネットワーク管理テーブル220から削除する際に使用されるボタン606、既にネットワーク管理テーブル220に登録されたネットワーク装置3のリストを表示する領域607およびネットワーク登録画面600を閉じる際に使用されるボタン618を有する。
さらに、領域602は、ネットワーク装置3の装置IDが入力される領域603およびネットワーク装置3が送信する輻輳発生通知や輻輳回復通知のソースIPアドレスが入力される領域604を有する。
図7は、システム管理者等が、リモートコピータスクの情報およびリモートコピータスクが使用する1以上のパスの情報をストレージ管理装置2に登録するために使用するリモートコピータスク登録画面700の表示例を示す図である。リモートコピータスク登録画面700は、タスクIDが入力される領域701、イニシエータiSCSI名が入力される領域702、イニシエータLUNが入力される領域703、ターゲットiSCSI名が入力される領域704、ターゲットLUNが入力される領域705、パスの情報を設定する領域706、パス間の負荷分散の割合の設定を行う領域719、これらの領域で指定された情報を登録する際に使用されるボタン728および登録を取り消す際に使用されるボタン729を有する。
さらに、領域706は、パスのパスIDが入力される領域707、当該パスが経由するネットワークのネットワークIDの一覧を表示してその内の一つを選択する際に使用されるボタン709、ボタン709で選択されたネットワークIDを表示する領域708、当該パスのイニシエータIPアドレスの一覧を表示してその内の一つを選択する際に使用されるボタン711、ボタン711で選択されたIPアドレスを表示する領域710、当該パスのターゲットIPアドレスの一覧を表示してその内の一つを選択する際に使用されるボタン713、管理者によって入力された又はボタン713で選択されたターゲットIPアドレスを表示する領域712、領域704に入力されたiSCSI名に対応するIPアドレスとポート番号とをiSNS(internet Simple Naming Service)サーバやSLP DA(Service Location Protocol Directory Agent)サーバ等のネーム管理サーバから読み出し、ボタン713で選択可能にする際に使用されるボタン714、当該パスの負荷分散の割合が入力される領域715、領域707から領域715までで指定された情報をパス管理テーブル222に追加する際に使用されるボタン716、領域718を用いて指定されたパスに相当するレコードをパス管理テーブル222から削除する際に使用されるボタン717および既にパス管理テーブル222に登録されたパスのリストを表示する領域718を有する。
また、領域719は、輻輳時にパス間の負荷分散の割合を変更することを指定する際に使用されるボタン720およびボタン720が選択された時に入力可能となり、輻輳したパスの割合変更率が百分率で入力される領域721を有する。
なお、ボタン714が指定された時にストレージ管理装置2が通信を行うネーム管理サーバのIPアドレスは、ストレージ管理装置2にあらかじめ設定されているものとする。
以下、GUI操作で各種情報が登録される時のストレージ管理装置2の処理について説明する。なお、以下の処理は、CPU204で実行されるGUI制御プログラム213によって実行される。
図8(a)は、システム管理者等が、ネットワーク登録画面600のボタン605あるいはボタン606を指定した時に、ストレージ管理装置2が実行するネットワーク登録処理の動作手順を示すフローチャートである。この処理によって、システムの管理者等は、ストレージ管理装置2にネットワーク装置3の情報を追加(又は削除)する。
まず、ストレージ管理装置2は、指定されたのがボタン605(追加)かボタン606(削除)かを判定する(S801)。ボタン605が指定された場合、ストレージ管理装置2は、GUIで入力された情報に基づいてネットワーク管理テーブル220にレコードを追加する。追加されるレコードのエントリ2201、エントリ2202およびエントリ2203には、ボタン605が指定された時の領域601、領域603および領域604の内容がそれぞれ登録される(S802)。一方、ボタン606が指定された場合、ストレージ管理装置2は、ボタン606が指定された時に、領域607で指定されたネットワーク装置3の装置IDがエントリ2202の内容と一致する条件で、ネットワーク管理テーブル220を検索する(S803)。そして、ストレージ管理装置2は、見つかったレコードをネットワーク管理テーブル220から削除する(S804)。以上で、ストレージ管理装置2はネットワーク登録処理を終了する。
図8(b)は、システム管理者等が、リモートコピータスク登録画面700のボタン716あるいはボタン717を指定した時に、ストレージ管理装置2が実行するパス登録処理の動作手順を示すフローチャートである。システム管理者等は、この処理によって、リモートコピーの1つのタスクで使用する複数のパス、パスの割合、輻輳時のパスの割合の変更の要否等の情報をストレージ管理装置2に追加する。又、管理者等は、この処理によって、一旦設定したリモートコピーに使用するパスの本数等の変更(パス数の増加又は減少、パスの割合の変更等)をストレージ管理装置2に登録することが出来る。
まず、ストレージ管理装置2は、指定されたのがボタン716(追加)かボタン717(削除)かを判定する(S811)。
ボタン716が指定された場合、ストレージ管理装置2は、GUIで入力された情報に基づいてパス管理テーブル222にレコードを追加する。ここで追加するレコードのエントリ2221、エントリ2222、エントリ2223およびエントリ2224には、ボタン716が指定された時の領域707、領域701、領域708及び領域715の内容がそれぞれ登録される。エントリ2225にも、ボタン716が指定された時の領域715の内容が登録される。エントリ2226には「0」が登録される。エントリ2227およびエントリ2228には、ボタン716が指定された時の領域710および領域712の内容がそれぞれ登録される(S812)。
一方、ボタン717が指定された場合、ストレージ管理装置2は、ボタン717が指定された時に、領域718で指定されたパスのタスクIDおよびパスIDが、それぞれエントリ2222およびエントリ2221の内容と一致する条件で、パス管理テーブル222を検索する(S813)。そして、ストレージ管理装置2は、見つかったレコードをパス管理テーブル222から削除する(S814)。以上で、ストレージ管理装置2はパス登録処理を終了する。
図8(c)は、システム管理者等が、リモートコピータスク登録画面700を用いて、1つのリモートコピータスクの情報を登録した時に、ストレージ管理装置2が実行するリモートコピータスク登録処理の動作手順を示すフローチャートである。
この処理によって、システム管理者等は、1つのタスクについて、図8(b)で示すパスの登録が正しく(パスの割合が100%)設定されたかを確認して、そのタスクの情報をストレージ管理装置2へ登録することができる。
まず、ストレージ管理装置2は、領域701で入力されたタスクIDがエントリ2222の内容と一致する条件で、パス管理テーブル222を検索する(S821)。そして、見つかった全てのレコードのエントリ2225(割合)を取り出し、割合の和が100であることを確認する(S822)。全ての割合の和が100ではない場合、ストレージ管理装置2は、ディスプレイ205にエラーを伝えるGUIを表示して、リモートコピータスク登録処理を終了する。この場合、システム管理者等は、再度パスの登録を行う(S825)。
全ての割合の和が100の場合、ストレージ管理装置2は、タスク管理テーブル221にレコードを追加する。ここで追加するレコードのエントリ2211には領域701の内容が、エントリ2212には領域702の内容が、エントリ2213には領域703の内容が、エントリ2214には領域704の内容が、エントリ2215には領域705の内容が、エントリ2216にはボタン720がオフの場合には「0」が、ボタン720がオンの場合には「1」が、エントリ2217にはボタン720がオフの場合には「0」が、ボタン720がオンの場合には領域721の内容が、それぞれ登録される(S823)。
最後に、ストレージ管理装置2は、S823で登録されたリモートコピータスクの情報(タスクID、イニシエータiSCSI名、イニシエータLUN、ターゲットiSCSI名およびターゲットLUN)と、このリモートコピータスクで使用される全てのパスの情報(パスID、割合、イニシエータIPアドレスおよびターゲットIPアドレス)とを含むリモートコピー初期化要求を作成し、マスタストレージ装置1へ送信する(S824)。以上で、ストレージ管理装置2は、リモートコピータスク登録処理を終了する。 その後、リモートコピー初期化要求を受信したマスタストレージ装置1は、CPU104でリモートコピー実行プログラム111を実行し、リモートコピー初期化処理を行う。
まず、マスタストレージ装置1は、受信したリモートコピー初期化要求からリモートコピータスクの情報とパスの情報とをディスク装置103に記憶する。そして、マスタストレージ装置1は、リモートストレージ装置5との間でiSCSIセッションを確立する。このiSCSIセッションの、イニシエータのiSCSI名は、受信したリモートコピー初期化要求から取り出したイニシエータiSCSI名とし、ターゲットのiSCSI名は、受信したリモートコピー初期化要求から取り出したターゲットiSCSI名とする。
また、マスタストレージ装置1は、受信したリモートコピー初期化要求から取り出したパスの情報ごとに、イニシエータIPアドレスをソースIPアドレスとし、ターゲットIPアドレスをデスティネーションIPアドレスとするTCPコネクションをリモートストレージ装置5との間で確立し、すでに確立したiSCSIセッションに割り当てる。
最後に、マスタストレージ装置1は、確立したiSCSIセッションを用いて初期コピーを実行する。この初期コピーでは、マスタストレージ装置1は、受信したリモートコピー初期化要求から取り出したイニシエータLUNで識別されるマスタストレージ装置1の論理ユニットに格納されたデータを、受信したリモートコピー初期化要求から取り出したターゲットLUNで識別されるリモートストレージ装置5の論理ユニットに複製する。
尚、本実施形態では、リモートコピー初期化要求に基づいてストレージ管理装置2がマスタストレージ装置1にリモートコピーのタスクやパスの情報の登録とリモートコピーの初期化(初期コピー)及び開始の指示をまとめて行う形態とした。しかし、ストレージ管理装置2は、システム管理者等の情報登録の際に、リモートコピーのタスクやパスの情報のマスタストレージ装置2への送信のみを行い、その後、システム管理者(あるいはホスト4の使用者)からのリモートコピーの開始(又は準備の開始)指示を受け取った際に、ストレージ管理装置2(又はホスト4)が、マスタストレージ装置1へリモートコピーの初期化処理を指示しても良い。この場合、マスタストレージ装置1は、リモートコピーのバスの情報を受け取った際にはその情報をディスク装置103に格納する処理だけを行う。その後、マスタストレージ装置1は、リモートコピーの初期化処理を指示された際に、格納された情報に基づいてセッションの確立、初期化コピー等の処理を行う。
リモートコピー初期化要求に基づく処理の終了後(又はリモートコピー初期化要求の受領後)、マスタストレージ装置1はリモートコピーを開始する。リモートコピー実行中に、ストレージ管理装置2は、リモートコピーで使用されるパスの状態を監視している。
次に、第一の実施形態においてマスタストレージ装置1がリモートコピーを実行している際にネットワーク装置3で輻輳が発生した場合の各装置間の通信シーケンスについて説明する。
図9は、マスタストレージ装置1とリモートストレージ装置5との間でリモートコピーを実行中にネットワーク装置3にて輻輳が発生し、その後輻輳が回復するまでの、装置間での通信シーケンス例を示す図である。
まず、マスタストレージ装置1が、ホスト4からデータ書き込み要求を受信すると、書き込まれたデータをリモートストレージ装置5へ転送する。ここで、マスタストレージ装置1は、リモートコピー初期化処理においてストレージ管理装置2から受信したパスの割合に従って、データ転送に使用するTCPコネクションを選択する。例えば、マスタストレージ装置1が、リモートストレージ装置5との通信に、二つのパスを使用し、かつそれぞれの割合がどちらも50%であった場合、マスタストレージ装置1は、S901のデータ転送を第一のパスに対応するTCPコネクションを用いて実行し、S902のデータ転送を第二のパスに対応するTCPコネクションを用いて実行する(S901、S902)。
その後ネットワーク装置3にて輻輳が発生すると(S903)、そのネットワーク装置3は輻輳発生通知をストレージ管理装置2へ送信する(S904)。
輻輳発生通知を受信したストレージ管理装置2は、パス管理テーブル更新処理および割合計算処理を実行し、変更後のパス間の割合を得る。そして、ストレージ管理装置2は、マスタストレージ装置1へパスの割合変更要求を送信する(S905)。割合変更要求を受信したマスタストレージ装置1は、割合変更要求から変更後のパス間の割合を取り出してディスク装置103に記憶することで変更前のパス間の割合の値を変更後の値に変更した後、割合変更応答をストレージ管理装置2へ送信する(S906)。
その後、マスタストレージ装置1は、変更後のパス間の割合を用いて、リモートストレージ装置5へコピーするデータを転送する。例えば、パス間の割合が75%と25%とに変更されたら、マスタストレージ装置1は、データ転送の際、第一のパスに対応するTCPコネクションを4回に3回の割合で使用し、第二のパスに対応するTCPコネクションを4回に1回の割合で使用する(S907)。
その後、ネットワーク装置3にて発生した輻輳が回復すると(S908)、ネットワーク装置3は輻輳回復通知をストレージ管理装置2へ送信する(S909)。輻輳回復通知を受信したストレージ管理装置2は、パス管理テーブル更新処理および割合計算処理を実行し、変更後のパス間の割合を得る。
そして、ストレージ管理装置2は、マスタストレージ装置1へパスの割合変更要求を送信する(S910)。割合変更要求を受信したマスタストレージ装置1は、パス間の割合を変更した後、割合変更応答をストレージ管理装置2へ送信する(S911)。そして、マスタストレージ装置1は、変更後のパス間の割合を用いて、リモートストレージ装置5へデータを転送する。
第一の実施形態では、ネットワーク装置3は、SNMP(Simple Network Management Protocol) Trapを用いて、輻輳発生通知や輻輳回復通知を、WAN8およびIP−SAN7を介してストレージ管理装置2へ送信することを想定している。ここで、SNMP Trapを用いた輻輳発生通知および輻輳回復通知には、それぞれ輻輳発生および輻輳回復を表すOID(Object Identifier)が含まれる。しかしネットワーク装置3はこれ以外のプロトコルを用いて輻輳の発生等をストレージ管理装置2に通知してもよい。
次に、図9で説明したパス管理テーブル更新処理や割合計算処理の詳細な処理手順について説明する。ここでの処理手順の概略は以下のとおりとなる。まず、ストレージ管理装置2が輻輳の発生したネットワーク装置3に関連するパスを特定する。次に、ストレージ管理装置2は特定されたパスを使用するタスクを選択する。その後、ストレージ管理装置2は、選択されたタスクでパス間の割合変更が必要な場合に変更後の値を計算し、その結果をタスクを実行しているストレージ装置へ割合変更要求として送信する。
図10および図11は、ストレージ管理装置2におけるパス管理テーブル更新処理の動作手順を示すフローチャートである。なお、以下の処理は、CPU204で割合計算プログラム211が実行されることによって実行される。
パス管理テーブル更新処理を開始したストレージ管理装置2は、まず、パス管理テーブル220のエントリ2203に登録された値が受信した輻輳発生通知を送信したネットワーク装置3のIPアドレスと一致するという条件でネットワーク管理テーブル220を検索する。そして、ストレージ管理装置2は、該当するレコードのネットワークID(エントリ2201)を読み出す(S1001)。
次にストレージ管理装置2は、エントリ2223に登録された値がS1001で読み出したネットワークIDと一致するという条件でパス管理テーブル222を検索する。そして、ストレージ管理装置2は、検索条件に合致するするレコードを全て読み出す(S1002)。
次にストレージ管理装置2は、受信した通知から取り出したOIDから、通知された内容が輻輳発生か輻輳回復かを判断する(S1003)。輻輳発生の場合、ストレージ管理装置2はS1002で読み出した全てのレコードの輻輳回数(エントリ2226)の値に1を加算する(S1004)。一方、輻輳回復の場合、ストレージ管理装置2はS1002で読み出した全てのレコードの輻輳回数(エントリ2226)の値から1を減算する(S1005)。
輻輳回数の加減算をした後、ストレージ管理装置2はS1002で読み出した各レコードのタスクID(エントリ2222)を読み出し、タスクIDのリストを作成する。この際、ストレージ管理装置2は重複しているタスクIDをリストから除外する(S1006)。
(ここから図11)次にストレージ管理装置2は、S1006で作成したタスクIDリストの先頭のタスクIDを選択する(S1101)。そしてストレージ管理装置2は、エントリ2211に登録された値がS1101で選択したタスクIDと一致するという条件で、タスク管理テーブル221を検索する。その後ストレージ管理装置2は、検索条件に合致するレコードの割合変更フラグ(エントリ2216)と割合変更率(エントリ2217)とを読み出す(S1102)。
次にストレージ管理装置2は、読み出した割合変更フラグの値が「0」か「1」かを判定する(S1103)。割合変更フラグの値が「1」の場合、ストレージ管理装置2は、エントリ2222に登録された値がS1101で読み出したタスクIDと一致するという条件でパス管理テーブル222を検索する。そしてストレージ管理装置2は、検索条件に合致するレコードを全て読み出し(S1104)、図12で説明する割合計算処理を実行する(S1105) この割合計算処理の結果に基づき、ストレージ管理装置2は、S1104で読み出した各レコードの割合(エントリ2225の値)を更新する(S1106)。S1106の処理の終了後又はS1103で割合変更フラグが「0」と判断された場合、ストレージ管理装置2は、S1102からS1106までの処理をタスクIDリストに含まれる全てのタスクIDについて実行し(S1107、S1108)、パス管理テーブル更新処理を終了する。
図12は、ストレージ管理装置2における割合計算処理の動作手順を示すフローチャートである。なお、以下の処理は、CPU204で割合計算プログラム211が実行されることによって実行される。割合計算処理では、輻輳が発生したパスに割り当てられているパス間の割合を指定された変更率で減少させ、その減少分を他のパスに振り分ける処理を行う。また、全てのパスの輻輳回数が一致した場合(タスクで使用される全てのパスで同じ回数の輻輳が起こった場合に該当する)および全てのパスで輻輳が回復した場合には、割合計算処理ではパス間の割合をデフォルト値に戻す処理が行われる。
まずストレージ管理装置2は、図11のS1104で読み出した全てのレコードの輻輳回数(エントリ2226)の値が一致するか否かを調べる(S1201)。全ての輻輳回数が一致する場合、ストレージ管理装置2は図11のS1104で読み出した全てのレコードのパス間の割合(エントリ2225)をデフォルト割合(エントリ2224)の内容で上書きし(S1202)、割合計算処理を終了する。
一方S1104で読み出した全てのレコードの中に一つでも異なる輻輳回数の値がある場合、ストレージ管理装置2は全てのレコードの中の輻輳回数の最小値を調べる。この結果得た値を最小輻輳回数という(S1203)。次にストレージ管理装置2は、図11のS1104で読み出した各レコードに対応するパスの相対輻輳回数を、以下の式に基づいて計算する(S1204)。
相対輻輳回数=輻輳回数−最小輻輳回数
その後ストレージ管理装置2は、相対輻輳回数が0より大きいパスについて、パス間の割合と差分を以下の式に基づいて計算する(S1205)。ただし、「^」はべき乗演算を表す。
パス間の割合=デフォルト割合×(割合変更率^相対輻輳回数)
差分=パス間の割合−デフォルト割合
またストレージ管理装置2は、相対輻輳回数が0であるパスについて、パス間の割合を以下の式に基づいて計算する(S1206)。
割合の和=相対輻輳回数が0のパスのデフォルト割合の和
パス間の割合=デフォルト割合+S1205で計算した全ての差分の和×デフォルト割合/割合の和
上述の割合等を計算したストレージ管理装置2は、割合計算処理を終了する。
相対輻輳回数=輻輳回数−最小輻輳回数
その後ストレージ管理装置2は、相対輻輳回数が0より大きいパスについて、パス間の割合と差分を以下の式に基づいて計算する(S1205)。ただし、「^」はべき乗演算を表す。
パス間の割合=デフォルト割合×(割合変更率^相対輻輳回数)
差分=パス間の割合−デフォルト割合
またストレージ管理装置2は、相対輻輳回数が0であるパスについて、パス間の割合を以下の式に基づいて計算する(S1206)。
割合の和=相対輻輳回数が0のパスのデフォルト割合の和
パス間の割合=デフォルト割合+S1205で計算した全ての差分の和×デフォルト割合/割合の和
上述の割合等を計算したストレージ管理装置2は、割合計算処理を終了する。
上記の割合計算処理について、例えば、ストレージ装置間で行われる1つのリモートコピータスクで3つのパスが使用されており、かつ第一、第二および第三のパスの割合がそれぞれ40(%)、30(%)および30(%)であり、輻輳時の割合変更率が50(%)の場合を考える。この場合、第一のパス上で輻輳が発生したら、上記の割合計算処理を行うと、第一のパスの割合は20(%)、残りのパスの割合はそれぞれ40(%)となる。
以上で第一の実施形態を説明した。第一の実施形態によると、マスタストレージ装置1がリモートストレージ装置5との間の複数のパスを用いてiSCSIを用いたリモートコピーを実行する際に、あるパス上のネットワーク装置3で輻輳が発生した時、ネットワーク装置3がストレージ管理装置2へ輻輳の発生を通知する。通知されたストレージ管理装置2は、それを契機に輻輳発生の結果として送信レートが低下したパスの使用率(ここでは割合と称している)を下げるよう、マスタストレージ装置1に指示する。これにより、例えばリモートコピー等におけるストレージ装置間のデータ転送のスループット低下を最小限に抑えることができる。
なお、第一の実施形態では、マスタサイト11にあるマスタストレージ装置1と、リモートサイト12にあるリモートストレージ装置5との間のリモートコピーに本発明を適用したが、1つのサイト(例えば、マスタサイト11)にある二つのストレージ装置間のストレージ装置間通信(例えばリモートコピー)にも本発明は適用可能である。この場合、ネットワーク装置3はIP−SAN7を構成する機器となる。
次に、第二の実施形態について第一の実施形態と相違する部分に限って説明する。第一の実施形態では、ネットワーク装置3がストレージ管理装置2にSNMP Trap等のプロトコルを用いて輻輳発生通知と輻輳回復通知とを送信していた。しかし、この通知を行うためにはSNMPの標準仕様に手を加える必要があり、必ずしも全てのネットワーク装置3が実施可能とは限らない。
一方、ネットワーク装置3は一般に、廃棄したパケット数を記憶し外部からの要求に応じてその廃棄パケット数の情報を外部の装置に送信することができる。そこで本実施形態では、ストレージ管理装置2が定期的にネットワーク装置3から廃棄パケット数の情報を読み出し、前回読み出した値と比較して廃棄パケット数が増えていたら輻輳が発生したとみなす。一方、輻輳発生とみなしてから一定期間経過した後、ストレージ管理装置2が廃棄パケット数を読み出し、前回読み出した値と比較して廃棄パケット数が増えていなかったら輻輳が回復したとみなす。これにより、輻輳発生通知および輻輳回復通知を送信できないネットワーク装置3を有するシステムで、輻輳の発生によるパス間の割合の変更を行うようにする。
図13(a)は、第二の実施形態におけるストレージ管理装置2の構成例を示した図である。ストレージ管理装置2のディスク装置203には、第一の実施形態のネットワーク管理テーブル220の代わりにネットワーク管理テーブル223が格納される。ネットワーク管理テーブル223の各レコードは、第一の実施形態で説明した各エントリに加え、ネットワーク装置3がバッファ領域不足のために廃棄したパケット数を表す輻輳廃棄パケット数が登録されるエントリ2204を有する。
ストレージ管理装置2の主メモリ201には、第一の実施形態で説明した輻輳受信プログラム210の代わりに、ネットワーク管理テーブル223に登録された全てのネットワーク装置3から定期的に廃棄パケット数の情報を含む統計データを読み出す際にCPU204で実行される統計データ読出プログラム214が格納される。
図13(b)は、第二の実施形態におけるネットワーク装置3の構成例を示した図である。ネットワーク装置3の主メモリ301には、第一の実施形態で説明した輻輳状態通知プログラム311の代わりに、各種統計データを記憶する統計データ記憶領域313および各種統計データを統計データ記憶領域313に書き込む際にCPU304で実行される統計データ記憶プログラム312が格納される。
統計データ記憶領域313に記憶される統計データには、ネットワーク装置3が受信したパケットのうち廃棄したパケットの総数(以下「廃棄パケット総数」という)、廃棄パケット総数のうちパケットのフォーマットエラーのために廃棄したパケット数(以下「エラー廃棄パケット数」という)および廃棄パケット総数のうちネットワーク装置3が対応できないプロトコルのパケットであったため廃棄したパケット数(以下「プロトコル不正廃棄パケット数」という)が挙げられる。
輻輳廃棄パケット数は以下の式で表される。
輻輳廃棄パケット数=廃棄パケット総数−エラー廃棄パケット数−プロトコル不正廃棄パケット数
本実施形態におけるネットワーク登録処理は、ネットワーク管理テーブル220がネットワーク管理テーブル223に置き換わる点および図8(a)のS802にて、エントリ2204にレコード追加時点での輻輳廃棄パケット数が登録される点を除き、第一の実施形態と同様である。ここで、ストレージ管理装置2は、追加するレコードに対応するネットワーク装置3へ統計データ要求を送信し、廃棄パケット総数、エラー廃棄パケット数およびプロトコル不正廃棄パケット数といった統計データを要求する。そして、ストレージ管理装置2は、ネットワーク装置3から要求された統計データを含む統計データ応答を受信し、その統計データ応答の内容に基づき輻輳廃棄パケット数を計算する。これにより、ストレージ管理装置2は、レコード追加時点での輻輳廃棄パケット数を得る。
輻輳廃棄パケット数=廃棄パケット総数−エラー廃棄パケット数−プロトコル不正廃棄パケット数
本実施形態におけるネットワーク登録処理は、ネットワーク管理テーブル220がネットワーク管理テーブル223に置き換わる点および図8(a)のS802にて、エントリ2204にレコード追加時点での輻輳廃棄パケット数が登録される点を除き、第一の実施形態と同様である。ここで、ストレージ管理装置2は、追加するレコードに対応するネットワーク装置3へ統計データ要求を送信し、廃棄パケット総数、エラー廃棄パケット数およびプロトコル不正廃棄パケット数といった統計データを要求する。そして、ストレージ管理装置2は、ネットワーク装置3から要求された統計データを含む統計データ応答を受信し、その統計データ応答の内容に基づき輻輳廃棄パケット数を計算する。これにより、ストレージ管理装置2は、レコード追加時点での輻輳廃棄パケット数を得る。
図14は、第二の実施形態におけるシステム内の各装置間の通信シーケンス例を示す図である。第一の実施形態と同様、マスタストレージ装置1はストレージ管理装置2からの情報に基づいてリモートコピーを行っているとする。まず、マスタストレージ装置1が、デフォルトのパス間の割合に従って、リモートストレージ装置5へコピーするデータの転送を行う(S1401、S1402)。ストレージ管理装置2は、定期的にネットワーク装置3に対して統計データ要求を送信し、廃棄パケット総数、エラー廃棄パケット数およびプロトコル不正廃棄パケット数といった統計データを要求する(S1403)。
統計データ要求を受信したネットワーク装置3は、要求された統計データを含む統計データ応答を送信する(S1404)。統計データ応答を受信したストレージ管理装置2は、統計データ応答の内容に基づき輻輳廃棄パケット数を計算し、ネットワーク管理テーブル223の当該ネットワーク装置3に対応するレコードのエントリ2204に登録された値と比較する。これらの値が一致した場合、ストレージ管理装置2は、そのネットワーク装置3で輻輳は発生していないとみなす。本シーケンスでは、この時点ではこれらの値が一致したとする。
その後ネットワーク装置3で輻輳が発生するとする(S1405)。ストレージ管理装置2は輻輳発生後の所定のタイミング(又は一定間隔)で統計データ要求を送信し(S1406)、統計データ応答を受信する(S1407)。その後、ストレージ管理装置2は、統計データ応答の内容に基づき輻輳廃棄パケット数を計算し、ネットワーク管理テーブル223の当該ネットワーク装置3に対応するレコードのエントリ2204に登録された値と比較する。この時、輻輳が既に発生しているので、輻輳廃棄パケット数がエントリ2204に登録された値を上回る。
この場合、ストレージ管理装置2は、そのネットワーク装置3に輻輳が発生したとみなし、ネットワーク管理テーブル223の当該レコードのエントリ2204に輻輳廃棄パケット数を書き込む。更にストレージ管理装置2は、図10、図11および図12で説明したパス管理テーブル更新処理および割合計算処理を行う。その結果、パスの変更後の割合を得たストレージ管理装置2は、マスタストレージ装置1へパスの割合変更要求を送信し(S1408)、割合変更応答を受信する(S1409)。その後、マスタストレージ装置1は変更後のパス間の割合を用いて、リモートストレージ装置5へコピーするデータを送信する(S1410)。
その後、ネットワーク装置3にて発生していた輻輳が回復するとする(S1411)。所定のタイミング(例えば定期的に)でストレージ管理装置2が統計データ要求を送信し(S1412)、統計データ応答を受信する(S1413)。統計データ応答を受信したストレージ管理装置2は、統計データ応答の内容に基づき輻輳廃棄パケット数を計算し、ネットワーク管理テーブル223の当該ネットワーク装置に対応するレコードのエントリ2204に登録された値と比較する。この場合、既に輻輳が回復しているので、これらの値が一致する。この場合輻輳が回復したとみなし、ストレージ管理装置2は、図10、図11および図12で説明したパス管理テーブル更新処理、割合計算処理を行う。この処理の結果パスの変更後のパス間の割合を得たストレージ管理装置2は、マスタストレージ装置1へパスの割合変更要求を送信し(S1414)、割合変更応答を受信する(S1415)。
なお、上記の通信シーケンス例では、ストレージ管理装置2がS1407で統計データ応答を受信し輻輳が発生したとみなした後、S1413で統計データ応答を受信し輻輳廃棄パケット数とエントリ2204に登録された値とを比較して一致した時に輻輳が回復したとみなしたが、輻輳廃棄パケット数とエントリ2204に登録された値とが連続して何回一致すれば、輻輳が回復したとみなすか、についてはシステム管理者等が任意に設定できるようにしてもよい。この回数は、例えば、WAN8で輻輳が発生してから回復するまでの平均時間を、ストレージ管理装置2が統計データ要求を送信する間隔で割った結果を切り上げた値とすればよい。
以上で第二の実施形態を説明した。第二の実施形態によると、ストレージ管理装置2が定期的にネットワーク装置3から廃棄パケットに関する統計データを読み出して輻輳発生や輻輳回復を判断することにより、割合の変更の指示等を第一の実施形態と同様に行うことができる。
次に、第三の実施形態を第一の実施形態と相違する部分に限って説明する。第三の実施形態では、ネットワーク装置3は、ECN(Explicit Congestion Notification)というRFC3168で規定された標準仕様を用いて、マスタストレージ装置1に輻輳発生と輻輳回復とを直接通知する。従って、第一および第二の実施形態と比較して、ストレージ管理装置2と各装置間での通信量が削減されるという利点がある。なおネットワーク装置3とマスタストレージ装置1との間で使用される通信の仕様はECNに限る必要は無い。
図15(a)は、第三の実施形態におけるマスタストレージ装置1の構成例を示した図である。マスタストレージ装置1の主メモリ101には、第一の実施形態で説明した割合変更要求受信プログラム111の代わりに、ストレージ管理装置2からシステム管理者等が入力した設定内容を受信した際にCPU104で実行される設定受信プログラム113、ネットワーク装置3からECNによる輻輳通知や輻輳回復を受信した際にCPU104で実行される輻輳受信プログラム114およびパス間の負荷分散の割合を計算する際にCPU104で実行される割合計算プログラム115が格納される。
また、ディスク装置103には、タスク管理テーブル221およびパス管理テーブル222が格納される。つまり、第一および第二の実施形態においてストレージ管理装置2で行われていた割合計算等の処理がマスタストレージ装置1にて行われることになる。
図15(b)は、第三の実施形態におけるストレージ管理装置2の構成例を示した図である。本実施形態においては、ストレージ管理装置2は単なる設定情報の入力端末に過ぎない。従って、ストレージ管理装置2の主メモリ201には、GUI制御プログラム213およびシステム管理者等が入力した設定内容をマスタストレージ装置1へ送信する際にCPU204で実行される設定送信プログラム215が格納される。ディスク装置203には、本発明に関わるいずれのテーブルも格納されない。
第三の実施形態では、システム管理者等がディスプレイ205に表示されたリモートコピータスク登録画面700上で、文字入力装置207およびポインティング装置206を用いて各パラメータを設定する。その後、システム管理者等がボタン716、ボタン717あるいはボタン728を指定すると、設定送信プログラム215がCPU204で実行され、設定内容がマスタストレージ装置1に送信される。なお、第三の実施形態では、リモートコピータスク登録画面700の領域708およびボタン709は不要である。
一方、設定内容を受信したマスタストレージ装置1は、設定受信プログラム113をCPU104で実行し、ストレージ管理装置2から受信した設定内容に基づき、タスク管理テーブル221およびパス管理テーブル222にレコードを登録あるいはテーブルからレコードを削除する。登録されるレコードの内容は、パス管理テーブル222のエントリ2223には何も登録されない点を除き、図8(b)および(c)で説明したそれぞれパス登録処理およびリモートコピータスク登録処理と同様である。なお、第三の実施形態ではネットワーク装置3をストレージ管理装置2で管理する必要が無いため、ネットワーク登録画面600は不要である。
図16は、第三の実施形態における各装置間の通信シーケンス例を示す図である。ここでは、マスタストレージ装置1からリモートストレージ装置5へリモートコピーが実施されているとする。尚、リモートコピーの初期化要求や開始指示等は第一の実施形態と同じである。又、第三の実施形態で使用するECNはTCPの拡張仕様であるため、図16には、TCPレイヤの通信まで記す。
まず、マスタストレージ装置1が、デフォルトのパス間の割合に従って、リモートストレージ装置5へコピーするデータを含むパケットを送信する(S1601)。なお、マスタストレージ装置1は、ECNを用いることを示すために、S1601で送信するパケットのIPヘッダのECT(ECN Capable Transport)フラグをONにする。以降、第三の実施形態において、マスタストレージ装置1およびリモートストレージ装置5は、送信する全てのパケットのIPヘッダのECTフラグを、同様にONにする。
ネットワーク装置3は、パケットを受信すると、それをそのままリモートストレージ装置5へ転送する。パケットを受信したリモートストレージ装置5は、受信確認応答(以下「ACK」という)をマスタストレージ装置1へ送信する(S1602)。ネットワーク装置3は、ACKを受信すると、そのままACKをマスタストレージ装置1へ転送する。
その後、ネットワーク装置3にて輻輳が発生した場合(S1603)、マスタストレージ装置1がリモートストレージ装置5へコピーするデータを含むパケットを送信すると(S1604)、そのパケットを受信したネットワーク装置3は、受信したパケットのIPヘッダのECTフラグがONであることを確認し、そのパケットのCE(Congestion Experienced)フラグをONにした上で、そのパケットをリモートストレージ装置5へ転送する。ここで、CEフラグとは、ネットワーク装置3が輻輳の有無をエンドポイントに伝えるためのIPヘッダのフラグであり、RFC3168で規定されている(S1605)。
CEフラグがONになったパケットを受信したリモートストレージ装置5は、ECE(ECN Echo)フラグをONにしたACKをマスタストレージ装置1へ送信する。ここで、ECEフラグとは、TCP/IP通信を行うエンドポイント間で輻輳の有無に関する情報を交換するためのTCPヘッダのフラグであり、RFC3168で規定されている(S1606)。ネットワーク装置3は、そのACKをマスタストレージ装置1へ転送する。
TCPヘッダのECEフラグがONになったACKを受信したマスタストレージ装置1は、WAN8内で輻輳が発生したとみなし、図17で説明するパス管理テーブル更新処理および図12で説明した割合計算処理を実行する。その結果パスの変更後の割合を得たマスタストレージ装置1は、パス間の割合を変更した上で、リモートストレージ装置5へ、コピーするデータを含むパケットを送信する(S1607)。
この際、マスタストレージ装置1は、S1607で送信するパケットのTCPヘッダのCWR(Congestion Window Reduced)フラグをONにする。ここで、CWRフラグとは、TCP/IP通信を行うエンドポイント間で輻輳への対策を実行したことを伝えるためのTCPヘッダのフラグであり、RFC3168で規定されている。
このパケットを受信したネットワーク装置3は、まだ輻輳が継続しているため、CEフラグをONにしてパケットをリモートストレージ装置5へ転送する(S1608)。リモートストレージ装置5が、CWRフラグ及びCEフラグとがONであるパケットを受信すると、S1606と同様に、ECEフラグをONにしたACKをマスタストレージ装置1に送信する(S1609)。
その後、ネットワーク装置3にて発生していた輻輳が回復し(S1610)、マスタストレージ装置1がリモートストレージ装置5へコピーするデータを含むパケット送信すると(S1611)、そのパケットを受信したネットワーク装置3は、CEフラグをOFFのまま、そのパケットをリモートストレージ装置5へ転送する(S1612)。
リモートストレージ装置5は、CEフラグがOFFのパケットを受信すると、ECEフラグがOFFのACKをマスタストレージ装置1へ送信する(S1613)。ECEフラグがOFFのACKを受信したマスタストレージ装置1は、WAN8の輻輳が回復したとみなし、図17で説明するパス管理テーブル更新処理および図12で説明した割合計算処理を実行する。その結果、マスタストレージ装置1は、パス間の割合を元に戻してデータ転送を行う。
図17は、第三の実施形態におけるマスタストレージ装置1のパス管理テーブル更新処理の動作手順を示すフローチャートである。なお、以下の処理は、CPU104で割合計算プログラム115が実行されることによって実行される。
マスタストレージ装置1は、まずエントリ2227に登録された値が受信したパケットの宛先(デスティネーション)IPアドレスに一致し、かつエントリ2228に登録された値が受信したパケットのソースIPアドレスに一致するという条件でパス管理テーブル222を検索し、検索条件に該当するレコードを読み出す。ここで、受信したパケットの宛先IPアドレスはマスタストレージ装置1のIPアドレスであり、ソースIPアドレスはリモートストレージ装置5のIPアドレスである(S1701)。
次に、マスタストレージ装置1は、受信したパケットの内容が輻輳発生を示すか輻輳回復を示すかを判定する。具体的には、受信したパケットのTCPヘッダのECEフラグがONであれば輻輳発生を示し、あるいはOFFであれば輻輳回復であると判定する(S1702)。輻輳発生の場合、マスタストレージ装置1は、S1701で読み出したレコードの輻輳回数(エントリ2226)の値に1加算する(S1703)。一方輻輳回復の場合、マスタストレージ装置1は、S1701で読み出したレコードの輻輳回数(エントリ2226)の値から1減算する(S1704)。
輻輳回数の加減算の後、マスタストレージ装置1は、当該レコードからタスクID(エントリ2222)を読み出す(S1705)。その後、マスタストレージ装置1は、エントリ2211に登録された値がS1705で読み出したタスクIDと一致するという条件でタスク管理テーブル221を検索し、検索条件に合致するレコードの割合変更フラグ(エントリ2216)と割合変更率(エントリ2217)とを読み出す(S1706)。
次に、マスタストレージ装置1は、読み出した割合変更フラグの値が「0」か「1」かを判定する(S1707)。割合変更フラグが「0」の場合、マスタストレージ装置1は、パス管理テーブル更新処理を終了する。一方、割合変更フラグが「1」の場合、マスタストレージ装置1は、エントリ2222に登録された値がS1705で読み出したタスクIDと一致するという条件でパス管理テーブル222を検索し、検索条件に合致したレコードを全て読み出す(S1708)。
その後、マスタストレージ装置1は、図12で説明した割合計算処理を実行する(S1709)。この割合計算処理の結果に基づき、マスタストレージ装置1はS1708で読み出した各レコードの割合(エントリ2225)の値を更新し(S1710)、パス管理テーブル更新処理を終了する。
以上で第三の実施形態を説明した。第三の実施形態によると、ネットワーク装置3がマスタストレージ装置1へ輻輳発生と輻輳回復とを直接通知することにより、第一の実施形態と比較してストレージ管理装置2のCPU負荷やストレージ管理装置2と他の装置との間のトラフィック量の増大を防止できる。
次に、第四の実施形態を第三の実施形態と相違する部分に限って説明する。第三の実施形態では、ネットワーク装置3が、ECNを用いてマスタストレージ装置1へ輻輳発生と輻輳回復とを通知する。本実施形態では、マスタストレージ装置1自体が輻輳発生や輻輳回復を検出する構成とする。
第四の実施形態では、マスタストレージ装置1が、リモートコピーに使用するTCPコネクションにおいてリモートストレージ装置5から送信されるACKがタイムアウト、すなわち一定期間経過しても返ってこない場合や、同じシーケンス番号を持つACKを3つ以上受信した場合に輻輳発生とみなす。これらの動作は、それぞれRFC793およびRFC2581が規定するTCPの仕様に基づいている。
マスタストレージ装置1は、上記の動作により輻輳発生を検出した場合、図10、図11および図12で説明したパス管理テーブル更新処理および割合計算処理を行い、その結果得た変更後のパス間の割合を用いて、リモートコピーを実行する。
一方、どのような契機を用いて輻輳回復とみなすかは、RFCで規定されていない。そこで、第四の実施形態では、例えば、輻輳発生からあらかじめシステム管理者等が設定した時間が経過した時に輻輳回復とみなすこととする。あるいは、TCPコネクションの輻輳ウィンドウサイズがあらかじめシステム管理者等が設定したサイズを超過した時に輻輳回復とみなしてもよい。マスタストレージ装置1は、上記の動作により輻輳回復を検出した場合、図10、図11および図12で説明したパス管理テーブル更新処理および割合計算処理を行い、その結果得た変更後のパス間の割合を用いて、リモートコピーを実行する。
以上で、第四の実施形態を説明した。第四の実施形態によると、マスタストレージ装置1が、自律的に輻輳発生および輻輳回復を検出することにより、ネットワーク装置3に依存せずにパス間の割合を変更することができる。
次に、第五の実施形態を第一の実施形態と相違する部分に限って説明する。第五の実施形態は、ホストストレージ装置間通信、すなわちホストとストレージ装置との間で実行されるデータの読み出しや書き込み(以下「ホストI/O」ともいう)に本発明を適用したシステムに関する。第五の実施形態では、ホストが、ストレージ装置と1つ以上のTCPコネクションから成る1つのiSCSIセッションを確立してホストI/Oを実行するものとする。TCPコネクションを用いて送信されるパケットが通る経路がパスに相当する。
図18は、第五の実施形態のシステム構成例を示した図である。システムは、データを記憶するストレージ装置15、ストレージ装置15からデータを読み出したり、データを書き込むホスト16、端末6、ストレージ管理装置2、ホスト16とストレージ装置15とを接続するネットワーク装置3を有するIP−SAN7、端末6とホスト16とを接続するLAN9、ホスト16、ストレージ装置15並びにストレージ管理装置2およびネットワーク装置3とを接続する管理用ネットワーク13を有する。
また、ホスト16およびストレージ装置15とIP−SAN7とは、通信線10で接続されている。同様に、端末6およびホスト16とLAN9とは、通信線10で接続されている。さらに、ホスト16、ストレージ装置15、ストレージ管理装置2およびネットワーク装置3と管理用ネットワーク13とは、通信線14で接続されている。なお、第一の実施形態でも述べた通り、IP−SAN7はLAN9を兼ねても良い。
図19はホスト16の構成例を示した図である。ホスト16は、主メモリ601、通信線602、ディスク装置603、CPU604、ディスプレイ605、ポインティング装置606、文字入力装置607および複数のNIF608を有する。1つの以上のNIF608は通信線14経由で管理用ネットワーク13に、残りの1つ以上のNIF608は通信線10経由でIP−SAN7に接続される。
主メモリ601には、ストレージ管理装置2から割合変更要求を受信する際にCPU604で実行される割合変更要求受信プログラム610およびストレージ装置15からデータを読み出したり、データを書き込む時に使用するパスを決定する際にCPU604で実行されるマルチパス制御プログラム611が格納される。
ストレージ装置15は、単体の記憶装置又は複数の記憶装置を有する記憶装置システムである。
ストレージ管理装置2およびネットワーク装置3の構成は第一の実施形態と同様である。また、端末6は一般的な計算機であり、CPU、主メモリ、入出力装置および他の装置と通信線10を介して接続するためのNIF等を有する。
ストレージ管理装置2およびネットワーク装置3の構成は第一の実施形態と同様である。また、端末6は一般的な計算機であり、CPU、主メモリ、入出力装置および他の装置と通信線10を介して接続するためのNIF等を有する。
第五の実施形態における各種テーブルのデータ構造、GUIおよびGUI操作で各種情報が登録される際のストレージ管理装置2の処理は第一の実施形態と同様である。
第五の実施形態における各装置間の通信シーケンスは、マスタストレージ装置1がホスト16に置き換わる点、リモートストレージ装置5がストレージ装置15に置き換わる点とを除き、第一の実施形態と同様である。
つまり、マスタストレージ装置1に代わってホスト16がストレージ管理装置2からパスの割合変更要求を受けて割合の変更を行うこととなる。
第五の実施形態におけるパス管理テーブル更新処理および割合計算処理の動作手順は、第一の実施形態と同様である。
以上で、第五の実施形態を説明した。第五の実施形態によると、ホスト16が、ストレージ装置15との間の複数のパスを用いてiSCSIプロトコルに基づいたホストI/Oを実行するシステムにおいて、あるパス上のネットワーク装置3で輻輳が発生した時、ネットワーク装置3、ストレージ管理装置2およびホスト16とが輻輳の情報をやり取りすることで、輻輳発生の結果送信レートが低下したパスの負荷分散の割合を下げることができる。これにより、第一の実施形態と同様に、通信に係るスループット低下を最小限に抑えることができる。
次に、第六の実施形態について第五の実施形態と相違する部分に限って説明する。第六の実施形態では、第二の実施形態と同様に、ストレージ管理装置2が定期的にネットワーク装置3から廃棄パケット数を読み出すことで、輻輳発生および輻輳回復を検出する。
第六の実施形態におけるストレージ管理装置2およびネットワーク装置3の構成は、第二の実施形態と同様である。
第六の実施形態における各装置間の通信シーケンスは、マスタストレージ装置1がホスト16に置き換わる点、リモートストレージ装置5がストレージ装置15に置き換わる点とを除き、第二の実施形態と同様である。
以上で、第六の実施形態を説明した。第六の実施形態によると、ホスト16が、ストレージ装置15との間の複数のパスを用いてiSCSIプロトコルに基づいたデータの書き込みや読み出しを実行するシステムにおいて、あるパス上のネットワーク装置3で輻輳が発生した時、ストレージ管理装置2から割合変更要求を受けたホストが輻輳発生の結果送信レートが低下したパスの割合を下げることができる。これにより、第一の実施形態と同様に、輻輳発生通知および輻輳回復通知を送信する機能を持たないネットワーク装置3を有するシステムでも、通信に係るスループット低下を最小限に抑えることができる。
次に、第七の実施形態を第五の実施形態と相違する部分に限って説明する。第七の実施形態では、第三の実施形態と同様に、ネットワーク装置3がECN等を用いてホスト16に輻輳発生および輻輳回復を通知する。
第七の実施形態におけるホスト16の構成は、主メモリ601に、設定受信プログラム612、輻輳受信プログラム613および割合計算プログラム614が格納される点およびディスク装置603に、タスク管理テーブル221およびパス管理テーブル222が格納される点以外は、第五の実施形態と同様である。
第七の実施形態におけるストレージ管理装置2の構成は、第三の実施形態と同様である。
第七の実施形態では、第三の実施形態と同様に、システム管理者等がリモートコピータスク登録画面700上で設定した各パラメータを、CPU204で実行される設定送信プログラム215がホスト16へ送信する。そしてホスト16のCPU604で実行される設定受信プログラム612が前記パラメータを受信し、その内容を各種テーブルのレコードに登録する。
第七の実施形態における各装置間の通信シーケンスは、マスタストレージ装置1がホスト16に置き換わる点、リモートストレージ装置5がストレージ装置15に置き換わる点とを除き、第三の実施形態と同様である。
第七の実施形態におけるホスト16のパス管理テーブル更新処理の動作手順は、第三の実施形態と同様である。
以上で、本発明の第七の実施形態を説明した。第七の実施形態によると、ネットワーク装置3が、ホスト16へECN等を用いて輻輳発生や輻輳回復を直接通知することにより、ストレージ管理装置2の機能が制限された装置を有するシステムでも、通信に係るスループット低下を最小限に抑えることができる。
次に、第八の実施形態を第七の実施形態と相違する部分に限って説明する。第八の実施形態では、第四の実施形態と同様に、ホスト16自体が輻輳の発生や輻輳の回復を検出する。
第八の実施形態では、第四の実施形態と同様に、ホスト16が、データの読み出し又は書き込みに使用するTCPコネクションにおいてACKがタイムアウトした場合や、同じシーケンス番号を持つACKを3つ以上受信した場合に、輻輳発生とみなす。
一方、輻輳発生からあらかじめシステム管理者等が設定した時間が経過した時あるいはTCPコネクションの輻輳ウィンドウサイズが、あらかじめシステム管理者等が設定したサイズを超過した時に輻輳回復とみなす。
以上で、本発明の第八の実施形態を説明した。第八の実施形態によると、ホスト16が自律的に輻輳発生および輻輳回復を検出することにより、ネットワーク装置3に依存せず通信に係るスループット低下を最小限に抑えることができる。
1…マスタストレージ装置、2…ストレージ管理装置、3…ネットワーク装置、4…ホスト、5…リモートストレージ装置、6…端末、7…IP−SAN、8…WAN、9…LAN、10…通信線、11…マスタサイト、12…リモートサイト、13…管理用ネットワーク、14…通信線、15…ストレージ装置、16…ホスト。
Claims (19)
- 第一の装置と、
第二の装置と、
前記第一の装置と前記第二の装置とを接続する複数のパスと、
前記第一の装置と接続される第三の装置とを有し、
前記第一の装置は、所定の割合で前記複数のパスを使用して前記第二の装置へデータを転送し、
前記第三の装置は、前記複数のパスの輻輳を検出して前記第一の装置へ通知し、
前記第一の装置は、前記通知に基づいて、前記所定のパス間の割合を変更して前記複数のパスを使用して前記第二の装置へデータを転送することを特徴とするシステム。 - 前記第一の装置及び前記第二の装置はストレージ装置であることを特徴とする請求項1記載のシステム。
- 前記第一の装置は計算機であり、前記第二の装置はストレージ装置であることを特徴とする請求項1記載のシステム。
- 前記複数のパスの各々は前記第一の装置と前記第二の装置とを接続するためのネットワーク装置を有し、
前記第三の装置は、前記ネットワーク装置とネットワークを介して接続されており、
前記第三の装置は、前記ネットワーク装置から前記ネットワークを介して前記ネットワーク装置での輻輳の発生の通知を受け取ることを特徴とする請求項2及び3のうちいずれか一つに記載のシステム。 - 前記通知とは、SNMP Trapに基づく通知であることを特徴とする請求項4記載のシステム。
- 前記複数のパスの各々は前記第一の装置と前記第二の装置とを接続するためのネットワーク装置を有し、
前記第三の装置は、前記ネットワーク装置とネットワークを介して接続されており、
前記第三の装置は、前記ネットワーク装置から前記ネットワークを介して前記ネットワーク装置での廃棄パケットに関する情報を受け取り、前記廃棄パケットの情報に基づいて前記複数のパスの輻輳を判断することを特徴とする請求項2及び3のうちいずれか一つに記載のシステム。 - 前記第三の装置は、前記ネットワーク装置から受信する廃棄パケット数が、以前受信した廃棄パケット数を上回る場合に前記ネットワーク装置を有する前記複数のパスに輻輳が発生したと判断することを特徴とする請求項6記載のシステム。
- 前記第三の装置は、前記所定の割合及び前記所定の割合の変更率に関する情報を有し、前記複数のパスの輻輳を検出した場合、変更後の前記所定のパス間の割合を前記変更率に基づいて計算して、前記第一の装置に前記変更後の所定の割合の情報を送信し、
前記第一の装置は、受信した前記変更後の所定のパス間の割合に基づいて、前記複数のパスを用いて前記第二の装置へデータを転送することを特徴とする請求項1記載のシステム。 - 前記第三の装置は、前記複数のパスの輻輳からの回復を検知し、前記所定のパス間の割合の情報を前記第一の装置に送信し、
前記第一の装置は、受信した前記所定のパス間の割合に基づいて、前記複数のパスを用いて前記第二の装置へデータを転送することを特徴とする請求項8記載のシステム。 - 第一の装置と、
第二の装置と、
前記第一の装置と前記第二の装置とを接続する複数のパスとを有し、
前記第一の装置は、所定の割合で前記複数のパスを使用して前記第二の装置へデータを転送し、
前記第一の装置は、前記複数のパスの輻輳を検出し、
前記第一の装置は、前記複数のパスの輻輳の検出に応じて、前記所定のパス間の割合を変更して前記複数のパスを使用して前記第二の装置へデータを転送することを特徴とするシステム。 - 前記第一の装置及び前記第二の装置はストレージ装置であることを特徴とする請求項10記載のシステム。
- 前記第一の装置は計算機、前記第二の装置はストレージ装置であることを特徴とする請求項10記載のシステム。
- 前記複数のパスの各々は前記第一の装置と前記第二の装置とを接続するためのネットワーク装置を有し、
前記第一の装置は、前記ネットワーク装置から前記複数のパスを介して前記ネットワーク装置での輻輳の発生の通知を受け取ることを特徴とする請求項11及び12のうちいずれか一つに記載のシステム。 - 前記通知とは、ECNに基づくフラグであることを特徴とする請求項13記載のシステム。
- 前記第一の装置は、前記第二の装置から所定の期間応答が帰ってこない場合に前記複数のパスに輻輳が発生したと判断することを特徴とする請求項11及び12のうちいずれか一つに記載のシステム。
- 前記第一の装置は、前記第二の装置へ送信したデータの受信確認応答を重複して受信した場合に、前記複数のパスに輻輳が発生したと判断することを特徴とする請求項11及び12のうちいずれか一つに記載のシステム。
- 前記第一の装置は、前記所定の割合及び前記所定の割合の変更率に関する情報を有し、前記複数のパスの輻輳を検出した場合、変更後の前記所定のパス間の割合を前記変更率に基づいて計算し、前記変更後の所定のパス間の割合に基づいて、前記複数のパスを用いて前記第二の装置へデータを転送することを特徴とする請求項10記載のシステム。
- 前記第一の装置は、輻輳発生後、輻輳が発生した前記複数のパスに送信できるデータサイズがあらかじめ設定された値を超過したときに、輻輳が回復したと判断することを特徴とする請求項17記載のシステム。
- 制御部と、
前記制御部に接続されるディスク装置と、
ネットワークに接続されるインターフェースとを有し、
前記インターフェースは、前記ネットワーク内の複数のパスで他の装置と接続され、
前記制御部は所定のパス間の割合で前記複数のパスを用いて前記他の装置に前記ディスク装置に格納されたデータをパケットにして送信し、
前記制御部は、前記他の装置に送信したパケットに対する受領報告が一定期間受信されない場合に、前記複数のパスに輻輳が発生したと判断し、
前記制御部は、前記輻輳の発生に応じて、前記所定のパス間の割合を変更し、前記変更されたパス間の割合で前記他の装置へのパケット転送を行うことを特徴とするストレージ装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004022463A JP2005217815A (ja) | 2004-01-30 | 2004-01-30 | パス制御方法 |
US10/801,720 US7380019B2 (en) | 2004-01-30 | 2004-03-17 | Path control method |
EP04013159A EP1560375A1 (en) | 2004-01-30 | 2004-06-03 | Rate adaptation methods and devices in presence of network congestion. |
US10/894,059 US7421511B2 (en) | 2004-01-30 | 2004-07-20 | Path control method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004022463A JP2005217815A (ja) | 2004-01-30 | 2004-01-30 | パス制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005217815A true JP2005217815A (ja) | 2005-08-11 |
Family
ID=34650834
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004022463A Pending JP2005217815A (ja) | 2004-01-30 | 2004-01-30 | パス制御方法 |
Country Status (3)
Country | Link |
---|---|
US (2) | US7380019B2 (ja) |
EP (1) | EP1560375A1 (ja) |
JP (1) | JP2005217815A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010537267A (ja) * | 2007-08-16 | 2010-12-02 | インターナショナル・ビジネス・マシーンズ・コーポレーション | ストレージ・コントローラと複製エンジンとの間で書き込みを分割する方法、システムおよびプログラム |
WO2014049718A1 (ja) * | 2012-09-26 | 2014-04-03 | 株式会社日立製作所 | 管理装置及び管理方法 |
WO2014061529A1 (ja) * | 2012-10-15 | 2014-04-24 | 三菱電機株式会社 | 情報処理装置及び情報処理方法及びプログラム |
JP2014096674A (ja) * | 2012-11-08 | 2014-05-22 | Hitachi High-Technologies Corp | ネットワーク装置、ネットワーク装置の制御方法及びネットワークシステム |
Families Citing this family (66)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU2003270482A1 (en) | 2002-09-09 | 2004-03-29 | Commvault Systems, Inc. | Dynamic storage device pooling in a computer system |
WO2004090788A2 (en) * | 2003-04-03 | 2004-10-21 | Commvault Systems, Inc. | System and method for dynamically performing storage operations in a computer network |
JP2005267167A (ja) * | 2004-03-18 | 2005-09-29 | Hitachi Ltd | 負荷分散方法およびシステム |
US8266406B2 (en) | 2004-04-30 | 2012-09-11 | Commvault Systems, Inc. | System and method for allocation of organizational resources |
US7343453B2 (en) | 2004-04-30 | 2008-03-11 | Commvault Systems, Inc. | Hierarchical systems and methods for providing a unified view of storage information |
US9584406B2 (en) * | 2004-09-08 | 2017-02-28 | Cradlepoint, Inc. | Data path switching |
JP2006127201A (ja) * | 2004-10-29 | 2006-05-18 | Hitachi Ltd | ストレージシステムおよび導通確認方法 |
US20060224846A1 (en) | 2004-11-05 | 2006-10-05 | Amarendran Arun P | System and method to support single instance storage operations |
US20070130344A1 (en) * | 2005-11-14 | 2007-06-07 | Pepper Timothy C | Using load balancing to assign paths to hosts in a network |
US7707178B2 (en) | 2005-11-28 | 2010-04-27 | Commvault Systems, Inc. | Systems and methods for classifying and transferring information in a storage network |
US20110010518A1 (en) | 2005-12-19 | 2011-01-13 | Srinivas Kavuri | Systems and Methods for Migrating Components in a Hierarchical Storage Network |
AU2006331932B2 (en) | 2005-12-19 | 2012-09-06 | Commvault Systems, Inc. | Systems and methods for performing data replication |
US7606844B2 (en) | 2005-12-19 | 2009-10-20 | Commvault Systems, Inc. | System and method for performing replication copy storage operations |
US20200257596A1 (en) | 2005-12-19 | 2020-08-13 | Commvault Systems, Inc. | Systems and methods of unified reconstruction in storage systems |
US8930496B2 (en) | 2005-12-19 | 2015-01-06 | Commvault Systems, Inc. | Systems and methods of unified reconstruction in storage systems |
US8572330B2 (en) * | 2005-12-19 | 2013-10-29 | Commvault Systems, Inc. | Systems and methods for granular resource management in a storage network |
US7651593B2 (en) | 2005-12-19 | 2010-01-26 | Commvault Systems, Inc. | Systems and methods for performing data replication |
US8661216B2 (en) | 2005-12-19 | 2014-02-25 | Commvault Systems, Inc. | Systems and methods for migrating components in a hierarchical storage network |
US8055725B2 (en) * | 2006-01-12 | 2011-11-08 | International Business Machines Corporation | Method, apparatus and program product for remotely restoring a non-responsive computing system |
JP4353208B2 (ja) * | 2006-06-27 | 2009-10-28 | 日本電気株式会社 | ストレージサブシステム、ストレージシステム、負荷分散方法、負荷分散プログラム |
US8726242B2 (en) | 2006-07-27 | 2014-05-13 | Commvault Systems, Inc. | Systems and methods for continuous data replication |
JP2008059315A (ja) * | 2006-08-31 | 2008-03-13 | Hitachi Ltd | 負荷分散方法及び計算機システム |
US8677091B2 (en) * | 2006-12-18 | 2014-03-18 | Commvault Systems, Inc. | Writing data and storage system specific metadata to network attached storage device |
JP4810457B2 (ja) * | 2007-02-15 | 2011-11-09 | 富士通株式会社 | ゲートウェイ装置 |
JP2009272874A (ja) * | 2008-05-07 | 2009-11-19 | Sony Corp | 通信装置、通信方法、プログラム、および通信システム |
US8171164B2 (en) * | 2008-10-31 | 2012-05-01 | International Business Machines Corporation | Target routing by initiator |
US9178842B2 (en) * | 2008-11-05 | 2015-11-03 | Commvault Systems, Inc. | Systems and methods for monitoring messaging applications for compliance with a policy |
JP4764915B2 (ja) * | 2008-12-08 | 2011-09-07 | 株式会社日立製作所 | 性能管理システム、情報処理システム、及び性能管理システムにおける情報収集方法 |
US9495382B2 (en) | 2008-12-10 | 2016-11-15 | Commvault Systems, Inc. | Systems and methods for performing discrete data replication |
US8204859B2 (en) | 2008-12-10 | 2012-06-19 | Commvault Systems, Inc. | Systems and methods for managing replicated database data |
US8122151B2 (en) * | 2008-12-26 | 2012-02-21 | Hitachi, Ltd. | Storage system for optimally controlling a plurality of data transfer paths and method therefor |
EP2211502A1 (en) | 2009-01-22 | 2010-07-28 | IBBT vzw | Management system and method for configuring a network for transferring media data |
US8504517B2 (en) | 2010-03-29 | 2013-08-06 | Commvault Systems, Inc. | Systems and methods for selective data replication |
US8504515B2 (en) | 2010-03-30 | 2013-08-06 | Commvault Systems, Inc. | Stubbing systems and methods in a data replication environment |
US8725698B2 (en) | 2010-03-30 | 2014-05-13 | Commvault Systems, Inc. | Stub file prioritization in a data replication system |
US8489656B2 (en) | 2010-05-28 | 2013-07-16 | Commvault Systems, Inc. | Systems and methods for performing data replication |
WO2013036183A1 (en) * | 2011-09-08 | 2013-03-14 | Telefonaktiebolaget L M Ericsson (Publ) | Method in a base station, a base station, computer programs and computer readable means |
US9264432B1 (en) | 2011-09-22 | 2016-02-16 | F5 Networks, Inc. | Automatic proxy device configuration |
KR20130093812A (ko) * | 2012-01-12 | 2013-08-23 | 삼성전자주식회사 | 컨텐츠 중심 네트워크에서 트래픽 전송량을 제어하기 위한 컨텐츠 라우터의 통신 방법 및 그 컨텐츠 라우터 |
US9167006B1 (en) * | 2012-02-21 | 2015-10-20 | F5 Networks, Inc. | Connection bucketing in mirroring asymmetric clustered multiprocessor systems |
US8892523B2 (en) | 2012-06-08 | 2014-11-18 | Commvault Systems, Inc. | Auto summarization of content |
US20150331615A1 (en) * | 2012-11-20 | 2015-11-19 | Empire Technology Development Llc | Multi-element solid-state storage device management |
US10379988B2 (en) | 2012-12-21 | 2019-08-13 | Commvault Systems, Inc. | Systems and methods for performance monitoring |
US9516102B2 (en) | 2013-03-07 | 2016-12-06 | F5 Networks, Inc. | Server to client reverse persistence |
CN104252391B (zh) * | 2013-06-28 | 2017-09-12 | 国际商业机器公司 | 用于在分布式计算***中管理多个作业的方法和装置 |
US9338103B2 (en) | 2013-09-10 | 2016-05-10 | Globalfoundries Inc. | Injecting congestion in a link between adaptors in a network |
US9246816B2 (en) | 2013-09-10 | 2016-01-26 | Globalfoundries Inc. | Injecting congestion in a link between adaptors in a network |
US9419900B2 (en) * | 2013-12-31 | 2016-08-16 | International Business Machines Corporation | Multi-bit indicator set according to feedback based on an equilibrium length of a queue |
US9436391B1 (en) * | 2014-03-28 | 2016-09-06 | Formation Data Systems, Inc. | Efficient scalable I/O scheduling |
US10275320B2 (en) | 2015-06-26 | 2019-04-30 | Commvault Systems, Inc. | Incrementally accumulating in-process performance data and hierarchical reporting thereof for a data stream in a secondary copy operation |
US10248494B2 (en) | 2015-10-29 | 2019-04-02 | Commvault Systems, Inc. | Monitoring, diagnosing, and repairing a management database in a data storage management system |
US10540516B2 (en) | 2016-10-13 | 2020-01-21 | Commvault Systems, Inc. | Data protection within an unsecured storage environment |
JP2019067251A (ja) * | 2017-10-03 | 2019-04-25 | 株式会社日立製作所 | 計算機システム及び通信経路の制御方法 |
US10831591B2 (en) | 2018-01-11 | 2020-11-10 | Commvault Systems, Inc. | Remedial action based on maintaining process awareness in data storage management |
US10642886B2 (en) | 2018-02-14 | 2020-05-05 | Commvault Systems, Inc. | Targeted search of backup data using facial recognition |
US20190251204A1 (en) | 2018-02-14 | 2019-08-15 | Commvault Systems, Inc. | Targeted search of backup data using calendar event data |
JP7251075B2 (ja) * | 2018-09-03 | 2023-04-04 | 株式会社オートネットワーク技術研究所 | 中継装置、中継方法及びコンピュータプログラム |
US20200192572A1 (en) | 2018-12-14 | 2020-06-18 | Commvault Systems, Inc. | Disk usage growth prediction system |
US11042318B2 (en) | 2019-07-29 | 2021-06-22 | Commvault Systems, Inc. | Block-level data replication |
CN113141311A (zh) * | 2020-01-19 | 2021-07-20 | 华为技术有限公司 | 一种用于获取转发信息的方法及装置 |
US11122123B1 (en) | 2020-03-09 | 2021-09-14 | International Business Machines Corporation | Method for a network of storage devices |
US11683273B2 (en) | 2020-12-01 | 2023-06-20 | International Business Machines Corporation | Endpoint notification of storage area network congestion |
US20220294737A1 (en) * | 2021-03-09 | 2022-09-15 | Nokia Solutions And Networks Oy | Path congestion notification |
US11593223B1 (en) | 2021-09-02 | 2023-02-28 | Commvault Systems, Inc. | Using resource pool administrative entities in a data storage management system to provide shared infrastructure to tenants |
US11809285B2 (en) | 2022-02-09 | 2023-11-07 | Commvault Systems, Inc. | Protecting a management database of a data storage management system to meet a recovery point objective (RPO) |
US20240031295A1 (en) * | 2022-07-21 | 2024-01-25 | Cisco Technology, Inc. | Storage aware congestion management |
Family Cites Families (44)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS56129456A (en) | 1980-03-14 | 1981-10-09 | Hitachi Ltd | Path control method |
US5457687A (en) * | 1993-09-02 | 1995-10-10 | Network Equipment Technologies, Inc. | Method and apparatus for backward explicit congestion notification (BECN) in an ATM network |
JP3187230B2 (ja) | 1993-09-06 | 2001-07-11 | 株式会社東芝 | ふくそう制御方法及びふくそう制御装置 |
KR0132960B1 (ko) * | 1994-12-22 | 1998-04-21 | 양승택 | 망 노드 폭주상태 결정장치 및 방법 |
US5935213A (en) | 1996-05-02 | 1999-08-10 | Fore Systems, Inc. | System and method for generating explicit rate value information for flow control in ATAM network |
US5938732A (en) * | 1996-12-09 | 1999-08-17 | Sun Microsystems, Inc. | Load balancing and failover of network services |
JP3369445B2 (ja) * | 1997-09-22 | 2003-01-20 | 富士通株式会社 | ネットワークサービスサーバ負荷調整装置、方法および記録媒体 |
US6075769A (en) * | 1997-11-26 | 2000-06-13 | Cisco Systems, Inc. | Method and apparatus for network flow control |
JP3726484B2 (ja) * | 1998-04-10 | 2005-12-14 | 株式会社日立製作所 | 記憶サブシステム |
US6456597B1 (en) * | 1998-05-04 | 2002-09-24 | Hewlett Packard Co. | Discovery of unknown MAC addresses using load balancing switch protocols |
US6195703B1 (en) * | 1998-06-24 | 2001-02-27 | Emc Corporation | Dynamic routing for performance partitioning in a data processing network |
JP3816246B2 (ja) * | 1998-10-30 | 2006-08-30 | 株式会社東芝 | カットスルーパス制御方法 |
JP2000187561A (ja) * | 1998-12-24 | 2000-07-04 | Hitachi Ltd | 記憶装置システム |
JP3534302B2 (ja) | 1999-05-19 | 2004-06-07 | 日本電気株式会社 | ストレージデバイスのマルチパスシステム |
US7016971B1 (en) * | 1999-05-24 | 2006-03-21 | Hewlett-Packard Company | Congestion management in a distributed computer system multiplying current variable injection rate with a constant to set new variable injection rate at source node |
US6389448B1 (en) * | 1999-12-06 | 2002-05-14 | Warp Solutions, Inc. | System and method for load balancing |
US6766359B1 (en) * | 1999-12-29 | 2004-07-20 | Emc Corporation | Method and apparatus for utilizing multiple paths in a file transfer utility employing an intermediate data storage system |
JP3601393B2 (ja) * | 2000-01-11 | 2004-12-15 | 日本電気株式会社 | データグラム中継装置及びその方法 |
US6757291B1 (en) * | 2000-02-10 | 2004-06-29 | Simpletech, Inc. | System for bypassing a server to achieve higher throughput between data network and data storage system |
US6950874B2 (en) * | 2000-12-15 | 2005-09-27 | International Business Machines Corporation | Method and system for management of resource leases in an application framework system |
US7230924B2 (en) | 2001-03-28 | 2007-06-12 | At&T Corp. | Method and apparatus for communications traffic engineering |
JP3882187B2 (ja) * | 2001-04-19 | 2007-02-14 | 日本電気株式会社 | フロー制御システムおよび方法 |
JP4039821B2 (ja) * | 2001-05-09 | 2008-01-30 | 株式会社日立製作所 | ディスク制御装置を用いた計算機システムおよびその運用サービス |
JP4772208B2 (ja) | 2001-05-10 | 2011-09-14 | オリンパス株式会社 | 内視鏡 |
US6757753B1 (en) * | 2001-06-06 | 2004-06-29 | Lsi Logic Corporation | Uniform routing of storage access requests through redundant array controllers |
US6532212B1 (en) * | 2001-09-25 | 2003-03-11 | Mcdata Corporation | Trunking inter-switch links |
US20030079018A1 (en) * | 2001-09-28 | 2003-04-24 | Lolayekar Santosh C. | Load balancing in a storage network |
US20030095501A1 (en) * | 2001-11-21 | 2003-05-22 | Exanet, Inc. | Apparatus and method for load balancing in systems having redundancy |
JP3898498B2 (ja) * | 2001-12-06 | 2007-03-28 | 富士通株式会社 | サーバ負荷分散システム |
WO2003050708A1 (en) | 2001-12-07 | 2003-06-19 | Vitesse Semiconductor Company | A method and system for transporting information via the xgmii or fiber channel standard |
US7161935B2 (en) * | 2002-01-31 | 2007-01-09 | Brocade Communications Stystems, Inc. | Network fabric management via adjunct processor inter-fabric service link |
US7284067B2 (en) * | 2002-02-20 | 2007-10-16 | Hewlett-Packard Development Company, L.P. | Method for integrated load balancing among peer servers |
JP4338068B2 (ja) * | 2002-03-20 | 2009-09-30 | 株式会社日立製作所 | ストレージシステム |
US7908355B2 (en) * | 2002-06-20 | 2011-03-15 | International Business Machines Corporation | Method for improving network server load balancing |
GB0216728D0 (en) | 2002-07-18 | 2002-08-28 | British Telecomm | Network resource control |
JP3996010B2 (ja) * | 2002-08-01 | 2007-10-24 | 株式会社日立製作所 | ストレージネットワークシステム、管理装置、管理方法及びプログラム |
US7162579B2 (en) * | 2002-08-19 | 2007-01-09 | Aristos Logic Corporation | Asymmetrical load balancing for mirrored storage volumes |
JP2004110503A (ja) * | 2002-09-19 | 2004-04-08 | Hitachi Ltd | 記憶制御装置、記憶システム、記憶制御装置の制御方法、チャネル制御部、及びプログラム |
US7307948B2 (en) * | 2002-10-21 | 2007-12-11 | Emulex Design & Manufacturing Corporation | System with multiple path fail over, fail back and load balancing |
JP4452438B2 (ja) * | 2002-11-11 | 2010-04-21 | 株式会社日立製作所 | 記憶システム |
TW577237B (en) * | 2002-11-18 | 2004-02-21 | Inst Information Industry | Load balance system and method of wireless LAN |
US6988054B2 (en) * | 2002-11-27 | 2006-01-17 | Hewlett-Packard Development Company, L.P. | Storage system performance metric comparison methods, storage system performance monitoring systems, data storage systems, and articles of manufacture |
JP2004178254A (ja) * | 2002-11-27 | 2004-06-24 | Hitachi Ltd | 情報処理システム、ストレージシステム、記憶デバイス制御装置、及びプログラム |
US7912954B1 (en) * | 2003-06-27 | 2011-03-22 | Oesterreicher Richard T | System and method for digital media server load balancing |
-
2004
- 2004-01-30 JP JP2004022463A patent/JP2005217815A/ja active Pending
- 2004-03-17 US US10/801,720 patent/US7380019B2/en not_active Expired - Fee Related
- 2004-06-03 EP EP04013159A patent/EP1560375A1/en not_active Withdrawn
- 2004-07-20 US US10/894,059 patent/US7421511B2/en not_active Expired - Fee Related
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010537267A (ja) * | 2007-08-16 | 2010-12-02 | インターナショナル・ビジネス・マシーンズ・コーポレーション | ストレージ・コントローラと複製エンジンとの間で書き込みを分割する方法、システムおよびプログラム |
US8341366B2 (en) | 2007-08-16 | 2012-12-25 | International Business Machines Corporation | Splitting writes between a storage controller and replication engine |
WO2014049718A1 (ja) * | 2012-09-26 | 2014-04-03 | 株式会社日立製作所 | 管理装置及び管理方法 |
US9417817B2 (en) | 2012-09-26 | 2016-08-16 | Hitachi, Ltd. | Management apparatus and management method |
WO2014061529A1 (ja) * | 2012-10-15 | 2014-04-24 | 三菱電機株式会社 | 情報処理装置及び情報処理方法及びプログラム |
JPWO2014061529A1 (ja) * | 2012-10-15 | 2016-09-05 | 三菱電機株式会社 | 情報処理装置及び情報処理方法及びプログラム |
JP2014096674A (ja) * | 2012-11-08 | 2014-05-22 | Hitachi High-Technologies Corp | ネットワーク装置、ネットワーク装置の制御方法及びネットワークシステム |
Also Published As
Publication number | Publication date |
---|---|
EP1560375A1 (en) | 2005-08-03 |
US7421511B2 (en) | 2008-09-02 |
US20050188109A1 (en) | 2005-08-25 |
US7380019B2 (en) | 2008-05-27 |
US20050198276A1 (en) | 2005-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2005217815A (ja) | パス制御方法 | |
JP4291664B2 (ja) | 通信バッファ予約機能を備えるストレージ装置およびシステム | |
JP4800059B2 (ja) | 仮想ストレージシステム及びその制御方法 | |
US7334029B2 (en) | Data migration method | |
US7619965B2 (en) | Storage network management server, storage network managing method, storage network managing program, and storage network management system | |
JP4432488B2 (ja) | ディザスタリカバリのシームレス管理のための方法と装置 | |
JP4810585B2 (ja) | リモートスキャンをサポートする計算機 | |
JP2006059119A (ja) | ストレージネットワークの移行方法、管理装置、管理プログラムおよびストレージネットワークシステム | |
JP2004326478A (ja) | 記憶装置システム及び管理プログラム | |
US20110087915A1 (en) | Hybrid reliable streaming protocol for peer-to-peer multicasting | |
JP2005266933A (ja) | ストレージ管理システム及びストレージ管理方法 | |
KR20040035723A (ko) | 컴퓨터 네트워크 내의 블록 데이터 저장 | |
JP2007527172A (ja) | フェイルオーバおよび負荷分散 | |
US20120284435A1 (en) | Zone group manager virtual phy | |
JP2012531654A (ja) | ストレージシステム及びストレージシステムの通信パス管理方法 | |
JP2008146627A (ja) | 複数のデータセンタにおけるストレージリソース管理のための方法および装置 | |
JP2004013215A (ja) | ストレージシステム、ストレージサブシステム、および、それらを含む情報処理システム | |
JP2005157712A (ja) | リモートコピーネットワーク | |
JP5034495B2 (ja) | ストレージシステムとプログラム並びに方法 | |
US6741561B1 (en) | Routing mechanism using intention packets in a hierarchy or networks | |
JP2005115603A (ja) | 記憶デバイス制御装置及びその制御方法 | |
US20200382405A1 (en) | Detecting and managing relocation of network communication endpoints in a distributed computing environment | |
JP5112138B2 (ja) | セッション管理方法、ストレージ装置、及び、計算機システム | |
JP4326819B2 (ja) | ストレージシステムの制御方法、ストレージシステム、プログラム、及び記録媒体 | |
JP2006344090A (ja) | Sanディザスタリカバリシステム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051128 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20051128 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20060523 |