JP5422777B2 - ネットワーク管理装置、ネットワーク管理方法及びネットワーク管理システム - Google Patents
ネットワーク管理装置、ネットワーク管理方法及びネットワーク管理システム Download PDFInfo
- Publication number
- JP5422777B2 JP5422777B2 JP2013503222A JP2013503222A JP5422777B2 JP 5422777 B2 JP5422777 B2 JP 5422777B2 JP 2013503222 A JP2013503222 A JP 2013503222A JP 2013503222 A JP2013503222 A JP 2013503222A JP 5422777 B2 JP5422777 B2 JP 5422777B2
- Authority
- JP
- Japan
- Prior art keywords
- address
- virtual machine
- network
- link
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
- H04L41/0813—Configuration setting characterised by the conditions triggering a change of settings
- H04L41/0816—Configuration setting characterised by the conditions triggering a change of settings the condition being an adaptation, e.g. in response to network events
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0631—Management of faults, events, alarms or notifications using root cause analysis; using analysis of correlation between notifications, alarms or events based on decision criteria, e.g. hierarchy, tree or time analysis
- H04L41/065—Management of faults, events, alarms or notifications using root cause analysis; using analysis of correlation between notifications, alarms or events based on decision criteria, e.g. hierarchy, tree or time analysis involving logical or physical relationship, e.g. grouping and hierarchies
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0896—Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities
- H04L41/0897—Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities by horizontal or vertical scaling of resources, or by migrating entities, e.g. virtual resources or entities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/24—Multipath
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Small-Scale Networks (AREA)
Description
本発明は、ネットワーク管理装置、方法及びシステムに関し、特にパケットの転送経路を制御するネットワーク管理装置、方法及びシステムに適用して好適なものである。
従来、ネットワークの利用効率を向上させる技術として「マルチパス」と呼ばれる転送技術が知られている。このマルチパスによれば、例えばパケットを転送する際に複数の転送経路(パス)を同時に利用することができ、これによりネットワーク内の負荷を分散させることができる。そしてさらにこのマルチパスの技術と、複数のパスのうちの最短経路を計算して選択する技術とを組み合わせて、複数の最短経路を同時に利用する転送技術が知られている。この複数の最短経路を同時に利用する転送技術は、マルチパスの中でも特に「ECMP」(Equal Cost Multi-Path)と呼ばれる。
ところでマルチパスやECMPを利用したネットワーク環境では、上述のように複数のパスを同時に利用することになるため、複数の利用可能なパスのうちから実際に利用するパスを適切に決定する必要がある。決定したパスが不適切であると、送信元から宛先に転送したパケットの転送順序と、宛先に実際に到着したパケットの到着順序とが入れ替わってしまい問題となる場合がある。例えば送信元から宛先にパケットA、Bの順に転送し、宛先にパケットA、Bの順に到着させたい場合において、パケットAをパスAで転送し、パケットBをパスBで転送すればよいところ、パケットAをパスBで転送し、パケットBをパスAで転送したことにより、宛先への到着順序がパケットB、Aの順となってしまうような場合である。
そこで特許文献1には、送信元及び宛先のアドレスのペア(アドレスペア)に基づいて、複数の利用可能なパスのうちから実際に利用するパスを決定する技術が開示されている。このアドレスペアとは、例えば送信元のMACアドレス(Source MAC address)及び宛先のMACアドレス(Destination MAC Address)のペアである。実際上、スイッチやルータ等のネットワーク装置は、送信元からのパケットを受信すると、このパケットのヘッダに含まれるアドレスペアのハッシュ値を計算し、計算結果に基づいて、実際に利用するパスを決定するのである。なお送信元のアドレスだけで実際に利用するパスを決定する技術も存在する。
そしてこの特許文献1に記載の技術によれば、送信元から転送されたパケットの転送順序と、宛先に実際に到着したパケットの到着順序とが入れ替わってしまうという上述の問題を解消することができる。
しかし特許文献1に記載の技術は、アドレスペアに基づいて、複数の利用可能なパスのうちから実際に利用するパスを選択するものであるが、確率上は分散してパスを利用することは可能であるものの、実際には特定のパスに通信の偏りが生じる場合がある。
例えば特定のアドレスペアの通信端末間で大量のデータが送受信される場合であって、このアドレスペアの通信端末間の通信(フロー)が特定のパスを経由する場合に、他の通信端末間のフローが上述の大量のデータが送受信されているパスを経由するよう選択される場合には、特定のパスに通信の偏りが生じる。そしてその結果、輻輳等の通信障害やパケットの消失(パケットロス)が生じるおそれがある。
また特許文献1に記載の技術では、高速なパケット転送処理を実現するためにASIC(Application Specific Integrated Circuit)等のハードウェア資源が用いられている。よって上述のような通信の偏りが生じた場合、その偏りに応じてアドレスペアのハッシュ値の計算式を柔軟に変更することは困難である。すなわち他の最適なパスが空いているにもかかわらず、一度選択されたパスを利用し続けることになる。
またマルチパスを利用したネットワーク環境下においては、上述のように複数のパスを同時に利用することになるため、特定のパスに通信障害が発生した場合、通信障害により例えばパケットロス等の影響を受けたフローがどの通信端末間のフローであるのか迅速に特定することができない。
本発明は、以上の点を考慮してなされたもので、マルチパスを利用したネットワーク環境において、高速な負荷分散処理を実現するとともに、ネットワークの利用効率を向上させ、更には通信障害時の影響範囲を迅速に特定し得るネットワーク管理装置、方法及びシステムを提案しようとするものである。
かかる課題を解決するために本発明においては、サーバ間、ストレージ間又はサーバとストレージとの間の通信にマルチパスのネットワークが構成されており、前記サーバ上で稼働する仮想マシン又は前記ストレージ上で稼働する論理ボリュームに対し、前記マルチパスを利用してパケットを転送する際のパケットの転送経路に関して制御を行うネットワーク管理装置において、前記ネットワーク管理装置は、前記ネットワークの利用状況を管理するためのネットワーク構成情報及び前記ネットワークを流れるパケットの統計情報を管理するための統計情報を取得する取得部と、前記取得部により取得される前記ネットワーク構成情報及び前記統計情報に基づいて、前記仮想マシン又は前記論理ボリュームに既に割り当てられている既存アドレスの再割り当てを行う制御部を備え、前記制御部は、前記既存アドレスの再割り当てを行う場合、前記ネットワーク構成情報に基づいて前記ネットワークを構成するリンクのうち、リンクコストが最も大きいリンクを抽出し、前記統計情報に基づいて前記抽出したリンクを経由するフローを特定し、該特定したフローの経路変更要求及び経由を希望する経由リンク要求を外部端末から受け付けた場合、前記特定したフローのアドレスペアのうち何れか一方のアドレスを変更対象アドレスとして選択し、該選択した変更対象アドレスを変更するに際しては前記経由リンク要求に含まれるリンクを経由するアドレスであって、かつ、未割当てのアドレスを割当て候補アドレスとして選択することにより前記変更対象アドレスを前記割当て候補アドレスに変更することを特徴とする。
また本発明においては、サーバ間、ストレージ間又はサーバとストレージとの間の通信にマルチパスのネットワークが構成されており、前記サーバ上で稼働する仮想マシン又は前記ストレージ上で稼働する論理ボリュームに対し、前記マルチパスを利用してパケットを転送する際のパケットの転送経路に関して制御を行うネットワーク管理装置のネットワーク管理方法において、前記ネットワーク管理装置は、前記ネットワークの利用状況を管理するためのネットワーク構成情報及び前記ネットワークを流れるパケットの統計情報を管理するための統計情報を取得する取得部と、前記取得部により取得される前記ネットワーク構成情報及び前記統計情報に基づいて、前記仮想マシン又は前記論理ボリュームに既に割り当てられている既存アドレスの再割り当てを行う制御部を備え、前記制御部が、前記既存アドレスの再割り当てを行う場合、前記ネットワーク構成情報に基づいて前記ネットワークを構成するリンクのうち、リンクコストが最も大きいリンクを抽出する第1のステップと、前記統計情報に基づいて前記抽出したリンクを経由するフローを特定する第2のステップと、前記特定したフローの経路変更要求及び経由を希望する経由リンク要求を外部端末から受け付けた場合には前記特定したフローのアドレスペアのうち何れか一方のアドレスを変更対象アドレスとして選択する第3のステップと、前記選択した変更対象アドレスを変更するに際しては前記経由リンク要求に含まれるリンクを経由するアドレスであって、かつ、未割当てのアドレスを割当て候補アドレスとして選択する第4のステップと、前記変更対象アドレスを前記割当て候補アドレスに変更する第5のステップとを備えることを特徴とする。
また本発明においては、サーバ間、ストレージ間又はサーバとストレージとの間の通信にマルチパスのネットワークが構成されており、前記サーバ上で稼働する仮想マシン又は前記ストレージ上で稼働する論理ボリュームに対し、前記マルチパスを利用してパケットを転送する際のパケットの転送経路に関して制御を行うネットワーク管理システムにおいて、前記ネットワークの利用状況を管理するためのネットワーク構成情報及び前記ネットワークを流れるパケットの統計情報を管理するための統計情報を取得する取得部と、前記取得部により取得される前記ネットワーク構成情報及び前記統計情報に基づいて、前記仮想マシン又は前記論理ボリュームに既に割り当てられている既存アドレスの再割り当てを行う制御部を備え、前記制御部は、前記既存アドレスの再割り当てを行う場合、前記ネットワーク構成情報に基づいて前記ネットワークを構成するリンクのうち、リンクコストが最も大きいリンクを抽出し、前記統計情報に基づいて前記抽出したリンクを経由するフローを特定し、該特定したフローの経路変更要求及び経由を希望する経由リンク要求を外部端末から受け付けた場合には前記特定したフローのアドレスペアのうち何れか一方のアドレスを変更対象アドレスとして選択し、該選択した変更対象アドレスを変更するに際しては前記経由リンク要求に含まれるリンクを経由するアドレスであって、かつ、未割当てのアドレスを割当て候補アドレスとして選択することにより前記変更対象アドレスを前記割当て候補アドレスに変更することを特徴とする。
本発明によれば、マルチパスを利用したネットワーク環境において、高速な負荷分散処理を実現するとともに、ネットワークの利用効率を向上させ、更には通信障害時の影響範囲を迅速に特定することができる。
以下図面について、本発明の一実施の形態を詳述する。
(1)第1の実施の形態
(1−1)ネットワーク管理システムの構成
図1は、ネットワーク管理システム1Aの概略論理構成を示す。このネットワーク管理システム1Aは、中継スイッチ10A〜10C、ラック20A及び20B、管理用サーバ30及び管理用端末40を備えて構成される。
(1−1)ネットワーク管理システムの構成
図1は、ネットワーク管理システム1Aの概略論理構成を示す。このネットワーク管理システム1Aは、中継スイッチ10A〜10C、ラック20A及び20B、管理用サーバ30及び管理用端末40を備えて構成される。
なおこのネットワーク管理システム1Aは、3つの中継スイッチ10A〜10C、2つのラック20A及び20B、1つの管利用サーバ30及び1つの管利用端末40により構成されるが、本発明はこれらの数に限定されない。また以下の説明において、中継スイッチを特に区別しない場合には「中継スイッチ10」と記載し、ラック20A及び20Bを特に区別しない場合には「ラック20」と記載する。
中継スイッチ10A〜10Cは、ラック20A及び20B間でパケット転送を行う際、パケットを転送する転送用スイッチである。中継スイッチ10A〜10Cはそれぞれ、ラック20A及び20Bに接続されるとともに、中継スイッチ10A〜10Cのうちの何れか1つ又は全ては、管理用ネットワークNに接続される。そして中継スイッチ10A〜10Cは、ラック20A及び20B間の通信において複数のパス(マルチパス)を構成し、これらマルチパスは何れも等コストのパスを構成する(ECMP: Equal Cost Multi-Path)。
なおここでいう「パス」とは、ある装置からある装置までの通信経路を意味する。例えば、サーバ22Aからサーバ22Bまでの通信経路(パス)では、複数のリンクやネットワーク装置を経由することになる。
ラック20Aは、ラック設置スイッチ21A、サーバ22A及びストレージ23Aを備えて構成される。なおここでのラック20Aは、サーバ22A及びストレージ23Aを備えて構成されるが必ずしもこれに限らず、例えばサーバ22Aだけ又はストレージ23Aだけを備えて構成されてもよい。
ラック設置スイッチ21Aは、中継スイッチ10A〜10Cのうちの何れか又は全ての中継スイッチを経由して、ラック20A及び20B間におけるパケットの送受信を行う。ラック設置スイッチ21Aは、中継スイッチ10A〜10Cに接続されるとともに、管理用ネットワークNにも接続される。
ラック設置スイッチ21Aと中継スイッチ10A〜10Cとの間の接続(リンク)は、単一のケーブルにより接続されてもよいし、複数のケーブルで接続されてもよい。複数のケーブルで接続される場合には、例えば既に公知の技術であるリンクアグリゲーション(LAG: Link AggreGation)により、複数のリンクが論理的に1つのリンクとして接続される(図3参照)。
なおここでいう「リンク」とは、NIC(Network Interface Card)とネットワーク装置との間やネットワーク装置間の繋がり(接続)を意味する。例えば、IEEE802.3に準拠したケーブルで繋がれた(接続された)装置間の接続(リンク)をいう。
サーバ22Aは、仮想マシン221A及び仮想マシン実行部222Aを備えて構成される。そしてサーバ22Aは、サーバ22A内のCPU11(図2参照)と、外部記憶装置13(図2参照)に格納される図示しないシステムプログラム、仮想マシンプログラム及び業務プログラム等の各種プログラムとの協働により、仮想マシン221A及び仮想マシン実行部222Aを統括的に制御する。なおシステムプログラムや仮想マシンプログラムは、例えば既に公知の技術であるマイクロソフト社のハイパーバイザー(Hyper Visor)製品等により実現される。また本実施の形態では、OS(Operating System)等のプログラムについて特に説明はしないが必要に応じて使用されている。
仮想マシン221Aは、サーバ22A内の外部記憶装置13から業務プログラムを読み出して実行することにより各種の業務を行う実行部である。なお仮想マシン221Aは、1つの仮想マシンに限られず、複数の仮想マシンにより構成される。
また仮想マシン221Aは、1又は複数の仮想NICを備えて構成される。仮想NICは論理的なNICであり、仮想マシン実行部222A内のソフトウェアスイッチに接続される。そしてソフトウェアスイッチはサーバ22A内のNIC(通信装置14)に接続される。なお仮想マシン221Aは、仮想NICをソフトウェアスイッチに接続せずに、仮想NICから直接通信装置14を介してパケットを送受信してもよい。
また複数の仮想マシン221Aが1つの通信装置14を利用してもよい。また仮想マシン221Aが複数の仮想NICを備え、複数の仮想NICが1つ又は複数のソフトウェアスイッチ、或いは1つ又は複数の通信装置14に接続されてもよい。
また仮想マシン221Aは、イニシエータ機能を備えたVM仮想HBA(Host Bus Adapter)を備えて構成されてもよい(図15参照)。VM仮想HBAは、論理的なHBAであって、仮想マシン221A上で動作する仮想HBAである。
仮想マシン実行部222Aは、サーバ22A内の外部記憶装置13から仮想マシンプログラムを起動することにより複数の仮想マシン221Aを実行し、サーバ22A内のCPU11、メモリ12及び外部記憶装置13等の物理リソースを効率的に使用するための実行部である。
また仮想マシン実行部222Aは、1つ又は複数のソフトウェアスイッチ機能を備えて構成される。ソフトウェアスイッチ機能は、仮想マシン221Aに対してサーバ22A上でスイッチ機能を提供するものであり、既に公知の技術により実現される。
ストレージ23Aは、1又は複数の論理ボリュームであるLV(Logical Volume)を備えて構成される。LVは、複数のHDD(Hard Disk Drive)等の外部記憶装置をグループ化し、論理的に1つのボリュームとしたものである。なおLVには、ターゲット機能を備えたLV仮想HBAを備えて構成されてもよい(図15参照)。LM仮想HBAは、論理的なHBAであって、ストレージ装置23AのLV上で動作する仮想HBAである。
ラック20Bは、ラック設置スイッチ21B、サーバ22B及びストレージ23Bを備えて構成され、サーバ22Bは、仮想マシン221B及び仮想マシン実行部222Bを備えて構成される。ラック20B内の各部及びサーバ22B内の各部の構成については、上述のラック20A及びサーバ22Aと同様であるためここでの説明は省略する。
また以下の説明において、ラック設置スイッチ21A及び21Bを特に区別しない場合には「ラック設置スイッチ21」と記載し、サーバ22A及びサーバ22Bを特に区別しない場合には「サーバ22」と記載し、仮想マシン221A及び221Bを特に区別しない場合には「仮想マシン221」と記載し、仮想マシン実行部222A及び222Bを特に区別しない場合には「仮想マシン実行部222」と記載し、ストレージ23A及び23Bを特に区別しない場合には「ストレージ23」と記載して説明する。
管理用サーバ30は、管理用ネットワークNを介して管理用端末40に接続され、管理用端末40からの指示に基づいて、本実施の形態にかかる管理業務を実行する。なお管理用サーバ30は、1つの物理的なサーバにより実現されてもよいし、複数のサーバにより構成されてもよい。また管理用サーバ30及び管理用端末40は、VPN(Virtual Private Network)等の秘匿された通信環境により、安全を確保した上でネットワーク管理システム1Aの外部に設置されてもよい。
また管理用サーバ30は、ソフトウェア機能モジュールとして、物理構成管理部311、仮想マシン管理部312、ネットワーク管理部313、統計情報管理部314を備えて構成され、更に各種情報を格納及び管理するためのテーブルとして、構成情報テーブル321、仮想マシン情報テーブル322、ネットワーク構成テーブル323、統計情報テーブル324及び振分け情報テーブル325を備えて構成される。
物理構成管理部311は、構成情報テーブル321の管理を行う。また仮想マシン管理部312は、仮想マシン221の配備、起動、停止、削除、仮想NICの割り当て及び仮想NICへのMACアドレスの割り当て等の仮想マシンの管理を仮想マシン実行部222Aと連携して行うとともに、仮想マシン情報テーブル322の管理を行う。
またネットワーク管理部313は、ネットワーク構成テーブル323を管理するとともに、通信(フロー)が経由するパスの計算等を行う。
なおここでいう「フロー」とは、例えばIEEE802.3網(イーサネット網)において1対のMACアドレスをもつNIC間での一連のデータ通信を意味し、1対のIPアドレスやFCIDアドレスでも同様である。なお1対多の通信となるマルチキャスト通信は含まれない。
また統計情報管理部314は、スイッチやルータ又はソフトウェアスイッチ等(以下、「ネットワーク装置」と呼ぶ)から統計情報として必要な情報を収集する。収集する情報としては、例えばポートの送信カウンタや受信カウンタにより計測された値がある。そして統計情報管理部314は、この収集した情報の統計値、例えば後述する平均送信量や平均受信量(図6及び図7参照)をネットワーク構成テーブル323及び統計情報テーブル324に格納する。
なお管理用サーバ30が備える構成情報テーブル321、仮想マシン情報テーブル322、ネットワーク構成テーブル323、統計情報テーブル324及び振分け情報テーブル325の各種テーブルについては後述するが、これら各種テーブルは、例えばリレーショナルデータベースにより実現される。
管理用端末40は、システム管理者が管理用サーバ30に対して管理業務の指示を行うためのコンピュータ装置であり、例えばパーソナルコンピュータ、ワークステーション又はメインフレーム等から構成される。
図2は、中継スイッチ10の論理構成を示す。この中継スイッチ10は、CPU(Central Processing Unit)11、メモリ12、外部記憶装置13、通信装置14、出力装置15、入力装置16及び読書き装置17を備えて構成される。なお中継スイッチ10は、各部11〜17をそれぞれ1つずつ備えて構成されてもよいし、複数備えて構成されてもよい。またここでの中継スイッチ10は、上述の各部を備えて構成されるとしているが本実施の形態においては一般的な中継スイッチを用いてもよい。一般的な中継スイッチでは、上述の各部のうち、外部記憶装置13、出力装置15、入力装置16及び読書き装置17は備えない一方で、管理用のインタフェースやASICを備えて構成される。
CPU11は、RAM(Random Access Memory)やROM(Read Only Media)等を備えて構成され、ROM、メモリ12又は外部記憶装置13に格納されている各種プログラムをRAMに展開し、展開した各種プログラムとの協働により、中継スイッチ10Aの各部12〜17の動作を統括的に制御する。
メモリ12は、例えばフラッシュメモリ等の不揮発メモリを備えて構成され、各種プログラムや各種データを格納する。
外部記憶装置13は、例えばHDDを備えて構成され、各種プログラムや各種データを格納する。
通信装置14は、例えばNIC(Network Interface Card)、I/Oポート及び管理ポートを備えて構成され、I/Oポートを介してラック20に接続し、管理ポートを介して管理用ネットワークNに接続する。また通信装置14は、1つの通信装置14上に1つ又は複数の物理ポート、すなわちI/Oポート及び管理ポートを備えて構成される。
出力装置15は、モニタディスプレイやスピーカを備えて構成され、モニタディスプレイ上に静止画又は動画を表示し、スピーカから音声を出力する。
入力装置16は、キーボード、スイッチ、ポインティングデバイス及び又はマイクロフォンを備えて構成され、これらキーボード、スイッチ、ポインティングデバイス及び又はマイクロフォンによる入力操作を受け付ける。
読書き装置17は、CD(Compact Disk)やDVD(Digital Versatile Disk)等の可搬性を有する記憶媒体Mに対して読書きを実行する。例えば読書き装置17は、記憶媒体Mに記憶されている各種プログラムをメモリ12や外部記憶装置13に読み出す。なお読書き装置17は、通信装置14を介して、各種プログラムを図示しないネットワークからダウンロードして取得されてもよい。
また図2において、21〜23、30及び40は全体としてラック設置スイッチ21、サーバ22、ストレージ23、管理用サーバ30及び管理用端末40の機能ブロック図を示す。そしてラック設置スイッチ21は、中継スイッチ10と同様に構成され、またサーバ22及びストレージ23は、通信装置14内にI/Oポートしかない点及び接続先がラック設置スイッチ21である点、ストレージ装置23は更にコントローラと呼ばれる制御装置を備えて構成される点を除いて中継スイッチ10と同様に構成される。また管理用サーバ30及び管理用端末40は、通信装置14内に管理ポートしかない点を除いて中継スイッチ10と同様に構成される。
図3は、ラック設置スイッチ21の論理構成を示す。このラック設置スイッチ21は、中継スイッチ10A〜10Cに接続され、またサーバ22及びストレージ23に接続されることによりリンクを確立する。そしてラック設置スイッチ21は、複数の物理ポート211〜217及び1つの論理ポート218を備えて構成される。
物理ポート211〜213は、中継スイッチ10A〜10Cと物理的に接続されるポートである。また物理ポート214及び215は、それぞれサーバ22と物理的に接続されるポートであり、物理ポート216及び217は、それぞれストレージ23と物理的に接続されるポートである。
論理ポート218は、複数のメンバポートである物理ポート211〜213を論理的に1つのポートとしてまとめたポートであり、例えば既に公知の技術であるLAGにより実現される。
また論理ポート218からメンバポートである物理ポート211〜213にパケットを振り分ける方法については、例えば既に公知の技術である振分け方法により実現される。
具体的には、まず受信したパケットのヘッダに含まれる送信元MACアドレス及び宛先MACアドレスのアドレスペアに基づいて、特定のハッシュ関数を用いてハッシュ値を計算する。次いで計算結果によりパケットを送信するリンクを決定し、決定したリンクに接続されている物理ポートにパケットを振り分ける。
より詳細には、物理ポート211〜213に対して「0」〜「3」までの分散番号を予め割り当てておく。例えば物理ポート211には分散番号「0」及び「3」、物理ポート212には分散番号「1」、物理ポート213には分散番号「2」を予め割り当てておく。そして送信元MACアドレスの下位2ビット(例えば、S2S1)及び宛先MACアドレスの下位2ビット(例えば、D2D1)の排他的論理和を計算するハッシュ関数Fを下記式(1)により計算する。
そして上記式(1)の計算結果の値Kと、物理ポート211〜213に割り当てた上述の分散番号とを比較し、計算結果Kと同じ値の分散番号が割り当てられている物理ポートを選択して、この選択された物理ポートにパケットを出力する。なおこのような振分け方法は、ネットワーク装置ごとや論理ポート218ごとに異なっていてもよく、例えばラック設置スイッチ21Aとラック設置スイッチ21Bとで異なっていてもよい。
(1−2)各種テーブルの構成
図4は、管理用サーバ30に格納されている各種テーブルのうち、構成情報テーブル321を示す。この構成情報テーブル321は、ラック20A及び20Bごとに、ラック内に設けられた装置の構成及びその装置の情報を管理するためのテーブルである。
図4は、管理用サーバ30に格納されている各種テーブルのうち、構成情報テーブル321を示す。この構成情報テーブル321は、ラック20A及び20Bごとに、ラック内に設けられた装置の構成及びその装置の情報を管理するためのテーブルである。
この図4に示す構成情報テーブル321は、装置ID欄321A、装置タイプ321欄B、ラックID欄321C、MACアドレス欄321D及び接続スイッチID欄321Eから構成される。
そして装置ID欄321Aには、ラック内に設けられた装置を識別するための識別子(装置ID)が格納され、また装置タイプ欄321Bには、ラック内に設けられた装置の種別を識別するための識別情報が格納される。またラックID欄321Cには、装置を収容するラックを識別するための識別子(ラックID)が格納され、MACアドレス欄321Dには、装置内の通信装置14(図2参照)の物理NICのMACアドレスが格納され、接続スイッチID欄321Eには、その物理NICと接続関係にある中継スイッチ10A〜10Cやラック設置スイッチ21A又は21B等のネットワーク装置を識別するための識別情報が格納される。
従って図4の場合、例えば「server001」という装置は、種別が「server」(サーバ)であり、「rack001」というラックIDのラック内に設置されており、MACアドレスは「01:23:45:00:00:07」であり、「switch001」というネットワーク装置に接続されていることが示されている。また同様に、「storage001」という装置は、種別が「storage」(ストレージ)であり、「rack001」というラックIDのラック内に設置されており、MACアドレスは「01:23:45:00:00:08」であり、「switch002」というネットワーク装置に接続されていることが示されている。また「switch001」という装置は、種別が「switch」(スイッチ)であり、「rack001」というラックIDのラック内に設置されていることが示されている。
なお構成情報テーブル321に格納される上述の各種情報は、ラック20A又は20B内に上述の各装置を設置する際、必要に応じてシステム管理者及び又は物理構成管理部311により設定される。
図5は、管理用サーバ30に格納されている各種テーブルのうち、仮想マシン情報テーブル322を示す。この仮想マシン情報テーブル322は、サーバ22内の仮想マシン221に関する情報を管理するためのテーブルである。
この図5に示す仮想マシン情報テーブル322は、仮想マシンID欄322A、サーバID欄322B、仮想マシン実行部ID欄322C、仮想マシン管理アドレス欄322D、仮想NIC欄322E、割当てMACアドレス欄322F及び接続スイッチID欄322Gから構成される。
そして仮想マシンID欄322Aには、サーバ22内の仮想マシン221を識別するための識別子(仮想マシンID)が格納され、またサーバID欄322Bには、仮想マシン221を備えるサーバ22を識別するための識別子(サーバID)が格納される。
また仮想マシン実行部ID欄322Cには、仮想マシン221を動作させる仮想マシン実行部222を識別するための識別子(仮想マシン実行部ID)が格納される。
また仮想マシン管理アドレス欄322Dには、仮想マシン221を管理するための制御信号を送受信するためのアドレスが格納され、例えば仮想マシン実行部222と通信可能なIPアドレスが格納される。なおこのIPアドレスは、管理用サーバ30がアクセスするために用いられるIPアドレスであって、例えば仮想マシン221との通信用としては別のIPアドレスが用いられる。
仮想NIC欄322Eには、仮想マシン221に割り当てた仮想NICを識別するための識別情報が格納され、また割当てMACアドレス欄322Fには、仮想NICに割り当てたMACアドレスが格納される。そして接続スイッチID欄322Gには、仮想NICと接続関係にある中継スイッチ10A〜10Cやラック設置スイッチ21A又は21B等のネットワーク装置を識別するための識別情報が格納される。
従って図5の場合、例えば仮想マシンIDが「vm001」という仮想マシンは、サーバIDが「server001」というサーバ内に設けられ、さらにこのサーバには、仮想マシン実行部IDが「hy001」という仮想マシン実行部が設けられていることが示されている。そしてこの仮想マシンを管理するための制御信号を送受信する場合には「192.168.0.101」というIPアドレスが用いられ、またこの仮想マシンには「eth0」という仮想NICが割り当てられていることが示されている。そしてこの仮想マシンの仮想NICには「01:23:45:00:00:01」というMACアドレスが割り当てられおり、この仮想NICと接続関係にあるネットワーク装置の識別情報は「switch001」であることが示されている。
なお仮想マシン221に対しては複数の仮想NICを割り当てることが可能である。この場合、仮想NIC欄322E及び割当てMACアドレス欄322F及び接続スイッチID欄322Gには、1つの仮想マシンID欄322Aに対して複数の情報が格納されることになるため、仮想マシン情報テーブル322を分割して、仮想マシンID322Aと仮想NIC322E及び割当てMACアドレス322F及び接続スイッチID322Gの関係情報を格納する新たなテーブルを作成することにより、1つの仮想マシン221に対して複数の仮想NIC、割当てMACアドレス及び接続スイッチIDの各種情報を設定することができる。
また仮想マシン情報テーブル322に格納される上述の各種情報は、仮想マシン221の設定又は変更の際、必要に応じてシステム管理者及び又は仮想マシン管理部312により設定される。
図6は、管理用サーバ30に格納されている各種テーブルのうち、ネットワーク構成テーブル323を示す。このネットワーク構成テーブル323は、中継スイッチ10やラック設置スイッチ21等のネットワーク装置間のリンクに関する情報を管理するためのテーブルである。
この図6に示すネットワーク構成テーブル323は、リンクID欄323A、送信元スイッチID欄323B、宛先スイッチID欄323C、リンク帯域欄323D、リンクコスト欄323E、平均送信量欄323F及び平均受信量欄323Gから構成される。
そしてリンクID欄323Aには、リンクを識別するための識別子(リンクID)が格納され、また送信元スイッチID欄323B及び宛先スイッチID欄323Cには、リンクの両端のネットワーク装置(例えば、中継スイッチ10A及びラック設置スイッチ21A)を識別する識別情報がそれぞれ格納される。なおここでは便宜上、ネットワーク装置を識別するために「送信元」スイッチ及び「宛先」スイッチと記載しているが、これが一方通行の通信であることを意味するものではない。すなわち送信元スイッチが宛先スイッチからパケットを受信する場合もあり、パケットの送受信は送信元スイッチと宛先スイッチとの間において双方向で行われる。
またリンク帯域欄323Dには、リンクの回線帯域速度に関する情報(Gbps:Gigabit per second)が格納され、リンクコスト欄323Eには、そのリンクを使用した際のコストに関する情報が格納される。なおここではリンクコストを単にリンク帯域(Gbps)としているが必ずしもこれに限られない。リンクコストは、ネットワーク装置間のパスを計算する際に用いられ、例えばネットワーク装置間がマルチパスを構成している場合にリンクコストの総和が最も小さいパスを最短経路として決定するために用いられる。
また平均送信量欄323Fには、送信元スイッチID欄323Bに格納されている識別情報により識別されるネットワーク装置から、宛先スイッチID欄323Cに格納されている識別情報により識別されるネットワーク装置に向けて送信されたパケット送信量の平均値(Gbps)が格納される。なおこの平均送信量欄323Fに格納される平均送信量は、例えば送信元スイッチID欄323Bに格納されている識別情報により識別されるネットワーク装置と、宛先スイッチID欄323Cに格納されている識別情報により識別されるネットワーク装置との間の接続ポートのうち、送信元スイッチ側の送信カウンタにより計測された情報を管理用サーバ30が収集して統計値を取ることにより算出される。
また平均受信量欄323Gには、送信元スイッチID欄323Bに格納されている識別情報により識別されるネットワーク装置が、宛先スイッチID欄323Cに格納されている識別情報により識別されるネットワーク装置から受信したパケット受信量の平均値(Gbps)が格納される。なおこの平均受信量欄323Gに格納される平均受信量は、例えば送信元スイッチID欄323Bに格納されている識別情報により識別されるネットワーク装置と、宛先スイッチID欄323Cに格納されている識別情報により識別されるネットワーク装置との間の接続ポートのうち、送信元スイッチ側の受信カウンタにより計測された情報を管理用サーバ30が収集して統計値を取ることにより算出される。
従って図6の場合、例えばリンクIDが「link001」であるリンクの両端には、送信元スイッチIDが「switch001」であり、宛先スイッチIDが「switch010」であるネットワーク装置が接続されており、またこのリンクのリンク帯域及びリンクコストは「10」であり、このリンクにおける平均送信量及び平均受信量はともに「9.0」であることが示されている。
なおネットワーク構成テーブル323に格納される上述の各種情報は、ネットワーク装置の設置やリンクの接続の際、必要に応じてシステム管理者及び又はネットワーク管理部313により設定される。ただし平均送信量及び平均受信量は、例えば定期的にネットワーク装置から統計情報管理部314が収集して統計値を計算することにより設定される。
図7は、管理用サーバ30に格納されている各種テーブルのうち、統計情報テーブル324を示す。この統計情報テーブル324は、図1におけるネットワーク管理システム1A内のネットワークのうち、管理用ネットワークNを除いたネットワークに流れている通信データの統計情報を管理するためのテーブルである。
この図7に示す統計情報テーブル324は、フローID欄324A、送信元MACアドレス欄324B、宛先MACアドレス欄324C、平均送信量欄324D、平均受信量欄324E及び経由リンクID欄324Fから構成される。
そしてフローID欄324Aには、送信元MACアドレス欄324Bに格納されているMACアドレスが割り当てられている通信装置14又は仮想NICと、宛先MACアドレス欄324Cに格納されているMACアドレスが割り当てられている通信装置14又は仮想NICとの間のフローを識別するための識別情報が格納される。なおここでは便宜上、通信装置14又は仮想NICを識別するために「送信元」MACアドレス及び「宛先」MACアドレスと記載しているが、これが一方通行の通信であることを意味するものではない。すなわち送信元MACアドレスが宛先MACアドレスからパケットを受信する場合もあり、パケットの送受信は送信元MACアドレスと宛先MACアドレスとの間において双方向で行われる。
また送信元MACアドレス欄324Bには、通信データのパケットのヘッダ部に格納されている送信元のMACアドレスが格納され、また宛先MACアドレス欄324Cには、宛先のMACアドレスが格納される。なお送信元MACアドレス及び宛先MACアドレスの取得に際しては、例えば既に公知の技術である「sFlow」(登録商標)と呼ばれる通信データの計測手法が用いられる。送信元MACアドレス及び宛先MACアドレスは、このsFlowと呼ばれる計測手法により計測された通信データのパケットのヘッダ部から取得することができる。
平均送信量欄324Dには、上述のsFlowと呼ばれる計測手法により計測されたパケットのうち、送信元のMACアドレスが送信元MACアドレス欄324Bに格納されているMACアドレスであって、かつ、宛先のMACアドレスが宛先MACアドレス欄324Cに格納されているMACアドレスであるパケットの平均通信量が格納される。
また平均受信量欄324Eには、上述のsFlowと呼ばれる計測手法により計測されたパケットのうち、送信元のMACアドレスが宛先MACアドレス欄324Cに格納されているMACアドレスであって、かつ、宛先のMACアドレスが送信元MACアドレス欄324Bに格納されているMACアドレスであるパケットの平均通信量が格納される。
経由リンクID欄324Fには、1つのフローにおいて経由するリンクの識別子(リンクID)のリストが格納される。この経由リンクID欄324Fに格納されるリンクIDは、例えば上述のsFlowと呼ばれる計測手法によりネットワーク装置上の物理ポートごとに統計情報を取得することができるため、経由している物理ポートを特定することができ、よって経由リンクも特定することができる。またネットワーク装置上の物理ポートごとに統計情報を取得することが困難な場合には、後述する経路決定手順により経由リンクを特定することが可能である。
従って図7の場合、例えばフローIDが「f001」のフローにおいて、送信元のネットワーク装置のMACアドレスは「01:23:45:00:00:01」であって、宛先のネットワーク装置のMACアドレスは「01:23:45:00:00:05」であり、またこのフローの平均送信量は「5.0」であって、平均受信量は「3.0」であり、このフローはリンクIDが「link001」及び「link004」という2つのリンクを経由していることが示されている。
なおこの統計情報テーブル324に格納される上述の各種情報は、例えば中継スイッチ10やラック設置スイッチ21等のネットワーク装置において既に公知の技術であるsFlowと呼ばれる計測手法により定期的に通信データを計測し、計測した結果を管理用サーバ30が収集して統計情報として算出することにより設定される。
図8は、管理用サーバ30に格納されている各種テーブルのうち、振分け情報テーブル325を示す。この振分け情報テーブル325は、中継スイッチ10やラック設置スイッチ21等のネットワーク装置上の論理ポート218(図3参照)における1つ又は複数のメンバ物理ポート211〜213(図3参照)のリストと、これらメンバ物理ポート211〜213へのパケットの振分け方法を管理するためのテーブルである。なお振分け方法については後述する。
この図8に示す振分け情報テーブル325は、スイッチID欄325A、論理ポートID欄325B、メンバポートID欄325C、リンクID欄325D及び振分け方法欄325Eから構成される。
そしてスイッチID欄325Aには、ネットワーク装置を識別するための識別情報が格納され、論理ポートID欄325Bには、ネットワーク装置において設定されている論理ポート218を識別するための識別情報が格納される。
またメンバポートID欄325Cには、論理ポートID欄325Bに格納されている識別情報により識別される論理ポート218のメンバの1つ又は複数の物理ポート211〜217(図3参照)を識別するための識別子(メンバポートID)のリストが格納される。
またリンクID欄325Dには、メンバポートID欄325Cに格納されている識別情報により識別される1つ又は複数の物理ポートと対向ネットワーク装置との間の1つ又は複数のリンクを識別するための識別子(リンクID)のリストが格納される。なおこのリンクIDは、上述のメンバポートID欄325に格納されているメンバポートIDと対応して格納される。
また振分け方法欄325Eには、メンバポートID欄325Cに格納されている識別情報により識別される1つ又は複数の物理ポートに対し、パケットの振分け方法を識別するための識別情報が格納される。この振分け方法欄325Eに格納される振分け方法の識別情報は、ネットワーク装置や論理ポート218ごとに異なってもよいし同一でもよい。なお具体的な振分け方法については後述する。
従って図8の場合、例えばスイッチIDが「switch001」のネットワーク装置には、「I-port001」という論理ポート218が設定されており、この論理ポート218のメンバにはメンバポートIDが「port001」、「port002」及び「port003」の物理ポートが設定されており、これらの物理ポートはリンクIDが「link001」、「link002」及び「link003」のリンクにそれぞれ対応して接続され、またこれらのリンクにパケットを振り分けて送信する際、「F001」という識別情報により特定される振分け方法により振り分けることが示されている。
また振分け情報テーブル325に格納される上述の各種情報は、ネットワーク装置の設置等の際、必要に応じてシステム管理者により設定される。
(1−3)経路決定手順
ここでこれまで説明してきた上述の各種テーブルを用いて、フローの経由リンクを決定する経路決定手順について説明する。
ここでこれまで説明してきた上述の各種テーブルを用いて、フローの経由リンクを決定する経路決定手順について説明する。
まず統計情報テーブル324の送信元MACアドレス欄324Bと、仮想マシン情報テーブル322の割当てMACアドレス欄322Fとを比較して、一致する仮想マシンの情報を検索する。例えば統計情報テーブル324において送信元MACアドレス欄324Bに格納されている送信元MACアドレスが「01:23:45:00:00:01」の仮想マシンは、仮想マシンテーブル322の割当てMACアドレス欄322Fに格納されている割当てMACアドレスが「01:23:45:00:00:01」の仮想マシンと一致する。
次いで検索により一致した仮想マシンの情報に基づいて、仮想マシン情報テーブル322の接続スイッチID欄322Gから接続スイッチを決定する。例えば上述の例でいうと仮想マシン情報テーブル322の割当てMACアドレスが「01:23:45:00:00:01」の仮想マシンは仮想マシンIDが「vm001」という仮想マシンであり、この仮想マシンIDに対応する接続スイッチIDは「switch001」である。
そして統計情報テーブル324の宛先MACアドレスについても同様に接続スイッチを決定する。すなわち統計情報テーブル324の宛先MACアドレス欄324Cと仮想マシン情報テーブル322の割当てMACアドレス欄322Fとを比較し、一致する仮想マシンを検索する。そして仮想マシン情報テーブル322の接続スイッチID欄322を参照し、一致した仮想マシンの接続スイッチを決定する。例えば統計情報テーブル324の宛先MACアドレス欄324Cに格納されている宛先MACアドレスが「01:23:45:00:00:05」と、仮想マシン情報テーブル322の割当てMACアドレス欄322Fとを比較すると、一致するMACアドレス仮想マシンIDは「vm005」である。そしてこの仮想マシンIDに対応する接続スイッチIDは「switch002」である。
以上より「switch001」という接続スイッチ(ラック設置スイッチ21A)と、「switch002」という接続スイッチ(ラック設置スイッチ21B)との間にこのMACアドレスペアのフローが存在することになる。
なお上述のフローの存在を認定する処理においては、検索対象のMACアドレスを仮想マシン221上の仮想NICの送信元MACアドレス(又は宛先MACアドレス)としているがこれに限らず、検索対象のMACアドレスをサーバ22やストレージ23の通信装置14における物理NICの送信元MACアドレス(又は宛先MACアドレス)としてもよい。この場合、構成情報テーブル321のMACアドレス欄321Dから特定のMACアドレス(送信元MACアドレス又は宛先MACアドレス)を検索し、合わせて接続スイッチID欄321Eから対応する接続スイッチIDを決定する。例えばMACアドレスが「01:23:45:00:00:07」の装置はサーバIDが「server001」であり、この装置に対応する接続スイッチIDは「switch001」である。一方、MACアドレスが「01:23:45:00:00:08」の装置はサーバIDが「server002」であり、この装置に対応する接続スイッチIDは「switch002」である。よって「switch001」という接続スイッチ(ラック設置スイッチ21A)と、「switch002」という接続スイッチ(ラック設置スイッチ21B)との間にこのMACアドレスペアのフローが存在することになる。
ここでスイッチIDが「switch001」のラック設置スイッチ21Aと、スイッチIDが「switch002」のラック設置スイッチ21Bとの間には3つの異なる中継スイッチ10A〜10Cを経由するECMPが構成されている(図1参照)。そこでラック設置スイッチ21Aの論理ポート218における振分け方法を振分け情報テーブル325により検索する。
そしてこのMACアドレスペアの振分け方法を振分け方法欄325Eから取得し、このMACアドレスペアを振分け方法(例えば、上記式(1))に入力して計算結果Kを算出する。
そして上述した分散番号(物理ポート211Aには0及び3、物理ポート212Aには1、物理ポート213Aには2を予め割り当てた番号)と比較することにより物理ポートを確定し、このMACアドレスペアのパケットが通過する経路を確定する。
(1−4)既存アドレスの再割り当て処理の処理手順
次に本実施の形態によるネットワーク管理方法に関する処理の処理手順について説明する。なお処理の前提条件として、図1におけるラック設置スイッチ21A及びラック設置スイッチ21Bのそれぞれと、中継スイッチ10A〜10Cとの間は、同一のリンクコストである(例えば、本実施の形態ではリンクコストは「10」である。図6参照)。すなわちラック設置スイッチ21Aとラック設置スイッチ21Bとの間の通信環境は、3つの等コストパスが存在するECMP環境である。
次に本実施の形態によるネットワーク管理方法に関する処理の処理手順について説明する。なお処理の前提条件として、図1におけるラック設置スイッチ21A及びラック設置スイッチ21Bのそれぞれと、中継スイッチ10A〜10Cとの間は、同一のリンクコストである(例えば、本実施の形態ではリンクコストは「10」である。図6参照)。すなわちラック設置スイッチ21Aとラック設置スイッチ21Bとの間の通信環境は、3つの等コストパスが存在するECMP環境である。
また本実施の形態におけるネットワーク装置の転送処理は、全てレイヤー2(Layer 2)で行われ、転送されるパケットは例えばイーサネット(登録商標)のフレームであるものとするが、必ずしもこれに限定されない。
また以下の説明では、各処理の主体を管理用端末40や管理用サーバ30として説明するが、実際上はこれら管理用端末40や管理用サーバ30内のCPU11がメモリ12や外部記憶装置13等に格納されている各種プログラム、具体的には物理構成管理部311、仮想マシン管理部312、ネットワーク管理部313及び統計情報管理部314と協働して実行することは言うまでもない。
図9は、本実施の形態によるネットワーク管理方法に関連して、ネットワークの利用状況に基づいて通信が偏っているリンクを調査し、調査結果に基づいて負荷が平衡になるように既存アドレスの再割り当てを行う処理の処理手順を示す。管理用端末40は、システム管理者からの要求を受け付けることによりこの図9に示す処理を開始し、また管理用サーバ30は、管理用端末40からの要求を受け付けることによりこの図9に示す処理を開始する。
すなわち管理用端末40は、システム管理者から入力装置16を介してネットワーク装置間のリンクに関する情報(以下、「リンク情報」と呼ぶ)の取得要求を受け付けると、まず受け付けたリンク情報の取得要求を管理用サーバ30に送信する(S1)。
なおシステム管理者が利用する管理用端末40の画面は、テルネット(Telnet: Telecommunication network)等のコマンドラインユーザインターフェイス(CLI: Command Line user Interface)であってもよいし、ブラウザ等のグラフィカルユーザインターフェイス(GUI: Graphical User Interface)であってもよい。また管理用端末40と管理用サーバ30との間の通信は、テルネットやエイチティーティーピー(HTTP: Hyper Text Transfer Protocol)等の既に公知の技術により実現される。
次いで管理用サーバ30は、管理用端末40からリンク情報の取得要求を受信すると、ネットワーク構成テーブル323を参照し、平均送信量欄323F及び平均受信量欄323Gから全てのリンクの平均送信量及び平均受信量を取得してこれらを管理用端末40に送信する(S2)。
管理用端末40は、管理用サーバ30から全てのリンクの平均送信量及び平均受信量を受信すると、受信した全てのリンクの平均送信量及び平均受信量に基づいて、例えばある特定のリンクが他のリンクと比較して平均送信量及び又は平均受信量が大きい場合には、この平均送信量及び又は平均受信量が大きいリンクのリンクID(図6では「link001」及び「link004」)を管理用サーバ30に送信するとともに、このリンクIDのリンクを利用しているフローのフローIDのリスト(以下、「フローリスト」と呼ぶ)の取得要求を管理用サーバ30に送信する(S3)。
すなわち管理用端末40は、負荷が大きいリンクのリンクID及びこのリンクを利用しているフローリストの取得要求を管理用サーバ30に送信する。
管理用サーバ30は、管理用端末40からリンクID及びフローリストの取得要求を受信すると、統計情報テーブル324を参照し、経由リンクID欄324Fから上述のステップS3で管理用端末40から送信されたリンクIDを含む全ての経由リンクIDを抽出してこれらに対応するフローIDのリスト、すなわちフローリスト(図7では「f001」及び「f003」)を管理用端末40に送信する(S4)。
管理用端末40は、管理用サーバ30からフローリストを受信すると、受信したフローリストに基づいて、パスの変更を希望するフローのフローIDをシステム管理者の選択操作により決定し、この決定した変更希望のフローID及び経由したい1つ又は複数のリンクIDを含むフローの経路変更候補の算出要求を管理用サーバ30に送信する(S5)。
管理用サーバ30は、管理用端末40からフローの経路変更候補の算出要求を受信すると、仮想マシン情報テーブル322を参照し、割当てMACアドレス欄322Fに格納されている割り当て済みのMACアドレスのリスト(以下、「割り当て済みアドレスリスト」と呼ぶ)を取得する(S6)。
次いで管理用サーバ30は、取得した割り当て済みアドレスリストに基づいて、経路変更候補の算出要求に含まれる経由したい1つ又は複数のリンクIDのリンクを通過し、かつ、未割当てのMACアドレスを算出してその結果を管理用端末40に送信する(S7)。
ここでステップS6及びS7における具体的処理について説明する。管理用サーバ30は、フローの経路変更候補の算出要求を受信すると、まず統計情報テーブル324を参照し、受信した経路変更候補の算出要求に含まれるフローIDに対応する送信元MACアドレス及び宛先MACアドレスを取得する。次いで取得した送信元MACアドレス及び宛先MACアドレスのうちの一方を変更しないアドレスとして選択し(以下、「維持アドレス」と呼ぶ)、他方を変更するアドレス(以下、「変更対象アドレス」と呼ぶ)として選択する。
送信元MACアドレス及び宛先MACアドレスのうち、何れを維持アドレスとして選択し、何れを変更対象アドレスとして選択するかといった選択方法については、サーバ22、ストレージ23又はネットワーク装置における物理NICのMACアドレスを変更することは困難な場合が多いことから、次のような選択方法を採用する。
すなわち仮想マシン221の仮想NICに割り当てたMACアドレスであればソフトウェアによる変更が容易である点に着目し、管理用サーバ30は、仮想マシン情報テーブル322を参照して、送信元MACアドレス又は宛先MACアドレスのうちの何れかが仮想マシン221に割り当てたMACアドレスであるか否かを判定する。
そして管理用サーバ30は、送信元MACアドレス又は宛先MACアドレスのうちの何れかのMACアドレスが仮想マシン221に割り当てた仮想NICのMACアドレスであると判定した場合、その仮想NICのMACアドレスである送信元MACアドレス又は宛先MACアドレスの何れか一方を変更対象アドレスとして選択し、他方を維持アドレスとして選択する。
また管理用サーバ30は、送信元MACアドレス及び宛先MACアドレスのうち、両方のMACアドレスが仮想マシン221に割り当てられていると判定した場合、MACアドレスを変更したことにより生じる影響を考慮して、統計情報テーブル324において送信元MACアドレス又は宛先MACアドレスとして登録されている回数が多い方のMACアドレスを維持アドレスとして選択し、登録されている回数が少ない方、すなわちより通信対象が少ない方のMACアドレスを変更対象アドレスとして選択する。
例えば図7の統計情報テーブル324の場合、フローIDが「f001」のフローにおいて送信元MACアドレスが「01:23:45:00:00:01」は他のフローID「f002」〜「f006」のフローには登録されていない。一方同一のフローID「f001」のフローにおいて宛先MACアドレスが「01:23:45:00:00:05」は他のフローID「f003」及び「f006」のフローにも登録されている。よってこの場合、管理用サーバ30は、管理用端末40からフローの経路変更候補の算出要求を受信した場合の維持アドレス及び変更対象アドレスを選択するに際し、送信元MACアドレスを変更対象アドレスとして選択し、宛先MACアドレスを維持アドレスとして選択する。
次いで変更対象アドレスを変更するに際し、変更後のMACアドレスを選択する処理について説明する。管理用サーバ30は、変更対象アドレスを変更する値として、予め定められた割り当て可能なアドレスの範囲であって、かつ、割り当て済みアドレスリストに含まれるアドレス以外の値を小さい順から1つ選択する。以下、選択された変更後のMACアドレスを「割当て候補アドレス」と呼ぶ。
例えば管理用サーバ30は、予め定められた割り当て可能なアドレスの範囲「01:23:45:00:00:00」〜「01:23:45:FF:FF:FF」のうちから、割当てMACアドレス欄322Fに格納されている割り当て済みアドレスリストに含まれるアドレス以外のアドレスを小さい順から1つ選択する。
そして管理用サーバ30は、選択した割当て候補アドレスと、上述の維持アドレスとの間のパス(ECMP)を上記(1−3)の経路決定手順に従って特定し、このアドレスペアによるフローが経由するリンクを特定する。
最後に管理用サーバ30は、特定したリンクと、ステップS5で管理用端末40から送信された経路変更候補の算出要求に含まれる経由したい1つ又は複数のリンクIDのリンクとを比較して一致している場合には、割当て候補アドレス及び変更対象アドレスを管理用端末40に送信する。
なお一致していない場合、管理用サーバ30は次に値の小さい割当て候補アドレスを選択し、上述してきたように、この選択した割当て候補アドレス及び維持アドレスのアドレスペアによるフローが経由するリンクを特定し、特定したリンクと管理用端末40から送信された経由したいリンクIDのリンクとを比較する。
また割当て候補アドレスを選択する方法として、例えば振分け情報テーブル325の振分け方法欄325Eに含まれるハッシュ関数Fが、一方向性関数ではなく、逆写像可能な関数である場合(逆関数の計算が可能である関数の場合)、維持アドレス(ここでは、送信元MACアドレスSとする)と、分散番号Kを入力として逆関数を計算することで、割当て候補アドレス(ここでは、宛先MACアドレスDとする)を算出することが可能である。具体的にはハッシュ関数Fを下記式(2)
上記式(2)及び(3)により算出した宛先MACアドレスDの下位2ビット(例えば、D2D1)以外のビットを、割当て済みMACアドレスと重ならないように選択することで、より簡単に割当て候補アドレスを算出することができる。
また管理用サーバ30は、ステップS7で割当て候補アドレス及び変更対象アドレスを管理用端末40に送信する際、変更対象アドレスを割当て候補アドレスに変更することにより影響を受ける他のフローの一覧を検索して送信する。具体的には変更対象アドレスが含まれるフローの一覧を統計情報テーブル324から検索し、さらに変更後のフローのパスを上記(1−3)の経路決定手順に従って特定し、合わせて送信する。これによりアドレス変更の影響をシステム管理者が判断する事ができる。
管理用端末40は、割当て候補アドレス及び変更対象アドレスを受信すると、システム管理者の操作により決定される変更の可否を管理用サーバ30に送信する(S8)。
管理用サーバ30は、変更の可否を受信すると、変更対象アドレスを割当て候補アドレスに変更するか否か判断する(S9)。
そして管理用サーバ30は、この判断で否定結果を得ると、変更対象アドレスを割当て候補アドレスに変更することができないものと判断し、ステップS6に移行して他の割当て候補アドレスを取得する。
これに対し、管理用サーバ30はこの判断で肯定結果を得ると、変更対象アドレス及び割当て候補アドレスに基づいて、仮想マシン221に割り当て済みのMACアドレスの変更要求を仮想マシン実行部222Aに対して送信し、これにより仮想マシン221のMACアドレスを変更する(S10)。
具体的には、管理用サーバ30は仮想マシン情報テーブル322の割当てMACアドレス欄322Fから変更対象アドレスに関する情報を特定し、この特定した情報に含まれる仮想マシンID、仮想マシン管理アドレス及び仮想NICに基づいて、仮想マシン実行部222に対してMACアドレスの変更要求を送信する。そして仮想マシン実行部222は、仮想マシン221の仮想NICに割り当てられているMACアドレスを変更する。
なおこのとき仮想マシン221は、MACアドレス変更後に例えばGratuitousARP(ARP: Address Resolution Protocol)を送信することにより、他の通信端末のARPキャッシュやレイヤー3(Layer 3)テーブルを更新することができる。そしてアドレス変更後も通信端末上の設定等を変更することなく速やかに通信を継続することができる。
またMACアドレス変更前に割当て候補アドレスが使用されている可能性があり、この割当て候補アドレスの転送情報がネットワーク装置上のFDB(Forwarding Data Base)に残っている可能性がある。この場合、この割当て候補アドレスを割り当てた仮想NICにより、例えばRverseARP等のブロードキャストパケットを送信することでFDBの情報を更新することができる。ただし図1及び図3に示した構成における論理ポート218においてブロードキャストパケットが1つの物理ポート(例えば、物理ポート211)にのみ転送される場合、1つの中継スイッチ(例えば、中継スイッチ10A)のFDBのみが更新される。そのため全ての中継スイッチ10A〜10CのFDBを更新する場合には、論理ポート218において特定のブロードキャストパケット(例えば、ARP又はReverseARP)を全てのメンバポートに対してコピーして転送する処理を行う必要がある。
管理用サーバ30は、仮想マシン情報テーブル322の割当てMACアドレス欄322Fに格納されている割り当て済みのMACアドレスを更新して(S11)、既存アドレスの再割り当て処理を終了する。
(1−5)本実施の形態の効果
以上のように本実施の形態によれば、ネットワークの利用状況に基づいて通信の負荷が偏っているリンクを調査し、調査結果に基づいて負荷が平衡になるように既存のMACアドレスの再割り当てを行うことができる。これによりマルチパス環境において高速な負荷分散転送処理を実現するとともに、ネットワークの利用効率を向上させることができる。
以上のように本実施の形態によれば、ネットワークの利用状況に基づいて通信の負荷が偏っているリンクを調査し、調査結果に基づいて負荷が平衡になるように既存のMACアドレスの再割り当てを行うことができる。これによりマルチパス環境において高速な負荷分散転送処理を実現するとともに、ネットワークの利用効率を向上させることができる。
(2)第2の実施の形態
(2−1)ネットワーク管理システムの構成
図1において、1Bは全体として第2の実施の形態によるネットワーク管理システム1Bを示す。このネットワーク管理システム1Bは、新たに仮想マシンを追加する場合にもネットワークの負荷が平衡になるように新規MACアドレスを割り当てることができる点及び管理用サーバ30が仮想マシン稼働情報テーブル326を備えて構成される点を除いて、第1の実施の形態によるネットワーク管理システム1Aと同様に構成されている。
(2−1)ネットワーク管理システムの構成
図1において、1Bは全体として第2の実施の形態によるネットワーク管理システム1Bを示す。このネットワーク管理システム1Bは、新たに仮想マシンを追加する場合にもネットワークの負荷が平衡になるように新規MACアドレスを割り当てることができる点及び管理用サーバ30が仮想マシン稼働情報テーブル326を備えて構成される点を除いて、第1の実施の形態によるネットワーク管理システム1Aと同様に構成されている。
なお新たに追加する仮想マシンの通信対象や通信量等を含む通信特性が事前に全く分からない場合には、ネットワークの負荷が平衡になるように新規MACアドレスをその新たに追加する仮想マシンに割り当てることは一般には困難である。しかし新たに追加する仮想マシンの通信特性が事前に推定可能な場合には、推定される通信特性に応じて最適な新規MACアドレスをその新たに追加する仮想マシンに割り当てることができる。そこで本実施の形態では、仮想マシンの負荷に応じて、同じ仮想マシンイメージをベースにした仮想マシンを自動的に追加し、負荷分散を実現する仮想マシンの動的スケールアウト環境において、ネットワークの負荷が平衡になるように新たに追加する仮想マシンに対し、最適な新規MACアドレスの割り当て方法について説明する。
(2−2)仮想マシン稼働情報テーブルの構成
図10は、管理用サーバ30に格納されている各種テーブルのうち、仮想マシン稼働情報テーブル326を示す。なお図1においては、この仮想マシン稼働情報テーブル326の図示は省略している。この仮想マシン稼働情報テーブル326は、サーバ22内の仮想マシン221の状態に関する情報を管理するためのテーブルである。
図10は、管理用サーバ30に格納されている各種テーブルのうち、仮想マシン稼働情報テーブル326を示す。なお図1においては、この仮想マシン稼働情報テーブル326の図示は省略している。この仮想マシン稼働情報テーブル326は、サーバ22内の仮想マシン221の状態に関する情報を管理するためのテーブルである。
この図10に示す仮想マシン稼働情報テーブル326は、仮想マシンID欄326A、CPU平均利用率欄326B、CPU閾値欄326C、メモリ平均利用率欄326D、メモリ閾値欄326E及び自動仮想マシン増減可否欄326Fから構成される。
そして仮想マシンID欄326Aには、サーバ22内の仮想マシン221を識別するための識別子(仮想マシンID)が格納され、またCPU平均利用率欄326Bには、仮想マシン221に対するサーバ22のCPU11の平均利用率が格納される。
またCPU閾値欄326Cには、予め定められたCPU平均利用率の閾値が格納され、メモリ平均利用率欄326Dには、仮想マシン221に対するサーバ22のメモリ12の平均利用率が格納される。
またメモリ閾値欄326Eには、予め定められたメモリ平均利用率の閾値が格納され、自動仮想マシン増減可否欄326Fには、仮想マシンのコピーを自動的に追加可能か否か、すなわち自動スケールアウトが可能か否かを予め定めた情報が格納される。例えばウェブサーバは自動スケールアウトが可であり、データベースサーバはデータの不整合を防止するべく不可である。
なお上述してきたその他の各種テーブル321〜325については、第2の実施の形態においても同様であるため、ここでの説明は省略する。
(2−3)新規アドレスの割り当て処理の処理手順
次に本実施の形態によるネットワーク管理方法に関する処理の処理手順について説明する。
次に本実施の形態によるネットワーク管理方法に関する処理の処理手順について説明する。
なお本処理の前提条件については、第1の実施の形態における図9の処理の前提条件と同様である。すなわちラック設置スイッチ21と中継スイッチ10との間は等コストパスであるECMP環境であって、転送処理は全てレイヤー2で行われる。また転送されるパケットはイーサネットのフレームである。そして以下の説明では、処理の主体を管理用サーバ30として説明しているが実際上は管理用サーバ30内のCPU11がメモリ12等に格納された各種プログラムと協働して実行することは言うまでもない。
図11は、本実施の形態によるネットワーク管理方法に関連して、仮想マシンの負荷に応じて新たに仮想マシンを自動追加する際、ネットワークの負荷が平衡になるようにその新たに追加する仮想マシンに新規MACアドレスの割り当てを行う処理の処理手順を示す。管理用サーバ30は、定期的にこの図11に示す処理を開始する。
すなわち管理用サーバ30は、定期的に仮想マシン稼働情報テーブル326を参照し、仮想マシン221の負荷、具体的にはCPU平均利用率を監視する(S21)。
そして管理用サーバ30は、仮想マシンに対するCPU平均利用率が予め定められたCPU閾値を超えているか否か判断する(S22)。
管理用サーバ30は、この判断で否定結果を得ると、ステップS21に戻り仮想マシンの負荷の監視を続ける。
これに対し管理用サーバ30は、ステップS22の判断で肯定結果を得ると、仮想マシン稼働情報テーブル326の自動仮想マシン増減可否欄326Fを参照し、対象の仮想マシン221が自動スケールアウト可能な種別の仮想マシンであるか否かを確認する(S23)。
管理用サーバ30は、この判断で否定結果を得ると、対象の仮想マシン221は自動スケールアウトが不可と判断し、管理用端末40に対して自動スケールアウトが不可である旨を通知する(S24)。
これに対し管理用サーバ30は、ステップS23の判断で肯定結果を得ると、既に公知の方法により、例えばCPU11、メモリ12及び外部記憶装置13の利用率が低いサーバ22を新規仮想マシンの設置場所に決定する。そしてこの際、管理用サーバ30は、新規仮想マシン221の仮想NICと接続する仮想マシン実行部222内のソフトウェアスイッチを新規に生成し又は既に実行中のソフトウェアスイッチを選択し、さらにこのソフトウェアスイッチに接続される物理NIC(通信装置14)を特定し、さらにこの通信装置14に接続されるラック設置スイッチ21を特定する。ソフトウェアスイッチを用いない場合、管理用サーバ30は、仮想NICに接続される通信装置14を特定し、さらにこの通信装置14に接続されるラック設置スイッチ21を特定する(S25)。
次いで管理用サーバ30は、仮想マシン情報テーブル322及び統計情報テーブル324を参照し、上述のCPU閾値を超えた仮想マシンの割当てMACアドレスと同一のアドレスを送信元MACアドレス欄324B及び宛先MACアドレス欄324Cから検索し、同一の送信元MACアドレス又は宛先MACアドレスの平均送信量及び平均受信量を取得する(S26)。
そして管理用サーバ30は、取得した平均送信量及び平均受信量の平均値(通信量)の最も大きいフローを選択し、この選択したフローの送信元MACアドレス又は宛先MACアドレスのうち、上述のCPU閾値を超えた仮想マシンの割当てMACアドレスではない方のMACアドレス(以下、「推定通信アドレス」と呼ぶ)を抽出する(S27)。
次いで管理用サーバ30は、第1の実施の形態で上述した経路計算手順により、新規追加仮想マシン22と推定通信アドレスをもつ仮想マシン221、サーバ22又はストレージ23との転送経路を算出し、ECMPネットワークを経由しているか否か判断する(S28)。この際、新規追加仮想マシン22の接続スイッチは上述のステップS25で特定したラック設置スイッチ21であるとして上記(1−3)の経路決定手順を実行する。
管理用サーバ30は、この判断で否定結果を得ると、算出した転送経路は本実施の形態にかかるネットワーク利用効率の最適化の対象外であると判断してステップS27に戻り、次に通信量の大きいフローを選択して処理を継続する。
これに対し管理用サーバ30は、ステップS28の判断で肯定結果を得ると、仮想マシン情報テーブル322の割当てMACアドレス欄322Fを参照し、割り当て済みアドレスリストを取得する(S29)。
そして管理用サーバ30は、ネットワーク構成テーブル323を参照し、新たに追加する予定の仮想マシン22と推定通信アドレスをもつ仮想マシン22とのECMPの経路のうち、リンクの通信量が最も小さい経路を構成する1つ又は複数のリンクを決定する。なおここでいう通信量とは、例えば平均送信量及び平均受信量の和の平均値である。
そして管理用サーバ30は、図9のステップS7における処理と同様の処理により、決定したリンクを通過し、かつ、未割当ての割当て候補アドレスを計算する(S30)。
管理用サーバ30は、スケールアウトする仮想マシンと同じイメージをベースにした仮想マシン22を新たに追加し、この新たに追加した仮想マシン22の仮想NICに対して割当て候補アドレスを割り当て、割当て候補アドレスを割り当てた新たな仮想マシン22を仮想マシン実行部222を介してサーバ22内に配備する(S31)。
最後に管理用サーバ30は、仮想マシン情報テーブル322を更新して(S32)、新規MACアドレスの割当て処理を終了する。
(2−4)本実施の形態の効果
以上のように本実施の形態によれば、ネットワークにおいて新たに仮想マシンを追加する場合、新たに追加する仮想マシンに対して推定される通信特性に基づいて、ネットワークの負荷が平衡になるように新規仮想マシンに最適なアドレスを割り当てることができる。
以上のように本実施の形態によれば、ネットワークにおいて新たに仮想マシンを追加する場合、新たに追加する仮想マシンに対して推定される通信特性に基づいて、ネットワークの負荷が平衡になるように新規仮想マシンに最適なアドレスを割り当てることができる。
(3)第3の実施の形態
(3−1)ネットワーク管理システムの構成
図1において、1Cは全体として第3の実施の形態によるネットワーク管理システム1Cを示す。このネットワーク管理システム1Cは、パケットの転送順序の保証が不要な環境(以下、「通信要件混在環境」と呼ぶ)において、通信フローをECMPの数に分散して転送することによりネットワーク利用効率の改善を行うことができる点を除いて、第1の実施の形態によるネットワーク管理システム1Aと同様に構成されている。
(3−1)ネットワーク管理システムの構成
図1において、1Cは全体として第3の実施の形態によるネットワーク管理システム1Cを示す。このネットワーク管理システム1Cは、パケットの転送順序の保証が不要な環境(以下、「通信要件混在環境」と呼ぶ)において、通信フローをECMPの数に分散して転送することによりネットワーク利用効率の改善を行うことができる点を除いて、第1の実施の形態によるネットワーク管理システム1Aと同様に構成されている。
すなわち上述した第1の実施の形態では、通信フローのパケットの転送順序を保証するためにフロー単位でのECMPへのパケットの振り分けが行われている環境を前提としており、仮想マシン221のアドレスを変更することによりフロー単位での経路変更を実現している。しかし一般的なネットワーク管理システムにおいては、様々なアプリケーションが稼働しており、パケットの転送順序の保証が必要なアプリケーションと転送順序の保証が不要のアプリケーション(例えば、大量のファイル転送アプリケーション)が混在している環境(通信要件混在環境)も存在する。そこでこの第3の実施の形態では、通信要件混在環境において、転送順序の保証が不要なアプリケーションの通信フローをECMPの数に分散して転送することにより、ネットワーク利用効率の改善を行う方法について説明する。
(3−2)仮想マシンの論理構成
図12は、本実施の形態にかかる仮想マシン221の論理構成を示す。この仮想マシン221は、アプリケーション2214、分散通信ミドルウェア2215及び複数の仮想NIC2211〜2213を備えて構成される。
図12は、本実施の形態にかかる仮想マシン221の論理構成を示す。この仮想マシン221は、アプリケーション2214、分散通信ミドルウェア2215及び複数の仮想NIC2211〜2213を備えて構成される。
アプリケーション2214は、例えばウェブサーバプログラム等の業務プログラムであり、また分散通信ミドルウェア2215は、1つ又は複数の仮想NIC2211〜2213を同時に使用して、例えばランダムにパケットを分散して送信する分散送信機能及び複数の仮想NIC2211〜2213からの受信パケットをアプリケーション2214に受け渡す統合受信機能を有するソフトウェアである。
仮想NIC2211〜2213は、分散通信ミドルウェア2215からパケットを受信すると、受信したパケットを物理NIC2210に送信し、また物理NIC2210からパケットを受信すると、受信したパケットを分散通信ミドルウェア2215に送信する。なお以下の説明において、仮想NIC2211〜2213を特に区別しない場合には単に「仮想NIC」と記載する。
なお上述してきたその他の各種テーブル321〜325については、第3の実施の形態においても同様であるため、ここでの説明は省略する。
(3−3)仮想NICへの分散転送処理の処理手順
次に本実施の形態によるネットワーク管理方法に関する処理の処理手順について説明する。
次に本実施の形態によるネットワーク管理方法に関する処理の処理手順について説明する。
なお本処理の前提条件については、第1の実施の形態における図9の処理の前提条件と同様である。すなわちラック設置スイッチ21と中継スイッチ10との間は等コストパスであるECMP環境であって、転送処理は全てレイヤー2で行われる。また転送されるパケットはイーサネットのフレームである。そして以下の説明では、処理の主体を分散通信ミドルウェア2215、管理用サーバ30及び仮想マシン実行部222として説明しているが、実際上はサーバ22のCPU11がメモリ12や外部記憶装置13等に格納されたプログラム(分散通信ミドルウェア2215又は仮想マシン実行部222)と協働して実行し、また管理用サーバ30のCPU11がメモリ12や外部記憶装置13等に格納された各種プログラムと協働して実行することは言うまでもない。
図13は、本実施の形態によるネットワーク管理方法に関連して、稼働中の仮想マシン221に対し、全てのECMPにパケットを分散して転送するべく複数の仮想NIC2211〜2213を生成するとともに、生成した複数の仮想NIC2211〜2213に対してアドレスの割当てを行う処理の処理手順を示す。分散通信ミドルウェア2215、管理用サーバ30及び仮想マシン実行部222は、分散通信ミドルウェア2215がアプリケーション2214から通信の開始要求を受信すると、この図13に示す処理を開始する。
すなわち分散通信ミドルウェア2215は、パケット転送順序の保証が不要なアプリケーション2214から通信セッション開始要求を受信すると(S41)、分散転送用の仮想NIC2211〜2213の生成要求を管理用サーバ30に送信する(S42)。
なおアプリケーション2214からの通信セッション開始要求には、通信相手のMACアドレスの情報が含まれており、また分散通信ミドルウェア2215は、分散転送用の仮想NIC2211〜2213の生成要求を送信する際に通信相手のMACアドレスの情報も併せて送信する。
管理用サーバ30は、分散通信ミドルウェア2215から分散転送用の仮想NIC2211〜2213の生成要求を受信すると、仮想マシン情報テーブル322の割当てMACアドレス欄322Fを参照し、割り当て済みアドレスリストを取得する(S43)。
次いで管理用サーバ30は、第1の実施の形態で上述した経路決定手順により、通信対象との通信でECMPネットワークを経由しているか否か判断する(S44)。
管理用サーバ30は、この判断で否定結果を得ると、未割当てのMACアドレスを任意に選択し、この選択したMACアドレスを割当て要求とともに仮想マシン実行部222に送信する(S45)。
これに対し、管理用サーバ30は、ステップS44の判断で肯定結果を得ると、ECMPの各々を通過し、かつ、未割当てのMACアドレスをECMPの数だけ算出し、算出したMACアドレスを割り当て要求とともに仮想マシン実行部222に送信する(S46)。
なお例えば図1に示すネットワーク管理システム1Cの場合、3つのECMPが存在することから、算出される未割当てのMACアドレスの数は3つとなる。またこの未割当てのMACアドレスを算出する方法については、第1の実施の形態で上述した図9のステップS7における処理と同様であるため、ここでの説明は省略する。
仮想マシン実行部222は、管理用サーバ30からMACアドレス及び割り当て要求を受信すると、受信したMACアドレスの数だけ仮想NIC2211〜2213を生成し、生成した仮想NIC2211〜2213に受信したMACアドレスを割り当てる(S47)。
そして仮想マシン実行部222は、生成した仮想NIC2211〜2213の識別情報及び生成した仮想NIC2211〜2213にMACアドレスを割り当てた割当て結果を管理用サーバ30に送信する(S48)。
管理用サーバ30は、仮想マシン実行部222から仮想NIC2211〜2213の識別情報及び割当て結果を受信すると、仮想マシン情報テーブル322に受信した仮想NIC2211〜2213の識別情報及び割当て結果を反映して更新する(S49)。なおこのとき管理用サーバ30は、複数の仮想NIC2211〜2213に関する情報を格納するため仮想マシン情報テーブル322を分割してもよい。
そして管理用サーバ30は、生成された仮想NIC2211〜2213の識別情報を要求元の分散通信ミドルウェア2215に通知する(S50)。
分散通信ミドルウェア2215は、管理用サーバ30から仮想NIC2211〜2213の識別情報を受信すると、受信した識別情報により識別される仮想NIC2211〜2213に対し、パケットを分散して転送を開始することにより(S51)、この仮想NIC2211〜2213への分散転送処理を終了する。
(3−4)本実施の形態の効果
以上のように本実施の形態によれば、パケットの転送順序の保証が不要な通信要件混在環境において、転送順序の保証が不要なアプリケーション2214の通信フローをECMPの数に分散して転送することができ、ネットワーク利用効率の改善を行うことができる。
以上のように本実施の形態によれば、パケットの転送順序の保証が不要な通信要件混在環境において、転送順序の保証が不要なアプリケーション2214の通信フローをECMPの数に分散して転送することができ、ネットワーク利用効率の改善を行うことができる。
(4)第4の実施の形態
(4−1)ネットワーク管理システムの構成
図1において、1Dは全体として第4の実施の形態によるネットワーク管理システム1Dを示す。このネットワーク管理システム1Dは、マルチパス環境において特定のパスに通信障害が発生した場合、その通信障害によりパケットロス等の影響を受けた通信がどの通信端末間の通信であったのかといった通信障害時の影響範囲を迅速に推定することができる点を除いて、第1の実施の形態によるネットワーク管理システム1Dと同様に構成されている。
(4−1)ネットワーク管理システムの構成
図1において、1Dは全体として第4の実施の形態によるネットワーク管理システム1Dを示す。このネットワーク管理システム1Dは、マルチパス環境において特定のパスに通信障害が発生した場合、その通信障害によりパケットロス等の影響を受けた通信がどの通信端末間の通信であったのかといった通信障害時の影響範囲を迅速に推定することができる点を除いて、第1の実施の形態によるネットワーク管理システム1Dと同様に構成されている。
(4−2)通信障害時における影響範囲の推定処理の処理手順
次に本実施の形態によるネットワーク管理方法に関する処理の処理手順について説明する。
次に本実施の形態によるネットワーク管理方法に関する処理の処理手順について説明する。
なお本実施の形態の特徴的な前提条件としては、管理サーバ30は各ネットワーク装置を例えばPingなどの既に公知の手法を用いて定期的に生死監視している。またネットワーク装置は、管理サーバ30に対してトラップを送信するように設定されている。トラップは、例えばSNMP(Simple Network Management Protocol)TRAPなどの既に公知の技術により実現される。またトラップの対象となるイベントの種類としては、リンクの状態変化イベントが含まれる。
またその他の前提条件については、第1の実施の形態における図9の処理の前提条件と同様である。すなわちラック設置スイッチ21と中継スイッチ10との間は等コストパスであるECMP環境であって、転送処理は全てレイヤー2で行われる。また転送されるパケットはイーサネットのフレームである。そして以下の説明では、処理の主体を管理用サーバ30及び管理用端末40として説明しているが、実際上は管理用サーバ30及び管理用端末40のCPU11がメモリ12や外部記憶装置13等に格納されたプログラムと協働して実行することは言うまでもない。
図14は、本実施の形態によるネットワーク管理方法に関連して、マルチパス環境において特定のパスに通信障害が発生した場合にその通信障害の影響範囲を迅速に推定する処理の処理手順を示す。管理サーバ30は、通信障害を検知又はトラップを受信すると、この図14に示す処理を開始する。
まず管理用サーバ30は、Ping等の手段による生死監視によりネットワーク装置の障害又はトラップによるリンクの障害(例えば、リンクダウン)を検知すると(S61)、障害通知を管理用端末40に送信する(S62)。管理用端末40への通知方法としては、例えばメール等がある。
管理用端末40は、管理用サーバ30から障害通知を受信すると、管理用サーバ30に対して障害詳細情報を要求する(S63)。
管理用サーバ30は、管理用端末40から障害詳細情報を受信すると、生死監視の場合には装置障害と判定し、一方、トラップによるリンクダウンの通知を受信し、かつ、生死監視の結果、トラップを受信したリンクの対向装置が稼働していると判断可能な場合にはリンクダウンしたリンクの障害(リンクを構成するポートのポート障害を含む)であると判定して、障害箇所を特定する(S64)。
そして管理用サーバ30は、ネットワーク構成テーブル323及び統計情報テーブル324に基づいて、ステップS64で特定した障害箇所を経由していたフローリストを取得する(S65)。
例えば管理用サーバ30は、ステップS64で特定した障害箇所がラック設置スイッチ21Aの装置障害である場合、まずネットワーク構成テーブル323を参照し、送信元スイッチID欄323B又は宛先スイッチID欄323Cから、ラック設置スイッチ21AのスイッチID「switch001」を検索して、このスイッチIDを含むリンク情報(リンクIDが「link001」、「link002」及び「link003」のレコード)を取得する。次いで管理用サーバ30は、統計情報テーブル324を参照し、経由リンクID欄324Fから、先に取得した1つ又は複数のリンク情報に含まれるリンクIDを検索して、一致したフローリスト(フローIDが「f001」、「f002」、「f003」、「f004」及び「f005」のレコード)を取得する。
次いで管理サーバ30は、仮想マシン情報テーブル322及び構成情報テーブル321を参照し、割当てMACアドレス欄322F又はMACアドレス欄321Dから上述のステップS65で取得したフローリストに含まれる送信元MACアドレス及び宛先MACアドレスを検索し、一致したMACアドレスが割り当てられている仮想マシン221、サーバ22又はストレージ23を仮想マシンID又は装置IDにより特定する。そして特定した仮想マシン221、サーバ22又はストレージ23のリスト、障害箇所及び検知時刻を障害詳細情報とし、これを管理用端末40に送信して(S66)、この通信障害時における影響範囲の推定処理を終了する。
(4−3)本実施の形態の効果
以上のように本実施の形態によれば、マルチパス環境において特定の経路に障害が発生した場合にFDB等の検索をすることなく、通信障害時の影響範囲を迅速に特定することができる。
以上のように本実施の形態によれば、マルチパス環境において特定の経路に障害が発生した場合にFDB等の検索をすることなく、通信障害時の影響範囲を迅速に特定することができる。
(5)第5の実施の形態
(5−1)ネットワーク管理システムの構成
図15において、1Eは全体として第5の実施の形態によるネットワーク管理システム1Eを示す。このネットワーク管理システム1Eは、マルチパス環境においてサーバ22及び又は仮想マシン221と、ストレージ23及び又はLV231との間で、既に公知のFCoE(Fibre Channel over Ethernet)プロトコルによる通信を行う点と、仮想マシン221がイニシエータ機能を有するVM仮想HBA(Host Bus Adapter)2216を備えて構成される点及びLV231がターゲット機能を有するLV仮想HBA232を備えて構成される点及び管理用ネットワークNの実現手段の一例として、管理用スイッチSWにより構成される点を除いて、第1の実施の形態によるネットワーク管理システム1Aと同様に構成されている。
(5−1)ネットワーク管理システムの構成
図15において、1Eは全体として第5の実施の形態によるネットワーク管理システム1Eを示す。このネットワーク管理システム1Eは、マルチパス環境においてサーバ22及び又は仮想マシン221と、ストレージ23及び又はLV231との間で、既に公知のFCoE(Fibre Channel over Ethernet)プロトコルによる通信を行う点と、仮想マシン221がイニシエータ機能を有するVM仮想HBA(Host Bus Adapter)2216を備えて構成される点及びLV231がターゲット機能を有するLV仮想HBA232を備えて構成される点及び管理用ネットワークNの実現手段の一例として、管理用スイッチSWにより構成される点を除いて、第1の実施の形態によるネットワーク管理システム1Aと同様に構成されている。
なおFCoEとは、ファイバチャネル(FC: Fiber Channel)のフレームをイーサネットフレームにカプセリング化してイーサネット上で動作させるための規格である。FCoEの規格は、標準化団体ANSI/INCITS(American National Standards Institute / International Committee for Information Technology Standards)T11において標準化が進められており、機能モデル等が規定されている。
FCoEを用いた通信を行う場合、FCをカプセリング化したイーサネットフレーム(以下、「FCoEパケット」と呼ぶ)に含まれる送信元MACアドレスおよび宛先MACアドレスは、通信経路上のネットワーク装置にて変更されてしまう場合がある。そのためマルチパス環境においてFCoEを用いた通信を行う場合、例えば上述の第1の実施の形態におけるラック設置スイッチ21Aの論理ポート218(図3参照)において受信したパケットを振り分ける際、図3の説明で上述した振分け方法によりFCoEパケットに含まれる送信元FCIDと宛先FCIDをキーに例えば上記式(1)のハッシュ関数Fにて振分け先を計算により決定することができる。なおFCIDとは、FCネットワークにおいてファイバチャネルのフレーム転送に利用される24bitの一意なアドレスであり、FCoEパケットに含まれている。
本実施の形態では、サーバ22及びストレージ23が備えるNIC等の通信装置14は、FCoEに対応したHBA機能を備える。HBA機能は、通信装置14上での実装に限らず、例えばサーバ22上のプログラムとして実現されてもよい。さらに仮想マシン221には1つ又は複数のVM仮想HBA2216を割り当てることが可能であるとする。またストレージ23には、各LV231に対して1つ又は複数のLV仮想HBA232を割り当てることが可能である。
VM仮想HBA2216及び又はLV仮想HBA232は、HBA機能を論理的に分割して使用するためのプログラムである。例えば仮想マシン実行部222が仮想マシン221にVM仮想HBA2216を割り当てることにより、仮想マシン221ごとのLV231への接続環境を提供することができる。
またラック設置スイッチ21は、FCoE規格(FC-BB-6)におけるデータ転送機能を実現するFDF(FCoE Data Forwarder)機能を有しており、また管理用スイッチSWは、FCoE規格(FC-BB-6)におけるファブリックサービス機能を実現するFCF(Fiber Channel Forwarder)機能を有している。
(5−2)各種テーブルの構成
図16は、管理用サーバ30に格納されている各種テーブルのうち、振分け情報テーブル3251を示す。この振分け情報テーブル3251は、振分け方法欄3251EにおいてFCoE以外のパケットを受信した場合と、FCoEパケットを受信した場合とで異なる振分け方法が設定されている点を除いて、第1の実施の形態で説明した振分け情報テーブル325(図8参照)と同様に構成されている。
図16は、管理用サーバ30に格納されている各種テーブルのうち、振分け情報テーブル3251を示す。この振分け情報テーブル3251は、振分け方法欄3251EにおいてFCoE以外のパケットを受信した場合と、FCoEパケットを受信した場合とで異なる振分け方法が設定されている点を除いて、第1の実施の形態で説明した振分け情報テーブル325(図8参照)と同様に構成されている。
図17は、管理用サーバ30に格納されている各種テーブルのうち、ボリューム割当てテーブル327を示す。このボリューム割当てテーブル327は、仮想マシン221に対するLV231の割当て情報を管理するためのテーブルである。
この図17に示すボリューム割当てテーブル327は、サーバID欄327A、仮想マシンID欄327B、VM仮想HBA/WWPN(World Wide Port Name)欄327C、ストレージID欄327D、LVID欄327E及びLV仮想HBA/WWPN欄327Fから構成される。
そしてサーバID欄327Aには、サーバ22を識別するための識別子(サーバID)が格納され、仮想マシンID欄327Bには、仮想マシン221を識別するための識別子(仮想マシンID)が格納される。
またVM仮想HBA/WWPN欄327Cには、仮想マシン221に割り当てたVM仮想HBA2216上の論理ポート218を識別するための識別情報であるWWPNが格納される。
またストレージID欄327Dには、ストレージ装置を識別するための識別子(ストレージID)が格納され、LVID欄327Eには、LVを識別するための識別子(LVID)が格納される。
またLV仮想HBA/WWPN欄327Fには、LV231に割り当てたLV仮想HBA232上の論理ポート218を識別するための識別情報であるWWPNが格納される。
従って図17の場合、例えばサーバIDが「server001」のサーバ22は、仮想マシンIDが「vm001」の仮想マシン221を備え、この仮想マシン221にはWWPNが「10:00:00:00:00:00:aa:01」のVM仮想HBA2216が割り当てられていることが示されている。またこのサーバには、ストレージIDが「storage001」であって、LVIDが「lv001」のストレージ23及びLV231が割り当てられており、さらにこのLV231には、WWPNが「10:00:00:00:00:00:ab:01」のLV仮想HBA232が割り当てられていることが示されている。
なおボリューム割当てテーブル327に格納される上述の各種情報は、仮想マシン221の生成の際、必要に応じてシステム管理者により設定される。
図18は、管理用サーバ30に格納されている各種テーブルのうち、FCID割当てテーブル328を示す。このFCID割当てテーブル328は、仮想HBA2216又は232に対して発行したFCID情報をこの仮想HBA2216又は232のWWPNと関連付けて管理するためのテーブルである。
この図18に示すFCID割当てテーブル328は、FDFスイッチID欄328A、WWPN欄328B及びFCID欄328Cから構成される。
そしてFDFスイッチID欄328Aには、FDF機能を有するネットワーク装置を識別するための識別子(スイッチID)が格納される。なおFDF機能とは、仮想HBA2216からのFCoEの初期化のためのプロトコルであるFIP(FCoE Initialization Protocol)を用いた各種リクエストを受信する機能である。
またWWPN欄328Bには、FDFスイッチにて受信したFIPを用いたFLOGI(Fabric Login)要求及び又はNPIV−FDISC(NPort ID Virtualization - Fabric Discovery)要求に含まれる要求元の仮想HBA2216を識別するための識別子(WWPN)が格納される。
またFCID欄328Cには、要求元の仮想HBA2216又は232に対して発行したFCIDが格納される。FCIDとは、FCネットワークにおいてFCフレーム転送に利用される24bitの一意なアドレスである。
従って図18の場合、FDFスイッチIDが「switch001」であるネットワーク装置に対し、WWPNが「10:00:00:00:00:00:aa:01」の仮想HBA2216によりFLOGI要求やNPIV−FDISC要求が行われ、この要求元のHBA又は仮想HBAには「00:00:01」というFCIDが発行されることが示されている。
なお仮想HBAは、FLOGI要求及び又はNPIV−FDISC要求の返信に含まれるFCID及びFC−MAPを組み合わせて、FPMA(FPMA: Fabric Provided Mac Address)を新たに作成する。FC−MAPとは、FCFが持つファブリックサービスごとに定められる48bitのデータである。つまりファブリックサービスが異なればFC−MAPも異なるため、FC−MAPとFCIDを組み合わせることにより、ネットワーク上に一意となる48bitのMACアドレスが生成されることになる。
またFCID割当てテーブル328に格納される上述の各種情報は、管理用サーバ30がFDF及び又はFCFを経由してFLOGI要求及び又はNPIV−FDISC要求を受信し、FCIDを発行した際、自動的に設定される。またこのFCID割当てテーブル328と同様の構造を持つテーブルがFCF機能を持つネットワーク装置(例えば、管理用スイッチSW)上にも保持されており、FCF機能により更新される。
(5−3)FCID発行処理の処理手順
次いで本実施の形態によるネットワーク管理方法に関する処理の処理手順について説明する。なお処理の前提条件として、既に知られているFCoE規格の一部であるFIP(FCoE Initialization Protocol)等により、FCoEの初期化が既に行われており、FCF機能とFDF機能の間の接続が確保されているものとする。また、HBAが起動された際、FIP−Discovery等の既に公知の方法により、HBAからFDF機能を有するラック設置スイッチ21が既に発見されており、FDF機能を有するラック設置スイッチ21の宛先MACアドレスが分かっているものとする。
次いで本実施の形態によるネットワーク管理方法に関する処理の処理手順について説明する。なお処理の前提条件として、既に知られているFCoE規格の一部であるFIP(FCoE Initialization Protocol)等により、FCoEの初期化が既に行われており、FCF機能とFDF機能の間の接続が確保されているものとする。また、HBAが起動された際、FIP−Discovery等の既に公知の方法により、HBAからFDF機能を有するラック設置スイッチ21が既に発見されており、FDF機能を有するラック設置スイッチ21の宛先MACアドレスが分かっているものとする。
また以下の説明では、処理の主体をHBA又は仮想HBA223、ラック設置スイッチ21、ラック設置スイッチSW及び管理用サーバ30として説明しているが、実際上はサーバ22、ラック設置スイッチ21、管理用スイッチSW及び管理用サーバ30のそれぞれのCPU11がメモリ12や外部記憶装置13等に格納された各種プログラムと協働して実行することは言うまでもない。
図19は、本実施の形態によるネットワーク管理方法に関連して、FCoEプロトコルによる通信を行う場合に特定のパスを通過するようにFCIDを発行する処理の処理手順を示す。HBA又は仮想HBAがログイン要求を受信すると、この図19に示す処理を開始する。
すなわち仮想マシン221に割当て済みのVM仮想HBA223又はLV231に割当て済みのLV仮想HBA232(以下、総称して単に「仮想HBA」と呼ぶ)は、HBA機能を有する通信装置14を介し、PDF機能を有するラック設置スイッチ21にログイン要求を送信する(S71)。
このログイン要求は、例えばFCoE規格のNPIV−FDISC要求により実現される。そしてこのログイン要求には、少なくとも要求元の仮想HBAを識別するための識別子(WWPN)が含まれる。またWWPNは、システム管理者等により仮想HBAに予め割り当てられているものとする。
ラック設置スイッチ21は、仮想HBAからログイン要求を受信すると、ログイン要求に含まれるWWPN及びラック設置スイッチ21の識別子(FDFスイッチID)をログイン処理要求として、このログイン処理要求を管理用スイッチSWに送信する(S72)。
管理用スイッチSWは、ラック設置スイッチ21からログイン処理要求を受信すると、FCID要求を管理用サーバ30に送信する(S30)。
なおFCID要求には、少なくとも要求元の仮想HBAを識別するための識別子(WWPN)及びラック設置スイッチ21を識別するための識別子(FDFスイッチID)が含まれる。
管理用サーバ30は、管理用スイッチSWからFCID要求を受信すると、ボリューム割当てテーブル327を参照し、VM仮想HBA/WWPN欄327C及び又はLV仮想HBA/WWPN欄327Fに格納されているWWPNからFCID要求に含まれるWWPNを検索する。すなわち管理用サーバ30は、受信したFCID要求に含まれるWWPNがボリューム割当てテーブル327に登録済みのWWPNであるか否か判断する(S74)。
管理用サーバ30は、この判断で否定結果を得ると、ステップS78に移行する。これに対し、管理サーバ30はこの判断で肯定結果を得ると、受信したFCID要求に含まれるWWPNがボリューム割当てテーブル327に登録済みのWWPNであると判断する。そして管理サーバ30は、FCID割当てテーブル328を参照し、WWPN欄328Bに格納されているWWPNから、上述のボリューム割当てテーブル327に登録済みのWWPNと同一のレコードであってこのWWPNとは異なるもう一方のWWPN(以下、「通信対象WWPN」と呼ぶ)を検索する。
具体的には、管理サーバ30はVM仮想HBA/WWPN欄327CにおいてFCID要求に含まれるWWPNと一致するレコードを検索により検出した場合、LV仮想HBA/WWPN欄327Fを通信対象WWPNとする。逆に管理サーバ30は、LV仮想HBA/WWPN欄327FにおいてFCID要求に含まれるWWPNと一致するレコードを検索により検出した場合、VM仮想HBA/WWPN欄327Cを通信対象WWPNとする。そして管理サーバ30は、通信対象WWPNをキーにして、FCID割当てテーブル328のWWPN欄328Bを検索する。
管理サーバ30は、FCID割当てテーブル328のFCID欄328Cを検索することにより、通信対象の仮想HBAにFCIDが発行済みであるか否か判断する(S75)。
そして管理サーバ30は、この判断で否定結果を得ると、ステップS78に移行する。これに対し、管理サーバ30はこの判断で肯定結果を得ると、検索により一致したFCIDを含むレコードのFDFスイッチID欄328Aに格納されているFDFスイッチIDと、FCID要求に含まれるFDFスイッチIDとに基づいて、この2つのFDFスイッチIDにより識別される2つのネットワーク装置を特定し、更にネットワーク構成テーブル323(図6参照)及び振分け情報テーブル3251(図16参照)を参照してこの2つのネットワーク装置間のパスがECMPネットワークを経由しているか否か判断する(S76)。
管理サーバ30は、この判断で否定結果を得ると、ステップS78に移行する。これに対し、管理サーバ30はこの判断で肯定結果を得ると、FCID割当てテーブル328を参照し、割当て済みのFCIDアドレスリストを検索する。更に管理サーバ30は、ネットワーク構成テーブル323を参照して、2つのFDFスイッチIDにより識別されるネットワーク装置間のECMPのパスのうち、リンクの通信量(例えば、平均送信量及び平均受信量の平均値)が最も小さいパスを構成する1つ又は複数のリンク(以下、「FCoE通信候補リンク」と呼ぶ)を決定する。そして管理サーバ30は、予め定められた割当て可能なFCIDの範囲(例えば、「00:00:01」〜「00:FF:FF」)のうち、既に割り当て済みの値以外の値を小さい順に一つ選択する。以下、選択された値を「割当て候補FCID」と呼ぶ。
なお上述の割当可能なFCIDの範囲は、FDFスイッチ間のFCoEパケットのルーティング情報として使用するために、例えばFDFスイッチごとに一意の範囲として決まっていてもよい。
そして管理サーバ30は、ステップS85で検索したレコードに含まれるFCID欄328CのFCIDと、割当て候補FCIDとの間の通信経路を上述の第1の実施の形態において説明した経路決定手順と同様の方法により計算し、経由するリンクを算出する。そして最後に、管理サーバ30はFCoE通信候補リンクと比較し、一致している場合には割当て候補FCIDを割当てFCIDとして決定し、一致しない場合には次の割当て済みFCIDではない値を小さい順に一つ選択して同様の処理を繰り返し、割当てFCIDを決定する(S77)。
これに対し、管理サーバ30は特定のリンクを経由するFCIDを算出する必要がない場合には割り当て可能なFCIDの範囲のうち、既に割り当て済みのFCID以外の任意のFCIDを割当てFCIDとして決定する(S78)。
管理サーバ30は、ステップS77又はS78において決定した割当てFCID、FCID要求に含まれるFDFスイッチID及びWWPNをFCID割当てテーブル328に登録して、FCID割当てテーブル328を更新する(S79)。
次いで管理サーバ30は、割当てFCIDを管理用スイッチSWに送信する(S80)。
管理用スイッチSWは、管理サーバ30から割当てFCIDを受信すると、管理用スイッチSW内で保持しているFCID割当てテーブル328にFDFスイッチID、WWPN及びFCIDを登録した後、この割当てFCID及びFCF機能が有するFC−MAPをラック設置スイッチ21に送信する(S81)。
ラック設置スイッチ21は、管理用スイッチSWから割当てFCID及びFC−MAPを受信すると、これらFCID及びFC−MAPを更に要求元の仮想HBAに送信する(S82)。
仮想HBAは、ラック設置スイッチ21からFCID及びFC−MAPを受信すると、これらFCID及びFC−MAPに基づいてFPMAを作成し、このFPMA及びFCIDを用いてFCoEパケット通信を行う(S83)。
(5−4)本実施の形態の効果
以上のように本実施の形態によれば、マルチパス環境において、特にサーバ22及び又は仮想サーバと、ストレージ23との間で既に公知のFCoEプロトコルによる通信を行う場合に、仮想マシン221又はLV231のHBA及び又は仮想HBAに対して最適なFCIDを割り当てることにより、ネットワークにおける通信の負荷を平衡にして利用効率の向上を実現することができる。
以上のように本実施の形態によれば、マルチパス環境において、特にサーバ22及び又は仮想サーバと、ストレージ23との間で既に公知のFCoEプロトコルによる通信を行う場合に、仮想マシン221又はLV231のHBA及び又は仮想HBAに対して最適なFCIDを割り当てることにより、ネットワークにおける通信の負荷を平衡にして利用効率の向上を実現することができる。
(6)他の実施の形態
他の実施の形態では、管理用サーバ30に代えて図示しないネットワーク管理装置が管理用ネットワークN又は管理用スイッチSWに接続されて構成されてもよい。この場合、ネットワーク管理装置は、管理用ネットワークN又は管理用スイッチSWを介して、中継スイッチ10、ラック設置スイッチ21、仮想マシン221、仮想マシン実行部222、分散通信ミドルウェア2215又は管理用端末40の何れかに対して上述の図9、図11、図13、図14及び図19の各処理を実行する。
他の実施の形態では、管理用サーバ30に代えて図示しないネットワーク管理装置が管理用ネットワークN又は管理用スイッチSWに接続されて構成されてもよい。この場合、ネットワーク管理装置は、管理用ネットワークN又は管理用スイッチSWを介して、中継スイッチ10、ラック設置スイッチ21、仮想マシン221、仮想マシン実行部222、分散通信ミドルウェア2215又は管理用端末40の何れかに対して上述の図9、図11、図13、図14及び図19の各処理を実行する。
またこのネットワーク管理装置が備える物理構成管理部311、仮想マシン管理部312、ネットワーク管理部313及び統計情報管理部314は、図示しない制御部により実現されてもよい。この場合、制御部はCPU11及びメモリ12等を備えて構成され、ネットワーク管理装置の各部の動作を統括的に制御する。
またこのネットワーク管理装置は、構成情報テーブル321、仮想マシン情報テーブル322、ネットワーク構成テーブル323、統計情報テーブル324、振分け情報テーブル325、仮想マシン稼働情報テーブル326、ボリューム割当てテーブル327及びFCID割当てテーブル328をメモリ12や外部記憶装置13に格納してもよいし、通信装置14(図2参照)等の取得部から取得及び入力してもよい。
本発明は、パケット転送経路の制御機能が搭載された種々の構成のネットワーク管理装置に広く適用することができる。
10……中継スイッチ、11……CPU、12……メモリ、13……外部記憶装置、14……通信装置、15……出力装置、16……入力装置、17……読書き装置、20……ラック、21……ラック設置スイッチ、211〜217……物理ポート、218……論理ポート、22……サーバ、221……仮想マシン、2211〜2213……仮想NIC、2214……アプリケーション、2215……分散通信ミドルウェア、222……仮想マシン実行部、23……ストレージ、231……LV、30……管理用サーバ、321……構成情報テーブル、322……仮想マシン情報テーブル、323……ネットワーク構成テーブル、324……統計情報テーブル、325……振分け情報テーブル、326……仮想マシン稼働情報テーブル、327……ボリューム割当てテーブル、328……FCID割当てテーブル、40……管理用端末、N……管理用ネットワーク、SW……管理用スイッチ。
Claims (15)
- サーバ間、ストレージ間又はサーバとストレージとの間の通信にマルチパスのネットワークが構成されており、前記サーバ上で稼働する仮想マシン又は前記ストレージ上で稼働する論理ボリュームに対し、前記マルチパスを利用してパケットを転送する際のパケットの転送経路に関して制御を行うネットワーク管理装置において、
前記ネットワーク管理装置は、
前記ネットワークの利用状況を管理するためのネットワーク構成情報及び前記ネットワークを流れるパケットの統計情報を管理するための統計情報を取得する取得部と、
前記取得部により取得される前記ネットワーク構成情報及び前記統計情報に基づいて、前記仮想マシン又は前記論理ボリュームに既に割り当てられている既存アドレスの再割り当てを行う制御部とを備え、
前記制御部は、
前記既存アドレスの再割り当てを行う場合、前記ネットワーク構成情報に基づいて前記ネットワークを構成するリンクのうち、リンクコストが最も大きいリンクを抽出し、前記統計情報に基づいて前記抽出したリンクを経由するフローを特定し、該特定したフローの経路変更要求及び経由を希望する経由リンク要求を外部端末から受け付けた場合には前記特定したフローのアドレスペアのうち何れか一方のアドレスを変更対象アドレスとして選択し、該選択した変更対象アドレスを変更するに際しては前記経由リンク要求に含まれるリンクを経由するアドレスであって、かつ、未割当てのアドレスを割当て候補アドレスとして選択することにより前記変更対象アドレスを前記割当て候補アドレスに変更する
ことを特徴とするネットワーク管理装置。 - 前記制御部は、
前記特定したフローのアドレスペアのうち何れか一方のアドレスを変更対象アドレスとして選択するに際して、ソフトウェアにより実現されているネットワークインタフェースに割り当てられているアドレスを前記変更対象アドレスとして選択する
ことを特徴とする請求項1に記載のネットワーク管理装置。 - 前記制御部は、
前記特定したフローのアドレスペアのうち何れか一方のアドレスを変更対象アドレスとして選択するに際して、前記特定したフローのアドレスペアの何れもがソフトウェアにより実現されているネットワークインタフェースに割り当てられているアドレスである場合、前記特定したフローのアドレスペアのうち、前記統計情報においてより多く管理されているアドレスを前記変更対象アドレスとして選択する
ことを特徴とする請求項1に記載のネットワーク管理装置。 - 前記取得部は、
前記仮想マシンの稼働状態を管理するための仮想マシン稼働情報を取得し、
前記制御部は、
前記仮想マシンの複製である新規追加仮想マシンを前記サーバ上に新たに追加する場合であって、前記新規追加仮想マシンに対して新規にアドレスを割り当てる場合、前記取得部により取得した前記仮想マシン稼働情報に基づいて複製元の前記仮想マシンの通信特性を抽出し、該抽出した仮想マシンの通信特定に基づいて前記新規追加仮想マシンの通信特性を推定し、該推定した通信特性、前記ネットワーク構成情報及び前記統計情報に基づいて、前記新規追加仮想マシンンに対して新規にアドレスを割り当てる
ことを特徴とする請求項1に記載のネットワーク管理装置。 - 前記制御部は、
前記外部端末からパケットの分散転送要求を受け付けると、前記マルチパスのパス数を算出し、該算出したパス数と同じ数であって、かつ、それぞれ異なるパスを経由する未割当てのアドレスを前記ネットワーク構成情報及び前記統計情報に基づいて算出し、該算出したアドレスを前記仮想マシンに割り当てる
ことを特徴とする請求項1に記載のネットワーク管理装置。 - 前記ネットワーク構成情報には、
送信元スイッチ及び宛先スイッチの間のリンクの情報が含まれており、
前記統計情報には、
前記リンクの情報に対応する送信元アドレス及び宛先アドレスの情報が含まれており、
前記制御部は、
前記サーバ間、前記ストレージ間又は前記サーバと前記ストレージとの間のリンクに障害が発生した場合、前記ネットワーク構成情報及び前記統計情報に基づいて、障害により影響を受けたフロー及び装置を特定する
ことを特徴とする請求項1に記載のネットワーク管理装置。 - 前記制御部は、
前記仮想マシン及び又は前記論理ボリュームに割り当てるアドレスにFCoEにおけるFCIDを含ませ、前記仮想マシン及び又は前記論理ボリュームのFC通信用のインタフェースに対して前記FCIDを割り当てる
ことを特徴とする請求項1に記載のネットワーク管理装置。 - サーバ間、ストレージ間又はサーバとストレージとの間の通信にマルチパスのネットワークが構成されており、前記サーバ上で稼働する仮想マシン又は前記ストレージ上で稼働する論理ボリュームに対し、前記マルチパスを利用してパケットを転送する際のパケットの転送経路に関して制御を行うネットワーク管理装置のネットワーク管理方法において、
前記ネットワーク管理装置は、
前記ネットワークの利用状況を管理するためのネットワーク構成情報及び前記ネットワークを流れるパケットの統計情報を管理するための統計情報を取得する取得部と、
前記取得部により取得される前記ネットワーク構成情報及び前記統計情報に基づいて、前記仮想マシン又は前記論理ボリュームに既に割り当てられている既存アドレスの再割り当てを行う制御部とを備え、
前記制御部が、
前記既存アドレスの再割り当てを行う場合、前記ネットワーク構成情報に基づいて前記ネットワークを構成するリンクのうち、リンクコストが最も大きいリンクを抽出する第1のステップと、前記統計情報に基づいて前記抽出したリンクを経由するフローを特定する第2のステップと、前記特定したフローの経路変更要求及び経由を希望する経由リンク要求を外部端末から受け付けた場合には前記特定したフローのアドレスペアのうち何れか一方のアドレスを変更対象アドレスとして選択する第3のステップと、前記選択した変更対象アドレスを変更するに際しては前記経由リンク要求に含まれるリンクを経由するアドレスであって、かつ、未割当てのアドレスを割当て候補アドレスとして選択する第4のステップと、前記変更対象アドレスを前記割当て候補アドレスに変更する第5のステップと
を備えることを特徴とするネットワーク管理方法。 - 前記3のステップにおいて、
前記制御部が、
前記特定したフローのアドレスペアのうち何れか一方のアドレスを変更対象アドレスとして選択するに際して、ソフトウェアにより実現されているネットワークインタフェースに割り当てられているアドレスを前記変更対象アドレスとして選択する
ことを特徴とする請求項8に記載のネットワーク管理方法。 - 前記第3のステップにおいて、
前記制御部が、
前記特定したフローのアドレスペアのうち何れか一方のアドレスを変更対象アドレスとして選択するに際して、前記特定したフローのアドレスペアの何れもがソフトウェアにより実現されているネットワークインタフェースに割り当てられているアドレスである場合、前記特定したフローのアドレスペアのうち、前記統計情報においてより多く管理されているアドレスを前記変更対象アドレスとして選択する
ことを特徴とする請求項8に記載のネットワーク管理方法。 - 前記取得部が、
前記仮想マシンの稼働状態を管理するための仮想マシン稼働情報を取得する第6のステップと、
前記制御部が、
前記仮想マシンの複製である新規追加仮想マシンを前記サーバ上に新たに追加する場合であって、前記新規追加仮想マシンに対して新規にアドレスを割り当てる場合、前記取得部により取得した前記仮想マシン稼働情報に基づいて複製元の前記仮想マシンの通信特性を抽出し、該抽出した仮想マシンの通信特定に基づいて前記新規追加仮想マシンの通信特性を推定し、該推定した通信特性、前記ネットワーク構成情報及び前記統計情報に基づいて、前記新規追加仮想マシンンに対して新規にアドレスを割り当てる第7のステップと
を備えることを特徴とする請求項8に記載のネットワーク管理方法。 - 前記制御部が、
前記外部端末からパケットの分散転送要求を受け付けると、前記マルチパスのパス数を算出し、該算出したパス数と同じ数であって、かつ、それぞれ異なるパスを経由する未割当てのアドレスを前記ネットワーク構成情報及び前記統計情報に基づいて算出し、該算出したアドレスを前記仮想マシンに割り当てる第8のステップ
を備えることを特徴とする請求項8に記載のネットワーク管理方法。 - 前記ネットワーク構成情報には、
送信元スイッチ及び宛先スイッチの間のリンクの情報が含まれており、
前記統計情報には、
前記リンクの情報に対応する送信元アドレス及び宛先アドレスの情報が含まれており、
前記制御部が、
前記サーバ間、前記ストレージ間又は前記サーバと前記ストレージとの間のリンクに障害が発生した場合、前記ネットワーク構成情報及び前記統計情報に基づいて、障害により影響を受けたフロー及び装置を特定する第9のステップ
を備えることを特徴とする請求項8に記載のネットワーク管理方法。 - 前記制御部が、
前記仮想マシン及び又は前記論理ボリュームに割り当てるアドレスにFCoEにおけるFCIDを含ませ、前記仮想マシン及び又は前記論理ボリュームのFC通信用のインタフェースに対して前記FCIDを割り当てる第10のステップ
を備えることを特徴とする請求項8に記載のネットワーク管理方法。 - サーバ間、ストレージ間又はサーバとストレージとの間の通信にマルチパスのネットワークが構成されており、前記サーバ上で稼働する仮想マシン又は前記ストレージ上で稼働する論理ボリュームに対し、前記マルチパスを利用してパケットを転送する際のパケットの転送経路に関して制御を行うネットワーク管理システムにおいて、
前記ネットワークの利用状況を管理するためのネットワーク構成情報及び前記ネットワークを流れるパケットの統計情報を管理するための統計情報とを取得する取得部と、
前記取得部により取得される前記ネットワーク構成情報及び前記統計情報に基づいて、前記仮想マシン又は前記論理ボリュームに既に割り当てられている既存アドレスの再割り当てを行う制御部を備え、
前記制御部は、
前記既存アドレスの再割り当てを行う場合、前記ネットワーク構成情報に基づいて前記ネットワークを構成するリンクのうち、リンクコストが最も大きいリンクを抽出し、前記統計情報に基づいて前記抽出したリンクを経由するフローを特定し、該特定したフローの経路変更要求及び経由を希望する経由リンク要求を外部端末から受け付けた場合、前記特定したフローのアドレスペアのうち何れか一方のアドレスを変更対象アドレスとして選択し、該選択した変更対象アドレスを変更するに際しては前記経由リンク要求に含まれるリンクを経由するアドレスであって、かつ、未割当てのアドレスを割当て候補アドレスとして選択することにより前記変更対象アドレスを前記割当て候補アドレスに変更する
ことを特徴とするネットワーク管理システム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2011/001314 WO2012120557A1 (ja) | 2011-03-07 | 2011-03-07 | ネットワーク管理装置、ネットワーク管理方法及びネットワーク管理システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5422777B2 true JP5422777B2 (ja) | 2014-02-19 |
JPWO2012120557A1 JPWO2012120557A1 (ja) | 2014-07-07 |
Family
ID=46797574
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013503222A Active JP5422777B2 (ja) | 2011-03-07 | 2011-03-07 | ネットワーク管理装置、ネットワーク管理方法及びネットワーク管理システム |
Country Status (3)
Country | Link |
---|---|
US (1) | US9219650B2 (ja) |
JP (1) | JP5422777B2 (ja) |
WO (1) | WO2012120557A1 (ja) |
Families Citing this family (84)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8867552B2 (en) | 2010-05-03 | 2014-10-21 | Brocade Communications Systems, Inc. | Virtual cluster switching |
US9716672B2 (en) | 2010-05-28 | 2017-07-25 | Brocade Communications Systems, Inc. | Distributed configuration management for virtual cluster switching |
US9769016B2 (en) | 2010-06-07 | 2017-09-19 | Brocade Communications Systems, Inc. | Advanced link tracking for virtual cluster switching |
US9270486B2 (en) | 2010-06-07 | 2016-02-23 | Brocade Communications Systems, Inc. | Name services for virtual cluster switching |
US9806906B2 (en) | 2010-06-08 | 2017-10-31 | Brocade Communications Systems, Inc. | Flooding packets on a per-virtual-network basis |
US9628293B2 (en) | 2010-06-08 | 2017-04-18 | Brocade Communications Systems, Inc. | Network layer multicasting in trill networks |
US9608833B2 (en) | 2010-06-08 | 2017-03-28 | Brocade Communications Systems, Inc. | Supporting multiple multicast trees in trill networks |
US9807031B2 (en) | 2010-07-16 | 2017-10-31 | Brocade Communications Systems, Inc. | System and method for network configuration |
US9736085B2 (en) | 2011-08-29 | 2017-08-15 | Brocade Communications Systems, Inc. | End-to end lossless Ethernet in Ethernet fabric |
US9699117B2 (en) | 2011-11-08 | 2017-07-04 | Brocade Communications Systems, Inc. | Integrated fibre channel support in an ethernet fabric switch |
US9450870B2 (en) | 2011-11-10 | 2016-09-20 | Brocade Communications Systems, Inc. | System and method for flow management in software-defined networks |
EP3133775B1 (en) * | 2011-12-29 | 2020-05-06 | Huawei Technologies Co., Ltd. | Cloud computing system and method for managing storage resources therein |
US9742693B2 (en) | 2012-02-27 | 2017-08-22 | Brocade Communications Systems, Inc. | Dynamic service insertion in a fabric switch |
US9154416B2 (en) | 2012-03-22 | 2015-10-06 | Brocade Communications Systems, Inc. | Overlay tunnel in a fabric switch |
US8873369B2 (en) * | 2012-04-25 | 2014-10-28 | Hewlett-Packard Development Company, L.P. | Fiber channel 1:N redundancy |
US9577872B2 (en) * | 2012-04-25 | 2017-02-21 | Hewlett Packard Enterprise Development Lp | Fiber channel 1:N redundancy |
US10277464B2 (en) | 2012-05-22 | 2019-04-30 | Arris Enterprises Llc | Client auto-configuration in a multi-switch link aggregation |
US9684630B1 (en) * | 2012-12-05 | 2017-06-20 | Amazon Technologies, Inc. | Provisioning of cryptographic modules |
US9450877B1 (en) * | 2012-12-18 | 2016-09-20 | Juniper Networks, Inc. | Methods and apparatus for load balancing communication sessions |
US9413691B2 (en) | 2013-01-11 | 2016-08-09 | Brocade Communications Systems, Inc. | MAC address synchronization in a fabric switch |
US9548926B2 (en) | 2013-01-11 | 2017-01-17 | Brocade Communications Systems, Inc. | Multicast traffic load balancing over virtual link aggregation |
US10616049B2 (en) | 2013-01-25 | 2020-04-07 | Dell Products, L.P. | System and method for determining the configuration of switches in virtual link trunking environments |
US9407500B2 (en) * | 2013-01-25 | 2016-08-02 | Dell Products L.P. | System and method for determining the configuration of switches in virtual link trunking environments |
US9565099B2 (en) | 2013-03-01 | 2017-02-07 | Brocade Communications Systems, Inc. | Spanning tree in fabric switches |
US9535728B2 (en) * | 2013-03-18 | 2017-01-03 | International Business Machines Corporation | Scalable policy management in an edge virtual bridging (EVB) environment |
US9529612B2 (en) * | 2013-03-18 | 2016-12-27 | International Business Machines Corporation | Scalable policy assignment in an edge virtual bridging (EVB) environment |
JP5935939B2 (ja) * | 2013-03-19 | 2016-06-15 | 富士通株式会社 | スイッチ及びプログラム |
US9497132B2 (en) | 2013-04-23 | 2016-11-15 | Telefonaktiebolaget Lm Ericsson (Publ) | Method and system of implementing conversation-sensitive collection for a link aggregation group |
US20140317616A1 (en) * | 2013-04-23 | 2014-10-23 | Thomas P. Chu | Cloud computing resource management |
US9553798B2 (en) | 2013-04-23 | 2017-01-24 | Telefonaktiebolaget L M Ericsson (Publ) | Method and system of updating conversation allocation in link aggregation |
US9461880B2 (en) | 2013-04-23 | 2016-10-04 | Telefonaktiebolaget L M Ericsson (Publ) | Method and system for network and intra-portal link (IPL) sharing in distributed relay control protocol (DRCP) |
US9912612B2 (en) | 2013-10-28 | 2018-03-06 | Brocade Communications Systems LLC | Extended ethernet fabric switches |
US10374941B2 (en) * | 2013-10-30 | 2019-08-06 | Entit Software Llc | Determining aggregation information |
US9654418B2 (en) | 2013-11-05 | 2017-05-16 | Telefonaktiebolaget L M Ericsson (Publ) | Method and system of supporting operator commands in link aggregation group |
JP6204168B2 (ja) * | 2013-11-27 | 2017-09-27 | 株式会社日立製作所 | 転送装置、サーバ、および経路変更方法 |
US9548873B2 (en) | 2014-02-10 | 2017-01-17 | Brocade Communications Systems, Inc. | Virtual extensible LAN tunnel keepalives |
US9424216B2 (en) * | 2014-03-14 | 2016-08-23 | International Business Machines Corporation | Ascertaining configuration of a virtual adapter in a computing environment |
US9374324B2 (en) * | 2014-03-14 | 2016-06-21 | International Business Machines Corporation | Determining virtual adapter access controls in a computing environment |
US10581758B2 (en) | 2014-03-19 | 2020-03-03 | Avago Technologies International Sales Pte. Limited | Distributed hot standby links for vLAG |
US10476698B2 (en) | 2014-03-20 | 2019-11-12 | Avago Technologies International Sales Pte. Limited | Redundent virtual link aggregation group |
JP6252309B2 (ja) * | 2014-03-31 | 2017-12-27 | 富士通株式会社 | 監視漏れ特定処理プログラム,監視漏れ特定処理方法及び監視漏れ特定処理装置 |
US9426098B2 (en) * | 2014-04-29 | 2016-08-23 | International Business Machines Corporation | Synchronizing out-of-sync elements in a distributed fibre channel forwarder |
US10063473B2 (en) | 2014-04-30 | 2018-08-28 | Brocade Communications Systems LLC | Method and system for facilitating switch virtualization in a network of interconnected switches |
US9800471B2 (en) | 2014-05-13 | 2017-10-24 | Brocade Communications Systems, Inc. | Network extension groups of global VLANs in a fabric switch |
US9830246B2 (en) * | 2014-06-18 | 2017-11-28 | International Business Machines Corporation | Management and correlation of network identification for communication errors |
US10097410B2 (en) | 2014-06-26 | 2018-10-09 | Vmware, Inc. | Methods and apparatus to scale application deployments in cloud computing environments |
US10616108B2 (en) | 2014-07-29 | 2020-04-07 | Avago Technologies International Sales Pte. Limited | Scalable MAC address virtualization |
US9807007B2 (en) | 2014-08-11 | 2017-10-31 | Brocade Communications Systems, Inc. | Progressive MAC address learning |
US10044570B2 (en) * | 2014-08-22 | 2018-08-07 | Vmware, Inc. | Policy management system with proactive and reactive monitoring and enforcement |
US9813290B2 (en) | 2014-08-29 | 2017-11-07 | Telefonaktiebolaget Lm Ericsson (Publ) | Method and system for supporting distributed relay control protocol (DRCP) operations upon misconfiguration |
US9942144B1 (en) * | 2014-09-30 | 2018-04-10 | Juniper Networks, Inc. | Fibre channel over ethernet (FCoE) link aggregation group (LAG) support in data center networks |
US9699029B2 (en) | 2014-10-10 | 2017-07-04 | Brocade Communications Systems, Inc. | Distributed configuration management in a switch group |
JP6487692B2 (ja) * | 2014-12-24 | 2019-03-20 | 富士通株式会社 | 情報処理システム及び情報処理システムの制御方法 |
US9626255B2 (en) | 2014-12-31 | 2017-04-18 | Brocade Communications Systems, Inc. | Online restoration of a switch snapshot |
US9628407B2 (en) * | 2014-12-31 | 2017-04-18 | Brocade Communications Systems, Inc. | Multiple software versions in a switch group |
US9942097B2 (en) | 2015-01-05 | 2018-04-10 | Brocade Communications Systems LLC | Power management in a network of interconnected switches |
US10003552B2 (en) | 2015-01-05 | 2018-06-19 | Brocade Communications Systems, Llc. | Distributed bidirectional forwarding detection protocol (D-BFD) for cluster of interconnected switches |
US10038592B2 (en) | 2015-03-17 | 2018-07-31 | Brocade Communications Systems LLC | Identifier assignment to a new switch in a switch group |
US9807005B2 (en) | 2015-03-17 | 2017-10-31 | Brocade Communications Systems, Inc. | Multi-fabric manager |
US10579406B2 (en) | 2015-04-08 | 2020-03-03 | Avago Technologies International Sales Pte. Limited | Dynamic orchestration of overlay tunnels |
CN106302204B (zh) * | 2015-05-15 | 2020-11-03 | 中兴通讯股份有限公司 | 传输处理方法及装置 |
US10439929B2 (en) | 2015-07-31 | 2019-10-08 | Avago Technologies International Sales Pte. Limited | Graceful recovery of a multicast-enabled switch |
US10171303B2 (en) | 2015-09-16 | 2019-01-01 | Avago Technologies International Sales Pte. Limited | IP-based interconnection of switches with a logical chassis |
US10129184B1 (en) * | 2015-09-28 | 2018-11-13 | Amazon Technologies, Inc. | Detecting the source of link errors in a cut-through forwarding network fabric |
US10320680B1 (en) * | 2015-11-04 | 2019-06-11 | Amazon Technologies, Inc. | Load balancer that avoids short circuits |
US10659366B1 (en) | 2015-11-04 | 2020-05-19 | Amazon Technologies, Inc. | Load balancer metadata forwarding on secure connections |
US9912614B2 (en) | 2015-12-07 | 2018-03-06 | Brocade Communications Systems LLC | Interconnection of switches based on hierarchical overlay tunneling |
US20170289002A1 (en) * | 2016-03-31 | 2017-10-05 | Mrittika Ganguli | Technologies for deploying dynamic underlay networks in cloud computing infrastructures |
US10237090B2 (en) | 2016-10-28 | 2019-03-19 | Avago Technologies International Sales Pte. Limited | Rule-based network identifier mapping |
US10263807B2 (en) * | 2016-12-19 | 2019-04-16 | Ciena Corporation | Hierarchical statistics acceleration |
WO2018132051A1 (en) * | 2017-01-16 | 2018-07-19 | Telefonaktiebolaget Lm Ericsson (Publ) | Link switch in a wireless communication system |
US11153224B2 (en) * | 2017-02-09 | 2021-10-19 | Radcom Ltd. | Method of providing cloud computing infrastructure |
US10776428B2 (en) | 2017-02-16 | 2020-09-15 | Nasdaq Technology Ab | Systems and methods of retrospectively determining how submitted data transaction requests operate against a dynamic data structure |
US10789097B2 (en) | 2017-02-16 | 2020-09-29 | Nasdaq Technology Ab | Methods and systems of scheduling computer processes or tasks in a distributed system |
JP6867589B2 (ja) * | 2017-05-30 | 2021-04-28 | 富士通株式会社 | 影響範囲特定プログラム、影響範囲特定方法、および影響範囲特定装置 |
US20190044809A1 (en) * | 2017-08-30 | 2019-02-07 | Intel Corporation | Technologies for managing a flexible host interface of a network interface controller |
US10348683B2 (en) * | 2017-11-02 | 2019-07-09 | Nicira Inc. | Network packet filtering via media access control (MAC) address learning |
US10523457B2 (en) | 2017-12-21 | 2019-12-31 | Industrial Technology Research Institute | Network communication method, system and controller of PCIe and Ethernet hybrid networks |
JP6878369B2 (ja) * | 2018-09-03 | 2021-05-26 | 株式会社日立製作所 | ボリューム配置管理装置、ボリューム配置管理方法、及びボリューム配置管理プログラム |
TWI679861B (zh) | 2018-09-06 | 2019-12-11 | 財團法人工業技術研究院 | 控制器、調整封包通信規則的方法及網路通信系統 |
US10635618B2 (en) * | 2018-09-17 | 2020-04-28 | 2236008 Ontario Inc. | Modifying a configuration of a port hub |
JP2022022059A (ja) * | 2020-07-22 | 2022-02-03 | 富士通株式会社 | 情報処理装置、情報処理プログラム、及び情報処理方法 |
CN114238181B (zh) * | 2021-09-18 | 2023-08-11 | 苏州浪潮智能科技有限公司 | 多路径设备路径的物理链路信息的处理方法和获取方法 |
CN114465984B (zh) * | 2022-04-12 | 2022-08-23 | 浙江中控研究院有限公司 | 基于传输路径的地址分配方法、***、设备和计算机可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6888797B1 (en) * | 1999-05-05 | 2005-05-03 | Lucent Technologies Inc. | Hashing-based network load balancing |
JP2005318222A (ja) * | 2004-04-28 | 2005-11-10 | Mitsubishi Electric Corp | パケット伝送システム及びパケット伝送方法 |
-
2011
- 2011-03-07 WO PCT/JP2011/001314 patent/WO2012120557A1/ja active Application Filing
- 2011-03-07 US US14/003,315 patent/US9219650B2/en not_active Expired - Fee Related
- 2011-03-07 JP JP2013503222A patent/JP5422777B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6888797B1 (en) * | 1999-05-05 | 2005-05-03 | Lucent Technologies Inc. | Hashing-based network load balancing |
JP2005318222A (ja) * | 2004-04-28 | 2005-11-10 | Mitsubishi Electric Corp | パケット伝送システム及びパケット伝送方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2012120557A1 (ja) | 2012-09-13 |
US20140064056A1 (en) | 2014-03-06 |
JPWO2012120557A1 (ja) | 2014-07-07 |
US9219650B2 (en) | 2015-12-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5422777B2 (ja) | ネットワーク管理装置、ネットワーク管理方法及びネットワーク管理システム | |
JP7417825B2 (ja) | スライスベースルーティング | |
Xia et al. | A survey on data center networking (DCN): Infrastructure and operations | |
JP7472200B2 (ja) | 無損失ネットワークにおける効率的な仮想化のためのシステムおよび方法 | |
US10104017B2 (en) | Methods, systems and apparatus for the virtualization of high performance networks | |
US9992137B2 (en) | Methods and apparatus for a distributed Fibre Channel control plane | |
US9858104B2 (en) | Connecting fabrics via switch-to-switch tunneling transparent to network servers | |
JP5497244B2 (ja) | スイッチング・ネットワークにおいてフロー制御を実施するための方法、マスタ・スイッチ、スイッチング・ネットワーク、プログラム、装置、システム | |
US9954736B2 (en) | System and method of discovering paths in a network | |
US8824286B2 (en) | Network aware global load balancing system and method | |
US10257066B2 (en) | Interconnect congestion control in a storage grid | |
CN104335537B (zh) | 用于层2多播多路径传送的***和方法 | |
JP2023503274A (ja) | 高性能コンピューティング環境においてプライベートファブリックにおける順方向および逆方向輻輳通知の使用をサポートするためのシステムおよび方法 | |
US10785145B2 (en) | System and method of flow aware resilient ECMP | |
JP2013545359A (ja) | スイッチング・ネットワークにおけるスイッチングのための方法、マスタ・スイッチ、スイッチング・ネットワーク、プログラム、装置、システム | |
JP2022003791A (ja) | 高性能コンピューティング環境においてスケーラブルなビットマップに基づくP_Keyテーブルをサポートするためのシステムおよび方法 | |
US20120051364A1 (en) | Distributed routing according to longest match principle | |
JP6047248B2 (ja) | ファイバチャネルにおけるノードポート仮想化を実施する方法、装置、及びシステム | |
Hwang et al. | Load balancing and routing mechanism based on software defined network in data centers | |
Yazidi et al. | Data center traffic scheduling with hot-cold link detection capabilities | |
EP3026851A1 (en) | Apparatus, network gateway, method and computer program for providing information related to a specific route to a service in a network | |
WO2013069133A1 (ja) | フレーム中継装置、通信システム、および、データ転送方法 | |
EP2608469B1 (en) | Methods and apparatus for a distributed fibre channel control plane | |
WO2023169407A1 (zh) | 一种下发路由表的方法及相关装置 | |
Sehery | OneSwitch Data Center Architecture |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131029 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131125 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5422777 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |