JP6280237B2 - 計算機システム及びデータ処理方法 - Google Patents
計算機システム及びデータ処理方法 Download PDFInfo
- Publication number
- JP6280237B2 JP6280237B2 JP2016559707A JP2016559707A JP6280237B2 JP 6280237 B2 JP6280237 B2 JP 6280237B2 JP 2016559707 A JP2016559707 A JP 2016559707A JP 2016559707 A JP2016559707 A JP 2016559707A JP 6280237 B2 JP6280237 B2 JP 6280237B2
- Authority
- JP
- Japan
- Prior art keywords
- processing
- request
- batch
- time
- computer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5066—Algorithms for mapping a plurality of inter-dependent sub-tasks onto a plurality of physical CPUs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
- G06F9/4887—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues involving deadlines, e.g. rate based, periodic
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5038—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5017—Task decomposition
Description
残りのバッチ処理時間(例えば秒)=想定分割数704×(平均実行時間705+ 平均実行間隔706)
バッチ予測終了時刻=現在時刻+残りのバッチ処理時間
想定分割数704=(総数806−位置805)/分割サイズ703
(X):バッチ処理キャンセル。管理者が、バッチ処理をキャンセルするか否かを判定できるようにする。
(Y):分割サイズ変更。管理者が、分割サイズ703を変更すべきか否かを判定できるようにする。
(1)制御部132(要求制御部151)が、分割バッチ要求に従いデータストア501を更新する場合、更新前のデータストア501と更新後のデータストア501との差分を管理するようになっている。例えば、制御部132は、新たなバッチ要求について最初の分割バッチ要求を実行する場合、更新前のデータストア501のスナップショットを確保しておく。これにより、バッチ処理がキャンセルされた場合、バッチ要求に従う更新対象のデータストア501を、確保されているスナップショットを基に更新前のデータストア501に戻すことができる。
(2)制御部132(要求制御部151)が、キャンセル対象のバッチ要求に対応した分割バッチ要求を記憶資源(例えば主記憶デバイス124)から破棄する。
(3)制御部132(要求制御部151)が、キャンセル要求を、第二サーバ計算機111Bに転送する。転送先の第二サーバ計算機111Bにおいて、制御部132B(例えば要求制御部151B)が、キャンセル対象のバッチ要求に対応した分割バッチ要求を記憶資源(例えば主記憶デバイス124B)から破棄し、且つ、バッチ要求に従う更新対象のデータストア501Bを、確保されているスナップショットを基に更新前のデータストア501Bに戻す。
(実行2)全順序配信部133が実行順序を決定すること、のいずれでもよい。従って、「実行間隔の制御」とは、実行1のタイミング(間隔)の制御、及び、実行2のタイミング(間隔)の制御、のうちのいずれでもよい。実行間隔の制御について、例えば以下の具体例(A)〜(E)がある。実行間隔の制御により、オンライン性能の低下を軽減できる。
(A)入力部134経由等で指定された時間間隔(パラメタ)が、実行1の間隔又は実行2の間隔である。
(B)入力部134経由等で指定されたオンライン要求数(パラメタ)と同数のオンライン要求が実行されたタイミングが、実行1又は実行2のタイミングである。
(C)モニタ結果情報を基に特定されたオンライン処理負荷が閾値(許容レイテンシ時間など)未満である間における時点、又は、モニタ結果情報を基に特定されたオンライン遅延率が閾値未満である間における時点が、実行1又は実行2のタイミングである。
(D)モニタ結果情報を基に特定されるバッチ処理進捗状況と、入力部134経由等で指定された目標終了時刻(バッチ処理の目標終了時刻)とに基づいて制御部132又は全順序配信部133により決定された間隔(タイミング)が、実行1又は実行2の間隔である。
(E)バッチ処理が通信ネットワーク171経由のデータ転送を必要とする処理(例えばデータコピー処理)の場合、データ転送にはネットワーク負荷がかかる。このため、モニタ部131がネットワーク帯域使用量を監視する。モニタ結果情報を基に特定されたネットワーク帯域使用量が閾値未満である間における時点が、実行1又は実行2のタイミングである。
Claims (12)
- それぞれ処理要求を実行する複数の計算機を備え、
前記複数の計算機は、
前記複数の計算機のうちのいずれかの計算機である第一計算機と、
前記第一計算機との間でデータの一貫性を保つべき1以上の計算機である1以上の第二計算機と
を含み、
前記第一計算機は、
第一の処理要求より優先順位の低い第二の処理要求の実行を決定したとき、予め定められた分割サイズに従い前記第二の処理要求を基に分割第二処理要求を作成し、
1以上の第二の処理要求に対応した1以上の分割第二処理要求と1以上の第一の処理要求の実行順序を決定し、
前記決定した実行順序を含む提案を前記1以上の第二計算機に送信し、
一定数以上の前記第二計算機から前記提案に対する合意を受けた後、前記第一計算機と前記1以上の第二計算機との各々は、
前記合意を受けた前記提案に含まれる前記実行順序で前記1以上の分割第二処理要求と前記1以上の第一の処理要求を実行する、
計算機システム。 - 前記第一計算機は、データ処理の実行状況を監視するようになっており、
前記第一計算機は、監視結果を示すモニタ結果情報が、いずれの第一の処理要求も実行されていないことを示す場合に、前記第二の処理要求の実行を決定する、
請求項1に記載の計算機システム。 - 前記モニタ結果情報は、第一の処理要求のデータが実行される時間に関する情報である第一処理時間情報を含み、
前記第一計算機は、前記第一処理時間情報に基づいて、前記分割サイズを変更する、
請求項2に記載の計算機システム。 - 前記モニタ結果情報は、第一の処理要求のデータが実行される時間に関する情報である第一処理時間情報を含み、
前記第一処理時間情報に基づいて、分割第二処理要求を作成する間隔と実行順序を決定する間隔とのうちの少なくとも一方が変更される、
請求項2に記載の計算機システム。 - 前記第一計算機は、第一の処理要求の実行遅延に関する情報であり前記モニタ結果情報を基に算出された遅延情報を出力する、
請求項3又は4に記載の計算機システム。 - 前記モニタ結果情報は、第一の処理要求の実行状況に関する情報である第一処理状況情報を含み、
前記第一計算機は、
前記第二の処理要求の終了時刻に関する情報を受け付け、
前記第一処理状況情報を基に、入力部が受けた終了時刻までに前記第二の処理要求を完了できるかどうかを判定し、
前記第二の処理要求を前記終了時刻までに完了できないと判定した場合、前記第二の処理要求の予測終了時刻を出力する、
請求項5に記載の計算機システム。 - 前記第一の処理要求は、オンラインで受けた処理要求であり、
前記第二の処理要求は、バッチで処理することの処理要求である、
請求項1乃至6のうちのいずれか1項に記載の計算機システム。 - 前記2以上の分割第二処理要求は、それぞれ、複数の空き時間において行われ、
各空き時間は、第一の処理要求についてのデータ処理が行われていない時間である、
請求項1乃至7のうちのいずれか1項に記載の計算機システム。 - 特定第一処理間隔が特定第一処理所要時間よりも長い場合、前記各空き時間は、前記特定第一処理間隔と前記特定第一処理所要時間との差分であり、
前記特定第一処理間隔が前記特定第一処理所要時間以下の場合、前記各空き時間は、許容レイテンシ時間と前記特定第一処理所要時間との差分であり、
前記特定第一処理所要時間は、1以上の第一処理所要時間に基づいて決定された値であり、第一処理所要時間は、前記第一の処理要求の実行にかかる時間であり、
前記特定第一処理間隔は、1以上の特定第一処理間隔に基づいて決定された値であり、第一処理間隔は、前記第一の処理要求についてのデータ処理の開始から次の第一の処理要求についてのデータ処理の開始までの時間であり、
前記許容レイテンシ時間は、前記特定第一処理所要時間の許容値であり、
前記第一計算機は、前記各空き時間に基づいて前記分割サイズを決定する、
請求項8に記載の計算機システム。 - 分割第二処理要求を作成する間隔と実行順序を決定する間隔とのうちの少なくとも一方が、データ処理の実行状況と指定されたパラメタとのうちの少なくとも1つに基づき変更される、
請求項1乃至8のうちのいずれか1項に記載の計算機システム。 - それぞれ処理要求を実行する複数の計算機のうちのいずれかの計算機である第一計算機が、第一の処理要求より優先順位の低い第二の処理要求の実行を決定したとき、予め定められた分割サイズに従い前記第二の処理要求を基に分割第二処理要求を作成し、
前記第一計算機が、1以上の第二の処理要求に対応した1以上の分割第二処理要求と1以上の第一の処理要求との実行順序を決定し、
前記第一計算機が、前記決定した実行順序を含む提案を、前記第一計算機との間でデータの一貫性を保つべき1以上の計算機である1以上の第二計算機に送信し、
一定数以上の前記第二計算機から前記提案に対する合意を受けた後、前記第一計算機と前記1以上の第二計算機との各々が、前記合意を受けた前記提案に含まれる前記実行順序で前記1以上の分割第二処理要求と前記1以上の第一の処理要求を実行する、
データ処理方法。 - 外部の計算機に接続された計算機であって、
第一の処理要求より優先順位の低い第二の処理要求の実行を決定したとき、予め定められた分割サイズに従い前記第二の処理要求を基に分割第二処理要求を作成する制御部と、
1以上の第二の処理要求に対応した1以上の分割第二処理要求と1以上の第一の処理要求との実行順序を決定し、前記決定した実行順序を含む提案を、前記計算機との間でデータの一貫性を保つべき前記外部の計算機に送信し、一定数以上の前記外部の計算機から前記提案に対する合意を受けた後、前記制御部と前記外部の計算機に、それぞれ、前記合意を受けた前記提案に含まれる前記実行順序で前記1以上の分割第二処理要求と前記1以上の第一の処理要求を実行させる全順序配信部と
を備える計算機。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2014/080354 WO2016079786A1 (ja) | 2014-11-17 | 2014-11-17 | 計算機システム及びデータ処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016079786A1 JPWO2016079786A1 (ja) | 2017-04-27 |
JP6280237B2 true JP6280237B2 (ja) | 2018-02-14 |
Family
ID=56013402
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016559707A Active JP6280237B2 (ja) | 2014-11-17 | 2014-11-17 | 計算機システム及びデータ処理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10795726B2 (ja) |
JP (1) | JP6280237B2 (ja) |
WO (1) | WO2016079786A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7047027B2 (ja) * | 2020-07-30 | 2022-04-04 | 株式会社日立製作所 | 計算機システム、構成変更制御装置、および構成変更制御方法 |
US20220066821A1 (en) * | 2020-09-02 | 2022-03-03 | Samsung Electronics Co., Ltd. | Systems and method for batching requests in computational devices |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2723068B2 (ja) * | 1995-02-20 | 1998-03-09 | 日本電気株式会社 | ジョブ再実行方式 |
JP3774075B2 (ja) | 1999-01-18 | 2006-05-10 | 富士通株式会社 | トランザクション分割・連携装置および記録媒体 |
JP4190476B2 (ja) * | 2004-09-22 | 2008-12-03 | 株式会社ソニー・コンピュータエンタテインメント | グラフィックプロセッサ、制御用プロセッサおよび情報処理装置 |
US7562035B2 (en) * | 2005-01-12 | 2009-07-14 | International Business Machines Corporation | Automating responses by grid providers to bid requests indicating criteria for a grid job |
JP4580845B2 (ja) * | 2005-08-24 | 2010-11-17 | パナソニック株式会社 | タスク実行装置 |
JP2008198153A (ja) * | 2007-02-16 | 2008-08-28 | Nomura Research Institute Ltd | オンライン処理を継続させながらバッチ処理を行う連続運用システム |
US20080320097A1 (en) * | 2007-06-22 | 2008-12-25 | Tenoware R&D Limited | Network distributed file system |
JP5458681B2 (ja) * | 2009-06-05 | 2014-04-02 | 横河電機株式会社 | データ送信装置、データ送信方法 |
US9563470B2 (en) * | 2013-12-23 | 2017-02-07 | International Business Machines Corporation | Backfill scheduling for embarrassingly parallel jobs |
US9626120B1 (en) * | 2015-12-28 | 2017-04-18 | Veritas Technologies | Systems and methods for dynamically adjusting batch request sizes |
-
2014
- 2014-11-17 WO PCT/JP2014/080354 patent/WO2016079786A1/ja active Application Filing
- 2014-11-17 US US15/308,373 patent/US10795726B2/en active Active
- 2014-11-17 JP JP2016559707A patent/JP6280237B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JPWO2016079786A1 (ja) | 2017-04-27 |
US10795726B2 (en) | 2020-10-06 |
WO2016079786A1 (ja) | 2016-05-26 |
US20170068569A1 (en) | 2017-03-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11593404B2 (en) | Multi-cluster warehouse | |
US10817497B2 (en) | Migration flow control | |
CN109804354B (zh) | 用于消息队列的消息高速缓存管理 | |
US20160231928A1 (en) | Dynamic Storage Tiering Based on Performance SLAs | |
US20130263142A1 (en) | Control device, control method, computer readable recording medium in which program is recorded, and distributed processing system | |
JP6233413B2 (ja) | タスク割り当て判定装置、制御方法、及びプログラム | |
US20170010919A1 (en) | Dynamic weight accumulation for fair allocation of resources in a scheduler hierarchy | |
US9514072B1 (en) | Management of allocation for alias devices | |
US8799534B2 (en) | Storage apparatus and method for controlling same | |
US20170220383A1 (en) | Workload control in a workload scheduling system | |
US9135064B2 (en) | Fine grained adaptive throttling of background processes | |
JP6280237B2 (ja) | 計算機システム及びデータ処理方法 | |
CN109815204A (zh) | 一种基于拥塞感知的元数据请求分发方法及设备 | |
JP2018063672A (ja) | メッセージ実行サーバー、制御方法、およびプログラム | |
US11003360B2 (en) | IO request processing according to processing sorting indexes | |
JP6279816B2 (ja) | ストレージ監視システムおよびその監視方法 | |
US20230244522A1 (en) | Detached Global Scheduler | |
JP5472885B2 (ja) | プログラム、ストリームデータ処理方法及びストリームデータ処理計算機 | |
KR20150047396A (ko) | 분산 파일 시스템 관리 장치, 그것을 포함하는 분산 컴퓨팅 시스템, 및 분산 파일 시스템의 작동 방법 | |
RU2749649C2 (ru) | Способ и система для планирования обработки операций ввода/вывода | |
WO2013065151A1 (ja) | 計算機システム、データ転送方法、および、データ転送プログラム | |
US20190179571A1 (en) | Computer, computer system, and data quantity restriction method | |
WO2013082743A1 (zh) | 提高分布式对象存储***的并发性能的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170606 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170802 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171107 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171208 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171226 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180118 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6280237 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |