JPH065515B2 - キャッシュ再ロード・オーバーヘッドを減少させる方法およびコンピュータ・システム - Google Patents

Description

【発明の詳細な説明】 Ａ．産業上の利用分野 本発明は一般に高性能データ処理システムにおけるキャ
ッシュ・メモリ管理に関し、具体的には、プログラムの
フットプリント（足跡）が小さくなるとき、コンテキス
トを交換するための交換点を適時に選択することによ
り、コンテキスト交換点でのキャッシュ・ミスのコスト
を減少させる手法に関する。

Ｂ．従来の技術 多重プログラム式または多重タスク処理コンピュータ・
システムでは１台のプロセッサが、そのプロセッサで走
行するプログラムまたはタスクを定期的に変更すること
により、多くの異なるプログラム間で共用される。キャ
ッシュ・メモリを使用するコンピュータ・システムで
は、１つのプログラムまたはタスクが中断されて別のも
のが開始される時点で、キャッシュは、中断されたプロ
グラムに属する多くの行（ライン）を含んでいる。これ
らの行は次のプログラムを走行するとき、キャッシュか
ら取り除かれ、中断されたプログラムがプロセッサの制
御を再び得るとき、それを再ロードしなければならなく
なる。これらの行を再ロードするためのオーバーヘッド
は、キャッシュ再ロード・トランジェントと呼ばれる。
Ｄ．Ｆ．ティボー（Thiebaut）とＨ．Ｓ．ストーン（St
one）は、論文「キャッシュのフットプリント（Footpri
nsin the Cache）」、ＡＣＭ Transaction on Computing、Ｖｏ１．５、No.４（１９
８７年１１月）、ｐｐ．３０５−３２９に、この問題に
ついての彼らの研究を報告し、様々なケース・スタディ
で彼らが確認したトランジェントのサイズを計算するた
めのモデルを提案している。そのトランジェントのサイ
ズは、プログラムのフットプリントのサイズ、すなわち
プログラムがキャッシュ中にもつ活動行の数に関係して
いる。

できるだけ変更を小さくすることによってコンテキスト
交換のコストを減らしたり、あるいは他の方法でコンテ
キスト交換のオーバヘッドを減らすことが従来技術で知
られている。ただし、従来技術では、交換要求が出され
たときにコンテキスト交換を行なわなければならいと仮
定している。

米国特許第４４２２１４５号明細書は、将来のデータ要
求に関する知識を利用して、バッファ・メモリ内のペー
ジのプールを管理することを記載している。その方法で
は、この知識を使って、将来出される可能性が最も大き
い要求を迅速に検索できるバッファ・プールに保持す
る。この発明は、ページをタスクに割り振る問題を解決
することを目的とするものである。

米国特許第４４６３４２４号明細書は、上記の特許第４
４２２１４５号の発明に類似した発明を記載している
が、細部で異なっている。この発明では、タスク挙動を
測定して、キャッシュ・メモリ・ミスの数を減少させる
にはメモリを個々のタスクにどう割り振ればよいかを決
定する。しかし、キャッシュ・メモリに対する要求は、
受信された順序で処理される。

米国特許第４４８４２７４号明細書は、割込みが発生し
たとき、あるプロセスの状態のどの部分を実際にセーブ
する必要があるかを識別する処理手順を記載している。
すなわち、ある割込みが処理されるものとすると、この
処理手順は、できるだけセーブする個所を少なくしよう
とする。米国特許第４３８２２７８号明細書では、作業
空間を切り換えることにより、コンテキスト交換オーバ
・ヘッドを減らす方法を教示している。これによって、
コンテキスト交換時の作業の量が減少する。

Ｔ．Ｇ．ラング(Lang)は、ＩＢＭテクニカル・ディスク
ロージャ・ブルテン、１９８６年７月ｐ．９４７で、コ
ンテキストをセーブするプロセスに関連するオーバヘッ
ドを減少させることにより、コンテキスト交換の速度を
高める手段を記載ている。

Ｃ．発明が解決しようとする課題 本発明の目的は、プログラムが中断可能となる時を注意
深く選定することにより、キャッシュ再ロード・トラン
ジェントのオーバーヘッドを減少させる方法を提供する
ことにある。

本発明の他の目的は、現タスクのフットプリントが小さ
いときにすなわちキャッシュにストアされている行数が
少ないときにコンテキスト交換を実施する方法を備え
た、多重タスク処理コンピュータ・システムを提供する
ことである。

Ｄ．課題を解決するための手段 本発明によれば、多重プログラミングまたは多重タスク
処理環境で走行するプログラムの中断を、中断されるプ
ログラムまたはタスクのフットプリントが比較的小さい
ときに行なわせる。フットプリントが小さくなるのは、
そのプログラムが異なる動作段階に移動したため、ある
プロセスがキャッシュ内のデータまた命令記憶域を解放
するときである。具体的には、本発明は、小フットプリ
ント点で発生するように準備された割込み、及びこうし
た点がいつ発生するかを検出する手段に関するものであ
る。

本発明は、上記のものを含めて他の従来技術のシステム
でも、またそれらのシステムなしでも実施でき、多重プ
ログラム式または多重タスク処理コンピュータ・システ
ムの動作をさらに向上させることができる。本発明は、
上記の特許第４４２２１４５号の発明が、コンテキスト
交換のコストを減少させるために要求を据え置くという
考えを含んでいない点で、その発明とは異なっている。
要求は、プロセッサに提示された順に処理され、メモリ
管理は、受け取った要求及び将来予期される要求の結果
として実行される。上記の特許第４４６３４２４号の発
明は、ミスの数を減らすためにこうした要求を据え置い
たり順序を変えたりしない。上記の発明は、メモリ資源
に対する要求のシーケンスに応答してメモリ資源を管理
するが、本発明では、低コストで処理できるようになる
まで要求を据え置く。また、上記の特許第４４８４２７
４号、第４３８２２７８号、ラングの論文はどれも、本
発明の基本概念であるコンテキスト交換をいつ行なうか
に関するものではない。

すなわち、現況技術では、コンテキスト交換が開始され
るのは、プログラムがその割り振られた時間量子を越え
るとき、またはプログラミングされた待機もしくは入出
力動作に達したとき、あるいは他の同様の理由による。
本発明では、２つの時間がそれに関連している点で通常
の量子時間切れ割込みとは異なる、コンテキスト交換割
込みを割込む。最初の時間は、コンテキスト交換が準備
される時を告げる最小時間である。この最小時間が経過
するまで、割込みは通知できない。最小時間の後、コン
テキスト交換割込みが準備され、プログラム・フットプ
リントのサイズが減少したことを示す信号を受け取った
とき、それが通知される。

コンテキスト交換に関連する第２の時間は最大時間であ
る。最大時間に達するまでにコンテキスト交換割込みが
通知されない場合、その時点でコンテキスト交換割込み
が通知される。すなわち、コンテキスト交換割込みは、
プログラムが、余り長く走行できないようにする点で量
子時間切れ割込みに似ているが、また将来のオーバヘッ
ドが下がるようなときにプログラムを交換する傾向があ
る。

Ｅ．実施例 汎用コンピュータは、通常オペレーティング・システム
と呼ばれる実行制御プログラムの制御下で走行すると言
われる。オペレーティング・システムとは、コンピュー
タのハードウェアを制御する、ソフトウェア、ファーム
ウェア、マイクロコードまたはこれら３つの組合せで実
施されるプログラムである。オペレーティング・システ
ムは、コンピュータ上で走行するアプリケーション・プ
ログラムまたはタスクからの呼出しに応答して、データ
を表示画面に書き込み、データをディスク記憶装置に記
憶し、データをディスク記憶装置から検索し、リポート
を印刷する。アプリケーション・プログラムまたはタス
クは、オペレーティング・システム上で走行すると言わ
れる。本明細書では、プログラムとタスクは、同じ意味
で使用し、アプリケーション・プログラムを意味するも
のとする。

本発明は、H.ローリン(Lorin)及びＭ．Ｍ．ディテル(De
itel)の著者「オペレーティング・システム(Operating
System)」、アジソン・ウェーズリー出版社(Addison-We
sley Publishing Co.)、１９８１年刊、ｐｐ．８１−８
８の第３．６節「多重プログラミング・システム(Multi
programm-ing Systems)」及びハーヴェイ(Harvey)Ｍ．
ディテル(Deitel)の著書「オペレーティング・システム
入門(An Introduction to Operating System)」アジソ
ン・ウェズリー出版社、１９８４年刊、ｐｐ．１５５−
１７４の第７章「実記憶装置(Real Storage)」に一般適
に記載された形式の多重プログラミング・システムの分
野におけるものである。本明細書では、多重プログラミ
ングと多重タスク処理は同じ意味に使用する。

本発明の好ましい実施例では、多重プログラムまたは多
重タスク処理コンピュータ・システム通常動作モード
は、実行制御プログラムまたはオペレーティング・シス
テムの制御下で動作するものと仮定する。オペレーティ
ング・システムは実行可能タスクのリストを維持する。
オペレーティング・システムは、実行可能タスクのリス
クから直ちに実行すべきタスクを選択し、選択したタス
クに最大実行時間を割り振り、その時点で将来発生する
割込みを設定する。この最大時間を時間量子と呼ぶ。次
に、オペレーティング・システムは選択したタスクの実
行を開始する。選択されたタスクは、それに割り振られ
た時間量子の間実行され、この時間が経過すると、割振
りが発生してタスクが中断される。次に、オペレーティ
ング・システムは、実行可能タスクのリストから別のタ
スクを選択し、上記のステップを繰り返す。

場合によっては、現在走行中のプログラムまたはタスク
はその時間量子を完了することができない。そうなるの
は、以下のいずれかである。

１．プログラムまたはタスク自体が、入出力動作の完了
など外部事象が発生を持たなければならない。外部事象
が発生すると、そのタスクを直ちに断中断し、実行可能
タスクのリストから取り除かなければならない。その時
点で、オペレーティング・システムは異なるプログラム
またはタスクを開始しなければならない。

２．入出力動作の完了など外部事象が認識される。外部
事象があると、オペレーティング・システムが、入出力
プログラムを開始し、実行の準備ができていて外部事象
を持っているタスクにリストを変更することが必要とな
る。オペレーティング・システムは、割込みを受けたタ
スクに戻ってその時間量子を完了させるか、または新し
いタスクを選択することができる。

３．外部事象が認識された場合、及び実行中のタスクは
一時的に中断された場合、中断時間中にその累積実行時
間は増加しない。

上記の環境の説明は、本発明を支援する可能な環境の代
表例であるが、本発明は、この特定の環境のみに限られ
るものではない。本発明の目的は、時間量子の終りに割
込みを据え置き、コンテキスト交換のコストが比較的低
くなりそうな時にそれを行なわせることである。本発明
は、上記の通常動作を以下のように修正する。

オペレーティング・システムは、時間量子を選択したタ
スクに割り振るとき、時間量子の最も早い終り及び時間
量子の最も遅い終りの２つの時間で時間量子を表す。量
子終り割込みは、最も早い時間より前には発生できず、
その時点より前に実行プログラムによってトリガされな
い限り、最も遅い時間に発生することが保証される。オ
ペレーティング・システムは、選択したタスクの実行を
開始し、選択したタスクは、それに割り振られた最小時
間量子の間実行され、それが終了した時点で量子終り割
込みが準備される。量子終り割込みが準備されている
間、タスクは実行を継続する。そのタスクが量子終り割
込みをトリガする命令を実行する場合は、その割込みは
直ちに処理される。タスクが割り振られた最大時間の間
実行される前に量子終りがトリガされない場合、量子終
り割込みがトリガされる。量子終り割込みがどのように
してトリガされようと、オペレーティング・システム
は、その割込みを通常の量子終り割込みとして処理す
る。実行中のタスクが準備された量子終り割込みをもっ
ている間に外部事象が割込みをトリガする場合、そのタ
スクは、その量子の終りに達したものとして扱われ、保
留中の割込みが除去される。

図面、特に第１図を参照すると、本発明による据置き可
能割込みを実施するための機構が示されている。この機
構は、３つのレジスタと２つの加算器を含む。それらの
レジスタは、経過時間レジスタ１０、最小量子レジスタ
２０、及び最大量子レジスタ３０である。第１の加算器
４０は、最小量子と経過時間の値の差をとる。経過時間
が最小量子時間を越えた場合は、結果の符号は負とな
る。負の符号のとき、割込みが下記のように準備され
る。同様に、第２の加算器５０は最大量子と経過時間の
値の差をとる。この加算の結果が負の場合、下記のよう
に割込みが通知される。

第１図と従来技術の違いは、従来の経過時間に基づく割
込みの実施態様では、最大時間レジスタ３０、経過時間
レジスタ１０、及び加算器５０しか使用しないことであ
る。割込みは、加算器の結果の符号を検査することによ
って通知される。この従来技術は、割込みを準備する手
段を含んでいないので、第１図に示される最小時間レジ
スタ２０と加算器４０の使用を教示していない。

第２図は、タスクを開始する前にオペレーティング・シ
ステムがとるステップを示す。オペレーティング・シス
テムは、機能ブロック６０でタスクの経過時間をゼロに
初期設定し、第２図の機能ブロック７０と８０で最小及
び最大量子時間を初期設定する。第２図の最終ステップ
は、９０で示すようにタスクを開始することである。機
能ブロック６０、７０、８０で実行される動作の順序は
重要ではない。オペレーティング・システムは、こうし
た間に散在するオペレーティング・システム依存タスク
を実行することもできる。従来技術で教示されていない
第２図の態様は、ブロック７０での最小時間の設定であ
る。

第３図は、割込みを準備するのに必要な論理回路を示
す。走行中のタスクの経過時間が第３図のクロックで示
される。クロックは機能ブロック１００示すように進め
られる。ブロック１００の実行の間隔はシステムによっ
て異なり、システム中の最も速いクロック速度で実行す
る必要はない。

クロックが進む度に、判断ブロック１１０で検査を行な
って、量子時間割込みの準備ができているかどうか判定
する。準備ができている場合、第４図の判断ブロック１
５０に進んで、下記のような次の検査を行なう。準備が
できていない場合、判断ブロック１２０で経過時間の現
在値を最小量子時間と比較する。現在値が最小量子時間
を越える場合、機能ブロック１３０に示すように量子時
間割込みが準備される。

第４図は、量子時間割込みがどのようにして通知される
かを示す。この図は従来技術を反映したものである。判
断ブロック１５０で、現在経過時間を最大量子時間と比
較する。現在値が最大量子時間を越える場合、機能ブロ
ック１６０に示すように割込みが通知される。

第５図は、プログラムが、準備された割込みをどのよう
に発生させるかを示す。プログラムは、コンテキスト交
換オーバヘッドが他の場所で生じるオーバヘッドよりも
局所的に小さいプログラムに入れられた特殊命令を実行
する。この命令の実行を機能ブロック２００に戻す。こ
の命令の実行により、判断ブロック２１０に示すように
割込みの状態が検査される。割込みが準備されている場
合、機能ブロック２２０で割込みを通知する。割込みの
通知は、量子の終りを意味する。オペレーティング・シ
ステムは、時間量子の終りに応じて、従来技術で利用可
能な技法を使ってタスクを中断することにより、割込み
に応答する。割込みが準備できていない場合、この特殊
命令は、割込み命令を取り出して解釈するのに必要な時
間を利用すること以外、プログラム実行に影響を及ぼさ
ない。

第６図は、外部事象が量子終り端割込みをどのようにト
リガするかを示す。機能ブロック３００で、外部事象に
よって割込みが通知される。これが発生すると、判断ブ
ロック３１０で量子時間割込みを検査する。それも準備
されている場合、機能ブロック３２０で、それも割込み
として通知されるので、少なくとも２つの割込みが現在
に保留中となる。それも準備できていない場合は、機能
ブロック３３０で、走行中のタスクの経過時間の記録専
用のレジスタが動作不能になる。この時点で、オペレー
ティング・システムは走行中のタスクを中断し、外部事
象に関連するタスクのスケジュールを立てる。

従来技術で教示されてない第６図の重要な新しい考え
は、外部事象が、通常なら後まで行なわれないコンテキ
スト交換を強制する好機となることである。第２のタス
クが走行できるように元のタスクが短時間中断されるの
で、第２のタスクは、それ自体をキャッシュ・メモリに
ロードして、第１のタスクに関連する状態の一部を除去
する。これにより、第１のタスクに関連する状態のサイ
ズが局所的に縮小される。第２タスクの走行が完了する
と、オペレーティング・システムは通常、第１のタスク
に戻る。というのは、その時間量子が終わっていないか
らである。しかし、量子割込みが準備されている場合
は、交換される状態のサイズが比較的小さいどの時点で
も割込みを行なうことができる。そうなるのは、割込み
タスクの処理の終りである。第６図の機能ブロック３２
０で示すように、量子時間割込みを通知することによ
り、オペレーティング・システムは、割込みタスクを処
理した後に元のタスクに戻らず、そのためコンテキスト
交換が局所的に好ましい時点で行なわれる。

すなわち、準備された量子時間割込みは、命令の実行ま
たは外部事象割込みの通知によって通知できる。一般
に、準備された割込みは、局所的に小さいコンテキスト
を生成することが認められているどんな条件下でも通知
される。どんな条件でそうなるかは、コンピュータ・シ
ステムの特徴によって変わる。

広義に述べると、本発明は、（１）プログラムフットプ
リントが小さいときに発生する傾向にあるコンテキスト
交換のための割込みと、（２）フットプリントのサイズ
が減少する点で割込みをトリガする手段から構成され
る。コンテキスト交換割込みは、以下の事象でトリガさ
れる。

１．基本ブロックからの出口。

２．ファイルのクローズ（バッファ記憶機構が戻される
とき）及び ３．記憶機構が他の目的で使用されるために戻されると
きの他の同様の検出可能な事象。

これらの事象は、コンパイラによってコードに入れられ
た特殊割込み命令によって通知される。特殊命令の働き
は、コンテキスト交換割込みが準備されている場合に割
込みを引き起こすと、及びそうでない場合は影響を及ぼ
さないことである。割込みを生成する簡単でうまいやり
方は、サブルーチン・リターン及び割込みリターンが実
行されるときに割込みを発生させることである。どの場
合にも、プログラムまたはプロセスから出る最中であ
り、その状態が近い将来に必要となる可能性は小さい。
より効果的な方法は、アルゴリズム分析を使って、サブ
ルーチンが、大きな直線コードでありあるいは１つまた
は複数のネスティング・レベルのループをもち、かつサ
ブルーチンが触れる可能性のあるデータ・セルと命令セ
ルの総数がキャッシュ・サイズと同程度であるという特
徴をもつ、サブルーチンからの出口がいつ発生するかを
決定することである。この特徴が検出されると、そのサ
ブルーチンは、キャッシュの大きな部分を占有し、その
部分を以後のコードは必要としない。

あるサブルーチンの実行が終了する前にコンテキスト交
換割込みが発生する場合、サブルーチンから出る前に、
そのサブルーチンをキャッシュに再ロードしなければな
らない。サブルーチンから出るのを待ってコンテキスト
交換割込みが行なわれる場合、キャッシュ再ロード過渡
は回避される。上記の特性をもつサブルーチンを識別す
ることにより、コンパイラはこうした各リーチンの出口
の前にコンテキスト交換割込みトリガを挿入することが
できる。本発明は、割込みをトリガするどの手段を使っ
ても性能の向上をもたらす。性能の向上は、割込みがフ
ットプリントのサイズの最大の縮小を伴う場合に大きく
なる傾向にある。

本発明を１つの好ましい実施例に照らして説明したが、
当業者には周知の通り、本発明は、特許請求の範囲の精
神及び範囲に含まれる類似の修正を施して実施すること
ができる。

【図面の簡単な説明】

第１図は、据置き可能割込みを制御する手段を図示する
構成図である。 第２図は、据置き可能割込みを設定する手段を図示する
構成図である。 第３図は、据置き可能割込みが準備されたときに起こる
事象を示す流れ図である。 第４図は、最大量子時間に達したために据置き可能割込
みが通知されるときに起こる事象を示す流れ図である。 第５図は、割込みを認識すべき点に達したときに、準備
された据置き可能割込みをプログラムがどうトリガする
かを示す流れ図である。 第６図は、あるタスクが、その据置き可能割込みが準備
される前に割込みを受けた場合に、据置き可能割込みを
動作不能にするために取られる処置を示す流れ図であ
る。 １０……経過時間レジスタ、２０……最小量子レジス
タ、３０……最大量子レジスタ、４０、５０……加算
器。

Claims (2)

【特許請求の範囲】
1. 【請求項１】実行すべきタスクのリストを維持し、該リ
   ストからタスクを呼び、 上記タスクのための経過時間をゼロにセットし、上記タ
   スクのための最小および最大の量子時間をセットし、 上記タスクを開始し、 上記タスクの実行中、上記タスクの経過時間を進め、 上記経過時間を上記最小量子時間と比較し、 上記経過時間が、上記最小量子時間を越えれば、割り込
   みを準備し、 割り込みが準備されたかどうかをチェックし、 割り込みが準備されているならば、経過時間を上記最大
   量子時間と比較し、 上記経過時間が上記最大時間を越えるならば、割り込み
   を通知すること、 を含む、多量プログラム式コンピュータ・システムにお
   けるコンテキスト交換でのキャッシュ再ロード・オーバ
   ーヘッドを減少させる方法。
2. 【請求項２】多重プログラム式コンピュータ・システム
   上で１つのタスクを実行する時間に対応する値を記憶す
   る経過時間レジスタ手段と、 前記タスクに割り当てられた最小量子時間に対応する値
   を記憶する最小量子時間レジスタ手段と、 前記タスクに割り当てられた最大量子時間に対応する値
   を記憶する最大量子時間レジスタ手段と、 前記経過時間レジスタ手段及び前記最小量子時間レジス
   タ及び最大量子時間レジスタ手段に接続された、経過時
   間を最小量子時間と比較し、かつ経過時間を最大量子時
   間と比較するための比較論理手段と、 を含むコンテキスト交換によるキャッシュ再ロード・オ
   ーバーヘッドを減少させるようにした多重プログラム式
   コンピュータ・システム。