JP7419157B2 - プログラム生成装置、並列演算デバイス、及び、並列演算デバイスに並列演算を実行させるためのコンピュータプログラム - Google Patents

プログラム生成装置、並列演算デバイス、及び、並列演算デバイスに並列演算を実行させるためのコンピュータプログラム Download PDF

Info

Publication number
JP7419157B2
JP7419157B2 JP2020084388A JP2020084388A JP7419157B2 JP 7419157 B2 JP7419157 B2 JP 7419157B2 JP 2020084388 A JP2020084388 A JP 2020084388A JP 2020084388 A JP2020084388 A JP 2020084388A JP 7419157 B2 JP7419157 B2 JP 7419157B2
Authority
JP
Japan
Prior art keywords
calculation
cores
surplus
parallel
redundant
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020084388A
Other languages
English (en)
Other versions
JP2021179774A (ja
Inventor
宏章 井辻
巧 上薗
健一 新保
忠信 鳥羽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2020084388A priority Critical patent/JP7419157B2/ja
Priority to US17/246,940 priority patent/US20210357285A1/en
Priority to DE102021204690.8A priority patent/DE102021204690A1/de
Priority to CN202110510303.8A priority patent/CN113672377A/zh
Publication of JP2021179774A publication Critical patent/JP2021179774A/ja
Application granted granted Critical
Publication of JP7419157B2 publication Critical patent/JP7419157B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0766—Error or fault reporting or storing
    • G06F11/0775—Content or structure details of the error report, e.g. specific table structure, specific error fields
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/40—Transformation of program code
    • G06F8/41—Compilation
    • G06F8/44—Encoding
    • G06F8/445—Exploiting fine grain parallelism, i.e. parallelism at instruction level
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0721—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment within a central processing unit [CPU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751—Error or fault detection not based on redundancy
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16—Error detection or correction of the data by redundancy in hardware
    • G06F11/1629—Error detection by comparing the output of redundant processing systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/57—Arithmetic logic units [ALU], i.e. arrangements or devices for performing two or more of the operations covered by groups G06F7/483 – G06F7/556 or for performing logical operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/40—Transformation of program code
    • G06F8/41—Compilation
    • G06F8/44—Encoding

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Hardware Redundancy (AREA)
  • Test And Diagnosis Of Digital Computers (AREA)
  • Detection And Correction Of Errors (AREA)
  • Advance Control (AREA)

Description

本発明は、概して、並列演算デバイスにおける誤りの検出に関する。
近年、クラウド側の機器に代えて又は加えて、エッジ側の機器（例えば自動車や産業機器）にＡＩ機能が組み込まれている。
一般に、ＡＩ（Artificial Intelligence）機能は、並列演算デバイス（並列演算可能なデバイス）の一例であるＧＰＵ（Graphics Processing Unit）により実現される。ＡＩ機能による推論の正確性は、推論のモデルの正確性に加えて、当該推論を行うＧＰＵの正確性にも依存する。ＧＰＵ内の要素は、データ系と制御系に大別することができる。
データ系の誤りを検出する方法としては、冗長符号（例えば、ＥＣＣ（Error Correcting Code）やＣＲＣ（Cyclic Redundancy Code））を用いた誤り検出を採用することができる。
一方、制御系の誤りを検出する方法としては、制御系を含むハードウェア資源の冗長化（例えば、二重化）を採用することができる。しかし、この方法では、多くのハードウェア資源が必要になってしまう。
制御系を含むハードウェア資源の冗長化を避けるべく、特許文献１に開示の方法、すなわち、演算履歴を表すシグネチャを演算するコードをＣＰＵ（Central Processing Unit）によるプログラムの実行前に当該プログラムに埋め込む方法を利用することが考えられる。以下、便宜上、シグネチャ演算のコードが埋め込まれる前のプログラム（つまり、オリジナルのプログラム）に記述されているコードが表す演算を「アプリ演算」と言う。
特開平６－８３６６３号公報
特許文献１に開示の方法によれば、定期的に、シグネチャの値を期待値と比較することで、制御系の誤りの有無をチェックすることが期待できる。
しかし、ＧＰＵに特許文献１に開示の方法を適用すると、スループットの低下が懸念される。なぜなら、ＧＰＵは、複数の演算グループ（一般に、ＳＭ（Streaming Multiprocessor）と呼ばれる）を有し、各演算グループが、複数のコアと、複数のコアに命令を割り当てる制御系（典型的には、スケジューラ）とを有するが、このような構成のＧＰＵに特許文献１に開示の方法を適用すると、複数の演算グループの全てのコアにシグネチャ演算が割当てられるためである。
この種の問題は、ＧＰＵ以外の並列演算デバイスについてもあり得る。
複数の演算グループを有する並列演算デバイスに所定の処理の並列演算を実行させるためのプログラムが入力される。当該プログラムは、所定の処理を構成する複数の演算であるアプリ演算と、冗長演算（アプリ演算の冗長演算であって第１の演算グループにおける余剰コアに割り当てられる演算）と、診断演算（二つ以上の第１の演算グループがそれぞれ有する二つ以上の余剰コアによる同一の冗長演算の冗長演算結果の比較であって第２の演算グループにおける余剰コアに割り当てられる演算）とをそれぞれ規定した情報を有する。余剰コアは、アプリ演算が割り当てられないコアである。一実施形態によれば、このようなプログラムを生成するプログラム生成装置が構築される。
本発明によれば、並列演算デバイスのハードウェア資源の冗長化を招かず且つスループット低下を抑制して制御系の誤りを検出するプログラムを生成することができる。
第１の実施形態に係るプログラム生成装置の構成例を示す。 第２の並列演算プログラムに従う並列演算の概要の一例を示す。 第１の実施形態に係るプログラム生成装置が行う処理の流れの例を示す。 第２の実施形態に係るプログラム生成装置の構成例を示す。 第２の実施形態に係るプログラム生成装置が行う処理の流れの例を示す。 第３の実施形態に係る並列演算デバイスの構成例を示す。 第３の実施形態に係る並列演算デバイスが行う処理の流れの例を示す。 第４の実施形態に係る並列演算デバイスの構成例を示す。 第４の実施形態に係る並列演算デバイスが行う処理の流れの例を示す。 第４の実施形態に係る並列演算デバイスが行う処理の一例を示す。 第２の並列演算プログラムの構成例を示す。
以下の説明では、「インターフェース装置」は、一つ以上のインターフェースデバイスでよい。当該一つ以上のインターフェースデバイスは、下記のうちの少なくとも一つでよい。
・一つ以上のＩ／Ｏ（Input/Output）インターフェースデバイス。Ｉ／Ｏ（Input/Output）インターフェースデバイスは、Ｉ／Ｏデバイスと遠隔の表示用計算機とのうちの少なくとも一つに対するインターフェースデバイスである。表示用計算機に対するＩ／Ｏインターフェースデバイスは、通信インターフェースデバイスでよい。少なくとも一つのＩ／Ｏデバイスは、ユーザインターフェースデバイス、例えば、キーボード及びポインティングデバイスのような入力デバイスと、表示デバイスのような出力デバイスとのうちのいずれでもよい。
・一つ以上の通信インターフェースデバイス。一つ以上の通信インターフェースデバイスは、一つ以上の同種の通信インターフェースデバイス（例えば一つ以上のＮＩＣ（Network Interface Card））であってもよいし二つ以上の異種の通信インターフェースデバイス（例えばＮＩＣとＨＢＡ（Host Bus Adapter））であってもよい。
また、以下の説明では、「メモリ」は、一つ以上の記憶デバイスの一例である一つ以上のメモリデバイスであり、典型的には主記憶デバイスでよい。メモリにおける少なくとも一つのメモリデバイスは、揮発性メモリデバイスであってもよいし不揮発性メモリデバイスであってもよい。
また、以下の説明では、「永続記憶装置」は、一つ以上の記憶デバイスの一例である一つ以上の永続記憶デバイスでよい。永続記憶デバイスは、典型的には、不揮発性の記憶デバイス（例えば補助記憶デバイス）でよく、具体的には、例えば、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、ＭＶＮＥ（Non-Volatile Memory Express）ドライブ、又は、ＳＣＭ（Storage Class Memory）でよい。
また、以下の説明では、「記憶装置」は、メモリと永続記憶装置の少なくともメモリでよい。
また、以下の説明では、「プロセッサ」は、一つ以上のプロセッサデバイスでよい。少なくとも一つのプロセッサデバイスは、典型的には、ＣＰＵ（Central Processing Unit）のようなマイクロプロセッサデバイスでよい。少なくとも一つのプロセッサデバイスは、シングルコアでもよいしマルチコアでもよい。
また、以下の説明では、「ｙｙｙ部」の表現にて機能を説明することがあるが、機能は、一つ以上のコンピュータプログラムがプロセッサによって実行されることで実現されてもよいし、一つ以上のハードウェア回路（例えばＦＰＧＡ又はＡＳＩＣ）によって実現されてもよいし、それらの組合せによって実現されてもよい。プログラムがプロセッサによって実行されることで機能が実現される場合、定められた処理が、適宜に記憶装置及び／又はインターフェース装置等を用いながら行われるため、機能はプロセッサの少なくとも一部とされてもよい。機能を主語として説明された処理は、プロセッサあるいはそのプロセッサを有する装置が行う処理としてもよい。プログラムは、プログラムソースからインストールされてもよい。プログラムソースは、例えば、プログラム配布計算機又は計算機が読み取り可能な記録媒体（例えば非一時的な記録媒体）であってもよい。各機能の説明は一例であり、複数の機能が一つの機能にまとめられたり、一つの機能が複数の機能に分割されたりしてもよい。
また、以下の説明では、各要素の「識別情報」として、ＩＤが採用されるが、ＩＤに代えて又は加えて、他種の情報（例えば名前）が採用されてよい。
また、以下の説明では、同種の要素を区別しないで説明する場合には、参照符号のうちの共通符号を使用し、同種の要素を区別する場合は、参照符号を使用することがある。
以下、幾つかの実施形態を説明する。
［第１の実施形態］
図１は、第１の実施形態に係るプログラム生成装置の構成例を示す。
プログラム生成装置１００は、所定の処理を並列演算デバイス１６０に並列演算させるコンピュータプログラムである並列演算プログラムを生成する装置である。並列演算デバイス１６０は、複数の演算グループ１６１を有する。各演算グループ１６１は、複数のコア１０と、当該複数のコア１０に同一の演算命令を割り当てる制御系２０とを有する。なお、本実施形態において、「同一の演算命令」は、同一の計算式の命令に相当する。また、本実施形態において、計算式が同一でも使用される変数値が異なれば、演算は異なる。すなわち、同一の計算式と異なる複数の変数値を用いて行われる複数の演算は、異なる演算である。
プログラム生成装置１００は、物理計算機群（一つ以上の物理的な計算機）であってもよいし、物理計算機群（例えば、クラウド基盤）上に実現される論理的な装置でもよい。物理計算機群には、物理的又は論理的な計算リソースとして、インターフェース装置１０１、記憶装置１０２及びそれらに接続されたプロセッサ１０３が備えられる。プログラム生成装置１００は、余剰コア特定部１１１と、プログラム生成部１１２とを有する。
インターフェース装置１０１を介して、第１の並列演算プログラム１４０とデバイス種類情報１４１とがプログラム生成装置１００に入力される。第１の並列演算プログラム１４０は、所定の処理を構成するアプリ演算を規定しており当該所定の処理の並列演算を並列演算デバイス１６０（例えばＧＰＵ）に実行させるためのコンピュータプログラムである。デバイス種類情報１４１は、並列演算デバイス１６０の種類（例えば、デバイス名及び／又は型番）を表す情報を含む。
インターフェース装置１０１を介して、第２の並列演算プログラム１５０がプログラム生成装置１００から出力される。第２の並列演算プログラム１５０は、第１の並列演算プログラム１４０を基にプログラム生成装置１００により生成されたコンピュータプログラムである。具体的には、第２の並列演算プログラム１５０は、第１の並列演算プログラム１４０が表す所定の処理に加えて並列演算デバイス１６０の制御系２０（典型的にはスケジューラ）の誤りの有無を検出することを並列演算デバイス１６０に実行させるコンピュータプログラムである。
記憶装置１０２は、プロセッサ１０３により実行されるコンピュータプログラム群（一つ以上のコンピュータプログラム）と、プロセッサ１０３により参照又は更新される情報とを格納する。情報として、例えば、並列演算デバイスＤＢ（データベース）１１６がある。並列演算デバイスＤＢ１１６は、並列演算デバイスのデバイス種類毎に、並列演算デバイスの構成を表すデバイス構成情報を含む。並列演算デバイスのデバイス種類毎に、構成情報は、下記（ａ）～（ｄ）のうちの少なくとも（ａ）を含む。
（ａ）並列演算デバイスの総コア数。
（ｂ）演算グループ１６１の数。
（ｃ）演算グループ１６１毎の構成情報であるグループ構成情報。各演算グループ１６１について、グループ構成情報は、当該演算グループ１６１のＩＤと当該演算グループ１６１における各コア１０のＩＤとのうちの少なくとも一つ。
（ｄ）並列演算デバイスの記憶領域のアドレス範囲。
プロセッサ１０３が、記憶装置１０２内のコンピュータプログラム群を実行することで、余剰コア特定部１１１及びプログラム生成部１１２が実現される。余剰コア特定部１１１は、第１の並列演算プログラム１４０を基に、当該並列演算における余剰コア数を特定する。プログラム生成部１１２は、第１の並列演算プログラム１４０を基に第２の並列演算プログラム１５０を生成する。
余剰コア特定部１１１は、余剰コア数算出部１２１を有する。余剰コア数算出部１２１は、入力されたデバイス種類情報をキーに並列演算デバイスＤＢ１１６からデバイス構成情報を取得し、デバイス構成情報が表す総コア数を特定する。また、余剰コア数算出部１２１は、第１の並列演算プログラム１４０（具体的には、例えば、第１の並列演算プログラム１４０のソースコード）を基に、使用コア１０ｃの総数である使用コア数を算出する。「使用コア」とは、アプリ演算が割り当てられるコアである。余剰コア数算出部１２１は、総コア数から使用コア数を減算することで余剰コア数を算出する。余剰コア数は、余剰コア１０ｒの総数である。「余剰コア」とは、アプリ演算が割り当てられないコア（例えば、アイドル状態になるコア）である。
プログラム生成部１１２は、冗長演算コア指定部１３１と診断演算コア指定部１３２とを有する。
冗長演算コア指定部１３１は、算出された余剰コア数と、第１の並列演算プログラム１４０と、取得されたデバイス構成情報とを基に、例えば下記を行う。
すなわち、冗長演算コア指定部１３１は、デバイス構成情報を基に、複数の演算グループ１６１から二つ以上の第１の演算グループ１６１Ａと一つ以上の第２の演算グループ１６１Ｂとを決定する。第１の演算グループ１６１Ａは、制御系２０の誤り有無を含む診断の対象とされる演算グループである。第２の演算グループ１６１Ｂは、各第１の演算グループ１６１Ａについて、当該第１の演算グループ１６１Ａの制御系２０Ａに誤りが有るか否かの診断を行う演算グループである。
また、冗長演算コア指定部１３１は、デバイス構成情報を基に、各第１の演算グループ１６１Ａについて、余剰コア１０ｒを決定する。すなわち、各第１の演算グループ１６１Ａが、少なくとも一つの余剰コア１０ｒを有することになる。なお、第２の演算グループ１６１Ｂについては、全てのコア１０が余剰コア１０ｒである。
また、冗長演算コア指定部１３１は、第１の並列演算プログラム１４０を基に、冗長演算を規定した情報を生成する。「冗長演算」は、第１の並列演算プログラム１４０が規定するアプリ演算の冗長演算である。冗長演算の具体例は後に説明する。
また、冗長演算コア指定部１３１は、冗長演算を第１の演算グループ１６１Ａの余剰コア１０ｒに割り当てることと、当該冗長演算の結果の格納先（並列演算デバイス１６０が有する記憶領域における格納先）を決定することとを行う。
また、冗長演算コア指定部１３１は冗長演算を規定した情報を設定する。編集中プログラム」は、第１の並列演算プログラム１４０が有しアプリ演算を規定した情報が記述されたプログラムでよく、第２の並列演算プログラム１５０に至る途中のプログラムに相当する。「冗長演算を規定した情報」は、冗長演算の結果の格納先（例えば、メモリアドレス）を表す情報を含んでもよい。また、「冗長演算を規定した情報」は、冗長演算の割当先のコアのＩＤを含んでもよい。また、冗長演算コア指定部１３１は、いずれの演算グループ１６１が第１の演算グループ１６１Ａであるかといずれの演算グループ１６１が第２の演算グループ１６１Ｂであるかとのうちの少なくとも一つを表す情報を編集中プログラムに設定してもよいし、第１の演算グループ１６１Ａの数と第２の演算グループ１６１Ｂの数とのうちの少なくとも一つを表す情報を編集中プログラムに設定してもよい。また、冗長演算コア指定部１３１は、余剰コア数と使用コア数とのうちの少なくとも一つを表す情報を編集中プログラムに設定してもよい。
診断演算コア指定部１３２は、冗長演算コア指定部１３１から出力された情報を基に、診断演算を規定した情報を生成し、当該情報を編集中プログラムに設定する。ここで、「冗長演算コア指定部１３１から出力された情報」は、編集中プログラム又はそれが有する情報を含む。また、「診断演算」は、二つ以上の第１の演算グループがそれぞれ有する二つ以上の余剰コアによる同一の冗長演算の実行結果の比較であって、第２の演算グループにおける余剰コアに割り当てられる演算である。「診断演算を規定した情報」は、当該診断演算の結果の格納先を表す情報を含んでもよい。また、「診断演算を規定した情報」は、当該診断演算の割当先のコアのＩＤを含んでもよい。
冗長演算及び診断演算が規定された編集中プログラムが、生成された第２の並列演算プログラム１５０に相当する。第２の並列演算プログラム１５０が、インターフェース装置１０１を介して出力される。
以上の説明によれば、第２の並列演算プログラム１５０は、第１の並列演算プログラム１４０に規定されているアプリ演算を規定した情報の他に、冗長演算を規定した情報と診断演算を規定した情報とを有する。ここで、アプリ演算、冗長演算及び診断演算の各々について、演算が同じか異なるかは、例えば、演算において使用される関数それ自体が同じか異なるかであってもよいし、関数それ自体が同じでも変数値が同じか異なるかであってもよい。例えば、関数が同じで変数値範囲が異なるアプリ演算は、異なるアプリ演算でよい。
また、第２の並列演算プログラム１５０は、下記（Ａ）乃至（Ｅ）のうちの少なくとも一つを表す情報を含んでよい。これにより、第２の並列演算プログラム１５０の実行において並列演算デバイス１６０に対する詳細な指定が可能である。
（Ａ）いずれの演算グループが第１の演算グループであるかと第１の演算グループの数とのうちの少なくとも一つ。
（Ｂ）いずれの演算グループが第２の演算グループであるかと第２の演算グループの数とのうちの少なくとも一つ。
（Ｃ）冗長演算について、下記（ｃ１）及び（ｃ２）のうちの少なくとも一つ。
（ｃ１）当該冗長演算が割り当てられる余剰コア。
（ｃ２）前記並列演算デバイスにおける、冗長演算の結果の格納先。
（Ｄ）診断演算について、下記（ｄ１）及び（ｄ２）のうちの少なくとも一つ。
（ｄ１）当該診断演算が割り当てられる余剰コア。
（ｄ２）前記並列演算デバイスにおける、診断演算の結果の格納先。
（Ｅ）余剰コア数及び使用コア数とのうちの少なくとも一つ。
第２の並列演算プログラム１５０が並列演算デバイス１６０により実行されることで、図１が例示する下記が実現される。なお、下記において、いずれの演算グループ１６１が第１の演算グループ１６１Ａでありいずれの演算グループ１６１が第２の演算グループ１６１Ｂであるかは、第２の並列演算プログラム１５０において指定されていてもよいし、並列演算デバイス１６０により決定されてもよい。また、いずれのコア１０が使用コア１０ｃでありいずれのコアが余剰コア１０ｒであるかも、第２の並列演算プログラム１５０において指定されていてもよいし、並列演算デバイス１６０により決定されてもよい。
・複数の演算グループ１６１のうちの二つ以上の演算グループ１６１の各々が、第１の演算グループ１６１Ａであり、一つの演算グループ１６１が、第２の演算グループ１６１Ｂである。
・二つ以上の第１の演算グループ１６１Ａａ、１６１Ａｂの各々について、一つ（又は複数）のコア１０が余剰コア１０ｒであり、当該余剰コア１０ｒ以外のコア１０が使用コア１０ｃである。
・第２の演算グループ１６１Ｂにおいて、全てのコア１０が余剰コア１０ｒである。
第２の演算グループ１６１Ｂの数は、第１の演算グループ１６１Ａの数に依存する。典型的には、第２の演算グループ１６１Ｂは、第１の演算グループ１６１Ａより少ない。
図２が、第２の並列演算プログラム１５０に従う並列演算の概要の一例を示す。
第２の並列演算プログラム１５０に従い、二つ以上の第１の演算グループ１６１Ａａ、１６１Ａｂ、…に命令Ａが割り当てられ、二つ以上の第１の演算グループ１６１Ａａ、１６１Ａｂ、…の各々において、命令Ａがキャッシュされる。命令Ａは、アプリ演算とそれの冗長演算との命令である。各第１の演算グループ１６１Ａにおいて、制御系２０Ａが、キャッシュされている命令Ａを、当該第１の演算グループ１６１Ａにおける複数のコアに割り当てる、具体的には、命令Ａに従うアプリ演算を使用コア１０ｃに割り当て、命令Ａに従う冗長演算を余剰コア１０ｒに割り当てる。
第２の並列演算プログラム１５０に従い、第２の演算グループ１６１Ｂに命令Ｂが割り当てられ、第２の演算グループ１６１Ｂにおいて、命令Ｂがキャッシュされる。命令Ｂは、診断演算の命令である。第２の演算グループ１６１Ｂにおいて、制御系２０Ｂが、キャッシュされている命令Ｂを、当該第２の演算グループ１６１Ｂにおける全ての余剰コア１０ｒＢに割り当てる。
命令Ａが各第１の演算グループ１６１Ａに割り当てられ命令Ｂが第２の演算グループ１６１Ｂに割り当てられることで、例えば一定時間Ｔ毎に、アプリ演算、冗長演算及び診断演算が並列演算デバイス１６０において並列に実行される。
具体的には、例えば、時刻間ｔ１－ｔ２において、二つ以上の第１の演算グループ１６１Ａａ、１６１Ａｂ、…が、それぞれ、アプリ演算とそれの冗長演算とを行い、アプリ演算結果と冗長演算結果Ｄ１ａ、Ｄ１ｂ、…とを、例えば第２の並列演算プログラム１５０にそれぞれ規定されている記憶領域に格納する。そして、第２の演算グループ１６１Ｂが、当該記憶領域から冗長演算結果Ｄ１ａ、Ｄ１ｂ、…を読み出し、読み出した冗長演算結果Ｄ１ａ、Ｄ１ｂ、…の比較である診断演算を実行する（例えば、余剰コア１０ｒＢ１が、Ｄ１ａとＤ１ｂとを比較する）。冗長演算結果Ｄ１ａ、Ｄ１ｂ、…が、全て同じであれば、診断演算結果は、いずれの制御系２０Ａにも誤りが無いという結果である。少なくとも一つの余剰コア１０ｒＢが、冗長演算結果の不一致を検出した場合、誤りがあるとの結果を出力する。この結果から、当該不一致の冗長演算結果を出した余剰コア１０ｒを含む演算グループ１６１Ａ内の制御系２０Ａに誤りがあると推定できる。いずれかの制御系２０Ａに誤りがあれば、当該制御系２０Ａから割り当てられる命令Ａに誤りがあり、結果として、当該制御系２０Ａからの命令Ａに従う冗長演算の結果が、正常な制御系２０Ａからの命令Ａに従う冗長演算の結果と一致しないことになる。いずれの二つ以上の第１の演算グループ１６１Ａから出力された冗長演算結果が不一致であったかは、例えば、冗長演算結果の不一致を検出した余剰コア１０ｒＢが出力した情報（例えば、冗長演算結果を出力した第１の演算グループ１６１のＩＤを含んだ情報）から、並列演算デバイス１６０の外部システム（例えば上位システム）が特定可能である。
以降、同様の処理が行われる。すなわち、時刻間ｔｎ－ｔ（ｎ＋１）（ｎは自然数）に、並列に、下記（Ｘ）及び（Ｙ）が実行される。演算を規定した情報の少なくとも一部がカーネルとして並列演算デバイス１６０において実現され当該情報が表す演算が並列演算デバイス１６０において実行される。
（Ｘ）各第１の演算グループ１６１Ａが、アプリ演算と冗長演算とを実行し、アプリ演算結果と冗長演算結果Ｄｎａ、Ｄｎｂ、…とを記憶領域に格納する。
（Ｙ）第２の演算グループ１６１Ｂが、当該格納された冗長演算結果Ｄｎａ、Ｄｎｂ、…を読み出し、それらの比較である診断演算を行い、診断演算結果を記憶領域に格納する。
本実施形態では、時刻間ｔｎ－ｔ（ｎ＋１）のｎの値に関わらず、演算グループ１６１とその役割（診断対象であるか診断を行うか）は固定されているが、ｎの値によって、演算グループ１６１とその役割は変化してもよい。例えば、定期的に又は不定期的に、第１の演算グループ１６１Ａから第２の演算グループ１６１Ｂに切り替わる演算グループ１６１と第２の演算グループ１６１Ｂから第１の演算グループ１６１Ａに切り替わる演算グループ１６１とがあってもよい。演算グループ１６１の役割の変化とそのタイミングを表す情報は第２の並列演算プログラム１５０に記述され、当該情報を基に、並列演算デバイス１６０において、演算グループ１６１の役割の変化が行われてもよい。なお、役割変化が行われても、第１の演算グループ１６１Ａの数と第２の演算グループ１６１Ｂの数は維持されてよい。
図３は、プログラム生成装置１００が行う処理の流れの例を示す。
第１の入力ソースから、第１の並列演算プログラム１４０が、余剰コア特定部１１１及びプログラム生成部１１２に入力される（Ｓ３０１）。第１の入力ソースは、外部記憶装置やユーザ端末等でよい。
第１の入力ソース又は第２の入力ソースから、デバイス種類情報１４１が、余剰コア特定部１１１に入力される（Ｓ３０２）。第２の入力ソースは、例えば、コマンド又はＧＵＩ（Graphical User Interface）でよい。
余剰コア特定部１１１における余剰コア数算出部１２１が、余剰コア数を算出する（Ｓ３０３）。具体的には、余剰コア数算出部１２１が、Ｓ３０２で入力されたデバイス種類情報１４１をキーに並列演算デバイスＤＢ１１６からデバイス構成情報を取得する。デバイス種類情報１４１の入力と並列演算デバイスＤＢ１１６の存在とに代えて、デバイス構成情報それ自体が、例えば第１の入力ソース又は第２の入力ソースから入力されてもよい。余剰コア数算出部１２１は、取得されたデバイス構成情報が表す総コア数を特定する。また、余剰コア数算出部１２１は、Ｓ３０１で入力された第１の並列演算プログラム１４０を基に使用コア数を特定する。余剰コア数算出部１２１は、総コア数から使用コア数を減算することで、余剰コア数を算出する。具体的には、例えば、余剰コア数算出部１２１が、第１の並列演算プログラム１４０を基に、スレッドの数（例えば、１スレッドが１コアに対応）と、ブロック（スレッドの塊）の数とを特定し、スレッド数及びブロック数を基に使用コア数を特定する。例えば、ブロック数が１であり、１ブロックを構成するスレッドの数が７００であり、ブロック数が１の場合、使用コア数は、７００（＝１×７００）である。また、例えば、１ブロックを構成するスレッドの数が２００であり、ブロック数が５の場合、使用コア数は、１０００（＝５×２００）である。余剰コア数算出部１２１が、このような使用コア数を総コア数から減算することにより、余剰コア数を算出する。
プログラム生成部１１２における冗長演算コア指定部１３１は、Ｓ３０１で入力された第１の並列演算プログラム１４０と、Ｓ３０３で算出された余剰コア数と、Ｓ３０２で取得されたデバイス構成情報とを基に、冗長演算と、冗長演算の割当先のコア（冗長演算用の余剰コア）と、冗長演算結果の格納先とを決定し、決定されたそれらの内容を表す情報を編集中プログラムに設定する（Ｓ３０４）。
プログラム生成部１１２における診断演算コア指定部１３２は、Ｓ３０４での決定の内容と、Ｓ３０２で取得されたデバイス構成情報とを基に、診断演算と、診断演算の割当先のコア（診断演算用の余剰コア）と、診断演算結果の格納先とを決定し、決定されたそれらの内容を表す情報を編集中プログラムに設定する（Ｓ３０５）。これにより、編集中プログラムが第２の並列演算プログラム１５０となる、言い換えれば、第２の並列演算プログラム１５０が生成されたこととなる。
診断演算コア指定部１３２は、生成された第２の並列演算プログラム１５０を出力する（Ｓ３０６）。
以上、第１の実施形態によれば、第１の並列演算プログラム１４０に規定されているアプリ演算が割り当てられない複数の余剰コア１０ｒが特定され、第１の演算グループ１６１Ａ（診断対象の演算グループ）における余剰コア１０ｒにアプリ演算の冗長演算が割り当てられ、第２の演算グループ１６１Ｂ（診断用の演算グループ）における余剰コア１０ｒに診断演算が割り当てられる。各第１の演算グループ１６１Ａの余剰コア１０ｒが冗長演算を行い、第２の演算グループ１６１Ｂの余剰コア１０ｒが冗長演算結果の比較である診断演算を行う。不一致の冗長演算結果があれば、当該冗長演算結果を出した余剰コア１０ｒを含む第１の演算グループ１６１Ａ内の制御系２０Ａに誤りがあることを検出できる。このようにして、並列演算デバイス１６０のハードウェア資源の冗長化を招かず且つスループット低下を抑制して制御系２０Ａの誤りを検出するプログラムを自動生成することができる。
また、第１の実施形態によれば、並列演算デバイス１６０の総コア数が特定され、第１の並列演算プログラム１４０を基に使用コア数が特定され、それらの差分が、余剰コア数として算出される。これにより、第１の並列演算プログラム１４０を実行する並列演算デバイス１６０に生じる余剰コアの数を正確に特定できる。
第２の並列演算プログラム１５０の構成は、図１１に例示される構成でよい。すなわち、下記に述べる構成が採用されてよい。
第２の並列演算プログラム１５０は、アプリ演算規定情報１１０１、冗長演算規定情報１１０２及び診断演算規定情報１１０３を有する。
アプリ演算規定情報１１０１は、アプリ演算を規定した情報である。例えば、アプリ演算規定情報１１０１は、アプリ演算の命令を表すアプリ演算命令情報１１１１（例えば、アプリ演算の計算式と変数値範囲とを含んだ情報）、アプリ演算に使用される情報（例えば、計算式の変数値）が入力される位置（例えば、記憶領域のアドレス）を表すアプリ演算入力位置情報１１１２、及び、アプリ演算の結果の出力先（格納先）を表すアプリ演算出力位置情報１１１３を含む。例えば、アプリ演算が割り当てられた使用コア１０ｃは、情報１１１２が表す位置から値を読み出し、当該値を入力として情報１１１１に従うアプリ演算を行い、当該アプリ演算の結果を、情報１１１３が表す出力先に出力する。
冗長演算規定情報１１０２は、冗長演算を規定した情報である。例えば、冗長演算規定情報１１０２は、冗長演算の命令を表す冗長演算命令情報１１２１（例えば、冗長演算の計算式と変数値範囲とを含んだ情報）、冗長演算に使用される情報（例えば、計算式の変数値）が入力される位置を表す冗長演算入力位置情報１１２２、及び、冗長演算の結果の出力先を表す冗長演算出力位置情報１１２３を含む。例えば、冗長演算が割り当てられた余剰コア１０ｒは、情報１１２２が表す位置から値を読み出し、当該値を入力として情報１１２１に従う冗長演算を行い、当該冗長演算の結果を、情報１１２３が表す出力先に出力する。
診断演算規定情報１１０３は、診断演算を規定した情報である。例えば、診断演算規定情報１１０３は、診断演算の命令を表す診断演算命令情報１１３１（例えば、診断演算の計算式と変数値範囲とを含んだ情報）、診断演算に使用される情報（冗長演算結果）が入力される位置を表す診断演算入力位置情報１１３２、及び、診断演算の結果の出力先を表す診断演算出力位置情報１１３３を含む。例えば、診断演算が割り当てられた余剰コア１０ｒＢは、情報１１３２が表す位置から値を読み出し、当該値を入力として情報１１３１に従う診断演算を行い、当該診断演算の結果を、情報１１３３が表す出力先に出力する。
情報１１０１が、アプリ演算コードと呼ばれ、情報１１０２が、冗長演算コードと呼ばれ、情報１１０３が、診断演算コードと呼ばれてよい。アプリ演算コード、冗長演算コード及び診断演算コードの少なくとも一つが、複数存在してもよい。
図１１が例示する構成は、概念的な構成でよく、実際には一部が重複していてもよい。
例えば、アプリ演算命令情報１１１１の少なくとも一部（例えば、計算式を表す情報）と冗長演算命令情報１１２１の少なくとも一部が重複してもよい。具体的には、例えば、第１の並列演算プログラム１４０が有する単一のアプリ演算コードにおいて、y = a*x + bの計算式と、0≦x≦31を第１の演算グループ１６０Ａａが担当すること、32≦x≦63を第１の演算グループ１６０Ａｂが担当することとが記述されていたとする。プログラム生成部１１２が、各第１の演算グループ１６０Ａのx範囲（変数値範囲）を、x範囲の一部が他の第１の演算グループ１６０Ａのx範囲の一部と重複するよう調整することで、冗長演算を規定する。例えば、プログラム生成部１１２が、第１の演算グループ１６０Ａｂのx範囲を30≦x≦61に変更することで、x = 30, 31が第１の演算グループ１６０Ａａのx範囲（0≦x≦31）と重複する冗長演算（計算式は、アプリ演算と同じy = a*x + b）を規定する。このように、アプリ演算コードの一部が、アプリ演算と冗長演算（x範囲が30≦x≦31）を行うコードに変わっている。つまり、アプリ演算コードの少なくとも一部が冗長演算コードの少なくとも一部と不可別となり得る。故に、アプリ演算コードと冗長演算コードが組み合わさったコードが存在してもよい。このようなコードが、アプリ演算と冗長演算を規定したコードの一例である。
また、例えば、診断演算では、冗長演算結果の出力先から冗長演算結果が読み出されるので、情報１１２３及び１１３２は同一の情報でよい。
［第２の実施形態］
第２の実施形態を説明する。その際、第１の実施形態との相違点を主に説明し、第１の実施形態との共通点については説明を省略又は簡略する。
図４は、第２の実施形態に係るプログラム生成装置の構成例を示す。
プログラム生成装置４００において、余剰コア特定部４１１が、余剰コア数算出部１２１の他に、余剰コア確保部４０１を含む。余剰コア確保部４０１は、算出された余剰コア数が余剰コアの不足を意味する数である場合（言い換えれば、算出された余剰コア数が必要な余剰コア数に満たない場合）、必要な余剰コア数分（又はそれより多い）余剰コアを確保する。
図５は、プログラム生成装置１００が行う処理の流れの例を示す。
Ｓ３０１～Ｓ３０３（図３参照）の後、余剰コア確保部４０１は、第１の並列演算プログラム１４０を基に必要な余剰コア数を特定し（例えば、第１の並列演算プログラム１４０に記述されている、アプリ演算を規定した情報から、必要と推定される冗長演算の数を基に、必要な余剰コア数を特定し）、Ｓ３０３で算出された余剰コア数が、特定された必要な余剰コア数未満か否かの判断である不足判断を行う（Ｓ５０１）。不足判断の結果が偽の場合（Ｓ５０１：ＮＯ）、算出された余剰コア数を基に、Ｓ３０４～Ｓ３０６（図３参照）が行われる。
不足判断の結果が真の場合（例えば、算出された余剰コア数が０の場合）（Ｓ５０１：ＹＥＳ）、余剰コア確保部４０１は、第１の並列演算プログラム１４０を基に特定された使用コア数分の複数の使用コアの一部の使用コアを余剰コアとすることで、必要な余剰コア数分の余剰コアを確保する（Ｓ５０２）。確保された余剰コアの数、言い換えれば、必要な余剰コア数を基に、Ｓ３０４～Ｓ３０６（図３参照）が行われる。
第２の実施形態によれば、余剰コアが不足している場合でも、アプリ演算と並列に冗長演算及び診断演算を必要な余剰コア数分の余剰コアにより実行することができる。
［第３の実施形態］
第３の実施形態を説明する。第３の実施形態は、第１の実施形態に係るプログラム生成装置１００又は第２の実施形態に係るプログラム生成装置４００により生成された第２の並列演算プログラム１５０を実行する並列演算デバイス１６０に関する。
図６は、第３の実施形態に係る並列演算デバイス１６０の構成例を示す。
並列演算デバイス１６０は、複数の演算グループ１６１の他に、命令割当て部６０１と、記憶領域６０２（例えば、メモリ）とを有する。
命令割当て部６０１が、並列演算デバイス１６０に入力された第２の並列演算プログラム１５０に記述されている情報（例えば、アプリ演算、冗長演算及び診断演算といった演算を規定した情報）を基に、命令を複数の演算グループ１６１に割り当てる。
記憶領域６０２は、アプリ演算結果が格納される領域であるアプリ演算結果領域６２１と、冗長演算結果が格納される領域である冗長演算結果領域６２２と、診断演算結果が格納される領域である診断演算結果領域６２３とを含む。領域６２１、６２２及び６２３は、いずれも、第２の並列演算プログラム１５０に規定された情報が表す領域である。具体的には、例えば、アプリ演算結果領域６２１は、図１１が示す情報１１１３が表す領域であり、冗長演算結果領域６２２は、図１１が示す情報１１２３が表す領域であり、診断演算結果領域６２３は、図１１が示す情報１１３３が表す領域である。
アプリ演算結果領域６２１に格納されているアプリ演算結果が、アプリ演算結果に基づく処理を実行する上位システムに出力される（例えば、上位システムにより読み出される）。また、診断演算結果領域６２３に格納されている診断演算結果が、上位システムに出力される（例えば、上位システムにより読み出される）。上位システムは、例えば、通常、入力された（例えば読み出された）アプリ演算結果を基に、ユーザからのデータ入力無しに処理を走らせる自動処理を行うようになっている。上位システムは、例えば、自動処理を、制御系２０の誤りが検出されるまで継続するようになっている。上位システムは、例えば、受信した（例えば読み出された）診断演算結果から、制御系２０の誤りが検出されたことを特定した場合、自動処理に代えて、ユーザからのデータ入力を適宜に必要とする手動処理を走らせる。このように、上位システムは、診断演算結果から制御系２０の誤りが検出されたか否かに応じて、所定の処理（例えば、処理モード）を変更するか継続するかを決定できる。なお、上位システムは、並列演算デバイス１６０の一つ以上の外部システムの少なくとも一つの一例でよい。また、アプリ演算結果の出力先の外部システムと診断演算結果の出力先の外部システムは同一でも異なっていてもよい。
並列演算デバイス１６０は、上位システムのような外部システムに対するインターフェースであり外部システムへ出力されるデータを加工する機能を含む外部インターフェース６３０を有する。例えば、外部インターフェース６３０が、診断演算結果領域６２３に格納されているデータを解析し解析結果を診断演算結果として上位システムに出力してもよい。また、外部インターフェース６３０としての機能は、図６が示す例の通り、演算グループ１６１の外で実現されてもよいし、それに代えて又は加えて、アプリ演算結果の出力用の外部インターフェースが各第１の演算グループ１６１Ａの使用コア１０ｃにより実現されてもよいし、診断演算結果の出力用の外部インターフェースが第２の演算グループ１６１Ｂの余剰コア１０ｒにより実現されてもよい。
図７は、並列演算デバイス１６０が行う処理の流れの例を示す。
第２の並列演算プログラム１５０が命令割当て部６０１に入力される（Ｓ７０１）。
命令割当て部６０１が、第２の並列演算プログラム１５０に基づき、各演算グループ１６１の制御系２０に命令を割り当てる（Ｓ７０２）。具体的には、命令割当て部６０１は、第１の演算グループ１６１Ａに命令Ａを割り当て、第２の演算グループ１６１Ｂに命令Ｂを割り当てる。命令Ａ及び命令Ｂは、上述した通りである。すなわち、命令Ａは、アプリ演算とそれの冗長演算との命令（例えば、一つ以上のアプリ演算コードと、当該一つ以上のアプリ演算コードの各々についての冗長演算コードとが表す演算の命令）である。命令Ｂは、命令Ｂは、診断演算の命令（例えば、一つ以上の診断演算コードが表す演算の命令）である。第１の演算グループ１６１Ａにおいて、制御系２０Ａが、命令Ａに従い、アプリ演算コードを使用コア１０ｃに割り当て、冗長演算コードを余剰コア１０ｒに割り当てる。第２の演算グループ１６１Ｂにおいて、制御系２０Ｂが、命令Ｂに従い、診断演算コードを余剰コア１０ｒに割り当てる。
アプリ演算及び冗長演算が並列に実行され、それぞれの実行結果が記憶領域６０２に格納される（Ｓ７０３）。具体的には、例えば、第２の並列演算プログラム１５０には、アプリ演算及び冗長演算の各々について、格納先（ここでは、記憶領域６０２のアドレス）を表す情報が記述されている。各第１の演算グループ１６１Ａにおける使用コア１０ｃが、割り当てられたアプリ演算を実行し、アプリ演算の結果の格納先として指定されているアプリ演算結果領域６２１に、アプリ演算結果を格納する。各第１の演算グループ１６１Ａにおける余剰コア１０ｒが、割り当てられた冗長演算を実行し、冗長演算の結果の格納先として指定されている冗長演算結果領域６２２に、冗長演算結果を格納する。このようなＳ７０３は、命令Ａに従う全てのアプリ演算及び冗長演算が終わるまで繰り返し行われる。
Ｓ７０３と並列に、診断演算が実行され、診断演算結果が記憶領域６０２に格納される（Ｓ７０４）。具体的には、例えば、第２の並列演算プログラム１５０には、診断演算について、格納先を表す情報が記述されている。第２の演算グループ１６１Ｂにおける余剰コア１０ｒが、割り当てられた命令Ｂに従い、冗長演算の結果の格納先として指定されている冗長演算結果領域６２２から冗長演算結果を読み出し、読み出された冗長演算結果を比較する診断演算を実行し、診断演算の結果の格納先として指定されている診断演算結果領域６２３に、診断演算結果を格納する。このようなＳ７０４は、全ての冗長演算結果の比較が終わるまで繰り返し行われる。
アプリ演算結果領域６２１内のアプリ演算結果が、例えば外部インターフェース６３０により上位システムに出力される（Ｓ７０５）。Ｓ７０５は、命令Ａに従う全てのアプリ演算が終わった後に行われてもよいし、定期的に（例えば、一定時間Ｔ毎に（例えば、アプリ演算の都度に））行われてもよい。
診断演算結果領域６２３内の診断演算結果が、不一致の冗長演算結果が得られたことを意味する結果であるか否かを、例えば外部インターフェース６３０が判断する（Ｓ７０６）。Ｓ７０６の判断結果が真の場合（Ｓ７０６：ＹＥＳ）、外部インターフェース６３０が、制御系２０に誤りがあることを意味する情報である制御系誤り情報を診断演算結果として上位システムに出力する（Ｓ７０７）。Ｓ７０６及びＳ７０７は、命令Ｂに従う全ての診断演算が終わった後に行われてもよいし、定期的に（例えば、一定時間Ｔ毎に（例えば、診断演算の都度に））行われてもよい。
第３の実施形態によれば、第１又は第２の実施形態において生成された第２の並列演算プログラム１５０を用いて、ハードウェア資源の増大とスループット低下とを抑制して並列演算デバイス１６０の制御系２０の誤りを検出することができる。
なお、第２の並列演算プログラム１５０は、予め並列演算デバイス１６０に組み込まれていてもよい。また、第３の実施形態では、第２の並列演算プログラム１５０は、プログラム生成装置１００又は４００以外により（例えばユーザにより）生成されたプログラムでもよい。
［第４の実施形態］
第４の実施形態を説明する。その際、第３の実施形態との相違点を主に説明し、第３の実施形態との共通点については説明を省略又は簡略する。
図８は、第４の実施形態に係る並列演算デバイスの構成例を示す。
並列演算デバイス８６０が、情報管理部８０１と特徴判定部８０４とを更に有する。
情報管理部８０１は、診断演算結果領域６２３から特定される誤り結果（誤り有りを意味する診断演算結果）に関する情報である制御系誤りＤＢ８０３（誤り管理情報の一例）を管理する。制御系誤りＤＢ８０３は、並列演算デバイス８６０の記憶領域８０２に格納されるデータベースである。記憶領域８０２は、例えばメモリにおける領域であり、記憶領域６０２と同じ又は異なる領域である。このような情報管理部８０１により、並列演算デバイス８６０の後述のデバイス特徴の判定が可能である。制御系誤りＤＢ８０３は、例えば、後述するように、誤り結果が得られた命令毎の誤り回数（誤り結果が得られた回数）を表す情報と、誤り結果毎の発生時刻を表す情報とを含む。
特徴判定部８０４が、制御系誤りＤＢ８０３を基に、並列演算デバイス８６０の特性と状況のうちの少なくとも一つを含むデバイス特徴を判定する。例えば外部インターフェース６３０が、判定されたデバイス特徴を表す情報を、上位システムに出力する。これにより、上位システムが、デバイス特徴に応じた処理を実行することが可能である。本実施形態は、デバイス特徴の少なくとも一部として、脆弱命令とエラー種類とのうちの少なくとも一つが採用される。脆弱命令とエラー種類についてはそれぞれ後述する。
なお、デバイス特徴を表す情報の出力先となる外部システムは、アプリ演算結果の出力先と同じでも異なっていてもよいし、診断演算結果の出力先と同じでも異なっていてもよい。
図９は、並列演算デバイス８６０が行う処理の流れの例を示す。
図７のＳ７０１～Ｓ７０７に加えて、Ｓ７０６：ＹＥＳの場合、Ｓ９０８及びＳ９０９が行われる。すなわち、情報管理部８０１は、制御系誤りＤＢ８０３を更新する（Ｓ９０８）。特徴判定部８０４が、制御系誤りＤＢ８０３を基に、並列演算デバイス８６０のデバイス特徴を判定し、例えば外部インターフェース６３０が、判定されたデバイス特徴を表す情報を、上位システムに出力する（Ｓ９０９）。
図１０は、並列演算デバイス８６０が行う処理の一例を示す。
並列演算デバイス８６０の内部又は外部に、時刻ソース１０１１がある。時刻ソース１０１１は、例えばＧＰＳ（Global Positioning System）センサ又はタイマでよく、時刻を表す情報を出力する。時刻ソース１０１１は、例えば定期的に時刻を表す情報を出力する。
制御系誤りＤＢ８０３が、第１のテーブル１００１、第２のテーブル１００２及び第３のテーブル１００３を含む。第１のテーブル１００１及び第２のテーブル１００２は、脆弱命令の判定に利用される情報の一例であり、第３のテーブル１００３は、エラー種類の判定に利用される情報の一例である。第１のテーブル１００１及び第２のテーブル１００２が存在せず第３のテーブル１００３が存在してもよいし、第３のテーブル１００３が存在せず第１のテーブル１００１及び第２のテーブル１００２が存在してもよい。
第１のテーブル１００１は、時刻と命令Ａとの対応関係を表すテーブルである。情報管理部８０１は、命令Ａを、命令割当て部６０１から取得してもよいし、第１の演算グループ１６１Ａから取得してもよい。また、命令Ａそれ自体に代えて、命令ＡのＩＤが取得されて第１のテーブル１００１に登録されてもよい。
第２のテーブル１００２は、命令Ａと誤り回数との対応関係を表すテーブルである。「誤り回数」とは、誤り結果が発生した回数である。
第３のテーブル１００３は、誤り発生時刻のリストに相当するテーブルである。「誤り発生時刻」とは、誤り結果が発生した時刻である。
各時刻間ｔｎ－ｔ（ｎ＋１）について、命令Ａがいずれかの第１の演算グループ１６１Ａに割り当てられた場合、並列演算デバイス８６０では、例えば、この時刻間ｔｎ－ｔ（ｎ＋１）内に、以下のような処理が行われる。
・情報管理部８０１が、当該割り当てられた命令Ａ（例えば、命令Ａ３）と、時刻ソース１１が出力する情報が表す時刻ｔｎ（例えば、時刻ｔ１１）とを取得し、取得した時刻と命令Ａとの組を第１のテーブル１００１に追加する。
・当該命令Ａについて、この時刻間ｔｎ－ｔ（ｎ＋１）に、冗長演算及び診断演算が行われる。
・診断演算結果領域６２３に誤り結果が格納された場合、情報管理部８０１が、時刻ｔｎ（例えば、時刻ｔ１１）をキーに第１のテーブル１００１から命令Ａ（例えば、命令Ａ３）を特定し、特定した命令Ａに対応した誤り回数（第２のテーブル１００２に登録されている誤り回数）を１インクリメントする。このようにして、当該命令Ａ（例えば、命令Ａ３）の誤り回数が更新される。
・診断演算結果領域６２３に誤り結果が格納された場合、情報管理部８０１が、時刻ｔｎを誤り発生時刻として第３のテーブル１００３に登録する。
特徴判定部８０４が、例えば定期的に又は不定期的に、制御系誤りＤＢ８０３のうちの第２のテーブル１００２を参照し、誤り回数が最も多い命令Ａを、脆弱命令と判定する。「誤り回数が最も多い命令Ａ」は、第２のテーブル１００２が表す誤り回数が相対的に多い命令Ａの一例である。「誤り回数が最も多い命令Ａ」に代えて、誤り回数が上位Ｘ％の命令Ａが脆弱命令と判定されてもよい。また、それに代えて、誤り回数が所定の閾値以上である命令Ａ、すなわち、誤り回数が絶対的に多い命令Ａが、脆弱命令と判定されてもよい。「脆弱命令」は、誤り結果が発生し易いと判定された命令Ａである。脆弱命令の判定が可能となることで、制御系２０Ａの誤り耐性を向上させる第２の並列演算プログラム１５０の生成に貢献することが期待される。例えば、或る命令Ａについて誤り結果が生じ易い場合、当該命令Ａと同じアプリ演算結果が得られる別の命令Ａの演算コードを記述するといったことが可能となる。
特徴判定部８０４が、例えば定期的に又は不定期的に、制御系誤りＤＢ８０３のうちの第３のテーブル１００３を参照し、誤り発生時刻の間隔の傾向からエラー種類を判定する。例えば、特徴判定部８０４は、エラー発生時刻間（エラー発生時刻と次のエラー発生時刻の間隔）の長さが所定の閾値以下であれば、誤り結果の原因としてのエラーの種類を一時エラーと判定する。一方、特徴判定部８０４は、エラー発生時刻間の長さが所定の閾値を超えていれば、誤り結果の原因としてのエラーの種類を恒久エラーと判定する。このようにして、並列演算デバイス８６０におけるエラーの種類を、上位システムを介さず、効率的に特定することが期待できる。
以上、幾つかの実施形態を説明したが、これらは本発明の説明のための例示であって、本発明の範囲をこれらの実施形態にのみ限定する趣旨ではない。本発明は、他の種々の形態でも実行することが可能である。例えば、上述の実施形態では、説明を簡単にするために、同一命令Ａについてのアプリ演算、冗長演算及び診断演算が同一時刻間において行われるとしたが、同一命令Ａについて冗長演算の開始から診断演算の開始が可能になるまでの時間や、診断演算に要する時間等を予め見積もっておき、見積もられた種々の時間を基に、命令Ａに紐付けられる時刻や、エラー発生時刻とされる時刻が補正され、補正後の時刻が、制御系誤りＤＢ８０３に登録されてもよい。
１００：プログラム生成装置

Claims (10)

  1. 複数の演算グループを有し並列演算可能なデバイスである並列演算デバイスの構成を表すデバイス構成情報と、所定の処理を構成するアプリ演算を規定し前記所定の処理の並列演算を前記並列演算デバイスに実行させるための第１の並列演算プログラムとを基に、当該並列演算における余剰コア数を特定する余剰コア特定部と、
    前記複数の演算グループの各々は、複数のコアと、当該複数のコアに同一の演算命令を割り当てる制御系とを有し、
    余剰コアは、アプリ演算が割り当てられないコアであり、
    アプリ演算の他に冗長演算と診断演算とを規定し前記所定の処理の並列演算を前記並列演算デバイスに実行させるための第２の並列演算プログラムを、前記第１の並列演算プログラムを基に生成するプログラム生成部と
    を有し、
    冗長演算は、アプリ演算の冗長演算であって、第１の演算グループにおける余剰コアに割り当てられる演算であり、
    診断演算は、二つ以上の第１の演算グループがそれぞれ有する二つ以上の余剰コアによる同一の冗長演算の実行結果の比較であって、第２の演算グループにおける余剰コアに割り当てられる演算である、
    プログラム生成装置。
  2. 前記余剰コア特定部は、
    前記第１の並列演算プログラムを基に前記並列演算デバイスの使用コア数を特定し、
    前記デバイス構成情報が表す総コア数から当該特定された使用コア数を減算することで、余剰コア数を算出し、
    使用コアは、アプリ演算が割り当てられるコアであり、
    当該算出された余剰コア数が、前記特定された余剰コア数である、
    請求項１に記載のプログラム生成装置。
  3. 前記余剰コア特定部は、
    前記第１の並列演算プログラムを基に必要な余剰コア数を特定し、
    前記算出された余剰コア数が、前記特定された必要な余剰コア数未満か否かの判断である不足判断を行い、
    当該不足判断の結果が真の場合、前記算出された使用コア数分の複数の使用コアの一部の使用コアを余剰コアとすることで、前記特定された必要な余剰コア数を確保し、
    当該確保された必要な余剰コア数が、前記特定された余剰コア数である、
    請求項２に記載のプログラム生成装置。
  4. 前記第２の並列演算プログラムは、下記（Ａ）乃至（Ｅ）のうちの少なくとも一つを表す情報を含む、
    （Ａ）いずれの演算グループが第１の演算グループであるかと第１の演算グループの数とのうちの少なくとも一つ、
    （Ｂ）いずれの演算グループが第２の演算グループであるかと第２の演算グループの数とのうちの少なくとも一つ、
    （Ｃ）冗長演算について、下記（ｃ１）及び（ｃ２）のうちの少なくとも一つ、
    （ｃ１）当該冗長演算が割り当てられる余剰コア、
    （ｃ２）前記並列演算デバイスにおける、冗長演算の結果の格納先、
    （Ｄ）診断演算について、下記（ｄ１）及び（ｄ２）のうちの少なくとも一つ、
    （ｄ１）当該冗長演算が割り当てられる余剰コア、
    （ｄ２）前記並列演算デバイスにおける、診断演算の結果の格納先、
    （Ｅ）余剰コア数及び使用コア数とのうちの少なくとも一つ、
    請求項１に記載のプログラム生成装置。
  5. 請求項１に記載のプログラム生成装置により生成された前記第２の並列演算プログラムを実行する並列演算可能なデバイスである並列演算デバイスであって、
    複数の演算グループと、
    前記第２の並列演算プログラムに従い、アプリ演算とそれの冗長演算との命令である第１の命令を前記複数の演算グループのうちの二つ以上の第１の演算グループに割り当て、且つ、診断演算の命令である第２の命令を前記複数の演算グループのうちの一つ以上の第２の演算グループに割り当てる命令割当て部と、
    記憶領域と
    を備え、
    前記複数の演算グループの各々は、複数のコアと、当該複数のコアに同一の演算命令を割り当てる制御系とを有し、
    余剰コアは、アプリ演算が割り当てられないコアであり、
    前記二つ以上の第１の演算グループの各々において、使用コアが、制御系からの第１の命令に従いアプリ演算を実行し、アプリ演算結果を、前記第２の並列演算プログラムに規定されている第１の記憶領域に格納し、
    前記二つ以上の第１の演算グループの各々において、余剰コアが、制御系からの第１の命令に従いアプリ演算と並列に冗長演算を実行し、冗長演算結果を、前記第２の並列演算プログラムに規定されている第２の記憶領域に格納し、
    前記一つ以上の第２の演算グループの各々において、余剰コアが、制御系からの第２の命令に従い前記第２の記憶領域内の二つ以上の冗長演算結果を比較する診断演算を実行し、誤りの有無を含む診断演算結果を、前記第２の並列演算プログラムに規定されている第３の記憶領域に格納し、
    前記第１の記憶領域に格納されているアプリ演算結果が、前記並列演算デバイスの一つ以上の外部システムの少なくとも一つに提供され、
    前記第３の記憶領域に格納されている診断演算結果が、前記並列演算デバイスの一つ以上の外部システムの少なくとも一つに提供される、
    並列演算デバイス。
  6. 誤り有りを意味する診断演算結果である誤り結果に関する情報である誤り管理情報を管理する情報管理部、
    を更に有する請求項５に記載の並列演算デバイス。
  7. 前記誤り管理情報を基に前記並列演算デバイスの特性と状況とのうちの少なくとも一つを含むデバイス特徴を判定する特徴判定部を更に有し、
    前記判定されたデバイス特徴を表す情報が、前記一つ以上の外部システムの少なくとも一つに提供される、
    請求項６に記載の並列演算デバイス。
  8. 前記誤り管理情報は、誤り結果が得られた第１の命令毎に誤り結果が得られた回数である誤り回数を表す情報を含み、
    前記デバイス特徴は、誤り回数が絶対的に又は相対的に多い第１の命令である脆弱命令を含む、
    請求項７に記載の並列演算デバイス。
  9. 前記誤り管理情報は、誤り結果毎に誤り結果の発生時刻である誤り発生時刻を表す情報を含み、
    前記デバイス特徴は、誤り発生時刻と次の誤り発生時刻との間の長さに従うエラー種類を含む、
    請求項７に記載の並列演算デバイス。
  10. 複数の演算グループを有する並列演算デバイスに所定の処理の並列演算を実行させるためのコンピュータプログラムであって、
    前記所定の処理を構成する演算であるアプリ演算を規定した情報と、
    前記複数の演算グループの各々は、複数のコアと、当該複数のコアに複数の演算命令を割り当てる制御系とを有し、
    余剰コアは、アプリ演算が割り当てられないコアであり、
    前記複数の演算グループのうちの第１の演算グループにおける余剰コアに割り当てられる演算でありアプリ演算の冗長演算を規定した情報と、
    二つ以上の第１の演算グループがそれぞれ有する二つ以上の余剰コアによる同一の冗長演算の冗長演算結果の比較であって、前記複数の演算グループのうちの第２の演算グループにおける余剰コアに割り当てられる演算である診断演算を規定した情報と
    を有するコンピュータプログラム。
JP2020084388A 2020-05-13 2020-05-13 プログラム生成装置、並列演算デバイス、及び、並列演算デバイスに並列演算を実行させるためのコンピュータプログラム Active JP7419157B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020084388A JP7419157B2 (ja) 2020-05-13 2020-05-13 プログラム生成装置、並列演算デバイス、及び、並列演算デバイスに並列演算を実行させるためのコンピュータプログラム
US17/246,940 US20210357285A1 (en) 2020-05-13 2021-05-03 Program Generation Apparatus and Parallel Arithmetic Device
DE102021204690.8A DE102021204690A1 (de) 2020-05-13 2021-05-10 Programmerzeugungseinrichtung und Vorrichtung für eine parallele Arithmetik
CN202110510303.8A CN113672377A (zh) 2020-05-13 2021-05-11 程序生成装置、并行运算设备以及计算机可读记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020084388A JP7419157B2 (ja) 2020-05-13 2020-05-13 プログラム生成装置、並列演算デバイス、及び、並列演算デバイスに並列演算を実行させるためのコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2021179774A JP2021179774A (ja) 2021-11-18
JP7419157B2 true JP7419157B2 (ja) 2024-01-22

Family

ID=78280747

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020084388A Active JP7419157B2 (ja) 2020-05-13 2020-05-13 プログラム生成装置、並列演算デバイス、及び、並列演算デバイスに並列演算を実行させるためのコンピュータプログラム

Country Status (4)

Country Link
US (1) US20210357285A1 (ja)
JP (1) JP7419157B2 (ja)
CN (1) CN113672377A (ja)
DE (1) DE102021204690A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011044078A (ja) 2009-08-24 2011-03-03 Internatl Business Mach Corp <Ibm> フォールト・トレラント・コンピュータ・システム、方法及びプログラム
US20140189319A1 (en) 2012-12-28 2014-07-03 Dennis R. Bradford Opportunistic Utilization of Redundant ALU

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5074290B2 (ja) * 2008-05-13 2012-11-14 株式会社日立国際電気 冗長切替システム、冗長管理装置およびアプリケーション処理装置
JP5684514B2 (ja) * 2010-08-19 2015-03-11 株式会社東芝 冗長化制御システム、及びその演算データの伝送方法
US8914706B2 (en) * 2011-12-30 2014-12-16 Streamscale, Inc. Using parity data for concurrent data authentication, correction, compression, and encryption
US9329936B2 (en) * 2012-12-31 2016-05-03 Intel Corporation Redundant execution for reliability in a super FMA ALU
CN103294169B (zh) * 2013-05-31 2015-10-28 上海交通大学 一种功耗优化的众核***的冗余保护***及方法
US9448933B2 (en) * 2013-08-29 2016-09-20 Advanced Micro Devices, Inc. Using redundant transactions to verify the correctness of program code execution
CN103678013A (zh) * 2013-12-18 2014-03-26 哈尔滨工业大学 多核处理器操作***级进程的冗余检测***
CN104391763B (zh) * 2014-12-17 2016-05-18 中国人民解放军国防科学技术大学 基于设备视图冗余的众核处理器容错方法
CN105279049A (zh) * 2015-06-16 2016-01-27 康宇星科技(北京)有限公司 一种故障自主恢复三模冗余容错计算机ip核的设计方法
DE102015222321A1 (de) * 2015-11-12 2017-05-18 Siemens Aktiengesellschaft Verfahren zum Betrieb eines Mehrkernprozessors
JP6834446B2 (ja) * 2016-12-14 2021-02-24 オムロン株式会社 制御システム、制御プログラムおよび制御方法
JP6843650B2 (ja) * 2017-02-27 2021-03-17 三菱重工業株式会社 冗長化システム及び冗長化方法
US10776121B2 (en) * 2017-05-10 2020-09-15 Atlantic Technical Organization System and method of execution map generation for schedule optimization of machine learning flows
US10621022B2 (en) * 2017-10-03 2020-04-14 Nvidia Corp. System and methods for hardware-software cooperative pipeline error detection
US10621020B2 (en) * 2017-11-15 2020-04-14 Accenture Global Solutions Limited Predictive self-healing error remediation architecture
US10942824B2 (en) * 2018-10-08 2021-03-09 Hewlett Packard Enterprise Development Lp Programming model and framework for providing resilient parallel tasks
US10725788B1 (en) * 2019-03-25 2020-07-28 Intel Corporation Advanced error detection for integer single instruction, multiple data (SIMD) arithmetic operations
US20210149763A1 (en) * 2019-11-15 2021-05-20 Intel Corporation Systems and methods for error detection and control for embedded memory and compute elements

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011044078A (ja) 2009-08-24 2011-03-03 Internatl Business Mach Corp <Ibm> フォールト・トレラント・コンピュータ・システム、方法及びプログラム
US20140189319A1 (en) 2012-12-28 2014-07-03 Dennis R. Bradford Opportunistic Utilization of Redundant ALU

Also Published As

Publication number Publication date
CN113672377A (zh) 2021-11-19
JP2021179774A (ja) 2021-11-18
US20210357285A1 (en) 2021-11-18
DE102021204690A1 (de) 2021-11-18

Similar Documents

Publication Publication Date Title
US8146092B2 (en) System and method for selecting and executing an optimal load distribution processing in a storage system
US20190129815A1 (en) Drive extent based end of life detection and proactive copying in a mapped raid (redundant array of independent disks) data storage system
US8533681B2 (en) Atomicity violation detection using access interleaving invariants
US9396353B2 (en) Data allocation among devices with different data rates
US20180074746A1 (en) Distributed storage system and control method for distributed storage system
US20130054520A1 (en) File system migration
US11036587B2 (en) Method, apparatus, and computer program product for managing storage system using partial drive failure prediction
CN107451006B (zh) 限制存储设备中的性能变化的技术
CN109725827B (zh) 管理存储***的方法、***和计算机程序产品
US9436554B2 (en) Information processing apparatus and data repairing method
JP7419157B2 (ja) プログラム生成装置、並列演算デバイス、及び、並列演算デバイスに並列演算を実行させるためのコンピュータプログラム
JP4668556B2 (ja) タスク管理システム
CN111913835A (zh) 基于交叉映射的数据多备份存储方法、装置、计算机设备及存储介质
CN115359834B (zh) 一种盘仲裁区域检测方法、装置、设备及可读存储介质
CN115033337A (zh) 虚拟机内存迁移方法、装置、设备及存储介质
CN111061591B (zh) 基于存储器完整性检查控制器实现数据完整性检查的***和方法
US20200341911A1 (en) Method, device, and computer program product for managing storage system
EP3504627B1 (en) Read operation redirect
US11762729B2 (en) Apparatus and method for anomaly countermeasure decision, execution and evaluation
CN117971564B (zh) 数据恢复方法、装置、计算机设备及存储介质
CN117234431B (zh) 缓存管理方法、装置、电子设备及存储介质
KR102562160B1 (ko) 인메모리를 이용한 가상 머신 시스템 및 그 동작 방법
US11995485B2 (en) Automatically switching between quantum services and classical services based on detected events
JP7478037B2 (ja) 継続的インテグレーションシステム及び継続的インテグレーション方法
CN113656406A (zh) 一种索引页合并方法、装置、设备及介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230303

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240110

R150 Certificate of patent or registration of utility model

Ref document number: 7419157

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150