JP7176656B1

JP7176656B1 - 予測モデル再学習装置、予測モデル再学習方法及びプログラム

Info

Publication number: JP7176656B1
Application number: JP2022082239A
Authority: JP
Inventors: 龍哉金田
Original assignee: Fuji Electric Co Ltd
Current assignee: Fuji Electric Co Ltd
Priority date: 2022-05-19
Filing date: 2022-05-19
Publication date: 2022-11-22
Anticipated expiration: 2042-05-19
Also published as: JP2023170458A

Abstract

【課題】コンセプトドリフト発生に伴う再学習後の予測モデルの精度低下を抑止できる技術を提供すること。【解決手段】本開示の一態様による予測モデル再学習装置は、時間経過に伴うデータ特性の変化による予測モデルの性能劣化を検知するように構成されている検知部と、前記検知部によって前記予測モデルの性能劣化が検知された場合、前記予測モデルの再学習に用いる再学習用データを決定するように構成されているデータ決定部と、前記データ決定部によって決定された前記再学習用データを用いて、前記予測モデルを再学習するように構成されている再学習部と、を有する。【選択図】図４

Description

本開示は、予測モデル再学習装置、予測モデル再学習方法及びプログラムに関する。

機械学習技術等を利用したＡＩ（Artificial Intelligence）による予測では、時間経過に伴うデータ特性の変化（コンセプトドリフト）によって予測精度が低下し得ることが知られている。このため、コンセプトドリフトが発生した場合、コンセプトドリフト発生後のデータを用いて予測モデルを再学習するといった対策が行われることが多い。一方で、予測モデルを再学習するためにエンジニアリング（例えば、多数のデータの中からコンセプトドリフト発生後のデータを抽出するといった作業等）を行うと運用コスト増に繋がるという問題点がある。

そこで、コンセプトドリフトの発生を自動で検知した上で、エンジニアリングを行わずに、コンセプトドリフト発生後のデータを用いて予測モデルを再学習できる技術が求められている。なお、コンセプトドリフトに関連する従来技術として、特許文献１～４等が知られている。

特表２０２０－５２２０５５号公報特開２０２１－６０９４０号公報国際公開第２０２１／０７９４４７号国際公開第２０２０／２５５３０５号

しかしながら、エンジニアリングを行わない場合、コンセプトドリフト発生前のデータが再学習用データに混入する可能性がある。コンセプトドリフト発生前のデータはコンセプトドリフト発生後のデータと分布が異なるため、コンセプトドリフト発生前のデータが再学習用データに混入した場合、再学習後の予測モデルが十分な予測精度を得られない可能性がある。このため、再学習後の予測モデルの精度低下を抑止するためには、コンセプトドリフト発生前のデータが再学習用データにできるだけ混入しないようにすることが好ましい。

なお、特許文献１にはコンセプトドリフトが検知された場合に警告することが開示されているが、コンセプトドリフトの発生に伴う再学習に関しては開示されていない。また、特許文献２にはモデルを再学習することが開示されているが、コンセプトドリフト発生前のデータが再学習用データに混入する可能性に関しては考慮されていない。特許文献３にはコンセプトドリフトの発生を通知することが開示されているが、コンセプトドリフトの発生に伴う再学習に関しては開示されていない。特許文献４には予測モデルを再学習することが開示されているが、コンセプトドリフト発生前のデータが再学習用データに混入する可能性に関しては考慮されていない。

本開示は、上記の点に鑑みてなされたもので、コンセプトドリフト発生に伴う再学習後の予測モデルの精度低下を抑止できる技術を提供することを目的とする。

本開示の一態様による予測モデル再学習装置は、時間経過に伴うデータ特性の変化による予測モデルの性能劣化を検知するように構成されている検知部と、前記検知部によって前記予測モデルの性能劣化が検知された場合、前記予測モデルの再学習に用いる再学習用データを決定するように構成されているデータ決定部と、前記データ決定部によって決定された前記再学習用データを用いて、前記予測モデルを再学習するように構成されている再学習部と、を有する。

コンセプトドリフト発生に伴う再学習後の予測モデルの精度低下を抑止できる技術が提供される。

本実施形態に係る予測モデル再学習装置のハードウェア構成の一例を示す図である。本実施形態に係る予測モデル再学習装置の機能構成の一例を示す図である。コンセプトドリフト発生前後におけるデータ値の一例を概念的に示す図である。本実施形態に係る予測モデル再学習処理の流れの一例を示すフローチャートである。各説明変数と目的変数との散布図を示す図である。目的変数の推移を示す図である。予測誤差の推移を示す図である。

以下、本発明の一実施形態について説明する。以下の実施形態では、コンセプトドリフトの発生に伴い予測モデルを再学習する場合に、再学習後の予測モデルの精度低下を抑止することができる予測モデル再学習装置１０について説明する。ここで、本実施形態に係る予測モデル再学習装置１０には、再学習用データが与えられるものとする。再学習用データとは予測モデルの再学習用に与えられるデータのことであり、１以上の説明変数と予測モデルの予測対象となる目的変数との組で表される。具体的には、Ｎを説明変数の総数、ｘ_ｎ（ただし、ｎ＝１，・・・，Ｎ）をｎ番目の説明変数、ｙを目的変数としたときに、再学習用データは（ｙ，ｘ_１，・・・，ｘ_Ｎ）と表される。以下では、時刻ｔ（正確には、ｔは１以上の整数値を取る時刻インデックス）の再学習用データを（ｙ（ｔ），ｘ_１（ｔ），・・・，ｘ_Ｎ（ｔ））と表し、予測モデル再学習装置１０には再学習用データの時系列｛（ｙ（ｔ），ｘ_１（ｔ），・・・，ｘ_Ｎ（ｔ））｜ｔ＝１，・・・，Ｔ｝（ただし、Ｔは与えられた再学習用データの最終時刻）が与えられるものとする。なお、時刻ｔを特に明示しないときは（ｙ（ｔ），ｘ_１（ｔ），・・・，ｘ_Ｎ（ｔ））を（ｙ，ｘ_１，・・・，ｘ_Ｎ）と表す。

また、以下では、予測モデルをｆ（・；θ）（ただし、θは予測モデルのパラメータ）で表し、説明変数ｘ_１，・・・，ｘ_Ｎを入力したときの予測モデルｆの出力値（つまり、目的変数の予測値）を＾ｙで表す。すなわち、＾ｙ＝ｆ（ｘ_１，・・・，ｘ_Ｎ；θ）と表す。ただし、パラメータθを特に明示しないときはｆ（・）又は単にｆと表す。なお、ハット「＾」は予測値（又は推定値）であることを表している。

＜予測モデル再学習装置１０のハードウェア構成＞
本実施形態に係る予測モデル再学習装置１０のハードウェア構成例を図１に示す。図１に示すように、本実施形態に係る予測モデル再学習装置１０は、入力装置１０１と、表示装置１０２と、外部Ｉ／Ｆ１０３と、通信Ｉ／Ｆ１０４と、ＲＡＭ（Random Access Memory）１０５と、ＲＯＭ（Read Only Memory）１０６と、補助記憶装置１０７と、プロセッサ１０８とを有する。これらの各ハードウェアは、それぞれがバス１０９を介して通信可能に接続されている。

入力装置１０１は、例えば、キーボード、マウス、タッチパネル、物理ボタン等である。表示装置１０２は、例えば、ディスプレイ、表示パネル等である。なお、予測モデル再学習装置１０は、例えば、入力装置１０１及び表示装置１０２の少なくとも一方を有していなくてもよい。

外部Ｉ／Ｆ１０３は、記録媒体１０３ａ等の外部装置とのインタフェースである。予測モデル再学習装置１０は、外部Ｉ／Ｆ１０３を介して、記録媒体１０３ａの読み取りや書き込み等を行うことができる。記録媒体１０３ａとしては、例えば、フレキシブルディスク、ＣＤ（Compact Disc）、ＤＶＤ（Digital Versatile Disk）、ＳＤメモリカード（Secure Digital memory card）、ＵＳＢ（Universal Serial Bus）メモリカード等が挙げられる。

通信Ｉ／Ｆ１０４は、予測モデル再学習装置１０を通信ネットワークに接続するためのインタフェースである。ＲＡＭ１０５は、プログラムやデータを一時保持する揮発性の半導体メモリ（記憶装置）である。ＲＯＭ１０６は、電源を切ってもプログラムやデータを保持することができる不揮発性の半導体メモリ（記憶装置）である。補助記憶装置１０７は、例えば、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、フラッシュメモリ等のストレージ装置（記憶装置）である。プロセッサ１０８は、例えば、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等の演算装置である。

本実施形態に係る予測モデル再学習装置１０は、図１に示すハードウェア構成を有することにより、後述する予測モデル再学習処理を実現することができる。なお、図１に示す予測モデル再学習装置１０のハードウェア構成は一例であって、予測モデル再学習装置１０のハードウェア構成はこれに限られるものではない。例えば、予測モデル再学習装置１０は、複数の補助記憶装置１０７や複数のプロセッサ１０８を有していてもよいし、図示したハードウェアの一部を有していなくてもよいし、図示したハードウェア以外の様々なハードウェアを有していてもよい。

＜予測モデル再学習装置１０の機能構成＞
本実施形態に係る予測モデル再学習装置１０の機能構成例を図２に示す。図２に示すように、本実施形態に係る予測モデル再学習装置１０は、データ取得部２０１と、評価指標値算出部２０２と、コンセプトドリフト検知部２０３と、データ決定部２０４と、再学習部２０５と、更新判定部２０６と、モデル更新部２０７とを有する。これら各機能部は、予測モデル再学習装置１０にインストールされた１以上のプログラムが、プロセッサ１０８に実行させる処理により実現される。なお、当該各機能部のうちの一部の機能部が、通信ネットワークを介して接続される計算機（例えば、クラウド上のサーバ等）が備えるプロセッサにより実現されていてもよい。

また、本実施形態に係る予測モデル再学習装置１０は、再学習用データ記憶部２０８と、予測モデル記憶部２０９とを有する。これら各記憶部は、例えば、補助記憶装置１０７により実現される。なお、再学習用データ記憶部２０８及び予測モデル記憶部２０９の少なくとも一方の記憶部が、予測モデル再学習装置１０と通信ネットワークを介して接続される記憶装置（例えば、クラウド上のストレージ、データベースサーバ等）により実現されていてもよい。

データ取得部２０１は、再学習用データ記憶部２０８に記憶されている再学習用データ（例えば、或る時刻ｔから或る時刻ｔ＋ＬまでのＬ件の再学習用データ）を取得する。以下、データ取得部２０１によってＬ件の再学習用データが取得されるものとする。なお、Ｌは予め決められた１以上の整数である。

評価指標値算出部２０２は、データ取得部２０１によって取得されたＬ件の再学習用データを用いて、予測モデルｆの予測精度（又は予測誤差）を表す所定の評価指標値を算出する。ここで、評価指標値としては予測モデルの予測精度（又は予測誤差）を表す任意の指標値を採用することができる。例えば、決定係数、平均絶対パーセント誤差（ＭＡＰＥ：Mean Absolute Percentage Error）、平均絶対誤差（ＭＡＥ：Mean Absolute Error）、二乗平均平方根誤差（ＲＭＳＥ：Root Mean Squared Error）、平均二乗誤差（ＭＳＥ：Mean Squared Error）等を評価指標値として採用することが可能である。一例として、平均二乗誤差を評価指標値として採用する場合、データ取得部２０１によって取得されたＬ件の再学習用データを｛（ｙ（ｔ），ｘ_１（ｔ），・・・，ｘ_Ｎ（ｔ））｜ｔ＝ｓ，・・・，ｓ＋Ｌ｝とすれば、評価指標値は、（（ｙ（ｓ）－＾ｙ（ｓ））^２＋・・・＋（ｙ（ｓ＋Ｌ）－＾ｙ（ｓ＋Ｌ））^２）／Ｌと算出される。

コンセプトドリフト検知部２０３は、評価指標値算出部２０２によって算出された評価指標値を用いて、コンセプトドリフトの発生を検知する。具体的には、例えば、評価指標値が予測誤差を表すものである場合、コンセプトドリフト検知部２０３は、当該評価指標値が所定の閾値ｔｈを超えている場合にコンセプトドリフトの発生を検知する。一方で、例えば、評価指標値が予測精度を表すものである場合、コンセプトドリフト検知部２０３は、当該評価指標値が所定の閾値ｔｈを下回っている場合にコンセプトドリフトの発生を検知する。すなわち、コンセプトドリフト検知部２０３は、予測精度が或る基準よりも低い場合又は予測誤差が或る基準よりも高い場合にコンセプトドリフトの発生を検知する。なお、閾値ｔｈは予め設定された値とするが、予測モデルｆが適用される対象（例えば、プラント、工場等）の運用状況に応じて適宜その値が変更されてもよい。

データ決定部２０４は、コンセプトドリフト検知部２０３によってコンセプトドリフトの発生が検知された場合に、評価指標値算出部２０２によって算出された評価指標値に応じて予測モデルｆの再学習に用いる再学習用データ（再学習用データ集合）を決定する。

ここで、再学習用データを決定する理由について、図３を参照しながら説明する。図３は、時刻Ｔ'でコンセプトドリフトが発生している場合を表している。図３に示されるように、コンセプトドリフトの発生前後でデータ値（目的変数の値）の特性（言い換えれば、データ値の分布）が異なる。このため、コンセプトドリフト発生後の予測精度を向上させるためにはコンセプトドリフト発生後の再学習用データ（図３の例では時刻Ｔ'以降の再学習用データ）を再学習に用いることが好ましい。そこで、最新の再学習用データ（時刻Ｔの再学習用データ）から遡ってそれ以前の所定の件数の再学習用データを再学習に用いることが考えられる（例えば、０以上の或る整数である定数Ｋを用いて時刻Ｔ－Ｋから時刻Ｔの再学習用データを再学習に用いる等。）。しかしながら、この場合、再学習用データ数が固定的となり、コンセプトドリフト発生前の再学習用データも再学習に用いられる恐れがある。一方で、コンセプトドリフト発生前のすべての再学習用データを再学習に用いない場合、再学習に用いられるデータ数が不足し、逆に十分な予測精度が得られない可能性もある。

以上のことから、本実施形態では、最新の再学習用データから遡って再学習用データを再学習に用いると共に、コンセプトドリフト発生前の再学習用データをできるだけ再学習に用いずに、かつ、適切なデータ数となるように再学習に用いるデータ数を調整する。

例えば、データ決定部２０４は、評価指標値に応じて０以上Ｔ－１以下の整数αを決定した上で、再学習用データ記憶部２０８に記憶されている再学習用データのうち、時刻Ｔ－αから時刻Ｔの再学習用データを再学習に用いると決定する。このとき、データ決定部２０４は、評価指標値によって表される予測精度が高い（又は予測誤差が低い）ほどαを大きな値とし、一方で予測精度が低い（又は予測誤差が高い）ほどαを小さな値とする。すなわち、予測精度が高い（又は予測誤差が低い）ほどコンセプトドリフト発生前の再学習用データが再学習に用いられることを許容してデータ数を多くする。一方で、予測精度が低い（又は予測誤差が高い）ほどコンセプトドリフト発生前の再学習用データが再学習に用いられることを許容せずにデータ数を少なくし、できるだけコンセプトドリフト発生前の再学習用データが再学習に用いられないようにする。これは、予測精度が高い（又は予測誤差が低い）ほど、現状の予測モデルｆでもコンセプトドリフト発生後にも対応できているためである。これにより、コンセプトドリフト発生前の再学習用データをできるだけ用いずに、適切な数の再学習用データが決定される。

なお、上記のαは、例えば、評価指標値が取り得る値の範囲によって予め決められていてもよい。例えば、評価指標値が０以上ｃ_１未満のときはα＝α_１、ｃ_１以上ｃ_２未満のときはα＝α_２、ｃ_２以上のときはα＝α_３等というように予め決められていてもよい。また、上記の例ではαは時刻であるものとしたが、これに限られるものではなく、例えば、αをデータ数としてもよい。αがデータ数である場合、データ決定部２０４は、評価指標値に応じて１以上Ｔ以下の整数αを決定した上で、時刻Ｔ以前のα件の再学習用データを再学習に用いると決定すればよい。

再学習部２０５は、データ決定部２０４によって決定された再学習用データを用いて、予測モデルｆを再学習する。なお、再学習部２０５は、既知の学習手法（学習アルゴリズム）により予測モデルｆを再学習すればよい。

更新判定部２０６は、再学習部２０５によって再学習された予測モデルｆで現状の予測モデルｆを更新するか否かを判定する。例えば、更新判定部２０６は、再学習後の予測モデルｆの評価指標値の算出を評価指標値算出部２０２に依頼し、その評価指標値が、現状の予測モデルｆの評価指標値よりも改善している場合に、再学習後の予測モデルｆで現状の予測モデルｆを更新すると判定する。

モデル更新部２０７は、再学習後の予測モデルｆで現状の予測モデルｆ（つまり、予測モデル記憶部２０９に記憶されている予測モデルｆ）を更新する。これにより、これ以降、再学習後の予測モデルｆが現状の予測モデルｆとなる。

再学習用データ記憶部２０８は、再学習用データの時系列｛（ｙ（ｔ），ｘ_１（ｔ），・・・，ｘ_Ｎ（ｔ））｜ｔ＝１，・・・，Ｔ｝を記憶する。

予測モデル記憶部２０９は、予測モデルｆ（のパラメータθ）を記憶する。なお、予測モデルｆとしては説明変数から目的変数を予測する任意の機械学習モデルを採用することができる。例えば、ニューラルネットワーク、回帰木等を予測モデルとして採用することが可能である。

＜予測モデル再学習処理＞
以下、本実施形態に係る予測モデル再学習処理の流れについて、図４を参照しながら説明する。

データ取得部２０１は、再学習用データ記憶部２０８から１件以上の再学習用データを取得する（ステップＳ１０１）。

次に、評価指標値算出部２０２は、上記のステップＳ１０１で取得された再学習用データを用いて、予測モデルｆの予測精度（又は予測誤差）を表す所定の評価指標値を算出する（ステップＳ１０２）。

次に、コンセプトドリフト検知部２０３は、上記のステップＳ１０２で算出された評価指標値を用いて、コンセプトドリフトの発生を検知する（ステップＳ１０３）。

上記のステップＳ１０３でコンセプトドリフトの発生が検知された場合、データ決定部２０４は、再学習に用いる再学習用データを決定する（ステップＳ１０４）。

次に、再学習部２０５は、上記のステップＳ１０４で決定された再学習用データを用いて、予測モデルｆを再学習する（ステップＳ１０５）。

次に、更新判定部２０６は、上記のステップＳ１０５で再学習された予測モデルｆで現状の予測モデルｆ（つまり、予測モデル記憶部２０９に記憶されている予測モデルｆ）を更新するか否かを判定する（ステップＳ１０６）。

上記のステップＳ１０６で現状の予測モデルｆを更新すると判定された場合、モデル更新部２０７は、再学習後の予測モデルｆで現状の予測モデルｆを更新する（ステップＳ１０７）。

なお、上記のステップＳ１０３でコンセプトドリフトの発生が検知されなかった場合、上記のステップＳ１０６で現状の予測モデルｆを更新すると判定されなかった場合、予測モデル再学習装置１０は、予測モデル再学習処理を終了する。

＜評価＞
以下、本実施形態に係る予測モデル再学習処理の評価について説明する。

本評価を行うために、以下の式（１）により非線形データを１００００点生成した。ただし、コンセプトドリフトを模擬するため、７７５０点以降では、バイアスを加えた。

ｙ＝１０ｘ_１－４ｘ_２ ^３＋７ｘ_３ ^４＋ε （１）
ここで、ｙが目的変数、ｘ_１～ｘ_４が説明変数、εは０以上１以下の乱数を取るノイズである。なお、ｘ_４は目的変数ｙに影響を与えない説明変数である。

このとき、ｘ_１～ｘ_４に対して０以上１以下の乱数を与えてデータを生成した。ただし、７７５０点以降では、上記の式（１）の右辺に対してバイアスｂを更に加えてデータを生成した。

以上により生成したデータにおける各説明変数と目的変数の散布図を図５に示す。図５に示されるように、説明変数ｘ_１は目的変数ｙと相関関係があることがわかる。一方、説明変数ｘ_２、ｘ_３は目的変数ｙと非線形な関係があることがわかる。

次に、目的変数ｙの推移を図６に示す。図６に示されるように、７７５０点以降のデータでコンセプトドリフトが発生している。

上記のデータを用いて、本実施形態に係る予測モデル再学習処理と既存手法とを比較した。既存手法としては、予測精度の悪化が検知された場合にすべての再学習用データを用いて予測モデルを再学習する手法を採用した。

１００００点のデータのうち、０～１０００点のデータを初期学習データとして予測モデルを学習した上で、１０１～１１００、２０１～１２００、・・・、９００１～１００００の９０個のデータ集合をそれぞれ再学習用データの時系列とした。また、コンセプトドリフト発生を検知するためのデータ数（データ取得部２０１が再学習用データ記憶部２０８から取得する再学習用データ数Ｌ）は１００とした。予測モデルｆの学習手法には勾配部ブースティングを用いた。更に、評価指標値としては決定係数を採用し、１００１～１１００点のデータで算出された決定係数（以下、基準決定係数と呼ぶことにする。）に対して３％以上悪化している場合にコンセプトドリフトの発生を検知するものとした。すなわち、基準決定係数×０．９７を閾値ｔｈとし、決定係数が閾値ｔｈ未満である場合にコンセプトドリフトの発生を検知するものとした。

データ決定部２０４では、αとしてデータ数を採用し、基準決定係数からの悪化の程度によりαを決定した。具体的には、決定係数が基準決定係数から３％以上１０％未満悪化した場合はα＝１０００として１０００点の再学習用データを再学習に用いると決定し、１０％以上１５％未満悪化した場合はα＝７５０として７５０点の再学習用データを再学習に用いると決定し、１５％以上悪化した場合はα＝５００として５００点の再学習用データを再学習に用いると決定した。また、コンセプトドリフトの発生を検知した際に用いた１００点のデータにより現状の予測モデルｆの決定係数と再学習後の予測モデルｆを評価指標値算出部２０２により算出し、更新判定部２０６では、再学習後の予測モデルｆの決定係数が改善されている場合に再学習後の予測モデルｆで現状の予測モデルｆを更新する判定した。

以上の設定の下、（ａ）再学習を行わなかった場合、（ｂ）既存手法、（ｃ）本実施形態に係る予測モデル再学習処理の予測誤差の推移を図７に示す。図７に示されるように、（ａ）では再学習を行っていないため予測誤差が大きいままである。（ｂ）では再学習を行っているため予測誤差は収束しているが、（ｃ）と比較すると予測誤差の収束は遅い。このように、本実施形態に係る予測モデル再学習処理では、既存手法と比較して、予測誤差の収束が早くなる。このため、従来手法と比較して、コンセプトドリフト発生に伴う再学習後の予測モデルの精度低下が抑止できていることがわかる。

＜変形例＞
上記の実施形態では、データ決定部２０４は、評価指標値算出部２０２によって算出された評価指標値に応じてαを決定した上で、このαから再学習用データを決定したが、例えば、複数のαを決定した上で、この中から最良のαを用いて再学習用データを決定してもよい。

例えば、データ決定部２０４は、評価指標値算出部２０２によって算出された評価指標値に応じてα_１，α_２，・・・，α_Ｍを決定した上で、これらのα_１，α_２，・・・，α_Ｍの各々を用いてＭ個の再学習用データ集合を決定してもよい。この場合、再学習部２０５は、Ｍ個の再学習用データ集合の各々を用いてそれぞれ再学習したＭ個の予測モデルｆのうち、評価指標値が最も良い予測モデルｆを選択し、この選択した予測モデルｆを再学習後の予測モデルｆとすればよい。なお、再学習部２０５によって再学習されたＭ個の予測モデルｆの評価指標値を算出する際には、コンセプトドリフトの発生を検知した際に用いられた学習用データが使用されてもよいし、別途用意した評価用のデータが使用されてもよい。

＜まとめ＞
以上のように、本実施形態に係る予測モデル再学習装置１０は、コンセプトドリフトの発生が検知された場合に、現状の予測モデルｆの予測精度に応じて、コンセプトドリフト発生後のデータを再学習に用いると共に、コンセプトドリフト発生前のデータをできるだけ再学習に用いず、かつ、適切なデータ数となるように再学習用データを決定する。これにより、再学習後の予測モデルの精度低下が抑制され、コンセプトドリフト発生後のデータに素早く適応することが可能となる。

＜適用例＞
本実施形態に係る予測モデル再学習装置１０は、予測モデルｆにより説明変数から目的変数を予測する様々な対象に適用可能である。適用分野の一例を挙げれば、プラントや工場等における電力の需要予測、プラントや工場等における温度予測、商品の販売予測等がある。

本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲の記載から逸脱することなく、種々の変形や変更、既知の技術との組み合わせ等が可能である。

１０予測モデル再学習装置
１０１入力装置
１０２表示装置
１０３外部Ｉ／Ｆ
１０３ａ記録媒体
１０４通信Ｉ／Ｆ
１０５ＲＡＭ
１０６ＲＯＭ
１０７補助記憶装置
１０８プロセッサ
１０９バス
２０１データ取得部
２０２評価指標値算出部
２０３コンセプトドリフト検知部
２０４データ決定部
２０５再学習部
２０６更新判定部
２０７モデル更新部
２０８再学習用データ記憶部
２０９予測モデル記憶部

Claims

時刻インデックスｔ＝１からｔ＝Ｔまでの時系列データとして与えられた再学習用データ集合の中から所定の時刻インデックスｔ＝ｓからｔ＝ｓ＋Ｌまでの再学習用データを取得するように構成されている取得部と、
前記取得部によって取得された再学習用データを用いて、予測モデルの性能を表す評価指標値を算出するように構成されている指標値算出部と、
前記指標値算出部によって算出された評価指標値が所定の閾値未満である場合、時間経過に伴うデータ特性の変化による前記予測モデルの性能劣化を検知するように構成されている検知部と、
前記検知部によって前記予測モデルの性能劣化が検知された場合、前記予測モデルの再学習に用いる再学習用データを決定するように構成されているデータ決定部と、
前記データ決定部によって決定された前記再学習用データを用いて、前記予測モデルを再学習するように構成されている再学習部と、
を有し、
前記データ決定部は、
前記指標値算出部によって算出された評価指標値に応じて０以上Ｔ－１以下の整数αを決定し、前記再学習用データ集合のうち、時刻インデックスｔ＝Ｔ－αからｔ＝Ｔまでの再学習用データを、前記予測モデルの再学習に用いる再学習用データとして決定するように構成されている、予測モデル再学習装置。
時刻インデックスｔ＝１からｔ＝Ｔまでの時系列データとして与えられた再学習用データ集合の中から所定の時刻インデックスｔ＝ｓからｔ＝ｓ＋Ｌまでの再学習用データを取得するように構成されている取得部と、
前記取得部によって取得された再学習用データを用いて、予測モデルの性能を表す評価指標値を算出するように構成されている指標値算出部と、
前記指標値算出部によって算出された評価指標値が所定の閾値未満である場合、時間経過に伴うデータ特性の変化による前記予測モデルの性能劣化を検知するように構成されている検知部と、
前記検知部によって前記予測モデルの性能劣化が検知された場合、前記予測モデルの再学習に用いる再学習用データを決定するように構成されているデータ決定部と、
前記データ決定部によって決定された前記再学習用データを用いて、前記予測モデルを再学習するように構成されている再学習部と、
を有し、
前記データ決定部は、
前記指標値算出部によって算出された評価指標値に応じて１以上Ｔ以下の整数αを決定し、前記再学習用データ集合のうち、時刻インデックスｔ＝Ｔ以前のα件の再学習用データを、前記予測モデルの再学習に用いる再学習用データとして決定するように構成されている、予測モデル再学習装置。
前記再学習後の予測モデルにより、前記再学習前の予測モデルを更新するように構成されている更新部を更に有し、
前記データ決定部は、
複数の前記整数αを決定し、複数の前記整数αの各々に対応する再学習用データを、前記予測モデルの再学習に用いる再学習用データとして決定するように構成されており、
前記再学習部は、
複数の前記整数αの各々に対応する再学習用データをそれぞれ用いて、前記予測モデルをそれぞれ再学習するように構成されており、
前記更新部は、
それぞれ再学習された予測モデルのうち、予測性能が最も良い予測モデルにより、前記再学習前の予測モデルを更新するように構成されている請求項１又は２に記載の予測モデル再学習装置。
時刻インデックスｔ＝１からｔ＝Ｔまでの時系列データとして与えられた再学習用データ集合の中から所定の時刻インデックスｔ＝ｓからｔ＝ｓ＋Ｌまでの再学習用データを取得する取得手順と、
前記取得手順によって取得された再学習用データを用いて、予測モデルの性能を表す評価指標値を算出する指標値算出手順と、
前記指標値算出手順によって算出された評価指標値が所定の閾値未満である場合、時間経過に伴うデータ特性の変化による前記予測モデルの性能劣化を検知する検知手順と、
前記検知手順によって前記予測モデルの性能劣化が検知された場合、前記予測モデルの再学習に用いる再学習用データを決定するデータ決定手順と、
前記データ決定手順によって決定された前記再学習用データを用いて、前記予測モデルを再学習する再学習手順と、
をコンピュータが実行し、
前記データ決定手順は、
前記指標値算出手順によって算出された評価指標値に応じて０以上Ｔ－１以下の整数αを決定し、前記再学習用データ集合のうち、時刻インデックスｔ＝Ｔ－αからｔ＝Ｔまでの再学習用データを、前記予測モデルの再学習に用いる再学習用データとして決定する、予測モデル再学習方法。
時刻インデックスｔ＝１からｔ＝Ｔまでの時系列データとして与えられた再学習用データ集合の中から所定の時刻インデックスｔ＝ｓからｔ＝ｓ＋Ｌまでの再学習用データを取得する取得手順と、
前記取得手順によって取得された再学習用データを用いて、予測モデルの性能を表す評価指標値を算出する指標値算出手順と、
前記指標値算出手順によって算出された評価指標値が所定の閾値未満である場合、時間経過に伴うデータ特性の変化による前記予測モデルの性能劣化を検知する検知手順と、
前記検知手順によって前記予測モデルの性能劣化が検知された場合、前記予測モデルの再学習に用いる再学習用データを決定するデータ決定手順と、
前記データ決定手順によって決定された前記再学習用データを用いて、前記予測モデルを再学習する再学習手順と、
をコンピュータが実行し、
前記データ決定手順は、
前記指標値算出手順によって算出された評価指標値に応じて１以上Ｔ以下の整数αを決定し、前記再学習用データ集合のうち、時刻インデックスｔ＝Ｔ以前のα件の再学習用データを、前記予測モデルの再学習に用いる再学習用データとして決定する、予測モデル再学習方法。
時刻インデックスｔ＝１からｔ＝Ｔまでの時系列データとして与えられた再学習用データ集合の中から所定の時刻インデックスｔ＝ｓからｔ＝ｓ＋Ｌまでの再学習用データを取得する取得手順と、
前記取得手順によって取得された再学習用データを用いて、予測モデルの性能を表す評価指標値を算出する指標値算出手順と、
前記指標値算出手順によって算出された評価指標値が所定の閾値未満である場合、時間経過に伴うデータ特性の変化による前記予測モデルの性能劣化を検知する検知手順と、
前記検知手順によって前記予測モデルの性能劣化が検知された場合、前記予測モデルの再学習に用いる再学習用データを決定するデータ決定手順と、
前記データ決定手順によって決定された前記再学習用データを用いて、前記予測モデルを再学習する再学習手順と、
をコンピュータに実行させ、
前記データ決定手順は、
前記指標値算出手順によって算出された評価指標値に応じて０以上Ｔ－１以下の整数αを決定し、前記再学習用データ集合のうち、時刻インデックスｔ＝Ｔ－αからｔ＝Ｔまでの再学習用データを、前記予測モデルの再学習に用いる再学習用データとして決定する、プログラム。
時刻インデックスｔ＝１からｔ＝Ｔまでの時系列データとして与えられた再学習用データ集合の中から所定の時刻インデックスｔ＝ｓからｔ＝ｓ＋Ｌまでの再学習用データを取得する取得手順と、
前記取得手順によって取得された再学習用データを用いて、予測モデルの性能を表す評価指標値を算出する指標値算出手順と、
前記指標値算出手順によって算出された評価指標値が所定の閾値未満である場合、時間経過に伴うデータ特性の変化による前記予測モデルの性能劣化を検知する検知手順と、
前記検知手順によって前記予測モデルの性能劣化が検知された場合、前記予測モデルの再学習に用いる再学習用データを決定するデータ決定手順と、
前記データ決定手順によって決定された前記再学習用データを用いて、前記予測モデルを再学習する再学習手順と、
をコンピュータに実行させ、
前記データ決定手順は、
前記指標値算出手順によって算出された評価指標値に応じて１以上Ｔ以下の整数αを決定し、前記再学習用データ集合のうち、時刻インデックスｔ＝Ｔ以前のα件の再学習用データを、前記予測モデルの再学習に用いる再学習用データとして決定する、プログラム。