JP7359178B2 - 制御装置、制御方法、および、制御プログラム - Google Patents

制御装置、制御方法、および、制御プログラム Download PDF

Info

Publication number
JP7359178B2
JP7359178B2 JP2021038601A JP2021038601A JP7359178B2 JP 7359178 B2 JP7359178 B2 JP 7359178B2 JP 2021038601 A JP2021038601 A JP 2021038601A JP 2021038601 A JP2021038601 A JP 2021038601A JP 7359178 B2 JP7359178 B2 JP 7359178B2
Authority
JP
Japan
Prior art keywords
manipulated variable
equipment
control
future
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021038601A
Other languages
English (en)
Other versions
JP2022138621A (ja
Inventor
宏紹 後藤
宏明 鹿子木
陽太 古川
恵一郎 小渕
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yokogawa Electric Corp
Original Assignee
Yokogawa Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yokogawa Electric Corp filed Critical Yokogawa Electric Corp
Priority to JP2021038601A priority Critical patent/JP7359178B2/ja
Priority to US17/676,863 priority patent/US20220291643A1/en
Priority to EP22158408.9A priority patent/EP4057084B8/en
Priority to CN202210190042.0A priority patent/CN115079567A/zh
Publication of JP2022138621A publication Critical patent/JP2022138621A/ja
Application granted granted Critical
Publication of JP7359178B2 publication Critical patent/JP7359178B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0205Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric not using a model or a simulator of the controlled system
    • G05B13/026Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric not using a model or a simulator of the controlled system using a predictor
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/04Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators
    • G05B13/042Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators in which a parameter or coefficient is automatically adjusted to optimise the performance
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0224Process history based detection method, e.g. whereby history implies the availability of large amounts of data
    • G05B23/024Quantitative history assessment, e.g. mathematical relationships between available data; Functions therefor; Principal component analysis [PCA]; Partial least square [PLS]; Statistical classifiers, e.g. Bayesian networks, linear regression or correlation analysis; Neural networks
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0259Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the response to fault detection
    • G05B23/0283Predictive maintenance, e.g. involving the monitoring of a system and, based on the monitoring results, taking decisions on the maintenance schedule of the monitored system; Estimating remaining useful life [RUL]
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/32Operator till task planning
    • G05B2219/32234Maintenance planning

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Feedback Control In General (AREA)

Description

本発明は、制御装置、制御方法、および、制御プログラムに関する。
特許文献1には、「ロボットの各関節を駆動するモータに掛かる外乱に対する該ロボットの教示位置の補正量を機械学習し、機械学習した結果に基づいて、ロボットが教示位置へと移動する際に外乱を抑えるように教示位置を補正しながら制御する」と記載されている。
[先行技術文献]
[特許文献]
[特許文献1] 特開2018-202564号公報
(項目1)
本発明の第1の態様においては、制御装置を提供する。制御装置は、制御対象が設けられた設備の状態に応じて制御対象の操作量を出力するように機械学習された制御モデルにより制御対象を制御する制御部を備えてよい。制御装置は、設備の将来の状態を予測する予測部を備えてよい。制御装置は、予測結果に基づいて、操作量を調整する調整部を備えてよい。制御装置は、調整された操作量を制御対象へ出力する出力部を備えてよい。
(項目2)
予測部は、設備における将来の健全度を予測してよい。調整部は、健全度に応じて操作量を調整してよい。
(項目3)
健全度は、設備における配管の残存肉厚を含んでよい。
(項目4)
予測部は、設備における将来の保守コストを予測してよい。調整部は、保守コストに応じて操作量を調整してよい。
(項目5)
保守コストは、設備の劣化を抑制する抑制剤の添加に係るコストを含んでよい。
(項目6)
制御装置は、制御モデルを機械学習により生成する学習部を更に備えてよい。
(項目7)
学習部は、設備の状態を示す状態データの入力に応じて、予め定められた報酬関数により定まる報酬値が高くなる操作量ほど推奨する操作量として出力されるように強化学習することにより、制御モデルを生成してよい。
(項目8)
学習部は、操作量が調整された履歴に基づいて、機械学習における制約条件を更に学習してよい。
(項目9)
制約条件は、操作量の上限値および下限値の少なくともいずれかを含んでよい。
(項目10)
制御装置は、設備における生産計画を取得する計画取得部を更に備えてよい。調整部は、予測結果および生産計画に基づいて、操作量を調整してよい。
(項目11)
本発明の第2の態様においては、制御方法を提供する。制御方法は、制御対象が設けられた設備の状態に応じて制御対象の操作量を出力するように機械学習された制御モデルにより制御対象を制御することを備えてよい。制御方法は、設備の将来の状態を予測することを備えてよい。制御方法は、予測結果に基づいて、操作量を調整することを備えてよい。制御方法は、調整された操作量を制御対象へ出力することを備えてよい。
(項目12)
本発明の第3の態様においては、制御プログラムを提供する。制御プログラムは、コンピュータにより実行されてよい。制御プログラムは、コンピュータを、制御対象が設けられた設備の状態に応じて制御対象の操作量を出力するように機械学習された制御モデルにより制御対象を制御する制御部として機能させてよい。制御プログラムは、コンピュータを、設備の将来の状態を予測する予測部として機能させてよい。制御プログラムは、コンピュータを、予測結果に基づいて、操作量を調整する調整部として機能させてよい。制御プログラムは、コンピュータを、調整された操作量を制御対象へ出力する出力部として機能させてよい。
なお、上記の発明の概要は、本発明の特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
本実施形態に係る制御装置100のブロック図の一例を、制御対象20が設けられた設備10と共に示す。 本実施形態に係る制御装置100が、機械学習により制御モデル135を生成するフローの一例を示す。 本実施形態に係る制御装置100が、操作量を調整するフローの一例を示す。 本実施形態の第一の変形例に係る制御装置100のブロック図の一例を、制御対象20が設けられた設備10と共に示す。 本実施形態の第二の変形例に係る制御装置100のブロック図の一例を、制御対象20が設けられた設備10と共に示す。 本実施形態の第二の変形例に係る制御装置100が、制御量を調整するフローの一例を示す。 本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ9900の例を示す。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、本実施形態に係る制御装置100のブロック図の一例を、制御対象20が設けられた設備10と共に示す。本実施形態に係る制御装置100は、機械学習により生成された学習モデルにより制御対象20を制御(Artificial Intelligence:AI制御ともいう。)するにあたって、制御対象20が設けられた設備10の将来の状態を予測する。そして、本実施形態に係る制御装置100は、予測結果に基づいて、学習モデルが出力する操作量を調整する。
設備10は、制御対象20が備え付けられた施設や装置等である。例えば、設備10は、プラントであってもよいし、複数の機器を複合させた複合装置であってもよい。プラントとしては、化学やバイオ等の工業プラントの他、ガス田や油田等の井戸元やその周辺を管理制御するプラント、水力・火力・原子力等の発電を管理制御するプラント、太陽光や風力等の環境発電を管理制御するプラント、上下水やダム等を管理制御するプラント等が挙げられる。
設備10には、制御対象20が設けられている。本図においては、設備10に1つの制御対象20のみが設けられている場合を一例として示しているが、これに限定されるものではない。設備10には、複数の制御対象20が設けられていてよい。
また、設備10には、設備10の内外における様々な状態(物理量)を測定する1または複数のセンサ(図示せず)が設けられていてよい。このようなセンサは、例えば、運転データ、消費量データ、および、外部環境データ等を測定する。
ここで、運転データは、制御対象20を制御した結果の運転状態を示す。例えば、運転データは、制御対象20について測定された測定値PV(Process Variable)を示してよく、一例として、制御対象20の出力(制御量)を示してもよいし、制御対象20の出力によって変化する様々な値を示してもよい。
消費量データは、設備10におけるエネルギーまたは原材料の少なくともいずれかの消費量を示す。例えば、消費量データは、エネルギー消費量として、電力や燃料(一例として、LPG:Liquefied Petroleum Gas)の消費量を示してよい。
外部環境データは、制御対象20の制御に対して外乱として作用し得る物理量を示す。例えば、外部環境データは、設備10の外気の温度や湿度、日照、風向き、風量、降水量、および、設備10に設けられた他の機器の制御に伴い変化する様々な物理量等を示してよい。
制御対象20は、制御の対象となる機器および装置等である。例えば、制御対象20は、設備10のプロセスにおける圧力、温度、pH、速度、または、流量等の少なくとも1つの物理量を制御するバルブ、ポンプ、ヒータ、ファン、モータ、および、スイッチ等のアクチュエータであってよく、与えられた操作量MV(Manipulated Variable)を入力して制御量を出力する。
本実施形態に係る制御装置100は、制御対象20をAI制御するにあたって、制御対象20が設けられた設備10の将来の状態を予測する。そして、本実施形態に係る制御装置100は、予測結果に基づいて、学習モデルが出力する操作量を調整する。
制御装置100は、PC(パーソナルコンピュータ)、タブレット型コンピュータ、スマートフォン、ワークステーション、サーバコンピュータ、または汎用コンピュータ等のコンピュータであってよく、複数のコンピュータが接続されたコンピュータシステムであってもよい。このようなコンピュータシステムもまた広義のコンピュータである。また、制御装置100は、コンピュータ内で1または複数実行可能な仮想コンピュータ環境によって実装されてもよい。これに代えて、制御装置100は、AI制御用に設計された専用コンピュータであってもよく、専用回路によって実現された専用ハードウェアであってもよい。また、制御装置100がインターネットに接続可能な場合、制御装置100は、クラウドコンピューティングにより実現されてもよい。
制御装置100は、状態データ取得部110と、操作量データ取得部120と、学習部130と、制御モデル135と、制御部140と、予測部150と、調整部160と、出力部170とを備える。なお、これらブロックは、それぞれ機能的に分離された機能ブロックであって、実際のデバイス構成とは必ずしも一致していなくてもよい。すなわち、本図において、1つのブロックとして示されているからといって、それが必ずしも1つのデバイスにより構成されていなくてもよい。また、本図において、別々のブロックとして示されているからといって、それらが必ずしも別々のデバイスにより構成されていなくてもよい。
状態データ取得部110は、制御対象20が設けられた設備10の状態を示す状態データを取得する。例えば、状態データ取得部110は、設備10に設けられたセンサが測定した運転データ、消費量データ、および、外部環境データ等を状態データとして、ネットワークを介してセンサから取得する。しかしながら、これに限定されるものではない。状態データ取得部110は、このような状態データをオペレータから取得してもよいし、各種メモリデバイス等から取得してもよい。状態データ取得部110は、取得した状態データを学習部130、制御モデル135、および、予測部150へ供給する。
操作量データ取得部120は、制御対象20の操作量を示す操作量データを取得する。例えば、操作量データ取得部120は、制御対象20をAI制御するにあたって制御モデル135が出力する操作量MV(AI)を示すデータを、操作量データとして制御部140から取得する。しかしながら、これに限定されるものではない。操作量データ取得部120は、このような操作量データをオペレータから取得してもよいし、各種メモリデバイスから取得してもよい。操作量データ取得部120は、取得した操作量データを学習部130、および、調整部160へ供給する。
なお、本図においては、操作量データ取得部120が、制御モデル135が出力する操作量MV(AI)を示すデータを操作量データとして取得する場合を一例として示した。しかしながら、これに限定されるものではない。学習フェーズにおいて、制御装置100が他の制御器(図示せず)による制御対象20の制御下におけるデータを学習データとして機械学習する場合には、操作量データ取得部120は、当該他の制御器から制御対象20に与えられた操作量を示すデータを操作量データとして取得してもよい。一例として、制御対象20が、他の制御器から与えられた操作量MV(FB:FeedBack)によるフィードバック制御と、制御モデル135から与えられた操作量MV(AI)によるAI制御との間で切り換え可能な場合、操作量データ取得部120は、学習フェーズにおいて、当該他の制御器から制御対象20に与えられた操作量MV(FB)を示すデータを操作量データとして取得してもよい。なお、このようなFB制御は、例えば、比例制御(P制御)、積分制御(I制御)、または、微分制御(D制御)の少なくとも1つを用いた制御であってよく、一例として、PID制御であってよい。また、このような他の制御器は、本実施形態に係る制御装置100の一部として一体に構成されていてもよいし、制御装置100とは独立した別体として構成されていてもよい。
学習部130は、状態データおよび操作量データを用いて、設備10の状態に応じた操作量を出力する制御モデル135を機械学習により生成する。例えば、学習部130は、状態データ取得部110から供給された状態データ、および、操作量データ取得部120から供給された操作量MV(AI)を示す操作量データを学習データとして強化学習することにより、設備10の状態に応じた操作量MV(AI)を出力する制御モデル135を生成する。すなわち、学習部130は、状態データの入力に応じて、予め定められた報酬関数により定まる報酬値が高くなる操作量ほど推奨する操作量として出力されるように強化学習することにより、制御モデル135を生成する。これについて詳細は後述する。
制御モデル135は、学習部130が機械学習により生成した学習モデルであり、設備10の状態に応じた操作量MV(AI)を出力する。例えば、制御モデル135は、状態データ取得部110から供給された状態データを入力して、設備10の状態に応じて制御対象20に与えるべき推奨する操作量MV(AI)を出力する。なお、本図においては、制御モデル135が制御装置100に内蔵されている場合を一例として示したが、これに限定されるものではない。制御モデル135は、制御装置100とは異なる装置(例えば、クラウドサーバ上)に格納されていてもよい。同様に、学習部130についても、制御装置100とは異なる装置に備えられていてもよい。
制御部140は、制御モデル135が出力した操作量MV(AI)により制御対象20を制御する。すなわち、制御部140は、制御対象20が設けられた設備10の状態に応じて制御対象20の操作量を出力するように機械学習された制御モデル135により制御対象20を制御する。制御部140は、制御モデル135が出力した操作量MV(AI)を操作量データ取得部120へ供給する。
予測部150は、設備10の将来の状態を予測する。予測部150は、状態データ取得部110から供給された状態データに基づいて、設備10における将来の状態を予測する。なお、ここでいう「予測する」とは、予測部150が主体となって設備10における将来の状態を自ら予測することの他に、予測部150が他の装置に対して設備10における将来の状態を予測させ、他の装置が予測した設備10における将来の状態を他の装置から取得することをも含むものとする。予測部150は、設備10の将来の状態を予測した予測結果を、調整部160へ供給する。
調整部160は、学習フェーズにおいては、操作量データ取得部120から供給された操作量MV(AI)をそのまま出力部170へ供給する。一方、調整部160は、運用フェーズにおいては、必要に応じて予測部150から供給された予測結果に基づいて、操作量MV(AI)を調整する。そして、調整部160は、調整された操作量MV(AI)_adjを出力部170へ供給する。
出力部170は、調整部160から供給された操作量MVを制御対象20へ出力する。すなわち、出力部170は、学習フェーズにおいては、制御モデル135が出力したままの操作量MV(AI)を制御対象20へ出力する。一方、出力部170は、運用フェーズにおいては、制御モデル135が出力したままの操作量MV(AI)、または、調整部160によって調整された操作量MV(AI)_adjを制御対象20へ出力する。これについて、フローを用いて詳細に説明する。
図2は、本実施形態に係る制御装置100が、機械学習により制御モデル135を生成するフローの一例を示す。学習フェーズにおいて、制御装置100は、状態データおよび操作量データを用いて、設備10の状態に応じた操作量を出力する制御モデル135を機械学習により生成する。
ステップ210において、制御装置100は、状態データを取得する。例えば、状態データ取得部110は、制御対象20が設けられた設備10の状態を示す状態データを取得する。一例として、状態データ取得部110は、設備10に設けられたセンサが測定した運転データ、消費量データ、および、外部環境データ等を状態データとして、ネットワークを介してセンサから取得する。状態データ取得部110は、取得した状態データを学習部130、および、制御モデル135へ供給する。
ステップ220において、制御装置100は、操作量データを取得する。例えば、操作量データ取得部120は、制御対象20の操作量を示す操作量データを取得する。一例として、操作量データ取得部120は、制御対象20をAI制御するにあたって制御モデル135が出力する操作量MV(AI)を示すデータを、操作量データとして制御部140から取得する。操作量データ取得部120は、取得した操作量データを学習部130、および、調整部160へ供給する。これに応じて、調整部160は、操作量データ取得部120から供給された操作量MV(AI)をそのまま出力部170へ供給する。そして、出力部170は、調整部160から供給された操作量を制御対象20へ出力する。すなわち、出力部170は、学習フェーズにおいては、制御モデル135が出力したままの操作量MV(AI)を制御対象20へ出力する。なお、本図においては、制御装置100が状態データを取得した後に操作量データを取得する場合を一例として示したが、これに限定されるものではない。制御装置100は、操作量データを取得した後に状態データを取得してもよいし、状態データと操作量データとを同時に取得してもよい。
ステップ230において、制御装置100は、制御モデル135を生成する。例えば、学習部130は、状態データおよび操作量データを用いて、設備10の状態に応じた操作量を出力する制御モデル135を機械学習により生成する。一例として、学習部130は、ステップ210において取得された状態データ、および、ステップ220において取得された操作量MV(AI)を示す操作量データを学習データとして強化学習することにより、設備10の状態に応じた操作量MV(AI)を出力する制御モデル135を生成する。
一般に、エージェントが、環境の状態を観測してある行動を選択すると、当該行動に基づいて環境が変化する。強化学習においては、このような環境の変化に伴って何らかの報酬が与えられることで、エージェントがより良い行動の選択(意思決定)を学習する。教師あり学習においては、完全な正解が与えられるのに対して、強化学習においては、環境の一部の変化に基づく断片的な値として報酬が与えられる。このため、エージェントは、将来にわたって報酬の合計が最大となるような行動を選択するように学習する。このように、強化学習において、エージェントは、行動を学習することにより行動が環境に与える相互作用を踏まえて適切な行動を学習、すなわち、将来的に得られる報酬を最大にするための行動を学習する。
本実施形態において、このような強化学習における報酬は、設備10の運転を評価するための指標であってよく、予め定められた報酬関数により定まる値であってよい。ここで、関数とは、ある集合の各要素に他の集合の各要素を一対一で対応させる規則を持つ写像であり、例えば数式であってもよいし、テーブルであってもよい。
報酬関数は、状態データの入力に応じて、当該状態データによって示される設備10の状態を評価した値(報酬値)を出力する。上述のとおり、例えば、状態データには、制御対象20について測定された測定値PVが含まれている。したがって、報酬関数は、このような測定値PVが目標値SV(Setting Variable)に近いほど報酬値が高くなるような関数として定義されてよい。ここで、測定値PVと目標値SVとの差の絶対値を変数とする関数を、評価関数として定義することとする。すなわち、一例として、制御対象20がバルブである場合、評価関数は、センサが実際に測定したバルブの開度である測定値PVと、目標とするバルブの開度である目標値SVとの差の絶対値を変数とする関数であってよい。そして、報酬関数は、このような評価関数によって得られる評価関数の値を変数とする関数であってよい。
また、上述のとおり、状態データには、測定値PVに加えて、例えば、制御対象20の出力によって変化する様々な値や、消費量データ、外部環境データ等が含まれている。したがって、報酬関数は、このような様々な値、消費量データ、および、外部環境データ等に基づいて報酬値を増減させるような関数であってよい。一例として、このような様々な値や消費量データに対して守らなければならない制約が設けられている場合、報酬関数は、外部環境データに照らして、このような様々な値や消費量データが制約条件を満たしていない場合に、報酬値を最小とするような関数であってよい。また、このような様々な値や消費量データに対して目指すべき目標が設けられている場合、報酬関数は、外部環境データに照らして、このような様々な値や消費量データが目標に近いほど報酬値を増加させ、目標に遠いほど報酬値を減少させるような関数であってよい。
学習部130は、このような報酬関数に基づいてそれぞれの学習データにおける報酬値を取得する。そして、学習部130は、学習データおよび報酬値の組をそれぞれ用いて強化学習する。この際、学習部130は、最急降下法やニューラルネットワーク、DQN(Deep Q-Network)、ガウシアンプロセス、ディープラーニング等、公知の手法による学習処理を行ってよい。そして、学習部130は、報酬値が高くなる操作量ほど、推奨する操作量として優先的に出力されるように学習する。すなわち、学習部130は、状態データの入力に応じて、予め定められた報酬関数により定まる報酬値が高くなる操作量ほど推奨する操作量として出力されるように強化学習することにより、制御モデル135を生成する。これにより、モデルが更新され制御モデル135が生成される。
ステップ240において、制御装置100は、機械学習を終了するか否か判定する。ステップ240において、学習を終了しないと判定されたい場合(Noの場合)、制御装置100は、処理をステップ210に戻してフローを継続する。一方、ステップ240において、学習を終了すると判定された場合(Yesの場合)、制御装置100はフローを終了する。
図3は、本実施形態に係る制御装置100が、操作量を調整するフローの一例を示す。運用フェーズにおいて、制御装置100は、学習フェーズにおいて機械学習により生成された制御モデル135により制御対象20をAI制御するにあたって、制御対象20が設けられた設備10の将来の状態を予測する。そして、制御装置100は、予測結果に基づいて、制御モデル135が出力する操作量を調整する。
ステップ310において、制御装置100は、状態データを取得する。例えば、状態データ取得部110は、制御対象20が設けられた設備10の状態を示す状態データを取得する。一例として、状態データ取得部110は、設備10に設けられたセンサが測定した運転データ、消費量データ、および、外部環境データ等を状態データとして、ネットワークを介してセンサから取得する。状態データ取得部110は、取得した状態データを制御モデル135、および、予測部150へ供給する。
ステップ320において、制御装置100は、将来の状態を予測する。例えば、予測部150は、ステップ310において状態データ取得部110から供給された状態データに基づいて、設備10の将来の状態を予測する。
一例として、石油精製で使用される常圧蒸留塔の上部配管は、宿命的に内側に腐食が発生し減肉が生じる。このような場合に、予測部150は、プロセスの状態と減肉進行の関係を示す予測モデルを有していてよい。なお、このような予測モデルは、例えば、常圧蒸留塔の上部配管に関連する複数地点で計測されるプロセスデータと定期的な肉厚測定結果を使用して、教師あり学習を実施することにより生成することができる。そして、予測部150は、回帰式を構築して将来における配管の減肉量を予測することができる。また、予測部150は、単位時間当たりの減肉量(減肉速度)から、配管の健全性が維持できる最小の肉厚に至るまでの時間(余寿命)を予測することができる。また、予測部150は、将来における配管の減肉量、および、余寿命の少なくともいずれかに基づいて、配管の腐食を抑制する抑制剤の添加コストを算出することができる。また、予測部150は、将来における配管の減肉量、および、余寿命の少なくともいずれかに基づいて、保守頻度を算出することができる。
このように、予測部150は、設備10における将来の健全度を予測してよい。このような健全度は、設備10における配管の残存肉厚を含んでいてよい。また、予測部150は、設備10における将来の健全度から将来の保守コストを算出することで、設備10における将来の保守コストを予測してよい。このような保守コストは、設備10の劣化を抑制する抑制剤の添加に係るコストを含んでいてよい。予測部150は、このようにして予測した予測結果を調整部160へ供給する。
ステップ330において、制御装置100は、操作量データを取得する。例えば、操作量データ取得部120は、制御対象20の操作量を示す操作量データを取得する。一例として、操作量データ取得部120は、制御対象20をAI制御するにあたって制御モデル135が出力する操作量MV(AI)を示すデータを、操作量データとして制御部140から取得する。操作量データ取得部120は、取得した操作量データを調整部160へ供給する。
ステップ340において、制御装置100は、操作量MV(AI)を調整する。例えば、調整部160は、ステップ320において予測部150から供給された予測結果に基づいて、ステップ330において操作量データ取得部120から供給された操作量MV(AI)を調整する。
一例として、調整部160は、予測部150から予測結果として、設備10における将来の健全度を取得したとする。この場合、調整部160は、操作量MV(AI)と将来の健全度との関係から、設備10における将来の健全度を悪化させる運転条件を特定する。
一例として、配管を流れる流体の温度が閾値以上となるような操作量MV(AI)に対して、将来における配管の減肉が進行する予測結果が得られていたとする。また、配管を流れる流体の温度が閾値未満となるような操作量MV(AI)に対して将来における配管の減肉が抑制される予測結果が得られていたとする。このような場合、調整部160は、減肉が生じる主要因が、配管を流れる流体の温度が閾値以上となることにあると特定することができる。なおこれは、流体の温度が閾値以上となると、腐食を進行させる原因物質が生成されてしまう場合などに起こり得る。このような場合に、調整部160は、流体の温度が閾値以上とならないように、操作量MV(AI)をMV(AI)_adjに調整する。
同様に、配管を流れる流体の速度が閾値以上となるような操作量MV(AI)に対して、余寿命が短くなる予測結果が得られていたとする。また、配管を流れる流体の速度が閾値未満となるような操作量MV(AI)に対して余寿命が長くなる予測結果が得られていたとする。このような場合、調整部160は、余寿命が短くなる主要因が、配管を流れる流体の速度が閾値以上となることにあると特定することができる。なおこれは、流体の速度が閾値以上となると、流れ加速型腐食(FAC:Flow Accelerated Corrosion)や液滴衝撃エロージョン(LDI:Liquid Droplet Impingement Erosion)による影響が顕著となってしまう場合などに起こり得る。このような場合に、調整部160は、流体の速度が閾値以上とならないように、操作量MV(AI)をMV(AI)_adjに調整する。調整部160は、例えばこのようにして、設備10における将来の健全度に応じて操作量MV(AI)を調整してよい。
また、調整部160は、予測部150から予測結果として、設備10における将来の保守コストを取得したとする。この場合、調整部160は、操作量MV(AI)と将来の保守コストとの関係から、設備10における将来の保守コストを増加させる運転条件を特定する。
一例として、配管を流れる流体の温度が閾値以上となるような操作量MV(AI)に対して、将来における腐食抑制剤の添加コストが増加する予測結果が得られていたとする。また、配管を流れる流体の温度が閾値未満となるような操作量MV(AI)に対して将来における腐食抑制剤の添加コストが低下する予測結果が得られていたとする。このような場合、調整部160は、腐食抑制剤の添加コストが増加する要因が、配管を流れる流体の温度が閾値以上となることにあると特定することができる。このような場合に、調整部160は、流体の温度が閾値以上とならないように、操作量MV(AI)をMV(AI)_adjに調整する。
同様に、配管を流れる流体の速度が閾値以上となるような操作量MV(AI)に対して、将来における保守頻度が増加する予測結果(保守コストの増加になり得る予測結果)が得られていたとする。また、配管を流れる流体の速度が閾値未満となるような操作量MV(AI)に対して将来における保守頻度が低下する予測結果(保守コストの減少になり得る予測結果)が得られていたとする。このような場合、調整部160は、保守コストが増加する要因が、配管を流れる流体の速度が閾値以上となることにあると特定することができる。このような場合に、調整部160は、流体の速度が閾値以上とならないように、操作量MV(AI)をMV(AI)_adjに調整する。調整部160は、例えばこのようにして、設備10における将来の保守コストに応じて操作量MV(AI)を調整してよい。調整部160は、調整した操作量MV(AI)_adjを出力部170へ供給する。
ステップ350において、制御装置100は、調整された操作量MV(AI)_adjを出力する。例えば、出力部170は、ステップ340において調整部160によって調整された操作量MV(AI)_adjを制御対象20へ出力する。これにより、制御装置100は、予測結果に基づいて調整された操作量MV(AI)により制御対象20を制御する。
一般に、機械学習では、入力データを使用して学習モデルのパラメータを決定するが、これは確率的に求められたものであり、理論的に保障されているものではない。そのため、学習モデルから異常な推論データが出力される可能性がある。そこで、本実施形態に係る制御装置100は、制御対象20をAI制御するにあたって、制御対象20が設けられた設備10の将来の状態を予測する。そして、制御装置100は、予測結果に基づいて、制御モデル135が出力する操作量を調整する。これにより、本実施形態に係る制御装置100によれば、AI制御に伴い設備10における将来の状態に悪い影響を与え得ることが予測された場合に、AI制御の操作量MV(AI)を調整し、調整後の操作量MV(AI)_adjにより制御対象20を制御することができる。ここで、制御モデル135を機械学習により生成する時点で、設備10における将来の予測結果をも考慮して(例えば、報酬関数に含める等して)、制御モデル135が推奨される操作量MV(AI)を出力するように機械学習することも考えられる。しかしながら、本実施形態に係る制御装置100では、設備10における将来の予測結果を考慮した調整を、制御モデル135を生成するための機械学習には組み込まず、制御モデル135が出力する操作量MV(AI)を事後的に調整している。これにより、本実施形態に係る制御装置100によれば、制御モデル135を生成するための機械学習をより簡略化することができるとともに、既に構築されている制御モデル135に対しても、その出力を調整することができる。また、本実施形態に係る制御装置100によれば、操作量MV(AI)がどのように調整されたのかを機械学習の中でブラックボックス化させることなく、見える化させることが可能となる。
また、本実施形態に係る制御装置100は、設備10における将来の健全性(例えば、配管の残存肉厚)を予測し、健全度に応じて操作量を調整する。これにより、本実施形態に係る制御装置100によれば、例えば、腐食が進行しやすい運転条件を回避して制御対象20を制御するなどして、設備10における健全度の悪化を抑制することができる。
また、本実施形態に係る制御装置100は、設備10における将来の保守コスト(例えば、抑制剤の添加コスト)を予測し、保守コストに応じて操作量を調整する。これにより、本実施形態に係る制御装置100によれば、例えば、抑制剤の添加コストが増加しやすい運転条件を回避して制御対象20を制御するなどして、設備10における保守コストの増加を抑制することができる。
図4は、本実施形態の第一の変形例に係る制御装置100のブロック図の一例を、制御対象20が設けられた設備10と共に示す。図4においては、図1と同じ機能および構成を有する部材に対して同じ符号を付すとともに、以下相違点を除き説明を省略する。第一の変形例に係る制御装置100においては、操作量MV(AI)が調整された履歴に基づいて、機械学習における制約条件を学習する。第一の変形例に係る制御装置100は、調整履歴取得部410を更に備える。
調整履歴取得部410は、操作量MV(AI)の調整履歴を調整部160から取得する。例えば、調整履歴取得部410は、制御モデル135が出力した操作量MV(AI)と、調整部160により調整された操作量MV(AI)_adjとを示す情報を、操作量MV(AI)の調整履歴として取得する。そして、調整履歴取得部410は、取得した調整履歴を学習部130へ供給する。これに応じて、学習部130は、操作量が調整された履歴に基づいて、機械学習における制約条件を更に学習する。
一例として、操作量MV(AI)=113が操作量MV(AI)_adj=100に調整された場合、学習部130は、制御モデル135から調整前の操作量MV(AI)=113が出力されることを禁止するよう制約条件を学習する。同様に、操作量MV(AI)=47が操作量MV(AI)_adj=50に調整された場合、学習部130は、制御モデル135から調整前の操作量MV(AI)=47が出力されることを禁止するよう制約条件を学習する。このように、操作量MV(AI)が調整部160によって操作量MV(AI)_adjに調整された場合に、学習部130は、制御モデル135から出力を禁止する操作量MV(AI)を制約条件として学習する。また、このように操作量MV(AI)の禁止する値を蓄積することによって、学習部130は、操作量MV(AI)の上限値が100であり、下限値が50であるとする制約条件を学習する。このように、学習部130が学習する制約条件は、制御モデル135から出力することを許可する操作量MV(AI)の上限値および下限値の少なくともいずれかを含んでよい。そして、学習部130は、このように学習した制約条件の下で学習フェーズにおいて再学習することにより、状態データおよび操作量データを用いて、設備10の状態に応じた操作量を出力する制御モデル135を再生成する。
このように、第一の変形例に係る制御装置100は、操作量MV(AI)が調整された履歴に基づいて、機械学習における制約条件を学習する。これにより、第一の変形例に係る制御装置100によれば、例えば、減肉が進行しやすい運転条件等を学習部130へフィードバックすることができるので、将来的に制御モデル135から減肉が進行しにくい操作量NV(AI)が出力されるように、制御モデル135を再生成することができる。
図5は、本実施形態の第二の変形例に係る制御装置100のブロック図の一例を、制御対象20が設けられた設備10と共に示す。図5においては、図1と同じ機能および構成を有する部材に対して同じ符号を付すとともに、以下相違点を除き説明を省略する。第二の変形例に係る制御装置100においては、操作量MV(AI)を調整するにあたり、設備10における生産計画を考慮する。第二の変形例に係る制御装置100は、設備10における生産計画を取得する計画取得部510を更に備える。
計画取得部510は、設備10における生産計画を取得する。例えば、計画取得部510は、ネットワークを介して、設備10において生産すべき製品の種類、生産量、および、生産時期を示す情報を取得する。しかしながら、これに限定されるものではない。計画取得部510は、このような生産計画をオペレータから取得してもよいし、各種メモリデバイス等から取得してもよい。計画取得部510は、取得した生産計画を調整部160へ供給する。
調整部160は、予測部150から供給された予測結果、および、計画取得部510から供給された生産計画に基づいて、操作量MV(AI)を調整する。例えば、調整部160は、予測結果に基づいて、操作量MV(AI)を操作量MV(AI)_adjに調整するよう決定したとする。この際、調整部160は操作量の変更が生産性へ与える影響を検討する。一例として、調整部160は、操作量MV(AI)=113を操作量MV(AI)_adj=100に調整するよう決定したとする。この際、調整部160は、操作量MV(AI)=113から操作量MV(AI)_adj=100に変更した場合における、単位時間当たりの生産量を推測する。その結果、調整後の操作量MV(AI)_adjによる制御では、取得した生産計画によって指定された製品が指定された生産時期に指定された生産量を生産することができないと推測されたとする。一方で、操作量MV(AI)_adj=105への変更であれば、指定された製品が指定された生産時期に指定された生産量を生産することができると推測されたとする。この場合、調整部160は、操作量MV(AI)_adj=100を、操作量MV(AI)と操作量MV(AI)_adjとの間の値、例えば、操作量MV(AI)_adj´=105等に再調整する。すなわち、調整部160は、生産計画を満たす範囲内において、予測結果に基づいて、操作量MV(AI)を調整する。そして、調整部160は、調整された操作量MV(AI)_adj´を出力部170へ供給する。これに応じて、出力部170は、調整部160によって調整された操作量MV(AI)_adj´を制御対象20へ出力する。これにより、制御装置100は、予測結果および生産計画に基づいて調整された操作量MV(AI)_adj´により制御対象20を制御する。
図6は、本実施形態の第二の変形例に係る制御装置100が、制御量を調整するフローの一例を示す。図6においては、図3と同じ処理に対して同じ符号を付すとともに、以下相違点を除き説明を省略する。本フローにおいては、ステップ610~ステップ630を更に備える。
ステップ610において、制御装置100は、生産計画を満たすか否か判定する。例えば、調整部160は、ステップ340において調整された操作量MV(AI)_adjを制御対象20に与えた場合における単位時間当たりの生産量を推測する。この際、調整部160は、一例として、対象とする操作量MVと単位時間当たりの生産量との関係を示す既知の関係式を用いて、単位時間当たりの生産量を推測してよい。そして、調整部160は、生産計画によって指定された製品のそれぞれについて、現時点から生産計画によって指定された生産時期までの期間を算出する。そして、調整部160は、推測した単位時間当たりの生産量と生産時期までの期間を乗算して、生産時期までに生産可能な生産量を予測する。予測した生産量が生産計画によって指定された生産量以上である場合、調整部160は、生産計画を満たす(Yes)と判定する。ステップ610において、生産計画を満たすと判定された場合、制御装置100は、処理をステップ350に進める。すなわち、制御装置100は、操作量MV(AI)_adjを制御対象20に出力することにより、操作量MV(AI)_adjにより制御対象20を制御する。
一方、予測した生産量が生産計画によって指定された生産量を下回る場合、調整部160は、生産計画を満たさない(No)と判定する。ステップ610において、生産計画を満たさないと判定された場合、調整部160は、処理をステップ620に進める。
ステップ620において、制御装置100は、操作量MV(AI)を再調整する。例えば、調整部160は、操作量MV(AI)と操作量MV(AI)_adjとの間の中で試行錯誤することにより、生産計画を満たす操作量MV(AI)_adj´を発見する。そして、調整部160は、操作量MV(AI)_adjを発見された操作量MV(AI)_adj´に再調整する。調整部160は、再調整された操作量MV(AI)_adj´を出力部170へ供給する。
ステップ630において、制御装置100は、操作量MV(AI)_adj´を出力する。例えば、出力部170は、ステップ630において調整部160によって再調整された操作量MV(AI)_adj´を制御対象20へ出力する。これにより、制御装置100は、予測結果および生産計画に基づいて調整された操作量MV(AI)_adj´により制御対象20を制御する。
上記フローについて、例えば、対象とする操作量MVが設備10の特定の箇所における温度であり、対象とする生産量が設備10において1日に生産すべき電力量である場合を一例として詳細に説明する。計画取得部510は、例えば、生産計画として、設備10において1日に生産すべき電力量を、夏季および冬季と春季および秋季とのそれぞれについて取得していたとする。ここで、1日に生産すべき電力量は需給バランスに応じて異なるものであり、例えば、夏季および冬季において1日に生産すべき電力量が1000Wh/日であり、春季および秋季において1日に生産すべき電力量が700Wh/日であったとする。そして、調整部160は、対象とする操作量MVである温度を113度から100度に調整するよう決定していたとする。
この場合に、調整部160は、既知の関係式を用いて、温度を100度に変更した場合、1時間当たりに生産可能な電力量が38Wh/時となると推測したとする。そして、調整部160は、1時間当たりに生産可能な電力量に1日当たりの時間、すなわち、24を乗算することで、1日当たりに生産可能な電力量が912Wh/日(=38Wh/時×24時間)となると予測したとする。ここで、春季および秋季においては、1日に生産すべき電力量は700Wh/日であり、予測した生産量(912Wh/日)が生産計画によって指定された生産計画(700Wh/日)以上となる。この場合、調整部160は、生産計画を満たすと判定し、対象とする操作量MVである温度を113度から100度へ調整する。これに応じて、制御装置100は、調整後の温度である100度を制御対象20に対して出力する。
一方、夏季および冬季においては、1日に生産すべき電力量は1000Wh/日であり、予測した生産量(912Wh/日)が生産計画によって指定された生産計画(1000Wh/日)未満となる。この場合、調整部160は、生産計画を満たさないと判定する。そして、調整部160は、既知の関係式を用いて試行錯誤することにより、温度を105度に変更した場合に1時間当たりに生産可能な電力量が42Wh/時となると推測する。そして、調整部160は、1日当たりに生産可能な電力量が1008Wh/日(=42Wh/時×24時間)となると予測する。これにより、予測した生産量(1008Wh/日)が生産計画によって指定された生産計画(1000Wh/日)以上となる。この場合、調整部160は、生産計画を満たすと判定し、対象とする操作量MVである温度を105度へ調整する。これに応じて、制御装置100は、調整後の温度である105度を制御対象20に対して出力する。
なお、上述の説明では、春季および秋季において、調整部160は、予測した生産量が生産計画によって指定された生産計画以上となった場合に、対象とする操作量を113度からそのまま100度へ調整する場合を一例として示した。しかしながら、これに限定されるものではない。調整部160は、生産計画を満たすと判定した場合に、対象とする操作量を更に再調整してもよい。調整部160は、例えば、既知の関係式を用いて試行錯誤することにより、温度を90度に変更した場合に1時間当たりに生産可能な電力量が30Wh/時となると推測したとする。そして、調整部160は、1日当たりに生産可能な電力量が720Wh/日(=30Wh/時×24時間)となると予測したとする。温度をこのように変更しても、予測した生産量(720Wh/日)が生産計画によって指定された生産計画(700Wh/日)以上となる。このような場合、調整部160は、対象とする操作量MVを更に再調整して、例えば、温度を100度よりも更に低い90度へと調整してもよい。これにより、制御装置100は、生産計画を満たす範囲内において、対象とする操作量MVを、例えば、減肉を更に抑制するように再調整することができる。
このように、第二の変形例に係る制御装置100は、操作量MV(AI)を調整するにあたり、設備10における生産計画を考慮する。すなわち、第二の変形例に係る制御装置100は、生産計画を満たす範囲内で操作量MV(AI)を調整する。これにより、第二の変形例に係る制御装置100によれば、設備10の長寿命化と生産計画の遵守とを両立させることができる。
本発明の様々な実施形態は、フローチャートおよびブロック図を参照して記載されてよく、ここにおいてブロックは、(1)操作が実行されるプロセスの段階または(2)操作を実行する役割を持つ装置のセクションを表わしてよい。特定の段階およびセクションが、専用回路、コンピュータ可読媒体上に格納されるコンピュータ可読命令と共に供給されるプログラマブル回路、および/またはコンピュータ可読媒体上に格納されるコンピュータ可読命令と共に供給されるプロセッサによって実装されてよい。専用回路は、デジタルおよび/またはアナログハードウェア回路を含んでよく、集積回路(IC)および/またはディスクリート回路を含んでよい。プログラマブル回路は、論理AND、論理OR、論理XOR、論理NAND、論理NOR、および他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)等のようなメモリ要素等を含む、再構成可能なハードウェア回路を含んでよい。
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよく、その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROMまたはフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(RTM)ディスク、メモリスティック、集積回路カード等が含まれてよい。
コンピュータ可読命令は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはSmalltalk(登録商標)、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、および「C」プログラミング言語または同様のプログラミング言語のような従来の手続型プログラミング言語を含む、1または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードのいずれかを含んでよい。
コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して提供され、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
図7は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ9900の例を示す。コンピュータ9900にインストールされたプログラムは、コンピュータ9900に、本発明の実施形態に係る装置に関連付けられる操作または当該装置の1または複数のセクションとして機能させることができ、または当該操作または当該1または複数のセクションを実行させることができ、および/またはコンピュータ9900に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ9900に、本明細書に記載のフローチャートおよびブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定の操作を実行させるべく、CPU9912によって実行されてよい。
本実施形態によるコンピュータ9900は、CPU9912、RAM9914、グラフィックコントローラ9916、およびディスプレイデバイス9918を含み、それらはホストコントローラ9910によって相互に接続されている。コンピュータ9900はまた、通信インターフェイス9922、ハードディスクドライブ9924、DVDドライブ9926、およびICカードドライブのような入/出力ユニットを含み、それらは入/出力コントローラ9920を介してホストコントローラ9910に接続されている。コンピュータはまた、ROM9930およびキーボード9942のようなレガシの入/出力ユニットを含み、それらは入/出力チップ9940を介して入/出力コントローラ9920に接続されている。
CPU9912は、ROM9930およびRAM9914内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。グラフィックコントローラ9916は、RAM9914内に提供されるフレームバッファ等またはそれ自体の中にCPU9912によって生成されたイメージデータを取得し、イメージデータがディスプレイデバイス9918上に表示されるようにする。
通信インターフェイス9922は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブ9924は、コンピュータ9900内のCPU9912によって使用されるプログラムおよびデータを格納する。DVDドライブ9926は、プログラムまたはデータをDVD-ROM9901から読み取り、ハードディスクドライブ9924にRAM9914を介してプログラムまたはデータを提供する。ICカードドライブは、プログラムおよびデータをICカードから読み取り、および/またはプログラムおよびデータをICカードに書き込む。
ROM9930はその中に、アクティブ化時にコンピュータ9900によって実行されるブートプログラム等、および/またはコンピュータ9900のハードウェアに依存するプログラムを格納する。入/出力チップ9940はまた、様々な入/出力ユニットをパラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入/出力コントローラ9920に接続してよい。
プログラムが、DVD-ROM9901またはICカードのようなコンピュータ可読媒体によって提供される。プログラムは、コンピュータ可読媒体から読み取られ、コンピュータ可読媒体の例でもあるハードディスクドライブ9924、RAM9914、またはROM9930にインストールされ、CPU9912によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ9900に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ9900の使用に従い情報の操作または処理を実現することによって構成されてよい。
例えば、通信がコンピュータ9900および外部デバイス間で実行される場合、CPU9912は、RAM9914にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インターフェイス9922に対し、通信処理を命令してよい。通信インターフェイス9922は、CPU9912の制御下、RAM9914、ハードディスクドライブ9924、DVD-ROM9901、またはICカードのような記録媒体内に提供される送信バッファ処理領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信された受信データを記録媒体上に提供される受信バッファ処理領域等に書き込む。
また、CPU9912は、ハードディスクドライブ9924、DVDドライブ9926(DVD-ROM9901)、ICカード等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がRAM9914に読み取られるようにし、RAM9914上のデータに対し様々なタイプの処理を実行してよい。CPU9912は次に、処理されたデータを外部記録媒体にライトバックする。
様々なタイプのプログラム、データ、テーブル、およびデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU9912は、RAM9914から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプの操作、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM9914に対しライトバックする。また、CPU9912は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU9912は、第1の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ9900上またはコンピュータ9900近傍のコンピュータ可読媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはRAMのような記録媒体が、コンピュータ可読媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ9900に提供する。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 設備
20 制御対象
100 制御装置
110 状態データ取得部
120 操作量データ取得部
130 学習部
135 制御モデル
140 制御部
150 予測部
160 調整部
170 出力部
410 調整履歴取得部
510 計画取得部
9900 コンピュータ
9901 DVD-ROM
9910 ホストコントローラ
9912 CPU
9914 RAM
9916 グラフィックコントローラ
9918 ディスプレイデバイス
9920 入/出力コントローラ
9922 通信インターフェイス
9924 ハードディスクドライブ
9926 DVDドライブ
9930 ROM
9940 入/出力チップ
9942 キーボード

Claims (17)

  1. 制御対象が設けられた設備の状態に応じて前記制御対象の操作量を出力するように機械学習された制御モデルにより前記制御対象を制御する制御部と、
    前記設備の将来の状態を予測する予測部と、
    前記予測部により予測された前記将来の状態に含まれる前記設備の将来の健全度に基づいて、前記制御モデルにより出力された前記操作量を調整する調整部と、
    調整された操作量を前記制御対象へ出力する出力部と
    を備える、制御装置。
  2. 前記将来の健全度は、前記設備における配管の残存肉厚を含む、請求項に記載の制御装置。
  3. 前記調整部は、前記将来の健全度から算出された前記設備将来の保守コストに応じて、前記制御モデルにより出力された前記操作量を調整する、請求項1または2に記載の制御装置。
  4. 前記将来の保守コストは、前記設備の劣化を抑制する抑制剤の添加に係るコストを含む、請求項に記載の制御装置。
  5. 前記制御モデルを機械学習により生成する学習部を更に備える、請求項1からのいずれか一項に記載の制御装置。
  6. 前記学習部は、前記設備の状態を示す状態データの入力に応じて、予め定められた報酬関数により定まる報酬値が高くなる操作量ほど推奨する操作量として出力されるように強化学習することにより、前記制御モデルを生成する、請求項に記載の制御装置。
  7. 前記学習部は、前記操作量が調整された履歴に基づいて、前記機械学習における制約条件を更に学習する、請求項またはに記載の制御装置。
  8. 前記制約条件は、前記操作量の上限値および下限値の少なくともいずれかを含む、請求項に記載の制御装置。
  9. 前記設備における生産計画を取得する計画取得部を更に備え、
    前記調整部は、前記予測部により予測された前記将来の状態および前記計画取得部により取得された前記生産計画に基づいて、前記制御モデルにより出力された前記操作量を調整する、請求項1からのいずれか一項に記載の制御装置。
  10. 制御対象が設けられた設備の状態に応じて前記制御対象の操作量を出力するように機械学習された制御モデルにより前記制御対象を制御する段階と、
    前記設備の将来の状態を予測する段階と、
    予測された前記将来の状態に含まれる前記設備の将来の健全度に基づいて、前記制御モデルにより出力された前記操作量を調整する段階と、
    調整された操作量を前記制御対象へ出力する段階と
    を備える、制御方法。
  11. 前記将来の健全度は、前記設備における配管の残存肉厚を含む、請求項10に記載の制御方法。
  12. 前記制御モデルにより出力された前記操作量を調整する段階は、前記将来の健全度から算出された前記設備将来の保守コストに応じて、前記制御モデルにより出力された前記操作量を調整する段階を有する、請求項10または11に記載の制御方法。
  13. 前記将来の保守コストは、前記設備の劣化を抑制する抑制剤の添加に係るコストを含む、請求項12に記載の制御方法。
  14. コンピュータにより実行されて、前記コンピュータを、
    制御対象が設けられた設備の状態に応じて前記制御対象の操作量を出力するように機械学習された制御モデルにより前記制御対象を制御する制御部と、
    前記設備の将来の状態を予測する予測部と、
    前記予測部により予測された前記将来の状態に含まれる前記設備の将来の健全度に基づいて、前記制御モデルにより出力された前記操作量を調整する調整部と、
    調整された操作量を前記制御対象へ出力する出力部と
    して機能させる、制御プログラム。
  15. 前記将来の健全度は、前記設備における配管の残存肉厚を含む、請求項14に記載の制御プログラム。
  16. 前記調整部は、前記将来の健全度から算出された前記設備将来の保守コストに応じて、前記制御モデルにより出力された前記操作量を調整する、請求項14または15に記載の制御プログラム。
  17. 前記将来の保守コストは、前記設備の劣化を抑制する抑制剤の添加に係るコストを含む、請求項16に記載の制御プログラム。
JP2021038601A 2021-03-10 2021-03-10 制御装置、制御方法、および、制御プログラム Active JP7359178B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2021038601A JP7359178B2 (ja) 2021-03-10 2021-03-10 制御装置、制御方法、および、制御プログラム
US17/676,863 US20220291643A1 (en) 2021-03-10 2022-02-22 Control apparatus, control method, and recording medium having control program recorded thereon
EP22158408.9A EP4057084B8 (en) 2021-03-10 2022-02-24 Control apparatus, control method, and control program
CN202210190042.0A CN115079567A (zh) 2021-03-10 2022-02-28 控制装置、控制方法以及记录有控制程序的记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021038601A JP7359178B2 (ja) 2021-03-10 2021-03-10 制御装置、制御方法、および、制御プログラム

Publications (2)

Publication Number Publication Date
JP2022138621A JP2022138621A (ja) 2022-09-26
JP7359178B2 true JP7359178B2 (ja) 2023-10-11

Family

ID=80448776

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021038601A Active JP7359178B2 (ja) 2021-03-10 2021-03-10 制御装置、制御方法、および、制御プログラム

Country Status (4)

Country Link
US (1) US20220291643A1 (ja)
EP (1) EP4057084B8 (ja)
JP (1) JP7359178B2 (ja)
CN (1) CN115079567A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115614678B (zh) * 2022-12-16 2023-03-10 成都秦川物联网科技股份有限公司 智慧燃气管道电化学腐蚀评估方法和物联网***、介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012223723A (ja) 2011-04-21 2012-11-15 Hitachi Ltd 海水淡水化システムの制御装置及びその制御方法
JP2014014876A (ja) 2012-07-05 2014-01-30 Canon Inc ロボット制御装置、及びロボット制御方法
JP2015114778A (ja) 2013-12-10 2015-06-22 横河電機株式会社 プラント制御システム、制御装置、管理装置、及びプラント情報処理方法
JP2020027556A (ja) 2018-08-17 2020-02-20 横河電機株式会社 装置、方法、プログラム、および、記録媒体
JP2020186417A (ja) 2019-05-10 2020-11-19 三菱パワー株式会社 腐食管理システム、水処理装置、及び発電プラント、並びに腐食管理方法、並びに腐食管理プログラム
JP2021026617A (ja) 2019-08-07 2021-02-22 横河電機株式会社 制御システム及び制御方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04131600A (ja) * 1990-09-19 1992-05-06 Hitachi Ltd 都市エネルギーシステム
US7797062B2 (en) * 2001-08-10 2010-09-14 Rockwell Automation Technologies, Inc. System and method for dynamic multi-objective optimization of machine selection, integration and utilization
EP2172887A3 (en) * 2008-09-30 2011-11-09 Rockwell Automation Technologies, Inc. System and method for dynamic multi-objective optimization of machine selection, integration and utilization
US10557736B2 (en) * 2016-05-10 2020-02-11 Mks Instruments, Inc. Predictive diagnostics systems and methods using vacuum pressure control valves
US20200301408A1 (en) * 2017-05-25 2020-09-24 Johnson Controls Technology Company Model predictive maintenance system with degradation impact model
JP6542839B2 (ja) 2017-06-07 2019-07-10 ファナック株式会社 制御装置及び機械学習装置
US11268370B2 (en) * 2018-03-26 2022-03-08 Baker Hughes, A Ge Company, Llc Model-based parameter estimation for directional drilling in wellbore operations
JP2020010335A (ja) * 2018-07-03 2020-01-16 株式会社Social Area Networks 携帯通信装置、測位システム及び測位方法
JP7107830B2 (ja) * 2018-12-21 2022-07-27 ファナック株式会社 学習用データ確認支援装置、機械学習装置、故障予知装置
US11593729B2 (en) * 2020-03-13 2023-02-28 International Business Machines Corporation Cognitive tuning of scheduling constraints
US11274049B2 (en) * 2020-04-08 2022-03-15 Saudi Arabian Oil Company Methods and systems for optimizing corrosion and scale inhibitor injection rates in process plants

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012223723A (ja) 2011-04-21 2012-11-15 Hitachi Ltd 海水淡水化システムの制御装置及びその制御方法
JP2014014876A (ja) 2012-07-05 2014-01-30 Canon Inc ロボット制御装置、及びロボット制御方法
JP2015114778A (ja) 2013-12-10 2015-06-22 横河電機株式会社 プラント制御システム、制御装置、管理装置、及びプラント情報処理方法
JP2020027556A (ja) 2018-08-17 2020-02-20 横河電機株式会社 装置、方法、プログラム、および、記録媒体
JP2020186417A (ja) 2019-05-10 2020-11-19 三菱パワー株式会社 腐食管理システム、水処理装置、及び発電プラント、並びに腐食管理方法、並びに腐食管理プログラム
JP2021026617A (ja) 2019-08-07 2021-02-22 横河電機株式会社 制御システム及び制御方法

Also Published As

Publication number Publication date
US20220291643A1 (en) 2022-09-15
CN115079567A (zh) 2022-09-20
EP4057084B8 (en) 2023-12-06
EP4057084B1 (en) 2023-10-25
JP2022138621A (ja) 2022-09-26
EP4057084A1 (en) 2022-09-14

Similar Documents

Publication Publication Date Title
JP7011239B2 (ja) 装置、方法、プログラム、および、記録媒体
Ellis et al. Integrating dynamic economic optimization and model predictive control for optimal operation of nonlinear process systems
JP7331660B2 (ja) 装置、方法およびプログラム
JP2024069609A (ja) 機械学習を専門知識及び第一原理と組み合わせて行うプロセス産業のモデリング
JP3574132B2 (ja) モデル予測制御用のニューラルネットベースの外乱予測子
JP7342833B2 (ja) 制御装置、コントローラ、制御システム、制御方法、および制御プログラム
JP7392566B2 (ja) 制御支援装置、制御支援方法、制御支援プログラム、および制御システム
JP7359178B2 (ja) 制御装置、制御方法、および、制御プログラム
Himmel et al. Machine learning for process control of (bio) chemical processes
Pistikopoulos et al. Towards the integration of process design, control and scheduling: Are we getting closer?
JP7363839B2 (ja) 制御装置、制御方法、および、制御プログラム
US20220351101A1 (en) Evaluation apparatus, evaluation method, recording medium having recorded thereon evaluation program, control apparatus and recording medium having recorded thereon control program
JP7359176B2 (ja) 判定装置、判定方法、および、判定プログラム
US20230341828A1 (en) Control apparatus, control method, and non-transitory computer readable medium
Li et al. Level Control of Chemical Coupling Tank Based on Reinforcement Learning Method
US20230409928A1 (en) Estimation apparatus, estimation method, and non-transitory computer-readable medium
JP7409345B2 (ja) 学習処理装置、制御装置、学習処理方法、制御方法、学習プログラムおよび制御プログラム
Hasselmann Application of system dynamics to climate policy assessment
JP2022148258A (ja) シミュレーション装置、シミュレーションシステム、シミュレーション方法、およびシミュレーションプログラム
JP2023174330A (ja) リモート制御装置、ローカル制御装置、学習処理装置、方法、およびプログラム
JP2023173459A (ja) モデル選択装置、モデル選択方法、および、モデル選択プログラム
Wenzel Department of Biochemical and Chemical Engineering Process Dynamics and Operations Group Prof. Dr.-Ing. Sebastian Engell

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220304

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230420

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230714

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230829

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230911

R150 Certificate of patent or registration of utility model

Ref document number: 7359178

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150