JP7327512B2 - 学習装置、学習方法および学習プログラム - Google Patents
学習装置、学習方法および学習プログラム Download PDFInfo
- Publication number
- JP7327512B2 JP7327512B2 JP2021566647A JP2021566647A JP7327512B2 JP 7327512 B2 JP7327512 B2 JP 7327512B2 JP 2021566647 A JP2021566647 A JP 2021566647A JP 2021566647 A JP2021566647 A JP 2021566647A JP 7327512 B2 JP7327512 B2 JP 7327512B2
- Authority
- JP
- Japan
- Prior art keywords
- learning
- algorithm
- decision
- model
- expert model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
- G06N5/043—Distributed expert systems; Blackboards
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Probability & Statistics with Applications (AREA)
- Algebra (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
20 入力部
30 学習部
31 第一学習部
32 第二学習部
40 出力部
Claims (8)
- 対象者の意思決定履歴の入力を受け付ける入力部と、
前記意思決定履歴に基づいて、逆強化学習により階層型混合エキスパートモデルを学習する学習部と、
学習された前記階層型混合エキスパートモデルを出力する出力部とを備え、
前記学習部は、EMアルゴリズムを用いて前記階層型混合エキスパートモデルを学習し、当該EMアルゴリズムにより算出される、意思決定履歴の対数尤度が単調増加している場合に、前記階層型混合エキスパートモデルを因子化漸近ベイズ推論により学習する
ことを特徴とする学習装置。 - 学習部は、
EMアルゴリズムを用いて階層型混合エキスパートモデルを学習して、意思決定履歴の対数尤度を算出する第一学習部と、
前記対数尤度が単調増加していると判断した場合、前記EMアルゴリズムによる学習方法を因子化漸近ベイズ推論に切り替え、因子化情報量基準の下限の近似値を用いて階層型混合エキスパートモデルを当該因子化漸近ベイズ推論により学習する第二学習部とを含む
請求項1記載の学習装置。 - 第一学習部は、対数尤度が単調増加していると判断されるまで、EMアルゴリズムによる階層型混合エキスパートモデルの学習を繰り返す
請求項2記載の学習装置。 - 第一学習部は、因子化漸近ベイズ推論で用いられる隠れ変数の変分確率の更新時に用いられる式から、当該因子化漸近ベイズ推論の正則化効果を表わす項を除いた式を用いて、EMアルゴリズムによるモデルの学習を行う
請求項2または請求項3記載の学習装置。 - 対象者の意思決定履歴の入力を受け付け、
前記意思決定履歴に基づいて、逆強化学習により階層型混合エキスパートモデルを学習し、
学習された前記階層型混合エキスパートモデルを出力し、
前記学習の際、
EMアルゴリズムを用いて前記階層型混合エキスパートモデルを学習し、当該EMアルゴリズムにより算出される、意思決定履歴の対数尤度が単調増加している場合に、前記階層型混合エキスパートモデルを因子化漸近ベイズ推論により学習する
ことを特徴とする学習方法。 - EMアルゴリズムを用いて階層型混合エキスパートモデルを学習して、意思決定履歴の対数尤度を算出し、
前記対数尤度が単調増加していると判断した場合、前記EMアルゴリズムによる学習方法を因子化漸近ベイズ推論に切り替え、因子化情報量基準の下限の近似値を用いて階層型混合エキスパートモデルを当該因子化漸近ベイズ推論により学習する
請求項5記載の学習方法。 - コンピュータに、
対象者の意思決定履歴の入力を受け付ける入力処理、
前記意思決定履歴に基づいて、逆強化学習により階層型混合エキスパートモデルを学習する学習処理、および、
学習された前記階層型混合エキスパートモデルを出力する出力処理を実行させ、
前記学習処理で、
EMアルゴリズムを用いて前記階層型混合エキスパートモデルを学習させ、当該EMアルゴリズムにより算出される、意思決定履歴の対数尤度が単調増加している場合に、前記階層型混合エキスパートモデルを因子化漸近ベイズ推論により学習させる
ための学習プログラム。 - コンピュータに、
学習処理で、
EMアルゴリズムを用いて階層型混合エキスパートモデルを学習して、意思決定履歴の対数尤度を算出する第一学習処理、および、
前記対数尤度が単調増加していると判断した場合、前記EMアルゴリズムによる学習方法を因子化漸近ベイズ推論に切り替え、因子化情報量基準の下限の近似値を用いて階層型混合エキスパートモデルを当該因子化漸近ベイズ推論により学習する第二学習処理を実行させる
請求項7記載の学習プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2019/050881 WO2021130915A1 (ja) | 2019-12-25 | 2019-12-25 | 学習装置、学習方法および学習プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2021130915A1 JPWO2021130915A1 (ja) | 2021-07-01 |
JP7327512B2 true JP7327512B2 (ja) | 2023-08-16 |
Family
ID=76573771
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021566647A Active JP7327512B2 (ja) | 2019-12-25 | 2019-12-25 | 学習装置、学習方法および学習プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230040914A1 (ja) |
JP (1) | JP7327512B2 (ja) |
WO (1) | WO2021130915A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7384311B1 (ja) * | 2023-07-03 | 2023-11-21 | 富士電機株式会社 | 運転支援装置、運転支援方法及びプログラム |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019040365A (ja) | 2017-08-24 | 2019-03-14 | 富士通株式会社 | 情報処理装置、方法、及びプログラム |
WO2019186996A1 (ja) | 2018-03-30 | 2019-10-03 | 日本電気株式会社 | モデル推定システム、モデル推定方法およびモデル推定プログラム |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3262340B2 (ja) * | 1990-12-14 | 2002-03-04 | 松下電器産業株式会社 | 情報処理装置 |
JP3303032B2 (ja) * | 1992-04-24 | 2002-07-15 | 株式会社日立製作所 | ニューラルネット学習装置 |
-
2019
- 2019-12-25 US US17/783,070 patent/US20230040914A1/en active Pending
- 2019-12-25 WO PCT/JP2019/050881 patent/WO2021130915A1/ja active Application Filing
- 2019-12-25 JP JP2021566647A patent/JP7327512B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019040365A (ja) | 2017-08-24 | 2019-03-14 | 富士通株式会社 | 情報処理装置、方法、及びプログラム |
WO2019186996A1 (ja) | 2018-03-30 | 2019-10-03 | 日本電気株式会社 | モデル推定システム、モデル推定方法およびモデル推定プログラム |
Non-Patent Citations (1)
Title |
---|
藤巻遼平、山口勇太郎、江藤 力,因子化漸近ベイズ推論による区分疎線形判別,人工知能,日本,一般社団法人人工知能学会,2017年01月01日,第32巻,第1号,pp.30-38 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2021130915A1 (ja) | 2021-07-01 |
WO2021130915A1 (ja) | 2021-07-01 |
US20230040914A1 (en) | 2023-02-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ward et al. | Improving exploration in soft-actor-critic with normalizing flows policies | |
Brookes et al. | Design by adaptive sampling | |
Melville et al. | Creating diversity in ensembles using artificial data | |
Taylor et al. | Kernelized value function approximation for reinforcement learning | |
Klissarov et al. | Learnings options end-to-end for continuous action tasks | |
JP7315007B2 (ja) | 学習装置、学習方法および学習プログラム | |
JP2022527536A (ja) | 強化学習を通じた公平性の改善 | |
Biau et al. | Sequential quantile prediction of time series | |
CN112766496B (zh) | 基于强化学习的深度学习模型安全性保障压缩方法与装置 | |
Suresh et al. | A sequential learning algorithm for meta-cognitive neuro-fuzzy inference system for classification problems | |
González et al. | Improving the genetic algorithm of SLAVE | |
US20230252355A1 (en) | Systems and methods for knowledge transfer in machine learning | |
JP7327512B2 (ja) | 学習装置、学習方法および学習プログラム | |
Zintgraf et al. | Variational task embeddings for fast adapta-tion in deep reinforcement learning | |
KR102559605B1 (ko) | 함수 최적화 방법 및 장치 | |
Rigter et al. | World models via policy-guided trajectory diffusion | |
Fink et al. | Hidden markov models | |
Li | Focus of attention in reinforcement learning | |
Valentin et al. | Bayesian optimal experimental design for simulator models of cognition | |
JP7056804B2 (ja) | 経験損失推定システム、経験損失推定方法および経験損失推定プログラム | |
Jin et al. | Stabilizing multi-agent deep reinforcement learning by implicitly estimating other agents’ behaviors | |
Kozat et al. | Universal constant rebalanced portfolios with switching | |
CN113469204A (zh) | 数据处理方法、装置、设备和计算机存储介质 | |
WO2019220653A1 (ja) | 因果関係推定装置、因果関係推定方法および因果関係推定プログラム | |
Karasawa et al. | Hierarchical stochastic optimization with application to parameter tuning for electronically controlled transmissions |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220603 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230324 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230704 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230717 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7327512 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |