JP6902487B2 - 機械学習システム - Google Patents
機械学習システム Download PDFInfo
- Publication number
- JP6902487B2 JP6902487B2 JP2018046510A JP2018046510A JP6902487B2 JP 6902487 B2 JP6902487 B2 JP 6902487B2 JP 2018046510 A JP2018046510 A JP 2018046510A JP 2018046510 A JP2018046510 A JP 2018046510A JP 6902487 B2 JP6902487 B2 JP 6902487B2
- Authority
- JP
- Japan
- Prior art keywords
- evaluation
- reward
- program
- values
- functions
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- User Interface Of Digital Computer (AREA)
Description
図1から7を参照して、第1実施形態を説明する。学習システムは、環境プログラム、actorネットワークプログラム、複数criticネットワークプログラム(複数criticネットワークのプログラム)、そして、学習プログラムを含む。actorネットワークプログラムは、ニューラルネットワーク(単にネットワークとも呼ぶ)を使用し、環境プログラムからの現在状態を入力として受け取り、行動を出力する。
s_t、a_t、はそれぞれ、現時点での状態と行動を示す。rewardは報酬を表し、γは割引率を表す。s_t+1、a_t+1、はそれぞれ、次の時点での状態と行動を示す。
Loss=1/2[reward + γQ(st+1,at+1)−Q(st,at)]2 (2)
第2実施形態を図8及ぶ図9を参照して説明する。第1実施形態において、各criticネットワークでの報酬は、システム設計者によって任意に設定される。例えば、成功と失敗とに対する報酬は、それぞれ、+1と−1(離散値)とすることができる。また、低い又は高いコストに対する報酬は、(100000−コスト)(連続値)とすることができる。
Claims (8)
- 環境の現在の状態に基づき行動を決定する、エージェント部と、
前記現在の状態及び前記行動に基づき前記行動の異なる目的における評価値をそれぞれ生成する複数の評価関数を含む、評価部と、
前記エージェント部を訓練する、学習部と、
前記複数の評価関数それぞれの報酬のスケールを予め設定されている基準に従って調整する報酬調整部と、を含み、
前記評価値は、それぞれ、前記環境からの報酬に基づく値であり、
前記評価部は、より正確な評価値を生成することができるように、前記複数の評価関数のそれぞれを、前記複数の評価関数それぞれが生成した前記評価値と前記評価値それぞれの目標値との差に基づき、更新し、
前記学習部は、前記エージェント部がより適切な行動を決定することができるように、前記複数の評価関数それぞれの更新による勾配を順次選択し、前記勾配に基づき前記エージェント部を順次更新する、機械学習システム。 - 請求項1に記載の機械学習システムであって、
前記エージェント部は、連続的な値で示される行動を決定する、機械学習システム。 - 請求項1に記載の機械学習システムであって、
前記報酬調整部は、より高い優先度の評価関数の報酬のスケールが、より低い優先度の評価関数の報酬のスケールより大きくなるように、前記複数の評価関数それぞれの報酬をスケーリングする、機械学習システム。 - 請求項1に記載の機械学習システムであって、
前記報酬調整部は、前記複数の評価関数それぞれの報酬のスケールを共通のスケールに変換する、機械学習システム。 - メモリと、前記メモリに格納されているプログラムに従って動作するプロセッサと、を含む計算機システムにおいて、機械学習システムの訓練を行う方法であって、
前記機械学習システムは、
環境の現在の状態に基づき行動を決定する、エージェントプログラムと、
前記現在の状態及び前記行動に基づき前記行動の異なる目的における評価値をそれぞれ生成する複数の評価関数を含む、評価プログラムと、
を含み、
前記方法は、前記プロセッサが、
前記評価プログラムがより正確な評価値を生成することができるように、前記複数の評価関数のそれぞれを、前記複数の評価関数それぞれが生成した前記評価値と前記評価値それぞれの目標値との差に基づき、更新し、
前記エージェントプログラムがより適切な行動を決定することができるように、前記複数の評価関数それぞれの更新による勾配を順次選択し、前記勾配に基づき前記エージェントプログラムを順次更新する、
ことを含み、
前記評価値は、それぞれ、前記環境からの報酬に基づく値であり、
前記方法は、前記プロセッサが、前記複数の評価関数それぞれの報酬のスケールを予め設定されている基準に従って調整することをさらに含む、方法。 - メモリと、前記メモリに格納されているプログラムに従って動作するプロセッサと、を含む計算機システムにおいて、機械学習システムの訓練を行う方法であって、
前記機械学習システムは、
環境の現在の状態に基づき行動を決定する、エージェントプログラムと、
前記現在の状態及び前記行動に基づき前記行動の異なる目的における評価値をそれぞれ生成する複数の評価関数を含む、評価プログラムと、
を含み、
前記方法は、前記プロセッサが、
前記評価プログラムがより正確な評価値を生成することができるように、前記複数の評価関数のそれぞれを、前記複数の評価関数それぞれが生成した前記評価値と前記評価値それぞれの目標値との差に基づき、更新し、
前記エージェントプログラムがより適切な行動を決定することができるように、前記複数の評価関数それぞれの更新による勾配を順次選択し、前記勾配に基づき前記エージェントプログラムを順次更新する、
ことを含み、
前記評価値は、それぞれ、前記環境からの報酬に基づく値であり、
前記方法は、前記プロセッサが、より高い優先度の評価関数の報酬のスケールが、より低い優先度の評価関数の報酬のスケールより大きくなるように、前記複数の評価関数それぞれの報酬をスケーリングすることをさらに含む、方法。 - メモリと、前記メモリに格納されているプログラムに従って動作するプロセッサと、を含む計算機システムにおいて、機械学習システムの訓練を行う方法であって、
前記機械学習システムは、
環境の現在の状態に基づき行動を決定する、エージェントプログラムと、
前記現在の状態及び前記行動に基づき前記行動の異なる目的における評価値をそれぞれ生成する複数の評価関数を含む、評価プログラムと、
を含み、
前記方法は、前記プロセッサが、
前記評価プログラムがより正確な評価値を生成することができるように、前記複数の評価関数のそれぞれを、前記複数の評価関数それぞれが生成した前記評価値と前記評価値それぞれの目標値との差に基づき、更新し、
前記エージェントプログラムがより適切な行動を決定することができるように、前記複数の評価関数それぞれの更新による勾配を順次選択し、前記勾配に基づき前記エージェントプログラムを順次更新する、
ことを含み、
前記評価値は、それぞれ、前記環境からの報酬に基づく値であり、
前記方法は、前記プロセッサが、前記複数の評価関数それぞれの報酬のスケールを共通のスケールに変換することをさらに含む、方法。 - 請求項5、6又は7に記載の方法であって、
前記エージェントプログラムは、連続的な値で示される行動を決定する、方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018046510A JP6902487B2 (ja) | 2018-03-14 | 2018-03-14 | 機械学習システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018046510A JP6902487B2 (ja) | 2018-03-14 | 2018-03-14 | 機械学習システム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019159888A JP2019159888A (ja) | 2019-09-19 |
JP2019159888A5 JP2019159888A5 (ja) | 2020-04-09 |
JP6902487B2 true JP6902487B2 (ja) | 2021-07-14 |
Family
ID=67996270
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018046510A Active JP6902487B2 (ja) | 2018-03-14 | 2018-03-14 | 機械学習システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6902487B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110328668B (zh) * | 2019-07-27 | 2022-03-22 | 南京理工大学 | 基于速度平滑确定性策略梯度的机械臂路径规划方法 |
JP7436688B2 (ja) * | 2020-02-07 | 2024-02-22 | ディープマインド テクノロジーズ リミテッド | 目的別行動価値関数を使用する多目的強化学習 |
CN112853560B (zh) * | 2020-12-31 | 2021-11-23 | 盐城师范学院 | 一种基于环锭纺纱线质量的全局工序共享控制***及方法 |
CN112953844B (zh) * | 2021-03-02 | 2023-04-28 | 中国农业银行股份有限公司 | 一种网络流量优化方法及装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3086206B2 (ja) * | 1998-07-17 | 2000-09-11 | 科学技術振興事業団 | エージェント学習装置 |
JP5330138B2 (ja) * | 2008-11-04 | 2013-10-30 | 本田技研工業株式会社 | 強化学習システム |
-
2018
- 2018-03-14 JP JP2018046510A patent/JP6902487B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019159888A (ja) | 2019-09-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6902487B2 (ja) | 機械学習システム | |
Yamagata et al. | Q-learning decision transformer: Leveraging dynamic programming for conditional sequence modelling in offline rl | |
JP2022505434A (ja) | 生産スケジューリングのための深層強化学習 | |
Jeerige et al. | Comparison of deep reinforcement learning approaches for intelligent game playing | |
CA3131688A1 (en) | Process and system including an optimization engine with evolutionary surrogate-assisted prescriptions | |
CN102334101B (zh) | 执行顺序决定装置 | |
KR102660544B1 (ko) | 제어 장치, 컨트롤러, 제어 시스템, 제어 방법, 및 제어 프로그램 | |
JP2018142199A (ja) | 学習システムおよび学習方法 | |
CN111389006B (zh) | 一种动作预测方法及装置 | |
JP7152938B2 (ja) | 機械学習モデル構築装置および機械学習モデル構築方法 | |
CN115659054B (zh) | 基于强化学习的游戏关卡推荐方法和装置 | |
CN113822441B (zh) | 决策模型训练方法、装置、终端设备及存储介质 | |
CN111025899A (zh) | 一种非线性动态质量***预测方法 | |
JP7060130B1 (ja) | 運用支援装置、運用支援方法及びプログラム | |
JPWO2020121494A1 (ja) | 演算装置、アクション決定方法、及び制御プログラム | |
US20210279575A1 (en) | Information processing apparatus, information processing method, and storage medium | |
EP3682301B1 (en) | Randomized reinforcement learning for control of complex systems | |
Marchesano et al. | Deep Reinforcement Learning Approach for Maintenance Planning in a Flow-Shop Scheduling Problem | |
JP6858724B2 (ja) | 機械学習システム | |
JP7505328B2 (ja) | 運転支援装置、運転支援方法及びプログラム | |
JP7322520B2 (ja) | 保全時期演算装置、及び、保全時期演算プログラム | |
WO2023026342A1 (ja) | 動作規則決定装置、動作規則決定方法および記録媒体 | |
WO2021124397A1 (ja) | ジョブ予測プログラム、システム、及び方法 | |
CN117056020A (zh) | 容器伸缩方法、***、电子设备及存储介质 | |
Liu et al. | An Efficient Node Selection Policy for Monte Carlo Tree Search with Neural Networks |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200221 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200221 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210127 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210209 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210409 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210525 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210621 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6902487 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |