JP6743902B2 - マルチタスク関係学習システム、方法およびプログラム - Google Patents
マルチタスク関係学習システム、方法およびプログラム Download PDFInfo
- Publication number
- JP6743902B2 JP6743902B2 JP2018549659A JP2018549659A JP6743902B2 JP 6743902 B2 JP6743902 B2 JP 6743902B2 JP 2018549659 A JP2018549659 A JP 2018549659A JP 2018549659 A JP2018549659 A JP 2018549659A JP 6743902 B2 JP6743902 B2 JP 6743902B2
- Authority
- JP
- Japan
- Prior art keywords
- learning
- prediction
- prediction models
- task
- sum
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 39
- 230000006870 function Effects 0.000 claims description 20
- 238000005457 optimization Methods 0.000 description 18
- 239000011159 matrix material Substances 0.000 description 16
- 238000004364 calculation method Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 230000009471 action Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000015654 memory Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 238000012887 quadratic function Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2132—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on discrimination criteria, e.g. discriminant analysis
- G06F18/21322—Rendering the within-class scatter matrix non-singular
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2148—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/245—Classification techniques relating to the decision surface
- G06F18/2451—Classification techniques relating to the decision surface linear, e.g. hyperplane
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N99/00—Subject matter not provided for in other groups of this subclass
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2132—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on discrimination criteria, e.g. discriminant analysis
- G06F18/21322—Rendering the within-class scatter matrix non-singular
- G06F18/21326—Rendering the within-class scatter matrix non-singular involving optimisations, e.g. using regularisation techniques
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Computing Systems (AREA)
- Medical Informatics (AREA)
- Computational Linguistics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Machine Translation (AREA)
Description
20 学習器
30 予測器
100 マルチタスク関係学習システム
Claims (9)
- 複数の予測モデルを同時に推定するマルチタスク関係学習システムであって、
データとの整合を示す誤差の総和と、各予測モデル間の差に関するスパース性を誘導する正則化項とを含む関数が最小になるように当該各予測モデルを最適化することにより、当該各予測モデルを推定する学習器を備えた
ことを特徴とするマルチタスク関係学習システム。 - 正則化項は、各予測モデル間の差のノルムの総和で算出される
請求項1記載のマルチタスク関係学習システム。 - 正則化項は、想定される予測モデル間の類似性に応じた重み値をノルムに乗じた総和で算出される
請求項1または請求項2記載のマルチタスク関係学習システム。 - 正則化項のノルムは、L1ノルムまたはL2ノルムである
請求項1から請求項3のうちのいずれか1項に記載のマルチタスク関係学習システム。 - 学習器は、劣勾配法を用いて各予測モデルを最適化する
請求項1から請求項4のうちのいずれか1項に記載のマルチタスク関係学習システム。 - 複数の予測モデルを同時に推定するマルチタスク関係学習方法であって、
データとの整合を示す誤差の総和と、各予測モデル間の差に関するスパース性を誘導する正則化項とを含む関数が最小になるように当該各予測モデルを最適化することにより、当該各予測モデルを推定する
ことを特徴とするマルチタスク関係学習方法。 - 正則化項は、各予測モデル間の差のノルムの総和で算出される
請求項6記載のマルチタスク関係学習方法。 - 複数の予測モデルを同時に推定するコンピュータに適用されるマルチタスク関係学習プログラムであって、
前記コンピュータに、
データとの整合を示す誤差の総和と、各予測モデル間の差に関するスパース性を誘導する正則化項とを含む関数が最小になるように当該各予測モデルを最適化することにより、当該各予測モデルを推定する学習処理
を実行させるためのマルチタスク関係学習プログラム。 - 正則化項は、各予測モデル間の差のノルムの総和で算出される
請求項8記載のマルチタスク関係学習プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2016/083112 WO2018087814A1 (ja) | 2016-11-08 | 2016-11-08 | マルチタスク関係学習システム、方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018087814A1 JPWO2018087814A1 (ja) | 2019-08-08 |
JP6743902B2 true JP6743902B2 (ja) | 2020-08-19 |
Family
ID=62110560
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018549659A Active JP6743902B2 (ja) | 2016-11-08 | 2016-11-08 | マルチタスク関係学習システム、方法およびプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20190279037A1 (ja) |
JP (1) | JP6743902B2 (ja) |
WO (1) | WO2018087814A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220335298A1 (en) * | 2019-10-01 | 2022-10-20 | Nec Corporation | Robust learning device, robust learning method, program, and storage device |
JP7135025B2 (ja) * | 2020-04-20 | 2022-09-12 | 株式会社東芝 | 情報処理装置、情報処理方法およびプログラム |
CN112801708B (zh) * | 2021-02-05 | 2024-01-16 | 通联数据股份公司 | 一种营业收入预测模型确定方法及装置、预测方法及装置 |
-
2016
- 2016-11-08 JP JP2018549659A patent/JP6743902B2/ja active Active
- 2016-11-08 WO PCT/JP2016/083112 patent/WO2018087814A1/ja active Application Filing
- 2016-11-08 US US16/346,579 patent/US20190279037A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
JPWO2018087814A1 (ja) | 2019-08-08 |
WO2018087814A1 (ja) | 2018-05-17 |
US20190279037A1 (en) | 2019-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10318874B1 (en) | Selecting forecasting models for time series using state space representations | |
CN109120462B (zh) | 机会网络链路的预测方法、装置及可读存储介质 | |
KR102107378B1 (ko) | 하이퍼파라미터 자동 최적화 방법 및 그 장치 | |
US20190332731A1 (en) | Method and system for quantum computing | |
CN113168559A (zh) | 机器学习模型的自动化生成 | |
AU2018201944A1 (en) | Quantum optimization system | |
JP6743902B2 (ja) | マルチタスク関係学習システム、方法およびプログラム | |
KR102142943B1 (ko) | 클라우드 기반의 인공지능 연산 서비스 방법 및 이를 수행하는 장치 | |
JP6669075B2 (ja) | 領域線形モデル最適化システム、方法およびプログラム | |
US20230051237A1 (en) | Determining material properties based on machine learning models | |
KR102452206B1 (ko) | 빅데이터 분석을 위한 인공지능 기반의 클라우드 최적화 장치 및 방법 | |
WO2020218246A1 (ja) | 最適化装置、最適化方法、及びプログラム | |
JP6205526B2 (ja) | 計算機及びニューラルネットワークを用いた演算方法 | |
JP6536157B2 (ja) | モデル推定システム、モデル推定方法およびモデル推定プログラム | |
KR102559605B1 (ko) | 함수 최적화 방법 및 장치 | |
JP7306432B2 (ja) | 情報処理方法、情報処理装置及びプログラム | |
JPWO2018168695A1 (ja) | 分散機械学習装置、分散機械学習方法および分散機械学習プログラム | |
Egele et al. | Asynchronous distributed bayesian optimization at hpc scale | |
US20210303536A1 (en) | Methods and systems for graph approximation | |
JP7438544B2 (ja) | ニューラルネットワーク処理装置、コンピュータプログラム、ニューラルネットワーク製造方法、ニューラルネットワークデータの製造方法、ニューラルネットワーク利用装置、及びニューラルネットワーク小規模化方法 | |
JP6114679B2 (ja) | 制御方策決定装置、制御方策決定方法、制御方策決定プログラム、及び制御システム | |
Fiosina et al. | Distributed nonparametric and semiparametric regression on SPARK for big data forecasting | |
Wu et al. | Deep deterministic policy gradient with clustered prioritized sampling | |
JP2020030702A (ja) | 学習装置、学習方法及び学習プログラム | |
WO2024157481A1 (ja) | メタ学習方法、メタ学習装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190409 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200421 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200630 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200713 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6743902 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |