JP7461763B2 - 分散機械学習装置、分散機械学習方法、分散機械学習プログラム及びデータ処理システム - Google Patents
分散機械学習装置、分散機械学習方法、分散機械学習プログラム及びデータ処理システム Download PDFInfo
- Publication number
- JP7461763B2 JP7461763B2 JP2020047232A JP2020047232A JP7461763B2 JP 7461763 B2 JP7461763 B2 JP 7461763B2 JP 2020047232 A JP2020047232 A JP 2020047232A JP 2020047232 A JP2020047232 A JP 2020047232A JP 7461763 B2 JP7461763 B2 JP 7461763B2
- Authority
- JP
- Japan
- Prior art keywords
- terminal
- model
- machine learning
- models
- common
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010801 machine learning Methods 0.000 title claims description 50
- 238000012545 processing Methods 0.000 title claims description 23
- 238000000034 method Methods 0.000 claims description 58
- 230000008569 process Effects 0.000 claims description 53
- 230000000694 effects Effects 0.000 claims description 30
- 238000012935 Averaging Methods 0.000 claims description 21
- 238000004364 calculation method Methods 0.000 claims description 15
- 230000006870 function Effects 0.000 claims description 5
- 238000001514 detection method Methods 0.000 description 44
- 230000008859 change Effects 0.000 description 38
- 238000004891 communication Methods 0.000 description 21
- 238000000605 extraction Methods 0.000 description 9
- 238000003860 storage Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 210000002569 neuron Anatomy 0.000 description 5
- 238000005070 sampling Methods 0.000 description 5
- 238000012549 training Methods 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000010187 selection method Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 206010000117 Abnormal behaviour Diseases 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
Description
wij:端末jの端末モデル12aのモデルパラメータのi番目
M:共通モデル22bの学習に用いられる端末モデル12aの数
nj:端末jの端末モデル12aの学習に用いられた学習データの数
N:端末モデル12aの学習に用いられた学習データの数の平均値
Rj:端末jの端末モデル12aに対する重み値
Slk:類似度DB22dに記録されている端末lと端末jの端末モデル12aの類似度
Claims (8)
- 入力データに対して所定のデータ処理タスクを行うための学習モデルである共通モデルを備えた複数の端末装置と通信し、前記端末装置において前記共通モデルに対して学習データを用いて機械学習させることによって生成された端末モデルを受信し、受信した複数の前記端末モデルを平均化処理して前記共通モデルを生成し、前記端末装置に送信する分散機械学習装置であって、
受信した前記端末モデル間における類似度を求める類似度算出手段と、
前記類似度に基づいて類似する前記端末モデルの数である類似端末モデル数が多い前記端末モデルほど前記共通モデルに反映され難くなるよう前記平均化処理を実行するモデル生成手段と、
を備える分散機械学習装置。 - 前記モデル生成手段は、全ての前記端末モデルの中から前記類似端末モデル数の多い前記端末モデルほど選択され難くいよう前記端末モデルを選択し、該選択された前記端末モデルを用いて前記平均化処理を実行する請求項1に記載の分散機械学習装置。
- 前記モデル生成手段は、前記類似端末モデル数の少ない前記端末モデルほど前記平均化処理において前記共通モデルに反映され易くなるように重み値を設定し、前記端末モデル毎との前記重み値及び当該端末モデルを用いて前記平均化処理を実行する請求項1又は2に記載の分散機械学習装置。
- 前記モデル生成手段は、前記機械学習するのに利用された学習データ数が大きいほど、前記平均化処理において前記共通モデルに反映され易くなるように前記重み値を設定する請求項3に記載の分散機械学習装置。
- 前記学習データは、前記端末装置が対象とするユーザの活動を示す活動データであり、
前記共通モデルは、前記活動データの特徴を示す特徴ベクトルを出力する機械学習モデルであることを特徴とする請求項1~4のいずれか1項に記載の分散機械学習装置。 - 入力データに対して所定のデータ処理タスクを行うための学習モデルである共通モデルを備えた複数の端末装置と、複数の前記端末装置と通信して当該端末装置の前記共通モデルを生成する分散機械学習装置と、からなるデータ処理システムであって、
前記複数の端末装置の各々は、前記共通モデルに対して所定の学習データを機械学習することによって端末モデルを生成して前記分散機械学習装置に送信し、
前記分散機械学習装置は、
前記端末装置から受信した前記端末モデル間における類似度を求める類似度算出手段と、
前記類似度に基づいて類似する前記端末モデルの数である類似端末モデル数が多い前記端末モデルほど前記共通モデルに反映され難くなるよう平均化処理を行うことで前記共通モデルを生成するモデル生成手段と、
を備えることを特徴とするデータ処理システム。 - 入力データに対して所定のデータ処理タスクを行うための学習モデルである共通モデルを備えた複数の端末装置と通信し、前記端末装置において前記共通モデルに対して学習データを用いて機械学習させることによって生成された端末モデルを受信し、受信した複数の前記端末モデルを平均化処理して前記共通モデルを生成し、前記端末装置に送信する分散機械学習方法であって、
受信した前記端末モデル間における類似度を求める類似度算出ステップと、
前記類似度に基づいて類似する前記端末モデルの数である類似端末モデル数が多い前記端末モデルほど前記共通モデルに反映され難くなるよう前記平均化処理を実行するモデル生成ステップと、
を備える分散機械学習方法。 - コンピュータを、入力データに対して所定のデータ処理タスクを行うための学習モデルである共通モデルを備えた複数の端末装置と通信し、前記端末装置において前記共通モデルに対して学習データを用いて機械学習させることによって生成された端末モデルを受信し、受信した複数の前記端末モデルを平均化処理して前記共通モデルを生成し、前記端末装置に送信する分散機械学習装置として機能させる分散機械学習プログラムであって、
前記コンピュータを、
受信した前記端末モデル間における類似度を求める類似度算出手段と、
前記類似度に基づいて類似する前記端末モデルの数である類似端末モデル数が多い前記端末モデルほど前記共通モデルに反映され難くなるよう前記平均化処理を実行するモデル生成手段と、
として機能させる分散機械学習プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020047232A JP7461763B2 (ja) | 2020-03-18 | 2020-03-18 | 分散機械学習装置、分散機械学習方法、分散機械学習プログラム及びデータ処理システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020047232A JP7461763B2 (ja) | 2020-03-18 | 2020-03-18 | 分散機械学習装置、分散機械学習方法、分散機械学習プログラム及びデータ処理システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021149370A JP2021149370A (ja) | 2021-09-27 |
JP7461763B2 true JP7461763B2 (ja) | 2024-04-04 |
Family
ID=77848848
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020047232A Active JP7461763B2 (ja) | 2020-03-18 | 2020-03-18 | 分散機械学習装置、分散機械学習方法、分散機械学習プログラム及びデータ処理システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7461763B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2023177487A (ja) * | 2022-06-02 | 2023-12-14 | 株式会社日立製作所 | 連合学習システム、連合学習方法および連合学習プログラム |
WO2024069957A1 (ja) * | 2022-09-30 | 2024-04-04 | 日本電気株式会社 | 学習装置、学習システム、学習方法、およびコンピュータ可読媒体 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6573269B1 (ja) | 2019-03-22 | 2019-09-11 | livepass株式会社 | カスタマイズされたコンテンツ配信のためのサーバ装置、プログラム |
JP2019526851A (ja) | 2016-07-18 | 2019-09-19 | ナント ホールディングス アイピー エルエルシーNant Holdings IP, LLC | 分散型機械学習システム、装置、および方法 |
JP2020038699A (ja) | 2017-12-26 | 2020-03-12 | 株式会社エイシング | 汎用学習済モデルの生成方法 |
-
2020
- 2020-03-18 JP JP2020047232A patent/JP7461763B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019526851A (ja) | 2016-07-18 | 2019-09-19 | ナント ホールディングス アイピー エルエルシーNant Holdings IP, LLC | 分散型機械学習システム、装置、および方法 |
JP2020038699A (ja) | 2017-12-26 | 2020-03-12 | 株式会社エイシング | 汎用学習済モデルの生成方法 |
JP6573269B1 (ja) | 2019-03-22 | 2019-09-11 | livepass株式会社 | カスタマイズされたコンテンツ配信のためのサーバ装置、プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2021149370A (ja) | 2021-09-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Fong et al. | Finding an accurate early forecasting model from small dataset: A case of 2019-ncov novel coronavirus outbreak | |
Jiang et al. | Ensemble Prediction Algorithm of Anomaly Monitoring Based on Big Data Analysis Platform of Open‐Pit Mine Slope | |
US20200401939A1 (en) | Systems and methods for preparing data for use by machine learning algorithms | |
Darban et al. | Deep learning for time series anomaly detection: A survey | |
JP7461763B2 (ja) | 分散機械学習装置、分散機械学習方法、分散機械学習プログラム及びデータ処理システム | |
Mohanty et al. | Web-services classification using intelligent techniques | |
Yu et al. | Meta-ADD: A meta-learning based pre-trained model for concept drift active detection | |
CA3184439A1 (en) | Neural network architecture for transaction data processing | |
Wang et al. | Online reliability time series prediction via convolutional neural network and long short term memory for service-oriented systems | |
KR20190101327A (ko) | 구독 제품 가격 산정 방법 및 가격 산정 장치 | |
Elwell et al. | Incremental learning in nonstationary environments with controlled forgetting | |
Gao | Network intrusion detection method combining CNN and BiLSTM in cloud computing environment | |
Amayri et al. | Estimating occupancy using interactive learning with a sensor environment: Real-time experiments | |
JP7409080B2 (ja) | 学習データ生成方法、学習データ生成プログラムおよび情報処理装置 | |
JP2020080021A (ja) | 学習プログラム、学習方法および学習装置 | |
Fong et al. | Gesture recognition from data streams of human motion sensor using accelerated PSO swarm search feature selection algorithm | |
Inacio et al. | Fault diagnosis with evolving fuzzy classifier based on clustering algorithm and drift detection | |
CN114037182A (zh) | 建筑物负荷预测模型训练方法、装置及非易失性存储介质 | |
US20230169336A1 (en) | Device and method with state transition linearization | |
CN115700850A (zh) | 一种基于无监督神经网络lbri的动作识别方法及*** | |
US11966927B2 (en) | Multi-task deep learning of customer demand | |
Zander | Predicting taxi passenger demand using artificial neural networks | |
CN117763492B (zh) | 基于时序空间特征和偏好波动的网络安全工具智能推荐方法及装置 | |
Wang et al. | Quantum particle swarm optimization based network intrusion feature selection and detection | |
CN113032625B (zh) | 一种视频分享方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20200409 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230228 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240229 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240319 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240325 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7461763 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |