JP6483667B2 - ベイズの最適化を実施するためのシステムおよび方法 - Google Patents
ベイズの最適化を実施するためのシステムおよび方法 Download PDFInfo
- Publication number
- JP6483667B2 JP6483667B2 JP2016517028A JP2016517028A JP6483667B2 JP 6483667 B2 JP6483667 B2 JP 6483667B2 JP 2016517028 A JP2016517028 A JP 2016517028A JP 2016517028 A JP2016517028 A JP 2016517028A JP 6483667 B2 JP6483667 B2 JP 6483667B2
- Authority
- JP
- Japan
- Prior art keywords
- objective function
- function
- objective
- point
- probability model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 252
- 238000005457 optimization Methods 0.000 title claims description 124
- 230000006870 function Effects 0.000 claims description 946
- 238000010801 machine learning Methods 0.000 claims description 214
- 238000011156 evaluation Methods 0.000 claims description 195
- 230000008569 process Effects 0.000 claims description 145
- 238000013528 artificial neural network Methods 0.000 claims description 51
- 239000006185 dispersion Substances 0.000 claims 1
- 230000009471 action Effects 0.000 description 45
- 238000013507 mapping Methods 0.000 description 40
- 238000012549 training Methods 0.000 description 31
- 238000005516 engineering process Methods 0.000 description 24
- 230000010354 integration Effects 0.000 description 23
- 238000005070 sampling Methods 0.000 description 23
- 230000000875 corresponding effect Effects 0.000 description 21
- 230000001186 cumulative effect Effects 0.000 description 14
- 238000005315 distribution function Methods 0.000 description 14
- 238000005192 partition Methods 0.000 description 14
- 238000012545 processing Methods 0.000 description 12
- 230000006872 improvement Effects 0.000 description 8
- 238000012706 support-vector machine Methods 0.000 description 8
- 230000003044 adaptive effect Effects 0.000 description 7
- 238000013459 approach Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 6
- 238000002790 cross-validation Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000000737 periodic effect Effects 0.000 description 5
- 238000000342 Monte Carlo simulation Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 230000008030 elimination Effects 0.000 description 4
- 238000003379 elimination reaction Methods 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000011835 investigation Methods 0.000 description 3
- 238000012417 linear regression Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000000137 annealing Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 102000004169 proteins and genes Human genes 0.000 description 2
- 108090000623 proteins and genes Proteins 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 238000005496 tempering Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 241000668842 Lepidosaphes gloverii Species 0.000 description 1
- 238000012614 Monte-Carlo sampling Methods 0.000 description 1
- 108091028043 Nucleic acid sequence Proteins 0.000 description 1
- 241000270295 Serpentes Species 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000005309 stochastic process Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
- G06N5/048—Fuzzy inferencing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Pure & Applied Mathematics (AREA)
- Computational Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- Algebra (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Probability & Statistics with Applications (AREA)
- Databases & Information Systems (AREA)
- Operations Research (AREA)
- Computational Linguistics (AREA)
- Automation & Control Theory (AREA)
- Fuzzy Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
- Complex Calculations (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Stored Programmes (AREA)
Description
本件出願は、35U.S.C.§119(e)の下に、「TECHNIQUES FOR PERFORMING BAYESIAN OPTIMIZATION」と題されて代理人文書番号第H0776.70085US00号の下に2013年5月30日に出願された米国特許仮出願第61/829090号、「TECHNIQUES FOR PERFORMING BAYESIAN OPTIMIZATION」と題されて代理人文書番号第H0776.70086US00号の下に2013年5月31日に出願された米国特許仮出願第61/829604号、および「TECHNIQUES FOR PERFORMING BAYESIAN OPTIMIZATION」と題されて代理人文書番号第H0776.70089US00号の下に2013年12月2日に出願された米国特許仮出願第61/910837号の恩典を請求するものであり、これらの文献のそれぞれは、その全体が参照によってこれに取り込まれる。
本発明は、米国国防高等研究計画局(DARPA)によりYFA N66001−12−1−4219の下に与えられた政府の支援を伴ってなされた。政府は、本発明において然るべき権利を有する。
(θ(j),φ(j))〜p(θ,φ|{g(xn;φ),yn;1≦n≦N}) (21)
関数ct(x)は、ポイントxにおけるt番目のタスクに関連付けされた目的関数を評価するコストを表わす。このコスト関数は、前もって知ることができるか、または、いくつかの態様においては、目的関数の集合内の目的関数の1つまたは2つ以上の評価に(かかる各評価が完了までにどの程度の長さを要するかを示す情報とともに)基づいて見積もることができる。コスト荷重エントロピーサーチ取得関数は、候補ポイントの評価の単位コスト当たりの(ポイントxにおけるt番目の目的関数の評価からの)情報利得を反映できる。
Claims (15)
- それぞれの複数のタスクに関連付けされた複数の目的関数を使用する最適化の実施に関連した用途のためのシステムであって、:
少なくとも1つのコンピュータハードウエアプロセッサ;および
プロセッサ実行可能命令を記憶する少なくとも1つの非一時的コンピュータ可読記憶媒体であって、前記少なくとも1つのコンピュータハードウエアプロセッサによって実行されたとき、少なくとも1つのコンピュータハードウエアプロセッサに、
前記複数の目的関数の同時確率モデルに少なくとも部分的に基づいて、複数の目的関数内の目的関数を評価する第1のポイントを識別すること;
前記同時確率モデルに少なくとも部分的に基づいて、前記複数の目的関数内の識別済み第1のポイントにおいて評価する第1の目的関数を選択すること;
前記識別済み第1のポイントにおいて前記第1の目的関数を評価すること;および
前記評価の結果に基づいて前記同時確率モデルを更新して更新後の同時確率モデルを獲得すること;
を実施させる、プロセッサ実行可能命令を記憶する少なくとも1つの非一時的コンピュータ可読記憶媒体
を含む、前記システム。 - 前記第1の目的関数は、機械学習システムのハイパーパラメータの値を、機械学習システムのパフォーマンスの測度を提供する値と関係させる、請求項1に記載のシステム。
- 前記第1の目的関数は、画像内の対象物を識別するためのニューラルネットワークの複数のハイパーパラメータの値を、画像内の対象物の識別におけるニューラルネットワークのパフォーマンスの測度を提供するそれぞれの値と関係させる、請求項1または2に記載のシステム。
- 前記プロセッサ実行可能命令は、前記少なくとも1つのコンピュータハードウエアプロセッサに、
前記複数の目的関数の前記更新後の同時確率モデルに少なくとも部分的に基づいて、複数の目的関数内の目的関数を評価する第2のポイントを識別すること;
前記同時確率モデルに少なくとも部分的に基づいて、前記複数の目的関数内の、前記識別済み第2のポイントにおいて評価する第2の目的関数を選択すること;および
前記識別済み第2のポイントにおいて前記第2の目的関数を評価すること
をさらに実施させ、
前記第1の目的関数は、前記第2の目的関数とは異なる、
請求項1〜3のいずれか一項に記載のシステム。 - 前記複数の目的関数の前記同時確率モデルは、前記複数のタスク内のタスクの間の相関をモデリングする、請求項1〜4のいずれか一項に記載のシステム。
- 前記複数の目的関数の前記同時確率モデルは、ベクトル値ガウス過程を含む、請求項1〜5のいずれか一項に記載のシステム。
- 前記同時確率モデルは、前記複数のタスク内のタスクの間の相関をモデリングする第1の共分散カーネル、および複数の目的関数内の目的関数を評価できるポイント間の相関をモデリングする第2の共分散カーネルに、少なくとも部分的に基づいて獲得される共分散カーネルを含む、請求項1〜6のいずれか一項に記載のシステム。
- 前記識別することは、さらに、コスト荷重エントロピーサーチユーティリティ関数に基づいて実施される、請求項1〜7のいずれか一項に記載のシステム。
- それぞれの複数のタスクに関連付けされた複数の目的関数を使用する最適化の実施に関連した用途のための方法であって、該方法が以下:
少なくとも1つのコンピュータハードウエアプロセッサを、
前記複数の目的関数の同時確率モデルに少なくとも部分的に基づいて、複数の目的関数内の目的関数を評価する第1のポイントを識別すること;
前記同時確率モデルに少なくとも部分的に基づいて、前記複数の目的関数内の識別済み第1のポイントにおいて評価する第1の目的関数を選択すること;
前記識別済み第1のポイントにおいて前記第1の目的関数を評価すること;および
前記評価の結果に基づいて前記同時確率モデルを更新して更新後の同時確率モデルを獲得すること
を実施するために使用することを含む、前記方法。 - 前記第1の目的関数は、機械学習システムのハイパーパラメータの値を、機械学習システムのパフォーマンスの測度を提供する値と関係させる、請求項9に記載の方法。
- 前記複数の目的関数の前記更新後の同時確率モデルに少なくとも部分的に基づいて、複数の目的関数内の目的関数を評価する第2のポイントを識別すること;
前記同時確率モデルに少なくとも部分的に基づいて、前記複数の目的関数内の、前記識別済み第2のポイントにおいて評価する第2の目的関数を選択すること;および
前記識別済み第2のポイントにおいて前記第2の目的関数を評価すること
をさらに含む、請求項9または10に記載の方法。 - 前記複数の目的関数の前記同時確率モデルは、前記複数のタスク内のタスクの間の相関をモデリングする、請求項9〜11のいずれか一項に記載の方法。
- 前記複数の目的関数の前記同時確率モデルは、ベクトル値ガウス過程を含む、請求項9〜12のいずれか一項に記載の方法。
- 前記同時確率モデルは、前記複数のタスク内のタスクの間の相関をモデリングする第1の共分散カーネル、および複数の目的関数内の目的関数を評価できるポイント間の相関をモデリングする第2の共分散カーネルに、少なくとも部分的に基づいて獲得される共分散カーネルを含む、請求項9〜13のいずれか一項に記載の方法。
- 少なくとも1つのコンピュータハードウエアプロセッサによって実行されたとき、前記少なくとも1つのコンピュータハードウエアプロセッサに、それぞれの複数のタスクに関連付けされた複数の目的関数を使用する最適化の実施に関連した用途のために請求項9〜14のいずれか一項に記載の方法を実施させる、プロセッサ実行可能命令を記憶する少なくとも1つの非一時的コンピュータ可読記憶媒体。
Applications Claiming Priority (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201361829090P | 2013-05-30 | 2013-05-30 | |
US61/829,090 | 2013-05-30 | ||
US201361829604P | 2013-05-31 | 2013-05-31 | |
US61/829,604 | 2013-05-31 | ||
US201361910837P | 2013-12-02 | 2013-12-02 | |
US61/910,837 | 2013-12-02 | ||
PCT/US2014/040141 WO2014194161A2 (en) | 2013-05-30 | 2014-05-30 | Systems and methods for performing bayesian optimization |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016523402A JP2016523402A (ja) | 2016-08-08 |
JP2016523402A5 JP2016523402A5 (ja) | 2017-07-06 |
JP6483667B2 true JP6483667B2 (ja) | 2019-03-13 |
Family
ID=51986294
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016517028A Active JP6483667B2 (ja) | 2013-05-30 | 2014-05-30 | ベイズの最適化を実施するためのシステムおよび方法 |
Country Status (8)
Country | Link |
---|---|
US (5) | US9864953B2 (ja) |
EP (2) | EP3000053A4 (ja) |
JP (1) | JP6483667B2 (ja) |
KR (2) | KR102219346B1 (ja) |
BR (1) | BR112015029806A2 (ja) |
CA (1) | CA2913743C (ja) |
HK (1) | HK1223430A1 (ja) |
WO (1) | WO2014194161A2 (ja) |
Families Citing this family (108)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10146741B2 (en) * | 2013-03-15 | 2018-12-04 | Sas Institute Inc. | Approximate multivariate posterior probability distributions from simulated samples |
KR102219346B1 (ko) | 2013-05-30 | 2021-02-23 | 프레지던트 앤드 펠로우즈 오브 하바드 칼리지 | 베이지안 최적화를 수행하기 위한 시스템 및 방법 |
US10228680B2 (en) * | 2013-07-22 | 2019-03-12 | Texas State University | Autonomous performance optimization in robotic assembly process |
US9390712B2 (en) | 2014-03-24 | 2016-07-12 | Microsoft Technology Licensing, Llc. | Mixed speech recognition |
US10102480B2 (en) * | 2014-06-30 | 2018-10-16 | Amazon Technologies, Inc. | Machine learning service |
US10169715B2 (en) * | 2014-06-30 | 2019-01-01 | Amazon Technologies, Inc. | Feature processing tradeoff management |
US10963810B2 (en) * | 2014-06-30 | 2021-03-30 | Amazon Technologies, Inc. | Efficient duplicate detection for machine learning data sets |
MX2015008690A (es) * | 2014-07-04 | 2016-02-03 | Tata Consultancy Services Ltd | Sistema y procedimiento para análisis prescriptivos. |
US10120962B2 (en) * | 2014-09-02 | 2018-11-06 | International Business Machines Corporation | Posterior estimation of variables in water distribution networks |
US10275719B2 (en) * | 2015-01-29 | 2019-04-30 | Qualcomm Incorporated | Hyper-parameter selection for deep convolutional networks |
WO2016151864A1 (ja) * | 2015-03-26 | 2016-09-29 | 日本電気株式会社 | 最適化処理装置、最適化処理方法、及びコンピュータ読み取り可能な記録媒体 |
CN106156807B (zh) * | 2015-04-02 | 2020-06-02 | 华中科技大学 | 卷积神经网络模型的训练方法及装置 |
US11423311B2 (en) | 2015-06-04 | 2022-08-23 | Samsung Electronics Co., Ltd. | Automatic tuning of artificial neural networks |
US9734436B2 (en) * | 2015-06-05 | 2017-08-15 | At&T Intellectual Property I, L.P. | Hash codes for images |
US10755810B2 (en) | 2015-08-14 | 2020-08-25 | Elucid Bioimaging Inc. | Methods and systems for representing, storing, and accessing computable medical imaging-derived quantities |
US11150921B2 (en) * | 2015-09-01 | 2021-10-19 | International Business Machines Corporation | Data visualizations selection |
CN106570513B (zh) * | 2015-10-13 | 2019-09-13 | 华为技术有限公司 | 大数据网络***的故障诊断方法和装置 |
CH711716A1 (it) * | 2015-10-29 | 2017-05-15 | Supsi | Apprendimento della struttura di reti bayesiane da un insieme di dati completo |
JP6470165B2 (ja) * | 2015-12-15 | 2019-02-13 | 株式会社東芝 | サーバ、システム及び探索方法 |
US20190018933A1 (en) * | 2016-01-15 | 2019-01-17 | Preferred Networks, Inc. | Systems and methods for multimodal generative machine learning |
US11367149B2 (en) * | 2016-01-15 | 2022-06-21 | Carnegie Mellon University | Pattern identification in time-series social media data, and output-dynamics engineering for a dynamic system having one or more multi-scale time-series data sets |
US11062229B1 (en) * | 2016-02-18 | 2021-07-13 | Deepmind Technologies Limited | Training latent variable machine learning models using multi-sample objectives |
CN105590623B (zh) * | 2016-02-24 | 2019-07-30 | 百度在线网络技术(北京)有限公司 | 基于人工智能的字母音素转换模型生成方法及装置 |
US10235443B2 (en) * | 2016-03-01 | 2019-03-19 | Accenture Global Solutions Limited | Parameter set determination for clustering of datasets |
JP6703264B2 (ja) * | 2016-06-22 | 2020-06-03 | 富士通株式会社 | 機械学習管理プログラム、機械学習管理方法および機械学習管理装置 |
US10789538B2 (en) | 2016-06-23 | 2020-09-29 | International Business Machines Corporation | Cognitive machine learning classifier generation |
US10789546B2 (en) | 2016-06-23 | 2020-09-29 | International Business Machines Corporation | Cognitive machine learning classifier generation |
US20190180180A1 (en) * | 2016-06-30 | 2019-06-13 | Nec Corporation | Information processing system, information processing method, and recording medium |
CN109804386A (zh) * | 2016-10-03 | 2019-05-24 | 三菱电机株式会社 | 网络构筑装置和网络构筑方法 |
US10579729B2 (en) | 2016-10-18 | 2020-03-03 | International Business Machines Corporation | Methods and system for fast, adaptive correction of misspells |
US10372814B2 (en) * | 2016-10-18 | 2019-08-06 | International Business Machines Corporation | Methods and system for fast, adaptive correction of misspells |
US20180129977A1 (en) * | 2016-11-09 | 2018-05-10 | Gamalon, Inc. | Machine learning data analysis system and method |
RU2641447C1 (ru) * | 2016-12-27 | 2018-01-17 | Общество с ограниченной ответственностью "ВижнЛабс" | Способ обучения глубоких нейронных сетей на основе распределений попарных мер схожести |
US10740880B2 (en) * | 2017-01-18 | 2020-08-11 | Elucid Bioimaging Inc. | Systems and methods for analyzing pathologies utilizing quantitative imaging |
WO2018146802A1 (en) * | 2017-02-10 | 2018-08-16 | Nec Corporation | Control customization system, control customization method, and control customization program |
US20180239851A1 (en) * | 2017-02-21 | 2018-08-23 | Asml Netherlands B.V. | Apparatus and method for inferring parameters of a model of a measurement structure for a patterning process |
US20180349158A1 (en) * | 2017-03-22 | 2018-12-06 | Kevin Swersky | Bayesian optimization techniques and applications |
RU2672394C1 (ru) * | 2017-07-26 | 2018-11-14 | Общество С Ограниченной Ответственностью "Яндекс" | Способы и системы для оценки обучающих объектов посредством алгоритма машинного обучения |
JP6773618B2 (ja) * | 2017-09-04 | 2020-10-21 | 株式会社東芝 | 学習装置、情報処理装置、学習方法およびプログラム |
RU2020111006A (ru) * | 2017-09-25 | 2021-09-17 | Сони Корпорейшн | Устройство верификации, способ обработки информации и программа |
JP6974712B2 (ja) | 2017-10-24 | 2021-12-01 | 富士通株式会社 | 探索方法、探索装置および探索プログラム |
US10282237B1 (en) | 2017-10-30 | 2019-05-07 | SigOpt, Inc. | Systems and methods for implementing an intelligent application program interface for an intelligent optimization platform |
KR102107378B1 (ko) * | 2017-10-31 | 2020-05-07 | 삼성에스디에스 주식회사 | 하이퍼파라미터 자동 최적화 방법 및 그 장치 |
US11270217B2 (en) | 2017-11-17 | 2022-03-08 | Intel Corporation | Systems and methods implementing an intelligent machine learning tuning system providing multiple tuned hyperparameter solutions |
JP7052325B2 (ja) | 2017-12-04 | 2022-04-12 | 大日本印刷株式会社 | デバイス、セキュアエレメント、プログラム、情報処理システム及び情報処理方法 |
JP2019111604A (ja) * | 2017-12-22 | 2019-07-11 | セイコーエプソン株式会社 | 制御装置、ロボット、およびロボットシステム |
JP6856557B2 (ja) * | 2018-01-22 | 2021-04-07 | 株式会社日立製作所 | 最適化装置及びハイパーパラメータの最適化方法 |
JP7003753B2 (ja) * | 2018-03-14 | 2022-01-21 | 富士通株式会社 | 探索点決定プログラム、探索点決定方法および探索点決定装置 |
WO2019181313A1 (ja) * | 2018-03-23 | 2019-09-26 | 日本電気株式会社 | 組み合わせ探索システム、情報処理装置、方法およびプログラム |
JP7066120B2 (ja) * | 2018-04-27 | 2022-05-13 | 国立研究開発法人物質・材料研究機構 | 狭帯熱放射スペクトルを有する構造体 |
US11630987B2 (en) * | 2018-04-30 | 2023-04-18 | International Business Machines Corporation | Neural belief reasoner |
US10664555B2 (en) * | 2018-06-06 | 2020-05-26 | Sas Institute Inc. | Two-stage distributed estimation system |
WO2019235608A1 (ja) * | 2018-06-07 | 2019-12-12 | 日本電気株式会社 | 分析装置、分析方法および記録媒体 |
KR102173243B1 (ko) * | 2018-06-14 | 2020-11-03 | (주)밸류파인더스 | 회귀 강화학습을 이용한 포트폴리오 자산배분 성능향상 방법 |
CN112154464B (zh) * | 2018-06-19 | 2024-01-02 | 株式会社岛津制作所 | 参数搜索方法、参数搜索装置以及参数搜索用程序 |
KR102063791B1 (ko) * | 2018-07-05 | 2020-01-08 | 국민대학교산학협력단 | 클라우드 기반의 인공지능 연산 서비스 방법 및 장치 |
US11829869B2 (en) * | 2018-07-25 | 2023-11-28 | Servicenow Canada Inc. | Multiple task transfer learning |
US11501157B2 (en) | 2018-07-30 | 2022-11-15 | International Business Machines Corporation | Action shaping from demonstration for fast reinforcement learning |
US11734575B2 (en) | 2018-07-30 | 2023-08-22 | International Business Machines Corporation | Sequential learning of constraints for hierarchical reinforcement learning |
US11537872B2 (en) | 2018-07-30 | 2022-12-27 | International Business Machines Corporation | Imitation learning by action shaping with antagonist reinforcement learning |
CN109242959B (zh) * | 2018-08-29 | 2020-07-21 | 清华大学 | 三维场景重建方法及*** |
GB201814233D0 (en) * | 2018-08-31 | 2018-10-17 | Ge Healthcare Bio Sciences Ab | Method for optimization of a bioprocessing system |
EP3620996A1 (en) * | 2018-09-04 | 2020-03-11 | Siemens Aktiengesellschaft | Transfer learning of a machine-learning model using a hyperparameter response model |
US20210389502A1 (en) * | 2018-10-03 | 2021-12-16 | Nec Corporation | Information processing apparatus, information processing system, information processing method, and non-transitory computer readable medium storing program |
DE102018217966A1 (de) * | 2018-10-19 | 2020-04-23 | Robert Bosch Gmbh | Verfahren zum Steuern oder Regeln eines technischen Systems |
US11620555B2 (en) * | 2018-10-26 | 2023-04-04 | Samsung Electronics Co., Ltd | Method and apparatus for stochastic inference between multiple random variables via common representation |
US11604992B2 (en) * | 2018-11-02 | 2023-03-14 | Microsoft Technology Licensing, Llc | Probabilistic neural network architecture generation |
WO2020094525A1 (en) | 2018-11-09 | 2020-05-14 | Curious Ai Oy | Solution for machine learning system |
WO2020105468A1 (ja) * | 2018-11-22 | 2020-05-28 | 日本電気株式会社 | 情報処理装置、情報処理システム、情報処理方法及びプログラムが格納された非一時的なコンピュータ可読媒体 |
US12039434B2 (en) * | 2018-11-28 | 2024-07-16 | Tata Consultancy Services Limited | System and method for operation optimization of an equipment |
US20200184382A1 (en) * | 2018-12-11 | 2020-06-11 | Deep Learn, Inc. | Combining optimization methods for model search in automated machine learning |
KR102105787B1 (ko) * | 2019-01-28 | 2020-04-29 | 한국과학기술원 | 베이지안 최적화를 이용한 카메라 속성 제어 방법 및 장치 |
JP7124768B2 (ja) * | 2019-03-05 | 2022-08-24 | 日本電信電話株式会社 | パラメータ推定装置、方法、及びプログラム |
US11308314B2 (en) | 2019-03-21 | 2022-04-19 | Toyota Research Institute, Inc. | Systems, devices, and methods for generating a pose estimate of an object |
US11157812B2 (en) | 2019-04-15 | 2021-10-26 | Intel Corporation | Systems and methods for tuning hyperparameters of a model and advanced curtailment of a training of the model |
JP2020181318A (ja) * | 2019-04-24 | 2020-11-05 | 日本電信電話株式会社 | 最適化装置、最適化方法、及びプログラム |
WO2020235104A1 (ja) * | 2019-05-23 | 2020-11-26 | 日本電信電話株式会社 | パラメータ推定装置、パラメータ推定方法、及びパラメータ推定プログラム |
US11657118B2 (en) * | 2019-05-23 | 2023-05-23 | Google Llc | Systems and methods for learning effective loss functions efficiently |
CN110263938B (zh) * | 2019-06-19 | 2021-07-23 | 北京百度网讯科技有限公司 | 用于生成信息的方法和装置 |
US11068748B2 (en) | 2019-07-17 | 2021-07-20 | Harris Geospatial Solutions, Inc. | Image processing system including training model based upon iteratively biased loss function and related methods |
WO2021007812A1 (zh) * | 2019-07-17 | 2021-01-21 | 深圳大学 | 一种深度神经网络超参数优化方法、电子设备及存储介质 |
US10984507B2 (en) | 2019-07-17 | 2021-04-20 | Harris Geospatial Solutions, Inc. | Image processing system including training model based upon iterative blurring of geospatial images and related methods |
US11417087B2 (en) | 2019-07-17 | 2022-08-16 | Harris Geospatial Solutions, Inc. | Image processing system including iteratively biased training model probability distribution function and related methods |
US20210056462A1 (en) * | 2019-08-22 | 2021-02-25 | Michael William Kotarinos | Artificial intelligence and machine learning n a clustering processes to develop a utility model for asset location |
KR20210026623A (ko) * | 2019-08-30 | 2021-03-10 | 삼성전자주식회사 | 인공지능 모델을 학습시키는 시스템 및 방법 |
EP3786857A1 (en) * | 2019-09-02 | 2021-03-03 | Secondmind Limited | Computational implementation of gaussian process models |
US11003825B1 (en) * | 2019-09-26 | 2021-05-11 | Cadence Design Systems, Inc. | System, method, and computer program product for optimization in an electronic design |
CA3153323A1 (en) * | 2019-10-01 | 2021-04-08 | Ohio State Innovation Foundation | Optimizing reservoir computers for hardware implementation |
WO2021066504A1 (ko) * | 2019-10-02 | 2021-04-08 | 한국전자통신연구원 | 심층 신경망 구조 학습 및 경량화 방법 |
US11475239B2 (en) * | 2019-11-21 | 2022-10-18 | Paypal, Inc. | Solution to end-to-end feature engineering automation |
CN111027709B (zh) * | 2019-11-29 | 2021-02-12 | 腾讯科技(深圳)有限公司 | 信息推荐方法、装置、服务器及存储介质 |
US11562203B2 (en) | 2019-12-30 | 2023-01-24 | Servicenow Canada Inc. | Method of and server for training a machine learning algorithm for estimating uncertainty of a sequence of models |
CN115151910A (zh) * | 2020-02-21 | 2022-10-04 | 美商新思科技有限公司 | 针对参数故障的自动测试模式生成(atpg) |
DE102020206916A1 (de) * | 2020-06-03 | 2021-12-09 | Robert Bosch Gesellschaft mit beschränkter Haftung | Steuereinrichtung und Verfahren zum Auswählen von Auswertungspunkten für ein Bayessches Optimierungsverfahren |
CN111783293B (zh) * | 2020-06-24 | 2022-04-19 | 西北工业大学 | 基于自适应重要抽样的复合材料加筋壁板后屈曲可靠性分析方法 |
US11531734B2 (en) | 2020-06-30 | 2022-12-20 | Bank Of America Corporation | Determining optimal machine learning models |
US11308431B2 (en) * | 2020-07-07 | 2022-04-19 | Intuit Inc. | Hierarchical optimization for processing objectives sequentially and/or iteratively |
KR20220046947A (ko) * | 2020-10-08 | 2022-04-15 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
KR102413648B1 (ko) * | 2020-11-09 | 2022-06-27 | 주식회사 케이티 | 대상 건물의 에너지 운용 정책을 결정하는 장치, 방법 및 컴퓨터 프로그램 |
JP7453895B2 (ja) * | 2020-11-11 | 2024-03-21 | 株式会社日立製作所 | 探索条件提示装置、探索条件提示方法、及び探索条件提示プログラム |
US11423571B2 (en) | 2020-11-13 | 2022-08-23 | Ford Global Technologies, Llc | Systems and methods for image-based component detection |
US11775878B2 (en) | 2020-12-22 | 2023-10-03 | Sas Institute Inc. | Automated machine learning test system |
KR102314847B1 (ko) * | 2021-03-30 | 2021-10-19 | 주식회사 솔리드웨어 | 최적모델탐색방법 및 그 장치 |
US11887713B2 (en) | 2021-06-10 | 2024-01-30 | Elucid Bioimaging Inc. | Non-invasive determination of likely response to anti-diabetic therapies for cardiovascular disease |
US11887701B2 (en) | 2021-06-10 | 2024-01-30 | Elucid Bioimaging Inc. | Non-invasive determination of likely response to anti-inflammatory therapies for cardiovascular disease |
US11869186B2 (en) | 2021-06-10 | 2024-01-09 | Elucid Bioimaging Inc. | Non-invasive determination of likely response to combination therapies for cardiovascular disease |
US11887734B2 (en) | 2021-06-10 | 2024-01-30 | Elucid Bioimaging Inc. | Systems and methods for clinical decision support for lipid-lowering therapies for cardiovascular disease |
US20230281310A1 (en) * | 2022-03-01 | 2023-09-07 | Meta Plataforms, Inc. | Systems and methods of uncertainty-aware self-supervised-learning for malware and threat detection |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06149866A (ja) * | 1992-11-09 | 1994-05-31 | Ricoh Co Ltd | 解探索装置 |
US6735596B2 (en) | 2001-06-07 | 2004-05-11 | Guy Charles Corynen | Computer method and user interface for decision analysis and for global system optimization |
US20060200333A1 (en) * | 2003-04-10 | 2006-09-07 | Mukesh Dalal | Optimizing active decision making using simulated decision making |
EP1598751B1 (en) | 2004-01-12 | 2014-06-25 | Honda Research Institute Europe GmbH | Estimation of distribution algorithm (EDA) |
US7509259B2 (en) | 2004-12-21 | 2009-03-24 | Motorola, Inc. | Method of refining statistical pattern recognition models and statistical pattern recognizers |
US8301390B2 (en) | 2007-01-31 | 2012-10-30 | The Board Of Trustees Of The University Of Illinois | Quantum chemistry simulations using optimization methods |
US8315960B2 (en) | 2008-11-11 | 2012-11-20 | Nec Laboratories America, Inc. | Experience transfer for the configuration tuning of large scale computing systems |
AU2010201891B2 (en) * | 2009-05-13 | 2015-02-12 | The University Of Sydney | A method and system for data analysis and synthesis |
US8811726B2 (en) * | 2011-06-02 | 2014-08-19 | Kriegman-Belhumeur Vision Technologies, Llc | Method and system for localizing parts of an object in an image for computer vision applications |
US8924315B2 (en) | 2011-12-13 | 2014-12-30 | Xerox Corporation | Multi-task learning using bayesian model with enforced sparsity and leveraging of task correlations |
KR102219346B1 (ko) | 2013-05-30 | 2021-02-23 | 프레지던트 앤드 펠로우즈 오브 하바드 칼리지 | 베이지안 최적화를 수행하기 위한 시스템 및 방법 |
-
2014
- 2014-05-30 KR KR1020157037173A patent/KR102219346B1/ko active IP Right Grant
- 2014-05-30 US US14/291,212 patent/US9864953B2/en active Active
- 2014-05-30 BR BR112015029806A patent/BR112015029806A2/pt not_active Application Discontinuation
- 2014-05-30 EP EP14804134.6A patent/EP3000053A4/en not_active Ceased
- 2014-05-30 JP JP2016517028A patent/JP6483667B2/ja active Active
- 2014-05-30 CA CA2913743A patent/CA2913743C/en active Active
- 2014-05-30 US US14/291,379 patent/US10074054B2/en active Active
- 2014-05-30 WO PCT/US2014/040141 patent/WO2014194161A2/en active Application Filing
- 2014-05-30 US US14/291,337 patent/US10346757B2/en active Active
- 2014-05-30 KR KR1020217004778A patent/KR20210021147A/ko active Application Filing
- 2014-05-30 US US14/291,255 patent/US9858529B2/en active Active
- 2014-05-30 EP EP22166308.1A patent/EP4047530A1/en not_active Withdrawn
-
2016
- 2016-09-30 HK HK16111477.1A patent/HK1223430A1/zh unknown
-
2018
- 2018-09-04 US US16/121,195 patent/US11501192B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US10346757B2 (en) | 2019-07-09 |
WO2014194161A3 (en) | 2015-01-29 |
CA2913743A1 (en) | 2014-12-04 |
US9864953B2 (en) | 2018-01-09 |
BR112015029806A2 (pt) | 2020-04-28 |
JP2016523402A (ja) | 2016-08-08 |
HK1223430A1 (zh) | 2017-07-28 |
KR20160041856A (ko) | 2016-04-18 |
US10074054B2 (en) | 2018-09-11 |
EP3000053A4 (en) | 2017-10-04 |
US20160292129A1 (en) | 2016-10-06 |
US20160328653A1 (en) | 2016-11-10 |
US9858529B2 (en) | 2018-01-02 |
EP4047530A1 (en) | 2022-08-24 |
US20140358831A1 (en) | 2014-12-04 |
US20200027012A1 (en) | 2020-01-23 |
WO2014194161A2 (en) | 2014-12-04 |
EP3000053A2 (en) | 2016-03-30 |
US20160328655A1 (en) | 2016-11-10 |
KR20210021147A (ko) | 2021-02-24 |
CA2913743C (en) | 2023-01-03 |
KR102219346B1 (ko) | 2021-02-23 |
US11501192B2 (en) | 2022-11-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6483667B2 (ja) | ベイズの最適化を実施するためのシステムおよび方法 | |
US20180349158A1 (en) | Bayesian optimization techniques and applications | |
WO2021007812A1 (zh) | 一种深度神经网络超参数优化方法、电子设备及存储介质 | |
US20180247156A1 (en) | Machine learning systems and methods for document matching | |
Tran et al. | Copula variational inference | |
US11574164B2 (en) | Neural network cooperation | |
CN108229347B (zh) | 用于人识别的拟吉布斯结构采样的深层置换的方法和装置 | |
CN109754078A (zh) | 用于优化神经网络的方法 | |
CN113168559A (zh) | 机器学习模型的自动化生成 | |
US9292801B2 (en) | Sparse variable optimization device, sparse variable optimization method, and sparse variable optimization program | |
CN111160459A (zh) | 超参数的优化装置和方法 | |
CN112529149A (zh) | 一种数据处理方法及相关装置 | |
Zhan et al. | Deep model compression via two-stage deep reinforcement learning | |
CA3143928C (en) | Dynamic image resolution assessment | |
CN113407820B (zh) | 利用模型进行数据处理的方法及相关***、存储介质 | |
EP3888008A1 (en) | Computer architecture for artificial image generation | |
CN110717402B (zh) | 一种基于层级优化度量学习的行人再识别方法 | |
WO2023273934A1 (zh) | 一种模型超参数的选择方法及相关装置 | |
Abbasnejad et al. | Gade: A generative adversarial approach to density estimation and its applications | |
Choe et al. | Deep learning with particle filter for person re-identification | |
Lu | Multivariate slice sampling | |
Gray et al. | Resource-Efficient Feature Gathering at Test Time | |
CN115151917A (zh) | 经由批量归一化统计的域泛化 | |
CN115132280A (zh) | 基于弱先验知识的因果网络局部结构发现*** | |
CN117236375A (zh) | 深度学习模型的获取方法、装置、电子设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170529 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170529 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20170731 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20170731 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180601 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180531 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180831 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190115 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190214 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6483667 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |