JP6687894B2 - クラス推定装置及びプログラム - Google Patents
クラス推定装置及びプログラム Download PDFInfo
- Publication number
- JP6687894B2 JP6687894B2 JP2016101232A JP2016101232A JP6687894B2 JP 6687894 B2 JP6687894 B2 JP 6687894B2 JP 2016101232 A JP2016101232 A JP 2016101232A JP 2016101232 A JP2016101232 A JP 2016101232A JP 6687894 B2 JP6687894 B2 JP 6687894B2
- Authority
- JP
- Japan
- Prior art keywords
- class
- data
- feature amount
- probability table
- tree structure
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012937 correction Methods 0.000 claims description 22
- 238000000034 method Methods 0.000 description 10
- 238000007796 conventional method Methods 0.000 description 7
- 238000007637 random forest analysis Methods 0.000 description 7
- 238000013500 data storage Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000012549 training Methods 0.000 description 5
- 238000003066 decision tree Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000008929 regeneration Effects 0.000 description 3
- 238000011069 regeneration method Methods 0.000 description 3
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/285—Selection of pattern recognition techniques, e.g. of classifiers in a multi-classifier system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/24323—Tree-organised classifiers
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
請求項1に係る本発明は、データの特徴量の入力を受け付けるデータ受付手段と、
木構造を持つ識別器の入力を受け付ける識別器受付手段と、
前記木構造の葉ノードに確率テーブルと特徴量テーブルを保存するテーブル保存手段と、
前記確率テーブルを補正する確率テーブル補正手段と、
データのクラスを推定するクラス推定手段と、
を具えたクラス推定装置である。
請求項6に係る本発明は、データの特徴量の入力を受け付けるデータ受付ステップと、
木構造を持つ識別器の入力を受け付ける識別器受付ステップと、
前記木構造の葉ノードに確率テーブルと特徴量テーブルを保存するテーブル保存ステップと、
前記確率テーブルを補正する確率テーブル補正ステップと、
データのクラスを推定するクラス推定ステップと、
をコンピュータに実行させるためのプログラムである。
[事前学習データ保存ステップ]
事前学習データ保存ステップS1では、予め作成された木構造識別器が識別器受付部に、その木構造識別器を作成した際の学習データ及び各データの属するクラスがデータ受付部に、それぞれ入力され、事前学習データとして保存される。
再作成用データ保存ステップS2では、事前学習データ保存ステップにおいてに保存された事前学習データと、追加・変更を行う学習データと各データの属するクラスがデータ受付部に入力され、再作成用データが保存される。
識別器がRandomForestの場合等は、再作成用学習データは、ランダムサンプリングを行っても良く、予め作成された木構造識別器が複数個ある場合は、同数個までの再作成に使用する学習データと更新用識別器を作成することができる。
識別器再作成ステップS3では、再作成用データが入力された後、再作成用学習データと各データの属するクラスを用いて更新用識別器の葉ノードが更新され、テーブル保存部によって葉ノードに確率テーブルと特徴量テーブルが保存されることによって、葉ノードに確率テーブルと特徴量テーブルを持つ更新後の木構造識別器が再作成される。
所属葉ノードデータ取得ステップS4では、クラス推定を行う対象である属するクラスが未知のデータと、更新後の木構造識別器が入力され、属するクラスが未知のデータの所属する葉ノードが探索され、その葉ノードへ至るまでに通る内部ノードとその分岐条件、及び、その葉ノードの確率テーブルと特徴量テーブルが、葉ノードデータとして取得される。なお、本実施形態に係るスコア推定装置においては、更に葉ノードの重要度を保存するための、重要度保存部を具えていても良く、その場合、必要に応じて、葉ノードデータに重要度を含めることができる。
確率テーブル補正ステップS5では、確率テーブル補正部において、属するクラスが未知のデータと、所属葉ノードデータと、再作成用データが入力され、属するクラスが未知のデータと葉ノードへ至るまでの内部ノードと分岐条件と特徴量テーブルを用いて、確率テーブルが補正される。
推定スコア算出ステップS6では、クラスが未知のデータと補正した確率テーブルと再作成用学習データが入力され、各クラスの事後確率を基に各クラスの推定スコアを算出する。
推定結果出力ステップS7では、クラス推定部において、属するクラスが未知のデータと各クラスの推定スコアが入力され、クラスが未知のデータのクラスが推定結果として出力される。クラス推定については、例えば、推定スコアが最も高いクラスを推定結果としても良いし、推定スコアが予め設定した閾値以上のクラスを推定結果としても良く、全てが閾値以下ならば、該当クラスなしという結果を出力しても良い。
木構造識別器は図4に示されるものであり、根ノードからスタートし、根ノードの分岐では、特徴次元の2次元目が、0.7(すなわち、閾値である0.6よりも大きい)であるため、右の子ノードへ辿ることになる。次の分岐では、特徴次元の5次元目が0.3(>0.2)であるため、右の子ノード、というルートを通り、特徴次元の1次元目が0.5(>0.4)であるため、最終的に、{(クラス3,6)}という確率テーブルを持つ葉ノード6に属する、と判断される。
木構造識別器は図5に示されるものであり、根ノードからスタートし、特徴次元の2次元目が0.7(>0.6)であるため、右の子ノードを辿り、特徴次元の5次元目が0.3(>0.2)であるため、まず、葉ノード4に属すると判断される。
[識別器の再作成に要する時間の比較]
識別器の再作成に要する時間及び推定精度について、従来手法との比較による評価を行った。画像認識のベンチマークで多く用いられるVOC2007を用いて、10個のクラスのデータ(学習用画像:5011枚)と、そのデータから作成されたRandomForestsに対し、10クラスの追加(評価用画像:4952枚)による、識別器再作成に要する時間を計測すると共に、推定精度の評価のため、得られた識別器を用いた場合のMAP(Mean Average Precision)値(各再現率レベル(0.1−1.0を0.1刻み)での適合率の平均の全クラスでの平均の値)を算出した。
S2…画再作成用データ保存ステップ
S3…識別器再作成ステップ
S4…所属葉ノードデータ取得ステップ
S5…確率テーブル補正ステップ
S6…推定スコア算出ステップ
S7…推定結果出力ステップ
Claims (6)
- データの特徴量の入力を受け付けるデータ受付手段と、
木構造を持つ識別器の入力を受け付ける識別器受付手段と、
前記木構造の葉ノードに確率テーブル及び特徴量テーブルを保存するテーブル保存手段と、
前記確率テーブルを補正する確率テーブル補正手段と、
データのクラスを推定するクラス推定手段と、
を具えたクラス推定装置。 - 前記補正手段が、前記特徴量テーブルの値を用いて前記確率テーブルを補正する、請求項1に記載のクラス推定装置。
- 前記補正手段が、前記確率テーブルの値から算出された尤度と、入力されたデータの特徴量及び前記特徴量テーブルの値から算出された距離と、を用いて前記確率テーブルを補正する、請求項2に記載のクラス推定装置。
- 前記補正手段が、入力されたデータの特徴量及び前記特徴量テーブルの値から算出された確率密度を用いて前記確率テーブルを補正する、請求項2に記載のクラス推定装置。
- 更に、前記木構造の葉ノードに重要度を保存する重要度保存手段を具えた、請求項1〜4のいずれかに記載のクラス推定装置。
- データの特徴量の入力を受け付けるデータ受付ステップと、
木構造を持つ識別器の入力を受け付ける識別器受付ステップと、
前記木構造の葉ノードに確率テーブル及び特徴量テーブルを保存するテーブル保存ステップと、
前記確率テーブルを補正する確率テーブル補正ステップと、
データのクラスを推定するクラス推定ステップと、
をコンピュータに実行させるためのプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016101232A JP6687894B2 (ja) | 2016-05-20 | 2016-05-20 | クラス推定装置及びプログラム |
US15/292,528 US10303985B2 (en) | 2016-05-20 | 2016-10-13 | Class estimation apparatus, non-transitory computer readable medium, and class estimation method |
EP16194087.9A EP3246853A1 (en) | 2016-05-20 | 2016-10-17 | Class estimation apparatus, program, and class estimation method |
CN201611128941.9A CN107403186B (zh) | 2016-05-20 | 2016-12-09 | 类估计设备和类估计方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016101232A JP6687894B2 (ja) | 2016-05-20 | 2016-05-20 | クラス推定装置及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017208004A JP2017208004A (ja) | 2017-11-24 |
JP6687894B2 true JP6687894B2 (ja) | 2020-04-28 |
Family
ID=57396250
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016101232A Expired - Fee Related JP6687894B2 (ja) | 2016-05-20 | 2016-05-20 | クラス推定装置及びプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US10303985B2 (ja) |
EP (1) | EP3246853A1 (ja) |
JP (1) | JP6687894B2 (ja) |
CN (1) | CN107403186B (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11017324B2 (en) * | 2017-05-17 | 2021-05-25 | Microsoft Technology Licensing, Llc | Tree ensemble explainability system |
EP3709229A1 (en) * | 2019-03-13 | 2020-09-16 | Ricoh Company, Ltd. | Learning device and learning method |
US11734259B2 (en) | 2019-05-31 | 2023-08-22 | International Business Machines Corporation | Anonymous database rating update |
US11569996B2 (en) * | 2019-05-31 | 2023-01-31 | International Business Machines Corporation | Anonymous rating structure for database |
JP6795240B1 (ja) * | 2020-06-17 | 2020-12-02 | 株式会社エイシング | 制御装置、方法及びプログラム |
Family Cites Families (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5930392A (en) * | 1996-07-12 | 1999-07-27 | Lucent Technologies Inc. | Classification technique using random decision forests |
US6058205A (en) * | 1997-01-09 | 2000-05-02 | International Business Machines Corporation | System and method for partitioning the feature space of a classifier in a pattern classification system |
US6353814B1 (en) * | 1997-10-08 | 2002-03-05 | Michigan State University | Developmental learning machine and method |
US6532305B1 (en) * | 1998-08-04 | 2003-03-11 | Lincom Corporation | Machine learning method |
US6519580B1 (en) * | 2000-06-08 | 2003-02-11 | International Business Machines Corporation | Decision-tree-based symbolic rule induction system for text categorization |
US6718315B1 (en) * | 2000-12-18 | 2004-04-06 | Microsoft Corporation | System and method for approximating probabilities using a decision tree |
JP3896868B2 (ja) * | 2002-02-27 | 2007-03-22 | 日本電気株式会社 | パターンの特徴選択方法及び分類方法及び判定方法及びプログラム並びに装置 |
US7464068B2 (en) * | 2004-06-30 | 2008-12-09 | International Business Machines Corporation | System and method for continuous diagnosis of data streams |
CN101615789B (zh) * | 2008-06-23 | 2012-12-12 | 上海申瑞电力科技股份有限公司 | 广域量测***追踪状态估计方法 |
US7941462B2 (en) * | 2008-09-24 | 2011-05-10 | Toshiba Medical Visualization Systems Europe, Limited | Method and apparatus for classification of coronary artery image data |
JP5218109B2 (ja) * | 2009-01-30 | 2013-06-26 | 富士通株式会社 | 可視化データ処理装置、可視化データ処理装置の制御方法、及び可視化データ処理装置の制御プログラム |
KR101068465B1 (ko) * | 2009-11-09 | 2011-09-28 | 한국과학기술원 | 삼차원 물체 인식 시스템 및 방법 |
JP5394959B2 (ja) * | 2010-03-23 | 2014-01-22 | 富士フイルム株式会社 | 判別器生成装置および方法並びにプログラム |
JP5521881B2 (ja) * | 2010-08-12 | 2014-06-18 | 富士ゼロックス株式会社 | 画像識別情報付与プログラム及び画像識別情報付与装置 |
JP5675214B2 (ja) * | 2010-08-18 | 2015-02-25 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
US9077958B2 (en) * | 2010-08-30 | 2015-07-07 | Honda Motor Co., Ltd. | Road departure warning system |
US8860715B2 (en) * | 2010-09-22 | 2014-10-14 | Siemens Corporation | Method and system for evaluation using probabilistic boosting trees |
US9092797B2 (en) * | 2010-09-22 | 2015-07-28 | The Nielsen Company (Us), Llc | Methods and apparatus to analyze and adjust demographic information |
US8953888B2 (en) * | 2011-02-10 | 2015-02-10 | Microsoft Corporation | Detecting and localizing multiple objects in images using probabilistic inference |
US8744172B2 (en) * | 2011-06-15 | 2014-06-03 | Siemens Aktiengesellschaft | Image processing using random forest classifiers |
US8712931B1 (en) * | 2011-06-29 | 2014-04-29 | Amazon Technologies, Inc. | Adaptive input interface |
US8954365B2 (en) * | 2012-06-21 | 2015-02-10 | Microsoft Corporation | Density estimation and/or manifold learning |
US9218524B2 (en) * | 2012-12-06 | 2015-12-22 | Siemens Product Lifecycle Management Software Inc. | Automatic spatial context based multi-object segmentation in 3D images |
US10235605B2 (en) * | 2013-04-10 | 2019-03-19 | Microsoft Technology Licensing, Llc | Image labeling using geodesic features |
EP2849099B1 (en) * | 2013-09-11 | 2021-07-28 | Dassault Systèmes | A computer-implemented method for designing an industrial product modeled with a binary tree. |
US9558396B2 (en) * | 2013-10-22 | 2017-01-31 | Samsung Electronics Co., Ltd. | Apparatuses and methods for face tracking based on calculated occlusion probabilities |
JP6226701B2 (ja) * | 2013-11-05 | 2017-11-08 | キヤノン株式会社 | データ処理方法及び装置、データ識別方法及び装置、プログラム |
CN104809325B (zh) * | 2014-01-26 | 2018-06-01 | 国际商业机器公司 | 用于检测事件日志和过程模型之间的区别的方法和装置 |
US10347042B2 (en) * | 2014-03-13 | 2019-07-09 | Pixar | Importance sampling of sparse voxel octrees |
US9916356B2 (en) * | 2014-03-31 | 2018-03-13 | Sandisk Technologies Llc | Methods and systems for insert optimization of tiered data structures |
US9805248B2 (en) * | 2014-08-29 | 2017-10-31 | Definiens Ag | Applying pixelwise descriptors to a target image that are generated by segmenting objects in other images |
EP3035235B1 (en) * | 2014-12-17 | 2023-07-19 | Exipple Studio, Inc. | Method for setting a tridimensional shape detection classifier and method for tridimensional shape detection using said shape detection classifier |
EP3136293A1 (en) * | 2015-08-28 | 2017-03-01 | Thomson Licensing | Method and device for processing an image of pixels, corresponding computer program product and computer readable medium |
US20170083920A1 (en) * | 2015-09-21 | 2017-03-23 | Fair Isaac Corporation | Hybrid method of decision tree and clustering technology |
-
2016
- 2016-05-20 JP JP2016101232A patent/JP6687894B2/ja not_active Expired - Fee Related
- 2016-10-13 US US15/292,528 patent/US10303985B2/en active Active
- 2016-10-17 EP EP16194087.9A patent/EP3246853A1/en not_active Withdrawn
- 2016-12-09 CN CN201611128941.9A patent/CN107403186B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN107403186A (zh) | 2017-11-28 |
CN107403186B (zh) | 2022-02-01 |
EP3246853A1 (en) | 2017-11-22 |
US10303985B2 (en) | 2019-05-28 |
JP2017208004A (ja) | 2017-11-24 |
US20170337450A1 (en) | 2017-11-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6687894B2 (ja) | クラス推定装置及びプログラム | |
Vihola | Robust adaptive Metropolis algorithm with coerced acceptance rate | |
Rolland et al. | Score matching enables causal discovery of nonlinear additive noise models | |
CN103761311B (zh) | 基于多源领域实例迁移的情感分类方法 | |
CN106202329A (zh) | 样本数据处理、数据识别方法和装置、计算机设备 | |
CN110019779B (zh) | 一种文本分类方法、模型训练方法及装置 | |
RU2017105394A (ru) | Способ формирования архитектуры нейросети для классификации объекта, заданного в виде облака точек, способ ее применения для обучения нейросети и поиска семантически схожих облаков точек | |
Dong et al. | Analysis SimCO: A new algorithm for analysis dictionary learning | |
Johnson et al. | Composite functional gradient learning of generative adversarial models | |
JP2016095640A (ja) | 密度計測装置、密度計測方法、およびプログラム | |
Berlinet et al. | Acceleration of the EM algorithm: P-EM versus epsilon algorithm | |
Ballani et al. | Sparse inverse covariance estimation with hierarchical matrices | |
JPWO2020054551A1 (ja) | 情報処理装置、情報処理方法、プログラム | |
US20100322472A1 (en) | Object tracking in computer vision | |
Thamvitayakul et al. | Bootstrap confidence intervals in DirectLiNGAM | |
JP6601965B2 (ja) | 探索木を用いて量子化するプログラム、装置及び方法 | |
CN107463899B (zh) | 识别风力发电机部件的边缘的方法及装置 | |
CN106909894A (zh) | 车辆品牌型号识别方法和*** | |
CN111209532A (zh) | 基于增强在线搜索原理的混合高斯模型参数估计算法 | |
Serratosa et al. | Edit distance computed by fast bipartite graph matching | |
JPWO2021038840A5 (ja) | ||
CN111859945A (zh) | 一种词向量训练方法及装置 | |
Mourad et al. | Automatic threshold estimation for iterative shrinkage algorithms used with compressed sensing | |
TWI829099B (zh) | 學習模組及訓練模組 | |
Lee et al. | Ucr-ssl: uncertainty-based consistency regularization for semi-supervised learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190423 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200225 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200304 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200317 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6687894 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |