JPH08123778A - 非線形モデル自動生成方法 - Google Patents
非線形モデル自動生成方法Info
- Publication number
- JPH08123778A JPH08123778A JP6254997A JP25499794A JPH08123778A JP H08123778 A JPH08123778 A JP H08123778A JP 6254997 A JP6254997 A JP 6254997A JP 25499794 A JP25499794 A JP 25499794A JP H08123778 A JPH08123778 A JP H08123778A
- Authority
- JP
- Japan
- Prior art keywords
- neural network
- network model
- group
- rule
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/10—Interfaces, programming languages or software development kits, e.g. for simulating neural networks
- G06N3/105—Shells for specifying net layout
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/211—Selection of the most significant subset of features
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Image Analysis (AREA)
Abstract
(57)【要約】 （修正有）
【目的】 非線形モデルにたいする必要最小限の入力項
目を自動的に選択し、非線形モデル構築の効率を向上す
る。 【構成】 非線形モデルを構築する場合、教師データ１
０１が与えられれば、分割方法オプション１０１とグル
ープ指定情報１０３を指定することにより、グループ別
ルール生成装置１０４により、グループ別ルール１０５
とデータの分割情報１０６が自動生成される。初期ニュ
ーラルネットワークモデル生成装置１０７は、グループ
別ルール１０５から自動的に初期ニューラルネットワー
クモデル１０８を生成する。これはニューラルネットワ
ークモデル学習装置１１１において、学習され、学習済
みニューラルネットワークモデル１１２として出力され
る。学習のための教師データであるグループ分類付教師
データ１１０は、教師データ１０２、グループ別ルール
１０５、分割情報１０６を用いて、データ分類装置１０
９において生成される。
目を自動的に選択し、非線形モデル構築の効率を向上す
る。 【構成】 非線形モデルを構築する場合、教師データ１
０１が与えられれば、分割方法オプション１０１とグル
ープ指定情報１０３を指定することにより、グループ別
ルール生成装置１０４により、グループ別ルール１０５
とデータの分割情報１０６が自動生成される。初期ニュ
ーラルネットワークモデル生成装置１０７は、グループ
別ルール１０５から自動的に初期ニューラルネットワー
クモデル１０８を生成する。これはニューラルネットワ
ークモデル学習装置１１１において、学習され、学習済
みニューラルネットワークモデル１１２として出力され
る。学習のための教師データであるグループ分類付教師
データ１１０は、教師データ１０２、グループ別ルール
１０５、分割情報１０６を用いて、データ分類装置１０
９において生成される。
Description
【０００１】
【産業上の利用分野】本発明は蓄積された数値データを
含む教師データから非線形モデル、特にニューラルネッ
トワークモデルを自動生成する方法に関する。
含む教師データから非線形モデル、特にニューラルネッ
トワークモデルを自動生成する方法に関する。
【０００２】
【従来の技術】非線形モデルの入力変数を選択する手法
として以下の３つが考えられる。
として以下の３つが考えられる。
【０００３】（１）エキスパートの知識の利用または試
行錯誤による入力変数の選択（従来技術１） エキスパートの知識が存在する場合には、その知識に基
づき入力変数を選択し、モデルを構築する。エキスパー
トの知識が存在しない場合には、まず適当に入力変数を
選択してモデルを構築し、学習を行なう。モデルの学習
が収束しない場合、検証結果でモデルの汎用性が認めら
れないなどの不具合がある場合には、入力変数を選択し
直して学習を繰り返す。
行錯誤による入力変数の選択（従来技術１） エキスパートの知識が存在する場合には、その知識に基
づき入力変数を選択し、モデルを構築する。エキスパー
トの知識が存在しない場合には、まず適当に入力変数を
選択してモデルを構築し、学習を行なう。モデルの学習
が収束しない場合、検証結果でモデルの汎用性が認めら
れないなどの不具合がある場合には、入力変数を選択し
直して学習を繰り返す。
【０００４】（２）統計的手法による入力変数の選択
（従来技術２） 各入力変数と出力変数の相関係数を求め、相関係数の絶
対値が大きいものをいくつか入力変数として選択する。
個数は試行錯誤により決定する。
（従来技術２） 各入力変数と出力変数の相関係数を求め、相関係数の絶
対値が大きいものをいくつか入力変数として選択する。
個数は試行錯誤により決定する。
【０００５】（３）属性の従属性による情報システムの
入力変数の選択（従来技術３） 属性の従属性によって情報システムを縮小する方法に関
して、日本ファジィ学会Vol.5，No.2，pp.358-366にお
いて重永他による「ラフ集合を用いたエキスパート・シ
ステムにおけるファジィ推論とその判別問題への応用」
なる文献に解説がある。
入力変数の選択（従来技術３） 属性の従属性によって情報システムを縮小する方法に関
して、日本ファジィ学会Vol.5，No.2，pp.358-366にお
いて重永他による「ラフ集合を用いたエキスパート・シ
ステムにおけるファジィ推論とその判別問題への応用」
なる文献に解説がある。
【０００６】
【発明が解決しようとする課題】従来技術１で述べたよ
うに、エキスパートの知識を利用するかまたは試行錯誤
により非線形モデルの入力変数を選択すれば、モデル構
築の効率が悪く、さらに適切な入力変数を選択できてい
ない場合には、モデルの学習が収束しない。本発明は、
教師データの特徴から自動的に適切な入力変数を選択
し、非線形モデルを構築することにより、非線形モデル
構築の効率を向上することを第１の目的とする。
うに、エキスパートの知識を利用するかまたは試行錯誤
により非線形モデルの入力変数を選択すれば、モデル構
築の効率が悪く、さらに適切な入力変数を選択できてい
ない場合には、モデルの学習が収束しない。本発明は、
教師データの特徴から自動的に適切な入力変数を選択
し、非線形モデルを構築することにより、非線形モデル
構築の効率を向上することを第１の目的とする。
【０００７】従来技術２は各入力変数と出力の線形関係
の強さを相関係数を用いて評価し、線形関係が強いもの
からいくつかを入力変数として選択する。しかし、非線
形モデルが対象とする多入力１出力の非線形関係を表現
しようとするのに対して、個々の入力変数と出力変数の
１次相関係数では明らかに不十分である。
の強さを相関係数を用いて評価し、線形関係が強いもの
からいくつかを入力変数として選択する。しかし、非線
形モデルが対象とする多入力１出力の非線形関係を表現
しようとするのに対して、個々の入力変数と出力変数の
１次相関係数では明らかに不十分である。
【０００８】本発明は各入力変数の定義域を複数の領域
に分割し、複数の入力変数の分割された領域の組合せに
より構成される部分空間と出力との関係に基づき入力変
数を選択することにより、多入力の非線形モデルの適切
な入力変数を選択し、容易に非線形性の強い入出力関係
を表現することを第２の目的とする。
に分割し、複数の入力変数の分割された領域の組合せに
より構成される部分空間と出力との関係に基づき入力変
数を選択することにより、多入力の非線形モデルの適切
な入力変数を選択し、容易に非線形性の強い入出力関係
を表現することを第２の目的とする。
【０００９】従来技術３が対象としているデータは記号
を代用する離散値のみであり、数値を扱うことはできな
い。本発明は、数値データからでも適切な入力変数を選
択できるようにすることを第３の目的とする。
を代用する離散値のみであり、数値を扱うことはできな
い。本発明は、数値データからでも適切な入力変数を選
択できるようにすることを第３の目的とする。
【００１０】従来技術１で述べたような、一般的な非線
形モデル作成においては、最終的にモデルは１つしか作
成しないので、非線形性の強い入出力関係を表現するに
は、試行錯誤が必要であり、学習回数も増加する。本発
明は、複数のモデルを構築し、また複数の非線形モデル
を利用した推論装置を構築することにより、モデル生成
の効率と推論精度を向上することを第４の目的とする。
形モデル作成においては、最終的にモデルは１つしか作
成しないので、非線形性の強い入出力関係を表現するに
は、試行錯誤が必要であり、学習回数も増加する。本発
明は、複数のモデルを構築し、また複数の非線形モデル
を利用した推論装置を構築することにより、モデル生成
の効率と推論精度を向上することを第４の目的とする。
【００１１】
【課題を解決するための手段】上記第１の目的を達成す
るため、本発明の非線形モデル自動生成方法では、グル
ープ別ルール生成処理により、教師データの特徴をルー
ル形式で抽出し、抽出したルールから入出力変数を取り
出し、非線形モデル構築時の入力変数選択の試行錯誤を
削減し、非線形モデル構築の効率を向上する。
るため、本発明の非線形モデル自動生成方法では、グル
ープ別ルール生成処理により、教師データの特徴をルー
ル形式で抽出し、抽出したルールから入出力変数を取り
出し、非線形モデル構築時の入力変数選択の試行錯誤を
削減し、非線形モデル構築の効率を向上する。
【００１２】例えば、本発明のニューラルネットワーク
モデル自動生成方法では、グループ別ルール生成処理と
初期ニューラルネットワークモデル生成処理により、教
師データの特徴から入力変数を選択し、ニューラルネッ
トワークモデル構築時の入力変数選択の試行錯誤を削減
し、ニューラルネットワークモデル構築の効率を向上す
る。
モデル自動生成方法では、グループ別ルール生成処理と
初期ニューラルネットワークモデル生成処理により、教
師データの特徴から入力変数を選択し、ニューラルネッ
トワークモデル構築時の入力変数選択の試行錯誤を削減
し、ニューラルネットワークモデル構築の効率を向上す
る。
【００１３】上記第２の目的を達成するため、本発明の
非線形モデル自動生成方法では、グループ別ルール生成
処理により、部分空間ごとの入出力関係をルールで表現
することにより、容易に非線形性の強い入出力関係を表
現する。
非線形モデル自動生成方法では、グループ別ルール生成
処理により、部分空間ごとの入出力関係をルールで表現
することにより、容易に非線形性の強い入出力関係を表
現する。
【００１４】上記第３の目的を達成するため、本発明の
非線形モデル自動生成方法では、グループ別ルール生成
処理におけるラベル付与処理により、数値データを自動
的に記号データである事例テーブルに変換する。
非線形モデル自動生成方法では、グループ別ルール生成
処理におけるラベル付与処理により、数値データを自動
的に記号データである事例テーブルに変換する。
【００１５】上記第４の目的を達成するため、本発明の
非線形モデル自動生成方法では、グループ別ルール生成
処理により、教師データの特徴をルール形式で抽出し、
抽出したルールからグループ指定情報に従い、グループ
ごとに入力変数を取り出し、グループごとに非線形モデ
ルを構築する。
非線形モデル自動生成方法では、グループ別ルール生成
処理により、教師データの特徴をルール形式で抽出し、
抽出したルールからグループ指定情報に従い、グループ
ごとに入力変数を取り出し、グループごとに非線形モデ
ルを構築する。
【００１６】例えば、非線形モデルの一例であるニュー
ラルネットワークモデル自動生成方法では、グループ別
ルール生成処理と初期ニューラルネットワークモデル生
成処理により、グループ指定情報に従いグループごとに
複数の初期ニューラルネットワークモデルを構築し、さ
らにデータ分類装置によりグループごとに分類されたグ
ループ分類付き教師データを用いて初期ニューラルネッ
トワークモデルを学習する。
ラルネットワークモデル自動生成方法では、グループ別
ルール生成処理と初期ニューラルネットワークモデル生
成処理により、グループ指定情報に従いグループごとに
複数の初期ニューラルネットワークモデルを構築し、さ
らにデータ分類装置によりグループごとに分類されたグ
ループ分類付き教師データを用いて初期ニューラルネッ
トワークモデルを学習する。
【００１７】
【作用】上記第１の目的に関しては、グループ別ルール
生成処理により、グループ別のルールを抽出し、抽出し
たルールから入出力変数を取り出すことにより、非線形
モデル構築時の入力変数選択の試行錯誤を不要に削減
し、非線形モデル構築の効率が向上する。
生成処理により、グループ別のルールを抽出し、抽出し
たルールから入出力変数を取り出すことにより、非線形
モデル構築時の入力変数選択の試行錯誤を不要に削減
し、非線形モデル構築の効率が向上する。
【００１８】とくに、ニューラルネットワークモデル構
築においては、グループ別ルール生成処理、初期ニュー
ラルネットワークモデル生成処理、ニューラルネットワ
ークモデル学習処理により、グループ別の入出力変数を
自動的に抽出し、ニューラルネットワークモデルを構築
し、学習できるので、ニューラルネットワークモデルの
入力変数を試行錯誤により選択する必要がなくなり、モ
デル構築の効率が向上する。
築においては、グループ別ルール生成処理、初期ニュー
ラルネットワークモデル生成処理、ニューラルネットワ
ークモデル学習処理により、グループ別の入出力変数を
自動的に抽出し、ニューラルネットワークモデルを構築
し、学習できるので、ニューラルネットワークモデルの
入力変数を試行錯誤により選択する必要がなくなり、モ
デル構築の効率が向上する。
【００１９】上記第２の目的に関しては、入出力変数選
択処理において、ラベル付与処理を用いて各入力変数ご
とに複数の領域に分割し、ルール抽出処理を用いて各部
分空間と出力変数との関係を抽出することにより、容易
に非線形性の強い入出力関係を表現する。
択処理において、ラベル付与処理を用いて各入力変数ご
とに複数の領域に分割し、ルール抽出処理を用いて各部
分空間と出力変数との関係を抽出することにより、容易
に非線形性の強い入出力関係を表現する。
【００２０】上記第３の目的に関しては、グループ別ル
ール生成処理において、ラベル付与処理を利用すること
により、実数値データを記号データである事例テーブル
に変更することにより実数値データも利用可能とする。
ール生成処理において、ラベル付与処理を利用すること
により、実数値データを記号データである事例テーブル
に変更することにより実数値データも利用可能とする。
【００２１】上記第４の目的に関しては、グループ別ル
ール生成処理により、教師データの特徴をルール形式で
抽出し、抽出したルールからグループ指定情報に従い、
グループごとに入力変数を取り出し、グループごとに非
線形モデルを構築することにより、モデルの複雑さに対
応して、複数のモデルを構築することにより、精度の高
いモデルを効率良く構築することができる。
ール生成処理により、教師データの特徴をルール形式で
抽出し、抽出したルールからグループ指定情報に従い、
グループごとに入力変数を取り出し、グループごとに非
線形モデルを構築することにより、モデルの複雑さに対
応して、複数のモデルを構築することにより、精度の高
いモデルを効率良く構築することができる。
【００２２】とくにニューラルネットワークモデル構築
においては、グループ別ルール生成処理によりグループ
別ルールを生成し、初期ニューラルネットワークモデル
生成処理において入出力変数抽出処理を利用してグルー
プ別に入出力変数を抽出し、ニューラルネットワークモ
デル構造決定処理を利用することによりグループ別に初
期ニューラルネットワークモデルを生成し、さらに、デ
ータ分類処理により教師データを分類したグループ分類
付き教師データにより、ニューラルネットワークモデル
学習処理を用いてグループ別に学習することにより、複
数のニューラルネットワークモデルを構築し、それぞれ
のモデルごとに学習できるので、精度の高いモデルを効
率良く構築できる。
においては、グループ別ルール生成処理によりグループ
別ルールを生成し、初期ニューラルネットワークモデル
生成処理において入出力変数抽出処理を利用してグルー
プ別に入出力変数を抽出し、ニューラルネットワークモ
デル構造決定処理を利用することによりグループ別に初
期ニューラルネットワークモデルを生成し、さらに、デ
ータ分類処理により教師データを分類したグループ分類
付き教師データにより、ニューラルネットワークモデル
学習処理を用いてグループ別に学習することにより、複
数のニューラルネットワークモデルを構築し、それぞれ
のモデルごとに学習できるので、精度の高いモデルを効
率良く構築できる。
【００２３】
【実施例】以下、本発明の実施例について説明する。
【００２４】図１は本発明の対象とする非線形モデルの
１種であるニューラルネットワークモデルを自動生成す
る装置のブロック構成図である。
１種であるニューラルネットワークモデルを自動生成す
る装置のブロック構成図である。
【００２５】この装置を用いてニューラルネットワーク
モデル構築の対象とする教師データから１つ以上の入力
と、唯１つの出力を選び、それらの入出力関係を表すニ
ューラルネットワークモデルを構築する。グループ別ル
ール生成装置１０４は分割方法オプション１０１と教師
データ１０２とグループ指定情報１０３を入力とし、グ
ループ別ルール１０５を出力する。初期ニューラルネッ
トワークモデル生成装置１０７はグループ別ルール１０
５を入力とし、初期ニューラルネットワークモデル１０
８を出力とする。データ分類装置１０９は、教師データ
１０２、グループ別ルール１０５、分割情報１０６を入
力とし、グループ別分類付教師データ１１０を出力とす
る。ニューラルネットワークモデル学習装置１１１は、
初期ニューラルネットワークモデル１０８とグループ別
分類付教師データ１１０を入力とし、学習済みニューラ
ルネットワークモデル１１２を出力する。
モデル構築の対象とする教師データから１つ以上の入力
と、唯１つの出力を選び、それらの入出力関係を表すニ
ューラルネットワークモデルを構築する。グループ別ル
ール生成装置１０４は分割方法オプション１０１と教師
データ１０２とグループ指定情報１０３を入力とし、グ
ループ別ルール１０５を出力する。初期ニューラルネッ
トワークモデル生成装置１０７はグループ別ルール１０
５を入力とし、初期ニューラルネットワークモデル１０
８を出力とする。データ分類装置１０９は、教師データ
１０２、グループ別ルール１０５、分割情報１０６を入
力とし、グループ別分類付教師データ１１０を出力とす
る。ニューラルネットワークモデル学習装置１１１は、
初期ニューラルネットワークモデル１０８とグループ別
分類付教師データ１１０を入力とし、学習済みニューラ
ルネットワークモデル１１２を出力する。
【００２６】グループ別ルール生成装置１０４は、教師
データ中の指定された１つ以上の入力と唯１つの出力の
入出力関係を表すルールを指定されたグループ別に出力
する。例えば、図２のようにラベル付与装置２０１、ル
ール生成装置２０３、ルールグループ生成装置２０５に
より構成される。
データ中の指定された１つ以上の入力と唯１つの出力の
入出力関係を表すルールを指定されたグループ別に出力
する。例えば、図２のようにラベル付与装置２０１、ル
ール生成装置２０３、ルールグループ生成装置２０５に
より構成される。
【００２７】図２において、ラベル付与装置２０１と
は、教師データ１０２中の数値データのそれぞれの値に
「小」、「中」、「大」などのラベルを割り当てる装置
である。教師データ１０２の各属性の属性値は数値デー
タかラベルデータ（記号データ）であるものとし、ラベ
ル付与装置２０１は教師データ中の属性値のうち数値デ
ータをラベルデータに変換する。ラベルが割り当てられ
たデータをラベルデータと呼ぶ。また、出力変数のラベ
ルに与えるラベルをクラスと呼ぶ。
は、教師データ１０２中の数値データのそれぞれの値に
「小」、「中」、「大」などのラベルを割り当てる装置
である。教師データ１０２の各属性の属性値は数値デー
タかラベルデータ（記号データ）であるものとし、ラベ
ル付与装置２０１は教師データ中の属性値のうち数値デ
ータをラベルデータに変換する。ラベルが割り当てられ
たデータをラベルデータと呼ぶ。また、出力変数のラベ
ルに与えるラベルをクラスと呼ぶ。
【００２８】ラベル付与の基本的な考え方は、数値デー
タを入力変数ごとにある位置で区切って、それぞれの区
間にラベルを割り当てることである。データを区切る位
置をデータの分割位置と呼ぶ。すなわち、ラベルデータ
生成に必要な情報は、教師データ１０２と、ラベル、分
割数、データの分割位置の決定方法を指定する分割方法
オプション１０１である。
タを入力変数ごとにある位置で区切って、それぞれの区
間にラベルを割り当てることである。データを区切る位
置をデータの分割位置と呼ぶ。すなわち、ラベルデータ
生成に必要な情報は、教師データ１０２と、ラベル、分
割数、データの分割位置の決定方法を指定する分割方法
オプション１０１である。
【００２９】ここで、教師データ１０２は図３に示す形
式で与えられ、数値と記号が混在しており、一般的に膨
大で欠損値を含んでいるため、特徴が掴みにくい。ここ
では欠損値は他の値と区別できる特別な値で表現されて
いるものとする。例えば１６進表現のFF...FF などとす
ればよい。図３の最終行にどの属性を入出力として用い
るかが、ユーザにより与えられてる。N は教師データに
含まれる属性数、M はデータ数、Xij はi 番目のデータ
のj 番目の属性値である。この例では属性１を入力１
に、属性３を入力２として、属性k を入力nとし、属性N
を出力としている。n はルール生成装置が用いる入力
項目数である。
式で与えられ、数値と記号が混在しており、一般的に膨
大で欠損値を含んでいるため、特徴が掴みにくい。ここ
では欠損値は他の値と区別できる特別な値で表現されて
いるものとする。例えば１６進表現のFF...FF などとす
ればよい。図３の最終行にどの属性を入出力として用い
るかが、ユーザにより与えられてる。N は教師データに
含まれる属性数、M はデータ数、Xij はi 番目のデータ
のj 番目の属性値である。この例では属性１を入力１
に、属性３を入力２として、属性k を入力nとし、属性N
を出力としている。n はルール生成装置が用いる入力
項目数である。
【００３０】分割方法オプション１０１には、一定区間
の数値データを記号で表現したラベルと、各入力変数ご
との分割数、分割位置の決定方法が含まれる。ラベル名
は分割数ごとに図４のものをデフォルトとするが、ユー
ザが指定することも可能である。例えば、気温を入力変
数とした場合には、高い、中位、低いなどと各区間のラ
ベル名称をユーザが任意に指定できる。分割位置の決定
方法としては例えば、図５に示す入力に対する事例数の
ヒストグラムを入力変数ごとに表示し、ユーザがデータ
の分布から分割数と分割位置を決定する。図５において
点線が分割位置を表す。分割位置の指定は例えばヒスト
グラム表示図面上で、マウスなどのポインティング装置
を用いておこなうものとする。
の数値データを記号で表現したラベルと、各入力変数ご
との分割数、分割位置の決定方法が含まれる。ラベル名
は分割数ごとに図４のものをデフォルトとするが、ユー
ザが指定することも可能である。例えば、気温を入力変
数とした場合には、高い、中位、低いなどと各区間のラ
ベル名称をユーザが任意に指定できる。分割位置の決定
方法としては例えば、図５に示す入力に対する事例数の
ヒストグラムを入力変数ごとに表示し、ユーザがデータ
の分布から分割数と分割位置を決定する。図５において
点線が分割位置を表す。分割位置の指定は例えばヒスト
グラム表示図面上で、マウスなどのポインティング装置
を用いておこなうものとする。
【００３１】事例テーブル２０２とは教師データ１０２
をラベル付与装置２０１により変換したラベルデータで
ある。
をラベル付与装置２０１により変換したラベルデータで
ある。
【００３２】ルール生成装置２０３とは、事例テーブル
からルールを抽出する公知の装置であり、例えば、従来
技術ES/TOOL/W-RIによるアルゴリズムを用いるものとす
る。ES/TOOL/W-RIについては、日経AI別冊1990秋号の12
6ページから137ページに小六正修による解説がある。
からルールを抽出する公知の装置であり、例えば、従来
技術ES/TOOL/W-RIによるアルゴリズムを用いるものとす
る。ES/TOOL/W-RIについては、日経AI別冊1990秋号の12
6ページから137ページに小六正修による解説がある。
【００３３】RIルール２０４とはルール生成装置２０３
から出力される「IF...THEN〜」または「ELSE IF...THE
N〜」形式のルールである。ルールグループ生成装置２
０５はRIルール２０４を指定されたルールグループごと
に分類し、グループ別ルール１０５を出力する。ここで
グループ指定情報１０３にはRIルールをどのようにグル
ープ分けするかが含まれる。グループとしては、ルール
別、出力クラス別、総合の３つがある。
から出力される「IF...THEN〜」または「ELSE IF...THE
N〜」形式のルールである。ルールグループ生成装置２
０５はRIルール２０４を指定されたルールグループごと
に分類し、グループ別ルール１０５を出力する。ここで
グループ指定情報１０３にはRIルールをどのようにグル
ープ分けするかが含まれる。グループとしては、ルール
別、出力クラス別、総合の３つがある。
【００３４】初期ニューラルネットワークモデル生成装
置１０７はグループ別ルール１０５から自動的にニュー
ラルネットワークモデルを生成する装置である。例え
ば、図６に示す通り、入出力変数抽出装置６０１とニュ
ーラルネットワークモデル構造決定装置６０３から構成
される。入出力変数抽出装置６０１は、グループ別ルー
ル１０５を入力とし、グループ別入出力変数６０２を出
力する。ニューラルネットワークモデル構造決定装置６
０３は、グループ別入出力変数６０２を入力とし、初期
ニューラルネットワークモデル１０８を出力する。初期
ニューラルネットワークモデルの構造は例えば、図７に
示すような多入力１出力のパーセプトロン型の３層のニ
ューラルネットワークモデルとし、中間層のニューロン
の個数は、入力層と同じとする。
置１０７はグループ別ルール１０５から自動的にニュー
ラルネットワークモデルを生成する装置である。例え
ば、図６に示す通り、入出力変数抽出装置６０１とニュ
ーラルネットワークモデル構造決定装置６０３から構成
される。入出力変数抽出装置６０１は、グループ別ルー
ル１０５を入力とし、グループ別入出力変数６０２を出
力する。ニューラルネットワークモデル構造決定装置６
０３は、グループ別入出力変数６０２を入力とし、初期
ニューラルネットワークモデル１０８を出力する。初期
ニューラルネットワークモデルの構造は例えば、図７に
示すような多入力１出力のパーセプトロン型の３層のニ
ューラルネットワークモデルとし、中間層のニューロン
の個数は、入力層と同じとする。
【００３５】n次元ベクトルＡp＝（Ａpi，・・・，Ａp
n）が入力された時のこのニューラルネットワークモデ
ルの入出力関係を次のように定義する。
n）が入力された時のこのニューラルネットワークモデ
ルの入出力関係を次のように定義する。
【００３６】入力層：Ｙpi＝Ａpi，i＝1,2,・・・,n Ｙpi＝Ｃ1， i=n+1 中間層：Ｙpj＝f（NETpj),j=1,2,・・・,n NETpj＝ΣＷjiＹpi ,j=1,2,・・・,n Ｙpj＝Ｃ2, j=n+1 出力層：Ｙp＝f（NETp） NETp＝ΣＷjＹpj ここで、Ｙpkは第p層のk番目のニューロンの出力、
f（）はシグモイド関数、Ｗjiは入力層のi番目のニュー
ロンと中間層のj番目のニューロンの結合強度を表す実
数、Ｗjは中間層のj番目のニューロンと出力層の結合強
度を表す実数である。Ｃ1，Ｃ2はしきい値となる実数で
ある。また、中間層におけるΣはi=1，…，n+1の和，出
力層におけるΣはj=1，…，n+1の和を表す。
f（）はシグモイド関数、Ｗjiは入力層のi番目のニュー
ロンと中間層のj番目のニューロンの結合強度を表す実
数、Ｗjは中間層のj番目のニューロンと出力層の結合強
度を表す実数である。Ｃ1，Ｃ2はしきい値となる実数で
ある。また、中間層におけるΣはi=1，…，n+1の和，出
力層におけるΣはj=1，…，n+1の和を表す。
【００３７】初期ニューラルネットワークモデル生成装
置１０７から出力される初期ニューラルネットワークモ
デル１０８は図８の形式で表記される。初期ニューラル
ネットワークモデル１０８において、Ｗji（i=1,・・
・,n+1, j=1,2,・・・,n）は全て０以上１以下の自然数
の乱数とする。
置１０７から出力される初期ニューラルネットワークモ
デル１０８は図８の形式で表記される。初期ニューラル
ネットワークモデル１０８において、Ｗji（i=1,・・
・,n+1, j=1,2,・・・,n）は全て０以上１以下の自然数
の乱数とする。
【００３８】データ分類装置１０９は、指定されたグル
ープごとに教師データを分類する。具体的には、図９に
示すように教師データの最終列の右隣にグループを示す
列を付加する。
ープごとに教師データを分類する。具体的には、図９に
示すように教師データの最終列の右隣にグループを示す
列を付加する。
【００３９】ニューラルネットワークモデル学習装置１
１１は、グループ分類付きデータ１１０を用いて、各グ
ループの初期ニューラルネットワークモデルの各ニュー
ロン間の重み係数をバックプロパゲーション法により学
習し、学習済みニューラルネットワークモデル１１２を
出力する装置である。
１１は、グループ分類付きデータ１１０を用いて、各グ
ループの初期ニューラルネットワークモデルの各ニュー
ロン間の重み係数をバックプロパゲーション法により学
習し、学習済みニューラルネットワークモデル１１２を
出力する装置である。
【００４０】ニューラルネットワークモデル学習装置１
１１は例えば、図１０に示すようにデータ形式変換装置
１００１と重み係数学習装置１００３により構成され
る。ニューラルネットワークモデル学習装置１１１にお
いて、教師データはまずデータ形式変換装置１００１に
より学習に適切な値に変更する。つまり、全ての数値デ
ータは区間〔０，１〕の値に規格化し，記号データも区
間〔０，１〕に含まれる実数値に変換する。例えば、２
つのラベルで表現された場合には｛０，１｝、３つのラ
ベルで表現された場合には｛０，０．５，１｝の中のい
ずれかの値に変換する。重み係数学習装置１００３にお
いては、各グループの初期ニューラルネットワークモデ
ルを、データ形式変換済み教師データ中のそれぞれのグ
ループに属するデータのみ用いて学習する。
１１は例えば、図１０に示すようにデータ形式変換装置
１００１と重み係数学習装置１００３により構成され
る。ニューラルネットワークモデル学習装置１１１にお
いて、教師データはまずデータ形式変換装置１００１に
より学習に適切な値に変更する。つまり、全ての数値デ
ータは区間〔０，１〕の値に規格化し，記号データも区
間〔０，１〕に含まれる実数値に変換する。例えば、２
つのラベルで表現された場合には｛０，１｝、３つのラ
ベルで表現された場合には｛０，０．５，１｝の中のい
ずれかの値に変換する。重み係数学習装置１００３にお
いては、各グループの初期ニューラルネットワークモデ
ルを、データ形式変換済み教師データ中のそれぞれのグ
ループに属するデータのみ用いて学習する。
【００４１】生成した学習済みニューラルネットワーク
モデルを新たな入力データに対する推論に利用する場
合、図１１に示すデータ推論装置を利用する。ここで
は、図１のデータ分類装置１０９は、教師データの代わ
りに推論用データを入力とする。モデル別推論装置１０
０２はグループ分類付き推論用データと学習済みニュー
ロモデルを入力とし、各グループの学習済みニューラル
ネットワークモデルを利用し、推論結果を出力する。
モデルを新たな入力データに対する推論に利用する場
合、図１１に示すデータ推論装置を利用する。ここで
は、図１のデータ分類装置１０９は、教師データの代わ
りに推論用データを入力とする。モデル別推論装置１０
０２はグループ分類付き推論用データと学習済みニュー
ロモデルを入力とし、各グループの学習済みニューラル
ネットワークモデルを利用し、推論結果を出力する。
【００４２】以上のニューラルネットワークモデル自動
生成装置の動作をデパートのダイレクトメール発送地域
の選択問題を用いて説明する。あるデパートでは毎年都
内の住民に「会員カード」を勧めるダイレクトメールを
発送しているが、平均応答率がおもわしくない。そこ
で、過去のデータを用いて応答率を予測するニューラル
ネットワークモデルを構築する。このモデルを用いて今
までメールを発送していない地域のダイレクトメールに
対する応答率も予測する。
生成装置の動作をデパートのダイレクトメール発送地域
の選択問題を用いて説明する。あるデパートでは毎年都
内の住民に「会員カード」を勧めるダイレクトメールを
発送しているが、平均応答率がおもわしくない。そこ
で、過去のデータを用いて応答率を予測するニューラル
ネットワークモデルを構築する。このモデルを用いて今
までメールを発送していない地域のダイレクトメールに
対する応答率も予測する。
【００４３】図１２の形式で各個人の顧客データが用意
されている。図１２におけるラベルＡ，Ｂ，Ｃ，Ｄの意
味を図１３に示す。営業担当者はこの個人データをもと
に、図１４の形式のデパートが独自に定めた営業地域ご
とのデータを作成し、教師データ１０２とする。ラベル
付与に関するオプション、ルール生成装置に関するオプ
ション１０１（図１参照）をユーザ指定情報として入力
する。適切な入力変数はニューラルネットワークモデル
自動生成装置が選択するので、営業担当者は入力属性を
厳密に選び出す必要はなく、可能性のありそうな項目は
全て選べばよい。
されている。図１２におけるラベルＡ，Ｂ，Ｃ，Ｄの意
味を図１３に示す。営業担当者はこの個人データをもと
に、図１４の形式のデパートが独自に定めた営業地域ご
とのデータを作成し、教師データ１０２とする。ラベル
付与に関するオプション、ルール生成装置に関するオプ
ション１０１（図１参照）をユーザ指定情報として入力
する。適切な入力変数はニューラルネットワークモデル
自動生成装置が選択するので、営業担当者は入力属性を
厳密に選び出す必要はなく、可能性のありそうな項目は
全て選べばよい。
【００４４】図１４に示す教師データはラベルデータと
数値データが混在している。ラベルデータはそのままと
し、数値データに対してはラベル付与をおこなう。ユー
ザ指定情報は、分割数を入力変数に関してはいずれも
３、出力変数に関しては２、ラベルは入力変数に関して
はいずれも小，中，大，出力変数に関しては高、低を用
いる。ラベルを与えた事例テーブル２０２を図１５に示
す。ルール生成装置２０３により抽出したRIルール２０
４を図１６に示す。矛盾した事例が事例テーブルに含ま
れるため、ルールの結論部がそれぞれ２つある。各結論
部の右隣に記されている数字は、ルール条件を満たす全
ての事例に対する結論部も一致する事例の割合である。
数値データが混在している。ラベルデータはそのままと
し、数値データに対してはラベル付与をおこなう。ユー
ザ指定情報は、分割数を入力変数に関してはいずれも
３、出力変数に関しては２、ラベルは入力変数に関して
はいずれも小，中，大，出力変数に関しては高、低を用
いる。ラベルを与えた事例テーブル２０２を図１５に示
す。ルール生成装置２０３により抽出したRIルール２０
４を図１６に示す。矛盾した事例が事例テーブルに含ま
れるため、ルールの結論部がそれぞれ２つある。各結論
部の右隣に記されている数字は、ルール条件を満たす全
ての事例に対する結論部も一致する事例の割合である。
【００４５】ここで、グループ指定情報として出力クラ
ス別を指定すると、グループ別ルール生成装置１０４は
出力クラス別のルールを生成する。出力クラス別のルー
ルは図１７の形式で記述される。ここでは、ルール生成
装置において出力クラス別にルールを生成しているの
で、着目しているクラスを出力クラスとする。
ス別を指定すると、グループ別ルール生成装置１０４は
出力クラス別のルールを生成する。出力クラス別のルー
ルは図１７の形式で記述される。ここでは、ルール生成
装置において出力クラス別にルールを生成しているの
で、着目しているクラスを出力クラスとする。
【００４６】初期ニューラルネットワークモデル生成装
置１０７により決定される初期ニューラルネットワーク
モデル１０８の構造は、図１８に示す通りである。各ユ
ニット間の重みは全て０以上１以下の自然数の乱数とす
る。
置１０７により決定される初期ニューラルネットワーク
モデル１０８の構造は、図１８に示す通りである。各ユ
ニット間の重みは全て０以上１以下の自然数の乱数とす
る。
【００４７】ニューラルネットワークモデル学習装置１
１１で利用するグループ分類付教データ１１０を図１９
に示す。グループ別教師データはまず図１０中のデータ
形式変換装置１００１により学習に適切な値に変換され
る。ここで、データ形式変換装置１００１は図２０に示
すデータ変換テーブルに従って変換する。ここで、扶養
家族、年齢、元会員数の整数値はそれぞれの最大値で割
ることにより、０以上１以下の連続値に規格化する。勤
続年数、会社の規模は小、中、大のラベルをそれぞれ
0，0.5， 1に割り当てる。応答率は、低、高をそれぞれ
０，１に割り当てる。形式を変換した後のデータにより
初期ニューラルネットワークモデル１０８を学習し、学
習済みニューラルネットワークモデル（学習後）１１２
を獲得する。
１１で利用するグループ分類付教データ１１０を図１９
に示す。グループ別教師データはまず図１０中のデータ
形式変換装置１００１により学習に適切な値に変換され
る。ここで、データ形式変換装置１００１は図２０に示
すデータ変換テーブルに従って変換する。ここで、扶養
家族、年齢、元会員数の整数値はそれぞれの最大値で割
ることにより、０以上１以下の連続値に規格化する。勤
続年数、会社の規模は小、中、大のラベルをそれぞれ
0，0.5， 1に割り当てる。応答率は、低、高をそれぞれ
０，１に割り当てる。形式を変換した後のデータにより
初期ニューラルネットワークモデル１０８を学習し、学
習済みニューラルネットワークモデル（学習後）１１２
を獲得する。
【００４８】以上本発明の実施例によれば、入力変数を
明確に決定できないようなシステムに対しても、自動的
に入力変数を選択することによりニューラルネットワー
クモデルを構築できる。また、モデルの汎用性と精度の
トレードオフについてもグループ指定によりユーザが選
択できる。
明確に決定できないようなシステムに対しても、自動的
に入力変数を選択することによりニューラルネットワー
クモデルを構築できる。また、モデルの汎用性と精度の
トレードオフについてもグループ指定によりユーザが選
択できる。
【００４９】また、学習済みニューラルネットワークモ
デル、グループ別ルール、分割情報を利用することによ
り、出力が未知のデータに対しても出力を予測できる。
デル、グループ別ルール、分割情報を利用することによ
り、出力が未知のデータに対しても出力を予測できる。
【００５０】
【発明の効果】本発明によれば以下の効果がある。
【００５１】（１）教師データから自動的に入出力変数
を選択し、非線形モデルを生成するので、非線形モデル
構築における試行錯誤にかかる時間が削減される。
を選択し、非線形モデルを生成するので、非線形モデル
構築における試行錯誤にかかる時間が削減される。
【００５２】（２）不必要な入力変数を用いていないの
で、ニューラルネットワークモデルの学習が高速化でき
る。
で、ニューラルネットワークモデルの学習が高速化でき
る。
【００５３】（３）グループの指定によりルール別、出
力クラス別、総合の３種類の非線形モデルを構築できる
ので、ユーザは汎用性と精度のトレードオフを考慮して
モデルを選択できる。
力クラス別、総合の３種類の非線形モデルを構築できる
ので、ユーザは汎用性と精度のトレードオフを考慮して
モデルを選択できる。
【００５４】（４）生成したニューラルネットワークモ
デルは推論に利用できる。
デルは推論に利用できる。
【図１】本発明のニューラルネットワークモデル自動生
成装置の構成図である。
成装置の構成図である。
【図２】本発明のグループ別ルール生成装置の構成図で
ある。
ある。
【図３】本発明の実施例の教師データである。
【図４】本発明の実施例の分割方法オプションに含まれ
る分割した区間に割り当てるラベルの分割数ごとのデフ
ォルト値である。
る分割した区間に割り当てるラベルの分割数ごとのデフ
ォルト値である。
【図５】本発明の実施例における、ユーザが分割位置を
決定する方式で利用する入力変ごとの事例数のヒストグ
ラムの一例である。
決定する方式で利用する入力変ごとの事例数のヒストグ
ラムの一例である。
【図６】本発明の実施例で用いる初期ニューラルネット
ワークモデル生成装置の構成図である。
ワークモデル生成装置の構成図である。
【図７】本発明の実施例で用いる多入力１出力のパーセ
プトロン型の３層ニューラルネットワークモデルの概略
図である。
プトロン型の３層ニューラルネットワークモデルの概略
図である。
【図８】本発明の実施例のニューラルネットワークモデ
ル構造決定装置から出力されるニューラルネットワーク
モデルの各ニューロン間の重み係数を表記した情報であ
る。
ル構造決定装置から出力されるニューラルネットワーク
モデルの各ニューロン間の重み係数を表記した情報であ
る。
【図９】本発明の実施例で用いたグループ分類付き教師
データを表記した情報である。
データを表記した情報である。
【図１０】本発明の実施例のニューラルネットワークモ
デル学習装置の構成図である。
デル学習装置の構成図である。
【図１１】本発明の実施例で用いた推論装置である。
【図１２】本発明の実施例で用いる顧客データを表記し
た情報である。
た情報である。
【図１３】本発明の実施例で用いる顧客データの各ラベ
ルの意味を表記した表である。
ルの意味を表記した表である。
【図１４】本発明の実施例で用いる地域データの教師デ
ータを表記した情報である。
ータを表記した情報である。
【図１５】本発明の実施例で用いる図１４の教師データ
からラベル付与装置により変換された事例テーブルであ
る。
からラベル付与装置により変換された事例テーブルであ
る。
【図１６】本発明の実施例で用いる図１５に示す事例テ
ーブルをもとにRI装置により生成されたRIルールであ
る。
ーブルをもとにRI装置により生成されたRIルールであ
る。
【図１７】本発明の実施例で用いる図１６に示すRIルー
ルを表記した情報である。
ルを表記した情報である。
【図１８】本発明の実施例で用いる図１７に示すRIルー
ルをもとに生成された初期ニューラルネットワークモデ
ルである。
ルをもとに生成された初期ニューラルネットワークモデ
ルである。
【図１９】本発明の実施例で用いる図１８に示すニュー
ラルネットワークモデルの学習に利用するグループ分類
付き教師データを表記した情報である。
ラルネットワークモデルの学習に利用するグループ分類
付き教師データを表記した情報である。
【図２０】本発明の実施例で用いる図１９に示すグルー
プ分類付教師データをデータ形式変換装置により重み係
数学習装置に利用可能な形式に変換したデータ形式変換
済み教師データを表記した情報である。
プ分類付教師データをデータ形式変換装置により重み係
数学習装置に利用可能な形式に変換したデータ形式変換
済み教師データを表記した情報である。
１０１…分割方法オプション、１０２…教師データ、１
０３…グループ別指定情報、１０４…グループ別ルール
生成装置、１０５…グループ別ルール、１０６…分割情
報、１０７…初期ニューラルネットワークモデル生成装
置、１０８…初期ニューラルネットワークモデル、１０
９…データ分類装置、１１０…グループ分類付教師デー
タ、１１１…ニューラルネットワークモデル学習装置、
１１２…学習済みニューラルネットワークモデル。
０３…グループ別指定情報、１０４…グループ別ルール
生成装置、１０５…グループ別ルール、１０６…分割情
報、１０７…初期ニューラルネットワークモデル生成装
置、１０８…初期ニューラルネットワークモデル、１０
９…データ分類装置、１１０…グループ分類付教師デー
タ、１１１…ニューラルネットワークモデル学習装置、
１１２…学習済みニューラルネットワークモデル。
フロントページの続き (72)発明者 天満 正 神奈川県川崎市麻生区王禅寺1099番地 株 式会社日立製作所システム開発研究所内
Claims (16)
- 【請求項１】非線形モデルの学習に利用する教師データ
の特徴をルール形式で抽出し、抽出したルールから入出
力変数を取り出し、取り出した入出力変数を用いてｍ入
力ｎ出力（ｍ≧２，ｎ≧１）の非線形モデルを構築する
非線形モデル自動生成方法。 - 【請求項２】ニューラルネットワークモデルの学習に利
用する教師データの特徴をルール形式で抽出し、抽出し
たルールから入出力変数を取り出し、取り出した入出力
変数を用いてニューラルネットワークモデルの構造を決
定する初期ニューラルネットワークモデルを構築し、上
記教師データにより初期ニューラルネットワークモデル
を学習してニューラルネットワークモデルを構築するニ
ューラルネットワークモデル自動生成方法。 - 【請求項３】ニューラルネットワークモデルの学習に利
用する教師データから該モデルの特徴を示すルールを、
ルール別か出力クラス別か総合のいずれかを指定するグ
ループ指定情報に従い生成するグループ別ルール生成処
理と、グループ別ルールからニューラルネットワークモ
デルの構造を決定する初期ニューラルネットワークモデ
ルを生成する処理と、上記教師データをグループ毎に分
類して、グループ分類付き教師データを生成するデータ
分類処理と、分類した教師データにより上記初期ニュー
ラルネットワークモデルを学習するニューラルネットワ
ークモデル学習処理とからなるニューラルネットワーク
モデル自動生成方法。 - 【請求項４】上記グループ別ルール生成処理は、上記教
師データ中の数値属性のデータを記号で表記した事例テ
ーブルに変換する処理と、該事例テーブルと、該変換処
理に利用した各記号の定義域を表記した分割情報を出力
する処理からなるラベル付与処理と、事例テーブルから
RI(Rule Induction)ルールを抽出するルール生成処理
と、上記グループ指定情報に従い、RIルールをグループ
ごとに分類するルールグループ生成処理とからなる請求
項３のニューラルネットワークモデル自動生成方法。 - 【請求項５】上記初期ニューラルネットワークモデル生
成処理は、上記グループ別ルールから、各ルールで用い
る入出力変数を各グループごとに抽出するグループ別入
出力変数抽出処理と、抽出したグループ別入出力変数か
らニューラルネットワークモデルの構造を決定するため
の初期ニューラルネットワークモデルを生成する処理と
からなる請求項３のニューラルネットワークモデル自動
生成方法。 - 【請求項６】上記データ分類処理は、教師データと分割
情報とグループ別ルールとから、各データが属するグル
ープの情報を各教師データに付与したグループ分類付き
教師データを生成する処理を含む請求項３のニューラル
ネットワークモデル自動生成方法。 - 【請求項７】上記ニューラルネットワークモデル学習処
理は、上記グループ分類付き教師データを、ニューラル
ネットワークモデルの各ニューロン間の結合係数である
重みの学習に適した一定区間に含まれる値に変換するデ
ータ形式変換処理と、変換した教師データを用いて、上
記重みをバックプロパゲーション法により学習する重み
係数学習処理とからなる請求項３のニューラルネットワ
ークモデル自動生成方法。 - 【請求項８】上記グループ別ルール生成処理は、上記ラ
ベル付与処理の方法を指定する分割方法オプションと教
師データとグループ指定情報とからグループ別ルールお
よび分割情報を生成する処理を含む請求項４のニューラ
ルネットワークモデル自動生成方法。 - 【請求項９】上記初期ニューラルネットワークモデル生
成処理は、上記グループ別ルールからグループ別入出力
変数を抽出するグループ別入出力変数抽出処理と、抽出
した入出力変数から初期ニューラルネットワークモデル
を生成するニューラルネットワークモデル構造決定処理
とからなる請求項３のニューラルネットワークモデル自
動生成方法。 - 【請求項１０】上記ニューラルネットワークモデル学習
処理は、上記グループ分類付き教師データと初期ニュー
ラルネットワークモデルから学習済みニューラルネット
ワークモデルを生成する処理を含む請求項３のニューラ
ルネットワークモデル自動生成方法。 - 【請求項１１】上記ラベル付与処理は、上記教師データ
中の数値属性のデータを、属性別にある位置で区切って
複数の区間データに分割する処理と、分割されたそれぞ
れの区間データにラベルを割り当てる処理とからなる請
求項４のニューラルネットワークモデル自動生成方法。 - 【請求項１２】上記分割する処理は、入出力変数ごと
に、上記教師データのヒストグラムを表示装置に表示す
る処理と、表示装置上に重ねて表示されたポインタを操
作して上記区切る位置の決定を指示する処理とを含む請
求項１１のニューラルネットワークモデル自動生成方
法。 - 【請求項１３】上記ルールグループ生成処理は、グルー
プ指定情報に従い、RIルールをルール別か出力クラス別
か総合のいずれかに分類する処理からなる請求項４のニ
ューラルネットワークモデル生成方法。 - 【請求項１４】上記ニューラルネットワークモデルの構
造を決定する処理は、上記グループ別入出力変数から既
存のモデルの構造を決定する処理と、決定された構造に
より初期ニューラルネットワークモデルを生成する処理
とからなる請求項５のニューラルネットワークモデル自
動生成方法。 - 【請求項１５】上記データ形式変換処理は、上記グルー
プ分類付き教師データ中の数値データを一定区間に含ま
れる実数値に規格化する処理と、上記記号データを一定
区間に含まれる実数値に変換する処理とからなる請求項
７のニューラルネットワークモデル自動生成方法。 - 【請求項１６】上記重み係数学習処理は、学習に適した
一定区間に含まれるデータ形式変換済み教師データを用
いて初期ニューラルネットワークモデルの各ニューロン
間の結合強度である重み係数をバックプロパゲーション
法により学習する処理からなる請求項７のニューラルネ
ットワークモデル生成方法。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6254997A JPH08123778A (ja) | 1994-10-20 | 1994-10-20 | 非線形モデル自動生成方法 |
| US08/543,998 US5819246A (en) | 1994-10-20 | 1995-10-17 | Non-linear model automatic generating method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6254997A JPH08123778A (ja) | 1994-10-20 | 1994-10-20 | 非線形モデル自動生成方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH08123778A true JPH08123778A (ja) | 1996-05-17 |
Family
ID=17272777
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP6254997A Pending JPH08123778A (ja) | 1994-10-20 | 1994-10-20 | 非線形モデル自動生成方法 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US5819246A (ja) |
| JP (1) | JPH08123778A (ja) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003535407A (ja) * | 2000-05-31 | 2003-11-25 | レキシス ネクシス | 文章中の法の支配を見つけるためのコンピュータ・ベース・システム及び方法 |
| JP2007047945A (ja) * | 2005-08-08 | 2007-02-22 | Matsushita Electric Ind Co Ltd | 予測装置 |
| JP2023097531A (ja) * | 2021-12-28 | 2023-07-10 | 尚承科技股▲フン▼有限公司 | ネットワーク行為特徴を学習するネットワーク機器、処理システムおよび方法 |
Families Citing this family (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7805388B2 (en) * | 1998-05-01 | 2010-09-28 | Health Discovery Corporation | Method for feature selection in a support vector machine using feature ranking |
| US7970718B2 (en) * | 2001-05-18 | 2011-06-28 | Health Discovery Corporation | Method for feature selection and for evaluating features identified as significant for classifying data |
| KR100396753B1 (ko) * | 2000-08-18 | 2003-09-02 | 엘지전자 주식회사 | 싸이버 공동체를 이용한 완구 학습 장치 및 방법 |
| US20030033587A1 (en) * | 2001-09-05 | 2003-02-13 | Bruce Ferguson | System and method for on-line training of a non-linear model for use in electronic commerce |
| US7054847B2 (en) | 2001-09-05 | 2006-05-30 | Pavilion Technologies, Inc. | System and method for on-line training of a support vector machine |
| US6736089B1 (en) * | 2003-06-05 | 2004-05-18 | Neuco, Inc. | Method and system for sootblowing optimization |
| US7194320B2 (en) * | 2003-06-05 | 2007-03-20 | Neuco, Inc. | Method for implementing indirect controller |
| US8214271B2 (en) * | 2004-02-04 | 2012-07-03 | Neuco, Inc. | System and method for assigning credit to process inputs |
| WO2006026479A2 (en) * | 2004-08-27 | 2006-03-09 | Neuco, Inc. | Method and system for sncr optimization |
| US7333861B2 (en) * | 2004-10-25 | 2008-02-19 | Neuco, Inc. | Method and system for calculating marginal cost curves using plant control models |
| ITTO20050164A1 (it) * | 2005-03-15 | 2006-09-16 | Eltek Spa | Apparato di refrigerazione con un sistema di alimentazione di liquido |
| US8340824B2 (en) | 2007-10-05 | 2012-12-25 | Neuco, Inc. | Sootblowing optimization for improved boiler performance |
| US20140156233A1 (en) * | 2012-12-03 | 2014-06-05 | Can Wang | Method and apparatus for electronic circuit simulation |
| CN106022470B (zh) * | 2016-04-29 | 2019-01-29 | 东南大学 | 一种基于bp-egnos融合模型的对流层延迟改正方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5339818A (en) * | 1989-09-20 | 1994-08-23 | University Of Utah Research Foundation | Method for determining blood pressure utilizing a neural network |
-
1994
- 1994-10-20 JP JP6254997A patent/JPH08123778A/ja active Pending
-
1995
- 1995-10-17 US US08/543,998 patent/US5819246A/en not_active Expired - Fee Related
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003535407A (ja) * | 2000-05-31 | 2003-11-25 | レキシス ネクシス | 文章中の法の支配を見つけるためのコンピュータ・ベース・システム及び方法 |
| JP4773672B2 (ja) * | 2000-05-31 | 2011-09-14 | レクシスネクシス ア ディヴィジョン オブ リード エルザヴィア インコーポレイテッド | 文章中の法の支配を見つけるためのコンピュータ・ベース・システム及び方法 |
| JP2007047945A (ja) * | 2005-08-08 | 2007-02-22 | Matsushita Electric Ind Co Ltd | 予測装置 |
| JP2023097531A (ja) * | 2021-12-28 | 2023-07-10 | 尚承科技股▲フン▼有限公司 | ネットワーク行為特徴を学習するネットワーク機器、処理システムおよび方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| US5819246A (en) | 1998-10-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Azadeh et al. | Improved estimation of electricity demand function by integration of fuzzy system and data mining approach | |
| JPH08123778A (ja) | 非線形モデル自動生成方法 | |
| Heiat | Comparison of artificial neural network and regression models for estimating software development effort | |
| US5940815A (en) | Data analyzing method | |
| Bloom | Tourist market segmentation with linear and non-linear techniques | |
| Jo et al. | Integration of case-based forecasting, neural network, and discriminant analysis for bankruptcy prediction | |
| Bagnoli et al. | The theory of fuzz logic and its application to real estate valuation | |
| JPH05342191A (ja) | 経済時系列データ予測及び解析システム | |
| CN106779087A (zh) | 一种通用机器学***台 | |
| CN108829763A (zh) | 一种基于深度神经网络的影评网站用户的属性预测方法 | |
| Zhao et al. | Modeling Stated preference for mobility-on-demand transit: a comparison of Machine Learning and logit models | |
| CN112541639B (zh) | 基于图神经网络和注意力机制的推荐***评分预测方法 | |
| CN111104975B (zh) | 一种基于广度学习的信用评估方法 | |
| Patil et al. | Prediction system for student performance using data mining classification | |
| CN112734154A (zh) | 一种基于模糊数相似度的多因素舆情风险评估方法 | |
| CN109948649A (zh) | 面向数据开放共享的软件访问行为数据特征表示方法 | |
| CN110991601A (zh) | 一种基于多用户行为的神经网络推荐方法 | |
| CN115221387A (zh) | 一种基于深度神经网络的企业信息整合方法 | |
| Coenen et al. | The improvement of response modeling: combining rule-induction and case-based reasoning | |
| Ali et al. | Fake accounts detection on social media using stack ensemble system | |
| CN117635238A (zh) | 一种商品推荐方法、装置、设备及存储介质 | |
| CN117746546A (zh) | 基于叫号器的服务业务办理方法及*** | |
| JPH08106448A (ja) | 気象予測装置 | |
| CN114358474A (zh) | 一种典型多能用户模型建立方法 | |
| Johnpaul et al. | Fuzzy representational structures for trend based analysis of time series clustering and classification |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Effective date: 20040126 Free format text: JAPANESE INTERMEDIATE CODE: A621 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050527 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060516 |
|
| A02 | Decision of refusal |
Effective date: 20060926 Free format text: JAPANESE INTERMEDIATE CODE: A02 |