JPH0342767A - 神経回路網の学習方式 - Google Patents
神経回路網の学習方式Info
- Publication number
- JPH0342767A JPH0342767A JP1178319A JP17831989A JPH0342767A JP H0342767 A JPH0342767 A JP H0342767A JP 1178319 A JP1178319 A JP 1178319A JP 17831989 A JP17831989 A JP 17831989A JP H0342767 A JPH0342767 A JP H0342767A
- Authority
- JP
- Japan
- Prior art keywords
- learning
- pattern
- category
- pseudo
- patterns
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 claims abstract description 20
- 238000013528 artificial neural network Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000001537 neural effect Effects 0.000 claims 2
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 claims 1
- 238000003909 pattern recognition Methods 0.000 abstract 1
- 230000006870 function Effects 0.000 description 3
- 210000002569 neuron Anatomy 0.000 description 3
- 238000013529 biological neural network Methods 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。
め要約のデータは記録されません。
Description
【発明の詳細な説明】
〔概要〕
音声９文字１図形等の各種パターンを学習して、未知の
入力パターンを識別する神経回路網の学習方式に関し、 学習パターンが少ない場合においても、マルチテンプレ
ート法等の従来方式に劣らぬ未知の入力パターンに対す
る識別性能を確保することを目的とし、 与えられた学習パターンから擬似学習パターンを自動生
成し、又は、乱数により擬似学習パタンを自動生成し、
更に、各生成された擬似学習パターンのカテゴリ番号（
［２］）を、カテゴリ決定部において、例えば、マルチ
テンブレー１へ法により決定することにより、非常に多
くの擬似学習パタンを用意できるように構成する。
入力パターンを識別する神経回路網の学習方式に関し、 学習パターンが少ない場合においても、マルチテンプレ
ート法等の従来方式に劣らぬ未知の入力パターンに対す
る識別性能を確保することを目的とし、 与えられた学習パターンから擬似学習パターンを自動生
成し、又は、乱数により擬似学習パタンを自動生成し、
更に、各生成された擬似学習パターンのカテゴリ番号（
［２］）を、カテゴリ決定部において、例えば、マルチ
テンブレー１へ法により決定することにより、非常に多
くの擬似学習パタンを用意できるように構成する。
本発明は、音声９文字９図形等の各種パタ−ンを学習し
て、未知の入力パターンを識別する神経回路網の学習方
式に関する。
て、未知の入力パターンを識別する神経回路網の学習方
式に関する。
最近の計算機システムの処理能力の向上に伴って、生物
の神経回路網を模した学習装置が実用化されつつある。
の神経回路網を模した学習装置が実用化されつつある。
このような学習装置では、できる限り少ない学習パター
ンで認識率の高い学習装置が構築できることが必要とさ
れる。
ンで認識率の高い学習装置が構築できることが必要とさ
れる。
〔従来の技術と発明が解決しようとする課題〕第４図は
従来の神経回路網の学習方式を説明する図である。
従来の神経回路網の学習方式を説明する図である。
神経細胞の機能を備えた複数の回路により１つの層を形
威し、入力層、１乃至複数の隠れ層、出力層の複数の層
からなる神経回路網により、学習機能を備えたパターン
識別装置を実現させることは従来から知られている。
威し、入力層、１乃至複数の隠れ層、出力層の複数の層
からなる神経回路網により、学習機能を備えたパターン
識別装置を実現させることは従来から知られている。
その場合、人力された学習パターン（ｘ＋〜ＸＮ）に対
して、各神経細胞に如何なる重み係数を与えるかを求め
ることが学習であり、複数の学習パタンに対して、その
都度、それぞれに所望の固有の出力を発生ずるように、
学習の各段階の出力と所望の出力（該学習パターンに対
応したカテゴリ番号のに基づいた教師信号）との誤差Ｅ
を検出して、その差が最も小さくなるように、学習機構
内の「Ｕ４．更新係数演算部Ｊ６４．ｒＶ（ｊ更新係数
演算部」６７で、該神経回路網を構成している出力層。
して、各神経細胞に如何なる重み係数を与えるかを求め
ることが学習であり、複数の学習パタンに対して、その
都度、それぞれに所望の固有の出力を発生ずるように、
学習の各段階の出力と所望の出力（該学習パターンに対
応したカテゴリ番号のに基づいた教師信号）との誤差Ｅ
を検出して、その差が最も小さくなるように、学習機構
内の「Ｕ４．更新係数演算部Ｊ６４．ｒＶ（ｊ更新係数
演算部」６７で、該神経回路網を構成している出力層。
隠れ層の各神経細胞の重み係数Ｕ ｊ ｋ ＋ Ｖ
ｉ ｊを更新する作業を繰り返し行う方法としてバック
プロバケーション法が知られている。
ｉ ｊを更新する作業を繰り返し行う方法としてバック
プロバケーション法が知られている。
この方法による学習では、パターン入力に対して各層の
細胞に与える重み係数の初期値は、乱数発生部６８によ
り発生した値を用いており、誤差（ｉｉＥが減少しなく
なった時点で、該学習を終了するように機能する。
細胞に与える重み係数の初期値は、乱数発生部６８によ
り発生した値を用いており、誤差（ｉｉＥが減少しなく
なった時点で、該学習を終了するように機能する。
Claims (5)
- （１）未知の入力パターンのカテゴリを識別する神経回
路網の本体（６０〜６３）と、 複数個の学習パターンと、各学習パターンのカテゴリ番
号を記憶する学習パターン記憶部（７２）と、該カテゴ
リ番号から教師信号を生成する教師信号生成部（７３）
と、 上記学習パターンと、教師信号とに基づいて、該神経回
路網（６０〜６３）の学習を行う学習機構（６４〜７０
）と、 該学習機構（６４〜７０）を制御する学習制御部（７４
）とを有する神経回路網において、 学習時に、上記学習パターンの上記カテゴリ番号（［１
］）を、特定の手段で変換して、新たなカテゴリ番号（
［２］）を決定するカテゴリ決定部（１０１）を設け、 該カテゴリ決定部（１０１）から出力されるカテゴリ番
号（［２］）を学習の為のカテゴリ番号として用いるこ
とを特徴とする神経回路網の学習方式。 - （２）上記カテゴリ決定部（１０１）における学習パタ
ーンのカテゴリ番号 （１）を変換する手段として、マ
ルチテンプレート法による認識結果を計算する手段を用
いることを特徴とする請求項１に記載の神経回路網の学
習方式。 - （３）上記マルチテンプレート法による認識結果を算出
する手段を用いたカテゴリ決定部（１０１）に対する未
知入力パターンとして、上記学習パターン記憶部（７２
）からの学習パターンから擬似学習パターンを生成する
擬似学習パターン生成部（１００）を備え、該擬似学習
パターン生成部（１００）の出力を用いることを特徴と
する請求項１、２に記載の神経回路網の学習方式。 - （４）上記擬似学習パターン生成部（１００）として乱
数発生機構を用いることを特徴とする請求項１、２、３
に記載の神経回路網の学習方式。 - （５）上記擬似学習パターン生成部（１００）として、
上記学習パターン記憶部（７２）からの任意の２個以上
の学習パターン間の演算により、該擬似学習パターンを
生成する機構を用いることを特徴とする請求項１、２、
３に記載の神経回路網の学習方式。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP1178319A JPH0342767A (ja) | 1989-07-11 | 1989-07-11 | 神経回路網の学習方式 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP1178319A JPH0342767A (ja) | 1989-07-11 | 1989-07-11 | 神経回路網の学習方式 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH0342767A true JPH0342767A (ja) | 1991-02-22 |
Family
ID=16046404
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP1178319A Pending JPH0342767A (ja) | 1989-07-11 | 1989-07-11 | 神経回路網の学習方式 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0342767A (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5490223A (en) * | 1993-06-22 | 1996-02-06 | Kabushiki Kaisha Toshiba | Pattern recognition apparatus |
-
1989
- 1989-07-11 JP JP1178319A patent/JPH0342767A/ja active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5490223A (en) * | 1993-06-22 | 1996-02-06 | Kabushiki Kaisha Toshiba | Pattern recognition apparatus |
| US5748769A (en) * | 1993-06-22 | 1998-05-05 | Kabushiki Kaisha Toshiba | Pattern recognition apparatus |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Back et al. | FIR and IIR synapses, a new neural network architecture for time series modeling | |
| Ferreira et al. | Comparing recurrent networks for time-series forecasting | |
| CN114912357A (zh) | 基于用户模型学习的多任务强化学习用户运营方法及*** | |
| Liu et al. | Evolving neural networks for Hang Seng stock index forecast | |
| JP3515267B2 (ja) | 多層神経回路網学習装置 | |
| JPH0784978A (ja) | ニューラルネットワーク装置およびその学習方法 | |
| JPH0342767A (ja) | 神経回路網の学習方式 | |
| JPH05197705A (ja) | ニューラルネットワークの学習システム | |
| JP2736361B2 (ja) | ニューラルネット構成方法 | |
| Zhang et al. | Hybrid adaptive learning control of nonlinear system | |
| Liu et al. | A new learning algorithm for feedforward neural networks | |
| Kaur et al. | Extended Bipolar Sigmoid Algorithm for Enhancing Performance of Constructive Neural Network | |
| JP3310009B2 (ja) | ニューラルネットワークシステム | |
| JPH05128082A (ja) | 階層ネツトワーク構成データ処理装置とその学習処理方法 | |
| Hwang et al. | Fast learning neural network with modified neurons | |
| Zhao et al. | Stochastic connection neural networks | |
| Liu | Open-loop training of recurrent neural networks for nonlinear dynamical system identification | |
| Petridis et al. | Recurrent neural networks as pattern generators | |
| CN116663622A (zh) | 一种生物可信的神经元计算电路及计算方法 | |
| Liu et al. | An improved fuzzy identification method based on Sigmoid data transfer function | |
| Vassiliadis | Neural networks-twelve learning algorithms | |
| JPH0512239A (ja) | 相互結合ネツトワーク構成データ処理装置とその学習処理方法 | |
| JP2000122991A (ja) | 制御装置の製造方法、制御装置、データ生成装置、入出力特性決定方法及び相関関係評価方法 | |
| JP3389684B2 (ja) | ニューラルネットワークの学習方法 | |
| JPH03260807A (ja) | 階層ネットワーク構成ファジィ制御器 |