JPH0883261A - ニューロ演算装置 - Google Patents
ニューロ演算装置Info
- Publication number
- JPH0883261A JPH0883261A JP6219179A JP21917994A JPH0883261A JP H0883261 A JPH0883261 A JP H0883261A JP 6219179 A JP6219179 A JP 6219179A JP 21917994 A JP21917994 A JP 21917994A JP H0883261 A JPH0883261 A JP H0883261A
- Authority
- JP
- Japan
- Prior art keywords
- units
- data
- unit
- neuro
- group
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Analysis (AREA)
Abstract
(57)【要約】
【目的】 データ領域の効率的な活用を図ると共に、ニ
ューロ演算の高速化を図る。 【構成】 表２はグループ結合関係テーブルの内容を示
すものであり、入力層グループｕ1 〜ｕ4 及び出力層グ
ループｕ5 〜ｕ8 と各ユニットｕ1 〜ｕ8 との結合関係
の有無を示す２値データが記載されている。表３はデー
タ配置テーブルの内容を示すものであり、表２におい
て、「１」が付された組合わせのみを取り出し、その組
合わせに含まれるユニット同士の結合度が格納されるア
ドレスとデータを記載したものである。表２における要
素数は１６個であり、表３における要素数は４×１１＝
４４個である。表１は従来のデータ配置テーブルの内容
を示すものであり全体の要素数は８×８＝６４個である
から、６４−（１６＋４４）＝４個だけメモリ領域が節
約できる。
ューロ演算の高速化を図る。 【構成】 表２はグループ結合関係テーブルの内容を示
すものであり、入力層グループｕ1 〜ｕ4 及び出力層グ
ループｕ5 〜ｕ8 と各ユニットｕ1 〜ｕ8 との結合関係
の有無を示す２値データが記載されている。表３はデー
タ配置テーブルの内容を示すものであり、表２におい
て、「１」が付された組合わせのみを取り出し、その組
合わせに含まれるユニット同士の結合度が格納されるア
ドレスとデータを記載したものである。表２における要
素数は１６個であり、表３における要素数は４×１１＝
４４個である。表１は従来のデータ配置テーブルの内容
を示すものであり全体の要素数は８×８＝６４個である
から、６４−（１６＋４４）＝４個だけメモリ領域が節
約できる。
Description
【０００１】
【産業上の利用分野】本発明は、ある対象から得られた
入力情報に対し、一定の操作を施すユニットを複数個用
いて情報の変換を行うニューロ演算装置に関する。
入力情報に対し、一定の操作を施すユニットを複数個用
いて情報の変換を行うニューロ演算装置に関する。
【０００２】
【従来の技術】近年、生体の神経細胞の情報処理をモデ
ル化したユニットを多数用いた情報処理システムが、制
御やパターン認識などに応用されている。例えば、文字
認識などでは、サンプル文字とそれが表している実際の
文字とを学習データとして与え、ネットワークの結合度
を学習し、実際に入力装置から入力された文字をそのネ
ットワークを用いて判定する。
ル化したユニットを多数用いた情報処理システムが、制
御やパターン認識などに応用されている。例えば、文字
認識などでは、サンプル文字とそれが表している実際の
文字とを学習データとして与え、ネットワークの結合度
を学習し、実際に入力装置から入力された文字をそのネ
ットワークを用いて判定する。
【０００３】ユニットは、入力に対し、ある演算を施し
て出力する多入力１出力の素子である。すなわち、図７
に示すように、複数のデータＯ1 ，Ｏ2 ，…Ｏi ，…Ｏ
n がユニットｕj に入力されるとすると、これらのデー
タにそれぞれｗ1 ，ｗ2 ，ｗi ，…ｗn を乗じたものの
合計加算値からしきい値θj を減じたものを入力値ｉと
して扱う。そして、図８に示すような出力関数ｆ(ij ）
に基いて出力値Ｏj を出力する。
て出力する多入力１出力の素子である。すなわち、図７
に示すように、複数のデータＯ1 ，Ｏ2 ，…Ｏi ，…Ｏ
n がユニットｕj に入力されるとすると、これらのデー
タにそれぞれｗ1 ，ｗ2 ，ｗi ，…ｗn を乗じたものの
合計加算値からしきい値θj を減じたものを入力値ｉと
して扱う。そして、図８に示すような出力関数ｆ(ij ）
に基いて出力値Ｏj を出力する。
【０００４】各ユニットは、他のユニットと結合してネ
ットワークを構成している。この結合は、そのユニット
間の結合の強さを、正の値、ゼロ、又は負の値として表
現した結合度（重み係数）をもっている。そして、上記
のように、各ユニットが複数のデータの入力に基いて出
力を行う動作をニューロ演算と呼ぶ。
ットワークを構成している。この結合は、そのユニット
間の結合の強さを、正の値、ゼロ、又は負の値として表
現した結合度（重み係数）をもっている。そして、上記
のように、各ユニットが複数のデータの入力に基いて出
力を行う動作をニューロ演算と呼ぶ。
【０００５】ネットワーク構造は２種類に大別される。
１つは、各ユニットが層をなし、入力情報が入力層から
出力層に向かって次々に変換される階層型ネットワーク
である。もう１つは、各ユニットが相互に結合をもつ相
互結合型ネットワークである。階層型ネットワークに
は、出力層の出力値が入力層に戻されるフィードバック
ループをもつものや、各層内だけに相互結合をもつもの
など様々なネットワークが存在する。
１つは、各ユニットが層をなし、入力情報が入力層から
出力層に向かって次々に変換される階層型ネットワーク
である。もう１つは、各ユニットが相互に結合をもつ相
互結合型ネットワークである。階層型ネットワークに
は、出力層の出力値が入力層に戻されるフィードバック
ループをもつものや、各層内だけに相互結合をもつもの
など様々なネットワークが存在する。
【０００６】図９は層内結合をもたない３層の階層型ネ
ットワークの例を示す概念図であり、図１０は層内結合
を有する２層の階層型ネットワークの例を示す概念図で
ある。
ットワークの例を示す概念図であり、図１０は層内結合
を有する２層の階層型ネットワークの例を示す概念図で
ある。
【０００７】図１１はこのようなネットワークを実現す
るための従来装置の構成を示すブロック図である。この
図において、ニューロ演算部１は前記のニューロ演算を
行うものであり、各ユニットに対応するニューロプロセ
ッサを有している。プログラム記憶部２は、このニュー
ロ演算の方法及び学習法則を記憶するものである。
るための従来装置の構成を示すブロック図である。この
図において、ニューロ演算部１は前記のニューロ演算を
行うものであり、各ユニットに対応するニューロプロセ
ッサを有している。プログラム記憶部２は、このニュー
ロ演算の方法及び学習法則を記憶するものである。
【０００８】ユニット状態記憶部３は、ある入力に対し
て一定の処理を施して得られたユニットの出力値とユニ
ットの状態（２値データで表わされる特定の状態）を記
憶するものである。結合データ記憶部４は、ユニット間
の結合の強さを示す結合度（結合の程度を示す０〜１の
数値）を記憶するものである。
て一定の処理を施して得られたユニットの出力値とユニ
ットの状態（２値データで表わされる特定の状態）を記
憶するものである。結合データ記憶部４は、ユニット間
の結合の強さを示す結合度（結合の程度を示す０〜１の
数値）を記憶するものである。
【０００９】知識ベース５は結合関係テーブル６を有し
ている。この結合関係テーブル６には、複数のユニット
の相互結合関係の有無を示す２値データが記憶されてお
り、データ配置テーブル７には、この結合関係テーブル
６に記載されたユニット同士の結合度に関するデータを
格納しているアドレスが記載されている。
ている。この結合関係テーブル６には、複数のユニット
の相互結合関係の有無を示す２値データが記憶されてお
り、データ配置テーブル７には、この結合関係テーブル
６に記載されたユニット同士の結合度に関するデータを
格納しているアドレスが記載されている。
【００１０】次に、この結合関係テーブル６の記載内容
について説明する。まず、図９の３層の階層型ネットワ
ークの場合について説明すると、この入力層はユニット
ｕ1，ｕ2 ，ｕ3 により、中間層はｕ4 ，ｕ5 ，ｕ6 に
より、出力層はｕ7 ，ｕ8 ，ｕ9 によりそれぞれ構成さ
れている。そして、各層においては層内結合は行なわれ
ていない。
について説明する。まず、図９の３層の階層型ネットワ
ークの場合について説明すると、この入力層はユニット
ｕ1，ｕ2 ，ｕ3 により、中間層はｕ4 ，ｕ5 ，ｕ6 に
より、出力層はｕ7 ，ｕ8 ，ｕ9 によりそれぞれ構成さ
れている。そして、各層においては層内結合は行なわれ
ていない。
【００１１】この図９から明らかなように、入力層のユ
ニットｕ1 ，ｕ2 ，ｕ3 のそれぞれは、中間層のユニッ
トｕ4 ，ｕ5 ，ｕ6 の全てと結合関係を有しており、ま
た、中間層のユニットｕ4 ，ｕ5 ，ｕ6 のそれぞれは、
出力層のユニットｕ7 ，ｕ8，ｕ9 の全てと結合関係を
有している。したがって、ユニット同士が結合関係を有
していることを「１」で示すことにすれば、図９の各ユ
ニット同士の結合関係は図１２（ａ）の表１１のように
表わされる。
ニットｕ1 ，ｕ2 ，ｕ3 のそれぞれは、中間層のユニッ
トｕ4 ，ｕ5 ，ｕ6 の全てと結合関係を有しており、ま
た、中間層のユニットｕ4 ，ｕ5 ，ｕ6 のそれぞれは、
出力層のユニットｕ7 ，ｕ8，ｕ9 の全てと結合関係を
有している。したがって、ユニット同士が結合関係を有
していることを「１」で示すことにすれば、図９の各ユ
ニット同士の結合関係は図１２（ａ）の表１１のように
表わされる。
【００１２】ところで、ニューロ計算は、同じような計
算を繰り返し実行するため、並列に、且つ、逐次的に処
理することができ、また、そうすることにより、高速化
を図ることができる。ユニットｕ1 ，ｕ2 ，ｕ3 は、共
にユニットｕ4 ，ｕ5 ，ｕ6へ結合をもち、しかも、そ
れら以外へは結合をもたない。したがって、図１２
（ｂ）の表１２のように、ユニットｕ4 ，ｕ5 ，ｕ6 だ
けを並列に、且つ、逐次的に処理することができる。ま
た同様に、ユニットｕ4 ，ｕ5 ，ｕ6 に関して、ユニッ
トｕ7 ，ｕ8 ，ｕ9 だけを並列に且つ逐次的に処理する
ことができる。したがって、結合テータ記憶部４に記憶
しておく結合度のデータは、実際に結合関係があるユニ
ット同士のデータのみでよいはずであり、結合関係と同
様のデータ配置テーブル７により、データを取り出すこ
とができるはずである。しかし、実際には、結合関係テ
ーブル６には、全てのユニット同士の結合関係が記載さ
れていた。
算を繰り返し実行するため、並列に、且つ、逐次的に処
理することができ、また、そうすることにより、高速化
を図ることができる。ユニットｕ1 ，ｕ2 ，ｕ3 は、共
にユニットｕ4 ，ｕ5 ，ｕ6へ結合をもち、しかも、そ
れら以外へは結合をもたない。したがって、図１２
（ｂ）の表１２のように、ユニットｕ4 ，ｕ5 ，ｕ6 だ
けを並列に、且つ、逐次的に処理することができる。ま
た同様に、ユニットｕ4 ，ｕ5 ，ｕ6 に関して、ユニッ
トｕ7 ，ｕ8 ，ｕ9 だけを並列に且つ逐次的に処理する
ことができる。したがって、結合テータ記憶部４に記憶
しておく結合度のデータは、実際に結合関係があるユニ
ット同士のデータのみでよいはずであり、結合関係と同
様のデータ配置テーブル７により、データを取り出すこ
とができるはずである。しかし、実際には、結合関係テ
ーブル６には、全てのユニット同士の結合関係が記載さ
れていた。
【００１３】次いで、図１０の２層の階層型ネットワー
クの場合について説明すると、この入力層はユニットｕ
1 〜ｕ4 により構成され、中間層はユニットｕ5 〜ｕ8
により構成されている。そして、各層において層内結合
が行なわれており、各ユニット同士の結合関係は図１３
（ａ）の表１３のように表わされる。
クの場合について説明すると、この入力層はユニットｕ
1 〜ｕ4 により構成され、中間層はユニットｕ5 〜ｕ8
により構成されている。そして、各層において層内結合
が行なわれており、各ユニット同士の結合関係は図１３
（ａ）の表１３のように表わされる。
【００１４】表１３から明らかなように、ユニットｕ1
は自己以外の全てのユニットｕ2 〜ｕ8 と結合関係を有
しているため並列的且つ逐次的な処理が可能であるが、
それ以外のユニットはユニットｕ1 のように全てのユニ
ットと結合しているわけではないため並列的且つ逐次的
に処理を行うことができない。
は自己以外の全てのユニットｕ2 〜ｕ8 と結合関係を有
しているため並列的且つ逐次的な処理が可能であるが、
それ以外のユニットはユニットｕ1 のように全てのユニ
ットと結合しているわけではないため並列的且つ逐次的
に処理を行うことができない。
【００１５】そこで、図１３（ｂ）の表１４に示すよう
に、実際には結合関係を有していないのに、恰も結合関
係を有しているかのように、結合関係のないユニットを
「０」で示すようにし、これにより並列的且つ逐次的な
処理を可能にしている。知識ベース５内の結合関係テー
ブル６には、この表４に示すような２値データ「１」，
「０」が記載されている。
に、実際には結合関係を有していないのに、恰も結合関
係を有しているかのように、結合関係のないユニットを
「０」で示すようにし、これにより並列的且つ逐次的な
処理を可能にしている。知識ベース５内の結合関係テー
ブル６には、この表４に示すような２値データ「１」，
「０」が記載されている。
【００１６】ニューロ演算装置には、各ユニットに対応
したニューロン（ネットワーク構造上のユニットと区別
するために、ニューロ演算装置内のユニットをニューロ
ンと呼ぶことにする。）があり、各ニューロンはニュー
ロプロセッサで実現している。いま、ニューロンｉをｎ
ｉと書くことにすると、図１０のネットワークにおける
ユニットｕ1 ，ｕ2 ，…，ｕ8 は、ニューロンｎ1 ，ｎ
2 ，…，ｎ8 に割当られることになる。しかし、ニュー
ロ演算装置内に入れることができるニューロン数（ニュ
ーロプロセッサ数）には、装置の面積と大きさの限界が
ある。そこで、並列処理するユニット数が装置内のニュ
ーロン数に比べて多い場合は時分割処理を行うことにな
る。例えば、装置内に６４個のニューロン（３２個のニ
ューロプロセッサで構成される。）が搭載されているも
のとすると、並列処理すべきユニット数が６５個以上に
なると時分割処理を行う。
したニューロン（ネットワーク構造上のユニットと区別
するために、ニューロ演算装置内のユニットをニューロ
ンと呼ぶことにする。）があり、各ニューロンはニュー
ロプロセッサで実現している。いま、ニューロンｉをｎ
ｉと書くことにすると、図１０のネットワークにおける
ユニットｕ1 ，ｕ2 ，…，ｕ8 は、ニューロンｎ1 ，ｎ
2 ，…，ｎ8 に割当られることになる。しかし、ニュー
ロ演算装置内に入れることができるニューロン数（ニュ
ーロプロセッサ数）には、装置の面積と大きさの限界が
ある。そこで、並列処理するユニット数が装置内のニュ
ーロン数に比べて多い場合は時分割処理を行うことにな
る。例えば、装置内に６４個のニューロン（３２個のニ
ューロプロセッサで構成される。）が搭載されているも
のとすると、並列処理すべきユニット数が６５個以上に
なると時分割処理を行う。
【００１７】
【発明が解決しようとする課題】ある入力に対して、希
望の出力を得るために、または、各ユニットの状態を得
るために、ネットワークの学習を行わなければならな
い。その学習には種々の方法がある。いま、１０００
（＝１．０×１０3 ）個のユニットで構成される相互結
合型ネットワークでは、各ユニットは全てのユニットか
らの結合をもっているとすると、総結合数は１．０×１
０6 にもなる。これらすべての結合について、所望の入
出力関係を得るためには、数百組にも及ぶ入出力データ
を教師データとして与え、学習法則を適用して結合度を
学習しなければならない。この場合、ユニットの個数、
結合の数により、学習及びネットワーク動作に要する時
間は指数関数的に急激に増加する。
望の出力を得るために、または、各ユニットの状態を得
るために、ネットワークの学習を行わなければならな
い。その学習には種々の方法がある。いま、１０００
（＝１．０×１０3 ）個のユニットで構成される相互結
合型ネットワークでは、各ユニットは全てのユニットか
らの結合をもっているとすると、総結合数は１．０×１
０6 にもなる。これらすべての結合について、所望の入
出力関係を得るためには、数百組にも及ぶ入出力データ
を教師データとして与え、学習法則を適用して結合度を
学習しなければならない。この場合、ユニットの個数、
結合の数により、学習及びネットワーク動作に要する時
間は指数関数的に急激に増加する。
【００１８】一方、図９，１０のように、すべてのユニ
ット同士が互いに結合しているわけではない所謂疎結合
のネットワークにおいては、ネットワークの規模が大き
くなるにしたがって、「０」のような意味のない無効デ
ータが付されたユニットに係るデータについてのアドレ
スを格納する要素数が多くなり、無駄なデータ領域が多
くなる。
ット同士が互いに結合しているわけではない所謂疎結合
のネットワークにおいては、ネットワークの規模が大き
くなるにしたがって、「０」のような意味のない無効デ
ータが付されたユニットに係るデータについてのアドレ
スを格納する要素数が多くなり、無駄なデータ領域が多
くなる。
【００１９】例えば、総結合数が、上記のように、１．
０×１０6 である場合に、その１％が実際には結合がな
いものであるとすると、無効データ数は１．０×１０4
となり、無駄なデータ領域は非常に大きなものとなる。
０×１０6 である場合に、その１％が実際には結合がな
いものであるとすると、無効データ数は１．０×１０4
となり、無駄なデータ領域は非常に大きなものとなる。
【００２０】また、共通処理（例えば、共通処理におけ
る時分割処理）を行う場合においても、無効データのみ
を扱う共通処理が増え、無駄な処理時間の占める割合い
が非常に大きくなる。
る時分割処理）を行う場合においても、無効データのみ
を扱う共通処理が増え、無駄な処理時間の占める割合い
が非常に大きくなる。
【００２１】すなわち、いま仮に、ニューロ演算装置の
ニューロンがｎ1 ，ｎ2 ，ｎ3 の３個であるとすると、
図１０のネットワークのユニット数は８であるから、時
分割処理を行う必要がある。いま、図１４の表１５に示
すように、ニューロンｎ1 には、ユニットｕ1 ，ｕ4 ，
ｕ7 を、ニューロンｎ2 にはユニットｕ2 ，ｕ5 ，ｕ8
を、ニューロンｎ3 にはユニットｕ3 ，ｕ6 をそれぞれ
割り当てることにする。すると、全体の時分割処理数２
４に対して無効時分割処理数が１１となり、全体の４６
％が無駄な処理ということになる。したがって、演算の
高速化を阻害する大きな要因となっていた。
ニューロンがｎ1 ，ｎ2 ，ｎ3 の３個であるとすると、
図１０のネットワークのユニット数は８であるから、時
分割処理を行う必要がある。いま、図１４の表１５に示
すように、ニューロンｎ1 には、ユニットｕ1 ，ｕ4 ，
ｕ7 を、ニューロンｎ2 にはユニットｕ2 ，ｕ5 ，ｕ8
を、ニューロンｎ3 にはユニットｕ3 ，ｕ6 をそれぞれ
割り当てることにする。すると、全体の時分割処理数２
４に対して無効時分割処理数が１１となり、全体の４６
％が無駄な処理ということになる。したがって、演算の
高速化を阻害する大きな要因となっていた。
【００２２】本発明は上記事情に鑑みてなされたもので
あり、データ領域の効率的な活用を図ると共に、ニュー
ロ演算の高速化を図ることが可能なニューロ演算装置を
提供することを目的としている。
あり、データ領域の効率的な活用を図ると共に、ニュー
ロ演算の高速化を図ることが可能なニューロ演算装置を
提供することを目的としている。
【００２３】
【課題を解決するための手段】上記課題を解決するため
の手段として、請求項１記載の発明は、ニューラルネッ
トワークを構成する複数のユニットの相互結合関係に関
するデータが記載されているテーブルを有する知識ベー
スと、前記知識ベースのテーブルに基いてニューロ演算
を行うニューロ演算部と、を備えたニューロ演算装置に
おいて、前記知識ベースは、前記複数のユニットが所定
数のグループに分けられており、各グループと各ユニッ
トとの間の結合関係を示す２値データが記載されたグル
ープ結合関係テーブルと、前記グループ結合関係テーブ
ルに記載された各グループと各ユニットとの組合わせの
うち結合関係を有することを意味する２値データが記載
された組合わせのみについて、その組合わせに含まれる
複数のユニット同士の結合度が格納されているアドレス
のデータが記載されたデータ配置テーブルと、から成る
ことを特徴とするものである。
の手段として、請求項１記載の発明は、ニューラルネッ
トワークを構成する複数のユニットの相互結合関係に関
するデータが記載されているテーブルを有する知識ベー
スと、前記知識ベースのテーブルに基いてニューロ演算
を行うニューロ演算部と、を備えたニューロ演算装置に
おいて、前記知識ベースは、前記複数のユニットが所定
数のグループに分けられており、各グループと各ユニッ
トとの間の結合関係を示す２値データが記載されたグル
ープ結合関係テーブルと、前記グループ結合関係テーブ
ルに記載された各グループと各ユニットとの組合わせの
うち結合関係を有することを意味する２値データが記載
された組合わせのみについて、その組合わせに含まれる
複数のユニット同士の結合度が格納されているアドレス
のデータが記載されたデータ配置テーブルと、から成る
ことを特徴とするものである。
【００２４】請求項２記載の発明は、請求項１記載の発
明において、前記グループ結合関係テーブルのグループ
は、共通処理が可能なユニットの集合体であること、を
特徴とするものである。
明において、前記グループ結合関係テーブルのグループ
は、共通処理が可能なユニットの集合体であること、を
特徴とするものである。
【００２５】請求項３記載の発明は、請求項２記載の発
明において、前記共通処理は時間分割処理であり、前記
ニューロ演算部は、前記個別結合関係テーブルに基いて
時分割処理を行う時分割制御手段を有すること、を特徴
とするものである。
明において、前記共通処理は時間分割処理であり、前記
ニューロ演算部は、前記個別結合関係テーブルに基いて
時分割処理を行う時分割制御手段を有すること、を特徴
とするものである。
【００２６】
【作用】請求項１記載の発明において、複数のユニット
は所定数に分けられ、各グループと各ユニットとの結合
関係を示す２値データがグループ結合関係テーブルに記
載されている。
は所定数に分けられ、各グループと各ユニットとの結合
関係を示す２値データがグループ結合関係テーブルに記
載されている。
【００２７】そして、データ配置テーブルにおいて、結
合関係を有するグループとユニットとの組合わせのみに
ついて、この組合わせに含まれる複数のユニット同士の
結合度が格納されているアドレスのデータが記載されて
いる。
合関係を有するグループとユニットとの組合わせのみに
ついて、この組合わせに含まれる複数のユニット同士の
結合度が格納されているアドレスのデータが記載されて
いる。
【００２８】もちろん、このデータ配置テーブルにおい
て無効データは存在するけれども、結合関係を有しない
グループとユニットとの組合せに属するユニットは排除
されているので、その無効データ数は従来よりも小さな
ものとなる。
て無効データは存在するけれども、結合関係を有しない
グループとユニットとの組合せに属するユニットは排除
されているので、その無効データ数は従来よりも小さな
ものとなる。
【００２９】そして、請求項２記載の発明のように、グ
ループ分けを、共通処理が可能なユニットの集合体毎に
行うようにすれば共通処理を効率的に行うことができ
る。
ループ分けを、共通処理が可能なユニットの集合体毎に
行うようにすれば共通処理を効率的に行うことができ
る。
【００３０】さらに、請求項３記載の発明のように、こ
の共通処理として時分割処理を行うようにすれば、時分
割処理を効率的に行うことができる。
の共通処理として時分割処理を行うようにすれば、時分
割処理を効率的に行うことができる。
【００３１】
【実施例】以下、本発明の実施例を図１乃至図６に基き
説明する。但し、図１１と同様の構成要素には同一符号
を付して重複した説明を省略する。
説明する。但し、図１１と同様の構成要素には同一符号
を付して重複した説明を省略する。
【００３２】図１は請求項１記載の発明の実施例に係る
ブロック図である。この実施例の知識ベース５Ａは、グ
ループ結合関係テーブル６Ａ及びデータ配置テーブル７
Ａを有している。
ブロック図である。この実施例の知識ベース５Ａは、グ
ループ結合関係テーブル６Ａ及びデータ配置テーブル７
Ａを有している。
【００３３】図２（ｂ）の表２は、図１０のネットワー
クにおけるグループ結合関係テーブル６Ａの内容を示す
ものであり、ユニットｕ1 〜ｕ4 から成る入力層グルー
プと各ユニットｕ1 〜ｕ8 との結合関係、及びユニット
ｕ5 〜ｕ8 から成る出力層グループと各ユニットｕ1 〜
ｕ8 との結合関係を示す２値データが記載されている。
クにおけるグループ結合関係テーブル６Ａの内容を示す
ものであり、ユニットｕ1 〜ｕ4 から成る入力層グルー
プと各ユニットｕ1 〜ｕ8 との結合関係、及びユニット
ｕ5 〜ｕ8 から成る出力層グループと各ユニットｕ1 〜
ｕ8 との結合関係を示す２値データが記載されている。
【００３４】図２（ｃ）の表３は、データ配置テーブル
７Ａの内容を示すものである。これは、表２におけるグ
ループとユニットとの組合わせのうち「１」が付された
もののみを取り出し、それらに含まれるユニット同士の
結合度が格納されているアドレスのデータを記載したも
のである。この表中のａ1 ，ｂ1 ，ｃ1 ，…，ｇ7 等は
アドレスデータを示しており、「０」は結合度がゼロの
データのアドレスを示している。
７Ａの内容を示すものである。これは、表２におけるグ
ループとユニットとの組合わせのうち「１」が付された
もののみを取り出し、それらに含まれるユニット同士の
結合度が格納されているアドレスのデータを記載したも
のである。この表中のａ1 ，ｂ1 ，ｃ1 ，…，ｇ7 等は
アドレスデータを示しており、「０」は結合度がゼロの
データのアドレスを示している。
【００３５】図２（ａ）の表１は従来のデータ配置テー
ブルの内容を示すものである。表１における、全体の要
素数は、８×８＝６４個であり、有効データについての
アドレス数は１９個であるから、有効活用率は１９／６
４＝０．３０すなわち３０％である。
ブルの内容を示すものである。表１における、全体の要
素数は、８×８＝６４個であり、有効データについての
アドレス数は１９個であるから、有効活用率は１９／６
４＝０．３０すなわち３０％である。
【００３６】そして、表２における要素数は１６個であ
り、表３における要素数は４×１１＝４４個である。し
たがって、６４−（４４＋１６）＝４となり、表２及び
表３のように、結合関係を階層的にしたテーブルを用い
ることにより、要素数を４個減少させることができる。
り、表３における要素数は４×１１＝４４個である。し
たがって、６４−（４４＋１６）＝４となり、表２及び
表３のように、結合関係を階層的にしたテーブルを用い
ることにより、要素数を４個減少させることができる。
【００３７】表２では、縦方向に記載されたユニットｕ
1 〜ｕ4 及びユニットｕ5 〜ｕ8 をそれぞれ入力層グル
ープ及び出力層グループとして分けたが、他の分け方と
して、並列処理を行うユニットを同一グループとする分
け方もある。
1 〜ｕ4 及びユニットｕ5 〜ｕ8 をそれぞれ入力層グル
ープ及び出力層グループとして分けたが、他の分け方と
して、並列処理を行うユニットを同一グループとする分
け方もある。
【００３８】すなわち、図３（ａ）の表４では、横方向
のユニットｕ1 〜ｕ4 及びユニットｕ5 〜ｕ8 の２つの
グループに分け、これらのグループと各ユニットとの結
合関係を示す２値データを記載している。そして、図３
（ｂ）の表４では、表４におけるグループとユニットと
の組合わせのうち「１」が付されたもののみを取り出
し、それらに含まれるユニット同士の結合度が格納され
ているアドレスのデータが記載されている。
のユニットｕ1 〜ｕ4 及びユニットｕ5 〜ｕ8 の２つの
グループに分け、これらのグループと各ユニットとの結
合関係を示す２値データを記載している。そして、図３
（ｂ）の表４では、表４におけるグループとユニットと
の組合わせのうち「１」が付されたもののみを取り出
し、それらに含まれるユニット同士の結合度が格納され
ているアドレスのデータが記載されている。
【００３９】表４における要素数は１６個であり、表５
における要素数は４×９＝３６個である。したがって、
６４−（３６＋１６）＝１２となり、表１の場合よりも
１２個だけメモリ領域を減少させることができる。
における要素数は４×９＝３６個である。したがって、
６４−（３６＋１６）＝１２となり、表１の場合よりも
１２個だけメモリ領域を減少させることができる。
【００４０】また、複数のユニットをグループ分けする
前にユニット間の組合わせを変えることも可能である。
例えば、図１３（ａ）の表１３において、縦方向のユニ
ットｕ2 ，ｕ7 間、及びユニットｕ3 ，ｕ8 間で入れ替
えを行う。図４（ａ）の表６は、この状態を表わしたも
のである。そして、この表６に基いてグループ分けを行
なったのが表７のグループ結合関係テーブルであり、表
７に対応するデータ配置テーブルの内容が表８である。
表７における要素数は１６個であり、表８における要素
数は４×１０＝４０個である。したがって、 ６４−（４０＋１６）＝８ となり、表１の場合よりも８個だけメモリ領域を減少さ
せることができる。
前にユニット間の組合わせを変えることも可能である。
例えば、図１３（ａ）の表１３において、縦方向のユニ
ットｕ2 ，ｕ7 間、及びユニットｕ3 ，ｕ8 間で入れ替
えを行う。図４（ａ）の表６は、この状態を表わしたも
のである。そして、この表６に基いてグループ分けを行
なったのが表７のグループ結合関係テーブルであり、表
７に対応するデータ配置テーブルの内容が表８である。
表７における要素数は１６個であり、表８における要素
数は４×１０＝４０個である。したがって、 ６４−（４０＋１６）＝８ となり、表１の場合よりも８個だけメモリ領域を減少さ
せることができる。
【００４１】図５は請求項３記載の発明の実施例に係る
ブロック図である。この実施例のニューロ演算部１Ａは
時分割制御手段８を有している。
ブロック図である。この実施例のニューロ演算部１Ａは
時分割制御手段８を有している。
【００４２】図６（ａ）の表９は、図１０のネットワー
クにおけるグループ結合関係テーブル６Ａの内容を示す
ものである。表１５にも示したように、ニューロンｎ1
にはユニットｕ1 ，ｕ4 ，ｕ7 を、ニューロンｎ2 には
ユニットｕ2 ，ｕ5 ，ｕ8 を、ニューロンｎ3 にはユニ
ットｕ3 ，ｕ6 を割当てることにすると、この場合は、
１サイクル目の時分割処理グループｕ1 〜ｕ3 と、２サ
イクル目の時分割処理グループｕ4 〜ｕ6 と、３サイク
ル目の時分割処理グループｕ7 ，ｕ8 とにグループ分け
が行なわれる。そして、図６（ｂ）の表１０は表９に対
応するデータ配置テーブルである。
クにおけるグループ結合関係テーブル６Ａの内容を示す
ものである。表１５にも示したように、ニューロンｎ1
にはユニットｕ1 ，ｕ4 ，ｕ7 を、ニューロンｎ2 には
ユニットｕ2 ，ｕ5 ，ｕ8 を、ニューロンｎ3 にはユニ
ットｕ3 ，ｕ6 を割当てることにすると、この場合は、
１サイクル目の時分割処理グループｕ1 〜ｕ3 と、２サ
イクル目の時分割処理グループｕ4 〜ｕ6 と、３サイク
ル目の時分割処理グループｕ7 ，ｕ8 とにグループ分け
が行なわれる。そして、図６（ｂ）の表１０は表９に対
応するデータ配置テーブルである。
【００４３】表９から明らかなように、全体の時分割処
理回数は２４回となっているが、「１」が付されている
組合わせのみの処理を行なえばよいので、実際の時分割
処理回数は１３回となる。したがって、時分割処理回数
を大幅に低減でき、ニューロ演算の高速化を図ることが
できる。
理回数は２４回となっているが、「１」が付されている
組合わせのみの処理を行なえばよいので、実際の時分割
処理回数は１３回となる。したがって、時分割処理回数
を大幅に低減でき、ニューロ演算の高速化を図ることが
できる。
【００４４】
【発明の効果】以上のように、本発明によれば、データ
領域の効率的な活用を図ると共に、ニューロ演算の高速
化を図ることが可能になる。
領域の効率的な活用を図ると共に、ニューロ演算の高速
化を図ることが可能になる。
【図面の簡単な説明】
【図１】請求項１記載の発明の実施例に係るブロック
図。
図。
【図２】図１における知識ベースが有するテーブルの内
容を示す図表。
容を示す図表。
【図３】図１における知識ベースが有するテーブルの内
容を示す図表。
容を示す図表。
【図４】図１における知識ベースが有するテーブルの内
容を示す図表。
容を示す図表。
【図５】請求項２記載の発明の実施例に係るブロック
図。
図。
【図６】図２における知識ベースが有するテーブルの内
容を示す図表。
容を示す図表。
【図７】ニューラルネットワークに用いられるユニット
の説明図。
の説明図。
【図８】図７のユニットに係る出力の関数を示す特性
図。
図。
【図９】層内結合をもたない３層の階層型ネットワーク
の概念図。
の概念図。
【図１０】層内結合を有する２層の階層型ネットワーク
の概念図。
の概念図。
【図１１】従来装置に係るブロック図。
【図１２】従来装置の課題を説明するための図表。
【図１３】従来装置の課題を説明するための図表。
【図１４】従来装置の課題を説明するための図表。
１ ニューロ演算部 ２ プログラム記憶部 ３ ユニット状態記憶部 ４ 結合データ記憶部 ５Ａ 知識ベース ６Ａ グループ結合関係テーブル ７Ａ データ配置テーブル ８ 時分割制御手段
Claims (3)
- 【請求項１】ニューラルネットワークを構成する複数の
ユニットの相互結合関係に関するデータが記載されてい
るテーブルを有する知識ベースと、 前記知識ベースのテーブルに基いてニューロ演算を行う
ニューロ演算部と、 を備えたニューロ演算装置において、 前記知識ベースは、 前記複数のユニットが所定数のグループに分けられてお
り、各グループと各ユニットとの間の結合関係を示す２
値データが記載されたグループ結合関係テーブルと、 前記グループ結合関係テーブルに記載された各グループ
と各ユニットとの組合わせのうち結合関係を有すること
を意味する２値データが記載された組合わせのみについ
て、その組合わせに含まれる複数のユニット同士の結合
度が格納されているアドレスのデータが記載されたデー
タ配置テーブルと、 を有することを特徴とするニューロ演算装置。 - 【請求項２】請求項１記載のニューロ演算装置におい
て、 前記グループ結合関係テーブルのグループは、共通処理
が可能なユニットの集合体であること、 を特徴とするニューロ演算装置。 - 【請求項３】請求項２記載のニューロ演算装置におい
て、 前記共通処理は時間分割処理であり、 前記ニューロ演算部は、前記個別結合関係テーブルに基
いて時分割処理を行う時分割制御手段を有すること、 を特徴とするニューロ演算装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6219179A JPH0883261A (ja) | 1994-09-13 | 1994-09-13 | ニューロ演算装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6219179A JPH0883261A (ja) | 1994-09-13 | 1994-09-13 | ニューロ演算装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH0883261A true JPH0883261A (ja) | 1996-03-26 |
Family
ID=16731442
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP6219179A Pending JPH0883261A (ja) | 1994-09-13 | 1994-09-13 | ニューロ演算装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0883261A (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005352900A (ja) * | 2004-06-11 | 2005-12-22 | Canon Inc | 情報処理装置、情報処理方法、パターン認識装置、及びパターン認識方法 |
| JP2020197922A (ja) * | 2019-06-03 | 2020-12-10 | 株式会社東芝 | ニューラルネットワークの演算装置、ニューラルネットワーク、ニューラルネットワークの制御方法 |
-
1994
- 1994-09-13 JP JP6219179A patent/JPH0883261A/ja active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005352900A (ja) * | 2004-06-11 | 2005-12-22 | Canon Inc | 情報処理装置、情報処理方法、パターン認識装置、及びパターン認識方法 |
| JP2020197922A (ja) * | 2019-06-03 | 2020-12-10 | 株式会社東芝 | ニューラルネットワークの演算装置、ニューラルネットワーク、ニューラルネットワークの制御方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Castillo | Functional networks | |
| CN112784964A (zh) | 基于桥接知识蒸馏卷积神经网络的图像分类方法 | |
| CN107292352A (zh) | 基于卷积神经网络的图像分类方法和装置 | |
| Funabiki et al. | A parallel algorithm for channel routing problems (VLSI) | |
| Takefuji et al. | Neural computing for optimization and combinatorics | |
| CN110223553A (zh) | 一种答题信息的预测方法及*** | |
| Chung | A neuro-based expert system for facility layout construction | |
| JPH0883261A (ja) | ニューロ演算装置 | |
| JPH02136034A (ja) | ニューラルネットワークによる最適電力負荷配分システム | |
| CN111027669A (zh) | 在现场可编程门阵列上实现深度神经网络的方法及装置 | |
| EP0595033A2 (en) | High speed segmented neural network and fabrication method | |
| Horváth | Model Organized Theoretical and Experimental Research in Collaborative Space | |
| JPH0440581A (ja) | ニューロプロセッサ | |
| Xu et al. | Synergism of neural networks and expert systems for system identification | |
| JPH02189635A (ja) | ファジィ推論装置 | |
| Hu | Intelligent engineering-its application | |
| JPH0652139A (ja) | ニューラルネットワークのデータ構造 | |
| JPH08339360A (ja) | ニューラルネットを応用した学習システム | |
| Panos | Neural networks for control system [A] | |
| Kufudaki et al. | 43. ASSOCIATIVE NEURAL NETWORKS WITH THRESHOLD-CONTROLLED ATTENTION | |
| Cordoro et al. | Dynamic business intelligence, automated decision making with Fuzzy Cognitive Maps | |
| Jaramillo-Botero et al. | Parallel, high-speed PC fuzzy control | |
| JP3389684B2 (ja) | ニューラルネットワークの学習方法 | |
| JPH0415773A (ja) | 神経回路網装置 | |
| Prat et al. | Application of a multiagent distributed architecture for time series forecasting |