JPH03236275A - メモリ素子およびメモリ装置 - Google Patents

メモリ素子およびメモリ装置

Info

Publication number
JPH03236275A
JPH03236275A JP2032703A JP3270390A JPH03236275A JP H03236275 A JPH03236275 A JP H03236275A JP 2032703 A JP2032703 A JP 2032703A JP 3270390 A JP3270390 A JP 3270390A JP H03236275 A JPH03236275 A JP H03236275A
Authority
JP
Japan
Prior art keywords
voltage
memory
memory device
circuit
capacitor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2032703A
Other languages
English (en)
Inventor
Yasuo Isono
磯野 靖雄
Hiroshi Nakano
洋 中野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP2032703A priority Critical patent/JPH03236275A/ja
Priority to US07/651,654 priority patent/US5220202A/en
Publication of JPH03236275A publication Critical patent/JPH03236275A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065Analogue means
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C11/00Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
    • G11C11/21Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using electric elements
    • G11C11/22Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using electric elements using ferroelectric elements
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C11/00Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
    • G11C11/21Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using electric elements
    • G11C11/34Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using electric elements using semiconductor devices
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03KPULSE TECHNIQUE
    • H03K17/00Electronic switching or gating, i.e. not by contact-making and –breaking
    • H03K17/51Electronic switching or gating, i.e. not by contact-making and –breaking characterised by the components used
    • H03K17/80Electronic switching or gating, i.e. not by contact-making and –breaking characterised by the components used using non-linear magnetic devices; using non-linear dielectric devices
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03KPULSE TECHNIQUE
    • H03K3/00Circuits for generating electric pulses; Monostable, bistable or multistable circuits
    • H03K3/02Generators characterised by the type of circuit or by the means used for producing pulses
    • H03K3/45Generators characterised by the type of circuit or by the means used for producing pulses by the use, as active elements, of non-linear magnetic or dielectric devices
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C11/00Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
    • G11C11/21Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using electric elements
    • G11C11/22Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using electric elements using ferroelectric elements
    • G11C11/223Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using electric elements using ferroelectric elements using MOS with ferroelectric gate insulating film

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Computer Hardware Design (AREA)
  • Nonlinear Science (AREA)
  • Semiconductor Memories (AREA)
  • Semiconductor Integrated Circuits (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は、ニューロン素子として機能するメモリ素子お
よびメモリ装置に関する。
〔従来の技術〕
近年、ニューラル・ネットワーク(神経回路網)を用い
た情報処理の研究が盛んに行なわれており、図形、文字
等のパターン認識、音声確認、ロボット等の機械制御、
エキスパートシステムなどの認識処理、データ圧縮、画
像復元といった広い範囲で成果を挙げている。特に、認
識分野は、ニューラルネットワークを応用しやすい分野
の1つであると考えられている。
従来の、すなわちノイマン型コンピューターが数値及び
記号を中心とした直列的情報処理を得意とするのに対し
て、ニューラルネットワークは並列処理の計算モデルに
適していると考えられる。
すなわちニューラルネットワークは生物の脳と神経回路
網の機能や構造を模倣した計算モデルの実現に向いてお
り、これを電子回路や光回路等で実現したシステムのこ
とをニューロコンピューターと呼んでいる。
第14図に生物の神経細胞にニューロン)の構造を示す
。この神経細胞内を情報処理機能によって分類すると、
シナプス1、樹状突起2、軸索4及び細胞体6に分かれ
る。1つのニューロンは電子回路にたとえると1つの論
理演算回路と見なすことができる。シナプス1は他のニ
ューロンからの信号を受は取るインターフェースの役割
をする。
このシナプス1に入った信号は樹状突起2(人力線)を
通り細胞体6に達する。細胞体6では複数の樹状突起2
から入った信号を加算し、その値が一定値を越えると軸
索4(出力線)を通じて次のニューロンへ信号を出力す
る。シナプス1の働きには興奮性と抑制性の2種類があ
る。興奮性シナプスから入った信号は細胞体6の信号レ
ベルを高める側に、抑制性シナプスから入った信号は細
胞体6の信号レベルを下げる方向に働く。又、シナプス
1が細胞体6に信号を伝える際には、その信号かどのニ
ューロンから来たかによって伝える信号の強度を変えて
いる。このような信号の強度を結合の重み付けと呼んで
いる。生体に於けるニューラルネットワークのメモリー
機能と処理能力はニューロン間の接続の仕方と、それら
の重みが形成するパターンにあると一般には考えられて
いる。
人間の脳にはニューロンが約1010個あると言われて
いる。そしてこのニューラルネットワーク中では多くの
情報が並列に処理されているため1ニユーロンの動作周
波数が低いにもかかわらず、結果的には単位時間当り膨
大な量の情報を処理している。
従って脳の情報処理手法を手本に、そのニューラルネッ
トワークモデルを、例えばLSIチップ上で実現すると
高速処理の可能な実用的システムを低コストで作ること
ができる。その結果、プログラムネ用の情報処理が可能
になり年々膨大になりつつあるソフトウェアの開発負担
が軽くなる。
又、直列処理型の従来コンピューターでは苦手とされて
きた画像認識やパターン認識、音声認識の分野の道を開
くと期待されている。
以上の様な情報処理技術研究を背景として、現在ニュー
ラルネットワークのハードウェアによる実現にニューロ
チップ)の研究、開発が活発に行なわれている。取り扱
う信号の種類は電流(又は電圧)と光に大きく分けられ
る。電気系の二ニーロンは、さらに取り扱う信号はアナ
ログとデジタルに分けられる。
ここでは電気信号をアナログ処理するタイプのニューロ
チップについて説明する。最も単純化されたニューロチ
ップの構成は次の様になる。すなわち、入力xi  (
i=1.2,3.・・・、n)に対して下式で示される
yを出力する演算素子を複数個並べた構成である。
y−1,もしX≧0のとき y−0,もしX≧0のとき、      ・・・(1)
この様な演算素子は生物の神経回路網におけるニューロ
ンと動作的に対応がつくので通常「ニューロン素子」と
呼ぶ。
この様なニューロン素子をアナログ電子回路で構成した
ものを第15図に示す。
キルヒホッフの法則により、過渡状態ではとなり、定常
状態ではdui/dL−0となるので、ui/R1−Σ
 vixj+it                −
(4)i−1 (4)式の−If−θに置き換え R1−1とすると (2)式と同じになりuiがXに対応することになる。
又、増幅器の特性g(uf)を、例えばy = g(u
i)−1/ il+exp(−X /λ)l     
−(5)なるシグモイド関数にしておくとλ→0のとき
には(1)式に一致する。
〔発明が解決しようとする課題〕
以上の様なアナログニューロンを備えたユーラルネット
ワークチップ実現の試みが現在活発に行なわれており、
特に第15図における各抵抗wiをどの様な素子で実現
するかが課題となる。
この抵抗wiは各人力信号xtを取り込む際の重み付け
になっているので、ニューロンと対応させるとシナプス
1に相当する回路素子である。この抵抗wiにはMOS
トランジスタのオン抵抗を使うものをはじめオンするト
ランジスタの数、RAMを使ってトランジスタをオン・
オフさせるもの、アモーファスSi :Hを用いるもの
、MNOSを使ったもの等がある。
MOSトランジスタのオン抵抗やオンするトランジスタ
の数を用いるタイプはメモリ部分も含めてすべての動作
をトランジスタによって行なっているためトランジスタ
の数は膨大になり、かつ回路は非常に複雑になる。
重みwiを回路上に記憶させるためのメモリ部をトラン
ジスタ回路で組んだもの(RAMを含む)やMNOSを
用いた場合、その記憶値は片極性(正又は負)となる。
しかし通常のニューロンのシナプス部の働きには前に述
べた様に興奮性と抑制性の2種があり、これに対応した
働きを電子回路で行なうためには重みwiの値は両極性
(正及び負)である必要がある。従って上で述べた片極
性のみのメモリを用いて重みwiの値を設定する回路で
は正極性(興奮性)結合を受は持つ部分と負極性(抑制
性)結合を受は持つ部分の2頭域に分割して回路を組む
必要が生じてくる。そのため素子数及び回路の複雑さは
さらに増大することになり、又、信号の処理方法も複雑
になるといった問題がある。
又、抵抗にアモーファスSi:Hを用いた場合には、重
みwiを記憶する動作と、結合(電流の制御)の2種の
動作をアモーファスSi :H膜が兼ねた構成となるの
で、素子数が減少するという長所はあるが、wiの値が
片極性であるという点は前述の素子と同じで回路、信号
処理法の複雑さは改善されない。しかも、アモーファス
Si :Hの電気抵抗は比較的大きいための信号処理速
度が遅い欠点がある。
本発明は以上のような実情に鑑みてなされたもので、回
路素子数が少なく、回路構成及び情報部上で極めて有用
なメモリ素子およびメモリ装置を提供することを目的と
する。
〔課題を解決するための手段〕
本発明は上記課題を解決するために、絶縁層およびこの
絶縁層の上下に対向配置された導電体層からなり非線形
の導電率特性を有する非線形導電率素子と、この非線形
導電率素子に直列に接続され電荷保持特性を有する電荷
保持素子と、この電荷保持素子の電圧によって導通制御
され印加される読出し電圧によって前記電荷保持素子に
記憶されている情報を読出すスイッチング素子とを備え
る構成とした。
また、上記課題を解決するために、上記スイッチング素
子を、正の読出し電圧が印加され前記電荷保持素子の電
圧によって導通制御される第1のトランジスタと、負の
読出し電圧が印加され前記電荷保持素子の電圧によって
導通制御される第2のトランジスタとから構成した。
さらに、上記課題を解決するために、上記メモリ素子を
複数配し、少なくとも2以上のメモリ素子の各スイッチ
ング素子の読出し電圧が印加される入力端子を共通接続
し、かつ、それらメモリ素子の各スイッチング素子の読
出し側の出力端子を共通接続して複数のメモリ素子をマ
トリクス配線する構成とした。
〔作用〕
本発明は以上のような手段を講じたことにより、非線形
導電率素子に入力情報に基いた書き込み電圧が印加され
ると、非線形導電率素子がオン、オフ動作して電荷保持
素子に入力情報が電荷として保持される。一方、スイッ
チング素子に読出し電圧を印加すると、電荷保持素子に
蓄積されている電荷に応じて、すなわち記憶情報に基い
て、例えばrlJ、rOJ情報が読出されるものとなる
また、スイッチング素子を正の電圧および負の電圧が印
加される第1および第2のトランジスタで構成したので
、シナプスの興奮性と抑制性の働きを一つのメモリ素子
で実現できるものとなる。
また、上記したメモリ素子をマトリクス配線して、スイ
ッチング素子の入力端子および各スイッチング素子の出
力端子がそれぞれ複数のメモリ素子間で共通接続してい
るので、各電荷保持素子にベクトル演算情報を記憶させ
ておけばベクトル情報を入力することにより、複数のメ
モリ素子において並列演算が実行されニューロン素子と
して機能するものとなる。
〔実施例〕
以下、本発明の詳細な説明する。
第1図は本発明の第1実施例に係るメモリ素子の構成を
示す図である。このメモリ素子は、非線形導電率特性を
有するMIM素子11と電荷保持素子であるキャパシタ
ー12が直列接続されていて、キャパシター12の電圧
がn−MOSトランジスター13及びp−MOS)−ラ
ンシスター14のゲート電極に印加される如く接続され
ている。
n−MOSトランジスター13のドレイン電極はスイッ
チS1を介して直流電源に接続さていて、正の電圧が印
加される。また、p−MOS)ランシスター14はソー
ス電極がスイッチS2を介して直流電源に接続されてい
て、負の電圧が印加される構成となっている。この様に
構成されたMIM素子]1.キャパシター12.MOS
トランジスタ13,14.スイッチSl、52等から一
つのニューロン素子(シナプス回路)10を構成してい
る。また、本実施例では、各二ニーロン素子10のn−
MOS)ランシスター13のソース電極およびp−MO
Sトランジスター14のドレイン電極すなわち各ニュー
ロン素子の出力端子Pl、P2・・・がそれぞれ共通読
出しラインL1に接続されている。
上記MIM素子11は、LB膜(ラングミュアブロジェ
ット法にて作成された単分子膜およびその積層膜)を上
下から2枚の金属電極で挟んだ構成であり、一方の電極
には書込電極15が設けられ、他方の電極はキャパシタ
ー12に接続されている。このMIM素子11とキャパ
シター12を直列接続すると履歴現象を示す。
この履歴現象を利用したメモリ機能について説明する。
たとえば、第2因に示すように、2枚の金属電極21.
22で絶縁体23を挾んだMIM構造素子において、絶
縁体23を100人オーダの薄膜にすると、2枚の金属
電極22.23間にトンネル電流が流れる。このトンネ
ル電流は、その電流−電圧特性に非線形性が現れる。
例えば、絶縁体23として高分子有機化合物であるポリ
イミドをLB法で薄膜化した物を用いると、厚さ120
人の時の電流−電圧特性は第3図に示す特性となる。こ
の特性はほぼ指数関数的になっているので、高電圧部で
はON状態、低電圧部ではOFF状態を示すスイッチン
グ素子として機能することがわかる。このMIM素子を
キャパシター01に直列接続して、MIM素子の端子V
inに正負対称の矩形波を入力すると、キャパシター0
1の電圧となる端子v outとは第4図に示すような
履歴を示す。すなわち、v out電圧にはVin電圧
が上昇するときと減少するときで違う道すじを通る。そ
のため正の単一パルスを印加すると正の電圧が、負の単
一パルスを印加すると負の電圧が記憶される電荷メモリ
として機能する。なお、M I M素子の更に具体的な
動作については、本出願人がすでに出願済みの特願平1
−084446号に詳述されている。
次に、上記のように構成されたメモリ素子の動作につい
て説明する。
先ず、MIM素子11の書込電極15に記憶情報に基づ
いた電圧を印加して、キャパシター12に記憶する。次
に、n−MO8)ランシスター13のドレイン電極にス
イッチS1を介して正電圧を印加し、p−MO3)ラン
シスター14のソース電極にスイッチS2を介して負電
圧を印加する。その結果、キャパシター12に蓄積され
ている電荷の極性に従って正または負の電流が共通読出
しラインL1に読出され、一端が共通読出しラインL1
に接続され他端がアースされた電流計16で観察される
例えば、キャパシター12に正の電圧が印加されている
場合、n−MOS)ランシスター13のみがオン状態と
なるので、n−MOSトランジス13のソース電極から
アースの方向へ電流(以下、この方向の電流を「正の電
流」と呼ぶ)が流れるのか電流計16で観察される。ま
た、キャパシター12に負の電圧が印加されている場合
、p−MO8)ランシスター14のみがオン状態となり
、アースからp−MOSトランジスター14のドレイン
電極の方向へ電流(以下、この方向の電流を「負の電流
」と呼ぶ)が流れるのが電流計16で観察される。この
様な、MIM素子11とキャパシター12からなるメモ
リ回路と、n−MOS)ランシスター13およびp−M
OSトランジスター14のコンプリメンタリ−接続を組
み合わせた回路を、生物のニューロンとの対応で便宜的
に「シナプス回路」と呼ぶ。
以上述べた様な本実施例に係るメモリ素子を、第15図
に等価回路を示したニューロン素子と対比して説明する
。第15図において各入力端子xiとロード抵抗R3を
結合している抵抗w1は第1図におけるn−MOSトラ
ンジスター13又はp−MOSトランジスター14のド
レイン−ソース間抵抗に対応する。又、このドレイン−
ソース間抵抗の大きさはMIM素子11とキャパシター
12の直列回路によってキャパシター12に記憶されて
いる制御データで各トランジスター13゜14のゲート
電極を励起することにより決定される。さらにはキャパ
シター11に記憶されている制御データが正か負のいず
れかによりn −M OSトランジスター13又はp−
MOSトランジスター14のいずれかがオンされるわけ
だが、n−MOSトランジスター13又はp−MOSト
ランジスター14はそれぞれ正又は負の電流に対する結
合抵抗として働くので本発明のメモリー素子におけるシ
ナプス回路は興奮性及び抑制性の2種類の結合機能を兼
ね備えていることになる。又、各シナプス回路10に設
けられたスイッチSl。
S2の開閉を連動して行なう動作は、n−MOSトラン
ジスタ13及びp−MOSトランジスタ14にバイアス
電圧を印加する作用を持つので第15図において入力端
子xiに入力信号を印加する動作に対応する。
又、第15図におけるロード抵抗Riは回路に流れた電
流を電圧に変換して観察するための素子であるから、第
1図の電流計16に機能的には対応する。又、第15図
において重み付けされた入力信号を増幅する増幅器は第
1図に設けられてはいないが電流計16の出力信号を増
幅器に入力して処理することは容易なことである。さら
に第15図において結合抵抗w1は1つのロード抵抗R
1に対して複数個あり、それぞれのwlに入力端子x1
が設けられている。第1図において結合抵抗wiと入力
端子x1に相当した機能を持ったシナプス回路が複数個
同一の共通読出しラインL1に接続されており、それぞ
れのシナプス回路に流れた電流を符号を含めて和算し、
1つの電流計16で観測していることも第15図の等価
回路と対応している。
以上の様に本実施例のメモリ素子は第15図に示すニュ
ーロン素子の等価回路と機能的に対応しているためニュ
ーロン素子として機能させることができる。さらに本実
施例のメモリ素子は、シナプス回路が2つのトランジス
ター13.14と1つのM I M素子11及び1つの
キャパシター12から構成しているので、部品点数が少
なく、回路構成を単純にすることができる。その結果、
ニューロン素子のチップ化に際して集積度を上げること
ができ、消費電力を下げる(発熱を下げる)ことができ
、さらにシナプス回路の寄生容量を低下させて動作周波
数を上昇させるのに極めて有利となる。又、回路構成が
単純であるということは各構成素子間あるいは配線間の
干渉が少なく、又各構成素子のバラツキの伝播度も少な
くなるため、安定な動作をするメモリ素子を容易に、し
かも再現性よく作製することができる。
又、本実施例のメモリ素子は、MIM素子11の1層(
絶縁III)に用いられるLB膜は基板に単結晶材料を
必要としないため、比較的平坦な蒸着金属面上に容易に
作製可能である。従って、シナプス回路をチップ化する
際、例えばキャパシター12上にMIM素子コ1を比較
的容易に作製できて3次元化することができ、集積度を
さらに上昇させることが可能になる。また、各配線間の
絶縁膜やトランジスターのパッシベーション膜等の上に
エツチング等の前処理をせずにMIM素子1〕を作製す
ることができるのでチップ化プロセスが大幅に簡略化で
きる利点も持っている。
又、MIM素子]1の2つのM層(電極)は同種の金属
で作製することができるのでそのスイッチング特性は正
及び負のバイアス電圧に対して対称の特性を有する。従
ってMIM素子11とキャパシター12の直列接続によ
るメモリ回路は同一の回路で正及び負の電圧を記憶する
ことのできる両極性メモリとすることができる。このこ
とは1シナプスが興奮性と抑制性の2つの作用を兼ねる
というニューロン素子にとって最も本質的な用件を満た
すために決定的な役割を果たしている。すなわち、キャ
パシター12の電圧をコンプリメンタリ−接続された2
つのトランジスター13゜14の両方のゲート電極に供
給することにより1つのシナプス回路に興奮性と抑制性
の2つの作用を持たせることができる。従来のニューロ
ン素子に用いられていたRAMやROM等の半導体メモ
リは、そのメモリ値が正又は負の片極性であったため、
その値によって制御される結合抵抗も興奮性又は抑制性
のいずれかの作用しか持たず、その結果、1つのニュー
ロン素子中には興奮性シナプス回路と、抑制性シナプス
回路の2系統を独立に設けていたことと比べると本実施
例は、そのシナプス回路数が従来のものの半分で同じ動
作が行なえる様になっている。このことは前述の部品点
数が少ないこと、及び回路が単純であること以上に素子
の集積化にとって有利な点である。
さらに本実施例のメモリ素子中のキャパシター12に充
電された電圧(メモリー電圧)は、そのメモリー電圧を
書き込んだ時とは逆極性の電圧をメモリー書込電極15
に印加することにより消去することができ、又新たに情
報を書き込むことが可能である。これはシナプスの結合
状態を変更することができるということであり、同一の
プロセスで作製したニューロン素子に様々な特性を持た
せたり、途中でその特性を変更することが容易となり極
めて幅広い使用法が可能となる。
次に、第2実施例について説明する。
第5図は第2実施例に係るメモリ装置の構成を示す図で
ある。同図に示す31.32.33はシナプス回路であ
り、各シナプス回路31〜33の一方の入力端子は各々
スイッチ5lla。
512a、513aを介して+5■の直流電源に接続さ
れ、他方の入力端子は各々スイツS 11 b。
512b、513bを介して一5Vの直流電源に接続さ
れている。一方、各シナプス回路31〜33の各出力端
子は一端がアースされた共通読出しラインLllに共通
接続されている。
シナプス回路31〜33の具体的な構成を第6図に示す
。同図に示すように、シナプス回路31〜33の基本的
な構成は第1図に示すニューロン素子と同じ構成である
。メモリ回路は、ポリイミドLB膜35を1層としたM
IM素子36とキャパシター37の直列接続回路より成
る。MIM素子36は、スライドガラスを基板38とし
てアルミニウムの蒸着膜を上下2枚の電極(M)39a
39bとし、40分子層(160人厚)のポリイミドL
B膜35を絶縁層としたMIM構造の素子である。アル
ミニウム電極39は直径3 +amの円形である。この
様なMIM素子36の一方の電極と、一方の電極がアー
スされているキャパシター37の他方の電極とに、n−
チャネルFET41およびp−チャネルFET42のド
レイン電極が接続されている。n−チャネルFET41
には2SK216を、p−チャネルFET42には2S
J79を用い 書き込み電極に±9V、幅10C1nS
の矩形パルスを印加したところ、キャパシター37には
+2Vの電圧がメモリー電圧として記録された(複合同
順)。また、各シナプス回路31〜33は、n−チャネ
ルFET41のソースとp−チャネルFET42のドレ
インが共にi端子43に接続されている。シナプス回路
313233におけるi端子43は3つ共まとめて電流
計34に接続されている。又、各シナプス回路31〜3
3のローチャネルFET41のドレイン電極側となるj
子端子44は、それぞれスイッチS]la、512a、
313aを介して+5vの直流電源に接続されている。
同様に各シナプス回路のp−チャネルFET42のソー
ス電極側となる」一端子45はスイッチ5llb、51
2b。
513bを介して一5vの直流電源に接続されている。
J子端子44とj一端子45に接続されているスイッチ
は各シナプス回路毎に連動させてお(。
本実施例のメモリ装置の基本的な動作は第1実施例と同
様である。すなわち、キャパシター37に+2Vが充電
されているシナプス回路において、入力スイッチをオン
させるとn−チャネルFET41のみがオンされるので
J子端子44からi端子43を経由して電流計34に+
200mAの電流が流れる。同様にしてキャパシター3
7に一2■が充電されている場合は電流計34には一2
00mAの電流が流れる。又、キャパシター37が充電
されていない場合、FET41,42は両方ともオンさ
れず、電流は流れない。電流計34では流れた電流の総
和が観njされる。
例えば、第7図に示すように、シナプス回路31.32
.33のキャパシター37に+2Vの電圧を様々な組み
合わせで充電させておく。すなわち興奮性、抑制性結合
の重み付けを様々な組み合わせて記憶させる。ただし、
簡単のために入力スイッチSll、12.13はすべて
オン(すべてのシナプス回路に信号が入力したことに相
当する)させた場合のみの結果を示す。
この結果、電流計34の読みは各シナプス回路で制御さ
れた結合電流の総和を示した。
従って第2実施例のメモリ装置は、第15図に示した生
物のニューロンと同等の動作をする極めてシンプルな電
子回路として働くことが確認できた。
この様なメモリ装置は、ニューラルネットワークチップ
を作製する際の単位ニューロン素子として使うことがで
き、本実施例のメモリ装置を使うことにより、上記第1
実施例と同様の効果を得ることができる。
次に、本発明の第3実施例について説明する。
第8図は第3実施例に係るメモリ装置の構成を示す図で
ある。このメモリ装置は、第6図に示すシナプス回路と
同様の構成をしたシナプス回路50 (i、j)を4×
4(計16ケ)のマトリックス状に配列したものである
。1方向に配列されている各シナプス回路は、同一のス
イッチS21〜S24を介して直Ift電源に接続され
ている。各スイッS21〜S24は各々連動している2
つのスイッチからなり、一方のスイッチは+5Vの直流
電源に接続され、他方のスイッチは一5vの直流電源に
接続されている。また、j方向に配列されている各シナ
プス回路はその出力端子がそれぞれ共通読出しラインL
21〜L24に接続されている。各共通読出しラインL
21〜L24はその一端が電流計51〜54を介してア
ースされている。このメモリ装置は、ニューロン素子が
4個接続されたニューラルネットワークを形成したもの
である。
この様なニューラルネットワーク、の形成されたメモリ
装置で行列演算を並列処理する場合を例にして本実施例
の動作を説明する。
ニューラルネットワークを形成する各シナプス回路50
(i、j)に、スイッチS21〜S24を介して、それ
ぞれの回路内の書き込み電極に+5v又は−5V、幅1
00gg5の矩形パルスを印加することにより、キャパ
シターには+2v又は−2Vの電圧がメモリーされる。
ただし、i−jのシナプス回路(i、j)のキャパシタ
ーには電圧をメモリーさせずOvとした。
この状態でスイッチ21,22,23.24を順番にオ
ン、オフ、オン、オフの状態にした時の電流計51.5
2,53.54の値を第9図に示す。シナプス回路(i
、j)のキャパシター電圧の組み合わせが第9図の様な
場合には、電流計51.52,53.54の値はそれぞ
れ200■A、 OmA、 +200 mA、 −40
0mAとなった。
第9図に示す表を、スイッチS21,22゜23.24
のオン状態を“1m1オフ状態を“Omとして、各シナ
プス回路(i、j)の牛ヤバシター電圧が+2■のとき
+1.OVのとき0l−=2Vのとき−1とし、さらに
電流計51.52゜53.54の°値を+20C1+A
で割った値に変換したものを第10図に示す。
第10図の表に示されているように、マトリクス状に配
置されたシナプス回路(i、j)の各キャパシター電圧
の組み合わせと、そのとき電流計51〜54/1すれる
電流とは、(6)式に示す行列演算と等価である。すな
わち 従って、スイッチS21.22,23.24のオン、オ
フ状態かベクトル情報で、各シナプス回路(i、j)の
キャパシターのメモリー電圧が行列情報を表わし、電流
計51.52.53.54の値が行列演算後のベクトル
情報を表わしている。
又、以上の行列演算の速度は、回路の寄生容量によるお
くれ等の実装上の問題を考慮に入れなければ行列の次元
によらず、シナプス回路に用いたトランジスター1個分
のスイッチング速度に等しい。従って、第3実施例のメ
モリ装置を用いると極めて多次元の行列演算か高速で処
理できる。
次に、本発明の第4実施例について説明する。
この実施例は、第3実施例で説明したメモリ装置を用い
て、ホップフィールドモデルによる処理を実行させる例
である。
ホップフィールドモデルは、ニューラルネットワークを
動作させるためのシンプルなモデルとして1982年J
、J、Hopfleldにより提案された数学的モデル
である。このモデルは基本的には脳の機能の1つである
「連想機能」を模倣したものであり、その計算手法とし
て通常の行列演算法を用いているのでネットワークのハ
ード化が比較的容易なものである。
ホップフィールドモデルの具体的実行は最初1985年
にN、H,Parhatらによって光学的に行なわれた
が、光学的には負の情報が取り扱えないこと、あるいは
メモリーマトリックスを写真法で作製した光透過マスク
を用いていたため、メモリーの書き換えが事実上不可能
なこと等の欠点があった。
第4実施例のメモリ装置は、負の情報を扱うことができ
、メモリの書き換えも可能で、かつ並列処理によりホッ
プフィールドモデルを実行し、連想計算を可能とした例
である。以下にホップフィールドモデルの概要とそのメ
モリー素子との対応について述べる。
連想機能とは、「あいまいな情報」が入力された時、そ
の情報に最も似かよった記憶内容を呼び出す機能である
。このモデルで取り扱う情報は、+1と−1の2値から
成るベクトルv1(−1とする。
このベクトルの次元はNでり、ベクトルの種類はMであ
る。従って、 i−1,2,3,・・・、N m−1,2,3,−、M      −(6)となる。
これらのベクトル情報を(7)式で定義するTijマト
リックスの形で記憶しておく。
ただし、i、j−1,2・・・N 1j−0 二〇Tijマトリックスに、m諺m0のVjL−0ゝを
乗算することによりメモリを読出すとすると、・・・(
8)式 よって、 V  i  ””m  (N −l )  V i  
Lm)十Σαm、moVi””  ・・・(9)式ただ
し、αm、mo”−Σ y j (molvj tai
1(9)式の第1項は人力したyjfma)を(N−1
)倍に増幅した項である。(9)式の第2項は各ベクト
ル成分をランダムに加算した、いわばクロストーク(ノ
イズ)成分である。αm、moは、十1と−1を(N−
1)回ランダムに加算したものだから平均は零であり、
その標準偏差はヤ (N−1)−となる。(9)式の第
2項はこれらを(M−1)同加算したものであるので、
その標準偏差は、  (N−1)(M−1)となる。も
しNかMよりも充分に大きければ(N−1)>  (N
−1)(M−1)となるので、v1°゛°ゝはv1ゝ”
°ゝ−+1の時、正の値を取る確率が非常に高くなり、
y j(mal、  lの時はその逆となる。従って、
vl(′″1の値が正の時はすべて+1、それ以外の時
はすべて−1の値にしきい値化したもの、すなわちsg
n[Vf”’)]ハVi1M61の値に非常に近くなり
、このsgn[Vi l−101]を新たにyllso
)として上述の計算をくり返すことにより、s gn 
 [%N ”02]は限りな(Vi L−・〕に近づく
従って、入力されるベクトルがyjL−0)と一部違っ
ている場合でも、その誤まりビット数がNに対しである
程度小さい時はs g n [Vi ””’]は入力ベ
クトルよりVj(′″0)に近ずき、連想処理が行われ
るものとなる。
以上かホップフィールドモデルに基づく連想処理の概要
である。この様な計算手法を図示したものが第11図お
よび第12図である。
第11図は、Tijマトリックスの形にVl(−1ベク
トルを書き込む方法を示したものであり、各行列要素に
は図示の如き値が入っている。この様な、T jj7ト
リクスにVj′″′0をかけ−c y t (−ロ1を
呼び出す方法を示したのが第12図である。
第12図に示す行列計算を第8図に示すメモリ装置で実
行するには、シナプス回路(i、j)のキャパシターに
Tjjの値と対応した電圧を充電させておき、yjfm
a1と対応させてスイッチ21゜22.23.24をオ
ン、オフさせればよい。ただしスイッチオンの状態をV
jLffiO)の+1の値に対応させると、スイッチオ
フの状態は零に対応してしまう。そこで、Vt(−3の
値を+1又は−1から片極性の+1または零にとり直し
てそのベクトルをbItm)と書き直す。そして(7)
式のVi ”’ に(2bi ’−’ 、−1)を代入
し、(8)式のvj″″。′とbj+5aolに書き換
えても前述と同様s g n [bi ””]はb1f
′″1に収束する。すなわち連想機能は保たれる。
この場合、Tijの各要素の値は第11図と同じままで
、bHL@aゝをかけてbit+++e)を得るのは第
13図にに示す様な計算をすればよい。
第13図に示す行列計算の場合には、スイッチS21,
22.23.24の(オン、オフ)とbjL′″02の
値(+1.0)が対応する。bj(0の値をスイッチで
入力した時に電流計51.52゜53.54の示す値が
第13図に示すbjI−°2に対応する。又、Ttjの
各要素の値を正の値はすべて+1、負の値はすべて−1
という様にクリッピングして(+4.0.−1)の3値
に直して第10図に示す様な計算法を行なっても近似的
に連想機能は変わらない。
従って、本実施例によれば、第8図に示すメモリ装置を
用いて、ホップフィールドモデルの電気的実行が可能に
なる。この際取り扱うベクトルの成分ごとに並列処理す
ることができるので計算が非常に高速になる。又、回路
が単純なため高集積度のチップ化の可能性があり、極め
て高精度、大容量の連想型ニューラルネットワークチッ
プの実現が期待できる。
又、TijO値を記憶しているキャパシターの電圧は電
気的に消去及び再書き込みが可能なため、同一のチップ
に任意のメモリー内容(Tijの値)の書き込みあるい
は変更が容易に行なえる。そのため本実施例のメモリ装
置を学習型のニューラルネットワークへ応用することも
できる。
〔発明の効果〕
以上詳記したように本発明によれば、回路素子数が極め
て少なく回路構成および情報処理を単純なニューラルネ
ットワークで実現するのに極めて有用なメモリ素子およ
びメモリ装置を提供できる。
【図面の簡単な説明】
第1図は第1実施例の構成図、第2図はMIM素子のメ
モリ機能を説明するための図、第3図および第4図はメ
モリ回路の履歴現象を説明するための図、第5図は第2
実施例の構成図、第6図は第5図に示すシナプス回路の
構成図、第7図はメモリ装置における蓄積電荷と読出し
電流との関係を示す図、第8図は第3実施例の構成図、
第9図および第10図はメモリ装置における蓄積電荷と
読出し電流との関係を示す図、第11図および第12図
は第3実施例における行列演算を説明するための図、第
13図は第4実施例での行列演算を説明するための図、
第14図は神経回路の模式図、第15図は神経回路の等
価回路図である。 10、シナプス回路、11・・・MIM素子、12・・
・キャパシター 13・・・n−MOS)ランシスター
 14・・・p−MOS)ランシスター15・・・書込
み電極、16・・電流計。

Claims (5)

    【特許請求の範囲】
  1. (1)絶縁層およびこの絶縁層の上下に対向配置された
    導電体層からなり非線形の導電率特性を有する非線形導
    電率素子と、この非線形導電率素子に直列に接続され電
    荷保持特性を有する電荷保持素子と、この電荷保持素子
    の電圧によって導通制御され印加される読出し電圧によ
    って前記電荷保持素子に記憶されている情報を読出すス
    イッチング素子とを具備したことを特徴とするメモリ素
    子。
  2. (2)前記スイッチング素子は、正の読出し電圧が印加
    され前記電荷保持素子の電圧によって導通制御される第
    1のトランジスタと、負の読出し電圧が印加され前記電
    荷保持素子の電圧によって導通制御される第2のトラン
    ジスタとからなることを特徴とする請求項1記載のメモ
    リ素子。
  3. (3)請求項1記載のメモリ素子を複数配し、少なくと
    も2以上のメモリ素子の前記読出し電圧が印加される各
    入力端子を共通接続し、かつ、それらメモリ素子の読出
    し電圧が印加される各出力端子を共通接続して複数のメ
    モリ素子をマトリクス配線したことを特徴とするメモリ
    装置。
  4. (4)前記共通接続されている入力端子から入力される
    ベクトル情報に基いた行列演算を前記マトリクス配線さ
    れている複数のメモリ素子で並列処理し、その処理結果
    を前記共通接続されている出力端子から出力することを
    特徴とする請求項3記載のメモリ装置。
  5. (5)前記行列演算によってホップフィールドモデルを
    実行し、連想機能を持たせたことを特徴とする請求項4
    記載のメモリ装置。
JP2032703A 1990-02-14 1990-02-14 メモリ素子およびメモリ装置 Pending JPH03236275A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2032703A JPH03236275A (ja) 1990-02-14 1990-02-14 メモリ素子およびメモリ装置
US07/651,654 US5220202A (en) 1990-02-14 1991-02-06 Memory device and memory apparatus using the same suitable for neural network

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2032703A JPH03236275A (ja) 1990-02-14 1990-02-14 メモリ素子およびメモリ装置

Publications (1)

Publication Number Publication Date
JPH03236275A true JPH03236275A (ja) 1991-10-22

Family

ID=12366211

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2032703A Pending JPH03236275A (ja) 1990-02-14 1990-02-14 メモリ素子およびメモリ装置

Country Status (2)

Country Link
US (1) US5220202A (ja)
JP (1) JPH03236275A (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5329485A (en) * 1990-11-01 1994-07-12 Olympus Optical Co., Ltd. Memory device
US5523964A (en) * 1994-04-07 1996-06-04 Symetrix Corporation Ferroelectric non-volatile memory unit
US5537512A (en) * 1993-05-26 1996-07-16 Northrop Grumman Corporation Neural network elements
US5548683A (en) * 1994-05-05 1996-08-20 Grumman Aerospace Corporation Data fusion neural network
US5835902A (en) * 1994-11-02 1998-11-10 Jannarone; Robert J. Concurrent learning and performance information processing system
US6847071B2 (en) * 2001-06-06 2005-01-25 Matsushita Electric Industrial Co., Ltd. Semiconductor device
US20030236759A1 (en) * 2002-06-21 2003-12-25 Tsung-Hsuan Ho Neural network for determining the endpoint in a process
US8266085B1 (en) 2012-02-06 2012-09-11 The United States Of America As Represented By The Secretary Of The Army Apparatus and method for using analog circuits to embody non-lipschitz mathematics and properties using attractor and repulsion modes

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4535349A (en) * 1981-12-31 1985-08-13 International Business Machines Corporation Non-volatile memory cell using a crystalline storage element with capacitively coupled sensing
JPS60106180A (ja) * 1983-11-15 1985-06-11 Citizen Watch Co Ltd MiMダイオ−ド
JPH0770690B2 (ja) * 1986-01-14 1995-07-31 オリンパス光学工業株式会社 三次元トンネルメモリ装置
US4737929A (en) * 1986-04-14 1988-04-12 American Telephone And Telegraph Company, At&T Bell Laboratories Highly parallel computation network employing a binary-valued T matrix and single output amplifiers
US4996648A (en) * 1987-10-27 1991-02-26 Jourjine Alexander N Neural network using random binary code
WO1989001228A1 (en) * 1987-07-28 1989-02-09 Maxdem Incorporated Electrically settable resistance device
US5055897A (en) * 1988-07-27 1991-10-08 Intel Corporation Semiconductor cell for neural network and the like
US5101361A (en) * 1989-09-29 1992-03-31 The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration Analog hardware for delta-backpropagation neural networks
US5065132A (en) * 1990-11-16 1991-11-12 Texas Instruments Incorporated Programmable resistor and an array of the same

Also Published As

Publication number Publication date
US5220202A (en) 1993-06-15

Similar Documents

Publication Publication Date Title
Merrikh-Bayat et al. High-performance mixed-signal neurocomputing with nanoscale floating-gate memory cell arrays
Lee et al. Hardware annealing in analog VLSI neurocomputing
Likharev et al. CrossNets: High‐performance neuromorphic architectures for CMOL circuits
US4904881A (en) EXCLUSIVE-OR cell for neural network and the like
US4999525A (en) Exclusive-or cell for pattern matching employing floating gate devices
Covi et al. Ferroelectric-based synapses and neurons for neuromorphic computing
CN107533668A (zh) 用于计算神经网络的节点值的硬件加速器
EP0377908B1 (en) Neural network having an associative memory that learns by example
Deng et al. Complex learning in bio-plausible memristive networks
Dong et al. Design and implementation of a flexible neuromorphic computing system for affective communication via memristive circuits
US20230297839A1 (en) Deep learning in bipartite memristive networks
Payvand et al. Error-triggered three-factor learning dynamics for crossbar arrays
Demin et al. Sneak, discharge, and leakage current issues in a high-dimensional 1T1M memristive crossbar
US11133058B1 (en) Analog computing architecture for four terminal memory devices
Strukov et al. Memory technologies for neural networks
JPH03236275A (ja) メモリ素子およびメモリ装置
Kang et al. Hardware-based spiking neural network using a TFT-type AND flash memory array architecture based on direct feedback alignment
US5274748A (en) Electronic synapse circuit for artificial neural network
Wang et al. Emerging memristive devices for brain-inspired computing and artificial perception
US11688457B2 (en) Using ferroelectric field-effect transistors (FeFETs) as capacitive processing units for in-memory computing
Shimabukuro et al. Circuitry for artificial neural networks with non-volatile analog memories
Liao et al. Design and modeling of a neuro-inspired learning circuit using nanotube-based memory devices
US20200320374A1 (en) Memristive Multi-terminal Spiking Neuron
Likharev Neuromorphic CMOL circuits
Perez et al. Neuromorphic-based Boolean and reversible logic circuits from organic electrochemical transistors