DE2524734C3 - Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von Eingangssignalen charakterisierbaren Ereignisses - Google Patents
Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von Eingangssignalen charakterisierbaren EreignissesInfo
- Publication number
- DE2524734C3 DE2524734C3 DE2524734A DE2524734A DE2524734C3 DE 2524734 C3 DE2524734 C3 DE 2524734C3 DE 2524734 A DE2524734 A DE 2524734A DE 2524734 A DE2524734 A DE 2524734A DE 2524734 C3 DE2524734 C3 DE 2524734C3
- Authority
- DE
- Germany
- Prior art keywords
- signal
- output
- transfer
- input
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired
Links
- 230000010365 information processing Effects 0.000 title claims description 34
- 238000001514 detection method Methods 0.000 title description 6
- 238000012546 transfer Methods 0.000 claims description 129
- 230000004044 response Effects 0.000 claims description 127
- 230000006870 function Effects 0.000 claims description 118
- 230000005540 biological transmission Effects 0.000 claims description 71
- 230000008859 change Effects 0.000 claims description 32
- 230000015654 memory Effects 0.000 claims description 22
- 230000007423 decrease Effects 0.000 claims description 13
- 238000000034 method Methods 0.000 claims description 13
- 239000003990 capacitor Substances 0.000 claims description 12
- 230000008569 process Effects 0.000 claims description 12
- 230000004048 modification Effects 0.000 claims description 11
- 238000012986 modification Methods 0.000 claims description 11
- 230000001419 dependent effect Effects 0.000 claims description 9
- 230000001404 mediated effect Effects 0.000 claims description 3
- 230000009467 reduction Effects 0.000 claims 1
- 230000007704 transition Effects 0.000 claims 1
- 239000013598 vector Substances 0.000 description 41
- 239000011159 matrix material Substances 0.000 description 11
- 238000012545 processing Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 238000004422 calculation algorithm Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 7
- 230000003321 amplification Effects 0.000 description 6
- 230000008901 benefit Effects 0.000 description 6
- 238000013507 mapping Methods 0.000 description 6
- 238000003199 nucleic acid amplification method Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 230000002349 favourable effect Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 230000000717 retained effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000007599 discharging Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 230000003252 repetitive effect Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 238000011144 upstream manufacturing Methods 0.000 description 2
- 229910000859 α-Fe Inorganic materials 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000002301 combined effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 230000002045 lasting effect Effects 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 230000005415 magnetization Effects 0.000 description 1
- 238000012067 mathematical method Methods 0.000 description 1
- 230000003446 memory effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012821 model calculation Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 150000003839 salts Chemical class 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000003466 welding Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/091—Active learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/02—Comparing digital values
- G06F7/023—Comparing digital values adaptive, e.g. self learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
- G06N3/065—Analogue means
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Neurology (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Image Analysis (AREA)
- Character Discrimination (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Transmission Systems Not Characterized By The Medium Used For Transmission (AREA)
- Machine Translation (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Image Processing (AREA)
- Multi Processors (AREA)
Description
15
Die Erfindung betrifft eine informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz jo
von (N) Eingangssignalen charakierisierbaren Ereignisses, mit einer entsprechenden Anzahl von Signaleingängen
zum Empfang der N Eingangssignale und mit einer entsprechenden Anzahl (N) von Übertragungselementen,
deren jedes einen Signaleingang mit mindestens einer Ausgangsstation koppelt und dieser ein Signal
zufuhrt, das dem Produkt der Übertragungsfunktion des ' Übertragung.'elements und des durch dieses übertragenen
Eingangssignals proportional ist, wobei die Ausgangsstat'on als Ausgangssignal ein Summensignal
erzeugt, das der Summe der ihr zugeführten Signale proportional ist, und mit Einrichtungen, durch die in
einer Lernphase der Vorrichtung, in der den Signaleingängen mehrmals ein Satz von Eingangssignalen
dargeboten wird, selbsttätig eine Änderung der Übertragungsfunktionen der Übertragungselemente in
Abhängigkeit vom Ausgangssignal der Ausgangsstation erfolgt.
Bekannte informationsverarbeitende Vorrichtungen arbeiten im allgemeinen in der Weise, daß sie auf einen
gegebenen Satz von Eingangssignalen ein Antwortsignal erzeuger, das mit einem \orbestimmten Antwortsignal
verglichen wird. Diese bekannten Vorrichtungen werden oft in Abhängigkeit von der Differenz zwischen
dem tatsächlichen und dem vorbestimmten Antwortsignal veranlaßt, ihre Übertragungsfunktionen zu ändern,
d. h. zu »lernen« bis das vorbestimmte Antwortsignal erreicht wird Zweck solcher anpassungsfähiger informationsverarbeitender
Vorrichtungen ist es, mittels eines geeigne-ten Algorithmus ihren eigenen Weg zu
einer vorbestimmten Relation:
Eingangssignal-*· Antwortsignal
aufzufinden. Eine typische bekannte Vorrichtung dieser
An (Fig. 1) enthält als wesentliche Elemente ein Netzwerk mi' Eingängen I, 2, 3,.., N, die ihrerseits mit
einer entsprechenden Anzahl von variablen Gewichtungselementsn
Gi, G2, Gj, ... Gv mit veränderbaren
Gewichtsfaktoren verbunden sind, welche im Einzelfall als gewichtende Verstärker mit veränderbaren Verstärkungsfaktoren
oder auch als Widerstände mit variablem Widerstandswert ausgebildet sein können. Die Ausgangssignale
der als Übertragungselemente wirkenden Gewichtungselemente G werden einem Summierer S
zugeführt, der für das gesamte Netzwerk ein einziges
Ausgangssignal erzeugt, das im wesentlichen gleich der
Suinme der Ausgangssignale der Gewichtungselemente ist.
Der Gewichtungsfaktor eines jeden Gewichtungselements Gi, G2, G3,... Gnwird mit Hilfe eines Netzwerkes
eingestellt, das den Algorithmus Tbestimmt, nach dem
die Vorrichtung lernt, auf ein bestimmtes Eingangssignal bzw. einen Salz von Eingangssignalen mit einem
gewünschten Antwortsignal zu antworten, Hierzu wird im Betrieb des Netzwerkes ein Satz spezieller
Eingangssignale wiederholt an die Eingänge I12,3,... Λ/
des Netzwerkes angelegt. Nach jedem Anlegen des Eingangssignals wird das Antwortsignal des Netzwerkes
mit einem vorbestimmten Antwortsignal verglichen und beispielsweise die mittels einer Subtrahiereinrichtung
D ermittelte Differenz zum Sollwert gemäß einem bestimmten l.ernalgorithmus dazu benutzt, die Gewichlsfaktoren
der einzelnen Gewichtungselemenle Gi, G2. G),... G,v zu korrigieren.
Jedes Anlegen des speziellen Eingangssignals bzw.
/^Ac F" inrra ntrccirrnaica 17f*c im/4 Hia no/^KfrtIrr^n/Ίρ Altän/Ί^.
rung der Gewichtsfaktoren der Gewichtungselemente G wird als »Lern-Zyklus« bezeichnet. Im Verlauf
aufeinanderfolgender Lern-Zyklen werden die Gewichtsfaktoren
so verändert, bis das Netzwerk schließlich auf ein spezielles Eingangssignal das dazugehörige
Ausgangssignal erzeugt. Man erkennt daß es dann, wenn der Lernalgorithmus darin besteht, die Gewich
tungsfaktoren in Proportionalität zur Differenz zwischen !em tatsächlichen und dem erwünschten Antwortsignal
zu ändern, die l.ernphase sehr lang dauern kann, weil die Änderungsschritte mit zunehmender
Annäherung des Antwortsignal·; an das Soll-Antwortsignal
immer kleiner werden. Es ist auch bekannt (DE-AS 18 14 940), die Gewichtsfaktoren der Gewich·
tungs- bzw. Übertragungselemente so lange um gleiche Beträge zu verändern, wie das Summen-Antwortsignal
der Ausgangsstation kleiner ist als ein vorgegebener Schwellenwert und die schrittweise Änderung der
Gewichtsfaktoren zu beenden, wenn das Summen-Ausgangssignal diesen vorgegebenen Grenzwert erreicht
bzw. überschreitet. Man hat dann eine wenigstens mit vorbestimmter »konstanter« Geschwindigkeit lernende
Vorrichtung, bei der allerdings die »Lerngeschwindigkeit«, d. h. die Beträge, um die die Gewichtsfaktoren
bzw. Übertragungsfunktionen der Übertragungselemente geändert werden, nicht zu groß sein dürfen, wenn
das Überschreiten eines vorgegebenen Schwellenwertes des Summen-Ausgangssignals ein hinreichend
empfindliches Maß dafür sein soll, daß eine für einen ganz bestimmten Sachverhalt, beispielsweise eine
bestimmte Ziffer oder einen bestimmten Namenszug charakteristische Eingangssignalkombination t >
den Eingängen der Vorrichtung anliegt. Wenn aber die Übertragungsfunktionen der Übertragungselemente
nur in kleinen Schritten geändert werden dürfen, dann hat dies wiederum zur Folge, daß die Lerngeschwindigkeit
dieser bekannten Vorrichtung, auch wenn sie »konstant« ist, relativ gering ist Es kommt hinzu, daß
. die ein bestimmtes Ereignis charakterisierenden Eingangssignale, beispielsweise Spannungssignale, die mit
einem bestimmten, in der Lernphase der Vorrichtung eingestellten Verstärkungsgrad als Übertragungselemente
verwendeter Verstärker übertragen werden, der den Gewichtsfaktor bestimmt, eine ganz bestimmte
Mindestintensität haben müssen, damit das zugeordnete Ereignis durch Überschreiten eines Schwellenwertes
_:___ J 1. C ;_«.»<_ Λο- ».«« *4o« f'lt.o-^nn.mr.palo
menten übertragenen Signale überhaupt erkannt werden kann. Diese die zuverlässige Erkennung eines
im obigen Sinne erläuterten Ereignisses erheblich
β Si E.
beeinträchtigende Eigenschaft der bekannten Vorrichtungen ist letztlich die Folge davon, daß der
Lernvorgang stets in Abhängigkeit von einem für ein unter definierten Bedingungen auftretendes Ereignis
charakteristischen bekannten Antwortsignal der Vorrichtung erfolgt. Es ist daher mit den bekannten
Vorrvfrtungen nicht möglich, in der Lernphase eine Einstellung der Übertragungsfunktionen der Übertragungselemente
zu erzielen, so daß die Vorrichtung nach
Abschluß der Lernphäse in der Lage wäie, ein für ein
unbekanntes Ereignis charakteristisches Antwortsignal zu erzeugen.
Demgemäß liegt der Erfindung die Aufgabe zugrunde, eine Vorrichtung der eingangs genannten Art zu
schaffen, die in der Lage ist, nach Abschluß ihrer t5
Lernphase auch für ein urbekanntes Ereignis ein charakteristisches Antwortsignal zu erzeugen, sofern
dargeboten worden ist, und die darüber hinaus die Möglichkeit einer erheblich erhöhten Lerngeschwindigkeit
beinhaltet.
Diese Aufgabe wird erfiridungsgemäß durch die
folgenden Merkmale gelöst:
a) es sind mehrere Ausgangsstationen vorgesehen, und es sind einzelne oder alle der η Ausgangsstalio- 2d
nen über jeweils ein eigenes Übertragungselement mit einzelnen oder allen der (N) Signaleingänge
gekoppelt;
b) das an der jeweiligen Ausgangsstation erzeugte .bummensignal ist das Ausgangssteuersignal einer
Einrichtung zur Abände-ung der Übertragungsfunktionen A1, einzelnei oder aller derjenigen
Übertragungselemente, cue mit der jeweiligen Ausgangsstation gekoppelt sind;
c) die durch die Einrichtung zur Änderung der Übertragungsfunktionen A11 vermittelte Änderung
derselben ist dem Ausgangssignal der jeweiligen Ausgangsstation proportional, bis eine vorgebbare
Bedingung (Zeitablauf, Schwellenwert, Signalmuster) eintritt.
Im Unterschied zu der bekannten informationsverarbeitenden Vorrichtung gemäß der DE-AS 18 14 940 hat
die erfindungsgemäße Vorrichtung also mehrere Ausgangsstationen i, an denen die Ausgangssignale s'j
mehrerer Übertragungselemente, deren jedes einen der insgesamt π Eingänge j mit der betreffenden Ausgangsstation
/ verbindet, zu einer Antwortsignalkomponente η summiert Werden. Das Antwortsignal umfaßt also im
allgemeinen Fall so viele Komponenten rh wie Ausgangsstationen /vorhanden sind. Die erfindungsgemäße
Vorrichtung transformiert also einen Satz von Eingangssignalen a\, £>, ... Sj, ... Sn mittels der
Übertragungselemente in einen Satz von Antwortsignalen n, n,..., η ... r/v. Mit anderen Worten: Der für ein
bestimmtes, zu erkennendes Ereignis charakteristische Λ-dimensionale Eingangssignalvektor 5 mit den Komponenten
Sy wird durch die erfindungsgemäße Vorrichtung in einen jV-dimensionalen Antwort-Signal-Vektor
R*mit den Komponenten r, (i = \ ... N) transformiert
wobei die Dimension π des Eingangssignalvektors S größer, gleich oder kleiner sein kann als die Dimension
N des Antwort-Signal-Vektors R* je nachdem, ob die Zahl der Eingänge./größer, gleich oder kleiner ist als die
Zahl der Ausgangsstationen ; der erfir.dungsgernäßen es
Vorrichtung.
Dadurch ist eine wesentliche Voraussetzung dafür geschaffen, daß die erfindungsgemäße Vorrichtung auch
40 ein »unbekanntes« Ereignis erkennen kann, nämlich die,
daß der Informationsgehalt des Antwort-Signal-Satzes oder -Vektors Rim wesentlichen durch das Verhältnis
seiner Köifij5önenteii /',-zueinander und nicht durch die
absolute Größe der Antwortsignale /y bestimmt ist, wie es bei Vorrichtungen notwendigerweise der Fall ist, bei
denen die Erkennung eines bestimmten Ereignisses davon abhängig ist, daß die Summe der Antwortsignale
größer oder gleich einem bestimmten Schwellenwert ist,
Was natürlich bei nach Abschluß der Lernphase Vorgegebenen Übertragungsfunktionen der Übertragungselemente
voraussetzt, daß die für das bestimmte, zu erkennende Ereignis charakteristischen Eingangssignale
einen definierten Betrag haben. Im Unterschied dazu vermag die erfindungsgemäße Vorrichtung dadurch,
daß sie einen Satz 5^von Eingangssignalen s„ die
in einem bestimmten Verhältnis zueinander stehen und dadurch für ein bestimmtes Ere'ani? charakteristisch
sind, in einen Satz R* von Antwortsignalen r, transformiert, die ihrerseits in einem durch das
Verhältnis der Eingangssignale s, zueinander bestimmten Verhältnis zueinander stehen, ein unbekanntes
Ereignis dadurch zu identifizieren, daß sie das Verhältnis der Antwortsignalkomponenten r, liefert, und dadurch
mit mindestens derselben Genauigkeit wie eine mit Diskriminierung nach Absolutbeträgen arbeitende Vorrichtung
die Identifizierung eines Ereignisses ermöglicht. Daher kommt es bei der erfindungsgemäßen
Vorrichtung nicht in erster Linie darauf an. welche Beträge die Eingangssignale s, und damit auch die
Antwortsignale r, haben, sondern in erster Linie auf deren Verhältnisse zueinander. Mit anderen Worten:
Die erfindungsgemäße Vorrichtung erkennt ein Ereignis nicht daran, daß die Eingangssignale und damit auch
das Antwortsignal eine bestimmte Größe haben, sondern daran, daß die Eingangssignale s, und damit
auch dre Antwortsignale r, in einem bestimmten
Verhältnis zueinander stehen, d. h., daß der yV-dimensionale
Antwort-Signal-Vektor R* eine bestimmte »Richtung« hat. Dies ist für die Erkennung eines unbekannten
Ereignisses deshalb von Bedeutung, weil man bei einem solchen nicht von vornherein weib, wie groli die
Eingangssignale s,, die dieses Ereignis charakterisieren,
betragsmäßig sein werden.
Im weiteren Unterschied zu der bekannten Vorrichtung nach der DE-AS werden bei der erfindungsgemäßen
Vorrichtung die Übertragungsfunktionen A1, der Übertragungselemente, die einzelne oder gegebenenfalls
alle Eingänge./mit der jeweiligen Ausgangsstation i
koppeln, in den einzelnen Lern-Zyklen nicht um einen konstanten Betrag, sondern um einen Betrag geändert,
der dem Antwortsignal r, der Ausgangsstation / proportional ist. Dies bedeutet aber, daß nach einem
/j-maligen Darbieten desselben Satzes von Eingangssignalen
s, Änderungen δΑυ, die die einzelnen Übertragungsfunktionen
Ai, erfahren, im wesentlichen der n-ten Potenz des beim erstmaligen Darbieten eines Eingangssignalsatzes
S erzeugten ersten Antwortsignals r, proportional sind, d. h., die Änderungen δAi1 der
Übertragungsfunktionen A/, wachsen bei wiederholter Darbietung desselben Eingangssignalsatzes exponentiell
an. Dies bedeutet andererseits, daß die »Lerngeschwindigkeit« der erfindungsgemäßen Vorrichtung
sehr hoch, d.h. die Zahl der Darbietungen eines bestimmten Eingangssignaisatzes sehr klein sein kann,
bis die einzelnen Übertragungsfunktionen Aij dahingehend
abgeändert sind, daß die erfindungsgemäße Vorrichtung auf einen vorgegebenen Satz von Ein-
gangssignalen s, einen bestimmten Satz von Antwortsignalen
η erzeugt. Die Tatsache, daß die erfindungsgemäße Vorrichtung auf wiederholt dargebotene Sätze
von Eingangssignalen s,, die in demselben Verhältnis zueinander stehen, in der Lernphase mit einer
exponentiellen Änderung der Übertragungsfunktionen reagiert, hat zur Folge, daß ein für ein bestimmtes,
unbekanntes Ereignis charakteristischer Satz von Eingangssignalen s/ selbst dann zu einer für das
zugeordnete Ereignis charakteristischen Einstellung der Übertragungsfunktionen führt, wenn die Eingangssigna-Ie
S1 pro Darbietung im Rauschen verborgen sind. Damit
«tie erfindungsgemäße Vorrichtung ein solches, gegebenenfalls unbekanntes Ereignis zu erkennen lernt, ist
lediglich erforderlich, daß sein entsprechender Satz von Eingangssignalen 5, der Vorrichtung hinreichend oft
dargeboten wird. Die Vorrichtung ist dann nach Abschluß der Lernperiode in der Lage, einen bestimmten,
charakteristischen Satz von Antwortsignalen r, zu erzeugen, wenn ihr derjenige Satz von Eingangssignalen,
der in der Lernphase zu einer bestimmten Einstellung der Übertragungsfunktionen geführt hat,
erneut dargeboten wird.
Man erkennt, daß die erfindungsgemäße Vorrichtung diese vorteilhafte Eigenschaft nur deshalb hat, weil sie
einerseits mit exponentiell Geschwindigkeit »lernt« und anderseits einen Satz £ von Eingangssignalen
wieder auf einen Satz κ von Antwortsignalen abbildet, jo daß diese die erfindungsgemäße Vorrichtung
kennzeichnenden Merkmale also in einem echten kombinatorischen Zusammenhang zueinander stehen.
Weitere Einzelheiten und Vorteile der Erfindung ergeben sich aus der nachfolgenden Beschreibung von
Ausführungsbeispielen an Hand der Zeichnung. Es zeigt
F i g. 1 ein Blockschaltbild einer typischen bekannten
informationsverarbeitenden Vorrichtung,
Fig. 2 ein Blockschaltbild einer Baueinheit einer informationsverarbeitenden Vorrichtung nach der Erfind
jng,
F i g. 3 ein Blockschaltbild einer erfindungsgemäßen informationsverarbeitenden Vorrichtung mit zahlreichen
tsaueinneiten getnats H g. 2, wobei der ÜDersicntüchkeit
der Darstellung wegen von Summierern der Vorrichtung abgehende Rückkopplungsleitungen weggelassen
worden sind,
F i g. 4 ein Blockschaltbild einer mit Schwellenwerteinrichtungen versehenen informationsverarbeitenden
Vorrichtung gemäß F i g. 3,
F i g. 5 eine schematische Darstellung der Antwort einer erfindungsgemäßen Vorrichtung auf ein durch
einen Satz von Eingangssignalen darstellbares äußeres Ereignis,
F i g. 6 eine schematische Darstellung eines speziellen AuFoaus der erfindungsgemäßen Vorrichtung,
-F i g. 7 eine schematische Darstellung eines optisch-
-akustischen Nachweissystems mit mehreren erfindungsgemäßen Vorrichtungen,
F i g. 8 ein Blockschaltbild einer in Verbindung mit der erfindungsgemäßen Vorrichtung verwendbaren Einrichtung
zur Erzielung eines bestimmten Antwortsignals,
Fig.9 eine schematische Darstellung der Antwort
zweier erfindungsgemäßer Vorrichtungen auf dieselbe Mannigfaltigkeit von Ereignissen,
fig. 10 ein Blockschaltbild einer .Einrichtung, die in
Verbindung mit einer erfindungsgemäßen Vorrichtung zur Erzeugung einer speziellen Art von Antwortsignalen
verwendbar ist.
Fig. 11 ein Blockschaltbild einer bevorzugten Ausführungsform
eines Teils der Baueinheit gemäß Fig.2
mit einem mit Ladungsspeicherung arbeitendes Übertragungselement,
F i g. 12 ein Schaltbild einer Summierschaltung, die in
dem Netzwerk gemäß Fig. 11 verwendbar ist,
Fig. 13 ein Schaltbild eines in dem Netzwerk gemäß
F i g. 11 verwendbaren Übertragungselements und
Fig. 14 ein Blockschaltbild einer in dem Netzwerk
Fig. 14 ein Blockschaltbild einer in dem Netzwerk
ίο gemäß Fig. 11 verwendbaren Einrichtung zur Verarbeitung
von Netzwerk-Eingangssignalen mit Hilfe von Netzwerk-Ausgangssignalen.
Die F i g. 3 zeigt eine spezielle Ausführungsform einer erfindungsgemäßen Vorrichtung mit NEingängen und η
Ausgangsstationen, wobei jeder Eingang mit jeder Ausgangsstation durch ein einzelnes Übertragungselement
(©) verbunden ist. Aus Gründen der Übersichtlichkeit sind von den Summierern T. 1 .... T. i.... 2 η
ausgehende, zu den einzelnen Übertragungselementen führende Rückkopplungsleitungen der Einrichtungen
zur Änderung der Übertragungsfunktionen A11 der
Übertragungselemente weggelassen und es sind auch nur diejenigen Übertragungselemente eingezeichnet,
die einerseits den Eingang j mit jeder der Ausgangsstationen / (Übertragungselemente ! j, 2j,..., nj) koppeln,
sowie diejenigen Übertragungselemente, die jeden der Eingänge j mit der Ausgangsstation / koppeln
(Übertragungselemente /1, /2 ij,... iN). Es versteht
sich jedoch, daß die Vorrichtung gemäß Fig.3
3ö insgesamt N ■ η Übertragungselemente umfaßt, deren
Übertragungsfunktionen A11 somit durch die folgende
Matrix mit N Zeilen und η Spalten angegeben werden
können:
An A22 ■■■ Anl
An A22 ... A„2
An A22 ... A„2
"I V "2
Der Ausdruck »Übertragungsfunktion« ist im folgenden, soweit nicht ausdrücklich näher definiert, in seinem
allgemeinen Sinne aufzufassen und bedeutet eine
Funktion, die in irgendeiner Weise die Übertragung von informationen vom Eingang zum Ausgang eines
-Übertragungselements beeinflußt In einem speziellen, einfachen Fall entspricht die Übertragungsfunktion der
Verstärkung bzw. dem Verstärkungsfaktor eines als
Verstärker wirkenden Übertragungselements; es versteht sich jedoch, daß eine durch eine Übertragungsfunktion
beschreibbare Transformation des Eingangssignals eines Übertragungselements auf dessen Ausgangssignal
auch auf andere Weise erzielt werden kann.
In jedem Fall soll das Ausgangssignal s'j eines Übertragungselements als das Produkt seines Eingangssignals Aij dieses Übertragungselements definiert sein
gemäß der Beziehung:
Sj = A.-j
Bei der erfindungsgemäßen Vorrichtung ist das Antwortsignal r, an jeder Ausgangsstation eine lineare
Funktion der an die Eingänge j der Vorrichtung
angelegte.i Eingängssignale, so daß gilt:
Diese lineare Relation, die in der Fig. 3 durch die Summierer Jj, Σ& . ·. 2» · · · Σ« veranschaulicht ist, ist
die einfachste Beziehung, die zu den erwähnten vorteilhaften Ergebnissen führt. Es versteht sich jedoch,
daß die erfindungsgemäße Vorrichtung nicht auf diese lineare Relation beschränkt ist, und daß vorteilhafte
Ergebnisse auch dadurch gewonnen werden können, daß das Antwortsignal r, an einer oder mehreren
Ausgangsstationen / nach einer anderen Funktion von den an die Vorrichtung angelegten Eingangssignalen s,
abhängig ist. Beispielsweise kann das Antwortsignal r. zu dem Produkt der Eingangssignale A11 s, über alle j
proportion 'sein.
Bei der in der F i g. 3 dargestellten Vorrichtung kann die Anzahl N der Eingänge und die Anzahl η der
Ausgangsstationen an sich beliebig sein. Die Anzahl der Eingänge kann größer, kleiner aber auch gleich der Zahl
der Ausgangsstationen (N = η) sein. Es versteht sich,
daß der Umfang der Information, die zu irgendeinem Zeitpunkt an den Ausgangsstationen / der Vorrichtung
auftreten kann, in der Größenordnung von 2" Bits oder mehr liegt, und daß, je größer der Wert π ist, desto
größer auch das Signal/Rausch-Verhältnis der Vorrichtung
ist. Daher sind große Werte von η erwünscht, wobei allerdings eine damit verbundene Zunahme der
Schaltungselemente zu berücksichtigen ist. Der Einfachheit halber wird in einer nachfolgenden Betrachtung
angenommen werden, daß π gleich Nsein soll.
Die Vorrichtung gemäß Fig.3 kann als aus einer
Anzahl (n) von Summierern £, bestehend angesehen
werden, deren jeder einerseits mit einer einzigen Ausgangsstation / und andererseits über jeweils ein
■ Übertragungselement mit je einem der N Eingänge der
Vorrichtung verbunden ist Uns zwar so, daß jeder Summierer 2>
nut jedem der Eingänge j gekoppelt ist.
Eine solche, eine Untereinheit der Vorrichtung darstellende Baueinheit ist in der Fig.2 dargestellt Ein
Vergleich der Fig.2 mit der Fig. 3 zeigt, daß die
erfindungsgemäße Vorrichtung demgemäß eine der Anzahl (n) der Ausgangsstationen entsprechende
Anzahl solcherBaueinheiten gemäß F i g. 2 umfaßt.
■ Wie die F i g. 2 zeigt, erzeugt jede Baueinheit an einer Ausgangsstation /-ein einzelnes Antwortsignal η Dieses Antwortsignal wird von dem Summierer £, der -Baueinheit jeweils in Abhängigkeit von Zwischen ausgangssignalen c'u s'2, ..., s'j, ..., s'v der N Übertragungselemente /I1 /2, .., ij,..., /TV erzeugt In dem speziellen Fall einer erfindungsgemäßen Vorrichtung, bei -der jeder der N Eingänge mit jeder der η Ausgangsstationen durch ein einzelnes Übertragungselement verbunden ist liegt eine sogenannte (N π}-Verknüpfung vor. Es ist aber nicht erforderlich, daß die Übertragungselemente der Vorrichtung jeden Eingang eo mit jeder Ausgangsstation koppeln. Vielmehr können in praktischen Fällen eine oder mehrere der durch die Übertragungselemente vermittelten Verbindungen zwischen-den Eingängen und den Ausgangsstationen ohne schädliche Beeinträchtigung der Funktion der Vorrichtung getrennt werden. Die "durch die Übertragungselemente vermittelten Verbindungen zwischen den Eingängen und den Ausgangsstationen der Vorrichtung können sogar völlig zufallsverteilt sein, vorausgesetzt, daß eine genügende Anzahl solcher Verbindungen vorhanden ist, um eine Informationsübertragung vom Eingang zum Ausgang und demgemäß auch eine informationsspeicherung in den Übertragungselementen zu ermöglichen. Demzufolge kann tine der Fig. 2 entsprechende Baueinheit auch weniger als /V Übertragungselemente umfassen, so daß nicht jeder Eingang ', 2, ..., j, ..., N mit dem jeweiligen Summierer 2]> gekoppelt sein muß.
■ Wie die F i g. 2 zeigt, erzeugt jede Baueinheit an einer Ausgangsstation /-ein einzelnes Antwortsignal η Dieses Antwortsignal wird von dem Summierer £, der -Baueinheit jeweils in Abhängigkeit von Zwischen ausgangssignalen c'u s'2, ..., s'j, ..., s'v der N Übertragungselemente /I1 /2, .., ij,..., /TV erzeugt In dem speziellen Fall einer erfindungsgemäßen Vorrichtung, bei -der jeder der N Eingänge mit jeder der η Ausgangsstationen durch ein einzelnes Übertragungselement verbunden ist liegt eine sogenannte (N π}-Verknüpfung vor. Es ist aber nicht erforderlich, daß die Übertragungselemente der Vorrichtung jeden Eingang eo mit jeder Ausgangsstation koppeln. Vielmehr können in praktischen Fällen eine oder mehrere der durch die Übertragungselemente vermittelten Verbindungen zwischen-den Eingängen und den Ausgangsstationen ohne schädliche Beeinträchtigung der Funktion der Vorrichtung getrennt werden. Die "durch die Übertragungselemente vermittelten Verbindungen zwischen den Eingängen und den Ausgangsstationen der Vorrichtung können sogar völlig zufallsverteilt sein, vorausgesetzt, daß eine genügende Anzahl solcher Verbindungen vorhanden ist, um eine Informationsübertragung vom Eingang zum Ausgang und demgemäß auch eine informationsspeicherung in den Übertragungselementen zu ermöglichen. Demzufolge kann tine der Fig. 2 entsprechende Baueinheit auch weniger als /V Übertragungselemente umfassen, so daß nicht jeder Eingang ', 2, ..., j, ..., N mit dem jeweiligen Summierer 2]> gekoppelt sein muß.
In der Lernphase der Vorrichtung werden die Übertragungsfunktionen mindestens einzelner und
vorzugsweise aller Übertragungselemenie ij in Proportionalität
zu mindestens einem der Antwortsignale r,der Vorrichtung geändert, d.h., die Änderung öA,, der
Übertragungselemente erfolgt in Abhängigkeit von dem Produkt aus mindestens einem der Eingangssignale
und mindestens einem der Antwortsignale der Vorrichtung. Unter dieser Maßgabe kann somit der Algorithmus
für dip. Abänderungen <5A> denen die Elemente An
der Übertragungsfunktionen Matrix A unterworfen sind, abgesehen von einer zu den Eingangssignalen 5,
und den Antwortsignalen r, nicht in Beziehung stehenden gleichförmigen Abnahme, im allgemeinsten
Fall durch die folgende Beziehung angegeben werden:
Λ A11 = f (S1.
5, sN\ r„ r, r, r„)
Die apparative Realisierung eines solchen Änderungsalgorithmus, der im Prinzip jedes Eingangssignals
Sj mit jedem Antwortsignal /7 verknüpft, wäre natürlich
sehr kompliziert. Daher ist, um unnötige Komplikationen bei der Leitungsführung in der Vorrichtung zu
vermeiden, vorgesehen, daß die Abwandlung 6A11 der
Übertragungsfunktion Ay eines Übertragungselements nur von dem Eingangs- und Antwortsignalen desjenigen
Bauelements abhängig sein soll, dem das Übertragungselement angehört, und zwar derart, daß für die
Änderung όΛ^ der Übertragungsfunktion Ai1 desjenigen
Übertragungselements i, j, das den Eingang j mit der Ausgangsstation /koppelt, gilt:
mit der Maßgabe, daß
/ (sr r,) = ι, Sj rt
bzw.
bzw.
wobei η eine Proportionalitätskonstante bezeichnet deren Größe apparativ bedingt und gegebenenfalls
zeitabhängig ist.
Man erkennt, daß die Proportionalität:
Man erkennt, daß die Proportionalität:
Λ Au = ι, s, j-,
gerade dem vierten Term der Taylor-Entwicklung entspricht, wenn man die Funktion
Λ Ajj = J [Sj, I",·) ,
die stets von beiden variablen s> n abhängig sein soll,
nach steigenden Potenzen dieser Variablen entwickelt
was zu der folgenden Darstellung der Funktion f(Sj, rj führt:
/ {sr r,) = ci„, + Hai s, + ti],, r, +
<<„ r, s, + <i2I r, s, + «3) rf s, + ... + «„,„rj"^ ·
Da gefordert wird, daß die Abänderung der A1, von
dem Produkt des Eingangssignals s, mit dem Antwortsignal
r, abhängig sein soll, sind die ersten drei Terme dieser Entwicklung nicht von unmittelbarem Interesse.
Im übrigen IaBt sich beweisen, daß eine Abänderung der to
A,„ die nur eire Funktion von einem oder mehreren der
ersten drei Terme der Taylor-Entwicklung ist, nicht zu einer informstionsverarbeitenden Vorrichtung führen
würde, die die durch die erfindungsgemäße Vorrichtung
vermittelten vorteilhaften Intelligenzeigenschaften aufweist.
Der niedrigste Term der Taylor-Entwicklung, der dies
leistet, ist der . lerte Term, nämlich d 1 r s.
|v versteh: sich jedoch, daß auch weitere, auf den
zu bedeutsamen Ergebnissen führen können, wenn sie in
der erfindungsgemäßen Baugruppe verarbeitet ■*orden. Terme mit geraden Potenzen der Variablen s{ oder r
ermöglichter, aber bei den Abänderungen der Ubertragungsfunktionen
keine Unterscheidung hinsichtiici des r, Vorzeichens der erwünschten Abänderung. Terme. die
1·' gerade Potenzen dieser Variablen enthalten, wie etwa
(_ τ sechste Term. av r' s, würden dagegen eine solche
l'nterscheidung ermöglichen. Daher kann jeder dieser
Terme der er'indungsgemäßen Vorrichtung interessante
Eigenschaften vermitteln. Da die verschiedenen Terme der Taylor-Entwicklung den Abwandlungen (5/4,
der Matrix A der Übertragungsfunktionen unterschiedliche Gewichtungen erteilen, können insbesondere diese
Citwichtungen mit Vorteil dazu benutzt werden, der
erfindungsgemäßen Vorrichtung spezifisrhe erwünschte Eigenschaf'en zu vermitteln.
Die F 1 g. 4 zeigt eine Möglichkeit die die er'indungsgemäBe
Vorrichtung in ein anpassungsfähiges Informationsverarbeitungssystem eingegliedert und benutzt
werden kann. Die in dieser Figur dargestellte Vorrichtung
weist eine (N1N)- Verknüpfung auf. d. h. es sind N
Eingangsstalionen und N Ausgangsstationen vorgesehen, und jede Eingangsstation ist. wie in der F i g. 3
dargestellt, mit jeder Ausgangsstation über ein Übertra- ^
gungselement verbunden.
Die der Vorrichtung zugeführten Eingangssignale Si.
5.\ ... s, ... s\ charakterisieren ein Ergebnis in der
Umgebung, das in der Fig.4 als »Eingabe« bezeichnet
ist. Dieses Ereignis kann ein optisches Ereignis, etwa die Ansicht ein« Bildes, ein akustisches Ereignis, etwa ein
lon. oder irgend ein beliebiges anderes Ereignis sein,
beispielsweise der Empfang von Strahlungssignalen aus dem Weltraum. Die einzige Anforderung, die an ein
solches Ereignis zu stellen ist. besteht dann, daß es auf π
irgend eine Weise in eine Anzahl von Eingangssignalen S-. s,>. . s„ .. s\ übersetzbar ist. die ausreichend viele
Einzelheiten des interessierenden Ereignisses bewah ren.
Die Eingangssignale su S2, ... Sj, ... s,v werden von 6ö
einem Übersetzer erzeugt, der eine Art von Analyse des Ereignisses durchführt und nach Maßgabe dieser
Analyse Signale erzeugt. Wenn die Eingabe beispielsweise ein optisches Ereignis oder ein »Bild« ist, so kann
der Übersetzer dieses Bild in eine Anzahl von Rasterelementen unterteilen und Signale Su S2,... Sj,...
Ss1 erzeugen, die zu der optischen Dichte eines jeden
zugeordneten Rasterelements proportional sind. Wenn die Eingabe ein akustisches Ereignis ist, so kann der
Obersetzer eine Fourier-Analyse der akustischen Information durchführen und Eingangssignale S1, sj,...
sp ... s,v erzeugen, die zu der Schallamplitude jeder der
Fourierfrequenzen proportional sind. Es versteht sich jedoch, daß der in Verbindung mit der Vorrichtung zu
benutzende Obersetzer geeignet wählbar ist und daß dem Fachmann zahlreiche Arten geeigneter Übersetzer
bekannt sind. Da außerdem der Obersetzer, für sich genommen, nicht Teil dieser Erfindung ist, soll er im
folgenden nicht im einzelnen behandelt werden.
Gemäß einer bevorzugten Ausführungsform der Erfindung sind diese Antwortsignale kontinuierliche
Variable, d.h.: sie können beliebige Werte zwischen
wert annehmen, je nach der Art des durch die
Antwortsignale charakterisierten Ereignisses und der apparativen Bedingungen, die durch den Aufbau der
Vorrichtung vorgegeben sind. Um bei Bedarf die Vorrichtung »zwingen« zu können, ein spezielles
Antwortsignal abzugeben (einen bestimmten Satz ° nzelner Antwortsignale n. r?, ... r„ ... r\). wenn ein
spezielles Eingangssignal (ein Satz bestimmter einzelner
Eingangssignale s .S: 5, sy^dargeboten wird, kann
die Vorrichtung mit einer geeigneten Einrichtung ausgestattet sein, die einzelnen oder sämtlichen
Ausgangsstationen spezifische Antwortsignale (z. B. Spannungen) aufprägt oder zuführt. Auf diese Weise
kann die Vorrichtung in der als »aktives Lernen« bezeichneten Betriebsart betrieben und veranlaßt
werden, auf jedes gegebene Eingangssignal ein vorbestimmtes,
erwünschtes Antwortsignal abzugeben. Diese Betriebsart i.'.t zwar derjenigen dsr bekannten Vorrichtungen
ähnlich, aber auch hier profitiert man von der erhöhten Lerngesi-hwindigkeit der erfindungsgemäßen
Vorrichtung.
Bei Bedarf können die Ausgangsstationen 1,2 /'...
N der Vorrichtung auch jeweils mit einer Anzahl von Schwellenwerteinrichmngen Ti Tj. ... T1. ... Tn wie
Schmitt-Trigger oder dergleichen verbunden sein, die ein Ausgangssignal erzeugen, wenn das ihnen zugeführte
Antwortsignal jeweils einen einstellbaren Schwellenwert Θ. (J!, ... θι. ... Θμ überschreitet. Diese
Schwellenwerteinrichtungen bewirken, daß das analoge Antwortsignal der Vorrichtung in ein digitales Ausgangssignal
umgewandelt wird, das auf einfache Art und Weise weiter verarbeitet werden kann. Diese Schwellenwerteinrichtungen
über zusätzlich eine Entscheidungsfunktion dahingehend aus, ob und wann ein spezielles Antwortsignal erzeugt worden ist.
Die Schwellenwerteinrichtungen Γι. Ti. ... T1, ... Tm
können auch für eine Betriebsart benutzt werden, die als »Unterdrütkurigsbetrieb« bezeichnet werden kann und
die den I.ernvorgang der Vorrichtung fördert. Wie im
folgenden ausführlich dargelegt werden wird, erfordert diese Betriebsart, daß das Ausgartgssigiial einer jeden
Schwellenwerteinnchtüng auf cl!ie Vorrichtung zurückgekoppelt
wird, um alle Surriimierer mit Ausnahme desjenigen, der das Antwortsignal erzeugt, äbzüschäU
ten.
Auf diese Weise werden alle Antwortsignale ru r2l...
r,v mit Ausnahme desjenigen Antwortsignal unterdrückt, das als Eingangssignal derjenigen Schwellen-
Werteinrichtung zugeführt wird, die ein Ausgangssignal erzeugt Der Vorteil hierbei besteht darin, daß die
Vorrichtung selbsttätig rasch lernt, einen Satz von Antwortsignalen n, rj, ... r,, ... r,v (und damit auch
Ausgangssignale der Schwellenwerteinrichtungen 71, Ti, ... Tm) zu ei zeugen, in dem nur eines diesel
Antwortsignale bei Darbietung eines gegebenen Satzes von Eingangssignalen S\, sj, ... sp ... sn von Null
verschieden ist.
Die Ausgangsstation der Vorrichtung oder der ι ο Ausgänge der Schwellenwerteinrichtungen, sofern solche
vorgesehen sind, können mit jeder Art von Ausgabe- oder Verarbeitungsgerät kombiniert werden,
je nachdem was für ein Vorgang in Abhängigkeit von den Antwortsignalen der Baugruppe durchgeführt
werden soll. Wenn die Vorrichtung beispielsweise dazu benutzt wird, sichtbare Bilde- zu identifizieren (z. B.
Scheckunterschriften) so können die Ausgänge der Schwellenwerteinrichtungen einfach mit einer Alarmanlage
verbunden sein, die einer Bedienungsperson Nachricht gibt, wenn ein bestimmtes Bild (z. B. eine
echte oder gefälschte Unterschrift) als echt erkannt oder als gefälscht emdeckt worden ist.
Ein weiterer Vorteil der erfindungsgemäßen informationsverarbeitenden
Vorrichtung liegt darin, daß sie als ein Assoziativ-Speicher. (bei dem Information nicht an
einzelnen Speicherplätzen sondern über das System verteilt gespeichert wird) benutzbar und in hohem Maße
unempfindlich gegenüber einem Fehlverhalten einzelne,· Bauelemente ist. Die Vorrichtung vermittelt dann
die Eigenschaften eines selbs'organisierten Sprechers
mit der Fähigkeit, Informaticn allein auf Grund von Erfahrung aufzunehmen. Es kommt hinzu, daß ein
solcher Asso/iativ-Speicher im allgemeinen dieselbe Kapazität, Zuverlässigkeit urd Genauigkeit wie ein
konventioneller digitaler Computerspeicher (beispielsweise wie ein Ferritkernspeicher), aufweist, bei dem die
Information an einem räumlich festgelegten Ort gespeichert wird. Ein weiterer Vorteil der erfindungsgemäßen
informationsverarbeitenden Vorrichtung, die als 4n
eine elektronische Schaltung realisierbar ist, besteht darin, daß sie eine große Speicherdichte ermöglicht. Sie
kann aus integrierten Schaltungen aufgebaut sein und benötigt daher keine diskreten Speicherelemente wie
Ferritkerne.
Wenn die Vorrichtung beispielsweise als Assoziativspeicher
benutzt wird, so kann sie direkt mit einem konventionellen digitalen Corr puter verbunden werden
(d. h. ohne einen eigenen einf;angsseitigen Übersetzer oder ausgangsseitige Schwellenwerteinrichtungen). <m
Selbstverständlich muß dann an der eingangsseitigen Schnittstelle der Vorrichtung ein Digital/Analogkonverter
vorgesehen sein, um die digitale Ausgabe des Computers in analoge Eingangssignal S\. S2. ■ · · -Sv
umzuwandeln, und es muß in der ausgangsseitigen Schnittstelle der Vorrichtung ein Analog-Digital-Konverter
vorgesehen sein, der die analogen Antwortsigna Ie η. Γ2... ■ γμ zur Eingabe in den Computer quantisiert.
Offensichtlich kann die erfindungsgemäße Vorrich tung für praktisch unendlich viele Zwecke eingesetzt §η
werden, wobei die zur Mitanwendung kommende spezielle Ausgabe- oder Verarbeitungseinrichtung
durch die speziellen Umstände des Einzelfalles bestimmt sein wird. Da die Ausgabe- öder Verarbeilungseinrichtung
für sich allein nicht Teil der Erfindung ist, sollen sie hier auch nicht in weiteren Einzelheiten
behandelt werden.
Die erfindungsgemäße Verrichtung kann auch in
einem Informationsverarbeitungssystem verwendet werden, bei dem mehrere solcher Vorrichtungen
entweder in Reihen- oder in Parallel- oder in Reihen/Parallelschaltung miteinander verbunden sind.
Beispielsweise können die Ausgangsstationen zweier Vorrichtungen mit den Eingangsstationen einer dritten
verbunden sein, derart, daß die beiden ersten Vorrichtungen die aus der Umgebung empfangene Information
»vorverarbeiten« können und diese (vorverarbeitete) Information zur endgültigen Verarbeitung und/oder
Speicherung an die dritte Vorrichtung abgeben.
Reihen- und Parallelschaltungen der Vorrichtung können somit die Intelligenz des Informationsverarbeitungssystems
vergrößern.
Die erfindungsgemäße Vorrichtung kann so aufgebaut sein, daß sie mit einer gewünschten Geschwindigkeit
»lernt«. Im Lembetriebszustand sollten ch; an den
Übertragungsfunktionen /4yder Übertragungselemente
vorzunehmenden Änderungen oAyso definiert sein, wie
oben angegeben; wobei gemäß einer bevorzugten Ausführungsform der Erfindung diese Abänderungen
von der folgenden Form sind:
Λ A11 = ι, r, S1.
Durch Einstellen des Wertes η. der apparativ einstellbar ist, ist es dann möglich, die Abänderungsoder »Lerngeschwindigkeit« der Vorrichtung zu
steuern.
Wenn η = 0 (δA1, = 0) gesetzt wird, ist es auch
möglich, den Lernbetrieb der Baugruppe vollständig »auszuschalten«, so daß die Vorrichtung dann als ein
reiner Assoziativ-Speicher arbeitet. Die Benutzbarkeit der Vorrichtung in diesem speichernden Zustand, in
dem die Übertragungsfunktionen vorbestimmt und festgelegt sind, ist ein wesentlicher Vorteil der
vorliegenden Erfindung.
Die erfindungsgemäße Vorrichtung kann auch so aufgebaut sein, daß sie sowohl mit einer vorbestimmten
Geschwindigkeit »vergißt« als auch lernt. Eine solche Arbeitsweise kann dadurch erreicht werden, daß es den
Übertragungsfunktionen A1, ermöglicht wird, beispielsweise
mit einer konstanten Zerfallsgeschwindigkeit abzunehmen. In der Lernphase ist ein solcher Verlust
gespeicherter Information günstig, da die Vorrichtung dadurch Einzelheiten ihrer früheren Erfahrung »vergessen«
und somit schneller verallgemeinern kann. Dagegen ist es dann, wenn die Lernphase der
Vorrichtung abgeschlossen ist und diese i·.. Speicherbetrieb arbeitet, erwünscht, jede Abnahme der ÜbertragungEJunktionen
möglichst auf »Null« (d. h. auf den bei den zur Verfügung stehenden Bauteilen niedrigst-möglichsten
Wert) zu reduzieren, damit die in der Vorrichtung gespeicherte Information so lange wie
möglich auch ohne Verwendung eines Pufferspeichers festgehalten werden kann.
Wenn mehrere Vorrichtungen, die in Reihe oder parallel geschaltet sind, benutzt werden, so können
verschiedene Vorrichtungen auch in verschiedenen Betriebsarten betrieben werden, um innerhalb eines
Informationsverarbeitungssyslenis unterschiedliche
Funktionen auszuführen. Beispielsweise können sich eine oder mehrere Vorrichtungen in der Lernphase
befinden (in der t. B. sowohl η als auch die Zerfallsgeschwindigkeil ziemlich groß sind), Während
eine oder mehrere Vorrichtungen als reine Speicher benutzt werden (wobei öAu und die Zerfällsgeschwindigkeit
0 sind). Die Fig.7 zeigt ein Beispiel eines
solchen Systems, das drei Vorrichtungen umfaßt Aus dieser Figur ist ersichtlich, daß die Zahl der Eingänge
einer Bank H (Zahl der Eingangsstationen einer Vorrichtung mit der Bank /^gleich, größer oder kleiner
sein kann als die Summe der Ausgangsstationen von Vorrichtungen mit den Ausgangsstationsbanken Ro und
R.\, und daß jeder Ausgang von Ra und ÄA mit einem
oder mehreren Eingängen der Bank H in geordneter oder zufälliger Weise verbunden sein kann.
Schließlich ist darauf hinzuweisen, daß sobald die I ο
Lernphase einer Vorrichtung abgeschlossen ist, die Werte der Übertragungsfunktion Abgespeichert und zu
einer sofortigen Einstellung einer weiteren Vorrichtung benutzt werden können. Diese »Sofort-Ausbildung«
wird in einfacher Weise dadurch erreicht, daß die Werte der Übertragungsfunktionen einer Vorrichtung auf
Anfangswerte /V°>,> gesetzt werden, bevor die Baugruppe
in Betrieb genommen wird.
Bei einer bevorzugten Ausführungsform der Erfindung ist dafür ein üblicher (entweder analoger oder
digitaler) Pufferspeicher vorgesehen, in den die Werte der Übertragungsfunktionen A11 einer Vorrichtung,
deren Lernphase abgeschlossen ist, eingegeben werden können und aus dem diese Werte entnommen werden
können, wenn die Übertragungsfunktionen derselben oder einer anderen Vorrichtung auf ihre Anfangswerte
<4(n|,, gesetzt werden sollen.
Die insoweit beschriebenen strukturellen und funktionellen Merkmale der erfindungsgemäßen Vorrichtung
zeigen, daß ihre Eigenschaften zumindest unter spezieilen, vereinfachenden Anr".hn;en einer expliciten
mathematisch-analytischen Behandlung in Ausdrücken mehrdimensionaler linearer AbN'dungen, also einer
Behandlung mit bekannten Methoden der linearen Algebra, zugänglich sind. Im folgenden werden daher
einige wesentliche Eigenschaften der erfindungsgemäßen Vorrichtung im Hinblick auf ihre Umsetzbarkeit in
mathematische Formulierungen näher erläutert und einige Ergebnisse einer unter speziellen, vereinfachenden
Annahmen durchgeführten expliciten mathematisehen Behandlung dieser Eigenschaften angegeben, Ue
den Fachmann dann einerseits ohne weiteres in die Lage versetzen, die erfindungsgemäße Vorrichtung an einen,
seinen Bedürfnissen entsprechenden, bestimmungsgernäßen Gebrauch anzupassen, und die ihm andererseits
den Weg zeigen, wie er selbst unter Ausnutzung der bekannten mathematischen Methoden eine Vorrichtung
nach der Erfindung konzipieren und/oder deren Eigenschaften analysieren kann.
Die Fig. 5 zeigt in schematicher Darstellung eine
Vorrichtung, in deren Umgebung eine Anzahl von
»Ereignissen« e . e2. e1 c e1' e* auftreten
kann. Fs versteht sich, daß unter einem »Ereignis«
jeweils ein ganzer Komplex von objektiv, d. h. mit Hilfe
von Meßeinrichtungen od. dgl. der Vorrichtung v> erfaßbare spezifischen Eigenschaften. Zuständen und/
oder Vorgängen zu verstehen ist, deren spezielle Kombination die Verschiedenheit der einzelnen Ereignisse
charakterisiert. Solehe Meß-Einriehlungen sind es,
die die Funktion des Übersetzers gemäß F i g. 4 vermitteln, der für jedes der Ereignisse e', e2, e\ ..., e*
einen charakteristischen Satz von Ausgangssignalen s1,
s1, j3, ,..., 5* erzeugt, wobei natürlich jeder dieser
Ausgangssignalsätze s>' (v = 1... k) maximal N von
Signalkomponenten umfaßt, die ihrerseits die Eingangssignale i/der erfindungsgemäßen Vorrichtung sind.
Man erkennt, daß die Verschiedenen Ereignisse e'r e2,
..., β', ..η eV^.,, e* bzw. deren Einzelmerkmale
einerseits, und die zugeordneten Ausgangssignalansätze s1, s3, ..„ »·, ..., s", ..., s* andererseits einen im
methematischen Sinne als Vektor interpretierbaren Ereignisraum E bzw. einen Eingangssignalraum 5
aufspannen, und daß der Übersetzer, der die einzelnen Ereignisse in zugeordnete Eingangssignalsätze transformiert,
im mathematischen Sinne eine Abbildung P des Ereignisraumes E auf den Eingangssignalraum 5
vermittelt, was in der F i g. 5 durch den doppelten Pfeil P
veranschaulicht ist, der von ezu szeigt
Es versteht sich, daß die Abbildung P im Singangssignalraum
S ein möglichst detailreiches Bild der Ereignisse entwerfen seilte, damit ein genügend großer
Betrag der interessierenden Information über das Ereignis erhalten bleibt. Daher sollte der Übersetzer,
der selbst nicht Gegenstand der Erfindung ist, so beschaffen sein, daß er die einzelnen Ereignisse nach
Qualität und Grad ihrer Einzelmerkmale gut zu unterscheiden vermag, damit auch die für die einzelnen
Ereignisse erzeugten Sätze von Eingangssignalen S1 den
Grad der Verschiedenheit (oder Ähnlichkeit) zwischen den auf den Eingangssignalraum S abgebildeten
Ereignissen hinreichend genau widerspiegeln. Es soll im folgenden davon ausgegangen werden, daß die Abbildung
Pbzw. der Übersetzer diese Eigenschaft besitzen.
Für Ereignisse e" und e". die sich in den von dem
Übersetzer erfaßten Merkmalen nur wenig unterscheiden, werden dann Eingangssignalsätze σ" und c erzeugt,
die, als Vektoren aufgefaßt, nur wenig voneinander unterschiedliche Richtungen markieren. Ereignisse, die
beispielsweise einander ebenso ähnlich sind wie etwa eine weiße Katze und eine graue Katze, die sich
ansonsten in ihren weiteren Merkmalen aber praktisch nieht unterscheiden, werden dann auf Eingangssignalvektoren
s1' und 5" abgebildet, die annähernd parallel
sind, während Ereignisse, die so verschieden sind wie
beispielsweise der Klang tiner Glocke und das Aussehen eines Nahrungsmittels, also Ereignisse mit
Merkmalen, die in praktischen Fällen nicht von den selben Meßgeräten des Übersetzers erfaßt werden
können, werden dann auf Eingangssignalvektorer abgebildet, die im mathematischen Sinne orthogonal
zueinander sind
Im folgenden mjII von dem in der F i g. 6 dargestellten
speziellen Ausführungsbeispiel einer erfindungsgemäßen Vorrichtung ausgegangen werden, die N Eingänge
und N Ausganfsstationen hat. wobei jede der Ausgangsstationen mit jeweils einem Eingang durch ein
einzelnes Übertragungselement ^verbunden ist. Die in der F ι g. b nicht dargestellten, jedoch ebenfalls wie beim
Ausführungsbeispiel gemäß den Fig. 3 oder 9 ebenfalls
vorhandenen Summierern ^,arbeiten in der Weise, dall
beispielsweise die Antwortsignalkomponente r <k»-
Antwortsignalsatzes /?gemäßder Beziehung
r, Σ -·1.,ν
gebildet wird, wobei Atj die Übertragungsfunktion des
//-ten Übertragungselements ist und demgemäß das Antwortsignal /J Von allen Eingangssignalen j, abhängig
ist, die an den Eingängen für die Signalverteilung S vorhanden ist. Dies ist die grundlegende Beziehung, die
den Einfluß der im Eingangssignalraum 5 vorhandenen Eingangssignale auf die im Antwortsignalraum -R
erzeugten Antwortsignale beschreibt.
Man erkennt, daß diese Beziehung ebenfalls im mathematischen Sinne eine Abbildung A des Eingangs-
signalraumes S auf den Antwortsignalraum R beschreibt,
was in der F i g. 5 durch den einfachen Pfeil A veranschaulicht ist
Zwar ist es für ein befriedigendes Funktionieren der
erfindungsgemäßen Vorrichtung nicht erforderlich, daß zwischen den Eingängen und den Ausgangsstationen
eine N-N Verknüpfung vorliegt; vielmehr können die tatsächlich zwischen den Eingängen j und den
Ausgangsstationen / der erfindungsgemäßen Vorrichtung bestehenden Verbindungen zufällig angeordnet
und mehrfach vorhanden sein, und es können zwischen einem bestimmten Eingang und einer bestimmten
Ausgangsstation auch gar keine Verbindungen bestehen. Es ist auch nicht erforderlich, daß die Antwortsignalkomponenten
r, gemäß der obigen Beziehung eine lineare Funktion aller N Eingangssignale sind, jedoch ist
es unter den vorgenannten speziellen Annahmen auf eine verhältnismäßig einfache Weise mögh'ch, die
Abbildung A, deren Koeffizienten A.., (die die Übertragungsfunktionen
der Übertragungselemente sind) in der Lernphase der Vorrichtung abgeändert werden, mathematisch
zu behandeln und ihre Eigenschafcen in einer übersichtlichen, geschlossenen analytischen Form abzugeben.
Im folgenden werden nun einige, eine Anzahl von 2=;
wesentlichen Eigenschaften der erfindungsgemäßen Vorrichtung charakterisierende Ergebnisse einer solchen
analytischen Behandlung der Abbildung A angegeben und kurz erläutert
to
15
30
Speicherwirkung
Die durch die obige Beziehung
Die durch die obige Beziehung
35
definierte Abbildung A kann auch auf der Basis der von der Vorrichtung verarbeiteten bzw. abgebildeten
Vektoren angegeben werden gemäß der Beziehung
40
A=V1
r" ■
in der die entsprechenden Sätze von Antwortsignalen tuf das v-te und μ-te Ereignis e" und ef jeweils r und &■
jeweils /* und ν und der Parameter cur den Kopplungskoeffizienten zwischen aen v-ten Satz von Eingangssignalen
S1' und dem μ-tcTi Antwortsignalsatz r° bedeutet.
Bei dieser Darstellung der Abbildung A sind es die Koeffizienten c,,,·. die mit der Zeit anwachsen, wenn
aufeinanderfolgende Ereignisse eauf die Eingangssignale s aufgebildet und von der Vorrichtung zu Antwortsignalen
verarbeite*, werden.
Dabei beschreibt das //-te Element der Abbildung A,
d. h. die Übertragungsfunktion A1, die Wirkung des
Übertragungselements zwischen dem in dem Eingangssignalraum 5 auftreten Jen Eingangssignal s, und dem
Antwortsignal r, des Antwortsignalraums. Selbst wenn nur die Eingangssignalkomponeme 5/von Null verschieden ist, so daß gilt,
r, = An Sj,
ist wegen
c„r 'fs/
60
65
die Wirkung des //-len Ül?ertrai!ungselements a/;aus der
gesamten Erfahrung des Systems zusammengesetzt, die sich in den mit diesem Übertragungselement verknüpften
Eingangs- und Ausgangssignalen widerspiegelt. Dies bedeutet, daß die erfindungsgemäße Vorrichtung die
Eigenschaft hat eines nach Inhalt oder Verknüpfung adressierbaren Assoziativ-Speichers, der jegliche Erfahrung
der Vorrichtung in Abbildungen der Form A speichert, d. h. in durch die Darbietung und Verarbei
tung von Ereignissen bestimmten Einstellungen der Übertragungsfunktionen A11 der Gesamtheit seiner
Übertragungselemente ij. Jedes Ereignis wird also über eine Vielzahl von Übertragungselementen verteilt
gespeichert, während die Einstellung einer bestimmten Übertragungsfunktion gegebenenfalls durch eine Überlagerung
zahlreicher Ereignisse bestimmt sein kann.
Auf Grund dieser Eigenschaften vermag die erfindungsgemäße Vorrichtung ein Ereignis, das in der
Lernphsbe zu einer Einstellung der Übertragungsfunktionen A,j der Übertragungselemente beigetragen hat.
dadurch zu erkennen, daß das Antworoignal auf dieses
Ereignis stärker ist als wenn der Vorrichtung ein Ereignis dargeboten wird, das sie vorher noch nicht
»gesehen« hat. Dies bedeutet umgekehrt natürlich, daß die Tatsache, daß die Vorrichtung auf ein bestimmtes
Ereignis ein starkes Antwortsignal erzeugt (d. h„ daß die Summe der Quadrate r2, der Antwortsignalkomponen
ten r, groß ist, daß die Vorrichtung das auf dieses Antwortsignal abgebildete Ereignis schon einmal
wahrgenommen hat.
Die erfindungsgemäße Vorrichtung vermag daher ein Ereignis λ, das durch einen Satz von Eingangssignalen
s'-, + 5*2 charakterisiert ist, auch dann zu erkennen,
wenn nur ein Teil (beispielsweise s/) der für dieses
Ereignis charakteristischen Eingangssignale erzeugt werden, weil auch dann die Summe der Quadrate der
Ausgangssignale größer sein wird, als wenn de-Vorrichtung
ein »unbekanntes« Ereignis dargeboten worden wäre. Zwar ist dann das Antwortsignal /* mit
einem höheren Rauschanteil behaftet, aber dennoch »erinnert« sich die Vorrichtung an die Darbietung des
vollständigen Ereignisses.
Dies bedeutet aber, daß es gemäß der Gleichung
4 = V Cii r« . ,· = >i( +.)|
die Koeffizienten t ,„ des Diagonalanteih
''i - IA) diagonal X< '' s
''i - IA) diagonal X< '' s
sine', de für die Erkennung wesentlich sind, während die
Nichtdiagonalglieder
?l der Matrix A
mcht-diago"al V (·η r" s
mcht-diago"al V (·η r" s
dafür verantwortlich sind, daß die erfindt'ngo'gemäße
Vorrichtung bei Auftreten eines Ereignisses e1', das iir
der Lernphase mit einem weiteren Ereignis c verknüpft war, ein anderes, und zwar für diese Verknüpfung
charakteristisches Ausgangssignal erzeugt, als wenn der Vorrichtung in der Lernphase stets nur das Ereignis e>
oder e" allein dargeboten worden wäre. Die Koeffizienten C1It, die in der Lernphase geändert werden, können
daher als die direkten Erkennung (Cn,, bzw. c„„)· und
Verknüpfungskoeffizienten (c,lr, ν = μ) interpretiert
werden.
Eine weitere vorteilhafte Eigenschaft der erfindungsgemäßen Vorrichtung ist ihre Fähigkeit zur Verallgemeinerung,
d. h. die Fähigkeit, aus einer Anzahl ι unterschiedlicher Ereignisse deren gemeinsames Element
herauszuziehen. Diese Möglichkeit beruht auf der durch apparative Mittel realisierten Eigenschaft der
Vorrichtung, daß die Änderungen 6Ay, die die
Übertragungsfunktionen A11 als Folge der in der
Lernphase erfolgenden Darbietungen von Eingangssignalsätzen
sowohl den Eingangssignalen s, als auch den
aus diesen erzeugten Ausgangssignalen r, proportional sind, so daß die wiederholt auftretenden gemeinsamen
Elemente eines Eingangssignalsatzes eine im Ergebnis nachhaltigere, weil stets im selben Sinne erfolgende
Änderung der Übertragungsfunktionen bewirken, als beispielsweise statistisch variierende Komponenten
soicher Eingangssignaisätze. deren Einfluß sich herausmittelnkann.
Nach Abschluß der Lernphase reagiert daher die erfindungsgemäße Vorrichtung auf einen Satz von
Eingangssignalen, der Komponenten enthält, die gemeinsamer Bestandteil der in der Lernphase dargebotenen
Eingangssignalsätze war, mit einer starken Antwort auf diesen Signalbestandteil. Anders ausgedrückt:
vollzog sich die Einstellung der Übertragungsfunktionen a,, in der Lernphase unter Darbietung der k
Eingangssignaisätze bzw. -Vektoren von der Form
II2.
+ (Γ
ist. vom Rauschen zu trennen, da die Vorrichtung die Erkennung der einzelnen Eingangssignaisätze auf die
Erkennung ilr-es gemeinsamen Bestandteils 5° reduziert
und damit auf diesen verallgemeinert
Wie schnell dierer Start durchgeführt wird, hängt von
apparativen Parametern der Vorrichtung ab, durch deren Einstellung es möglich ist, die Änderung der
Übertragungsfunktionen Ag einerseits so zu gestalten, daß alle Einzelheiten der Eingangssignale in dem
Assoziativspeicher gespeichert v/erden, andererseits aber auch so, daß der Assoziativ-Speicher Einzelheiten,
die nur in Verbindung mit einem einzigen oder nur wenigen Eingangssignalen dargeboten werden, »vergißt«
und nur die gemeinsamen Elemente, gleichsam die zentralen Eingangssignalvektoren einer Klasse von
ähnlichen Ereignissen bewahrt und speichert.
Gemäß der Beziehung:
(Π
tionen der Übertragungselemente vermittelten Abbildung A des Eingangssignalraumes S (Eingangssignal·
vektors s1·) auf den Antwortsignalraum R (auf
Antwortsignalvektoren /*') eine jjewichtete Summe über
die /Komponenten aller Eingangssignal vektoren sr und
die /-Komponenten der Antwortsignalvektoren /»·.
Eine Art der Abänderung deir Übertragungsfunktionen
A11, die zu den vorerwähnten günstigen Eigenschaften
der Vorrichtung führt ist die, die Änderungen öAy in
Proportionalität zum Produkt üius der Eingangssignalkomponente
s, und dem Antwortsignal r, vorzunehmen
gemäß der Beziehung:
"A11^r-,*, (2)
gegebenenfalls mit einem dieser Änderung ein bestimmtes Zeitverhalten aufprägenden Keitabhängigen oder auf
einen konstanten Wert einstellbaren Proportionalitätsfaktur η.
Auch das Hinzufügen solcher durch die Proportionalität
(2) Änderungen zu den Übei'tragungsfunktionen A,j
für alle Verknüpfungen r>' χ s^gemäß der Beziehung:
30
die jeweils den gemeinsamen Bestandteil s° aber verschiedene zusätzliche Bestandteile u\ ... u* hatten,
dann »sieht« die Vorrichtung, wenn ihr später der Eingangssignalsatz ein 50U**1 dargeboten wird, im
wesentlichen nur den Bestandteil s° und erzeugt dann ein für diesen Bestandteil charakteristisches Ausgangssignal.
Diese Eigenschaft der erfindungsgemäßen Vorrichtung beinhaltet die äußerst vorteilhafte Möglichkeit.
ein Eingangssignal s", das mit dem statistisch
variiprpndpn Raiisrhantpil rf vprknfinft Ut in rlaß das
der Vorrichtung dargebotene Signal von der Form
50
■i/l
sr
(3)
in der Lernphase führt zu einer Abänderung der Übertragungsfunktionen, die dte genannten günstigen
Eigenschaften vermittelt.
Der Lernvorgang kann sich nun so vollziehen, daß der Vorrichtung wiederholt ein Eingangssignalsatz s1
dargeboten und die Vorrichtung »gezwungen« wird,
einen »korrekten« Antwortsignaiisatz, etwa /*>, abzugeben.
Dies kann beispielsweise mit Einrichtungen der in der F i g. 8 dargestellten Art erreicht werden, bei der die
erwünschten Antwortsignale ru, για, ■ ■ ■ Πα, ■ ■ ■ Ova an die
Ausgangsstationen 1, 2, ..., j. ..., N angelegt werden können, um die einzelnen Antwortsignale η, r2,..,/»..,
Γν dadurch zu zwingen, diese erwünschten Werte
anzunehmen. Da hierbei die Ausgangssignale der Vorrichtung zur Abänderung der Übertragungsfunktionen
A1, nach der obigen Proportionalität (2), d. h. gemäß
6A1, = η ■ r"', ■ s>j
ist das ij-xc Element ^,,derdurchdieübertragimgsfunk-(worin
η eine Proportionalitätskonstante ist) benutzt werden, dann baut die Vorrichtung durch wiederholte
Änderung der Übertragungsfurilctionen Ay bei wiederholtem
Anlegen der Eingangssiginale s>- sehr schnell eine
detaillierte und genaue Erinnerung des Antwortsignalvektors /*' an den Eingangssignalrektor i1 auf.
Diese Art des Lernens wird irrir folgenden als »aitdves
Lernen« der Vorrichtung bezeichnet Eine Form des »aktiven Lernens« liegt auch vor, wenn das auf einen
Satz von Eingangssignalen s* erzeugte Antwortsignal mit der »richtigen« Antwort /*>
verglichen wird und die Übertragungsfunktionen A11 der Übertragungselemente
schrittweise in einem solchen Sinn verändert werden, daß bei erneutem Anlegen des Eingangssignals s* ein
Antwortsignal erzeugt wird, das näher an der richtigen Antwort p» liegt
Es versteht sich, daß bei einer solchermaßen aktiv lernenden Vorrichtung deren Bedienungsperson die
richtige Antwort oder die richtigen Antworten auf die verschiedenen Eingangssignalsäilze skennen muß.
Dies ist jedoch bei der eingangs erläuterten und im Folgenden als »passives« Lernen bezeichneten Betriebsart
der Vorrichtung, bei der der !Lernvorgang so abläuft, daß der Vorrichtung in ihrer Lernphase ein einzelner
oder mehrere Eingangssignalsätze wiederholt dargeboten werden, svobei die Übeftfagungsfunktionen gemäß
der Beziehung (2) oder (3) selbsttätig geändert werden und die Lerhphäse nach einer bestimmten Lernperiode,
d. h. beispielsweise flach einer vorgegebenen Anzahl 5 von Lernzyklen beendet wird, nicht erforderlich,
jedenfalls dann nicht, wenn die durch eine Matrix AO
insgesamt beschreibbare Einstellung der Übertfagungsfunktionen Ay nach Abschluß der Lernphase im
vorstehend erläuterten Sinne eine Abbildung definiert, !o die den Eingangssignalraum S isomorph auf den
Ausgangssignalraum R abbildet. Dies bedeutet, anschaulich ausgedrückt, daß der Grad der Verschiedenheit
von Eingangssignalsätzen s\ sP bei der durch die
geänderten Übertragungsfunkiionen /!,/-Matrix vermittelten
Abbildung auf die zugeordneten Ausgangssignalsätze r\ H1 erhalten bleiben muß, damit die durch die
Eingangssignalsätze sound .»'charakterisierten Ereignisse
e* und e?an Hand der Ausgangssignalsätze r* und /0,
falls sie verschieden sind, auch als verschieden erkannt werden können. Diese Forderung ist, wenn die
Änderung der Einstellung der Übertragungsfunktionen Ay gemäß den Beziehungen 1 oder 3 (es sind auch noch
andere Änderungsbeziehunger möglich) erfolgt, jedenfalls dann erfüllt, wenn die Anfangseinstellung der
Übertragungsfunktionen so getroffen ist, daß die dadurch definierte Matrix /4<°) der Bedingung genügt:
(Am) TJ01 = / (/ = Identitälsmatrix).
(4)
30
Um die Forderung (4) zu erfüllen, genügt es auch. Wenn als Anfangseinstellung der Übertragungsfunktionen
eine solche gewählt ist, die eine zufällige symmetrische Matrix von Elementen Λ/, definiert.
Die sich im passiven Lernbetrieb nach der Darbietung von t Ereignissen (im »Zeitpunkt« t) ergebende
Einstellung der Übertragungsfunktionen Ay insgesamt
kann dann durch die Matrix A«> angegeben werden, für welche ganz allgemein gilt:
A:r- = γ A" '" + Λ A"
Λ Am = ,, r1
In der 2. Gleichung bezeichnet 77, wie oben erwähnt,
eine Proportionalitätskonstante, und γ eine dimensiona-Ie
»Zerfallskonstante«, die ein Maß für eine gleichförmige des momentan eingestellten Wertes einer jeden
Übertragungsfunktion ist (eine Art Vergessen). Gewöhnlich gilt 0 < v<
1.
Des weiteren wird als Pars meter ε derjenige Wert
von η eingeführt, den η annimmt, wenn die Eingangssignalvektoren
s* normiert sind, d. h, wenn gilt: (s'ß = 1.
Der Parameter ε, der auch ein Maß für die Geschwindigkeit ist, mit der Veränderungen an den
/!-Matrizen vorgenommen werden können (also eine Art Lerngeschwindigkeit), wird zweckmäßig in Modellrechnungen
auf der Basis normierter Eingangssignalvektoren s1 benutzt Die Werte der Parameter γ und η
bzw. ε können nach dem Ermessen des Benutzers eingestellt werden, um erwür sehte Eigenschaften der
Vorrichtung zu erzielen. Beispielsweise könnten während
einer Periode der Inform itionsaufnahme (passives
Lernen oder aktives Lernen) η oder ε etwas größer als 0
(ζ. B. η « ε =ί 1Ao) und γ etwas kleiner als 1 sein (ζ. Β.
γ =: 9/io), so daß die Vorrichtung Information rasch
aufnehmen und Einzelheilen vergessen wird. Nach der Lernphase kann es zweckmäßig seinf η — ε = 0 und
γ = I zu setzen, so daß die Vorrichtung nicht länger
»lernt«, sondern für eine beliebige Zeitspanne alle Information, die sie aufgenommen hat, speichert.
Bei einer in Betrieb befindlichen Vorrichtung ist die Speicherzeit durch die Zeitkonstantencharakteristik der
Schaltkreise der Vorrichtung bestimmt. Aus Gründen der Wirtschaftlichkeit oder der Zweckmäßigkeit können
die Zeitkonstan'3n so gewählt werden, daß eine Speicherung für Zeitspannen in der Zeit von Minuten
bis Stunden möglich ist. Für eine längere Speicherung könnte man unter solchen Umständen den Inhalt des
durch die Vorrichtung gebildeten Speichers (die Werte der A1J in einen Pufferspeicher übertragen und bei
Bedarf zurückübertragen.
Im allgemeinen vergißt eine Vorrichtung, bei der γ < 1 ist, Einzelheiten, hat aber eine größere Fähigkeit
zur Verallgemeinerung. Es zeigt sich, daß γ-Werte, die
wenig kleiner als gleich 1 sind, von größtem Interesse sind.
Um zu verhindern, daß das System in einen Sättigungszustand gelangt, kann es auch vorteilhaft sein,
die Abänderungen klein zu machen (7/ = 0 zuzulassen), sobald das Ausgangssignal r = As ein bestimmtes
Maximum überschreitet, d. h. wenn (r, r) = (As, As) >
bestimmtes Maximum.
Ausgehend von der obigen allgemeinen Beziehung für die Abänderungen der Übertragungsfunktionen in
der Lernphase erkennt man unmittelbar, daß deren Einstellung nach der Darbietung k verschiedenen
Eingangssignalsätzen &{ν = 1... k)\n der Form:
35
40
A'k) =
+ > s' ■ s'
vorliegt, wobei πο ein geordnetes Produkt ist, bei dem
die Faktoren mit niedrigeren Indizes links stehen.
\Λαπ oAonnl /loll oiif ',oAa
signalvektor i1' ein eigenes Antwortsignal A(°) s1' erzeugt
wird, das über A^ von dem ursprünglichen Zustand des
Vorrichtungsnetzwerkes und von dem für das zugeordnete Ereignis e1' eingegebenen Eingangssignalvektor s1'
abhängt
Man erkennt auch, daß für wiederholt auftretende Ereignisse, die für die Erkennung eines solchen
Ereignisses gemäß Gleichung (1) verantwortlichen Koeffizienten mit exponentieller Geschwindigkeit anwachsen,
da bei einem /-maligen Darbieten desselben Eingangssignalvektors 5t0) die Einstellung der Übertragungsfunktionen
durch die Beziehung:
Am = γ'Α'0)(\
s°
gegeben ist
Wenn /groß genug ist, daß es e*
> 1 ist so wird der Erkennungsterm schließlich dominieren. Wenn e* groß
genug ist kann es wünschenswert sein, den Wert von ε so einzustellen, daß kein weiteres Anwachsen eintritt
Das kann dadurch erreicht werden, daß ε zu einer Funktion des Antwortsignals auf einen Eingangssignalvektor
gemacht wird, derart, daß jenseits eines gewissen Maximalwerts kein weiteres Anwachsen des Koeffizienten
mehr stattfinden kann.
Für den Fall, daß die Eingabe der Vorrichtung in der
Lernphase aus der /-maligen Darbietung eines mit Rauschen behafteten Eingangssignalsatzes der Form:
s'= s° + /r
besteht, wobei α" der regellos variierende Rauschanteil ist, erhält man für die Einstellung der Übertragungsfunktionen beschreibende Matrix:
A"' ^ ·■<
Ame1· «J/V(l + <?" s° -s°),
IO
wenn η die mittlere Größe des Rauschanteils ist, und
man erkennt unmittelbar, daß die wiederholte Darbietung eines mit Rauschen behafteten Signals zu einer
Einstellung der Übertragungsfunktionen führt, die geeignet ist, ein Signal vom Rauschen zu trennen. Man
cfkeniH, uaö das Signal/Rausch-Verhältnis um so
günstiger wird, je größer die Zahl /Vder Ausgangsstationen ist, und es gilt für die erfindungsgemäße
Vorrichtung ganz allgemein, daß das Signal/Rausch-Verhältnis dann besonders günstig ist, wenn die Zahl k
der wahrgenommenen (und gespeicherten) Ereignisse klein im Vergleich zu A/ist.
Des weiteren wird deutlich, daß eine Verknüpfung von Eingangssignalen, d. h. das etwa gleichzeitig
auftretende Auftreten zweier verschiedener Eingangssignalsätze s* und S^ nur dann einen nennenswerten
Einfluß auf die Einstellung der Übertragungsfunktionen hat. wenn eine solche Verknüpfung mehrfach oder
immer auftritt, dann aber praktisch ohne Einfluß ist, wenn eine solche (zeitliche) Verknüpfung nur zufällig
einmal stattgefunden hat.
Unterscheidung von Ereignissen —
Schwellenwerteinrichtungen
Schwellenwerteinrichtungen
35
fm allgemeinen ist die Eingabe der erfindungsgemäßen
Vorrichtung eine Überlagerung von verschiedenen Eingangssignaisätzen, und demzufolge ist auch der
jeweilige Zustand, in djfti sich der ans den Übertragungselementen
bestehende Assoziativspeicher der Vorrichtung befindet, durch eine Überlagerung der
verschiedenen Eingangssignalvektoren bestimmt. Eine Trennung der durch die Eingangssignalvektoren repräsentierten
Ereignisse ist nun einmal, zumindest in einem gewissen Umfang, dadurch möglich, daß man die
Ereignisbereiche bestimmt, für die diese Eingangssignalsätze erzeugt werden. Beispielsweise können, wie es in
der Fig.7 dargestellt ist, optische und akustische Ereignisse und die für diese charakteristischen Eingangssignalsätze
einer Verarbeitung in getrennten Vorrichtungen unterworfen sein, bevor sie in einer
weiteren Vorrichtung weiter verarbeitet werden. Die Identifizierung optischer und akustischer Signale erfolgt
dann durch diejenigen Vorrichtungen, in die sie zuerst eingegeben werden. Verknüpfungen zwischen einem
optischen und einem akustischen Ereignis, beispielsweise, werden dann erst durch die nachgeschaltete
gemeinsame Vorrichtung erfaßt
Zur Unterscheidung bzw. Trennung von Eingangssignalvektoren bzw. der auf diese in einer für die
Verarbeitung durch die Vorrichtung geeignete Form »abgebildeten« Ereignisse können auch Schwellen ivert-
oder andere nicht linear arbeitende Einrichtungen in Verbindung mit der erfindungsgemäßen Vorrichtung
benutzt werden, die einen Eingangssignalvektor von dem anderen zu unterscheiden vermögen. Eine Schwierigkeit
besteht jedoch darin, daß bei der in der Art eines Assoziativspeichers aufgebauten Vorrichtung ein Satz
von Eingangssignalen zu einem über eine große Anzahl von Ausgangsstationen verteilten Antwortsignal führt.
Es ist daher durchaus möglich, daß ein an sich starkes Eingangssignal, d. h. ein Eingangssignalvektor Y", dessen
inneres Produkt mit sich selbst (sf, sf) einen großen
Wert hat, der jedoch aus Komponenten s*,· zusammengesetzt
ist, die für sich allein gesehen recht klein sind, zu einem Satz von Antwortsignalen /7 führt, die über eine
große Zahl von Ausgangsstationen /verteilt sind, wobei jede der Antwortsignallcomponenten /7 weit von einem
Schwellenwert entfernt ist.
Ein grundlegendes Problem ist es daher, wie der Schwellenwert einer einzelnen Einrichtung mit einem
solchen verteilten Signal zu verknüpfen ist. Dieses Problem kann dadurch gelöst werden, daß zu der
Vorrichtung, wie es in der Fig. ii dargestellt ist, Schwellenwerteinrichtungen 7Ί, 7*2, ... Z\, ... Tn
hinzugefügt werden. Beispielsweise gibt die Schwellenwerteinrichtung T, ein Ausgangssignal ab, wenn der
Absolutwert r, ihres Eingangssignals r, einen vorbestimmten Wert Θα den Signalschwellenwert der
Einrichtung, überschreitet, wenn also gilt:
Es ist wichtig, festzuhalten, daß das Anfangs-Eingangssignal 5™ entweder ein ursprüngliches Eingangssignal
aus dem Ereignisraum E oder auch das Ausgangssignal einer vorgeschalteten Baugruppe sein
könnte.
Eine wiederholte Eingabe des Eingangssignals 5«
(Eingangssignalvektor) führt zu einem Ausgangssignal /» (Ausgangssignalvektor), das nach den obigen Darlegungen
exponentiell anwächst. Im Ergebnis wird daher ein willkürliches aber wiederholt auftretendes Eingangssignal
s* schließlich eine Schwellenwerteinrichtung aktivieren, die auf dieses Eingangssignal ansprechen
wird.
Es sei nnrh pinmal darauf hingpwipspn riaft
(a) das Eingangssignal nicht von vornherein bekannt sein muß,
(b) das Eingangssignal in statistischem Rauschen verborgen sein kann und daß
(c) auch nicht von vornherein bekannt sein muß, welche Schwellenwerteinrichtung auf das Signal 5"
ansprechen wird. (Nach dem angegebenen Algorithmus bestimmt die stärkste Komponente des
Antwortsignalvektors /*, weiche Schwellenwerteinrichtung
anspricht. Es läßt sich daher erreichen, daß eine bestimmte Schwellenwerteinrichtung auf
einen bestimmten Signalvektor anspricht
Mit zusätzlichen Querverbindungen gemäß F i g. 11 läßt sich erreichen, daß die Aktivierung einer einzelnen
Schwellenwerteinrichtung als Antwort auf einen Signalvektor S* ein Antwortsignal der weiteren Schwellenwerteinrichtungen
auf diesen Signalvektor s" unterdrückt Wenn der Parameter γ während der Kernphase
kleiner als 1 ist, (y< 1) und 5* die Schwellenwerteinrichtung
Ti zum Ansprechen bringt, dann wird das
Antwortsignal auf s* wegen der kombinierten Wirkung der Abnahme (wegen γ<
1) und der Unterdrückung weiterer Antwortsignalkomponenten so abgewandelt werden, daß nur die /-te Komponente des Antwortsignalvektors
i* auf den Eingangssignalvektor sx wesent-
lieh größer als 0 bleibt. In einem Endzustand würde sich
danhergeben:
ι·|
Ausgangssignal
.:_i „ π-- wr.
1 n£CUg IUl UtC ilUUl IMCt-
IO
20
und es wird nur eine einzige Schwellenwerteinrichtung (oder so viele, wie erwünscht sind) auf eine bestimmte
Signalverteilung ansprechen.
Zusätzlich ist es zweckmäßig, die mit dem /-len
Schwellenwertelement verknüpften Übertragungselemente nicht weiter abzuändern (jedoch eine Abnahme
der Übertragungsfunktionen zuzulassen), wenn dieses /-te Schweilerivvertelement ein Ausgangssignal erzeugt,
das einen bestimmten Maximalwert überschreitet. Dies kann dadurch erreicht werden, daß die Abänderungen
der Übertragungsfunktionen der oben erwähnten Übertragungselemente für eine bestimmte Anzahl von
Ereignissen unterbrochen werden, so oft das Ausgangssignal des Schwellenwertelements den bestimmten
Maximalwert überschreitet.
Wenn einer solchen Vorrichtung während einer Lernperiode getrennte oder orthogonale Signalvektoren
dargeboten werden, so werden verschiedene Schwellenwerteinrichtungen mit der oben erläuterten
exponentiellen Geschwindigkeit durch die verschiedenen Signalvektoren aktiviert werden. Es werden dann
beispielsweise N orthogonale, wiederholt auftretende Signalvektoren nach einer Lertiperiode in Nverschiedenen
Schwellenwerteinrichtungen ein Antwortsignal erzeugen.
Auf diese Weise könnten die Schwellenwerteinrichtungen lernen, auf wiederholt auftretenden Erscheinungen
in der Umgebung charakteristisch zu antworten, auch wenn diese dem Benutzer zunächst nicht bekannt
sind.
Eine Zuordnung dieser Einrichtungen zu Ausgangssignalen einer vorgeschalteten Baugruppe würde
zusätzlich die Trennung der obenerwähnten Ereignisse oder Vektoren begünstigen.
Man erkennt, daß die erfindungsgemäße Vorrichtung
35
40
tionsverarbeitung darstellt Insbesondere bietet sie die Möglichkeiten der Erkennung, Erinnerung, Verallgemeinerung
und Verknüpfung von Ereignissen im oben definierten Sinn, ohne daß die Notwendigkeil menschlicher
Mitwirkung bei irgendeinem Entscheidungs- oder Lernprozeß besteht. Im folgenden wird eine bevorzugte
Ausführungsform der erfindungsgemäßen Vorrichtung beschrieben, bei der zwar nur gebräuchliche Bauelemente
wie Widerstände, Kondensatoren, Dioden und Transistoren verwendet sind, die sich aber auch für eine
Ausführung in bekannter Mikrominiaturisierungstechnik anbietet
Es sei daran erinnert, daß die /-te Untereinheit der
informationsverarbeitenden Vorrichtung gemäß F i g. 2 N Eingänge 12,... N umfaßt, die zu N Übertragungselementen
/1, /2,... i'N führen, die ihrerseits mit einem
Summierer ΣΊ verbunden sind, der ein Antwortsignal r, erzeugt Das /y-te Übertragungselement weist die
Übertragungsfunktion Ay auf, d. h. das Ausgangssignal s/ dieses Übertragungselements ist von der Form
sj = AjjSj, wenn Sj das y-te Eingangssignal ist, das der
Vorrichtung zugeführt wird.
Die die Information tragenden Signale sfi sj und r,
sollen in allen Fällen durch Spannungswerte dargestellt sein. Informationssignale könnten aber auch Frequenzen
(Impulsfrequenzen oder Frequenzen von sinusförmigen Schwingungen), Impulsbreiten, Ströme, Magnetfelder,
Magnetisierungen oder auch eine Kombination solcher Größen sein.
Geht man jedoch davon aus, daß die Informationssignale
durch Spannungen dargestellt werden sollen, dann kann die Übertragungsfunktion A-,,· als eine »Verstärkung«
(der Begriff soll Verstärkung und Vorzeichenwechsel umfassen) angesehen werden, die in Abhängig
keit von dem Eingangssignal sj des Übertragungsclements
und dem Ausgangssignal /yder /-ten Untereinheit verändert werden soll. Die Abänderung sei gemäß einer
bevorzugten Ausführungsform der Erfindung gegeben:
A1, =
45
50
55
60 Um einen Verstärker zu schaffen, dessen Verstärkungsgrad
durch schrittweise Veränderungen eines zuvor gegebenen Verstärkungsfaktorwertes gesteuert
wird, ist es notwendig, die Information über diesen Wert des Verstärkungsfaktors zu speichern und eine weitere
Einrichtung vorzusehen, die zu oder von diesem gespeicherten Wert Änderungsbeträge addiert oder
subtrahiert. Bei der bevorzugten Ausführungsform der Erfindung wird die Speicherung durch ein Bauelement
zur Speicherung einer elektrischen Ladung Q, beispielsweise
einen Kondensator, erreicht; die schrittweise Änderung wird demgemäß bei dieser Ausführungsform
mittels einer Einrichtung erzielt, die die Ladung Q von 0 auf + Qo oder - Qa, den Grenzwerten des Speicherelements,
zu ändern vermag.
Die Fig. 11 zeigt das /y-te Übertragungselement 100
der /-ten Untereinheit 102. Von einer Spannungsqueile 104 wird über eine Leitung 106 eine Spannung V1, an
einen Verstärker 108 angelegt, um dessen Verstärkungsfaktor A,j zu steuern. Der Verstärker ändert daher das
an einer Eingangsleitung 110 als Spannungssignal auftretende Eingangssignal S1 ab und erzeugt an einer
Leitung 112 (als Spannungssignal) eine Ausgangsspannung Sj' = A1J Sj.
Die Spannung V11, die den Verstärkungsfaktor
einstellt, wird von einer in dem //-ten Übertragungselement
gcapctiiici icii Laüuug Q,j abgeleitet uiiu ist daher
zu der Ladung Qi1 proportional. Die gestrichelte ? Linien
114 und 116 der Fig. 12 sollen jeweils anzeigen, daß diese Ladung in Abhängigkeit von einem an der
Eingangsleitung 110 auftretenden Eingangssignal s, und einem an der Ausgangsleitung 118 auftretenden
Antwortsignal r, verändert (vergrößert oder vermindert) werden kann. (Die Leitung 116 ist als zu der
Spannungsquelle 104 führend eingezeichnet, um dadurch symbolisch den Gedanken an eine Abänderung in
Abhängigkeit von dem Antwortsignal r, anzudeuten; bei der vorliegenden Ausführungsform wird das rückgekoppelte
Antwortsignal in Wirklichkeit zu einer Einrichtung geleitet, die die Breiten der Eingangsimpulse,
deren Impulshöhen S\, S2, ■ ■ ■ sjvsind, verändert.)
Siehe hierzu Fig. 13 und den dazugehörenden Beschreibungsteil. Um die Ladung Qy und damit die
Spannung V^und den Verstärkungsfaktor
in Übereinstimmung mit Gleichung (5) abzuändern, ist
es notwendig, die gespeicherte Ladung (?,> entsprechend
dem Produkt /vs, zu verändern. Dabei ist zu beachten,
daß die //Ladungen der /-ten Untereinheit (nämlich die
Ladungen Qn, Qa,... Qa,... QiN) im Verhältnis zu den
3Q
jeweilig empfangenen Eingangssignalen (nämlich it, 52,
... S1,... S\) und diitn gemeinsamen Antwortsignal r, der
Untereinheit abgeändert werden müssen. Um diese gewünschte Abänderung zu erreichen, wird als Eingangssignal
Sj die Höhe eines Spannungsimpulses 120 verwendet, während die Breite f, dieses Spar lungsimpulses
proportional zum Betrag \r,\ des Antwortsignals gemacht wird. Wenn r,
< 0 ist, so wird der Spannungsimpuls 120 invertiert. Es gilt somit:
O1, - S1 r, r, + 1 keine Inversion
und =
ι, ■*- \ r, I I r,-1 - 1 Inversion
ι, ■*- \ r, I I r,-1 - 1 Inversion
10
15
Spezielle Schaltkreise im Hinblick auf die in der Untereinheit 102 und dem Übertragungselement 100
stattfindende .Summierung sind in den Fig. 13 und 14
dargestellt. Der Summierer 122 der Untereinheit 102 ist
-_ J Γ~ — 13 ~lr L|nr<ir/>Iia·- Ci t~» m'. n—r ,*U π 1· I- -n.r
111 UtI 1 I £. I J tlI3 nlQJllAllH JUlllll III. ■ JL lld I ΙΛΙ 1.13
dargestellt, nvt einem Operationsverstärker 124. der
über eine Anzahl gleichdimensionierter Widerstände
126. 128. 130. 132 jeweils die Zwischensignale s . s/....
s'.. ■ ■ Sv, als Eingangssignale empfängt. Der Operationsverstärker
124 ist in bekannter Weise mit einem Widerstand 134 zusammengeschaltet und erzeugt an
einer (Ausgangs-)Leitung 136 ein Antwortsignal r„ das
der Summe der verschiedenen Zwischensignale s,'. s:'.
... s . ... s\ proportional ist, die die Ausgangssignale so
der einzelnen Übertragungselemente der Untereinheit 102 sind. Das Antwortsignal r wird über eine
Rückkspplungsleitung 138 jedem Übertragungselement
der Untereinheit wieder zugeführt. Das in der Fig. 14
dargestellte /,-te Übertragungselement empfängt das
Eingangssignal an der Eingangsleitung 110 und erzeugt
sein Ausgangssignal s ' an der Leitung 112. Das //-te
Eingangssignal hat die Form eines Impulses mit der Amplitude s (die entweder positiv oder negativ sein
kann) und e>ne Impulsnormalbreite, die (lurch die
['iru-abe- oder Puffereinrichtung bestimmt ist. die das
( K-rtragungselement 100 der Untereinheit 102 und die
\i>rrtchtung selbst mit der Außenwelt (Umgebung) xcHndet. Wie oben ausgeführt, sind die in Verbindung
mn il'.v informationsarbeitenden Vorrichtung verwendi'ifii
I ingabe- und Ausgabeeinrichtungen nicht Teil -!er vorliegenden Erfindung und werden daher im
1 «Ircndcn nicht im einzelnen beschrieben. Dabei
ι steht es s'ch. daß der Aufbau der Eingabeeinrichtung
φ der Art der Ereignisse abhängen wird, die in die so
•1 rchtung eingegeben werden sollen, während die
Xiisgabe-Einnchtung im Hinblick auf die endgültige
Zweckbestimmung des Systems konstruiert sein wird. I h iin Hinblick auf den Vorgang also, der als Antwort
.111 f die Ausgangssignale der Vorrichtung eingeleitet
<\ erden soll.
1 'ir die Zwecke dieser Erörterung möge es genügen
ί sagen, daß die Eingabeeinrichtung den Eingängen I.
j. .. N der Vorrichtung eine Anzahl von
I ingangssignalimpulsen zuführt. Die Eingang'ssignalimpulse,
die für jedes Ereignis gleichzeitig zugeführt
werden, weisen alle ein Irnpuls-Nörrrialbi'eite von
einigen jtsec auf Und Amplituden, die jeweils zu den zu
verarbeitenden Variablen s\,S2,...sj,..,Snproportional
sind. Die Amplituden dieser Impulse können auch
negativ sein, um negative Werte der Eingangssignale Si1
si 5Λ... SjV wiederzugeben. ■
Gemäß Fig. !3 wird ein solcher Eingangssignälinv
puls mit der Amplitude s, einem Impulsbreitenmodulator 140 zugeführt, der gleichzeitig über die Rückkopplungs-Leitung
138 ein Antwortsignal r, empfängt, das vom Ausgang eines in der Fig. 12 dargestellten
Summierers £ · abgenommen wird. Das Antwortsignal r,
resultiert aus der Summation, die von dem Summierer Y1, über die von den Übertragungselementen abgegebenen
Zwischensignale s, ausgeführt wird.
Der Impulsbreitenwandler sendet über eine Leitung 142 einen Impuls aus, der denselben Absolutwert der
Amplitude wie der Eingangssignalimpuls an der Eingangsleitung 110 hat (jedoch invertiert ist, wenn
r, < 0) und eine zu der Variablen |r,[ proportionale Impulsbreite f, aufweist.
Die an der Leitung 142 auftretenden positiven und negativen Impulse werden verstärkt und mit Hilfe eine^.
Operationsverstärkers 144 und diesem zugeordneten Widerständen 146,148 und 150 und Dioden 152 und 154
nach ihrer Polarität getrennt. Wenn ein an der Leitung 142 auftretender Impuls positiv ist, so wird er als
positiver Impuls tu einer Leitung 15S abgeieiiei, ai er
negativ, so wird er als negativer Impuls zu einer Leitung
158 geleitet. Gleichgültig ob der Impuls positiv oder negativ ist. so ist jedenfalls die von der Impulsform
begrenzte Fläche (entsprechend der grafischen Darstellung) der absoluten Größe des Produkts s, und r,
proportional.
Die positiven Impulse an der Leitung 156 werden einem invertierenden Operationsverstärker 160, dem
die Widerstände 162. 164 und 166 zugeordnet sind, und schließlich der Basis eines pnp-Transistors 168 zugeleitet.
Die an der Basis des Tramiistors 168 ankommenden
Impulse haben dann die geeignete Polarität, um den Transistor zu aktivieren, und einen Kondensator 170
über einen Widerstand 172 zu laden oder zu entladen. Die Ladungsmenge, die infolge eines jeden positiven
Impulses von den Kondensatoren aufgenommen oder von diesen abgeführt wird, ist dem Produkt aus der
Impulsamplitude, die den wirksamen Leitwert des Transistors 168 bestimmt, und der Impulsbreite, die die
Dauer des Auf- oder Entladevorganges bestimmt, proportional.
Die an der Leitung 158 auftretenden negativen Impulse werden einem weiteren invertierenden Operationsverstärker
174 mit diesem zugeordneten Widerständen 176, 178 und 180 zugeführ. In einer zu der
bezüglich des pnp-Transistors lfi! beschriebenen
analogen Weise sind hierdurch ein npn-Transistor 182 durch invertierte negative (d. h. positive), der Basis des
npn-Transistors zugeführte Impulse aktivier· Als Folge davon wird der Kondensator 170 über jinen Widerstand
184 entladen oder aufgeladen.
Die Ladungsmenge, die infoige eines jeden negativen Impulses von dem Kondensator 170 abgeführt oder
aufgenommen wird, ist dann dem Produkt aus der Impulsarnplilude die den wirksamen Leitwert des
Transistors 182 bestimmt, und der Impulsbreite, die die
Dauer des Auf- oder Entladungsvorganges bestimmt, proportional.
Als Ergebnis des oben beschriebenen Vorganges ist die von dem Kondensator gespeicherte Ladung Qy und
damit auch die Größe der Spannung V^-die Folge eines
anfänglichen Ladungszustandes, der über eine Leitung
186 erzeugt werden kann, bevor das Übertragungsele^ frient in Betrieb1 gesetzt wird, sowie def Gesamtsumme
aller schrittweisen Zu^ und Abnahmen, die als Folge des
wiederholten Anlegens Von Impulsen über die Είη-gangsieitung
110 eintreten: Zu beachten ist, daß der
Kondensator 170 mit beiden Polaritäten geladen werden kann und auch innerhalb der Grenzen der
möglichen positiven und negativen Spannungswerte des Versorgungsgerätes die Polarität wechseln kann.
Damit das Übertragungselement in der Lage ist, die
gespeicherte Information im Verlaufe einer Zeitspanne zu vergessen, kann der Spannung Vy die Möglichkeit
gegeben werden, mit einer geeigneten Geschwindigkeit abzunehmen.
Diese Abnahmegeschwindigkeit steht in Beziehung zu der oben erörterten Zerfallkonstanten γ, wonach eine
unendlich lange Abnahmezeit (offener Stromkreis) dem }>-Wert 1 und eine Abnahmezeit 0 dem y-VVert 0
äquivalent ist Wie oben erwähnt, sind in der Praxis
y-Werte in der Nähe von 1 von größtem Interesse, so is
daß die Zeitkonstante für diese Abnahme ziemlich groß gemacht werden sollte. Zu diesem Zweck werden
geeignete Werte der Kapazität des Kondensators und des Widerstands oder der Impedanz aller Bauelemente
ausgewählt, die die erwünschten Zeitkonstanten ergeben.
Schließlich wird die an dem Kondensator 170 anstehende Spannung über eine Leitung 192 an den
Steuereingang eines Verstärkers 194 mit steuerbarem Verstärkungsgrad angelegt. Falls notwendig, kann
zwischen den Kondensator 170 und den Verstärker 194 eine zusätzliche Verstärkerstufe eingefügt werden.
Dabei wird wiederum ein geeignet hoher Eingangswiderstand dieses Verstärkers gewählt, um die gewünschte
Zerfallskonstante zu erhalten. Der Verstärker 194 empfängt auch die über die Eingangsleitung 110
ankommenden Eingangssignalimpulse mit der Amplitude s, und »verstärkt« (der Begriff Verstärkung soll
wiederum Verstärkung, Abschwächung und Polaritätswechsel umfassen) diese Impulse gemäß dem gesteuer-
ten Wert des Verstärkungsgrades, um an der Leitung 112 Ausgangsimpulse der Amplitude S1' zu erzeugen.
Die Verarbeitung der Eingangssignale S1 mit Hilfe der
summierten Antwortsignale r, wird nun ausführlicher an
Hand der Fig. 14 betrachtet. Zuerst sei darauf hingewiesen, daß das Antwortsignal r, positiv, negativ
oder Null sein kann und daß, sofern nicht gegenteilige Maßnahmen getroffen sind, das Antwortsignal r» wie es
am Ausgang des Summierers 122 der Fig. 11 erhalten
wird, in der Form von Impulsen vorliegt. Während diese Signalform im Hinblick auf Verarbeitungseinrichtungen
die an der Ausgangsleitung 136 (des in der Fig. 12 dargestellten Summierers) angeschlossen werden sollen,
zweckmäßig sein mag, vollzieht sich der Rückkopplungsvorgang bei der vorliegenden Ausführungsform
der Erfindung günstiger, wenn die Ausgangssignale r, in einer quasikontinuierlichen Form vorliegen. Zu diesem
Zweck ist die in den Fig. 12 und 13 dargestellte Rückkoppiungsleitung 138 gemäß F i g. 14 mit einer
Tast- und Halteeinrichtung 196 verbunden. Der Zweck dieser Einrichtung besteht darin, die Dauer eines jeden
Impulses eines Antwortsignals r, um eine Zeitspanne zu verlängern, die annähernd gleich dem zeitlichen
Abstand zwischen aufeinanderfolgenden Impulsen ist, ohne dabei die Impylsarnpütude zu. verändern. Wie in
der Fig. 14 schematisch dargestellt Ist, wird die Tasi*
und Halteeinrichtung; 196 durch die Eingangssighale
(gepulste sj) Über einen Trigger 19« gelriggert (Der
Trigger 196 kann, wie dem Fachmann bekannt ist.
Einrichtungen zur Signalverstärkung, »formung,- üsw, umfassen); Das impulsförmige Antwortsignal η wird
dadurch in ein im wesentlichen kontinuierliches, im
folgenden mit ff bezeichnetes Signal mit sich zeitlich verändernder Amplitude umgewandelt Dieses Signal rf
wird weiter einem Vollweggleichrichter 200 und sodann einem Spannungs/Impulsbreitenwandler 202 zugeführt
Somit ist das dem Spannungs/Impulsbreitenwandler 202 zugeführte qüasikontinuierliche Signal an der Verzweigungsstelle
204 positiv (oder Null). Der Spannungs/Impulsbreitenwandler
202 erzeugt, wenn er, wie in der F i g. 14 angedeutet durch den Trigger 198 getriggert
wird, Impulse von emer Normalhöhe und -breite, die klein ist, verglichen mit der Breite der impulsförmigen
Eingangssignale Sj. Die Funktion des Signals r/ besteht
darin, diese schmalen (von dem Wandler 202 erzeugten) Impulse im Verhältnis zu der Amplitude des Signals rf
zu verbreitern. Die von dem Spannungs/Impulsbreitenwandler 202 erzeugten Impulse (mit konstanter
Amplitude) werden, wie in Fig. 14 dargestellt ist, einer weiteren Tast- und Halte-Einrichtung 206 and einer
Torschaltung 208 zugeführt Die ankommenden Signale Sj, die anfänglich eine Normalbreite aufweisen, gelangen
zuerst in die Tast- und Halte-Einrichtung 206 die diese Impulsbreite auf die zu r/ proportionale Dauer des von
dem Spannungs/Impulsbreitenwandler 202 erzeugten
Impulse ausdehnt Die Eingangssignal gelangen sodann zu der Torschaltung 208, die für dieselbe, ebenfalls durch
die Breite der von dem Spannungs/Impulsbreitenwandler 202 gelieferten Impulse, bestimmte Zeitdauer
offengehalten wird. Wenn als Folge einer kleinen /•/-Amplitude die Breite der letztgenannten Impulse bis
unter die Impulsnormalbreite der Eingangssignale s, verringert wird, so bleibt die Torschaltung 208 nur für
die verminderte Dauer der von dem Spannungs/Impulsbreitenwandler 202 gelieferten Impulse offen. Diese
Öffnungszeit der Torschaltung bestimmt dann die Impulsbreite des Eingangssignals Sj. Damit das algebraische
Vorzeichen des Produkts s, r, erhalten bleibt, wird das Signal rf von der Verzeigungsstelle 210 aus (wo es
immer noch mit beiden Polaritäten auftritt) zu einem Schalter 212 geleitet. Durch diesen Schalter wird das
eintreffende Signal s„ wenn rf negativ ist, invertiert und
wenn rf positiv ist, mit seiner ursprünglichen Polarität durchgelassen. Der Schalter 212 ist lediglich zur
Vereinfachung der nachfolgenden Beschreibung in der Fig. 14 der Torschaltung 208 nachgeschaltet eingezeichnet.
Eine in technischer Hinsicht vorzuziehende Anordnung für diesen Schalter wäre vor der Tast- und
Halte-Einrichtung 206.
Schließlich ist zwischen der Verzweigungsstelle 204 und der Torschaltung 208 eine UND-Schaltung 214
eingefügt, um den Durchgang des eint,-äffenden Signals (und damit des Produkts s, r,) zu verhindern, wenn das
Signal rf so klein ist, daß es eine Impulsbreite zur Folge haben müßte, d'.e geringer wäre als die Normalbreite
der von dem Spannungs/Impulsbreitenwandler 202 erzeugten Impulse.
Man erkennt, daß dadurch bei dem Produkt s, r, eine
Unstetigkeit zwischen dem durch die engsten von den Spannungs/Impulsbreitenwandler 202 abgegebenen Impulse
bestimmten Wert und Null auftritt Diese Eigenschaft fällt aber lediglich in den Bereich dessen,
was allgemein als Rauschen bezeichnet werden kann, die Vorrichtung ist aber auf Grund ihres AUfbaus und
ihrer Wirkungsweise besonders unempfindlich gegen Rauschen oder Überhaupt gegen ein unvollkommenes
Funktionieren einzelner Bauelemente.
Hervorzuheben ist, daß die durch \rj\ bestimmten
Impulsbreiten Und eine gemäß dem Vorzeichen von
m mögliche Inversion in gleicher Weise für alle
gepulsten Eingangssignale s\, ft,... Sn gelten, die der
Untereinheit zugeführt werden, da Abänderungen der Übertragungsfunktion Ag eines Übertragungselements
(bzw. Verstärkungsgrades) lediglich von den Eingangssignalen, die der das Übertraglingselement enthaltenden
Untereinheit zugeführt werden, und von dem
Antwortsigna! der Untereinheit abhängen.
Der größte Teil der in der Fig. 14 dargestellten elektronischen Baugruppen versorgt, wie der Fachmann
ohne weiteres erkennt, gleichzeitig alle Übertragungselemente
einer Untereinheit und wird daher für jede Untereinheit nur einmal benötigt.
Hierzu 8 Blatt Zeichnungen
Claims (29)
1. Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von (N)
Eingangssignalen charakterisierbaren Ereignisses, mit einer entsprechenden Anzahl von Signaleingängen
zum Empfang der N Eingangssignale und mit einer entsprechenden Anzahl (N) von Übertragungselementen,
deren jedes einen Signaleingang mit mindestens einer Ausgangsstation koppelt und to
dieser ein Signal zuführt, das dem Produkt der Übertragungsfunktion des Übertragungselements
und des durch dieses übertragenen Eingangssignals proportional ist, wobei die Ausgangsstation als
Ausgangssignal ein Summensignal erzeugt, das der Summe der ihr zugeführten Signale proportional ist,
und mit Einrichtungen, durch die in einer Lernphase der Vorrichtung, in der den Signaleingängen
mehrmals »in Satz von Eingangssignalen dargeboten wird, selbsttätig eine Änderung der Übertragungsfunktion
der Übertragungselemente in Abhängigkeit vom Ausgangssignal der Ausgangsstation erfolgt, gekennzeichnet durch folgende
Merkmale:
a) es sind mehrere (n) Abgangsstationen (122)
vorgesehen, und es sind einzelne oder alle der π
Ausgangsstationen über jeweils ein eigenes Übertragungselement (100) mit einzelnen oder
allen der (7V7Signaleingänge (J)gekoppelt;
b) das an der jeweiligen Ausgangsstation (i. 122)
erzeugte Summensignal ist das Eingangssteuersignal einer Einrichtung (138 bis 194) zur
Abänderung der übertragungsfunktionen A1,
einzelner oder aller derjenigen Übertragungselemente (100), die mit der jeweiligen Ausgangsstation
gekoppelt sind;
c) die durch die Einrichtung (138 bis 194) zur Änderung der Übertragungsfunktionen A1,
vermittelte Änderung derselben ist dem Ausgangssignal der jeweiligen Ausgangsstation
(122) proportional, bis eine vorgebbare Bedingung (Zeitablauf, Schwellenwert, Signalmuster)
auffällt.
2. Vorrichtung nach Anspruch 1, dadurch gekennzeichnet, daß die Einrichtungen (138 bis 194) zur
Abänderung der Übertragungsfunktion A11 eines Übertragungselemente (100) eine Abänderung in
Abhängigkeit von dem Produkt aus dem Eingangslignal s/mit dem Ausgangsantwortsignal r,gemäß so
(5 4,,= η s, r,
vermitteln, wobei η eine Proportionalitätskonstante
ist.
3. Vorrichtung nach Anspruch I oder 2, dadurch π
gekennzeichnet, daß eine Anzahl (n) von Schwellwerteinrichtungen
Γι, Ti,... T, Tn vorgesehen ist,
deren jede mit einer Ausgangsstation verbunden ist und ein Ausgangssignal erzeugt, wenn das an sie
angelegte Antwortsignal r, größer als ein Schwellenwert Θ ist (n>
0,-oder \n\ > ΘΪ).
4. Vorrichtung nach Anspruch 3, dadurch gekennzeichnet,
daß mit den Ausgängen aller Schwellenwerteinrichtungen Signaluriterdrückungseinrichtungen
verbunden sind, die alle Antwortsignale ru r2l...
r„ mit Ausnahme desjenigen unterdrücken, das als Eingangssignal an diejenige Schwellenwerteinrichtung
angelegt ist, die ein Ausgangssignal erzeugt
5. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine
Signalquelle vorgesenen ist, die selektiv an mindestens eine der Ausgangsstationen ein gewünschtes
Antwortsignal πα abgibt
6. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Einrichtungen
(138 bis 194) zur Abändeiang der Übertragungsfunktion A,j eine Einrichtung zur
Verminderung des Wertes der Übertragungsfunktion Aij mindestens eines Übertragungselements mit
einer vorbestimmten Geschwindigkeit umfassen.
7. Vorrichtung nach Anspruch 6, dadurch gekennzeichnet, daß der zeitliche Betrag der Abnahme
konstant ist, um eine gleichförmige Abnahme zu erzieien.
8. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet daß die Eingangssignale
Si, 52,-..Sp... S/v und die Antwortsignale
n, r? n... r„durch Spannungswerte repräsentiert
sind und daß jedes Übertragungselement (100) einen Verstärker (108) mit steuerbarem Verstärkungsgrad
enthält und daß die Übertragungsfunktion eines Übertragungselements durch den Verstärkungsgrad
repräsentiert ist.
9. Vorrichte ' nach einem der vorhergehenden
Ansprüche, dadurch gekennzeichnet daß jedes Übertragungselement eine Einrichtung zur Speicherung
seiner Übertragungsfunktion enthält.
10. Vorricfttung nach Anspruch 9, dadurch gekennzeichnet, daß als Einrichtung zur Speicherung
elektrischer Ladung ein Kondensator (170) vorgesehen ist.
11. Vorrichtung nach Anspruch 9 oder Anspruch
10, dadurch gekennzeichnet, daß die Einrichtungen (138 bis 194) zur Änderung der Übertragungsfunktion
eine Addiereinrichtung umfassen, die dem gespeicherten Übertragungsweg A,jd\e Änderungsschritte ό /!„hinzufügt.
12. Vorrichtung nach Anspruch Ii, dadurch
gekennzeichnet, daß in der Speichereinrichtung (170) des //-ten Übertragungselements eine Ladung
Q1, gespeichert und für alle Änderungsschritte die
Änderung f> Λ, der Übertragungsfunktion einer
entsprechenden Änderung Q1, der gespeicherten
Ladung proportional Qu ist und daß die Einrichtung,
die der gespeicherten Übertragungsfunktion Änderungsschritte A1, hinzufügt, einen ersten Impulsgeber
(190). der einen ersten Impuls mit einer zu dem Eingangssignal s, proportionalen Amplitude und
einer zu dem absoluten Wert des Antwortsignals r, proportionalen Breite t, erzeugt, und einen zweiten
mit dem ersten verbundenen Impulsgeber (202) umfaßt, der der Ladungsspeichereinrichtung (170)
einen zweiten Impuls zuführt, dessen Pulshöhe und -breite der Pulshöhe und -breite des ersten Impulses
proportional sind und dessen Polarität gleich ;r~r ist
1 3. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine
Einrichtung zum Einstellen der Übertragungsfunktion Ay eines jeden Übertragungselemente auf einen
gewünschten Wert Vorgesehen ist, die in einem einzigen Arbeitsgang einen Lernprozeß des Systems
ermöglicht.
14. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine
Einrichtung zur wahlweisen Unterbrechung des
Betriebs der Einrichtungen zur Abänderung der Obergangsfunktion vorgesehen ist, so daß die
Übertragungsfunktion Au der Übertragungselemente
keinen weiteren Änderungen unterworfen ist.
15. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß ein Pufferspeicher
zur Speicherung der Übertragungsfunktion mindestens einiger der Übertragungselemente (100)
und eine Einrichtung zur wahiweisen Übertragung der Übertragungsfunktion Ay dieser Übertragungselemente
in den Pufferspeicher vorgesehen ist
16. Vorrichtung nach Anspruch 15, dadurch gekennzeichnet, daß eine Einrichtung zur selektiven
Übertragung mindestens einer der Übertragungsfunktionen auf mindestens eines der übertragungs-
elemente (100) der informationsverarbeitenden Vorrichtung vorgesehen ist, so daß diese in einem
einzigen Arbeitsgang einstellbar ist.
17. Informationsverarbeitungsanlage mit mehreren informationsverarbeitenden Vorrichtungen nach
einem der vorhergehenden Anspruch^, dadurch gekennzeichnet, daß Verbindungseinrichtungen vorgesehen
sind, die die Ausgangsstation einer ersten Vorrichtung mit den Eingängen einer weiteren
Vorrichtung und/oder die Ausgangsstation einer ersten Baugruppe mit den Ausgangsstationen einer
weiteren Baugruppe und/oder die Eingänge einer ersten Baugruppe mit den Eingängen einer weiteren
Baugruppe verbinden.
18. Informationsverarbeitende Vorrichtung, die auf ein durch einen Satz von N Eingangssignal
charakterisiertes Ereignis ein Antwortsignal erzeugt, mit einer Anzahl von Eingängen 1 j,...,N.
die jeweils eines von N Eingangssignalen Si sj,...,
Sn, empfangen und mit einer Anzahl von Übertragungselementen,
deren jedes einen Eingang j mit mindestens einem Ausgang / koppelt und ein
Ausgangssignal s'j erzeugt, das dem Produkt des zugewp'teten Eingangssignals s, und der Übertragungsfunktion
A1, proportional ist. wobei am Ausgang / ein Ausgangssignal r, anliegt, das von
denjenigen Eingangssignalen s—j abhängig ist, die von den mit dem Ausgang gekoppelten Übertragungselementen
erzeugt werden und mit einer Einrichtung zur Abänderung de- Übertragungsfunk- 4-,
tion A11 mindestens eines in einer Lernphasc
befindlichen Übertragungselements in Abhängigkeit von dem Ausgangssignal r an dem Ausgang, mit dem
dieses ÜbertragungrHement gekoppelt ist, insbesondere
nach einem der vorhergehenden Ansprüche. 5η dadurch gekennzeichnet.daß die Abänderungen 6A1,
der Übertragungsfunktion A1, eines bestimmten Übertragungselements von dem Produkt des Ausgangssignals
an dem Ausgang, mit dem das Übertragungselement gekoppelt ist und dement- «
tprechenden, an das Übertragungselement angelegten Eingangssignals s, abhängig sind.
19. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch
gekennzeichnet, daß die Abänderungseinrichtung die Übertragungsfunktion mindestens eines Übertragungselemente
gemäß der Formel:
65
Aq (t) die neue Übertragungsfunktion,
Aij(t-\)die zuvor vorhandene Übertragungsfunktion.
Aij(t-\)die zuvor vorhandene Übertragungsfunktion.
γ eine Zerfallskonstante im Bereich
OSySl,
η eine Lern(geschwindigkeits-)konstante, für
weiche 0 S ygilt,
jj das an das Übertragungselement angelegte Eingangssignal und
Γι das Ausgangssignal
bedeutet das an demjenigen Ausgang erscheint, mit dem das Übertragungselement gekoppelt ist
20. Informationsverarbeitende Vorrichtung nach Anspruch 19, dadurch gekennzeichnet, daß die
Einrichtung zur Abänderung der Übertragungsfunktion Mittel zur Änderung der Zerfallskonstanten
y/oder der Lernkonstanten umfaßt
21. Informationsverarbeitende Vorrichtung nach Anspruch 20, dadurch gekennzeichnet daß die
Lernkonstante auf 0 reduzierbar ist derart, daß die informationsverarbeitende Vorrichtung als Assoziativspeicher
arbeitet
22. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche in Verbindung
mit Anspruch 19, dadurch gekennzeichnet, daß
die Abänderungseinrichtung die Übertragungsfunktion A,j aller Übertragungselemente gemäß einer
Beziehung
A,j(t)=y A11(I-X)^nS1Ti
ändert.
23. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch
gekennzeichnet, daß eine Anzahl n von Ausgängen
1 i... n vorgesehen ist, und daß einzelne oder alle
Ausgänge mit jeweils einzelnen oder allen Eingängen durch mindestens ein Übertragungselement
gekoppelt sind.
24. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch
gekennzeichnet, daß das an einem Ausgang auftretende Ausgangssignal r, der Summe der Eingangssignale
s'j proportional ist, die von dem mit dem Ausgang gekoppelten Übertragungselement erzeugt
werden.
25. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch
gekennzeichnet, daß die Abänderungseinrichtung die Übertragungsfunktionen derjenigen Übertragungselemente,
die 'nit einem bestimmten Ausgang / gekoppelt sind, in Abhängigkeit von dem Produkt
des an diesem Ausgang dargebotenen Ausgangssi gnals r, mit dem an das zugeordnete Übertragungselement
angelegten Eingangssignal s, ändert.
25. Informationsverarbeitende Vorrichtung na-.-h
einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Abänderungseinrichtung
die Übertragungsfunktion der mit einem Ausgang / gekoppelten Übertragungselemente in Abhängigkeit
von Gem an diesem Ausgang erzeugten Ausgangssignal r, so lange ändert, bis eine vorgebbare
Bedingung, wie ein spezieller Wert, Signalmuster oder Zeitablauf, eintritt.
27. Informationsverarbeitende Vorrichtung nach
einem der vorhergehenden Ansprüche, dadurch gekennzeichnet daß eine Anzahl von Ausgängen 1,
... i, ..., n zur Abgabe jeweils eines von n Ausgangssignalen n,..., n,..., r„ vorgesehen ist und
daß die Übertragungselemente jeden Eingang mit mehreren Auseänesn und ieden Aussane mit
ttiehreren Eingängen verbinden.
28. informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch
gekennzeichnet, daß die Ausgänge einef ersten Vorrichtung mit den Eingängen einer zweiten
Vorrichtung gemäß einer Zufallsverteilung verbindbar sind.
29. tnformationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch
gekennzeichnet, daß die Ausgänge einer ersten Vorrichtung mit den Eingängen einer zweiten in
einer derart geordneten Weise verbindbar sind, daß jeder Ausgang der einen Vorrichtung mit einem
Eingang der anderen Vorrichtung verbunden ist.
IO
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US05/477,080 US3950733A (en) | 1974-06-06 | 1974-06-06 | Information processing system |
Publications (3)
Publication Number | Publication Date |
---|---|
DE2524734A1 DE2524734A1 (de) | 1975-12-18 |
DE2524734B2 DE2524734B2 (de) | 1980-03-20 |
DE2524734C3 true DE2524734C3 (de) | 1981-01-08 |
Family
ID=23894450
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE2524734A Expired DE2524734C3 (de) | 1974-06-06 | 1975-06-04 | Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von Eingangssignalen charakterisierbaren Ereignisses |
Country Status (11)
Country | Link |
---|---|
US (1) | US3950733A (de) |
JP (1) | JPS6012671B2 (de) |
CA (1) | CA1042109A (de) |
CH (1) | CH620307A5 (de) |
DE (1) | DE2524734C3 (de) |
ES (3) | ES436945A1 (de) |
FR (1) | FR2274088A1 (de) |
GB (1) | GB1457338A (de) |
IT (1) | IT1036906B (de) |
MX (1) | MX143269A (de) |
NL (1) | NL176313C (de) |
Families Citing this family (131)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5272504A (en) * | 1975-12-15 | 1977-06-17 | Fuji Xerox Co Ltd | Device for recognizing word audio |
US4044243A (en) * | 1976-07-23 | 1977-08-23 | Nestor Associates | Information processing system |
US4218733A (en) * | 1978-11-13 | 1980-08-19 | Sybron Corporation | Adaptive gain controller |
US4308522A (en) * | 1979-03-19 | 1981-12-29 | Ncr Corporation | Identity verification apparatus and method |
US4254474A (en) * | 1979-08-02 | 1981-03-03 | Nestor Associates | Information processing system using threshold passive modification |
US4326259A (en) * | 1980-03-27 | 1982-04-20 | Nestor Associates | Self organizing general pattern class separator and identifier |
JPS5752261A (en) * | 1980-09-11 | 1982-03-27 | Canon Inc | Character processor |
US4450530A (en) * | 1981-07-27 | 1984-05-22 | New York University | Sensorimotor coordinator |
US4479241A (en) * | 1981-08-06 | 1984-10-23 | Buckley Bruce S | Self-organizing circuits for automatic pattern recognition and the like and systems embodying the same |
US5297222A (en) * | 1982-05-04 | 1994-03-22 | Hitachi, Ltd. | Image processing apparatus |
JPH0658665B2 (ja) * | 1982-05-21 | 1994-08-03 | 株式会社日立製作所 | イメージ信号処理装置 |
US4518866A (en) * | 1982-09-28 | 1985-05-21 | Psychologics, Inc. | Method of and circuit for simulating neurons |
US4599692A (en) * | 1984-01-16 | 1986-07-08 | Itt Corporation | Probabilistic learning element employing context drive searching |
US4620286A (en) * | 1984-01-16 | 1986-10-28 | Itt Corporation | Probabilistic learning element |
US4599693A (en) * | 1984-01-16 | 1986-07-08 | Itt Corporation | Probabilistic learning system |
US4593367A (en) * | 1984-01-16 | 1986-06-03 | Itt Corporation | Probabilistic learning element |
US4648044A (en) * | 1984-06-06 | 1987-03-03 | Teknowledge, Inc. | Basic expert system tool |
US4697242A (en) * | 1984-06-11 | 1987-09-29 | Holland John H | Adaptive computing system capable of learning and discovery |
JPS619729A (ja) * | 1984-06-26 | 1986-01-17 | Toshiba Corp | 推論システム |
US4660166A (en) * | 1985-01-22 | 1987-04-21 | Bell Telephone Laboratories, Incorporated | Electronic network for collective decision based on large number of connections between signals |
US4760604A (en) * | 1985-02-15 | 1988-07-26 | Nestor, Inc. | Parallel, multi-unit, adaptive, nonlinear pattern class separator and identifier |
US4670848A (en) * | 1985-04-10 | 1987-06-02 | Standard Systems Corporation | Artificial intelligence system |
US4967340A (en) * | 1985-06-12 | 1990-10-30 | E-Systems, Inc. | Adaptive processing system having an array of individually configurable processing components |
US5060277A (en) * | 1985-10-10 | 1991-10-22 | Palantir Corporation | Pattern classification means using feature vector regions preconstructed from reference data |
US5077807A (en) * | 1985-10-10 | 1991-12-31 | Palantir Corp. | Preprocessing means for use in a pattern classification system |
JPH0634236B2 (ja) * | 1985-11-02 | 1994-05-02 | 日本放送協会 | 階層型情報処理方法 |
WO1987003399A1 (en) * | 1985-11-27 | 1987-06-04 | The Trustees Of Boston University | Pattern recognition system |
WO1987003411A1 (en) * | 1985-11-27 | 1987-06-04 | The Trustees Of Boston University | Pattern encoding system |
US4773024A (en) * | 1986-06-03 | 1988-09-20 | Synaptics, Inc. | Brain emulation circuit with reduced confusion |
US4752890A (en) * | 1986-07-14 | 1988-06-21 | International Business Machines Corp. | Adaptive mechanisms for execution of sequential decisions |
GB8619452D0 (en) * | 1986-08-08 | 1986-12-17 | Dobson V G | Signal generating & processing |
US4852018A (en) * | 1987-01-07 | 1989-07-25 | Trustees Of Boston University | Massively parellel real-time network architectures for robots capable of self-calibrating their operating parameters through associative learning |
US5224066A (en) * | 1987-03-16 | 1993-06-29 | Jourjine Alexander N | Method and apparatus for parallel implementation of neural networks |
US5053974A (en) * | 1987-03-31 | 1991-10-01 | Texas Instruments Incorporated | Closeness code and method |
US4881178A (en) * | 1987-05-07 | 1989-11-14 | The Regents Of The University Of Michigan | Method of controlling a classifier system |
US4807168A (en) * | 1987-06-10 | 1989-02-21 | The United States Of America As Represented By The Administrator, National Aeronautics And Space Administration | Hybrid analog-digital associative neural network |
US5526298A (en) * | 1987-06-10 | 1996-06-11 | Hamamatsu Photonics K.K. | Optical associative memory |
US4858147A (en) * | 1987-06-15 | 1989-08-15 | Unisys Corporation | Special purpose neurocomputer system for solving optimization problems |
US4809223A (en) * | 1987-06-18 | 1989-02-28 | West Virginia University | Apparatus and method for long term storage of analog signals |
WO1988010474A1 (en) * | 1987-06-18 | 1988-12-29 | University Of West Virginia | State analog neural network and method of implementing same |
US4914708A (en) * | 1987-06-19 | 1990-04-03 | Boston University | System for self-organization of stable category recognition codes for analog input patterns |
US5133021A (en) * | 1987-06-19 | 1992-07-21 | Boston University | System for self-organization of stable category recognition codes for analog input patterns |
US5251269A (en) * | 1987-07-15 | 1993-10-05 | Research Development Corporation Of Japan | Multi-layer neural network modelled after the striate cortex for recognizing visual patterns |
US5072452A (en) * | 1987-10-30 | 1991-12-10 | International Business Machines Corporation | Automatic determination of labels and Markov word models in a speech recognition system |
US5285522A (en) * | 1987-12-03 | 1994-02-08 | The Trustees Of The University Of Pennsylvania | Neural networks for acoustical pattern recognition |
EP0327817B1 (de) * | 1988-01-11 | 1996-08-28 | Yozan Inc. | Assoziatives Musterkonversionssystem und Anpassungsverfahren dafür |
US4874963A (en) * | 1988-02-11 | 1989-10-17 | Bell Communications Research, Inc. | Neuromorphic learning networks |
US4958375A (en) * | 1988-02-17 | 1990-09-18 | Nestor, Inc. | Parallel, multi-unit, adaptive pattern classification system using inter-unit correlations and an intra-unit class separator methodology |
US4931868A (en) * | 1988-05-31 | 1990-06-05 | Grumman Aerospace Corporation | Method and apparatus for detecting innovations in a scene |
US4893255A (en) * | 1988-05-31 | 1990-01-09 | Analog Intelligence Corp. | Spike transmission for neural networks |
US5050095A (en) * | 1988-05-31 | 1991-09-17 | Honeywell Inc. | Neural network auto-associative memory with two rules for varying the weights |
US4926064A (en) * | 1988-07-22 | 1990-05-15 | Syntonic Systems Inc. | Sleep refreshed memory for neural network |
AU633812B2 (en) * | 1988-08-31 | 1993-02-11 | Fujitsu Limited | Neurocomputer |
US5063601A (en) * | 1988-09-02 | 1991-11-05 | John Hayduk | Fast-learning neural network system for adaptive pattern recognition apparatus |
US4979124A (en) * | 1988-10-05 | 1990-12-18 | Cornell Research Foundation | Adaptive, neural-based signal processor |
US5003490A (en) * | 1988-10-07 | 1991-03-26 | Hughes Aircraft Company | Neural network signal processor |
US4920506A (en) * | 1988-10-07 | 1990-04-24 | Hughes Aircraft Company | Ultra-high speed two-dimensional coordinate transform processor |
US4930099A (en) * | 1988-10-07 | 1990-05-29 | Hughes Aircraft Company | Wavefront vector correlation processor and method |
US5093781A (en) * | 1988-10-07 | 1992-03-03 | Hughes Aircraft Company | Cellular network assignment processor using minimum/maximum convergence technique |
US4914604A (en) * | 1988-10-07 | 1990-04-03 | Hughes Aircraft Company | Processor for analyzing angle-only data |
US5001631A (en) * | 1988-10-07 | 1991-03-19 | Hughes Aircraft Company | Cellular network assignment processor using randomly triggered adaptive cell thresholds |
US4951239A (en) * | 1988-10-27 | 1990-08-21 | The United States Of America As Represented By The Secretary Of The Navy | Artificial neural network implementation |
US4906865A (en) * | 1988-12-09 | 1990-03-06 | Intel Corporation | Sample and hold circuit for temporal associations in a neural network |
US4912652A (en) * | 1988-12-14 | 1990-03-27 | Gte Laboratories Incorporated | Fast neural network training |
US4914603A (en) * | 1988-12-14 | 1990-04-03 | Gte Laboratories Incorporated | Training neural networks |
US4912647A (en) * | 1988-12-14 | 1990-03-27 | Gte Laboratories Incorporated | Neural network training tool |
US4912654A (en) * | 1988-12-14 | 1990-03-27 | Government Systems Corporation Gte | Neural networks learning method |
US4912655A (en) * | 1988-12-14 | 1990-03-27 | Gte Laboratories Incorporated | Adjusting neural networks |
US4912649A (en) * | 1988-12-14 | 1990-03-27 | Gte Government Systems Corporation | Accelerating learning in neural networks |
US4912653A (en) * | 1988-12-14 | 1990-03-27 | Gte Laboratories Incorporated | Trainable neural network |
US4912651A (en) * | 1988-12-14 | 1990-03-27 | Gte Laboratories Incorporated | Speeding learning in neural networks |
JP2676397B2 (ja) * | 1989-01-05 | 1997-11-12 | 株式会社エイ・ティ・アール視聴覚機構研究所 | 動的システムの運動軌道生成方法 |
US4941122A (en) * | 1989-01-12 | 1990-07-10 | Recognition Equipment Incorp. | Neural network image processing system |
US4974169A (en) * | 1989-01-18 | 1990-11-27 | Grumman Aerospace Corporation | Neural network with memory cycling |
US5033020A (en) * | 1989-02-08 | 1991-07-16 | Grumman Aerospace Corporation | Optically controlled information processing system |
US5222195A (en) * | 1989-05-17 | 1993-06-22 | United States Of America | Dynamically stable associative learning neural system with one fixed weight |
US5119469A (en) * | 1989-05-17 | 1992-06-02 | United States Of America | Neural network with weight adjustment based on prior history of input signals |
US5041976A (en) * | 1989-05-18 | 1991-08-20 | Ford Motor Company | Diagnostic system using pattern recognition for electronic automotive control systems |
US4939683A (en) * | 1989-05-19 | 1990-07-03 | Heerden Pieter J Van | Method and apparatus for identifying that one of a set of past or historical events best correlated with a current or recent event |
US5146542A (en) * | 1989-06-15 | 1992-09-08 | General Electric Company | Neural net using capacitive structures connecting output lines and differentially driven input line pairs |
US5479578A (en) * | 1989-06-15 | 1995-12-26 | General Electric Company | Weighted summation circuitry with digitally controlled capacitive structures |
US5274745A (en) * | 1989-07-28 | 1993-12-28 | Kabushiki Kaisha Toshiba | Method of processing information in artificial neural networks |
US5319587A (en) * | 1989-08-07 | 1994-06-07 | Rockwell International Corporation | Computing element for neural networks |
US5361328A (en) * | 1989-09-28 | 1994-11-01 | Ezel, Inc. | Data processing system using a neural network |
JP2724374B2 (ja) * | 1989-10-11 | 1998-03-09 | 株式会社鷹山 | データ処理装置 |
JPH03167655A (ja) * | 1989-11-28 | 1991-07-19 | Toshiba Corp | ニューラルネットワーク |
US5299284A (en) * | 1990-04-09 | 1994-03-29 | Arizona Board Of Regents, Acting On Behalf Of Arizona State University | Pattern classification using linear programming |
JPH0438587A (ja) * | 1990-06-04 | 1992-02-07 | Nec Corp | 入力領域適応型ニューラルネットワーク文字認識装置 |
US5151970A (en) * | 1990-07-02 | 1992-09-29 | General Electric Company | Method of generating, in the analog regime, weighted summations of digital signals |
US5247605A (en) * | 1990-07-02 | 1993-09-21 | General Electric Company | Neural nets supplied synapse signals obtained by digital-to-analog conversion of plural-bit samples |
US5251626A (en) * | 1990-07-03 | 1993-10-12 | Telectronics Pacing Systems, Inc. | Apparatus and method for the detection and treatment of arrhythmias using a neural network |
US5181171A (en) * | 1990-09-20 | 1993-01-19 | Atlantic Richfield Company | Adaptive network for automated first break picking of seismic refraction events and method of operating the same |
US5615305A (en) * | 1990-11-08 | 1997-03-25 | Hughes Missile Systems Company | Neural processor element |
JP3088171B2 (ja) * | 1991-02-12 | 2000-09-18 | 三菱電機株式会社 | 自己組織型パタ−ン分類システム及び分類方法 |
US5239594A (en) * | 1991-02-12 | 1993-08-24 | Mitsubishi Denki Kabushiki Kaisha | Self-organizing pattern classification neural network system |
US5204872A (en) * | 1991-04-15 | 1993-04-20 | Milltech-Hoh, Inc. | Control system for electric arc furnace |
US5263122A (en) * | 1991-04-22 | 1993-11-16 | Hughes Missile Systems Company | Neural network architecture |
US5671335A (en) * | 1991-05-23 | 1997-09-23 | Allen-Bradley Company, Inc. | Process optimization using a neural network |
US5170071A (en) * | 1991-06-17 | 1992-12-08 | Trw Inc. | Stochastic artifical neuron with multilayer training capability |
US5963930A (en) * | 1991-06-26 | 1999-10-05 | Ricoh Company Ltd. | Apparatus and method for enhancing transfer function non-linearities in pulse frequency encoded neurons |
US5226092A (en) * | 1991-06-28 | 1993-07-06 | Digital Equipment Corporation | Method and apparatus for learning in a neural network |
US5337371A (en) * | 1991-08-09 | 1994-08-09 | Matsushita Electric Industrial Co., Ltd. | Pattern classification system |
US10361802B1 (en) | 1999-02-01 | 2019-07-23 | Blanding Hovenweep, Llc | Adaptive pattern recognition based control system and method |
US8352400B2 (en) | 1991-12-23 | 2013-01-08 | Hoffberg Steven M | Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore |
US5299285A (en) * | 1992-01-31 | 1994-03-29 | The United States Of America As Represented By The Administrator, National Aeronautics And Space Administration | Neural network with dynamically adaptable neurons |
US5438629A (en) * | 1992-06-19 | 1995-08-01 | United Parcel Service Of America, Inc. | Method and apparatus for input classification using non-spherical neurons |
DE69333664T2 (de) * | 1992-06-19 | 2005-11-17 | United Parcel Service Of America, Inc. | Verfahren und Gerät zur Einstellung eines Neurons |
GB9214514D0 (en) * | 1992-07-08 | 1992-08-19 | Massachusetts Inst Technology | Information processing |
US5479574A (en) * | 1993-04-01 | 1995-12-26 | Nestor, Inc. | Method and apparatus for adaptive classification |
US6167390A (en) * | 1993-12-08 | 2000-12-26 | 3M Innovative Properties Company | Facet classification neural network |
JPH07239938A (ja) * | 1994-02-28 | 1995-09-12 | Matsushita Electric Ind Co Ltd | 検査方法 |
US7469237B2 (en) * | 1996-05-02 | 2008-12-23 | Cooper David L | Method and apparatus for fractal computation |
US6041322A (en) * | 1997-04-18 | 2000-03-21 | Industrial Technology Research Institute | Method and apparatus for processing data in a neural network |
US7096192B1 (en) | 1997-07-28 | 2006-08-22 | Cybersource Corporation | Method and system for detecting fraud in a credit card transaction over a computer network |
US7403922B1 (en) | 1997-07-28 | 2008-07-22 | Cybersource Corporation | Method and apparatus for evaluating fraud risk in an electronic commerce transaction |
US6052679A (en) * | 1997-09-11 | 2000-04-18 | International Business Machines Corporation | Artificial neural networks including Boolean-complete compartments |
JP4147647B2 (ja) * | 1998-11-09 | 2008-09-10 | ソニー株式会社 | データ処理装置およびデータ処理方法、並びに記録媒体 |
JP4517409B2 (ja) * | 1998-11-09 | 2010-08-04 | ソニー株式会社 | データ処理装置およびデータ処理方法 |
US7966078B2 (en) | 1999-02-01 | 2011-06-21 | Steven Hoffberg | Network media appliance system and method |
US8364136B2 (en) | 1999-02-01 | 2013-01-29 | Steven M Hoffberg | Mobile system, a method of operating mobile system and a non-transitory computer readable medium for a programmable control of a mobile system |
JP4344964B2 (ja) * | 1999-06-01 | 2009-10-14 | ソニー株式会社 | 画像処理装置および画像処理方法 |
US7865427B2 (en) | 2001-05-30 | 2011-01-04 | Cybersource Corporation | Method and apparatus for evaluating fraud risk in an electronic commerce transaction |
JP2003010762A (ja) * | 2001-06-28 | 2003-01-14 | Konica Corp | 塗布装置及び塗布方法 |
US8712942B2 (en) * | 2003-03-24 | 2014-04-29 | AEMEA Inc. | Active element machine computation |
US8010467B2 (en) * | 2003-03-24 | 2011-08-30 | Fiske Software Llc | Active element machine computation |
US7398260B2 (en) * | 2003-03-24 | 2008-07-08 | Fiske Software Llc | Effector machine computation |
US8019705B2 (en) * | 2003-03-24 | 2011-09-13 | Fiske Software, LLC. | Register and active element machines: commands, programs, simulators and translators |
US20060112056A1 (en) * | 2004-09-27 | 2006-05-25 | Accenture Global Services Gmbh | Problem solving graphical toolbar |
US7904398B1 (en) | 2005-10-26 | 2011-03-08 | Dominic John Repici | Artificial synapse component using multiple distinct learning means with distinct predetermined learning acquisition times |
US9152779B2 (en) | 2011-01-16 | 2015-10-06 | Michael Stephen Fiske | Protecting codes, keys and user credentials with identity and patterns |
US10268843B2 (en) | 2011-12-06 | 2019-04-23 | AEMEA Inc. | Non-deterministic secure active element machine |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3275986A (en) * | 1962-06-14 | 1966-09-27 | Gen Dynamics Corp | Pattern recognition systems |
US3408627A (en) * | 1964-12-28 | 1968-10-29 | Texas Instruments Inc | Training adjusted decision system using spatial storage with energy beam scanned read-out |
-
1974
- 1974-06-06 US US05/477,080 patent/US3950733A/en not_active Expired - Lifetime
- 1974-11-07 GB GB4823274A patent/GB1457338A/en not_active Expired
-
1975
- 1975-04-25 ES ES436945A patent/ES436945A1/es not_active Expired
- 1975-04-25 CA CA225,516A patent/CA1042109A/en not_active Expired
- 1975-05-28 IT IT49831/75A patent/IT1036906B/it active
- 1975-06-04 DE DE2524734A patent/DE2524734C3/de not_active Expired
- 1975-06-05 CH CH735975A patent/CH620307A5/fr not_active IP Right Cessation
- 1975-06-05 MX MX158811A patent/MX143269A/es unknown
- 1975-06-05 FR FR7517627A patent/FR2274088A1/fr active Granted
- 1975-06-06 NL NLAANVRAGE7506761,A patent/NL176313C/xx not_active IP Right Cessation
- 1975-06-06 JP JP50068493A patent/JPS6012671B2/ja not_active Expired
-
1976
- 1976-11-16 ES ES453378A patent/ES453378A1/es not_active Expired
- 1976-11-16 ES ES453377A patent/ES453377A1/es not_active Expired
Also Published As
Publication number | Publication date |
---|---|
ES436945A1 (es) | 1977-04-01 |
JPS6012671B2 (ja) | 1985-04-02 |
US3950733A (en) | 1976-04-13 |
NL176313C (nl) | 1985-03-18 |
IT1036906B (it) | 1979-10-30 |
CH620307A5 (de) | 1980-11-14 |
ES453377A1 (es) | 1977-11-16 |
FR2274088A1 (fr) | 1976-01-02 |
DE2524734A1 (de) | 1975-12-18 |
JPS5121749A (de) | 1976-02-21 |
DE2524734B2 (de) | 1980-03-20 |
GB1457338A (en) | 1976-12-01 |
NL7506761A (nl) | 1975-12-09 |
ES453378A1 (es) | 1977-12-16 |
CA1042109A (en) | 1978-11-07 |
FR2274088B1 (de) | 1979-05-25 |
NL176313B (nl) | 1984-10-16 |
MX143269A (es) | 1981-04-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE2524734C3 (de) | Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von Eingangssignalen charakterisierbaren Ereignisses | |
DE4042139C2 (de) | Neuron-Einheit | |
DE69115488T2 (de) | Neuronale prozessoren für realwerteingangbearbeitung | |
DE4217832C2 (de) | Mustererkennungsgerät | |
DE2054546C3 (de) | Anordnung zur Erkennung von Bildmustern | |
WO2019081241A1 (de) | Verfahren, vorrichtung und computerprogramm zur erstellung eines tiefen neuronalen netzes | |
DE2614680A1 (de) | Verfahren und vorrichtung zur messung des vektors einer minimalen trefferablage | |
DE112020001369T5 (de) | Gepulste synaptische elemente für gepulste neuronale netze | |
DE3689101T2 (de) | Mustererkennungsanlage. | |
DE69815390T2 (de) | Neuronale netzwerke | |
DE1202357B (de) | Einrichtung zur Erhoehung der Genauigkeit bei der Richtungsbestimmung eines Impuls-Radargeraetes | |
DE1798326A1 (de) | Selbstorganisierendes Regelsystem fuer die Regelung einer Anlage mit einer Mehrzahl veraenderlicher Groessen und einer Mehrzahl von Betaetigungsorganen fuer die Verstellung der Anlage | |
EP0643353B1 (de) | Vorrichtung und Verfahren zur Datenverarbeitung | |
DE10139682A1 (de) | Verfahren zum Generieren von neuronalen Netzen | |
DE19537010C2 (de) | Lernverfahren und -anordnung zur Nachbildung eines dynamischen Prozesses | |
DE1091783B (de) | Verfahren und Einrichtung zur Darstellung von Schriftzeichen auf dem Bildschirm einer Kathodenstrahlroehre | |
DE4315576A1 (de) | Neuronales Netzwerk | |
EP0956531B1 (de) | Verfahren und vorrichtung zur transformation einer zur nachbildung eines technischen prozesses dienenden fuzzy-logik in ein neuronales netz | |
EP0978052B1 (de) | Rechnergestütztes verfahren zur auswahl von trainingsdaten für ein neuronales netz | |
EP0548127B1 (de) | Neuronales Netzwerk und Schaltungsanordnung zur Bool'schen Realisierung neuronaler Netze vom ADALINE-Typ | |
EP1359539A2 (de) | Neurodynamisches Modell der Verarbeitung visueller Informationen | |
DE102004013924B3 (de) | Vorrichtung zur kontextabhängigen Datenanalyse | |
EP1093639A2 (de) | Neuronales netz und verfahren und anordnung zum trainieren eines neuronalen netzes | |
DE69819718T2 (de) | Assoziatives neuronales netzwerk | |
DE2748927A1 (de) | Verfahren und anordnung zur regelung der einem verbraucher zugefuehrten elektrischen leistung mittels steuerbarer halbleiterelemente |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C3 | Grant after two publication steps (3rd publication) | ||
8327 | Change in the person/name/address of the patent owner |
Owner name: NESTOR, INC., NEW YORK, N.Y., US |
|
8328 | Change in the person/name/address of the agent |
Free format text: RUFF, M., DIPL.-CHEM. DR.RER.NAT. BEIER, J., DIPL.-ING. SCHOENDORF, J., DIPL.-PHYS., PAT.-ANW., 7000 STUTTGART |