DE2524734B2

DE2524734B2 - Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von Eingangssignalen charakterisierbaren Er¬

Info

Publication number: DE2524734B2
Application number: DE2524734A
Authority: DE
Inventors: Leon N. Prof. Cooper; Charles Prof. Elbaum
Original assignee: Nestor Associates Inc
Current assignee: Nestor Inc
Priority date: 1974-06-06
Filing date: 1975-06-04
Publication date: 1980-03-20
Also published as: CA1042109A; ES453377A1; ES453378A1; ES436945A1; NL176313C; NL176313B; FR2274088B1; DE2524734C3; GB1457338A; US3950733A; JPS6012671B2; NL7506761A; JPS5121749A; IT1036906B; MX143269A; CH620307A5; FR2274088A1; DE2524734A1

Description

Die Frfinrliing hrlriffl pinp infnrmalirinSVirarbel'.en-

de Vorrichtung zur Erkennung eines durch einen Satz _>n von (N) Eingangssignalen charakterisierbaren Ereignisses, mit einer entsprechenden Anzahl von Signaleingängen zum Empfang der N Eingangssignale und mit einer entsprechenden An?ahl (N) von Übertragungselementen, deren jedes einen Signaleingang mit mindestens r> einer Ausgangsstation koppelt und dieser ein Signal zuführt, das dem Produkt der Übertragungsfunktion des Übertragungselements und des durch dieses übertragenen Eingangssignals proportional ist, wobei die Ausgangsstation als Ausgangssignal ein Summensignal j<i erzeugt, das der Summe der ihr zugeführten Signale proportional ist. und mit Einrichtungen, durch die in einer Lernphase der Vorrichtung, in der den Signaleingängen mehrmals ein Satz von Eingangssignalen dargeboten wird, selbsttätig eine Änderung der π Übertragungsfunktionen der Übertragungselemente in Abhängigkeit vom Ausgangssignal der Ausgangsstation erfolgt.

Bekannte informationsverarbeitende Vorrichtungen arbeiten im allgemeinen in der Weise, daß sie auf einen in gegebenen Satz von Eingangssignalen ein Antwortsignal erzeugen, das mit einem vorbestimmten Antwortsignal verglichen wird. Diese bekannten Vorrichtungen werden oft in Abhängigkeit von der Differenz zwischen dem tatsächlichen und dem vorbestimmten Antwortsi- 4-, gnal veranlaßt, ihre Übertragungsfunktionen zu ändern, d. h. zu »lernen« bis das vorbestimmte Antwortsignal erreicht wird. Zweck solcher anpassungsfähiger informationsverarbeitender Vorrichtungen ist es. mittels eines geeigneten Algorithmus ihren eigenen Weg zu einer vorbestimmten Relation:

Eingangssignal— Antwortsignal

aufzufinden. Eine typische bekannte Vorrichtung dieser Art (Fig. I) enthält als wesentliche Elemente ein Netzwerk mit Eingängen 1, 2,3,.., N, die ihrerseits mit einer entsprechenden Anzahl von variablen Gewichtungselementen Gi, G₂, d,... Gv mit veränderbaren Gewichtsfaktoren verbunden sind, welche im Einzelfall als gewichtende Verstärker mit veränderbaren Verstärkungsfaktoren oder auch als Widerstände mit variablem Widerstandswert ausgebildet sein können. Die Ausgangssignale der als Übertragungselemente wirkenden Gewichtungselemente G werden einem Summierer 5 zugeführt der für das gesamte Netzwerk ein einziges Aiisgangssignal erzeugt, das im wesentlichen gleich der Summe der Ausgangssignale der Gewichtungselemente ist

Der Gewichtungsfaktor eines jeden Gewichtungselemenls Gi, G₂, G),... G,v wird mit Hilfe eines Netzwerkes eingestellt, das den Algorithmus Tbestimmt, nach dem die Vorrichtung lernt, auf ein bestimmtes Eingangssignal bzw. einen Satz von Eingangssignalen mit einem gewünschten Antwortsignal zu antworten. Hierzu wird im Betrieb des Netzwerkes ein Satz spezieller Eingangssignale wiederholt an die Eingänge 1,2,3,... N des Netzwerkes angelegt. Nach jedem Anlegen des Eingangssignals wird das Antwortsignal des Netzwer kes mit einem vorbestimmten Antwortsignal verglichen und beispielsweise die mittels einer Subtrahiereinrichtung D ermittelte Differenz zum Sollwert gemäß einem bestimmten Lernalgorithmus dazu benutzt, die Gewichtsfaktoren der einzelnen Gewichtungselemente Gi, G₂, Gi,... Gvzu korrigieren.

(edes Anlegen des speziellen Eingangssignals bzw. des Eingangssignalsatzes und die nachfolgende Abände-

G wird als »Lern-Zyklus« bezeichnet. Im Verlauf aufeinanderfolgender Lern-Zyklen werden die Gewichtsfaktoren so verändert, bis das Netzwerk schließlich auf ein spezielles Eingangssignal das dazugehörige Ausgangssignal erzeugt. Man erkennt, daß es dann, wenn der Lernalgorithmus darin besteht, die Gewichtungsfaktoren in Proportionalität zur Differenz zwischen dem tatsächlichen und dem erwünschten Antwor'^ignal zu ändern, die Lernphase sehr lang dauern kann, weil die Änderungsschritte mit zunehmender Annäherung des Antwortsignals an das Soll-Antwortsignal immer kleiner werder·. Es ist auch bekannt (DE-AS 18 14 940). die Gewichtsfaktoren der Gewichtungs- bzw. Übertragungselemente so lange um gleiche Beträge zu verändern, wie das Summen-Antwortsignal der Ausgangsstation kleiner ist als ein vorgegebener Schwellenwert und die schrittweise Änderung der Gewichtsfaktoren zu beenden, wenn das Summen-Ausgangssignal diesen vorgegebenen Grenzwert erreicht bzw. überschreitet. Man hat dann eine wenigstens mit vorbestimmter »konstanter« Geschwindigkeit lernende Vorrichtung, bei der allerdings die »Lerngeschwindigkeit«, d. h. die Beträge, um die die Gewichtsfaktoren bzw. Übertragungsfunktionen der Übertragungselemente geändert werden, nicht zu groß sein dürfen, wenn das Überschreiten eines vorgegebenen Schwellenwertes des Summen-Ausgangssignals ein hinreichend empfindliches Maß dafür sein soll, daß eine für einen ganz bestimmten Sachverhalt, beispielsweise eine bestimmte Ziffer oder einen bestimmten Namenszug charakteristische Eingangssignalkombination an den Eingängen der Vorrichtung anliegt. Wenn ?' er die Übertragungsfunktionen der Übertragungselemente nur in kleinen Schritten geändert werden dürfen, dann hat dies wiederum zur Folge, daß die Lerngeschwindigkeit dieser bekannten Vorrichtung, auch wenn sie »konstant« ist relativ gering ist Es kommt hinzu, daß die ein bestimmtes Ereignis charakterisierenden Dngangssignale, beispielsweise Spannungssignale, die mit einem bestimmten, in der Lernphase der Vorrichtung eingestellten Verstärkungsgrad als Übertragungselemente verwendeter Verstärker übertragen werden, der den Gewichtsfaktor bestimmt eine ganz bestimmte Mindestintensität haben müssen, damit das zugeordnete Ereignis durch Überschreiten eines Schwellenwertes eines durch Summierung der von den Übertragungsele menten übertragenen Signale überhaupt erkannt werden kann. Diese die zuverlässige Erkennung eines im obigen Sinne erläuterten Ereignisses erheblich

beeinträchtigende Eigenschaft der bekannten Vorrichtungen ist letztlich die Folge davon, daß der Lernvorgang stets in Abhängigkeit von einem für ein unter definierten Bedingungen auftretendes Ereignis charakteristischen bekannten Antwortsignal der Vorrichtung erfolgt. Es ist daher mit den bekannten Vorrichtungen nicht mögl'"h, in der Lernphase eine Einstellung der Übertragungsfunktionen der Übertragungselemente zu erzielen, so daß die Vorrichtung nach Abschluß der Lernphase in der Lage wäre, ein für ein in unbekanntes Ereignis charakteristisches Antwortsignal zu erzeugen.

Demgemäß liegt der Erfindung die Aufgabe zugrunde, eine Vorrichtung der eingangs genannten Art zu schaffen, die in der Lage ist. nach Abschluß ihrer r, Lernphase auch für ein unbekanntes Ereignis ein charakteristisches Antwortsignal zu erzeugen, sofern ihr dieses Ereignis in der Lernphase hinreichend oft dargeboten worden ist. und die darüber hinaus die Möglichkeit einer erheblich erhöhten Lerngeschwindig- >o keit beinhaltet.

Diese Aufgabe wird erfindungsgemäß durch die folgenden Merkmale gelöst:

a) es sind mehrere Ausgangsstationen vorgesehen, und es sind einzelne oder alle der π Ausgangsstatio- '^Ί ncn über jeweils ein eigenes Übertragungselement mit einzelnen oder allen der (N) Signaleingänge gekoppelt;

b) das an der jeweiligen Ausgangsstation erzeugte Summensignal ist das Ausgangssteuersignal einer "' Einrichtung zur Abänderung der Übertragungsfunktionen A₁, einzelner oder aller derjenigen Übertragungselemente, die mit der jeweiligen Ausgangsstation gekoppelt sind:

c) die durch die Einrichtung zur Änderung der ^u Übertragungsfunktionen A₁, vermittelte Änderung derselben ist dem Ausgangssignal der jeweiligen Ausgangsstation proportional, bis eine vorgebbare Bedingung (Zeitablauf. Schwellenwert. Signalmuster) eintritt. ^J"

Im Unterschied zu der bekannten informationsverarbeitenden Vorrichtung gemäß der DE-AS 18 14 940 hat die erfindungsgemäße Vorrichtung also mehrere Ausgangsstationen i. an denen die Ausgangssignale s'j mehrerer Übertragungselemente, deren jedes einen der insgesamt η Eingänge j mit der betreffenden Ausgangsstation /verbindet, zu einer Antwortsignalkomponente r, summiert werden. Das Antwortsignal umfaßt also im allgemeinen Fall so viele Komponenten /\ wie Ausgangsstationen /vorhanden sind. Die erfindungsgemäße Vorrichtung transformiert also einen Satz von Eingangssignalen a\. s?, ... Sj, ... S_n mittels der Übertragungselemente in einen Satz von Antwortsignalen n. ri , r_h... ru. Mit anderen Worten: Der für ein

bestimmtes, zu erkennendes Ereignis charakteristische /7-dimensionale Eingangssignalvektor S mit den Komponenten Sj wird durch die erfindungsgemäße Vorrichtung in einen Mdimensionalen Antwort-Signal-Vektor ft mit den Komponenten r,(i = 1 ... N) transformiert. «> wobei die Dimension η des Eingangssignalvektors S größer, gleich oder kleiner sein kann als die Dimension N des Antwort-Signal-Vektors /? je nachdem, ob die Zahl der Eingänge j größer, gleich oder kleiner ist als die Zahl der Ausgangsstationen / der erfindungsgemäßen Vorrichtung.

Dadurch ist eine wesentliche Voraussetzung dafür geschaffen, daß die erfindungsgemäße Vorrichtung auch ein »unbekanntes« Ereignis erkennen kann, nämlich die, daß der Informationsgehalt des Antwort-Signal-Satzes oder -Vektors /? im wesentlichen durch das Verhältnis seiner Komponenten r, zueinander und nicht durch die absolute Größe der Antwortsignale η bestimmt ist, wie es bei Vorrichtungen notwendigerweise der Fall ist, bei denen die Erkennung eines bestimmten Ereignisses davon abhängig ist, daß die Summe der Antwortsignale größer oder gleich einem bestimmten Schwellenwert ist, was natürlich bei nach Abschluß der Lernphase vorgegebenen Übertragungsfunktionen der Übertragungselemente voraussetzt, daß die für das bestimmte, zu erkennende Ereignis charakteristischen Eingangssignal einen definierten Betrag haben. Im Unterschied dazu vermag die erfindungsgemäße Vorrichtung dadurch, daß sie einen Satz S von Eingangssignalen S₁. die in einem bestimmten Verhältnis zueinander stehen und dadurch für ein bestimmtes Ereignis charakteristisch sind, in einen Satz R von Antwortsignalen r, transformiert, die ihrerseits in einem durch das Verhältnis der Eingangssignale Sj zueinander bestimmten Verhältnis zueinander stehen, ein unbekanntes Ereignis dadurch zu identifizieren, daß sie das Verhältnis der Antwortsignalkomponenten r, liefert, und dadurch mit mindestens derselben Genauigkeit wie eine mit Diskriminierung nach Absolutbeträgen arbeitende Vorrichtung die Identifizierung eines Ereignisses ermöglicht. Daher kommt es bei der erfindungsgemäßen Vorrichtung nicht in erster Linie darauf an. welche Beträge die Eingangssignale Sj und damit auch die Antwortsignale r, haben, sondern in erster Linie auf deren Verhältnisse zueinander. Mit anderen Worten: Die erfindungsgemäße Vorrichtung erkennt ein Ereignis nicht daran, daß die Eingangssignale und damit auch das Antwortsignal eine bestimmte Größe haben, sondern daran, daß die Eingangssignale S₁ und damit auch die Antwortsignale r, in einem bestimmten Verhältnis zueinander stehen, d. h.. daß der W-dimensionale Antwort-Signal-Vektor tf eine bestimmte »Richtung« hat. Dies ist für die Erkennung eines unbekannte "■ Ereignisses deshalb von Bedeutung, weil man bei einem solchen nicht von vornherein weiß, wie groß die Eingangssignale S₁. die dieses Ereignis charakterisieren, betragsmäßig sein werden.

Im weiteren Unterschied zu der bekannten Vorrichtung nach der DE-AS werden bei der erfindungsgemäßen Vorrichtung die Übertragungsfunktionen A₁, der Übertragungselemente, die einzelne oder gegebenenfalls alle Eingänge j mit der jeweiligen Ausgangsstation / koppeln, in den einzelnen Lern-Zyklen nicht um einen konstanten Betrag, sondern um einen Betrag geändett, der dem Antwortsignal r, der Ausgangsstation i proportional ist. Dies bedeutet aber, daß nach einem n-maligen Darbieten desselben Satzes von Eingangssignalen Sj Änderungen <5A> die die einzelnen Übertragungsfunktionen /4/, erfahren, im wesentlichen der n-ten Potenz des beim erstmaligen Darbieten eines Eingangssignalsatzes 3 erzeugten ersten Antwortsignals /y proportional sind, d. h., die Änderungen όΛ,> der Übertragungsfunktionen -A/, wachsen bei wiederholter Darbietung desselben Eingangssignalsatzes exponentiell an. Dies bedeutet andererseits, daß die »Lerngeschwindigkeit« der erfindungsgemäßen Vorrichtung sehr hoch, d. h. die Zahl der Darbietungen eines bestimmten Eingangssignalsatzes sehr klein sein kann, bis die einzelnen Übertragungsfunktionen A,j dahingehend abgeändert sind, daß die erfindungsgemäße Vorrichtung auf einen vorgegebenen Satz von Ein-

gangssignalen Sjeinen bestimmten Satz von Antwortsignalen r, erzeugt. Die Tatsache, daß die erfindungsgemäße Vorrichtung auf wiederholt dargebotene Sätze von Eingangssignalen sj, die in demselben Verhältnis zueinander stehen, in der Lernphase mit einer exponentiell Änderung der Übertragungsfunktionen reagiert, hat zur Folge, daß ein für ein bestimmtes, unbekanntes Ereignis charakteristischer Satz von Eingangssignalen s, selbst dann zu einer für das zugeordnete Ereignis charakteristischen Einstellung der Übertragungsfufrktionen führt, wenn die Eingangssignale S₁ pro Darbietung im Rauschen verborgen sind. Damit die erfindungsgernäöe Vorrichtung ein solche:;, gegebenenfalls unbekanntes Ereignis zu erkennen lernt, ist lediglich erforderlich, daß sein entsprechender Satz von Eingangssignalen s_; der Vorrichtung hinreichend ott dargeboten wird. Die Vorrichtung ist dann nach Abschluß der Lernperiode in der Lage, einen bestimm-

irrtn Anliunrlc

erzeugen, wenn ihr derjenige Satz von Eingangssignalen, der in der Lernphuse zu einer bestimmten Einstellung der Übertragungsfunktionen geführt hat, erneut dargeboten wird.

Man erkennt, daß die erfindungsgemäße Vorrichtung diese vorteilhafte Eigenschaft nur deshalb hat, weil sie einerseits mit exponentieller Geschwindigkeit .->lernt« und anderseits einen Satz 5 von Eingangssignalen wieder auf einen Satz R von Antwortsignaien abbildet, so daß diese die erfindtingsgemäße Vorrichtung kennzeichnenden Merkmale also in einem echten kombinatorischen Zusammenhang zueinander stehen.

Weitere Einzelheiten und Vorteile der Erfindung ergeben sich aus der nachfolgenden Beschreibung von Ausführungsbeispielen an Hand der Zeichnung. Es zeigt

F i g. 1 ein Blockschaltbild einer typischen bekannten informationsverarbeitenden Vorrichtung,

Fig. 2 ein Blockschaltbild einer Baueinheit einer informationsverarbeitenden Vorrichtung nach der Erfindung,

Fig. 3 ein Blockschaltbild einer erfindungsgemäßen informationsverarbeitenden Vorrichtung mit zahlreichen Baueinheiten g»mäß F i g. 2, wobei der Übersichtlichkeit der Darstellung wegen von Summierern der Vorrichtung abgehende Rückkopplungsleitungen weggelassen worden sind,

Fig.4 ein Blockschaltbild einer mit Schwellenwerteinrichtungen versehenen informationsverarbeitenden Vorrichtung gemäß F i g. 3,

Fig. 5 eine schematische Darstellung der Antwort einer erfindungsgemäßen Vorrichtung auf ein durch einen Satz von Eingangssignalen darstellbares äußeres Ereignis,

F i g. 6 eine schematisehe Darstellung eines speziellen Aufbaus der erfindungsgemäßen Vorrichtung,

F i g. 7 eine schematisehe Darstellung eines optischakustischen Nachweissystems mit mehreren erfindungsgemäßen Vorrichtungen,

F i g. 8 ein Blockschaltbild einer in Verbindung mit der erfindungsgemäßen Vorrichtung verwendbaren Einrichtung zur Erzielung eines bestimmten Antwortsignals,

Fig.9 eine schematisehe Darstellung der Antwort zweier erfindungsgemäßer Vorrichtungen auf dieselbe Mannigfaltigkeit von Ereignissen,

Fig. 10 ein Blockschaltbild einer Einrichtung, die in Verbindung mit einer erfindungsgemäuen Vorrichtung zur Erzeugung einer speziellen Art von A/itwortsignalen verwendbar ist,

Fig. Il e^;n Blockschaltbild einer bevorzugten Ausführungsform eines Teils der Baueinheit gemäß F ig. 2 mit einem mit Ladungsspeicherung arbeitendes übertragungselement,

F i g. 12 ein Schaltbild einer Summierschaltung, die in dem Netzwerk gemäß F i g. 11 verwendbar ist,

Fig. 13 ein Schaltbild eines in dem Netzwerk gemäß F i g. 11 verwendbaren Übertragungselements und

Fig. 14 ein Blockschaltbild einer in dem Netzwerk ίο gemäß F i g. 11 verwendbaren Einrichtung zur Verarbeitung von Net/.werk-Eingaitgssignalen mit Hilfe vor: Netzwerk-Ausgangssignalen.

Die F i g. 3 zeig! eine spezielle Ausführungsform einer erlindungsgemäßen Vorrichtung mit N Eingängen und /) r, Ausgangsstationen, wobei jeder Eingang mit jeder Ausgangsstation durch ein einzelnes Übertragungselement ((T)) verbunden ist. Aus Gründen der Übersichtlichkeit sind von den Summierern 21 1 ■· ■. Σ ''■ · ■· X " uuSgCiiCiltiC, Ζίί l.Cm C!ri*"CiPiCrt WiyCrirSgtiMgSCiCiMCniCri führende Rückkopplungsleitungen der Einrichtungen zur Änderung der Übenragungsfunktionen A₁₁ der Übertragungselemente weggelassen und es sind auch nur diejenigen Übertragungselemente eingezeichnet, die einerseits den Eingang j mit jeder der Ausgangssta-

.'-, tionen /(Übertragungselemente 1 j. 2j,..., nj) koppeln, 'iowie diejenigen Übertragungselemente, die jeden der Eingänge j mit der A.usgangsstation / koppeln

(Übertragungselemente /1, /2 ij,... iN). Es versteht

sich jedoch, daß die Vorrichtung gemäß F i g. 3

in insgesamt N ■ η Übertragungselemente umfaßt, deren Übenragungsfunktionen A,, somit durch die folgende Matrix mit N Zeilen und η Spalten angegeben werden können:

A_n A₂₂ ... /1„,
A_n A₂₂ . . . A„,

A, ν A₁

Der Ausdruck »Übertragungsfunktion« äst im folgenden, soweit nicht ausdrücklich näher definiert, in seinem allgemeinen Sinne aufzufassen und bedeutet eine

-,o Funktion, die in irgendeiner Weise die Übertragung von Informationen vom Eingang zum Ausgang eines Übertragungselements beeinflußt. In einem speziellen, einfachen Fall entspricht die Übertragungsfunktion der Verstärkung bzw. dem Verstärkungsfaktor eines als

Verstärker wirkenden Übertragungselemente; es versteht sich jedoch, daß eine durch eine Übertragungsfunktion beschreibbare Transformation des Eingangssignals eines Übertragungselements auf dessen Ausgangssignal auch auf andere Weise erzielt werden kann.

In jedem Fall soll das Ausgangssignal s'j eines Übertragungselements als das Produkt seines Eingangssignals Aij dieses Übertragungselements definiert sein gemäß der Beziehung:

Bei der erfindungsgemäßen Vorrichtung ist das Antwortsignal r, an jeder Ausgangsstatioti eine lineare

Il

Funktion der an die Eingänge j der Vorrichtung angelegten Eingangssignale, so daß gilt:

/V

— ' Λ Q

Diese lineare Relation, die in der Fig. 3 durch die

Summierer £i. £\ £„... Σ" veranschaulicht ist, ist

die einfachste Beziehung, die zu den erwähnten vorteilhaften Ergebnissen führt. Es versteht sich jedoch, daß die erfindungsgemäße Vorrichtung nicht auf diese lineare Relation beschränkt ist, und daß vorteilhafte Ergebnisse auch dadurch gewonnen werden können, daß das Antwortsignal r, an einer oder mehreren r, Abgangsstationen / nach einer anderen Funktion von den an die Vorrichtung angelegten Eingangssignal 5, abhängig ist. Beispielsweise kann das Antwortsignal r. /u dein P'uuuki uci Emgaiigssignaie A_nA₁ üutri aiiu / proportional sein. _'o

Bei uer in der Fig. 3 dargestellten Vorrichtung kann die Anzahl N der Eingänge und die Anzahl η der Ausgangsstationen an sich beliebig sein. Die Anzahl der Eingänge kann größer, kleiner aber auch gleich der Zahl der Ausgangsstationen (N = n) sein. Es versteht sich, r, daß der Umfang der Information, die zu irgendeinem Zeitpunkt an den Ausgangsstationen /der Vorrichtung auftreten kann, in der Größenordnung von 2" Bits oder mehr liegt, und daß, je großer der Wert η ist, desto größer auch das Signal/Rausch-Verhältnis der Vorrich- «1 tung ist. Daher sind große Werte von η erwünscht, wobei allerdings eine damit verbundene Zunahme der Schaltungselemente zu berücksichtigen ist. Der Einfachheit halber wird in einer nachfolgenden Betrachtung angenommen werden, daß π gleich A/sein soll. r>

Die Vorrichtung gemäß F i g. 3 kann als aus einer Anzahl (n) von Summierern Y₁, bestehend angesehen werden, deren jeder einerseits mit einer einzigen Ausgangsstaiion / und andererseits über jeweils ein Übertragungselement mit je einem der N Eingänge der in Vorrichtung verbunden ist. Uns zwar so, daß jeder Summierer £, mit jedem der Eingänge j gekoppelt ist. Eine solche, eine Untereinheit der Vorrichtung darstellende Baueinheit ist in der Fig. 2 dargestellt. Ein Vergleich der Fig. 2 mit der F i g. 3 zeigt, daß die -n erfindungsgemäße Vorrichtung demgemäß eine der Anzahl (n) der Ausgangsstationen entsprechende Anzahl solcher Baueinheiten gemäß F i g. 2 umfaßt.

Wie die F i g. 2 zeigt, erzeugt jede Baueinheit ^n einer Ausgangsstation /ein einzelnes Antwortsignal η Dieses ,c Antwortsignal wird von dem Summierer Σ> ^c'^er Baueinheit jeweils in Abhängigkeit von Zwischen ausgangssignalen s'u s'₂, .., s> .._ s'_N der N Übertragungselemente /I₁ /2, ..., ij,..., /TV erzeugt. In dem speziellen Fall einer erfindungsgemäßen Vorrichtung, bei der jeder der N Eingänge mit jeder der η Ausgangssta. ionen durch ein einzelnes Übertragungselement verbunden ist, liegt eine sogenannte (N, n)-Verknöpfung vor. Es ist aber nicht erforderlich, daß die Übertragungselemente der Vorrichtung jeden Eingang mit jeder Ausgangsstation koppeln. Vielmehr können in praktischen Fällen eine oder mehrere der durch die Übertragungselemente vermittelten Verbindungen zwischen den Eingängen und den Ausgangsstationen ohne schädliche Beeinträchtigung der Funktion der Vorrichtung getrennt werden. Die durch die Übertragungselemente vermittelten Verbindungen zwischen den Eingängen und den Ausgangsstationen der Vorrichtung können sogar völlig zufallsverteilt sein, vorausgesetzt, daß eine genügende Anzahl solcher Verbindungen vorhanden ist, um eine Informationsübertragung vom Eingang zum Ausgang und demgemäß auch eine Informationsspeicherung in den Über^agungselementen zu ermöglichen. Demzufolge kann eine der Fig. 2 entsprechende Baueinheit auch weniger als N Übertragungselemente umfassen, so daß nicht jeder Eingang I, 2, ..., j, ..., N mit dem jeweiligen Summierer £, gekoppelt sein muß.

In der t.ernphase der Vorrichtung werden die Übertragungsfunktionen mindestens einzelner und vorzugsweise aller Übertragungselemente //in Proportionalität zu mindestens einem der Antwortsignale r eier Vorrichtung geändert, d.h., die Änderung (M₁, der Übertragungselemente erfolgt in Abhängigkeit von dem Produkt aus mindestens einem der Eingangssignale und mindestens einem der Antwortsignale der Vorrichlung. unier dieser Maßgabe kann sumii usr Aigoni'nmus für die Abänderungen OA,,. denen die Elemente A₁₁ der Übertragungsfunktionen Matrix A unterworfen sind, abgesehen von einer zu den Eingangssignal s, und den Antworisignalen r, nicht in Beziehung stehenden gleichförmigen Abnahme, im allgemeinsten Fall durch die folgende Beziehung angegeben werden:

Die apparative Realisierung eines solchen Änderungsalgorithmus, der im Prinzip jedes Eingangssignals Sj mit jedem Antwortsignal r, verknüpft, wäre natürlich sehr kompliziert. Daher ist, um unnötige Komplikationen bei der Leitungsführung in der Vorrichtung zu vermeiden, vorgesehen, daß die Abwandlung 6A₁, der Übertragungsfunktion A₁₁ eines Übertragungselements nur von dem Eingangs- und Anlwortsignalen desjenigen Bauelements abhängig sein soil, dem das Übertragungselement angehört, und zwar derart, daß für die Änderung ÖA,, der Übertragungsfunktion A_n desjenigen Übertragungselements i, j, das den Eingang / mit der Ausgangsstation /koppelt,gilt:

ΛΛ,- , = f(s,,r,),
mit der Maßgabc, daß

= η s, r,

A_n= i_t r,- .S, .

wobei η eine Proportionalitätskonstante bezeichnet, deren Größe apparativ bedingt und gegebenenfalls zeitabhängig ist.

Man erkennt, daß die Proportionalität:

Λ A_n = // Sj.-,

gerade dem vierten Term der Taylor-Entwicklung entspricht, wenn man die Funktion

die stets von beiden variablen s, r, abhängig sein soll, nach steigenden Potenzen dieser Variablen entwickelt.

was zu der folgenden Darstellung der Funktion ffa n) führt:

/ (Sj, r,) = «on + «₀₁ Sj + «,„ r_f + O₁, r, s, + «,, r; S₇ + O₃₁ r| i, + ... + «_ra„ if sj .

Da gefordert wird, daß die Abänderung der A-,j von dem Produkt des Eingangssignals s,· mit dem Antwortsignal r, abhängig sein soll, sind die ersten drei Terme dieser Entwicklung nicht von unmittelbarem Interesse. Im übrigen läßt sich beweisen, daß eine Abänderung der ι ο Aij, die nur eine Funktion von einem oder mehreren der ersten drei Terme der Taylor-Entwicklung ist, nicht zu einer informationsverarbeitenden Vorrichtung führen würde, die die duich die erfindungsgemäße Vorrichtung vermittelten vorteilhaften Intelligenzeigenschaften auf- υ weist.

Der niedrigste Term der Taylor-Entwicklung, der dies leistet, ist der vierte Term, nämlich S₁₁ r,- Sj.

Es versteht sich jedoch, daß auch weitere, auf den vierten Term der Taylor-Entwicklung folgende Terme zu bedeutsamen Ergebnissen führen können, wenn sie in der erfindungsgemäßen Baugruppe verarbeit,-t werden. Terme mit geraden Potenzen der Variablen Sj oder 17 ermöglichen aber bei den Abänderungen der Übertragungsfunktionen keine Unterscheidung hinsichtlich des Vorzeichens der erwünschten Abänderung. Terme, die ungerade Potenzen dieser Variablen enthalten, wie etwa der sechste Term, a.n r³, s_y würden dagegen eine solche Unterscheidung ermöglichen. Daher kann jeder dieser Terme der erfindungsgemäßen Vorrichtung interessan- jo te Eigenschaften vermitteln. Da die verschiedenen Terme der Taylor-Entwicklung den Abwandlungen OA₁₁ der Matrix A der Übertragungsfunktionen unterschiedliche Gewichtungen.erteilen, können insbesondere diese Gewichtungen mit Vorteil dazu benutzt werden, der erfindungsgemäßen Vorrichtung spezifische erwünschte Eigenschaften zu vermitteln.

Die F i g. 4 zeigt eine Möglichkeit, die die erfindungsgemäße Vorrichtung in ein anpassungsfähiges Informationsverarbeitungssystem eingegliedert und benutzt werden kann. Die in dieser Figur dargestellte Vorrichtung weist eine (N₁N)-Verknüpfung auf, d. h. es sind N Eingangsstationen und N Ausgangsstationen vorgesehen, und jede Eingangsstation ist, wie in der Fig.3 dargestellt, mit jeder Ausgangsstation über ein Übertra- 4 -, gungselement verbunden.

Die der Vorrichtung zugeführten Eingangssignale s\, 52, ... 5,, ... s/v charakterisieien ei» Ergebnis in der Umgebung, das in der Fig. 4 als »Eingabe« bezeichnet ist. Dieses Ereignis kann ein optisches Ereignis, etwa die Ansicht eines Bildes, ein akustisches Ereignis, etwa ein Ton, oder irgend ein beliebiges anderes Ereignis sein, beispielsweise der Empfang von Strahlungssignalen aus dem Weltraum. Die einzige Anforderung, die an ein solches Ereignis zu stellen ist, besteht darin, daß es auf ,-, irgend eine Weise in eine Anzahl von Eingangssignalen Si, 52,... Sj,... Sn übersetzbar ist, die ausreichend viele Einzelheiten des interessierenden Ereignisses bewahren.

Die Eingangssignal S], 52, ... Sj, ... s/y werden von 5,0 einem Übersetzer erzeugt, der eine Art von Analyse des Ereignisses durchführt und nach Maßgabe dieser Analyse Signale erzeugt. Wenn die Eingabe beispielsweise ein optisches Ereignis oder ein »Bild« ist, so kann der Übersetzer dieses Bild in eine Anzahl von <,? Raslerelementen unterteilen und Signale Si, s?,... Sj»... s/v erzeugen, die zu der optischen Dichte eines jeden zugeordneten Rasterelements proportional sind. Wenn die Eingabe ein akustisches Ereignis ist, so kann der Übersetzer eine Fourier-Analyse der akustischen Information durchführen und Eingangssignal S\, S2,... Sj,... Sn erzeugen, die zu der Schallamplitude jeder der Fourierfrequenzen proportional sind. Es versteht sich jedoch, daß der in Verbindung mit der Vorrichtung zu benutzende Übersetzer geeignet wählbar ist und daß dem Fachmann zahlreiche Arten geeigneter Übersetzer bekannt sind. Da außerdem der Übersetzer, für sich genommen, nicht Teil dieser Erfindung ist, soll er im folgenden nicht im einzelnen behandelt werden.

Gemäß einer bevorzugten Ausführungsform der Erfindung sind diese Antwortsignale kontinuierliche Variable, d. h.: sie können beliebige Werte zwischen Null und jedem positiven und/oder negativen Maximalwert annehmen, je nach der Art des durch die Antwortsignale charakterisierten Ereignisses und der apparativen Bedingungen, die durch den Aufbau der Vorrichtung vorgegeben sind. Um bei Bedarf die Vorrichtung »zwingen« zu können, ein spezielles Antwortsignal abzugeben (einen bestimmten Satz einzelner Antwortsignal n, ri, ... /7, ... r_N), wenn ein spezielles Eingängssignal (ein Satz bestimmter einzelner EingangssignaleS\,S2....s„...s^dargeboten wird.kann die Vorrichtung mit einer geeigneten Einrichtung ausgestattet sein, die einzelnen oder sämtlichen Ausgangsstationen spezifische Antwortsignale (z. B. Spannungen) aufprägt oder zuführt. Auf diese Weise kann die Vorrichtung in der als »aktives Lernen« bezeichneten Betriebsart betrieben und veranlaßt werden, auf jedes gegebene Eingangssignal ein vorbestimmtes, erwünschtes Antwortsignal abzugeben. Diese . Betriebsart ist zwar derjenigen der bekannten Vorrichtungen ähnlich, aber auch hier profitiert man von der erhöhten Lerngeschwindigkeit der erfindungsgemäßen Vorrichtung.

Bei Bedarf können die Ausgangsstationen 1,2,... λ ... N der Vorrichtung auch jeweils mit einer Anzahl von Schwellenwerteinrichtungcn Ti. T₂, ... Ti, ... T_n wie Schmitt-Trigger oder dergleichen verbunden sein, die ein Ausgangssignal erzeugen, wenn das ihnen zugeführte Antwortsignal jeweils einen einstellbaren Schwellenwert B\. 02. ... θι, ... θ/ν überschreitet. Diese Schwellenwerteinrichtungcn bewirken, daß das analoge Antwortsignal der Vorrichtung in ein digitales Ausgangssignal umgewandelt wird, das auf einfache Art und Weise weiter verarbeitet werden kann. Diese Schwellenwerteinrichtungen über zusätzlich eine Entscheidungsfunktion dahingehend aus, ob und wann ein spezielles Antwortsignal erzeugt worden ist.

Die Schwellenwerteinrichtungen 7Ί. T₂,... T„... Tm können auch für eine Betriebsart benutzt werden, die als »Unterdrückungsbetrieb« bezeichnet werden kann und die den Lernvorgang der Vorrichtung fördert. Wie im folgenden ausführlich dargelegt werden wird, erfordert diese Betriebsart, daß das Ausgangssignal einer jeden Schwellenwerteinrichtung auf die Vorrichtung zurückgekoppelt wird, um alle Summierer mit Ausnahme desjenigen, der das Antwortsignal erzeugt, abzuschalten.

Auf diese Weise werden alle Antwortsignale n, r₂

Ov mit Ausnahme desjenigen Antwortsignals unterdrückt, das als Eingangssignal derjenigen Schwellen-

Werteinrichtung zugeführt wird, die ein Ausgangssignal erzeugt. Der Vorteil hierbei besteht darin, daß die Vorrichtung selbsttätig rasch lernt, einen Satz von Antwortsignalen /-j, ri, ... /% ... γν (und damit auch Ausgangssignale der Schwellenwerteinrichtungen Tj, 72, ... Tn) zu erzeugen, in dem nur eines dieser Antwortsignale bei Darbietung eines gegebenen Satzes von Eingangssignalen s\, S2, ... Sj, ... sn von Null verschieden ist

Die Ausgangsstation der Vorrichtung oder der Ausgänge der Schwellenwerteinrichtungen, sofern solche vorgesehen sind, können mit jeder Art von Ausgabe- oder Verarbeitungsgerät kombiniert werden, je nachdem was für ein Vorgang in Abhängigkeit von den Antwortsignalen der Baugruppe durchgeführt werden soll. Wenn die Vorrichtung beispielsweise dazu benutzt wird, sichtbare Bilder zu identifizieren (z.B. Scheckunterschriften) so können die Ausgänge der Schwellenwerteinrichtungen einfach mit einer Alarmanlage verbunden sein, die einer Bedienungsperson Nachricht gibt, wenn ein bestimmtes Bild (z. B. eine echte oder gefälschte Unterschrift) als echt erkannt oder als gefälscht entdeckt worden ist.

Ein weiterer Vorteil der erfindungsgemäßen informationsverarbeitenden Vorrichtung liegt darin, daß sie als ein Assoziativ-Speicher, (bei dem Information nicht an einzelnen Speicherplätzen sondern über das System verteilt gespeichert wird) benutzbar und in hohem Maße unempfindlich gegenüber einem Fehlverhalten einzelner Bauelemente ist. Die Vorrichtung vermittelt dann die Eigenschaften eines selbstorganisierten Sprechers mit der Fähigkeit, Information allein auf Grund von Erfahrung aufzunehmen. Es kommt hinzu, daß ein solcher Assoziativ-Speicher im allgemeinen dieselbe Kapazität, Zuverlässigkeit und Genauigkeit wie ein r, konventioneller digitaler Computerspeicher (beispielsweise wie ein Ferritkernspeicher), aufweist, bei dem die Information an einem räumlich festgelegten Ort gespeichert wird. Ein weiterer Vorteil der erfindungsgemäßen informationsverarbeitenden Vorrichtung, die als eine elektronische Schaltung realisierbar ist, besteht darin, daß sie eine große Speicherdichte ermöglicht. Sie kann aus integrierten Schaltungen aufgebaut sein und benötigt daher keine diskreten Speicherelemente wie Ferritkerne. 4>

Wenn die Vorrichtung beispielsweise als Assoziativspeicher benutzt wird, so kann sie direkt mit einem konventionellen digitalen Computer verbunden werden (d. h. ohne einen eigenen eingangsseitigen Übersetzer oder ausgangsseitige Schwellenwerteinrichtungen). Selbstverständlich muß dann an der eingangsseitigen Schnittstelle der Vorrichtung ein Digital/Analogkonverter vorgesehen sein, um die digitale Ausgabe des Computers in analoge Eingangssignale 5i, 52, ... Sn umzuwandeln, und es muß an der ausgabeseitigen r, Schnittstelle der Vorrichtung ein Analog-Digital-Konverter vorgesehen sein, der die analogen Antwortsignale η, Γ2,... r/v zur Eingabe in den Computer quantisiert.

Offensichtlich kann die erfindungsgemäße Vorrichtung für praktisch unendlich viele Zwecke eingesetzt to werden, wobei die zur Mitanwendung kommende spezielle Ausgabe- oder Verarbeitungseinrichtung durch die speziellen Umstände des Einzelfalles bestimmt sein wird. Da die Ausgabe- oder Verarbeitungseinrichtung für sich allein nicht Teil der Erfindung ist, ^ sollen sie hier auch nicht in weiteren Einzelheiten behandelt werden.

Die erfindungsgemäße Vorrichtung kann auch in einem Informationsverarbeitungssystem verwendet werden, bei dem mehrere solcher Vorrichtungen entweder in Reihen- oder in Parallel- oder in Reihen/Parallelschaltung miteinander verbunden sind. Beispielsweise können die Ausgangsstationen zweier Vorrichtungen mit den Eingangsstationen einer dritten verbunden sein, derart, daß die beiden ersten Vorrichtungen die aus der Umgebung empfangene Information »vorverarbeiten« können und diese (vorverarbeitete) Information zur endgültigen Verarbeitung und/oder Speicherung an die dritte Vorrichtung abgeben.

Reihen- und Parallelschaltungen der Vorrichtung können somit die Intelligenz des Informationsverarbeitungssystems vergrößern.

Die erfindungsgemäße Vorrichtung kann so aufgebaut sein, daß sie mit einer gewünschten Geschwindigkeit »lernt«. Im Lernbetriebszustand sollten die an den Übertragungsfunktionen 4,Jder Übertragungselemente vorzunehmenden Änderungen &Α$ so definiert sein, wie oben angegeben; wobei gemäß einer bevorzugten Aüsführüngsfonn der Erfindung diese Abänderungen von der folgenden Form sind:

Durch Einstellen des Wertes η, der apparativ einstellbar ist. ist es dann möglich, die Abänderungsoder »Lerngeschwindigkeit« der Vorrichtung zu steuern.

Wenn η = 0 (0/4,; = 0) gesetzt wird, ist es auch möglich, den Lernbetrieb der Baugruppe vollständig »auszuschalten«, so daß die Vorrichtung dann als ein reiner Assoziativ-Speicher arbeitet. Die Benutzbarkeit der Vorrichtung in diesem speichernden Zustand, in dem die Übertragungsfunktionen vorbestimmt und festgelegt sind, ist ein wesentlicher Vorteil der vorliegenden Erfinc ng.

Die erfindungsgemäße Vorrichtung kann auch so aufgebaut sein, daß sie sowohl mit einer vorbestimmten Geschwindigkeit »vergißt« als auch lernt. Eine solche Arbeitsweise kann dadurch erreicht werden, daß es den Übertragungsfunktionen A₁, ermöglicht wird, beispielsweise mit einer konstanten Zerfallsgeschwindigkeit abzunehmen. In der Lernphase ist ein solcher Verlust gespeicherter Information günstig, da die Vorrichtung dadurch Einzelheiten ihrer früheren Erfahrung »vergessen« und somit schneller verallgemeinern kann. Dagegen ist es dann, wenn die Lerriphase der Vorrichtung abgeschlossen ist und diese im Speicherbetrieb arbeitet, erwünscht, jede Abnahme der Übertragungsfunktionen möglichst auf »Null« (d. h. auf den bei den «.tir Verfügung stehenden Bauteilen niedrigst-möglichsten Wert) zu reduzieren, damit die in der Vorrichtung gespeicherte Information so lange wie möglich auch ohne Verwendung eines Pufferspeichers festgehalten werden kann.

Wenn mehrere Vorrichtungen, die in Reihe oder parallel geschaltet sind, benutzt werden, so können verschiedene Vorrichtungen auch in verschiedenen Betriebsarten betrieben werden, um innerhalb eines Informalionsverarbeitungssystems unterschiedliche Funktionen auszuführen. Beispielsweise können sich eine oder mehrere Vorrichtungen in der Lernphase befinden (in der z. B. sowohl η als auch die Zerfallsgeschwindigkeit ziemlich groß sind), während eine oder mehrere Vorrichtungen als reine Speicher benutzt werden (wobei 6A_V und die Zerfallsgeschwindigkeit 0 sind). Die F i g. 7 zeigt ein Beispiel eines

solchen Systems, das drei Vorrichtungen umfaßt Aus dieser Figur ist ersichtlich, daß die Zahl der Eingänge einer Bank H (Zahl der Eingangsstationen einer Vorrichtung mit der Bank H) gleich, größer oder kleiner sein kann als die Summe der Ausgangsstationen von Vorrichtungen mit den Ausgangsstationsbanken Ra und Ra, und daß jeder Ausgang von Ro und Ra mit einem oder mehreren Eingängen der Bank H in geordneter oder zufälliger Weise verbunden sein kann.

Schließlich ist darauf hinzuweisen, daß sobald die ι ο Lernphase einer Vorrichtung abgeschlossen ist, die Werte der Übertragungsfunktion .4,j gespeichert und zu einer sofortigen Einstellung einer weiteren Vorrichtung benutzt werden können. Diese »Sofort-Ausbildung« wird in einfacher Weise dadurch erreicht, daß die Werte der Übertragungsfunktionen einer Vorrichtung auf Anfangswerte Al%;gesetzt werden, bevor die Baugruppe in Betrieb genommen wird.

Bei eip.»r bevorzugten Ausführungsform der Erfindung ist dafür ein üblicher (entweder analoger oder m digitaler) Pufferspeicher vorgesehen, in den die Werte der Übertragungsfunktionen Ay einer Vorrichtung, deren Lernphase abgeschlossen ist, eingegeben werden können und aus dem diese Werte entnommen werden können, wenn die Übertragungsfunktionen derselben oder einer anderen Vorrichtung auf ihre Anfangswerte /4<°>ygesetzt werden sollen.

Die insoweit beschriebenen strukturellen und funktioneilen Merkmale der erfindungsgemäßen Vorrichtung zeigen, daß ihre Eigenschaften zumindest unter jo speziellen, vereinfachenden Annahmen einer expliciten mathematisch-analythchcn Γ-'har.dlung in Ausdrücken mehrdimensionaler licsarer Abbildungen, also einer Behandlung mit bekannten .' Methoden der linearen Algebra, zugänglich sind. Im folgenden werden daher r, einige wesentliche Eigenschaften der erfindungsgemäßen Vorrichtung im Hinblick auf ihre Umsetzbarkeit in mathematische Formulierungen näher erläutert und einige Ergebnisse einer unter speziellen, vereinfachenden Annahmen durchgeführten expliciten mathemati- 4» sehen Behandlung dieser Eigenschaften angegeben, die den Fachmann dann einerseits ohne weiteres in die Lage versetzen, die erfindiingsgemäße Vorrichtung an einen, seinen Bedürfnissen entsprechenden, bestimmungsgemäßen Gebrauch anzupassen, und die ihm andererseits ι-, den Weg zeigen, wie er selbst unter Ausnutzung der bekannten mathematischen Methoden eine Vorrichtung nach der Erfindung konzipieren und/oder deren Eigenschaften analysieren kann.

Die F i g. 5 zeigt in schematischer Darstellung eine >o Vorrichtung, ir. deren Umgebung eine Anzahl von

»Ereignissen« e¹, e², e³, .... & e», .... e* auftreten

kann. Es versteht sich, daß unter einem »Ereignis« jeweils ein ganzer Komplex von objektiv, d. h. mit Hilfe von Meßeinrichtungen od. dgl. der Vorrichtung v, erfaßbare spezifischen Eigenschaften, Zuständen und/ oder Vorgängen zu verstehen ist, deren spezielle Kombination die Verschiedenheit der einzelnen Ereignisse charakterisiert. Solche Meß-Einrichtungen sind es, die die Funktion des Übersetzers gemäß Fig,4 ω vermitteln, der für jedes der Ereignisse e¹, e⁷, e>,.., c* einen charakteristischen Satz von Ausgangssignalen s>,

s², s' s* erzeugt, wobei natürlich jeder dieser

Ausgangssignalsätze s" (v - 1... k) maximal N von Signalkomponenten umfaßt, die ihrerseits die Eingangs- e-> signale s/der erfindungsgemäßen Vorrichtung sind.

Man erkennt, daß die verschiedenen Ereignisse e¹, e¹, .... 0< e" e* bzw. deren Einzelmerkmale

einerseits, und die zugeordneten Ausgangssignalansätze 5', s², .., sf, .., s*, ,,„ s* andererseits einen im methematischen Sinne als Vektor interpretierbaren Ereignisraum E bzw. einen Eingangssignalraum S aufspannen, und daß der Übersetzer, der die einzelnen Ereignisse in zugeordnete Eingangssignalsätze transformiert, im mathematischen Sinne eine Abbildung P des Ereignisraumes E auf den Eingangssiijnalraum S vermittelt, was in der F i g. 5 durch den doppelten Pfeil P veranschaulicht ist, der von ezu szeigt-

Es versteht sich, daß die Abbildung P im Eingangssignalraum S ein möglichst detailreiches Bild der Ereignisse entwerfen sollte, damit ein genügend großer Betrag der interessierenden Information über das Ereignis erhalten bleibt Daher sollte der Übersetzer, der selbst nicht Gegenstand der Erfindung ist, so beschaffen sein, daß er die einzelnen Ereignisse nach Qualität und Grad ihrer Einzelmerkmale gut zu unterscheiden vermag, damit auch die für die einzelnen Ereignisse erzeugten Sätze von Eingangssignalen syden Grad der Verschiedenheit (oder Ähnlichkeit) zwischen den auf den Eingangssignalraum S abgebildeten Ereignissen hinreichend genau widerspiegeln. Es soll im folgenden davon ausgegangen werden, daß die Abbildung Pbzw. der Übersetzer diese Eigenschaft besitzen.

Für Ereignisse c und &>, die sich in den von dem Übersetzer erfaßten Merkmalen nur wenig unterscheiden, werden dann Eingangssignalsätze σ" und o? erzeugt, die, als Vektoren aufgefaßt, nur wenig voneinander unterschiedliche Richtungen markieren. Ereignisse, die beispielsweise einander ebenso ähnlich sind wie etwa eine weiße Katze und eine graue Katze, die sich ansonsten in ihren weiteren Merkmalen aber praktisch nicht unterscheiden, werden dann auf Eingangssignalvektoren s* und s· abgebildet, die annähernd parallel sind, während Ereignisse, die so verschieden sind wie beispielsweise der Klang einer Glocke und das Aussehen eines Nahrungsimttäls, also Ereignisse mit Merkmalen, die in praktischen fällen nicht von den selben Meßgeräten des Übersetzers erfaßt werden können, werden dann auf Eingangssignalvektoren abgebildet, die im mathematischen Sinne orthogonal zueinander sind.

Im folgenden soll von dem in der F i g. 6 dargestellten speziellen Ausführungsbeispiel einer erfindungsgemäßen Vorrichtung ausgegangen werden, die N Eingänge und N Ausgangsstationen hat, wobei jede der Allsgangsstationen mit jeweils einem Eingang durch ein einzelnes Übertragungselement^ verbunden ist. Die in der F i g. 6 nicht dargestellten, jedoch ebenfalls wie beim Ausführungsbeispiel gemäß den K i g. 3 oder 9 ebenfalls vorhandenen Summierern £, arbeiten in der Weise, daß beispielsweise die AiUworlsignalkoinponente r, des Antwortsignalsatzes R gemäß der Beziehung

_|V

gebildet wird, wobei Ay dip Übertragungsfunktion des //'ten Übertragungselements ist. und demgemäß das Antwortsignal λ von allen Eingangssignalen 5, abhängig ist, die an den Eingängen Für die Signalverteilung S vorhanden ist. Dies is! die grundlegende Beziehung, die den Einfluß der im Eingangssignalraum S vorhandenen Eingangssignale auf die im Antwortsignalraum R erzeugten Antwortsignale beschreibt.

Man erkennt, daß diese Beziehung ebenfalls im mathematischen Sinne eine Abbildung A des Eingangs-

signalraumes S auf den Antwortsignalraum R beschreibt, was in der F i g. 5 durch den einfachen Pfeil A veranschaulicht ist.

Zwar ist es für ein befriedigendes Funktionieren der erfindungsgemäßen Vorrichtung nicht erforderlich, daß zwischen den Eingängen und den Ausgangsstationen eine N-N Verknüpfung vorliegt; vielmehr können die tatsächlich zwischen den Eingängen j und den Ausgangsstationen / der erfindungsgemäßen Vorrichtung bestehenden Verbindungen zufällig angeordnet und mehrfach vorhanden sein, und es können zwischen einem bestimmten Eingang und einer bestimmten Ausgangsstation auch gar keine Verbindungen bestehen. Es ist auch nicht erforderlich, daß die Antwortsignalkomponenten η gemäß der obigen Beziehung eine lineare Funktion aller N Eingangssignale sind, jedoch ist es unter den vorgenannten speziellen Annahmen auf eine verhältnismäßig einfache Weise möglich, dit Abbildung A, deren Koeffizienten Ay (die die Übertragungsfunktionen der Übertragungselemente sind) in der Lernphase der Vorrichtung abgeändert werden, mathematisch zu behandeln und ihre Eigenschaften in einer übersichtlichen, geschlossenen analytischen Form abzugeben.

Im folgenden werden nun einige, eine Anzahl von ,-5 wesentlichen Eigenschaften der erfindungsgemäßen Vorrichtung charakterisierende Ergebnisse einer solchen analytischen Behandlung der Abbildung A angegeben u^rid kurz erläutert

Speicherwirkung
Die durch die obige Beziehung

η = Σ ^Au ^si

definierte Abbildung A kann auch auf der Basis der von der Vorrichtung verarbeiteten bzw. abgebildeten Vektoren angegeben werden gemäß der Beziehung

r,

gesamten Erfahrung des Systems zusammengesetzt, die sich in den mit diesem Übertragungselement verknüpften Eingangs- und Ausgangssignalen widerspiegelt Dies bedeutet, daß die erfindungsgemäße Vorrichtung die Eigenschaft hat eines nach Inhalt oder Verknüpfung adressierbaren Assoziativ-Speichers, der jegliche Erfahrung der Vorrichtung in Abbildungen der Form A speichert, d. h. in durch die Darbietung und Verarbeitung von Ereignissen bestimmten Einstellungen der Übertragungsfunktionen Ay der Gesamtheit seiner Übertragungselemente ij. Jedes Ereignis wird also über eine Vielzahl von Übertragungselementen verteilt gespeichert, während die Einstellung einer bestimmten Übertragungsfunktion gegebenenfalls durch eine Überlagerung zahlreicher Ereignisse bestimmt sein kann.

Auf Grund dieser Eigenschaften vermag die erfindungsgemäße Vorrichtung ein Ereignis, das in der Lernphase zu einer Einstellung der Obertragungsfunktionen Λ,> der Übertragungselemente beigetragen hat, dadurch zu erkennen, daß das Antwortsignal auf dieses Ereignis stärker ist, als wenn der Vorrichtung ein Ereignis dargeboten wird, das sie vorher noch nicht »gesehen« hat Dies bedeutet umgekehrt natürlich, daß die Tatsache, daß die Vorrichtung auf ein bestimmtes Ereljn'is ein starkes Antwortsignal erzeugt (d. h, da3 die Summe der Quadrate Λ der Antwortsignalkomponenten r, groß ist, daß die Vorrichtung das auf dieses Antwortsignal abgebildete Ereignis schon einmal wahrgenommen hat.

Die erfindungsgemäße Vorrichtung vermag daher ein Ereignis λ. das durch einen Setz von Eingangssignalen s^l\ + S⁴I charakterisiert ist auch dann zu erkennen, wenn nur ein Teil (beispielsweise s\^l) der für dieses Ereignis charakteristischen Eingangssignal erzeugt

r, werden, weil auch dann die Summe der Quadrate der Ausgangssignale größer sein wird, ais wenn der Vorrichtung ein »unbekanntes« Ereignis dargeboten worden wäre. Zwar ist dann das Antwortsignal r¹ mit einem höheren Rauschante.il behaftet, aber dennoch

.40 »-erinnert« sich die Vorrichtung an die Darbietung des .©!!ständigen Ereignisses.
Dies bedeutet aber, daß es gemäß der Gleichung

in der die entsprechenden Sätze von Antwortsignalen auf das i>-te und u-te Ereignis e¹' sind c jeweils r' und &' jeweils rund /»' und der Parameter c,,,den Kopplungskoeffizienten zwischen den v-ten Satz von Eingangssignalen s" und dem μ-teii Antwortsignalsatz rf bedeutet. Bei dieser Darstellung der Abbildung A sind es die Koeffizienten c_t,~, die mit der Zeit anwachsen, wenn aufeinanderfolgende Ereignisse e auf die Eingangssignale s aufgebildet und von der Vorrichtung zu Antwortsignalen verarbeitet werden.

Dabei beschreibt Jas //-te Element der Abbildung A, d. h. die Übertragungsfunktion A₁₁ die Wirkung des Übertragungsek'merHs zwischen dem in dem Eingangssignalraum S aiiftrelenden Eingangssignal α, und dem Antwortsignal (■, des Antwortsignalraums. Selbst wenn nur die Eingangssign'Ukomponemc s, von Nu!l verschieden ist, so daß gilt,

T; = A_nSj.

ist wegen

= Σ c,,. 'Γ

die Wirkung des //-ten Übertragungselement« a,₍ aus dir die Koeffizienten c,,, des Diagonalanteils
!K = (A) diagonal ξξ ^jc_rl. r' ■ .s^;

sind, die für die Erkennung wesentlich sind, während die N':htdiagonalglieder

'?l der Matrix I
nicht-diagonal s= V] c,„ r>' ■ s'

dafiii· verantwortlich sind, daß die erfindimgsgemäße Vorrichtung bei Auftreten eines Ereignisses e", das in der Lenvphase mit einem weiteren Ereignis ef verknüpft war. ein anderes, und zwar für diese Verknüpfung charakteristisches Ausgangssignal erzeugt, als wenn der Vorrichtung in der Lernphase stets nur das Ereignis e¹' od«;.'· ef allein dargeboten worden wäre. Die Koeffizienten c„„ die in der Lernphase geändert werden, können daher als die direkten Erkennungs (t,.,., bzw. c,,,,)- und

Verknüpfungskoeffizienten (c,,_r, ν = μ) interpretiert werden.

Eine weitere vorteilhafte Eigenschaft der erfindungsgemäßen Vorrichtung ist ihre Fähigkeit zur Verallgemeinerung, d. h. die Fähigkeit, aus einer Anzahl ^r, unterschiedlicher Ereignisse deren gemeinsames Element herauszuziehen. Diese Möglichkeit beruht auf der durch apparative Mittel realisierten Eigenschaft der Vorrichtung, daß die Änderungen δΑ^ die die Übertragungsfunktionen A₁₁ als Folge der in der in Lernphase erfolgenden Darbietungen von Eingangssignalsätzen sowohl den Eingangssignalen 5, als auch den aus diesen erzeugten Ausgangssignalen r, proportional sind, so daß die wiederholt auftretenden gemeinsamen Elemente eines Eingangssignalsitzes eine im Ergebnis π nachhaltigere, weil stets im selben Sinne erfolgende Änderung der Übertragungsfunktionen bewirken, als beispielsweise statistisch variierende Komponenten !solcher tingangssignalsätze, deren hinllub sich herausmitteln kann.

Nach Abschluß der Lernphase reagiert daher die erfindungsgemäße Vorrichtung auf einen Satz von Eingangssignal, der Komponenten enthält, die gemeinsamer Bestandteil der in der Lernphase dargebotenen Eingangssignalsäitze war, mit einer starken Antwort r, auf diesen Signalbestandtcil. Anders ausgedrückt: vollzog sich die Einstellung der Übertragungsfunktionen a,, in der Lernphase unter Darbietung der A; Eingangssignalsätze bzw. -Vektoren von der Form

s" + »'. V¹+ I/² 5°+ l/.

die jeweils den gemeinsamen Bestandteil A^fl aber verschiedene zusätzliche Bestandteile u'. ... u' hatten, dann »sieht« die Vorrichtung, wenn ihr später der r, Eingangssignalsatz ein 5°u^4t' dargeboten wird, im wesentlichen nur den Bestandteil s° und erzeugt dann ein für diesen Bestandteil charakteristisches Ausgangs signal. Diese Eigenschaft der erfindungsgemäßen Vorrichtung beinhaltet die äußerst vorteilhafte Mög- 4η lichkeit. ein Eingangssignal 5°. das mit dem statistisch variierenden Rauschanteil rr verknüpft ist. so daß das der Vorrichtung dargebotene Signal von der Form

ist. vom Rauschen zu trennen, da die Vorrichtung die Erkennung der einzelnen Eingangssignalsätze auf die Erkennung ihres gemeinsamen Bestandteils 5° reduziert und damit auf diesen verallgemeinert.

Wie sehne." dieser Start durchgeführt wird, hängt von apparativen Parametern der Vorrichtung ab, durch deren Einstellung es möglich ist, die Änderung der Übertragungsfunktionen A,y einerseits so zu gestalten, daß alle Einzelheiten der Eingangssignale in dem Assoziativ-Speicher gespeichert werden, andererseits aber auch so, daß der Assoziativ-Speicher Einzelheiten, die nur in Verbindung mit einem einzigen oder nur wenigen Eingangssignalen dargeboten werden, »vergißt« und nur die gemeinsamen Elemente, gleichsam die zentralen Eingangssignalvektoren einer Klasse von ähnlichen Ereignissen bewahrt und speichert.

Gemäß der Beziehung:

, = Σ c._rrfsj

(I) tionen der Übertragungselemente vermittelten Abbildung A des Eingangssignalraumes S (Eingangssignalvektors S^1-) auf den Antwortsignalraum R (auf Antwortsignalvektoren /*') eine gewichtete Summe über die/Komponenten aller Eingangssignalvektoren s'und die /-Komponenten der Antwortsignalvektoren n·.

Eine Art der Abänderung der Übertragungsfunktionen Aij, die zu den vorerwähnten günstigen Eigenschaften der Vorrichtung führt ist die, die Änderungen ΛΑ,, in Proportionalität zum Produkt aus der Eingangssignalkomponente 5, und dem Antwortsignal r, vorzunehmen gemäß der Beziehung:

gegebenenfalls mit einem dieser Änderung ein bestimmtes Zeitverhalten aufprägenden zeitabhängigen oder auf einen konstanten Wert einstellbaren Proportionalitätsiaktur rj.

Auch das Hinzufügen solcher durch die Proportionalität (2) Änderungen zu den Übertragungsfunktionen A₁₁ für alle Verknüpfungen η' χ s¹' gemäß der Beziehung:

— r" ■ s'

in der Lernphase führt zu einer Abänderung der Übertragungsfunktionen, die die genannten günstigen Eig'-iibchaften vermittelt.

Der Lernvorgang kann sich nun so vollziehen, daß der Vorrichtung wiederholt ein Eingangssignalsatz 5* dargeboten und die Vorrichtung »gezwungen« wird, einen »korrekten« Antwortsignalsatz, etwa Γ', abzugeben. Dies kann beispielsweise mit Einrichtungen der in der F i g. 8 dargestellten Art erreicht werden, bei der die

erwünschten Antwortsignale η ι. Οι r,.\,... r,vi an die

Ausgangsstationen I, 2 j. .... N angelegt werden

können, um die einzelnen Antwortsignale n, r? r„....

r,v dadurch zu zwingen, diese erwünschten Wene anzunehmen. Da hierbei die Ausgangssignale der Vorrichtung zur Abänderung der Übertragungsfunktionen ,4,, nach der obigen Proportionalität (2), d. h. *;emäß

öA_l; = η ■ r\ · s>-j

ist das y-te Element Aijder durch die Obertragungsfunk-•r > (worin η eine Proportionalitätskonstante ist) benutzt werden, dann baut die Vorrichtung durch wiederholte Änderung der Übertragungsfunktionen A₁₁ bei wiederholtem Anlegen der Eingangssignale s* sehr schnell eine detaillierte und genaue Erinnerung des Antwortsignalvektors r' an den Eingangssignalvektor s* auf.

Diese Art des Lernens wird im folgenden als ,»aktives Lernen« der Vorrichtung bezeichnet. Eine Form des »aktiven Lernens« liegt auch vor, wenn das auf einen Satz von Eingangssignalen s* erzeugte Antwortsignal mit der »richtigen« Antwort r" verglichen wird und die Übertragungsfunktionen /4/, der Übertragungselemente schrittweise in einem solchen Sinn verändert werden, daß bei erneutem Anlegen des Eingangssignals s* ein Antwortsignal erzeugt wird, das näher an der richtigen Antwort r" liegt

Es versteht sich, daß bei einer solchermaßen aktiv lernenden Vorrichtung deren Bedienungsperson die richtige Antwort oder die richtigen Antworten auf die verschiedenen Eingangssignalsätze skennen muß.

Dies ist jedoch bei der eingangs erläuterten und im folgenden ais »passives« Lernen bezeichneten Betriebsart der Vorrichtung, bei der der Lernvorgang so abläuft, daß der Vorrichtung in ihrer Lernphase ein einzelner

oder mehrere Eingangssignalsätze wiederholt dargeboten werden, wobei die Übertragungsfunktionen gemäß rier Beziehung (2) oder (3) selbsttätig geändert werden und die Lernphase nach einer bestimmten Lernperiode, d. h. beispielsweise nach einer vorgegebenen Anzahl ■> von Lernzyklen beendet wird, nicht erforderlich, jedsMfalls dann nicht, wenn die durch eine Matrix A<'> insgesamt beschreibbare Einstellung der Übertragnngsfunktionen A₁, nach Abschluß der Lernphase im vorstehend erläuterten Sinne eine Abbildung definiert, in die den f {ingangssignalraum S isomorph auf den Ausgangssignalraum R abbildet. Dies bedeutet, anschaulich ausgedrückt, daß der Grad der Verschiedenheit von Eingangssignalsätzen s\ s¹ bei der durch die geänderten Übertragungsfunktionen A„-Malr\\ vermit- r> telten Abbildung auf die zugeordneten Ausgangssignalsätze r\ rf erhalten bleiben muß, damit die durch die PirKTQnfTCcirm'alc'it-»*» f\ unri ctifharil/tnricitifton Proinnjc.

se c und &¹ an Hand der Ausgangssignalsätze r* und rf, falls sie verschieden sind, auch als verschieden erkannt werden können. Diese Forderung ist, wenn die Änderung der Einstellung der Übertragungsfunktionen A,j gemäß den Beziehungen 1 oder 3 (es sind auch noch andere Änderungsbeziehungen möglich) erfolgt, jedenfalls dann erfüllt, wenn die Anfangseinstellung der .?■> Übertragungsfunktionen so getroffen ist, daß die dadurch definierte Matrix A^der Bedingung genügt:

Tj'" = / (/ = Irlonliliilsmatrix».

(4!

Um die Forderung (4) zu erfüllen, genügt es auch, wenn als Anfangseinstellung der Übertragungsfunktionen eine solche gewählt ist, die eine zufällige symmetrische Matrix von Elementen Α_υ definiert. r>

Die sich im passiven Lernbetrieb nach der Darbietung von f Ereignissen (im »Zeitpunkt« t) ergebende Einstellung der Übertragungsfunktionen A₁, insgesamt kann dann durch die Matrix A<'> angegeben werden, für welche ganz allgemein gilt:

In der 2. Gleichung bezeichnet η, wie oben erwähnt, eine Proportionalitätskonstante, und γ eine dimensiona-Ie »Zerfallskonstante«, die ein Maß für eine gleichförmige des momentan eingestellten Wertes einer jeden Übertragungsfunktion ist (eine Art Vergessen). Gewöhnlich gilt 0 < v< 1.

Des weiteren wird als Parameter ε derjenige Wert von η eingeführt, den η annimmt, wenn die Eingangssignalvektoren & normiert sind, d. h, wenn gilt: (S¹P = 1.

Der Parameter ε, der auch ein Maß für die Geschwindigkeit ist, mit der Veränderungen an den /!-Matrizen vorgenommen werden können (also eine Art Lerngeschwindigkeit), wird zweckmäßig in Modellrechnungen auf der Basis normierter Eingangssignalvektoren s¹ benutzt Die Werte der Parameter γ und η bzw. ε können nach dem Ermessen des Benutzers eingestellt werden, um erwünschte Eigenschaften der Vorrichtung zu erzielen. Beispielsweise könnten während einer Periode der Informationsaufnahme (passives Lernen oder aktives Lernen) η oder ε etwas größer als 0 (ζ. B. η « ε a Vi₀) und γ etwas kleiner als I sein (ζ. Β. γ = Vio), so daß die Vorrichtung Information rasch aufnehmen und Einzelheiten vergessen wird. Nach der Lernphase kann «s zweckmäßig sein, η - e = 0 und γ a I zu setzen, so daß die Vorrichtung nicht länger »lernt«, sondern für eine beliebige Zeitspanne alle Information, die sie aufgenommen hat, speichert.

Bei einer in Betrieb befindlichen Vorrichtung ist die Speicherzeit durch die Zeitkonstantencharakteristik der Schaltkreise der Vorrichtung bestimmt. Aus Gründen der Wirtschaftlichkeit oder der Zweckmäßigkeit können die Zeitkonstanten so gewählt werden, daß eine Speicherung für Zeitspannen in der Zeit von Minuten bis Stunden möglich ist. Für eine längere Speicherung könnte man unter solchen Umständen den Inhalt des durch die Vorrichtung gebildeten Speichers (die Werte der A₁₁) in einen Pufferspeicher übertragen und bei

Im allgemeinen vergißt eine Vorrichtung, bei der y < I ist. Einzelheiten, hat aber eine größere Fähigkeit zur Verallgemeinerung. Es zeigt sich, daß γ-Werte, die wenig kleiner als gleich 1 sind, von größtem Interesse sind.

Um zu verhindern, daß das System in einen Sättigungszustand gelangt, kann es auch vorteilhaft sein, die Abänderungen klein zu machen {η = 0 zuzulassen), sobald das Ausgangssignal r = As ein bestimmtes Maximum überschreitet, d. h. wenn (r. r) - (As. As) > bestimmtes Maximum.

Ausgehend von der obigen allgemeinen Beziehung für die Abänderungen der Übertragungsfunktionen in der Lernphase erkennt man unmittelbar, daß deren Einstellung nach der Darbietung Jt verschiedenen Eingangssignalsätzen ^'(v = 1 ... k)\n der Form:

A'^l) = ;·¹ /1(0) Il (I +/.?■· s¹)

vorliegt, wobei -To ein geordnetes Produkt ist, bei dem die Faktoren mit niedrigeren Indizes links stehen.

Man erkennt, daß auf jeden auftretenden Eingangssignalvektor s¹' ein eigenes Antwortsignal /4(°> s·¹ erzeugt wird, das über AW von dem ursprünglichen Zustand des Vorrichtungsnetzwerkes und von dem für das zugeordnete Ereignis e·¹ eingegebenen Eingangssignalvektor s¹' abhängt.

Man erkennt auch, daß für wiederholt auftretende Ereignisse, die für die Erkennung eines solchen Ereignisses gemäß Gleichung (1) verantwortlichen Koeffizienten mit exponentieller Geschwindigkeit anwachsen, da bei einem /-maligen Darbieten desselben Ejngangssignalvektors 4°> die Einstellung der Übertragungsfunktionen durch die Beziehung:

gegeben ist

Wenn /groß genug ist, daß es e* > 1 ist, so wird der Erkenmingsterm schließlich dominieren. Wenn e* groß genug ist, kann es wünschenswert sein, den Wert von ε so einzustellen, daß kein weiteres Anwachsen eintritt Das kann dadurch erreicht werden, daß ε zu einer Funktion des Antwortsignals auf einen Eingangssignalvektor gemacht wird, derart, daß jenseits eines gewissen Maximalwerts kein weiteres Anwachsen des Koeffizienten mehr stattfinden kann.

Für den Fall, daß die Eingabe der Vorrichtung in der Lernphase aus der /-maligen Darbietung eines mit Rauschen behafteten Eingangssignalsat7.es der Form:

besteht, wobei rf der regellos variierende Rauschanteil ist, erhält man für die Einstellung der Übertragungsfunktionen beschreibende Matrix:

/I¹" ^

in

wenn η die mittlere Größe des Rauschanteils ist. und man erkennt unmittelbar, daß die wiederholte Darbietung eines mit Rauschen behafteten Signals zu einer Einstellung der Übertraglingsfunktionen führt, die geeignet ist. ein Signal vom Rauschen zu trennen. Man erkennt, daß das Signal/Rausch-Verhältnis um so

. .,r,,U„.. ,Ii_n • 6'

rigkeit besteht jedoch darin, daß bei der in der Art eines Assoziativspeichers aufgebauten Vorrichtung ein Satz von Eingangssignalen zu einem über eine große Anzahl von Ausgangsstationen verteilten Antwortsignal führt. Es ist daher durchaus möglich, daß ein an sich starkes Eingangssignal, J. h. ein Eingangssignalvektor ϊ\ dessen inneres Produkt mit sich selbst (sr¹, s*) einen großen Wert hat, der jedoch aus Komponenten j\ zusammengesetzt ist, die für sich allein gesehen recht klein sind, zu einem Satz von Antwortsignalen r, führt, die über eine große Zahl von Ausgangsstationcn /verteilt sind, wobei jede der Antwortsignalkomponenten r, weit von einem Schwellenwert entfernt ist.

Ein grundlegendes Problem ist es daher, wie der Schwellenwert einer einzelnen Einrichtung mit einem solchen verteilten Signal zu verknüpfen ist. H^:eses Problem kann dadurch gelöst werden. d?ß zu der Vorrichtung, wie es in der F i g. 11 dargestellt ist,

nen ist. und es gilt für die erfindungsgemäße _>o Vorrichtung ganz allgemein, daß das Signal/Rausch-Verhältnis dann besonders günstig ist. wenn die Zahl £ der wahrgenommenen (und gespeicherten) Ereignisse klein im Vergleich zu /Vist.

Des weiteren wird deutlich, daß eine Verknüpfung ;-, von Eingangssignalen, d. h. das etwa gleichzeitig auftretende Auftreten zweier verschiedener Eingangssignalsätze y und 9' nur dann einen nennenswerten Einfluß auf die Einstellung der Übertragungsfunktionen hat, wenn eine solche Verknüpfung mehrfach oder m immer auftritt, dann aber praktisch ohne Einfluß ist, wenn eine solche (zeitliche) Verknüpfung nur zufällig einmal stattgefunden hat.

Unterscheidung von Ereignissen - ''

Schwellenwerteinrichtungen

Im allgemeinen ist die Eingabe der erfindungsgemäßen Vorrichtung eine Überlagerung von verschiedenen Eingangssignalsätzen, und demzufolge ist auch der to jeweilige Zustand, in dem sich der aus den Übertragungselementen bestehende Assoziativspeicher der Vorrichtung befindet, durch eine Überlagerung der verschiedenen Eingangssignalvektoren bestimmt. Eine Trennung der durch die Eingangssignalvektoren reprä- 4-, sentierten Ereignisse ist nun einmal, zumindest in einem gewissen Umfang, dadurch möglich, daß man die Ereignisbereiche bestimmt, für die diese Eingangssignalsätze erzeugt werden. Beispielsweise können, wie es in der F i g. 7 dargestellt ist, optische und akustische -,o Ereignisse und die für diese charakteristischen Eingangssignalsätze einer Verarbeitung in getrennten Vorrichtungen unterworfen sein, bevor sie in einer weiteren Vorrichtung weiter verarbeitet werden. Die Identifizierung optischer und akustischer Signale erfolgt dann durch diejenigen Vorrichtungen, in die sie zuerst eingegeben werden. Verknüpfungen zwischen einem optischen und einem akustischen Ereignis, beispielsweise, werden dann erst durch die nachgeschaltete gemeinsame Vorrichtung erfaßt

Zur Unterscheidung bzw. Trennung von Eingangssignalvektoren bzw. der auf diese in einer für die Verarbeitung durch die Vorrichtung geeignete Form »abgebildeten« Ereignisse können auch Schwellenwertoder andere nicht linear arbeitende Einrichtungen in Verbindung mit der erfindungsgernäßen Vorrichtung benutzt werden, die einen Eingangssigt.ulvektor von dem anderen zu unterscheiden vermögen. Eine Schwiehinzugefügt werden. Beispielsweise gibt die Schwellenwerteinrichtung T, ein Aiisgangssignal ab. wenn :1er Absolutwert r, ihres Eingangssignals r, einen vorbestimmten Wert Bi, den Signalschwellenwert der Einrichtung, überschreitet, wenn also gilt:

Es ist wichtig, festzuhalten, daß das Anfangs-Eingangssignal ^ entweder ein ursprüngliches Eingangssignal aus dem Ereignisraum F oder auch das Ausgangssignai eii'iri vui'geschaiteten Baugruppe sein könnte.

Eine wiederholte Eingabe des Eingangssignals r (Eingangssignalvektor) führt zu einem Ausgangssignal r (Ausgangssignalvektor), das nach den obigen Darlegungen exponentiell anwächst. Im Ergebnis wird daher ein willkürliches aber wiederholt auftretendes Eingangssignal i* schließlich eine Schwellenwerteinrichtung aktivieren, die auf dieses Eingangssignal ansprechen wird.

Es sei noch einmal darauf hingewiesen, daß

(a) das Eingangssignal nicht von vornherein bekannt sein muß,

(b) das Eingangssignal in statistischem Rauschen verborgen sein kann und daß

(c) auch nicht von vornherein bekannt sein muß, welche Schwellenwerteinrichtung auf das Signal s* ansprechen wird. (Nach dem angegebenen Algorithmus bestimmt die stärkste Komponente des Antwortsignalvektors r\ welche Schwellenwerteinrichtung anspricht. Es läßt sich daher erreichen, daß eine bestimmte Schwellenwerteinrichtung auf einen bestimmten Signalvektor anspricht

N.lt zusätzlichen Querverbindungen gemäß F i g. 11 läßt sich erreichen, daß die Aktivierung einer einzelnen Schwellenwerteinrichtung als Antwort auf einen Signalvektor s" ein Antwortsignal der weiteren Schwellenwerteinrichtungen auf diesen Signalvektor s« unterdrückt Wenn der Parameter γ während der Kernphase kleiner als 1 ist, (y< 1) und 5* die Schweller.werteinrichtung Ti zum Ansprechen bringt, dann wird das Antwortsignal auf s" wegen der kombinierten Wirkung der Abnahme (wegen γ< 1) und der Unterdrückung weiterer Antworlsignaikomponenten so abgewandelt werden, daß nur die /-te Komponente des Antwortsignalvektors r* auf den Eingangssignalvektor s« wesent-

lieh größer als O bleibt. In einem Endzustand würde sich dann ergeben:

s ■» /·, ■-» T₁ -» Ausgangssignal.

und es wird nur eine einzige Schwellenwerteinrichtung (oder so vieie. wie erwünscht sind) auf eine bestimmte Signalverteilung ansprechen.

Zusätzlich ist es zweckmäßig, die mit dem /-ten Scliweüenwertelement verknüpften Übertragungselemente nicht weiter abzuändern (jedoch eine Abnahme der ÜbcrtragungsfunKtionen zuzulassen), wenn dieses /-te Schwellenwertelemont ein Ausgangssignal erzeugt, das einen bestimmten Maximalwert überschreitet. Dies kann dadurch erreicht werden, daß die Abänderungen der ilbertragungsfunktioneti der oben erwähnten Übertragungselemente für eine bestimmte Anzahl von Ereignissen unterbrochen werden, so oft das Ausgangs-

Maximaiwert überschreitet.

Wem. einer solchen Vorrichtung während einer Lernperiode getrennte oder orthogonale .Signalvektoren dargeboten werden, so werden verschiedene Schwellenwerteinrichtungen mit der oben e^rläuterten exponentiellen Geschwindigkeit durch die verschiedenen Signalvektoren aktivität werden. Es werden dann beispielsweise N orthogonale, wiederholt auftretende Signalvektoren nach einer Lernperiode in /V verschiedenen .Schwellenwerteinrich"ingen ein Antwortsignal erzeugen.

Auf diese Weise könnten die Schwellenwerteinrichtungen lernen, auf wiederholt auftretenden Erscheinungen in der Umgebung charakteristisch zu antworten, auch wenn diese dem Benutzer zunächst nicht bekannt sind.

Eine Zuordnung dieser Einrichtungen zu Ausgangssignalen einer vorgeschalteten Baugruppe würde zusätzlich die Trennung der obenerwähnten Ereignisse oder Vektoren begünstigen.

Man erkennt, daß die erfindungsgemäße Vorrichtung ein äußerst wirkungsvolles Werkzeug für die Informationsverarbeitung darstellt. Insbesondere biete: sie die Möglichkeiten der Erkennung, Erinnerung, Verallgemeinerung und Verknüpfung von Ereignissen im oben definierten Sinn, ohne daß die Notwendigkeit menschlicher Mitwirkung bei irgendeinem Entscheidungs- oder Lernprozeß besteht. Im folgenden wird eine bevorzugte Ausführungsform der erfindungsgemäßen Vorrichtung beschrieben, bei der zwar nur gebräuchliche Bauelemente wie Widerstände, Kondensatoren, Dioden und Transistoren verwendet sind, die sich aber auch für eine Ausführung in bekannter Mikrominiaturisierungstechnik anbietet.

Es sei daran es innert, daß die /-te Untereinheit der informationsverarbeitenden Vorrichtung gemäß F i g. 2 N Eingänge 1, 2, -.. N umfaßt, die zu N Übertragungselementen /1, /2,... /Λ/ führen, die ihrerseits mit einem Summierer Ei verbunden sind, der ein Antwortsignal r, erzeugt Das y-te Übertragungselement weist die Übertragungsfunktion A,j auf, d. h. das Ausgangssignal sj dieses Ubertragungselernents ist von der Form sj = AijSj, wenn s, das /-te Eingangssignal ist, das der Vorrichtung zugeführt wird.

Die die Information tragenden Signale Sj, s/ und r, sollen in allen Fällen durch Spannungswerte dargestellt sein, informationssignaie könnten aber auch Frequenzen (Impulsfrequenzen oder Frequenzen von sinusförmigen Schwingungen), Impulsbreiten, Ströme, Magnetfelder, Magnetisierungen oder auch eine Kombination solcher Größen sein.

Geht man jedoch davon aus, daß die Informationssignale durch Spannungen dargestellt werden sollen, dann

; kann die Übertragungsfunktion Ay als eine »Verstärkung« (der Begriff soll Verstärkung und Vorzeichenwechsel umfassen) angesehen werden, die in Abhängigkeit von dem Eingangssignal 5, des Übertragungselements und dem Ausgangssignal λ der /-ten Untereinheit

ίο verändert werden soll. Die Abänderung sei gemäß einer bevorzugten Ausführungsform der Erfindung gegeben:

·) Um einen Verstärker zu schaffen, dessen Verstärkungsgrad durch schrittweise Veränderungen eines zuvor gegebenen Verstärkungsfakiorwertes gesteuert wird, ist es notwendig, die Information über diesen Wert uCS » C"Siari\li"ig:iirtKiOr5 Zu SpciCitciTi üfiu ciHc wcilcic

Mi Einrichtung vorzusehen, die zu oder von diesem gespeicherten Wert Änderungsbeträge addiert oder subtrahiert. Bei der bevorzugten Ausführungsform der Erfindung wird die Speicherung durch ein Bauelement zur Speicherung einer elektrischen Ladung Q. beispiels-

?-, weise einen Kondensator, erreicht; die schrittweise Änderung wird demgemäß bei dieser Ausführungsform mittels einer Einrichtung erzielt, die die Ladung Q von 0 auf + Q) oder — Qn. den Grenzwerten des Speicherelements, zu ändern vermag.

in Die Fig. Il zeigt das y-te Übertragungselement 100 der /-ten Untereinheit 102. Von einer .Spannungsquelle 104 wird über eine Leitung 106 eine Spannung V₁₁ an einen Verstärker 108 angelegt, um dessen Verstärkungsfaktor A_n zu steuern. Der Verstärker ändert daher das

r, an einer Eingangsleitung ί 10 als Spannungssignal auftretende Eingangssignal 5, ab und erzeugt an einer Leitung 112 (als !jpannungssignal) eine Ausgangsspannung s/ = A_nS₁.

Die Spannung V_n die den Verstärkungsfaktor

hi einstellt, wird von einer in dem //'-ten Übertragungselement gespeicherten Ladung Q_n abgeleitet und ist daher zu der Ladung Q_n proportional. Die gestrichelten Linien 114 und 116 der Fig. 12 sollen jeweils anteigen, daß diese Ladung in Abhängigkeit von einein an der

i> Eingangslcitung 110 auftretenden Eingangssignal s, und einem an der Ausgangsleitung 118 auftretenden Antwortsignal r, verändert (vergrößert oder vermindert) werden kann (Die Leitung 116 ist als zu der Spannungsquelle 104 führend eingezeichnet, um da-

)() durch symbolisch den Gedanken an eine Abänderung in Abhängigkeit von dem Antwortsignal r, anzudeuten; bei der vorliegenden Ausführungsform wird das rückgekoppelte Antwortsignal in Wirklichkeit zu einer Einrichtung geleitet, die die Breiten der Eingangsimpulse, deren Impulshöhen si, 52,... s^sind, verändert.)

Siehe hierzu Fig. 13 und den dazugehörenden Beschreibungsteil. Um die Ladung Qy und damit die Spannung Vyundden Verstärkungsfaktor

in Übereinstimmung mit Gleichung (5) abzuändern, ist es notwendig, die gespeicherte Ladung φ, entsprechend dem Produkt nsj zu verändern. Dabei ist zu beachten, daß die /V Ladungen der Aten Untereinheit (nämlich die Ladungen Q_n, Qn, ■■■ Qa,... Q,n) im Verhältnis zu den

jeweilig empfangenen Eingangssignalen (nämlich s\, s₂, ... Sj,... Sn)und dem gemeinsamen Antwortsignal r,der Untereinheit abgeändert werden müssen. Um diese gewünschte Abänderung zu erreichen, wird als Eingangssignal 5,· die Höhe eines Spannungsimpulses 120 verwendet, während die Breite f, dieses Spannungsimpulses proportional zum Betrag \n\ des Antwortsignals gemacht wird. Wenn r, < 0 ist, so wird der Spannungsimpuls 120 invertiert Es gilt somit:

r,- + 1 keine Inversion
und =

I Γ;\ — 1 Inversion

10

15

Spezielle Schaltkreise im Hinblick auf die in der Untereinheit 102 und dem Übertragungselement 100 stattfindende Summierung sind in den Fig. 13 und 14 dargestellt Der Summierer 122 der Untereinheit 102 ist in der Fig. 13 als klassischer Summierschaltkreis dargestellt, mit einem Operationsverstärker .24, der über eine Anzahl gleichdimensionierter Widerstände 126, 128, 130, 132 jeweils die Zwischensignale Si', S₂V-. Sj, ...Sn als Eingangssignale empfängt. Der Operationsverstärker 124 ist in bekannter Weise mit einem Widerstand 134 zusammengeschaltet und erzeugt an Jner (Ausgangs-)Leitung 136 ein Antwortsignal r» das der Summe der verschiedenen Zwischensignale si', S2', ... Sj',... 5/v'proportional ist, die die Ausgangssignale jo der einzelnen Übertragungselemente der Untereinheit 102 sind. Das Antwortsignal r, wird über eine Rückkopplungsleitung 138 jedem Übertragungselement der Untereinheit wieder zugeführt. Das in der Fig. 14 dargestellte //-te Übertragungselement empfängt das Eingangssignal an der Eingangsleitung 110 und erzeugt sein Ausgangssignal s/ an der Leitung 112. Das //-te Eingangssignal hat die Form eines Impulses mit der Amplitude 5, (die entweder positiv oder negativ sein kann) und eine Impulsnormalbreite, die durch die Eingabe- oder Puffereinrichtung bestimmt ist, die das Übertragungselement 100 der Untereinheit 102 und die Vorrichtung selbst mit der Außenwelt (Umgebung) verbindet. Wie oben ausgeführt, sind die in Verbindung mit der informationsarbeitenden Vorrichtung verwendeten Eingabe- und Ausgabeeinrichtungen nicht Teil der vorliegenden Erfindung und werden daher im folgenden nicht im einzelnen beschrieben. Dabei versteht es sich, daß der Aufbau der Eingabeeinrichtung von der Art der Ereignisse abhängen wird, die in die Vorrichtung eingegeben werden sollen, während die Ausgabe-Einrichtung im Hinblick auf die endgültige Zweckbestimmung des Systems konstruiert sein wird, d. h. im Hinblick auf den Vorgang also, der als Antwort auf die Ausgangssignale der Vorrichtung eingeleitet γ, werden soll.

Für die Zwecke dieser Erörterung möge es genügen zu sagen, daß die Eingabeeinrichtung den Eingängen 1, 2, ... / ... N der Vorrichtung eine Anzahl von Eingangssignalimpulsen zuführt. Die Eingangssignalini- m» pulse, die für jedes Ereignis gleichzeitig zugeführt werden, weisen alle ein Impuls-Normalbreite von einigen μββο auf und Amplituden, die ieweils zu den zu verarbeitenden Variablen s\, Si,... s>... Sn proportional sind. Die Amplituden dieser Impulse können auch <,5 negativ sein, um negative Werte der Eingangssignale s,, 5?,... Sj,... Sn wiederzugeben.

Gemäß Fig. 13 wird ein solcher Eingangssignalimpuls mit der Amplitude s,- einem Impulsbreitenmodulator 140 zugeführt, der gleichzeitig über die Rückkopplungs-Leitung 138 ein Antwortsignal r, empfängt, das vom Ausgang eines in der Fig. 12 dargestellten Summierers ^,abgenommen wird. Das Antwortsignal r,-resultiert aus der Summation, die von dem Summierer 2,über die von den Übertragungselementen abgegebenen Zwischensignale ^ausgeführt wird.

Der Impulsbreitenwandler sendet über eine Leitung 142 einen Impuls aus, der denselben Absolutwert der Amplitude wie der Eingangssignalimpuls an der Eingangsleitung 110 hat (jedoch invertiert ist, wenn r, < 0) und eine zu der Variablen |r,| proportionale Impulsbreite /,aufweist

Die an der Leitung 142 auftretenden positiven und negativen Impulse werden verstärkt und mit Hilfe eines Operationsverstärkers 144 und diesem zugeordneten Widerständen 146,148 und 150 und Dioden 152 und 154 nach ihrer Polarität getrennt Wenn ein an der Leitung 142 auftretender Impuls positiv ist, so wird er als positiver Impuls zu einer Leitung 156 abgeleitet ist er negativ, so wird er als negativer Impuls zu einer Leitung 158 geleitet Gleichgültig ob der Impuls positiv oder negativ ist, so ist jedenfalls die von der Impulsform begrenzte Fläche (entsprechend der grafischen Darstellung) der absoluten Größe des Produkts s, und r, proportional.

Die positiven impulse an der Leitung 156 werden einem invertierenden Operationsverstärker 160, dem die Widerstände 162,164 und 166 zugeordnet sind, und schließlich der Basis eines pnp-Transistors 168 zugeleitet. Die an der Basis des Transistors 168 ankommenden Impulse haben dann die geeignete Polarität, um den Transistor zu aktivieren, und einen Kondensator 170 über einen Widerstand 172 zu laden oder zu entladen. Die Ladungsmenge, die infolge eines jeden positiven Impulses von den Kondensatoren aufgenommen oder von diesen abgeführt wird, ist dem Produkt aus der Impulsamplitude, die den wirksamen Leitwert des Transistors 168 bestimmt, und der Impulsbreite, die die Dauer des Auf- oder Entladevorganges bestimmt, proportional.

Die an der Leitung 158 auftretenden negativen Impulse werden einem weiteren invertierenden Operationsverstärker 174 mit diesem zugeordneten Widerständen 176, 178 und 180 zugeführt. In einer zu der bezüglich des pnp-Transistors 168 beschriebenen analogen Weise sind hierdurch ein npn-Transistor 182 durch invertierte negative (d. h. positive), der Basis des npn-Transistors zugeführte Impulse aktiviert Als Folge davon wird der Kondensator 170 über einen Widerstand 184 entladen oder aufgeladen.

Die Ladungsmenge, die infolge eines jeden negativen Impulses von dem Kondensator 170 abgeführt oder aufgenommen wird, ist dann dem Produkt aus der Impulsamplitude die den wirksamen Leitwert des Transistors 182 bestimmt, und der Impulsbreite, die die Dauer des Auf- oder Entladungsvorganges bestimmt, proportional.

Als Ergebnis des oben beschriebenen Vorganges isi die von dem Kondensator gespeicherte Ladung Q/, und damit auch die Größe der Spannung Ky die Folge eines anfänglichen Ladungszustandes, der über eine Leitung 186 erzeugt werden kann, bevor das Übertragungselement in Betrieb gesetzt wird, sowie der Gesamtsumme aller schrittweisen Zu- und Abnahmen, die als Folge des wiederholten Anlegens von Impulsen über die Eingangsleitung 110 eintreten. Zu beachten ist, daß der

Kondensator 170 mit beiden Polaritäten geladen werden kann und auch innerhalb der Grenzen der möglichen positiven und negativen Spannungswerte des Versorgungsgerätes die Polarität wechseln kann.

Damit das Übertragungselement in der Lage ist, die gespeicherte Information im Verlaufe einer Zeitspanne zu vergessen, kann der Spannung Vy die Möglichkeit gegeben werden, mit einer geeigneten Geschwindigkeit abzunehmen.

Diese Abnahmegeschwindigkeit steht in Beziehung ι ο zu der oben erörterten Zerfallkonstanten γ, wonach eine unendlich lange Abnahmezeit (offener Stromkreis) dem y-Wert 1 und eine Abnahmezeit 0 dem y-Wert 0 äquivalent ist. Wie oben erwähnt, sind in der Praxis γ-Werte in der Nähe von 1 von größtem Interesse, so daß die Zeitkonstante für diese Abnahme ziemlich groß gemacht werden sollte. Zu diesem Zweck werden geeignete Werte der Kapazität des Kondensators und des Widerstands oder der Impedanz aller Bauelemente ausgewählt, die die erwünschten Zeitkonstanten ergeben.

Schließlich wird die an dem Kondensator 170 anstehende Spannung über eine Leitung 192 an den Steuereingang eines Verstärkers 194 mit steuerbarem Verstärkungsgrad angelegt Falls notwendig, kann zwischen den Kondensator 170 und den Verstärker 194 eine zusätzliche Verstärkerstufe eingefügt werden. Dabei wird wiederum ein geeignet hoher Eingangswiderstand dieses Verstärkers gewählt, um die gewünschte Zerfallskonstante zu erhalten. Der Verstärker jo 194 empfängt auch die über die Eingangsleitung 110 ankommenden Eingangssignalimpulse mit der Amplitude f,- und »verstärkt« (der Begriff Verstärkung soll wiederum Verstärkung, Abschwächung und Polaritätswechsel umfassen) diese Impulse gemäß dem gesteuer- J5 ten Wert des Verstärkungsgrades, um an der Leitung 112 Ausgangsimpulse der Amplitude 5/ zu erzeugen.

Die Verarbeitung der Eingangssignale 5,· mit Hilfe der summierten Antwortsignale r, wird nun ausführlicher an Hand der Fig. 14 betrachtet. Zuerst sei darauf hingewiesen, daß das Antwortsignal r, positiv, negativ oder Null sein kann und daß, sofern nicht gegenteilige Maßnahmen getroffen sind, das Antwortsignal η wie es am Ausgang des Summierers 122 der Fig. 11 erhalten wird, in der Form von Impulsen vorliegt. Während diese 4ί Signalform im Hinblick auf Verarbeitungseinrichtungen die an der Ausgangsleitung 136 (des in der Fig. 12 dargestellten Summierers) angeschlossen werden sollen, zweckmäßig sein mag, vollzieht sich der Rückkopplungsvorgang bei der vorliegenden Ausführungsform der Erfindung günstiger, wenn die Ausgangi'jsignale r, in einer quasikontinuierlichen Form vorliegen. Zu diesem Zweck ist die in den Fig. 12 und 13 dargestellte Rückkopplungsleitung 138 gemäß Fig. 14 mit einer Tast- und Halteeinrichtung 196 verbunden. Der Zweck v. dieser Einrichtung besteht darin, die Dauer eines jeden Impulses eines Antwortsignals r,um eine Zeitspanne zu verlängern, die annähernd gleich dem zeitlichen Abstand zwischen aufeinanderfolgenden Impulsen ist, ohne dabei die Impulsamplitude zu verändern. Wie in μ der Fig. 14 schematisch dargestellt ist, wird die Tast- und Halteeinrichtung 196 durch die Eingangssignale (gepulste sj über einen Trigger 198 getriggert. (Der Trigger 198 kann, wie dem Fachmann bekannt ist, Einrichtungen zur Signalverstärkung, -formung, usw. <>'. umfassen). Das impulsförmige Antwortsignal r, wird dadurch in ein im wesentlichen kontinuierliches, im folgenden mit rf bezeichnetes Signal mit sich zeitlich verändernder Amplitude umgewandelt Dieses Signal rf wird weiter einem Vollweggleichrichter 200 und sodann einem Spannungs/Impulsbreitenwandler 202 zugeführt Somit ist das dem Spannungs/Impulsbreitenwandler 202 zugeführte quasikontinuierliche Signal an der Verzweigungsstelle 204 positiv (oder Null). Der Spannungs/Impulsbreitenwandler 202 erzeugt, wenn er, wie in der Fig. 14 angedeutet, durch den Trigger 198 getriggert wird, Impulse von einer Normalhöhe und -breite, die klein ist, verglichen mit der Breite der impulsförmigen Eingangssignale sj. Die Funktion des Signals rf besteht darin, diese schmalen (von dem Wandler 202 erzeugten) Impulse im Verhältnis zu der Amplitude des Signals rf zu verbreitern. Die von dem Spannungs/Impulsbreitenwandler 202 erzeugten Impulse (mit konstanter Amplitude) werden, wie in F i g. 14 dargestellt ist, einer weiteren Tast- und Halte-Einrichtung 206 ic? einer Torschaltung 208 zugeführt Die ankommenden Signale Sj, die anfänglich eine Normalbreite aufweisen, gelangen zuerst in die Tast- und Halte-Einrichtung 206 die diese Impulsbreite auf die zu rj proportionale Dauer des von dem Spannungs/Impulsbreitenwandler 202 erzeugten Impulse ausdehnt. Die Eingangssignale gelangen sodann zu der Torschaltung 208, die für dieselbe, ebenfalls durch die Breite der von dem Spannungs/Impulsbreitenwandler 202 gelieferten Impulse, bestimmte Zeitdauer offengehalten wird. Wenn als Folge einer kleinen /■/-Amplitude die Breite der letztgenannten Impulse bis unter die Impulsnormalbreite der Eingangssignale s, verringert wird, so bleibt die Torschaltung 208 nur für die verminderte Dauer der von dem Spannungs/Impulsbreitenwandler 202 gelieferten Impulse offen. Diese Öffnungszeit der Torschaltung bestimmt dann die Impulsbreite des Eingangssignals s> Damit das algebraische Vorzeichen des Produkts s, /7 erhalten bleibt, wird das Signal rf von der Verzeigungsstelle 210 aus (wo es immer noch mit bei „en Polaritäten auftritt) zu einem Schalter 212 geleitet. Durch diesen Schalter wird das eintreffende Signal Sj, wenn rf negativ ist, invertiert und wenn rf positiv ist, mit seiner ursprünglichen Polarität durchgelassen. Der Schalter 212 ist lediglich zur Vereinfachung der nachfolgenden Beschreibung in der Fig. 14 der Torschaltung 208 nachgeschaltet eingezeichnet. Eine in technischer Hinsicht vorzuziehende Anordnung für diesen Schalter wäre vor der Tast- und Halte-Einrichtung 206.

Schließlich ist zwischen der Verzweigungsstelle 204 und der Torschaltung 208 eine UND-Schaltung 214 eingefügt, um den Durchgang des eintreffenden Signals (und damit des Produkts s, r,) zu verhindern, wenn das Signal rf so klein ist, daß es eine Impulsbreite zur Folge haben müßte, die geringer ware als die Normalbreite der von dem Spannungs/Impulsbreitenwandler 202 erzeugten Impulse.

Man erkennt, daß dadurch bei dem Produkt 5, r, eine Unstetigkeil zwischen dem durch die engsten von den Spannungs/Impulsbreitcnwandler 202 abgegebenen Impulse bestimmten Wert und Null auftritt. Diese Eigenschaft fällt aber lediglich in den Bereich dessen, was allgemein als Rauschen bezeichnet werden kann, die Vorrichtung ist aber auf Grund ihres Aufbaus und ihrer Wirkungsweise besonders unempfindlich gegen Rauschen oder überhaupt gegen ein unvollkommenes Funktionieren einzelner Bauelemente.

Hervorzuheben ist, daß die durch |r,| bestimmten Impulsbreiten und eine gemäß dem Vorzeichen von

m mögliche Inversion in gleicher Weise für alle

gepulsten Eingangssignale s\, s?,... s» gelten, die der Untereinheit zugeführt werden, da Abänderungen der Übertragungsfunktion Au eines Übertragungselements (bzw. Verstärkungsgrades) lediglich von den Eingangssignalen, die der das Übertragungselement enthaltenden Untereinheit zugeführt werden, und von dem Antwortsignal der Untereinheit abhängen.

Der größte Teil der in der Fig. 14 dargestellten elektronischen Baugruppen versorgt, wie der Fachmann ohne weiteres erkennt, gleichzeitig alle Übertragungselemente einer Untereinheit und wird daher für jede Untereinheit nur einmal benötigt

Hierzu 8 Blatt Zeichnungen

Claims

Patentansprüche:

1. Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von (N) Eingangssignalen charakterisierbaren Ereignisses, mit einer entsprechenden Anzahl von Signaleingängen zum Empfang der N Eingangssignale und mit einer entsprechenden Anzahl (N) von Übertragungselementen, deren jedes einen Signaleingang mit mindestens einer Ausgangsstation koppelt und ι ο dieser ein Signal zuführt, das dem Produkt der Übertragungsfunktion des Übertragungselements und des durch dieses übertragenen Eingangssignals proportional ist, wobei die Ausgangsstation als Ausgangssignal ein Summensignal erzeugt, das der is Summe der ihr zugeführten Signale proportional ist, und mit Einrichtungen, durch die in einer Lernphase der Vorrichtung, in der den Signaleingängen mehrmals ein Satz von Eingangssignalen dargeboten Wird, selbsttätig eine Änderung der Übertragungsfunktion der übertragungselemente in Abhängigkeit vom Ausgangssignal der Ausgangsstation erfolgt, gekennzeichnet durch folgende Merkmale:

a) es sind mehre (n) Ausgangsstationen (122) ²^ vorgesehen, und es srfid einzelne oder alle der π Ausgangsstationen über jeweils ein eigenes Übertragungselement (100) mit einzelnen oder allen der f/VjSignaleingänge ^gekoppelt;

b) das an der jeweiligen Ausgangsstation (i, 122) ³ⁿ erzeugte Summensignal ist das Eingangssteuersignal einer Einrü\tung (138 bis 194) zur Abänderung e'er Übertragungsfunktionen Ay einzelner oder aller ii rjenigen Übertragungselemente (100), die mit der jeweiligen Aus- ^J5 gangsstation gekoppelt sind;

c) die durch die Einrichtung (138 bis 194) zur Änderung der Übertragungsfunktionen Ay vermittelte Änderung derselben ist dem Ausgangssignal der jeweiligen Ausgangsstation ⁴" (122) proportional, bis eine vorgebbare Bedingung (Zeitabiauf, Schwellenwert. Signalrruster) auffällt.

2. Vorrichtung nach Anspruch 1, dadurch gekenn- ·»> zeichnet, daß die Einrichtungen (138 bis 194) zur Abänderung der Übertragungsfunktion Ay eines Übertragungselements (100) eine Abänderung in Abhängigkeit von dem Produkt aus dem Eingangssignal sjmit dem Ausgangsantwortsignal r,gemäß w

d A₁, = η s,r,

vermitteln, wobei η eine Proportionalitätskonstante ist.

3. Vorrichtung nach Anspruch I oder 2, dadurch r, gekennzeichnet, daß eine Anzahl (n) von Schwellwerteinrichtungen Ti, T2,... T.... T_n vorgesehen ist, deren jede mit einer Ausgangsstation verbunden ist und ein Ausgangssignal erzeugt, wenn das an sie angelegte Antwortsignal r, größer als ein Schwellen- wi wen θ ist (r,> 9,oder \r,\ > B).

4. Vorrichtung nach Anspruch 3, dadurch gekennzeichnet, daß mit den Ausgängen aller Schwellenwerteinrichtungen Signalunterdrückungseinrichlun· gen verbunden sind, die alle Antworoignale n, o,... M r„ mit Ausnahme desjenigen unterdrücken, das als Eingangssignal an diejenige Schwellcnwerteinrichtung angelegt ist, die ein Ausgangssignal erzeugt.

5. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine Signalquelle vorgesehen ist, die selektiv an mindestens eine der Ausgangsstationen ein gewünschtes Antwortsignal πα abgibt

6. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Einrichtungen (138 bis 194) zur Abänderung der Übertragungsfunktion Aj eine Einrichtung zur Verminderung des Wertes der Übertragungsfunktion A,j mindestens eines Übertragungselements mit einer vorbestimmten Geschwindigkeit umfassen.

7. Vorrichtung nach Anspruch 6, dadurch gekennzeichnet, daß der zeitliche Betrag der Abnahme konstant ist, um eine gleichförmige Abnahme zu erzielen.

8. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Eingangssignale Si, S2,... Sj,... Syvund die Antwortsignale Λ, r₂,... /7,... r„ durch Spannungswerte repräsentiert sind und daß jedes Übertragungselement (iöö) einen Verstärker (108) mit steuerbarem Verstärkungsgrad enthält, und daß die Übertragungsfunktion eines Übertragungselements durch den Verstärkungsgrad repräsentiert ist

9. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß jedes Übertragungselement eine Einrichtung zur Speicherung seiner Übertragungsfunktion enthält.

10. Verrichtung nach Anspruch 9, dadurch gekennzeichnet, daß als Einrichtung zur Speicherung elektrischer Ladung ein Kondensator (170) vorgesehen ist.

11. Vorrichtung nach Anspruch 9 oder Anspruch 10, dadurch gekennzeichnet, daß die Einrichtungen (138 bis 194) zur Änderung der Übertragungsfunktion eine Addiereinrichtung umlassen, die dem gespeicherten Übertragungswert Aydie Änderungsschritte ö A,jhinzufügt.

12. Vorrichtung nach Anspruch II, dadurch gekennzeichnet, daß in der Speichereinrichtung (170) des y-ten Übertragungselemente eine Ladung Qij gespeichert und für alle Änderungsschritte die Änderung δ A₁₁ der Übertragungsfunktion einer entsprechenden Änderung Qy der gespeicherten Ladung proportional C^ ist und daß die Einrichtung, die der gespeicherten Übertragungsfunktion Änderungsschritte Α,, hinzufügt, einen ersten Impulsgeber (190), der einen ersten Impuls mit einer zu dem Eingangssignal s, proportionalen Amplitude und einer zu dem absoluten Wert des Antwortsignals r, proportionalen Breite t, erzeugt, und einen zweiten mit dem ersten verbundenen Impulsgeber (202) umfaßt, der der Ladungsspeichereinrichtung (170) einen zweiten Impuls zuführt, dessen Pulshöhe und -breite der Pulshöhe und -breite des ersten Impulses

proportional sind und dessen Polarität gleich y_r~|~ ist.

13. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine Einrichtung zum Einstellen der Übertragungsfunktion Ay eines jeden Übertragungselements auf einen gewünschten Wert vorgesehen ist, die in einem einzigen Arbeitsgang einen Lernprozeß des Systems ermöglicht.

14. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine Einrichtung zur wahlweisen Unterbrechung des

Betriebs der Einrichtungen zur Abänderung der Übergangsfunktion vorgesehen ist, so daß die Übertragungsfunktion A\j der Übertragungselemente keinen weiteren Änderungen unterworfen ist

15. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß ein Pufferspeicher zur Speicherung der Übertragungsfunktion mindestens einiger der Übertragungselemente (100) und eine Einrichtung zur wahlweisen Übertragung der Übertragungsfunktion Ag dieser Übertragungselemente in den Pufferspeicher vorgesehen ist

16. Vorrichtung nach Anspruch 15, dadurch gekennzeichnet daß eine Einrichtung zur selektiven Übertragung mindestens einer der Übertragungsfunktionen auf mindestens eines der Übertragungs- elemente (1'K)) der informationsverarbeitenden Vorrichtung Vorgesehen ist so daß diese in einem einzigen Arbeitsgang einstellbar ist

17. InfornrUionsverarbeitungsanlage mit mehreren informati^£tnsverarbeitenden Vorrichtungen nach einem der Vorhergehenden Ansprüche, dadurch gekennzeichnet, daß Verbindungseinrichtungen vorgesehen sind, die die Ausgangsstatiov; einer ersten Vorrichtung mit den Eingängen einer weiteren Vorrichtung und/oder die Ausgangsstation einer ersten Baugruppe mit den Ausgangsstationen einer weiteren Baugruppe und/oder die Eingänge einer ersten Baugruppe mit den Eingängen einer weiteren Baugruppe verbinden.

18. Informationsverarbeitende Vorrichtung, die jo auf ein durch einen Satz von N Eingangssignalen charakterisiertes Ereignis ein Antwortsignal erzeugt, mit einer Anzahl von Eingängen 1 j,..., N,

die jeweils eines von N Eingangssignalen si,..., sj,.., 5_m empfangen und mit einer Anzahl von Übertra- r, gungselementen, deren jedes einen Eingang j mit mindestens einem Ausgang / koppelt und ein AusgangTisignal s'j erzeugt, das dem Produkt des zugewar'eten Eingangssignals s, und der Übertragungsfunktion Aij proportional ist, wobei am λ» Ausgang / ein Ausgangssignal r, anliegt, das von denjeni{!';n Eingangssignalen 5—7 abhängig ist. die von der¹ mit dem Ausgang gekoppelten Übertragungselementen erzeugt werden und mit einer Einrichtung zur Abänderung der Überlragungsfunk- 4-, tion Α,) 'nindestens eines in einer Lernphase befindlichen Übertragungselements in Abhängigkeit von dem Ausgangssignal r, an dem Ausgang, mit dem dieses Übertragungselement gekoppelt ist, insbesondere nach einer.« der vorhergehenden Ansprüche, w dadurch gekennzeichnet, daß die Abänderungen 6A₁₁ ate Übertragungsfunktion A₁, eines bestimmten Übertragungselements von dem Produkt des Ausgangssignals an dem Ausgang, mit dem das Übertragungselement gekoppelt ist und dement- -,-, sprechenden, an das Übertragungselement angelegten Eingangssignals S/abhängig sind.

19. Informalionsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Abänderungseinrichtung <,o die Übertragungsfunktion mindestens eines Übertragungselements gemäß der Formel:

Α,, (t) die neue Übertragungsfunktion,
A, (f-l)die zu\ jr vorhandene Übertragungsfunktion,

γ eine Zerfallskonstante im Bereich

0<)-il,

η eine Lern(geschwindigkeits-)konstante, für

weiche 0 Sy gilt,

Sj das an das Übertragungselement angelegte Eingangssignal und

/7 das Ausgangssignal

bedeutet das an demjenigen Ausgang erscheint, mit dem das Übertragungselement gekoppelt ist.

20. Informationsverarbeitende Vorrichtung nach Anspruch 19, dadurch gekennzeichnet daß die Einrichtung zur Abänderung der Übertragungsfunktion Mittel zur Änderung der Zerfallskofistanten y/oder der Lernkonstanten umfaßt

21. Informationsverarbeitende Vorrichtung nach Anspruch 20, dadurch gekennzeichnet, daß die Lernkonstante auf 0 reduzierbar ist, derart daß die inrormationsverarbeitende Vorrichtung als Assoziativspeicher arbeitet

22. lnformationsverarbeitend: Vorrichtung nach einem der vorhergehenden Ansprüche in Verbindung mit Anspruch 19, dadurch gekennzeichnet, daß die Abänderungseinrichtung die Übertragungsfunktion Aij aller Übertragungselemente gemäß einer Beziehung

A,j (t) = γA,j (t - 1) + nsj ri

ändert.

23. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine Anzahl π von Ausgängen

1 /... π vorgesehen ist, und daß einzelne oder alle

Ausgänge mit jeweils einzelnen oder allen Eingängen durch mindestens ein Übertragungselement gekoppelt sind.

24. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß das an einem Ausgang auftretende Ausgangssignal r,der Summe der Eingangssignale s'j proportional ist, die von dem mit dem Ausgang gekoppelten Übertragungselement erzeugt werden.

25. lnformationsverarbeiter.de Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Abänderungseinrichtung die Übertragungsfunktionen derjenigen Übertragungselemente, die mit einem bestimmten Ausgang i gekoppelt sind, in Abhängigkeit von dem Produkt des an diesem Ausgang dargebotenen Ausgangssignals r, mit dem an das zugeordnete Übertragungselement angelegten Eingangssignal 5_;ändert.

26. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Abändeiungseinnchtung die Übertragungsfunktion der mit einem Ausgang i gekoppelten Übertragungselemente in Abhängigkeit von dem an diesem Ausgang erzeugten Ausgangstignal r,so lange ändert, bis eine vorgebbare Bedingung, wie ein spezieller Wert, Signalmuster oder Zeitablauf, eintritt.

27. lnformationsverarbeitep.de Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine Anzahl von Ausgängen 1, ... i, ..., 11 zur Abgabe jeweils eines von n

Ausgangssignalen η r»..., r„ vorgesehen ist und

daß die Übertragungselemente jeden Eingang mit mehreren Auseäneen und ieden Ausgang mit

mehreren Eingängen verbinden.

28. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Ausgänge einer ersten Vorrichtung mit den Eingängen einer zweiten ■-, Vorrichtung gemäß einer Zufallsverteilung verbindbar sind.

29. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Ausgänge einer ersten in Vorrichtung mit den Eingängen einer zweiten in einer derart geordneten Weise verbindbar sind, daß jeder Ausgang der einen Vorrichtung mit einem Eingang der anderen Vorrichtung verbunden ist.