DE4326487C2 - Adaptives Filter - Google Patents
Adaptives FilterInfo
- Publication number
- DE4326487C2 DE4326487C2 DE4326487A DE4326487A DE4326487C2 DE 4326487 C2 DE4326487 C2 DE 4326487C2 DE 4326487 A DE4326487 A DE 4326487A DE 4326487 A DE4326487 A DE 4326487A DE 4326487 C2 DE4326487 C2 DE 4326487C2
- Authority
- DE
- Germany
- Prior art keywords
- function
- elementary
- filter
- filters
- adaptive filter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03H—IMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
- H03H21/00—Adaptive networks
- H03H21/0012—Digital adaptive filters
Landscapes
- Complex Calculations (AREA)
- Filters That Use Time-Delay Elements (AREA)
Description
Die vorliegende Erfindung betrifft ein adaptives Filter zum
Approximieren einer Sollwertfunktion F.
Die Erfindung befaßt sich insbesondere mit einem adaptiven Fil
ter, das in der Lage ist, vorgegebene Sollwertfunktionen zu
approximieren, um dadurch komplizierte Funktionen einfacher
handhaben zu können, und für weitere Verarbeitungsschritte mit
reduzierter Informationsbandbreite zur Verfügung zu stellen.
Auch bezieht sich die vorliegende Erfindung auf spezielle Ein
richtungen und Verfahren, die mittels derartiger adaptiver Fil
ter ermöglicht werden, wobei derartige Verfahren und Einrich
tungen in erster Linie im Bereich der Mustererkennung liegen.
Fig. 14 zeigt, wie eine vorgegebene Sollwertfunktion F durch
eine bandbreitesparende approximierte Funktion Fapp annähe
rungsweise beschrieben werden kann.
Das Auffinden derartiger angenäherter Lösungen ist mit großem
Rechenaufwand verbunden und die erreichten Näherungslösungen
sind vielfach nicht von ausreichender Genauigkeit.
Aus "The PI-Method for Estimating Multivariante Functions
from Noisy Data", Breimann Leo, Technometrics, Mai 1991,
Vol. 33, No. 2, ist ein Verfahren zum Approximieren einer
Funktion mit mehreren Eingangsvariablen durch sogenannte
Tensor-Spline-Funktionen, das heißt Funktionen, die als
Produkte von Splines generiert werden, bekannt. Bei dem
vorgeschlagenen Verfahren wird jeweils ein Spline pro
Dimension verwendet, wodurch ermöglicht wird, das Approximationsproblem
in Unterprobleme zu zerlegen und diese Unterprobleme
nacheinander zu lösen, um dann die Lösung des
Gesamtproblems aus den Teillösungen zu erstellen.
Aus "Theory for Multiresolution Signal Decomposition: The
Wavelet Representation", Mallat Stephane G., IEEE Trans. on
Pattern Recognition and Machine Intelligence, Vol. 11, No. 7,
Juli 1989, ist es bekannt, die Projektion eines Bildvektors
auf eine feste Basis orthogonaler Funktionen, sogenannter
Waveletes oder "Ondelettes", zu verwenden. Aufgrund der
Orthogonalität der Funktionen ist der Metriktensor der Einheitsvektor.
Die Projektion wird somit einfach durch die
Skalarproukte des Bildvektors mit den Basisfunktionen berechnet.
Dies dient beispielsweise zur Kompression eines
Bildes, da der wesentliche Bildinhalt durch wenige Skalare,
die aus den Skalarprodukten resultieren, ausgedrückt werden
kann. Die Übermittlung eines auf diese Skalare reduzierten
Bildes genügt für die Rekonstruktion des Bildes.
Die DE 34 06 833 C2 beschreibt Spline-Filter für den Bereich
der Nachrichtentechnik. In dieser Druckschrift wird vorgeschlagen,
Systeme mit Tiefpaßverhalten durch Spline-Funktionen
zu approximieren. Außerdem sollen durch Überlagerungen
unerwünschte Nebenschwingungen eliminiert werden.
Es ist die Aufgabe der vorliegen
den Erfindung, eine Vorrichtung anzugeben, die es ermöglicht,
eine vorgegebene Sollwertfunktionen in einfacher Weise und
trotz starker Bandbreiteeinsparung mit ausreichender Genauig
keit durch eine andere Funktion anzunähern.
Diese Aufgabe wird durch die Gegenstände der
Patentansprüche 1, 2, 3 und 4 gelöst.
Der Vorteil des speziellen adaptiven Filters gemäß Patentan
spruch 1 liegt in der Fähigkeit dieses Filters, seine einzelnen
Elementarfilter so auszurichten, daß mit ihnen eine optimale
Beschreibung einer vorgegebenen Sollfunktion F ermöglicht wird.
Die durch das Filter aufgefundene approximierte Funktion be
schreibt eine vorgegebene Sollfunktion F, in für die weitere
Verarbeitung leicht handhabbarer Weise und mit einer drastisch
reduzierten Informationsbandbreite.
Weitere erfindungsgemäße adaptive Filter sind Gegenstände der
Ansprüche 2-4.
Das adaptive Filter gemäß Patentanspruch 4 wird zwar hinsicht
lich der Annäherungsgenauigkeit unter Umständen nicht gleich
gute Ergebnisse wie das adaptive Filter gemäß Patentanspruch 1
liefern können, jedoch ist dieses adaptive Filter aufgrund
eines geringeren Rechenaufwandes in der Lage, seine Berech
nungen mit hoher Geschwindigkeit auszuführen und daher insbe
sondere für Echtzeitanwendungen geeignet. Das Bereitstellen
einer Vielzahl von
Elementarfiltersätzen, die jeweils einen Unter
raum aufspannen, führt zu einer Erhöhung der Annäherungsge
nauigkeit, wobei der Vorteil der hohen Berechnungsgeschwindig
keit weiterhin erhalten bleibt.
Die Ausführungsform gemäß Patentanspruch 5 weist den zusätz
lichen Vorteil auf, daß die Feststellung, welche der Projek
tionen auf die einzelnen Unterräume bei der Ausführungsform
gemäß Patentanspruch 2 die beste Annäherung an die Sollfunktion
ist, in besonders eleganter und zeitsparender Weise ausgeführt
werden kann.
Bevorzugtermaßen weisen die erfindungsgemäßen adaptiven Filter
Elementarfilter auf, deren Charakteristika durch Gauß-, Gabor-,
Sigmoid- oder tanh-Funktionen beschrieben werden können. Der
artige Filtertypen sind mathematisch besonders leicht erfaßbar
und handhabbar.
In einer weiteren bevorzugten Ausführungsform der erfindungs
gemäßen adaptiven Filter sind alle Elementarfilter zueinander
linear unabhängig, was den Vorteil eines geringen Rechenauf
wandes mit sich bringt.
Die anzunähernde Sollfunktion F wird bevorzugterweise sowohl
bezüglich des Wertebereichs als auch bezüglich der Auflösung
diskret eingelesen, wodurch die digitale Verarbeitung der Er
gebnisse in üblichen Mikroprozessoren ermöglicht wird. Selbst
verständlich kommt auch die Verarbeitung einer kontinuierlichen
Funktion durch das erfindungsgemäße Filter in Betracht, bei
spielsweise, wenn die Sollfunktion ein optisches Signal ist.
Für bestimmte Anwendungsfälle kann es vorteilhaft sein, die
Parameter der Elementarfilter zumindest nach dem Auffinden der
angenäherten Funktion auszugeben, um sie für weitere Verarbei
tungsschritte nutzbar zu machen.
Weiterhin sieht eine bevorzugte Ausführungsform vor, daß für
den Fall einer unvollständig erfaßten Sollwertfunktion die ent
sprechenden Lücken durch die in der Umgebung der Lücke vorkom
menden Funktionswerte angenähert und mit zusätzlichem additiven
Rauschen beaufschlagt werden. Dadurch werden die fehlenden
Funktionswerte mit hoher Wahrscheinlichkeit einigermaßen gut
angenähert, so daß die Filtereinstellung von den ursprünglich
fehlenden Funktionswerten kaum beeinflußt wird und möglicher
weise zu denselben Ergebnissen führt, wie sie bei einer voll
ständig vorgegebenen Sollwertfunktion zu erwarten wären. Dies
wäre nicht der Fall, wenn man für die fehlenden Funktionswerte
beispielsweise jeweils den Wert 0 ansetzt.
Das für die Minimierung der Differenz zwischen Projektion und
Sollwertfunktion verwendete übliche Berechnungsverfahren ist
vorzugsweise ein Gradientenabstiegsverfahren (deterministisches
Verfahren), das zu einer schnellen Minimierung der Differenz
führt.
In einer weiteren bevorzugten Ausführungsform kann die Soll
funktion F ein optisches Signal sein, also beispielsweise das
von einer Fernsehkamera aufzunehmende Bild. Für optische Anwen
dungen ist das erfindungsgemäße adaptive Filter insbesondere
geeignet, da hier große Informationsmengen vorliegen, die für
die Übertragung soweit wie möglich reduziert werden müssen. In
diesem Zusammenhang ist klar, daß die Sollfunktion auch ein
elektrisches Video- bzw. Audio-Signal sein kann.
Für den Fall von Video-Signalen und optischen Signalen können
die Elementarfilter optische Filter sein. Schließlich ist bei
einer bevorzugten Ausführungsform das adaptive Filter so aus
gelegt, daß es als approximierte Funktion ein bandbreiteredu
ziertes HDTV-Signal ausgibt.
Weitere vorteilhafte Ausgestaltungen ergeben sich aus den übri
gen Unteransprüchen.
Im folgenden wird die Erfindung anhand von Beispielen unter
Bezugnahme auf die beiliegenden Zeichnungen näher erläutert.
Dabei zeigen im einzelnen:
Fig. 1 ein Blockschaltbild des erfindungsgemäßen Filters,
Fig. 2 und 3 Vektordiagramme zur Erläuterung des der Erfindung
zugrundeliegenden mathematischen Prinzips,
Fig. 4 ein Beispiel für verwendbare Elementarfilter,
Fig. 5, 5a bis 12 die stufenweise Annäherung einer Nicht-(XOR)-Funktion
durch eine von dem erfindungsgemäßen Filter entwickelte
Funktion,
Fig. 13 ein Flußdiagramm der von dem Filter angewandten Rechen
operation,
Fig. 14 ein allgemeines Beispiel, wie eine Sollfunktion hoher
Bandbreite durch eine informationsreduzierte Annähe
rungsfunktion beschrieben werden kann,
Fig. 15 ein weiteres Flußdiagramm einer von dem Filter anwend
baren Rechenoperation.
Bekanntermaßen kann ein gegebener Vektor unter Voraussetzung
eines orthogonalen Koordinatensystems durch die gerichtete
Addition seiner Projektionen auf die einzelnen Achsen des
Raumes ausgedrückt werden. Sobald jedoch die den Raum aufspan
nenden Achsen nicht mehr senkrecht aufeinander stehen, gilt
dieser Zusammenhang nicht mehr, wie anhand von Fig. 2 ersicht
lich ist.
Das zueinander nicht orthogonale Achsenpaar g0, g1 spannt einen
zweidimensionalen Raum auf, in dem der Vektor A liegt. Addiert
man die gerichteten Projektionen A0, A1 des Vektors A auf die
Achsen g0, g1, so resultiert dies in einem anderen Vektor als
dem Ausgangsvektor A. Um wieder den Vektor A zu erhalten, ist
eine Multiplikation der einzelnen Projektionen mit dem soge
nannten kontravarianten Metriktensor notwendig, der durch In
vertierung aus dem kovarienten Metriktensor der Basisvektoren
g0, g1 gebildet werden kann.
Die Multiplikation der Basisvektoren g0, g1 mit dem kontra
varianten Metriktensor (im folgenden durch das Symbol gab ge
kennzeichnet) führt zu einer Skalierung der ursprünglichen Pro
jektionen A0, A1, wie dies in der Fig. 2 durch die kürzeren
Projektionen A⁰, A1 angedeutet ist. Die gerichtete Addition
dieser durch den Metriktensor bewerteten Projektionen führt
wiederum zum Ausgangsvektor A.
Mathematisch läßt sich diese Operation wie folgt ausdrücken:
wobei Aa die Projektionen des Vektors A auf die Basisvektoren
ga angibt, die mathematisch durch entsprechende Skalarmultipli
kation erhalten werden können.
Fig. 3 zeigt wiederum eine Ausgangsfunktion F (Sollwertfunk
tion) und ein Basisvektorpaar g0, g1. Da der dargestellte Raum
dreidimensional ist, spannt die Basis g0, g1 lediglich einen
zweidimensionalen Unterraum darin auf. Die Projektion der Soll
funktion (Soll-Vektor) F auf diesem Unterraum ist wiederum
durch Vektor A dargestellt. Diese Projektion ergibt sich wie
oben durch die gerichtete Addition der mit dem kontravarianten
Metriktensor der Basisvektoren bewerteten Projektionen der
Sollfunktion F auf die beiden Basisvektoren g0, g1. Die beiden
bewerteten Projektionen A⁰, A1 ergeben, wenn sie gerichtet
addiert werden, die Projektion A der Funktion F auf dem durch
die Basis g0, g1 aufgespannten Unterraum.
Auch in diesem Fall läßt sich die Projektion A formelmäßig
durch die Formel 1 erfassen, wenn für die Normalprojektionen Aa
die Projektion der Sollfunktion F auf die Basisvektoren (er
mittelbar mit Hilfe z. B. von Skalarmultiplikationen) verwendet
werden.
Die Projektion A weicht um die gestrichelt angedeutete Diffe
renz D von der Ausgangsfunktion F ab. Formelmäßig läßt sich das
durch folgenden Zusammenhang erfassen
wobei Aa wiederum für die Projektionen der Ausgangsfunktion F
auf die Basisvektoren g0, g1 steht.
Es sei darauf hingewiesen, daß Formel 2 nur in euklidischen und
nicht gekrümmten Räumen anwendbar ist und für andere Räume
durch eine entsprechende Abstandsfunktion ersetzt werden muß.
Somit lautet Formel 2 allgemein
Die durch die Formel 2 ausgedrückte Abweichung der Projektion A
von der Funktion F läßt sich, wenn man für die Basisvektoren
g0, g1 sich drehende Vektoren zuläßt, mit bekannten mathe
matischen Verfahren, beispielsweise dem Gradientenabstiegsver
fahren minimieren. Dies bedeutet bildlich ausgedrückt, daß sich
der durch g0, g1 aufgespannte Unterraum und die darin abgebil
dete Projektion A in Richtung der Ausgangsfunktion F dreht, bis
sie schließlich mit dieser zur Deckung kommt. Während des Hoch
drehens des Unterraums verändern sich die Darstellungen der
Basisvektoren, der aus ihnen zu berechnende kontrovariante
Metriktensor und die Projektionen der Funktion F auf die ein
zelnen Basisvektoren (in Fig. 3 sind jedoch bereits die mit dem
Metriktensor bewerteten Projektionen A⁰, A1 eingetragen).
Die oben erläuterte Berechnung der Projektion A mit Hilfe des
Metriktensors betrifft jedoch nur eine spezielle Ausführungs
form der vorliegenden Erfindung. Im folgenden werden weitere
spezielle Ausführungsformen des erfindungsgemäßen adaptiven
Filters erläutert, bevor anschließend auf eine allgemeine Be
schreibung des erfindungsgemäßen adaptiven Filters eingegangen
wird, der auf das Grundprinzip dieser vorgestellten Ausfüh
rungsformen abstrahiert ist und somit stellvertretend für alle
weiteren Ausführungsformen des adaptiven Filters steht, welche
dem Fachmann nach dem Studium der erläuterten Ausführungsformen
ohne weiteres erkennbar sein werden.
Zunächst wird für das weitere Verständnis nochmals Bezug auf
Fig. 2 genommen. In Fig. 2 ist nicht nur das Basisvektorpaar
g0, g1 eingetragen, sondern auch das dazu biorthogonal adjun
gierte Basenpaar g⁰, g1. Ersichtlicherweise läßt sich der Vek
tor A nicht nur durch die gerichtete Addition der bewerteten
Projektionen A⁰ und A1 darstellen, sondern auch durch die zwei
weiteren eingezeichneten Vektoren A0, A1, entlang der adjun
gierten Basen g⁰, g1, deren Normalprojektionen auf das Basen
paar g0, g1 ebenfalls A0 und A1 betragen. Bezogen auf die Be
rechnung der Projektion A in den aufgespannten Unterraum lassen
sich diese beiden grundlegenden Möglichkeiten formelmäßig wie
folgt darstellen:
Vereinfachend ausgedrückt ist es also möglich, die gesuchte
Projektion A als Summe der Multiplikationen der kontravarianten
Komponenten Aa mit ihren jeweiligen Basisvektoren ga auszu
drücken, wobei die kontravarianten Komponenten in diesem Fall
unter Verwendung des Metriktensors gab errechnet werden oder
durch die Summe der Multiplikationen aus den Normalprojektionen
Aa mit ihren jeweiligen biorthogonal adjungierten Basen ga,
wobei diese biorthogonal adjungierten Basen, in diesem Fall
unter Verwendung des Metriktensors gba berechnet werden.
Diese beiden Fälle werden im folgenden als Hauptfall 1 und
Hauptfall 2 bezeichnet. Die Zusammenhänge werden später
nochmals im Zusammenhang mit Fig. 13 erläutert, wobei auch die
entsprechenden Formeln explizit nochmals in Block 132 der Fig.
13 aufgeführt sind.
Die Heranziehung des kontravarianten Metriktensors zur Berech
nung der Projektion A ist für die vorliegende Erfindung nicht
zwingend und stellt demgemäß, wie oben erwähnt, nur eine spe
zielle Ausführungsform der Erfindung dar. Obwohl die Verwendung
des Metriktensors zu einer mathematisch eleganten Berechnungs
weise der Projektion A führt, haben Berechnungsverfahren für
die Projektion A, die ohne den Metriktensor auskommen, den Vor
teil, daß hierbei die rechnerisch aufwendige Invertierung des
kovarianten Metriktensors zur Berechnung des kontravarianten
Metriktensors unterbleiben kann. Da die Invertierung des ko
varianten Metriktensors für jede Verdrehung des Achsenpaares
g0, g1 erneut berechnet werden muß, führt dies verständlicher
weise inbesondere bei Tensoren mit vielen Dimensionen zu einem
hohen Rechenaufwand. Als Beispiel für ein Berechnungsverfahren
für eine weitere bevorzugte Ausführungsform des erfindungsge
mäßen adaptiven Filters wird daher im folgenden ein Verfahren
erläutert, welches ohne das Hilfsmittel des kontravarianten
Metriktensors auskommt.
Da sich die Projektion des Vektors A auf den Basisvektor ga
wie folgt ausdrücken läßt:
wobei gba den kovarianten Metriktensor angibt, somit gilt:
Somit läßt sich durch Minimierung dieser Abstandsfunktion die
noch unbekannte bewertete Projektion Ab auffinden. Mathematisch
läßt sich das wie folgt ausdrücken:
Somit läßt sich für alle a schreiben:
wobei A (t) nun eine zeitabhängige Größe oder Satz von Größen
angibt, die so zu verändern sind, daß E möglichst klein wird.
Dies kann beispielsweise durch ein klassisches Gradienten
abstiegsverfahren erreicht werden:
sei für alle σ:
sei für alle σ:
A(t) ändert sich jetzt so lange, bis
gilt oder die "Energie" E unter einem
Sollwert liegt. Dies ist der Fall, wenn Aδ (t) nahe der ge
suchten Größe A ist.
Somit läßt sich die Darstellung der Projektion A auch ohne Ver
wendung des kontravarianten Metriktensors durch Minimierung der
Abstandsfunktion auffinden.
Anhand von Fig. 2 läßt sich das Minimierungsverfahren anschau
lich erläutern. Bekannt sind die Normalprojektionen A0, A1 auf
das Basenpaar g0, g1. Das Minimierungsverfahren erreicht nun,
daß beliebige Vektoren A0′, A1′, in Richtung der Basisvektoren
g0, g1 in ihrer Länge so ausgerichtet werden, bis die Normal
projektionen ihrer gerichteten Addition A′ gleich den Projek
tionen A0, A1 des gesuchten Vektors A auf die Basisvektoren g0,
g1 sind. Ein Vektor A′, der dieser Bedingung genügt, ist aber
gerade der gesuchte Vektor A, so daß damit die Längen der ent
sprechend veränderten Vektoren A0′, A1′, deren gerichtete Addi
tion den Vektor A′ ausmachen, den gesuchten bewerteten Projek
toren A⁰, A1 entsprechen.
Statt von der obigen Gleichung 5 auszugehen, könnte ein ent
sprechendes Minimierungsverfahren auch von folgender Gleichung
ausgehen:
Diese Gleichung läßt sich wie oben durch Differenzieren nach
Ai wie folgt minimieren:
Anschaulich gesprochen besteht der Unterschied zwischen einer
Minimierung ausgehend von Formel 5 und einer Minimierung aus
gehend von Formel 8 darin, daß bei Formel 8 eine Minimierung
des Abstandes zwischen der Sollfunktion F und der gerichteten
Addition der bewerteten Komponenten stattfindet, wohingegen bei
dem auf Gleichung 5 aufbauenden Verfahren eine Minimierung des
Abstandes zwischen den Normalprojektionen der Sollfunktion F
auf die Basisvektoren und den entsprechenden Normalprojektionen
des Vektors A′ auf die Basisvektoren durchgeführt wird.
Als weitere Möglichkeit zur Berechnung der Projektion A wird
im folgenden ein iteratives Verfahren vorgestellt.
Die Größe Aa wird iterativ berechnet, wobei die Iteration über
den Satz von Beispielen geht.
Die Größen Aa werden berechnet, indem der neue Wert aus dem
jeweils davor berechneten Wert abgeleitet wird. Der Vorteil des
Verfahrens liegt darin, daß man nicht alle Beispiele speichern
muß, sondern nach und nach einlesen kann.
Die Gleichungen lauten:
wobei sich der kontravariante Metriktensor beispielsweise wie
folgt berechnen läßt:
Daraus ergibt sich:
Die beiden zuletzt erläuterten Berechnungsverfahren sowie das
anfänglich vorgestellte Berechnungsverfahren unter Verwendung
des Metriktensors sind entsprechend der oben getroffenen Fall
unterscheidung sämtlich dem Hauptfall 1 zuzuordnen, d. h. bei
diesem Verfahren werden auf unterschiedlichen Wegen die bewer
teten Komponenten Aa berechnet.
Im folgenden werden entsprechende Verfahren zum Hauptfall 2 er
läutert, d. h. in den folgenden Verfahren besteht die Berechnung
der jeweils adjungierten Basen im Vordergrund.
Ein dieser Gruppe zurechenbares Verfahren besteht darin, die
adjungierten Basen mittels des kontravarianten Metriktensors zu
berechnen. Formelmäßig ausgedrückt bedeutet dies:
wobei sich die gesuchte Projektion A auf dieser Formel auf
bauend wie folgt ausdrücken läßt:
Dieses Verfahren korrespondiert somit zu dem zur ersten Fall
gruppe gehörigen anfänglich vorgestellten Verfahren, bei dem
die bewerteten Komponenten mittels des kontravarianten Metrik
tensors berechnet werden. Wie bereits oben erwähnt, sind diese
zwei korrespondierenden Verfahren nochmals explizit im Block
132 der Fig. 13 aufgeführt.
Ein weiteres Verfahren dieser Fallgruppe, welches ohne den
kontravarianten Metriktensor auskommt und somit ohne eine bei
jedem Schritt durchzuführende Invertierung des kovarianten
Metriktensors auskommt, ist das folgende:
Ausgehend von dem Zusammenhang
Ausgehend von dem Zusammenhang
führt man zur Berechnung der unbekannten adjungierten Basis
vektor ga folgende Minimierung aus:
Dafür läßt sich äquivalent für alle a schreiben:
wobei gb(t) nun eine zeitabhängige Größe ist, die es so zu
verändern gilt, daß obiges E möglichst klein wird. gb(t) wird
nun so verändert, daß E minimiert wird, was beispielsweise
wiederum durch ein klassisches Gradientenabstiegsverfahren
erreichbar ist:
ga(t) ändert sich nun so lange, bis dg/dt = 0 oder unter einem
Schwellenwert liegt bzw. die Energie kleiner als ein Sollwert
ist; ist dies der Fall, so ist die resultierende Größe ga(t)
nahe der gesuchten Größe ga, weil dann der Fehler E minimal
ist.
Dieses Verfahren korrespondiert somit mit dem zweiten, zur
Fallgruppe 1 vorgestellten Verfahren.
Eine weitere, für das obige Verfahren heranzuziehende Fehler
funktion wäre die folgende:
Diese läßt sich wie oben nach ga minimieren:
Eine weitere Möglichkeit, durch Gradientenabstieg die kontra
variante Basis zu berechnen, besteht durch Verwendung folgender
Grundgleichung:
Als dritte Möglichkeit bietet sich ein iteratives Verfahren an,
wie es oben für den ersten Hauptfall beschrieben wurde.
Im folgenden wird nun, wie oben bereits angedeutet, das allen
Berechnungsverfahren zugrundeliegende Prinzip erläutert:
Die Projektion der Sollfunktion F auf dem von den Vektoren ga, gb aufgespannten Unterraum entspricht der Lösung eines klassischen Problems der linearen Algebra des sog. "Least Squares"-Problems. Alle oben vorgestellten Lösungsansätze sind spezielle Lösungen der folgenden allgemeinen Gleichung:
Die Projektion der Sollfunktion F auf dem von den Vektoren ga, gb aufgespannten Unterraum entspricht der Lösung eines klassischen Problems der linearen Algebra des sog. "Least Squares"-Problems. Alle oben vorgestellten Lösungsansätze sind spezielle Lösungen der folgenden allgemeinen Gleichung:
MX = B (20)
Dabei ist M eine bekannte Matrix, X ein zu suchender Vektor,
und B ein bekannter Vektor.
Die Dimension des Vektors X sei kleiner als die Dimension von B
und die Matrix M ist entsprechend von der Dimension X mal der
Dimension von B.
Das dadurch gebildete Gleichungssystem hat im Regelfall keine
exakte Lösung, da die Anzahl der Gleichungen größer ist als die
Anzahl der Unbekannten, das System somit überbestimmt ist.
Allerdings sind auch Fälle denkbar, bei denen die Dimension von
X größer oder gleich der Dimension von B sind. Auch diese sind
durch nachfolgendes Verfahren lösbar. Mit Hilfe eines Ver
fahrens, daß allgemein als "Least Squares"-Verfahren in der
Mathematik bekannt ist, läßt sich jedoch auf der Grundlage des
kleinsten mathematischen Fehlers eine Lösung finden. Bezogen
auf die vorliegende Erfindung entspricht B der Sollfunktion F,
M einer Matrix, die aus den kovarianten Basisfunktionen ga da
durch gebildet wird, daß man die Basisfunktionen kolonnenweise
nebeneinander schreibt und X entspricht dem Vektor der gesuch
ten kontravarianten bzw. bewerteten Komponenten Aa. Das
Matrix-Vektor-Produkt MX läßt sich somit wie folgt ausdrücken:
Dies entspricht der Projektion A auf den Unterraum. Die Pro
jektion A ist somit die "Least Squares"-Lösung des Gleichungs
systems.
Aufgrund dieses aufgezeigten allgemeinen Zusammenhangs sei
somit nochmals ausdrücklich darauf hingewiesen, daß die vor
liegende Erfindung nicht auf die Verwendung der oben explizit
erwähnten Berechnungsverfahren beschränkt ist, sondern daß die
vorliegende Erfindung jegliche Lösungsansätze mit einschließt,
die sich mit der Lösung des gemäß der Gleichungen 20 und 21
ausgedrückten Grundproblems befassen. Erläuternd sei darauf
hingewiesen, daß sich das zuerst beschriebene Verfahren,
welches für die Berechnung den Metriktensor heranzieht, hier
als Lösung der sog. Normalgleichungen auf direktem Weg dar
stellt. Formelmäßig läßt sich dies wie folgt ausdrücken:
MTMX = MTB
→ X = (MTM)-1 MTB (22)
→ X = (MTM)-1 MTB (22)
Denkbare andere Lösungsansätze, die oben nicht explizit vorge
stellt wurden, die aber auch als Lösung des allgemeinen Prob
lems angesehen werden können, sind beispielsweise das sog.
"Singular Value Decomposition"-Verfahren, was ein weiteres Ver
fahren zur Matrix-Inversion darstellt.
Zum leichteren Verständnis der obigen Zusammenhänge seien diese
nochmals anhand der Fig. 3 graphisch erläutert.
Der Grundgedanke besteht darin, daß die Projektion A der Soll
funktion F in den aufgespannten Unterraum sich auf der Grund
lage der Erkenntnis berechnen läßt, daß die momentan berechnete
Projektion A′ nur dann der tatsächlichen Projektion A der Soll
funktion F auf den Unterraum entspricht, wenn diese momentan
berechnete Projektion A′ die gleichen Projektionen auf den auf
gespannten Unterraum aufweist wie die Sollfunktion F. Mit
anderen Worten weist die Sollfunktion F, obwohl sie nicht in
dem aufgespannten Unterraum liegt, die gleichen Projektionen
auf die Basisvektoren auf wie ihre tatsächliche, im Unterraum
liegende Projektion A. Alle oben vorgestellten Verfahren nach
Hauptfall 1 machen sich diesen Zusammenhang zunutze, um das
eigentlich nicht lösbare Gleichungssystem
dennoch lösen zu können. Die Skalarmultiplikation der Sollfunk
tion F auf das betrachtete Basenpaar entspricht nur dann der
Projektion des linken Terms auf das betrachtete Basenpaar, wenn
der linke Term der gesuchten Projektion A entspricht.
Insbesondere bei Verfahren, die ohne Verwendung des kontra
varianten Metriktensors auskommen, bei denen daher entsprechend
der Fallgruppe 1 und 2 bereits die Größen Aa bzw. ga durch
Minimierungsverfahren, wie etwa dem Gradientenabstiegsver
fahren, berechnet werden müssen, bietet sich an, in dem erfin
dungsgemäßen Filter zwei voneinander unabhängige Berechnungs
module vorzusehen, die dann ihre berechneten Werte unter
einander austauschen.
Beispielsweise wäre eine erste Untereinheit 1 für die Berech
nung der Größen ga bzw. Aa zuständig. Eine weitere Untereinheit
2 wäre dann für die Berechnung der Abweichung der Approximation
der Sollfunktion von der Sollfunktion selbst zuständig. Dem
Filter würden somit für die Initialisierung anfänglich Zufalls
werte für die Parameter der Filter ga eingegeben werden. Daraus
würde der Filter dann ga und Aa berechnen.
Mit diesen Werten würde die Untereinheit 1 die Werte für Aa
bzw. ga iterativ oder auf anderem Wege berechnen.
Sobald die entsprechenden Werte berechnet sind, führt die
Untereinheit 2 einen oder wenige Schritte zur Minimierung der
Abweichung durch. Daraus resultieren wiederum neue Werte für
ga und Aa.
Aufbauend auf diesen Werten berechnet Untereinheit 1 dann
wiederum neue Werte für Aa bwz. ga, die wiederum Grundlage für
einen oder wenige Schritte der Untereinheit 2 sind.
Dies wird iterativ so lange fortgesetzt, bis die Untereinheit 2
ihrerseits voll konvergiert hat und somit die Approximation an
die Sollfunktion optimal gelöst ist.
Untereinheit 2 würde also immer nur einen oder wenige Schritte
durchführen, während Untereinheit 1 stets vollständig konver
giert.
Das Verfahren kann natürlich auch mit Hilfe gekoppelter Diffe
rentialgleichungen durchgeführt werden, wobei dann die Zeit
konstanten der Untereinheit 2 entsprechend höher liegen würden
als die der Untereinheit 1, damit letztere schneller rechnen
kann.
Verläßt man nun den anschaulichen, in Fig. 3 gezeigten Vektor
raum und spannt den Unterraum im Funktionenraum durch ein Paar
zueinander verschobener Gaußfilter, wie sie in Fig. 4 gezeigt
sind, auf, so läßt sich das oben angesprochene Drehen der den
Unterraum aufspannenden Basis leichter verstehen.
Die in Fig. 4 gezeigten Gaußkurven 1, 2 können als Filterfunk
tionen über die Zeit oder den Ort aufgefaßt werden. Statt der
Gaußkurven kommt jeder andere Kurvenverlauf in Frage, insbeson
dere auch sogenannte Gaborfunktionen. Auch können die in Fig. 4
gezeigten Filter 1, 2 mehrdimensional sein, also beispielsweise
zwei "Hügel" über einem zweidimensionalen Feld.
Auch durch die Filter 1, 2 kann im Funktionenraum ein Unterraum
aufgespannt werden, da die Filter aufgrund der Verschiebung
zueinander linear unabhängig sind. Werden diese Filter diskret
angenommen, so können sie durch einen in seiner Dimension mit
der Auflösung übereinstimmenden Vektor dargestellt werden. Geht
die Auflösung gegen Unendlich, so kann der entsprechende Vektor
eine unendliche Dimension annehmen, was einer analogen Filter
funktion entspricht.
Weitere bevorzugte, im Rahmen der folgenden Erfindung zu ver
wendende Elementarfunktionen werden weiter unten behandelt.
Stellt nun eine anzunähernde Sollfunktion F beispielsweise ein
"Gebirge" über einer Ebene dar, so ist das erfindungsgemäße
adaptive Filter durch Verwendung zweidimensionaler Gaußfilter
in der Lage, das Gebirge nachzubilden. Dies geschieht, indem
die Gaußfilter an die Orte der Erhebungen des Gebirges ge
schoben werden und dort entsprechend dem Gebirgsverlauf durch
Parameterveränderung (z. B. Standardabweichung) spitzer oder
stumpfer gemacht und entsprechend gestreckt werden. Ein der
artiger Gebirgsverlauf kann beispielsweise durch tausend
Elementar-Gaußfilter, die entsprechend verschoben und geformt
werden, nachgebildet werden. Für eine einfache Gebirgsform
können auch bereits einige wenige Elementarfilter, unter Um
ständen sogar ein einziger, ausreichen, um das Wesen der Aus
gangsfunktion in einer der Weiterverarbeitung genügenden Weise
nachzubilden. Ist das Gebirge einmal durch die eingestellten
Elementarfilter beschrieben, so ist der Informationsgehalt der
ursprünglichen Funktion drastisch bis auf einige wenige Filter
parameter reduziert.
Bei diesem Beispiel entspricht das Verschieben und Formen der
zweidimensionalen Gaußfilter dem im Zusammenhang mit Fig. 3 be
zeichneten Drehen des Untervektorraums in Richtung der Aus
gangsfunktion F. Bei dem in Formel 2 angegebenen Zusammenhang
repräsentiert ga die zweidimensionalen gaußförmigen Elementar
filter. Sowohl die Projektionen der Ausgangsfunktion F
(Gebirge!) auf die Elementarfilter Aa, als auch die Elementar
filter selbst und der aus ihnen gebildete kontravariante
Metriktensor sind von den die Elementarfilter beschreibenden
Parametern abhängig und ändern sich mit einer Verschiebung,
Drehung oder Formänderung der Elementarfilter ständig mit. Die
Differenz D kann, wie oben bereits erwähnt wurde, mittels her
kömmlicher Berechnungsmethoden, die deterministische Natur
(Gradientenabstiegsverfahren) oder auch stochastischer Natur
("simulated annealing", "Monte Carlo") sein können, minimiert
werden, so daß sich nach erfolgter Minimierung die optimale
Annäherung der Ausgangsfunktion über eine Beschreibung durch
die eingestellten Elementarfilter ergibt.
Diese Minimierung läuft selbständig ab, so daß der erfindungs
gemäße adaptive Filter selbständig in die beste Annäherung kon
vergiert.
Dem erfindungsgemäßen adaptiven Filter wird also eine Sollfunk
tion eingegeben, die er dann aufgrund seiner Filterstruktur
automatisch durch eine mit Elementarfiltern beschreibbare Funk
tion optimal annähert und ausgeben kann. Die angenäherte Funk
tion ist, wie erwähnt, in hohem Maße in der Bandbreite redu
ziert, wodurch sich vielfältige Anwendungsmöglichkeiten er
geben, auf die im folgenden noch näher eingegangen wird.
Eine Ausführungsform des erfindungsgemäßen Filters ist in Fig.
1 schematisch dargestellt. Der Filter 1 liest in seinen
Speicher 2 eine nachzubildende Funktion F ein. Weiter weist der
Filter 1 einen Speicher 3 auf, in dem zumindest ein Satz von
Elementarfiltern abgelegt ist, die für die Annäherung verwendet
werden. Dadurch ist eine CPU 4 in der Lage, die Normalprojek
tionen der Funktion F auf die Elementarfilter zu berechnen
(Skalarmultiplikation), und die Berechnung des kontravarianten
Metriktensors von den Elementarfiltern durchzuführen, so daß
jeweils die Differenz D gemäß Formel 2 in Abhängigkeit der Fil
terparameter (Mittelwert, Standardabweichung, etc.) darstellbar
ist, welche dann mittels eines programmierten Minimierungs
algorithmus minimiert werden kann. Nach erfolgter Minimierung
gibt das adaptive Filter die angenäherte, informationsredu
zierte Funktion Fapp aus, die für die weitere Verarbeitung ver
wendet wird. Die approximierte Funktion entspricht in der
Formel 2 dem Substrahenten nach erfolgter Minimierung.
Das Filter 1 hat damit eine übliche Filterungsfunktion selb
ständig bewerkstelligen können, nämlich gewünschte wesentliche
Komponenten aus einem Eingangssignal zu extrahieren. In einem
weiteren Speicher 5 kann das Filter 1 die aufgefundene Approxi
mation abspeichern, wobei die abgespeicherten Funktionswerte in
Antwort auf ein weiteres Eingangssignal (beispielsweise Orts
koordinaten X, Y) werteweise ausgegeben werden können.
Selbstverständlich kann das Filter 1 auch eine Vielzahl von
Sollfunktionen F annähern und im Speicher 5 abspeichern. Da
durch wird es dem adaptiven Filter möglich, eine neu hinzu
kommende Sollfunktion nach deren Approximation mit bereits ge
speicherten Approximationsfunktionen zu vergleichen (was
wiederum mit üblichen mathematischen Verfahren möglich ist), um
dann aus den abgespeicherten approximierten Funktionen die
jenige herauszusuchen, die am besten mit der neu hinzugekom
menen und approximierten Funktion korreliert. Auf diese Weise
ist eine Mustererkennung möglich. Gegenüber bisherigen
Mustererkennungsverfahren weist eine Mustererkennung unter Ver
wendung des erfindungsgemäßen adaptiven Filters den Vorteil
auf, daß sie wesentlich schneller durchführbar ist und dabei
geringe Anforderungen an die zu klassifizierenden Funktionen ge
stellt werden müssen, was im folgenden noch näher erläutert
wird.
Vorzugsweise stellt die CPU 4 die aufgefundenen Filterparameter
an einem eigenen Ausgang zur Verfügung, da diese Parameter die
wesentlichen Klassifikationsmerkmale einer approximierten Funk
tion darstellen.
Die Fig. 5, 5a-12 zeigen eine Computersimulation der Be
rechnung einer Annäherungsfunktion durch das adaptive Filter an
die in Fig. 5 gezeigte NICHT(XOR)-Funktion, die, wie in Fig. 5a
gezeigt ist, zusätzlich mit adaptivem Rauschen beaufschlagt
wurde. Nach einer Anzahl von Berechnungsschritten, die in den
Fig. 6 bis 11 gezeigt sind, findet das Filter automatisch
die in Fig. 12 gezeigte Näherungsfunktion.
Obwohl in Fig. 3 die Drehung des Unterraumes nur hinsichtlich
einer Dimension erfolgte, ist klar, daß die Elementarfilter
eine Drehung in beliebig viele Dimensionen automatisch aus
führen können, wobei dann selbstverständlich die Berechnungs
methoden der Minimierung umfangreicher, jedoch nicht unlösbar
werden.
Die Minimierung der durch Formel 2 ausgedrückten Differenz D
zwischen Sollfunktion und momentan angenäherter Funktion, aus
gedrückt durch die veränderbaren Filterparameter, die in dem
oben erwähnten Beispiel zu einer Ausrichtung der Filter ent
sprechend der "Gebirgs"-Form führte und beispielsweise mit
Hilfe des Gradientenaufstiegsverfahrens gelöst werden kann,
läßt sich anschaulich so auffassen, als ob Kräfte auf die
Filter wirken, die diese in die entsprechende Position und
Formgebung zwingen. Das System ist also stets bestrebt, den
Punkt der geringsten Energie zu erreichen, der einer optimalen
Filterausrichtung entspricht.
Die Fig. 13 gibt nochmals die wichtigsten der oben beschrie
benen Zusammenhänge in Form eines Flußdiagrammes wieder.
Bei 130 wird dem adaptiven Filter ein Eingangsraum bzw. eine zu
approximierende Funktion F eingegeben. Diese Funktion wird
durch die im Block 131 vorhandene Filterbank, bestehend aus
Elementarfilterfunktionen wie beispielsweise Gaborfiltern,
"Wavelets", "Splines", Gaußfiltern oder Polynomen, die jeweils
parametrisch oder nicht-parametrisch, orthogonal oder nicht
orthogonal sein können, auf die entsprechenden Elementarfilter
projiziert. Die dadurch enthaltenen Normalprojektionen Ag
werden an den Block 132 weitergegeben. Ebenso werden die
Elementarfilterfunktionen an diesen Block weitergegeben.
Im Block 132 werden die kontravarianten Komponenten entsprechend
der angegebenen Formel berechnet. Dazu wird der kontravariante
Metriktensor dem Block 132 zugeführt, der seinerseits aus dem
kovarianten Metriktensor mit Hilfe üblicher Berechnungsver
fahren, beispielsweise dem Gradientenabstiegsverfahren oder dem
Jakobiverfahren, berechnet wurde.
Die Multiplikation der kontravarianten Komponenten mit ihrem
entsprechenden Elementarfilter (Basisvektor) führt zu den "ge
richteten" kontravarianten Komponenten, die zusammen die Pro
jektion A gemäß einer der beiden Formeln der letzten Zeile des
Blocks 132 ergeben. Diese Darstellung der Projektion der Soll
funktion auf den aufgespannten Unterraum wird an den Block 134
weitergegeben, bei dem die Differenz der Projektion gegenüber
der Sollfunktion mittels eines Energieminimierungsverfahrens
verkleinert wird. Die dadurch bewirkte Verdrehung der Elemen
tarfilter wird an den Block 131 weitergeleitet, wo erneut die
Normalprojektionen der Funktion F in den gedrehten Unterraum
berechnet werden und auch die darauffolgenden Schritte erneut
ausgeführt werden. Nach einer bestimmten Anzahl von Berech
nungen ist eine energetische Minimierung erreicht und die
letztlich aufgefundene Projektion A entspricht der approxi
mierten Funktion und kann vom adaptiven Filter ausgegeben
werden.
Eine spezielle Ausführungsform der vorliegenden Erfindung sieht
vor, daß bereits die erste Projektion auf den Unterraum als die
approximierte Funktion angenommen wird, wodurch sich die Be
rechnung selbstverständlich wesentlich verkürzt. Ein derartiges
Filter kann unter Umständen in sehr kurzen Berechnungszeiten
ausreichend gute Ergebnisse liefern. Genauer wird ein der
artiges Filter, wenn nicht nur ein Satz Elementarfilter, auf
spannend einen ersten Unterraum, verwendet wird, sondern
weitere Sätze verwendet werden, die weitere Unterräume auf
spannen. In diesem Fall können die Projektionen der Sollfunk
tionen auf jeden der aufgespannten Unterräume berechnet werden
und anschließend diejenige Projektion als approximierte Funk
tion verwendet werden, deren Differenz zur Ausgangsfunktion F
minimal ist. Für die Berechnung der Differenz wird dabei vor
zugsweise wiederum der Zusammenhang gemäß Formel 2 (bzw. 2′)
verwendet. Auch ein derartiges Filter ist selbstverständlich
äußerst schnell und insbesondere für Echtzeitanwendung ge
eignet.
In Fig. 15 sind nochmals die wichtigsten Zusammenhänge für eine
bevorzugte Filterstruktur unter Verzicht auf die Berechnung des
kontravarianten Metriktensors aufgezeigt, wobei diese Figur
anhand der Beschriftungen sowie der obigen Erläuterungen ver
ständlich sein sollte.
Weitere in Zusammenhang mit der vorliegenden Erfindung zu
verwendende wichtige Elementarfunktionen sind die folgenden:
wobei Wia, R Skalare sind, nämlich entsprechend die Parameter der
Basisfunktion ga und
Diese Funktion wird in ca. 70% aller neuronalen Netzwerk-
Anwendungen verwendet und stellt somit die für einen großen
Anwendungsbereich zu wählende Funktion dar.
Eine weitere Funktion wäre die folgende:
ga(Xi, i ε {1, . . . N}) = tanh (WiaXi + R) (25)
mit
und Wia, R wie oben.
Nochmals sei explizit darauf hingewiesen, daß neben den eukli
dischen Distanzen ausdrücklich auch andere Distanzen in Frage
kommen, wie beispielsweise die Kullback-Leibler-Entropie,
Manhattan-Distanz, Mahalanobis-Distanz etc.
Des weiteren sei darauf hingewiesen, daß es stets genügt, nur
den Raum zu betrachten, in dem die Beispiele für die Sollfunk
tion liegen. Mit anderen Worten genügt es, die zu approxi
mierende Funktion als ein Vektor im Funktionsraum zu betrach
ten, wobei jedoch nur der Vektor betrachtet wird, der im Bei
spielsraum liegt.
Ferner reicht es auch stets aus, die Sollfunktion F und das
Verfahren nur für die Eingangswerte zu betrachten, für die auch
Ausgangsbeispiele vorliegen, d. h. mit anderen Worten, daß eine
Berechnung nur in so vielen Dimensionen erfolgt, wie es der
Abtastung der Eingangsfunktion entspricht.
In manchen Fällen kann es sinnvoll sein, die rekonstruierte
Projektion A nochmals durch eine Funktion h zu verändern, um
schwierige Soll-Funktionen auch approximieren zu können. In
diesem Fall ist dann die zu minimierende Distanz D:
Weiter sei angemerkt, daß, falls keine analytische Abhängigkeit
der Basisfunktion von den Parametern gegeben ist, wie es zum
Beispiel bei der fraktalen Funktion der Fall sein kann, auch
eine andere Art der Feststellung der Abhängigkeit zum Beispiel
durch Minimierung einer Kosten/Fehlerfunktion oder Abschätzung/
Heuristik möglich ist.
Ferner kann man eine sigmoide, tanh oder eine andere Funktion
auch auf die Projektion A = Σ aAaga verwenden, so daß dann die
zu vermindernde Distanz lautet:
wobei h(f) eine Funktion wie sigmoide, tanh oder eine andere
repräsentiert.
Allgemein läßt sich das wie folgt schreiben:
Ferner sei darauf hingewiesen, daß auch eine andere Kosten/
Fehlerfunktion E einsetzbar ist, dessen Minimierung der Mini
mierung der Distanz D entspricht.
Als erfindungswesentlich sind auch die folgenden Zusammenhänge
zu betrachten:
Sei proj ga die Projektion der Basisfunktion ga auf die Ebene, die von der Sollfunktion F und der entsprechenden Basisfunktion ga aufgespannt wird. Dann ist die Minimierung der Distanz:
Sei proj ga die Projektion der Basisfunktion ga auf die Ebene, die von der Sollfunktion F und der entsprechenden Basisfunktion ga aufgespannt wird. Dann ist die Minimierung der Distanz:
der Minimierung der Distanz E
äquivalent.
Identisches gilt natürlich im Fall der allgemeinen Distanz:
bzw.:
D = f(F, Aaga)
Schließlich sei noch darauf hingewiesen, daß das erfindungs
gemäße Filter auch hierarchisch aus Unterfiltern aufgebaut sein
kann. Jeder Unterfilter entspricht dann einer Basisfunktion des
höheren Filters. Mehrere Unterfilter spannen somit wiederum den
Unterraum auf.
Im folgenden sollen nun einige Anwendungsmöglichkeiten des er
findungsgemäßen adaptiven Filters diskutiert werden, wobei aus
drücklich festgestellt wird, daß zumindest einige der Anwen
dungsmöglichkeiten weitere über den adaptiven Filter hinaus
gehende erfinderische Besonderheiten aufweisen, die ebenfalls
als erfindungswesentlich anzusehen sind.
Das Prinzip einer der Hauptanwendungsmöglichkeiten des erfin
dungsgemäßen adaptiven Filters liegt wie oben angesprochen in
der Informationsreduktion. Komplizierte Signale können durch
eine vom Filter bereitgestellte approximierte Funktion durch
wenige Skalare und Filterparameter in ausreichender Weise dar
gestellt, weiterverarbeitet und abgespeichert werden.
Ein weiterer wesentlicher Aspekt für die Anwendung des erfin
dungsgemäßen adaptiven Filters besteht in der Möglichkeit, un
vollständige Sollfunktionen F durch eine approximierte Funktion
anzunähern, wobei diese Approximation aufgrund der Informa
tionsreduktion zu dem gleichen Ergebnis führen kann, das bei
einer Approximation an eine vollständig vorgegebene Sollfunk
tion aufgetreten wäre. Der Bezug zur Mustererkennung ist offen
sichtlich.
Wird das adaptive Filter in einem Gerät zur Texturklassifika
tion eingesetzt, so werden dem Filter unbekannte Texturen ein
gegeben, die das Filter mittels der oben beschriebenen Zusam
menhänge in Form approximierter Funktionen "lernt". Wird nun
eine unbekannte Textur eingegeben, so wird diejenige gespei
cherte Textur den größten Ausgangswert liefern, die der unbe
kannten Textur am ähnlichsten ist, wodurch die unbekannte
Textur dieser Klasse zugeordnet werden kann.
Neben der Möglichkeit, ein Fernsehbild mittels des erfindungs
gemäßen adaptiven Filters in seiner Bandbreite wesentlich redu
zieren zu können, ist das erfindungsgemäße Filter auch zur
Herausfilterung des Bewegungsvektors, beispielsweise bei HDTV,
geeignet. Dazu kann ein sich bewegender Gegenstand in mehreren,
zeitlich aufeinanderfolgenden Ebenen in Form eines dreidimen
sionalen Raumes, bei dem eine Dimension die Zeit ist, aufgefaßt
bzw. gespeichert werden. In diesem Raum würde ein sich be
wegender Ball einen seiner Bewegung entsprechen Schlauch be
schreiben, der einer Sollfunktion F entspricht. Der adaptive
Filter wird seine Elementarfilter (mindestens einen) nach
diesem Schlauch ausrichten, wodurch die Geschwindigkeit der Be
wegung des Balles anhand der Filterneigung bestimmbar ist. All
gemein ausgedrückt, kann das adaptive Filter verwendet werden,
um den optischen Fluß in jeder Zeitebene erfassen zu können.
Eine weitere Anwendung ergibt sich in einem Gerät für Stereo
bildverarbeitung: Der Filter erfaßt jedes der beiden Stereo
bilder durch Berechnen einer approximierten Funktion und kann
aufgrund der unterschiedlichen Ausrichtung der Elementarfilter
für jedes einzelne Bild auf das dreidimensionale Bild zurück
schließen.
Wird das erfindungsgemäße Filter bei einem Gerät zur Muster
erkennung bzw. einem Verfahren zur Mustererkennung bzw. zur
Musterklassifizierung eingesetzt, so ergibt sich dabei der Vor
teil, daß die Textur, z. B. die Aufnahme einer Gruppe von Per
sonen, lageunabhängig erkannt werden kann. Es ist also nicht
notwendig, die Gruppe von Personen auf demselben Winkel zu
"fotografieren", wie er bei den Aufnahmen vorlag, die für den
vorausgegangenen Schritt des Lernens der einzelnen Texturen
(Personen) verwendet wurde. Der erfindungsgemäße Filter ist
durch Ausrichten seiner Elementarfilter in der Lage, die unter
schiedliche Orientierung im Raum auszugleichen und trotz unter
schiedlicher Blickwinkel eine gleiche approximierte Funktion
auszugeben. Dadurch wird eine eindeutige Zuordnung der zu
klassifizierenden Person zu einer Person innerhalb einer Gruppe
vorher "gelernter" Personen ermöglicht.
Auch in der Regelungstechnik bestehen vielfältige Anwendungs
möglichkeiten für das erfindungsgemäße adaptive Filter: Ein
über Sensoren detektiertes Regelverhalten bzw. ein vorgegebenes
gewünschtes Regelverhalten kann durch das Filter nachgebildet
werden, wodurch das gewünschte bzw. detektierte Regelverhalten,
da es nunmehr mathematisch exakt erfaßt ist, elektrisch einfach
realisiert werden kann, bzw. das Filter kann selbst als Steuer
einheit dienen, die nach Eingabe von Eingangswerten (XY in Fig.
1) aufgrund eines gespeicherten Regelverhaltens (Speicher 5 in
Fig. 1) den richtigen Ausgangswert liefert.
Wird das erfindungsgemäße adaptive Filter im Zusammenhang mit
einem Überwachungssystem oder Überwachungsverfahren verwendet,
so ergibt sich der Vorteil, daß es möglich ist, ein durch
mehrere Sensoren überwachtes Gebiet auch dann noch überwachen
zu können, wenn eine der Sensoren (Kamera) ausfällt. Das er
findungsgemäße Filter wird dann die verbleibenden Sensoren so
ausrichten, daß weiterhin eine vollständige Überwachung des
interessierenden Raumes ermöglicht wird.
Das erfindungsgemäße Filter ist also in hohem Maße ausfall
sicher, da, sobald eines der vorgegebenen Elementarfilter aus
fällt, die verbleibenden Elementarfilter so ausgerichtet
werden, daß weiterhin eine optimale Annäherung an eine vor
gegebene Sollfunktion möglich ist. Die Ausrichtung der ver
bleibenden Elementarfilter kann völlig anders sein, als dies
der Fall ist, wenn kein Elementarfilter ausgefallen ist. Diese
Kompensationseigenschaft des erfindungsgemäßen adaptiven Fil
ters ermöglicht vielfältige Anwendung inbesondere auch in der
Luft- und Raumfahrttechnik. Bei den bisherigen Beispielen
wurden die Elementarfilter meist als z. B. gaußförmige Funk
tionen angenommen. Der Begriff Elementarfilter ist jedoch
selbstverständlich abstrakt aufzufassen und kann ein ganzes
System beschreiben, welches bei Ausfall durch die anderen
Elementarfilter (weiteren Teilsysteme) vollständig ersetzt wird.
Weiter ist unter Einsatz des erfindungsgemäßen adaptiven Fil
ters der Aufbau von hierarchischen Datenbanken möglich, bei
denen Symbole nicht als Wörter, sondern in Form von Filter
parametern und Skalaren (Normalprojektionen) abgespeichert
sind.
Beispielsweise kann ein Baum symbolisch durch seine Krone,
seinen Stamm und seine Äste dargestellt werden. Jedes dieser
Teile kann einzeln als approximierte Funktion oder in hierar
chischer Ordnung in der Datenbank abgespeichert werden. Ist nun
lediglich ein Teil eines Baumes als Eingabefunktion vorhanden,
beispielsweise ein Teil der Krone, so wird zunächst die Krone
in der Datenbank aufgefunden und durch die hierarchische Zu
ordnung auf die übrigen Komponenten des Baumes geschlossen.
Auch die Berechnung fraktaler Dimensionen wird mit Hilfe des
erfindungsgemäßen aktiven Filters erleichtert. Legt man dem Fil
ter ein Bild vor und koppelt die Filter in solcher Weise, daß
das Filter die fraktale Dimension des Eingangsbildes berechnet,
so ist das Bild dann anschließend in der Lage, aus einem ein
gegebenen Grauwertbild das nächstliegende Bild mit gleicher
fraktualer Dimension zu ermitteln.
Möglich ist auch die Konzeption eines Roboters, bei dem der
Ausfall eines Effektors durch die übrigen Effektoren kompen
siert wird. Beispielsweise kann also die Bewegung eines fehler
haften Gelenks durch eine Ausgleichsbewegung des gesamten Armes
kompensiert werden. In diesem Fall stellen die Filter also die
Effektoren dar, die in der Lage sind, den Ausfall eines (oder
mehrerer) Filters optimal zu kompensieren, so daß die beabsich
tigte Bewegung weiterhin ausgeführt werden kann.
Im folgenden werden noch einige weitere Anwendungsbeispiele
aus dem Bereich der Bildverarbeitung beschrieben:
Texturklassifikation:
Texturklassifikation:
Je ein Filter lernt eine Textur.
Wird nun eine unbekannte Textur jedem der Filter eingegeben, so
wird jedes Filter einen Ausgangswert liefern. Das Filter,
dessen gespeicherte Textur der Unbekannten am ähnlichsten ist,
wird den größten Ausgangswert liefern, somit kann die Textur
dieser Klasse zugeordnet werden.
Berechnung des optischen Flusses:
Berechnung des optischen Flusses:
Man legt dem Filter eine Serie von Bildern vor, die das Filter
als dreidimensionale Funktion auffaßt. Das Filter berechnet nun
den Ausgangswert dergestalt, daß dieser für jeden Bildpunkt der
Serie von Eingangsbildern den optischen Fluß an dieser Stelle
ausgibt.
Berechnung von fraktalen Dimensionen:
Berechnung von fraktalen Dimensionen:
Man legt dem Filter ein Bild vor und koppelt die Filter in
solcher Weise, daß das Filter die fraktale Dimension des Ein
gangsbildes berechnet. Das Filter ist dann anschließend in der
Lage, aus einem eingegebenen Grauwertbild das nächstliegende
Bild mit gleicher fraktalen Dimension zu ermitteln.
Stereobildverarbeitung:
Stereobildverarbeitung:
Man legt dem Filter eines der beiden Bilder vor, das Filter er
lernt das Bild. Wird nun dem Filter anschließend das andere
Bild vorgelegt, so kann das Filter aus der Verschiebung der
Unterfilter ein dreidimensionales Bild des Bildinhaltes ermit
teln.
Mustererkennung:
Mustererkennung:
Wie Texturerkennung; kann z. B. zur lageunabhängigen Erkennung
von Gesichtern auch dreidimensional durchgeführt werden: Die
hier verwendeten Elementarfilter sind dann Filter im dreidimen
sionalen Raum und wiederum beliebig. Im vorliegenden Fall sind
z. B. dreidimensionale Gaborfilter vorstellbar, die sich dann so
anordnen, daß die Gesichtsoberfläche optimal dargestellt wird,
die Filter dabei also relativ flach werden.
Grundsätzlich ist bei allen Klassifizierungsaufgaben auch eine
Anzahl an Sollfunktionen vorstellbar, die geringer ist als die
Anzahl der einzelnen Klassen, im Extremfall nur eine. Diese
Sollfunktion(en) ist (sind) dann eine Funktion(en) der Soll
funktionen der einzelnen Klassen oder anderer für die Unter
scheidung der Klassen notwendigen Größen. Dies ist dort von
Belang, wo die Anzahl der Klassen erheblich ist, z. B. bei Ge
sichtserkennung, und somit Unterentscheidungen, z. B. über Ver
gleiche bestimmter Gesichtspartien, die Entscheidung beschleu
nigen, sicherer machen, Speicherbedarf reduzieren, und/oder das
Verfahren in anderer Weise optimieren. U. U. kann die Sollfunk
tion auch die Differenz zwischen zwei Mustern/Klassen sein.
Regelungstechnik:
Regelungstechnik:
Man legt dem Filter Beispiele des gewünschten Regelverhaltens
in Form von Sätzen von Eingangsgrößen mit gewünschten Ausgangs
größen vor. Das Filter berechnet aus diesen Beispielen das ge
wünschte generelle Regelverhalten.
Man legt dem Filter Beispiele des Verhaltens eines unbekannten
Systems in Form von Sätzen von Eingangsgrößen mit dazugehörigen
Ausgangsgrößen vor. Das Filter berechnet aus diesen Größen das
generelle Verhalten des unbekannten Systems.
Stochastische Systeme:
Stochastische Systeme:
Die eingegebene Sollfunktion kann auch eine Wahrscheinlich
keitsverteilung oder ein Histogramm sein, so daß das Filter
auch stochastische Systeme nachbilden/modellieren oder ersetzen
kann; da das Filter dynamisch ist, kann es auch einer sich
zeitlich ändernden Histogrammverteilung folgen, bei entspre
chender Realisierung in Echtzeit, es ist somit eine echte
Alternative zur Modellierung von Wahrscheinlichkeitsver
teilungen mit Hilfe der Fischer Informations Metrik, bzw. der
Minimierung der Kullback-Leibler Entropie, worauf obige Metrik
beruht. Somit kann das Filter zeitaufwendige stochastische
Lernsysteme, wie z. B. die Boltzmann-Maschine von Hinton &
Sejnovski (Rumelhart and MacCleland, Parallel Distributed
Processing, the MIT-Press), ersetzen. Der Einsatz einer solchen
oder anderer informationstheoretischer Metriken/Normen zur Be
rechnung oder Definition der Differenz ist aber möglich.
Ist auch nach Minimierung der Differenz diese noch so groß, so
können nach Belieben weitere Elementarfilter beliebiger Art
hinzugefügt werden, oder Filter durch andere ersetzt werden,
bis die Differenz für den jeweiligen Anwendungsfall genügt. Das
System wird dann nicht wieder zeitraubend von vorne beginnen,
sondern vom bereits erreichten Resultat weiterarbeiten, umge
kehrt kann man natürlich auch Filter entfernen, wenn die An
sprüche niedriger liegen, als man anfangs dachte; weiterhin
wird das System bei Ausfall eines oder mehrerer Elementarfilter
die Parameter der übrigen so neu berechnen, daß diese wieder
optimal angeordnet sind, und somit den Ausfall soweit als mög
lich kompensieren.
Wirtschaft:
Wirtschaft:
Man gibt dem Filter Zeitfolgen aus der Vergangenheit, z. B.
Börsenkurse, ein. Das Filter wird, wenn es bereit ist, und wenn
alle die Kurse eingegeben wurden, die für die Zukunft wichtig
sind, aus eingegebenen Kursen der jüngsten Vergangenheit den
wahrscheinlichsten zukünftigen Kurs berechnen.
Luft- und Raumfahrttechnik:
Luft- und Raumfahrttechnik:
Da das Filter immer die bestmögliche Berechnung durchführt, die
mit den gegebenen Elementarfiltern möglich ist, wird bei Aus
fall eines oder mehrerer Filter die anderen bestmöglich den
Ausfall kompensieren. Somit kompensiert das Filter den Ausfall
bestimmter Teilsysteme, nämlich einer Anzahl von Elementar
filtern, innerhalb gewissen Grenzen (Fachwort hierfür ist
Graceful Degradation).
Datenspeicherung:
Datenspeicherung:
Ein Gesamtsystem, bestehend aus mehreren, auch hierarchisch an
geordneten Filtern erlernt z. B. visuell eingegebene Objekte,
unterteilt sie in Unterobjekte, dies auch hierarchisch, und
legt sie anschließend gemäß der ermittelten geometrischen und
sonstigen Beziehungen im Speicher ab. Auch
nichtgeometrische/nichträumliche Beziehungen können hier ver
wendet werden, soweit sie in geometrische Beziehungen übersetzt
werden können. Dies ermöglicht es dem Benutzer, z. B. zu einem
eingegebenen Begriff zugehörige Begriffe nennen zu können, wie
verwandte Begriffe, untergeordnete Begriffe und übergeordnete
Begriffe. Ordnet ein Benutzer einem Satz von Begriffen eine
andere Struktur als ein anderer ein, so kann das System die
jeweilige Struktur abbilden und dem jeweiligen Benutzer seine
Struktur zur optimierten Datenabfrage zur Verfügung stellen.
Aus der abgelegten Struktur sind auch Rückschlüsse auf den je
weiligen Benutzer selbst möglich.
Berechnungen:
Berechnungen:
Ist die Struktur eines zu berechnenden Gesamtergebnisses der
art, daß es als geometrisches Objekt als Funktion mehrerer von
einander abhängiger Berechnungen dargestellt werden kann, so
kann das Filter auch zur Berechnung dieser Größen herangezogen
werden.
Hat ein Filter einmal die Sollfunktion "erlernt", so kann man
auch die Parameter in bestimmten Grenzen variierbar machen,
z. B. mit einem gemeinsamen Größenkoeffizienten multiplizieren,
um Entfernungsunterschiede auszugleichen, oder bestimmte Ver
zerrungen zuzulassen, um verschiedene Blickwinkel zu ermög
lichen; Berechnungen z. B. über projektive Geometrie.
Als Maß für die Distanz zwischen Projektion und Sollfunktion
kann im Falle von Wahrscheinlichkeitsverteilungen auch die
Kullback-Leibler-Entropie oder ein anderes informations
theoretisches Maß verwendet werden.
Objekterfassung/Tracking:
Objekterfassung/Tracking:
Ein Filter bzw. ein System, bestehend aus mehreren Filtern, ist
in der Lage, mehrere Objekte, die beispielsweise auf einem
Radarschirm oder Fernsehschirm zu sehen sind, und die sich
sogar teilweise überlappen dürfen, voneinander zu unter
scheiden, wobei, wie bereits oben erwähnt, die Unterscheidungs
kriterien beliebige Funktionen der Parameterwerte der Elemen
tarfilter und somit beliebige Funktionen der Helligkeitsver
teilung oder dessen Äquivalent sein können. Das System ist dann
weiterhin in der Lage, jedem dieser Objekte zu folgen, eine Be
zeichnung zuzuordnen, ggf. zu identifizieren, u. U. einen oder
mehrere Sensoren nachzuführen (Kameras, Zielverfolgungsradar,
etc.), und das Gesamtsystem zu anderen weiteren Maßnahmen, wie
z. B. einem Alarm, zu veranlassen. Natürlich können bei ent
sprechenden antrainierten Sollfunktionen auch Vorhersagen über
zukünftiges Verhalten, wie z. B. zukünftiger Trajektorienver
lauf, Gefahr von Zusammenstößen etc. getroffen werden.
Das Filter ist auch in der Lage, anhand von Bewegungsanalysen
Bewegungsschäden an einem Patienten festzustellen, wenn be
stimmte Bewegungsabläufe und -sequenzen für diese Schäden
typisch sind. (Klassifizierung von Blutzellen etc. sind Anwen
dungen, die unter die oben erwähnte Texturklassifikation
fallen.)
Bezug zur künstlichen Intelligenz:
Bezug zur künstlichen Intelligenz:
Das Filter kann in verschiedenster Form im Bereich der KI ein
gesetzt werden, wie weiter oben schon im Bereich Objekter
kennung gezeigt wurde.
Zur Objekterkennung/Mustererkennung:
Zur Objekterkennung/Mustererkennung:
Das Filter wird auch dann in der Lage sein, ein Objekt zu er
kennen, wenn es teilweise verdeckt ist, wobei natürlich der
Grad der akzeptablen Verdeckung vom Einzelfall abhängt. Weiter
hin kann zum Beispiel, wenn das Filter BAUMKRONE ein zwiespäl
tiges Ergebnis liefert, das übergeordnete Filter BAUM angerufen
werden, das nun das Filter BAUMSTAMM zuschaltet, um unterhalb
der Krone den STAMM zu finden, wird dieser gefunden, so wird
das Ergebnis des Filters BAUMKRONE verifiziert, wenn nicht,
dann verfälscht.
Somit erlaubt der Einsatz von hierarchischen Filterstrukturen
auch eine maximale Ausnutzung ggf. vorhandener Redundanz, wobei
die vorhandenen Redundanzen auch mit Hilfe solcher Filter ge
funden werden können.
Generell ist das Filter gegen Rotation, Translation, und/oder
Skalierung invariant, wenn man wie folgt vorgeht: Hat das
Filter einmal die Sollfunktion/das Objekt erkannt, und legt man
ihm nun ein zu erkennendes Muster vor, so erlaubt man dem
Filter, sich insgesamt gegenüber dem Bild zu drehen, zu ver
schieben, oder in der Größe zu verändern, d. h. man versucht
wiederum, die Differenz zwischen Projektion und Bild zu mini
mieren, wobei hier aber nur eine Rotation, Verschiebung oder
Skalierung des Gesamtfilters erlaubt ist.
Natürlich kann man auch, wie bereits erwähnt, bestimmte Ver
änderungen der Parameterwerte der Einzelfilter zulassen, wenn
man gegen bestimmte Verzerrungen invariant bleiben will.
Zur Stereobildverarbeitung:
Zur Stereobildverarbeitung:
Es ist mit dem Filter weiter möglich, fraktale Disparitäts
karten anzulegen, die z. B. zur dreidimensionalen Rekonstruktion
von fraktalen Objekten, wie z. B. Büschen, dienen können.
Das allgemeine Lösen von Optimierungsaufgaben, z. B. der Entwurf
und das Management von räumlich verteilten Systemen, von Funk
zellen eines Mobilnetzes, von Kraftwerken, Transformatoren und
Verteilern eines Energienetzes, von Depots eines Transport
unternehmens, ist folgendermaßen möglich: Jedem Netzknoten wird
ein Elementarfilter zugeordnet, z. B. ein Gaußfilter, bei dem
der Mittelwert individuell variabel ist, während sich die
Standardabweichung bei jedem Filter nur im gleichen Maße ändern
kann. Die Elementarfilter werden sich so anordnen, daß ein vor
gegebener Raum, z. B. die Bundesrepublik, optimal abgedeckt
wird; fällt ein Knoten aus, so ordnen sich die übrigen Knoten
selbständig so um, daß der Raum wieder optimal abgedeckt wird;
dies kann im Falle z. B. eines Funknetzes auch dadurch ge
schehen, daß die Standardabweichung, die ja die Funkleistung
modelliert, von bestimmten Elementarfiltern einfach erhöht
wird: Funkzellen sind ja in der Regel nicht mobil, und können
somit ihren Standort nicht ändern.
Natürlich können auch Verzerrungen der unterliegenden Metrik in
diesen Optimierungsaufgaben berücksichtigt werden; werden z. B.
die Entfernungen anhand der Transportzeiten definiert, haben
Depots in der Nähe von Autobahnen größere Versorgungsbereiche:
Diese Verzerrungen können durch Verzerrungen des Eingangsraums
bzw. durch Verzerrungen der Filterparameter modelliert werden.
Weitere Anwendungsmöglichkeiten:
Weitere Anwendungsmöglichkeiten:
Daten/Sensor-Fusion: Decken verschiedene Sensoren/Informa
tionsquellen überlappende Bereiche ab, z. B. Infrarot-Aufnahmen
und Aufnahmen im sichtbaren Bereich des gleichen Geländes, so
können bei Ausfall des einen Sensors die Parameter des oder der
anderen Sensoren so verändert werden, daß der zu überwachende
Bereich weitestgehend abgedeckt wird, weiterhin kann das Filter
unterliegende statistische Zusammenhänge von Daten aus ver
schiedenen Quellen erfassen und modellieren.
Ist die Anzahl der Elementarfilter in irgendeiner Anwendung zu
groß, so daß die notwendigen Berechnungen zu langwierig
und/oder kompliziert werden, so können wir die Elementarfilter
beliebig zu Gruppen zusammenfassen, die jeweilige Gesamtpro
jektion der gruppierten Filter berechnen, und die Gruppen
wiederum als höhere Elementarfilter auffassen, mit einem neuen
Metriktensor, der die Beziehungen der Gruppen untereinander
ausdrückt; auch dies kann sukzessive hierarchisch durchgeführt
werden. In diesem Falle wird den einzelnen Gruppen nicht das
Konzept eines zugehörigen Objektes zugeordnet.
Claims (19)
1. Adaptives Filter zum Approximieren einer eingelesenen in
einem Funktionenraum liegenden Sollfunktion F, enthaltend einen
Satz von n Elementarfiltern gb, wobei n eine ganze Zahl 1
ist, die Elementarfilter einen Unterraum im Funktionenraum auf
spannen, die Parameter der Elementarfilter veränderbar sind und
das Filter folgende Operationen ausführt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter und Multiplizieren der so erhaltenen Projek tionsgrößen Aa jeweils mit dem aus dem Satz Elementarfiltern gebildeten kontravarianten Metriktensor gab, um dadurch die Projektion der Sollfunktion F auf den aufgespannten Unterraum zu erhalten, deren Differenz D zur Sollfunktion F als Funktion der Elementarfilter und des Metriktensors gemäß folgender For mel erfaßt wird: um dadurch die Differenz D über Veränderung der Elementar filterparameter mittels üblicher deterministischer (z. B. "Gradientenabstiegsverfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo-Verfahren") Berechnungs methoden zu mininieren, wobei sich die gewünschte approximierte Funktion aus der Superpositionierung der über die Minimierung eingestellten Elementarfilter gemäß folgender Formel ergibt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter und Multiplizieren der so erhaltenen Projek tionsgrößen Aa jeweils mit dem aus dem Satz Elementarfiltern gebildeten kontravarianten Metriktensor gab, um dadurch die Projektion der Sollfunktion F auf den aufgespannten Unterraum zu erhalten, deren Differenz D zur Sollfunktion F als Funktion der Elementarfilter und des Metriktensors gemäß folgender For mel erfaßt wird: um dadurch die Differenz D über Veränderung der Elementar filterparameter mittels üblicher deterministischer (z. B. "Gradientenabstiegsverfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo-Verfahren") Berechnungs methoden zu mininieren, wobei sich die gewünschte approximierte Funktion aus der Superpositionierung der über die Minimierung eingestellten Elementarfilter gemäß folgender Formel ergibt:
2. Adaptives Filter zum Approximieren einer eingelesenen, in
einem Funktionenraum liegenden Sollfunktion F, enthaltend einen
Satz von n Elementarfiltern gb, wobei n eine Zahl 1 ist, die
Elementarfilter einen Unterraum im Funktionenraum aufspannen,
die Parameter der Elementarfilter veränderbar sind und das
Filter folgende Operationen ausführt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter, Verändern eines in dem von den Elementar filtern aufgespannten Unterraum liegenden Vektors A (t), bis dessen Normalprojektionen auf die Elementarfilter den Normal projektionen der Sollfunktion F auf den Unterraum entsprechen, d. h. bis der Fehler E in Abhängigkeit von Ab(t) minimal ist, um dadurch die Differenz DD = |F - A(t)|über Veränderung der Elementarfilterparameter mittels üblicher deterministischer (z. B. "Gradientenabstiegsverfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo- Verfahren") Berechnungsmethoden zu minimieren, wobei sich die gewünschte approximierte Funktion aus der Superpositionierung der über die Minimierung eingestellten Elementarfilter gemäß folgender Formel ergibt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter, Verändern eines in dem von den Elementar filtern aufgespannten Unterraum liegenden Vektors A (t), bis dessen Normalprojektionen auf die Elementarfilter den Normal projektionen der Sollfunktion F auf den Unterraum entsprechen, d. h. bis der Fehler E in Abhängigkeit von Ab(t) minimal ist, um dadurch die Differenz DD = |F - A(t)|über Veränderung der Elementarfilterparameter mittels üblicher deterministischer (z. B. "Gradientenabstiegsverfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo- Verfahren") Berechnungsmethoden zu minimieren, wobei sich die gewünschte approximierte Funktion aus der Superpositionierung der über die Minimierung eingestellten Elementarfilter gemäß folgender Formel ergibt:
3. Adaptives Filter zum Approximieren einer eingelesenen, in
einem Funktionenraum liegenden Sollfunktion F, enthaltend einen
Satz von n Elementarfiltern gb, wobei n eine ganze Zahl 1
ist, die Elementarfilter einen Unterraum im Funktionenraum auf
spannen, die Parameter der Elementarfilter veränderbar sind und
das Filter folgende Operationen ausführt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter,
Berechnen der adjungierten Elementarfilter zu den den Unterraum aufspannenden Elementarfiltern durch Minimieren des Fehlers E mittels herkömmlicher Berechnungsverfahren (z. B. "Gradientenab stiegsverfahren"), um dadurch die Differenz D bzw. allgemein mittels üblicher deterministischer (z. B. "Gradientenabstiegs verfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo-Verfahren") Berechnungsmethoden zu minimieren, wobei sich die gewünschte approximierte Funktion aus der Super positionierung der über die Minimierung eingestellten Elemen tarfilter gemäß folgender Formel ergibt:
Berechnen der Normalprojektionen der Sollfunktion F auf jeden Elementarfilter,
Berechnen der adjungierten Elementarfilter zu den den Unterraum aufspannenden Elementarfiltern durch Minimieren des Fehlers E mittels herkömmlicher Berechnungsverfahren (z. B. "Gradientenab stiegsverfahren"), um dadurch die Differenz D bzw. allgemein mittels üblicher deterministischer (z. B. "Gradientenabstiegs verfahren") oder stochastischer (z. B. "simulated annealing, Monte Carlo-Verfahren") Berechnungsmethoden zu minimieren, wobei sich die gewünschte approximierte Funktion aus der Super positionierung der über die Minimierung eingestellten Elemen tarfilter gemäß folgender Formel ergibt:
4. Adaptives Filter zum Approximieren einer eingelesenen in
einem Funktionenraum liegenden Sollfunktion F, enthaltend eine Vielzahl
von Elementarfiltersätzen mit jeweils n Elementarfiltern gb,
wobei n eine ganze Zahl 1 ist, jeder Elementarfiltersatz
einen Unterraum im Funktionsraum aufspannt, die Parameter der
Elementarfilter fest eingestellt sind, das Produkt jedes Elementarfilters
mit dem aus seinem Satz Elementarfiltern gebildeten
kontravarianten Metriktensor abgespeichert wird und für
jeden Elementarfiltersatz die Normalprojektion A der Sollfunktion
F auf jeden seiner Elementarfilter durch die Projektion
der Sollfunktion auf den entsprechenden Unterraum gemäß
folgender Formel berechnet wird:
und wobei diejenige Projektion als approximierte Funktion verwendet
wird, deren Differenz D zur Sollfunktion F minimal
ist.
5. Adaptives Filter nach Anspruch 4, dadurch gekennzeichnet,
daß jede Differenz D gemäß folgender Formel bestimmt wird:
6. Adaptives Filter nach einem der Ansprüche 1 bis
5, bei dem der Elementarfilter eine Gaußfunktion ist mit den
Parametern Standardabweichung und Mittelwert.
7. Adaptives Filter nach einem der Ansprüche 1 bis
6, bei der der Elementarfilter eine Gaborfunktion ist mit den
Parametern Standardabweichung, Mittelwert, Phase und Frequenz.
8. Adaptives Filter nach einem der Ansprüche 1 bis
6, bei dem der Elementarfilter folgender Funktion entspricht:
9. Adaptives Filter nach einem der Ansprüche 1 bis
6, bei dem der Elementarfilter folgender Funktion entspricht:
10. Adaptives Filter nach einem der vorhergehenden
Ansprüche, bei dem die Elementarfilter untereinander linear
unabhängig sind.
11. Adaptives Filter nach einem der vorhergehenden
Ansprüche, bei dem die Sollfunktion sowohl bezüglich des Werte
bereichs als auch bezüglich der Auflösung diskret eingelesen
wird.
12. Adaptives Filter nach einem der vorhergehenden
Ansprüche, bei dem die aufgefundenen Parametereinstellungen
ausgegeben werden.
13. Adaptives Filter nach einem der vorhergehenden
Ansprüche, bei dem die Sollfunktion an unvollständig erfaßten
Orten durch in der Umgebung liegende Sollwertfunktionswerte und
zusätzlichem, etwa gaußverteilten Rauschen angenähert wird.
14. Adaptives Filter nach einem der vorhergehenden
Ansprüche, bei dem das verwendete Berechnungsverfahren ein
Gradientenabstiegsverfahren (deterministisch) ist.
15. Adaptives Filter nach einem der vorhergehenden
Ansprüche, bei dem die Sollfunktion F ein optisches Signal ist.
16. Adaptives Filter nach einem der vorhergehenden
Ansprüche, bei dem die Sollfunktion F ein Videosignal ist.
17. Adaptives Filter nach einem der vorhergehenden
Ansprüche, bei dem die Elementarfilter optische Filter sind.
18. Adaptives Filter nach einem der vorhergehenden
Ansprüche, bei dem die Sollfunktion ein Audiosignal ist.
19. Adaptives Filter nach Patentanspruch 15, 16 oder 17, bei
dem die approximierte Funktion als Teil eines bandbreiteredu
zierten HDTV-Signals übertragen wird.
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE4326487A DE4326487C2 (de) | 1992-09-16 | 1993-08-06 | Adaptives Filter |
EP93919204A EP0612447B1 (de) | 1992-09-16 | 1993-08-27 | Adaptives filter |
ES93919204T ES2112992T3 (es) | 1992-09-16 | 1993-08-27 | Filtro adaptable. |
JP6507737A JPH07501434A (ja) | 1992-09-16 | 1993-08-27 | 適応フィルター |
PCT/EP1993/002324 WO1994007308A1 (de) | 1992-09-16 | 1993-08-27 | Adaptives filter |
US08/704,358 US5673213A (en) | 1992-09-16 | 1996-08-28 | Adaptive filter |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE4231005 | 1992-09-16 | ||
DE4326487A DE4326487C2 (de) | 1992-09-16 | 1993-08-06 | Adaptives Filter |
Publications (2)
Publication Number | Publication Date |
---|---|
DE4326487A1 DE4326487A1 (de) | 1994-03-17 |
DE4326487C2 true DE4326487C2 (de) | 1995-02-09 |
Family
ID=6468109
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE4326487A Expired - Fee Related DE4326487C2 (de) | 1992-09-16 | 1993-08-06 | Adaptives Filter |
Country Status (2)
Country | Link |
---|---|
US (1) | US5673213A (de) |
DE (1) | DE4326487C2 (de) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102009060553A1 (de) * | 2009-08-24 | 2011-03-03 | Vitaphone Gmbh | Verfahren und System zur Speicherung und Auswertung von Daten, insbesondere Vitaldaten |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19846637A1 (de) * | 1998-10-09 | 2000-04-13 | Heidenhain Gmbh Dr Johannes | Verfahren und Schaltungsanordnung zur automatischen Parametrierung eines schnellen digitalen Drehzahlregelkreises |
US6424741B1 (en) * | 1999-03-19 | 2002-07-23 | Samsung Electronics Co., Ltd. | Apparatus for analyzing image texture and method therefor |
US6449002B1 (en) | 1999-12-21 | 2002-09-10 | Thomson Licensing S.A. | Truncated metric for NTSC interference rejection in the ATSC-HDTV trellis decoder |
DE10035281B4 (de) | 2000-07-18 | 2004-09-30 | Eads Deutschland Gmbh | Sensorsystem und Verfahren zur Ermittlung von System-Zuständen |
US7054359B2 (en) * | 2001-06-05 | 2006-05-30 | Koninklijke Philips Electronics N.V. | VSV-MOE pre-equalizer for 8-VSB DTV |
WO2005067572A2 (en) * | 2004-01-13 | 2005-07-28 | New York University | Method, system, storage medium, and data structure for image recognition using multilinear independent component analysis |
US7468730B2 (en) * | 2004-03-25 | 2008-12-23 | Pixar | Volumetric hair simulation |
US8406518B2 (en) * | 2009-01-20 | 2013-03-26 | Pixar | Smoothed local histogram filters for computer graphics |
WO2016132148A1 (en) | 2015-02-19 | 2016-08-25 | Magic Pony Technology Limited | Machine learning for visual processing |
EP3278559B1 (de) | 2015-03-31 | 2021-05-05 | Magic Pony Technology Limited | Training von end-zu-end-videoverfahren |
GB201604672D0 (en) | 2016-03-18 | 2016-05-04 | Magic Pony Technology Ltd | Generative methods of super resolution |
EP3298579B1 (de) * | 2016-04-12 | 2021-07-21 | Magic Pony Technology Limited | Visuelle datenverarbeitung mit energienetzwerken |
US10366278B2 (en) * | 2016-09-20 | 2019-07-30 | Apple Inc. | Curvature-based face detector |
CN109737961A (zh) * | 2018-05-23 | 2019-05-10 | 哈尔滨理工大学 | 一种具有概率完备性的机器人最优化点到区路径规划方法 |
CN114415230B (zh) * | 2020-10-28 | 2024-05-28 | 中国石油天然气股份有限公司 | 一种线性断裂提取方法及装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE3406833A1 (de) * | 1984-02-24 | 1985-09-12 | Siemens AG, 1000 Berlin und 8000 München | Digitalfilter |
DE3614692A1 (de) * | 1986-04-30 | 1987-11-05 | Nixdorf Computer Ag | Gefahrenmeldeanlage |
JP3089082B2 (ja) * | 1991-07-10 | 2000-09-18 | シャープ株式会社 | 適応型ディジタルフィルタ |
DE59107087D1 (de) * | 1991-09-19 | 1996-01-25 | Siemens Ag | Vorrichtung zum Betreiben von Gefahrenmeldern |
-
1993
- 1993-08-06 DE DE4326487A patent/DE4326487C2/de not_active Expired - Fee Related
-
1996
- 1996-08-28 US US08/704,358 patent/US5673213A/en not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102009060553A1 (de) * | 2009-08-24 | 2011-03-03 | Vitaphone Gmbh | Verfahren und System zur Speicherung und Auswertung von Daten, insbesondere Vitaldaten |
DE102009060553A8 (de) * | 2009-08-24 | 2011-06-01 | Vitaphone Gmbh | Verfahren und System zur Speicherung und Auswertung von Daten, insbesondere Vitaldaten |
Also Published As
Publication number | Publication date |
---|---|
US5673213A (en) | 1997-09-30 |
DE4326487A1 (de) | 1994-03-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE4326487C2 (de) | Adaptives Filter | |
DE69634221T2 (de) | Verfahren und Gerät zur Verarbeitung visueller Information | |
DE69811050T2 (de) | Rekonstruktionsverfahren, Vorrichtung und Dekodierungssystem für dreidimensionalen Szenen. | |
EP2406769B1 (de) | Verfahren und vorrichtung zur reduktion des speicherbedarfs bei der bestimmung von disparitätswerten für mindestens zwei stereoskopisch aufgenommene bilder | |
DE69027402T2 (de) | Verfahren und Vorrichtung zur Steuerung von Robotern und ähnlichem zum Gebrauch hierarchisch organisierter "Bubble-Daten", die entlang einer Mittelachse angeordnet sind | |
DE112019003529T5 (de) | Datendarstellung für dynamische Genauigkeit in Kernen neuronaler Netze | |
DE69426042T2 (de) | Verfahren und Gerät zur Erzeugung von phantomen Kontrollwerten einer B-spline Kurve | |
WO1992008204A2 (de) | Verfahren zur erkennung und schätzung der räumlichen lage von objekten aus einer zweidimensionalen abbildung | |
EP2791896B1 (de) | Verfahren zur erzeugung von superaufgelösten bildern mit verbesserter bildauflösung und messvorrichtung | |
EP0974105B1 (de) | Verfahren zur mehrdimensionalen, diskreten wavelet-transformation und transformationseinheit zur durchführung des verfahrens | |
DE60131796T2 (de) | Objektgebietdatenerzeugungsmethode und -vorrichtung, Polygonannäherungsmethode und -vorrichtung | |
EP2859531B1 (de) | Verfahren zur bildbasierten veränderungserkennung | |
EP3867796A1 (de) | Verfahren und vorrichtung zur bestimmung einer umgebungskarte | |
WO2005073911A1 (de) | Bildverarbeitungssystem | |
EP1145086B1 (de) | Verfahren und anordnung zur ermittlung eines ähnlichkeitsmasses einer ersten struktur mit mindestens einer vorgegebenen zweiten struktur | |
DE19817583A1 (de) | Verfahren und System zur Datenverarbeitung für dreidimensionale Objekte | |
EP0612447B1 (de) | Adaptives filter | |
EP3465608B1 (de) | Verfahren und vorrichtung zum bestimmen eines übergangs zwischen zwei anzeigebildern, und fahrzeug | |
DE10331431B4 (de) | Datenkompression von Simulationsergebnissen | |
EP0960390B1 (de) | Verfahren und anordnung zur kodierung eines digitalisierten bildes | |
WO1998041950A1 (de) | Kompaktes sensorsystem zur optischen bewegungserkennung in echtzeit | |
EP0960388B1 (de) | Verfahren und anordnung zur codierung eines digitalisierten bildes | |
DE112021002210B4 (de) | Erzeugen dreidimensionaler Spikes unter Verwendung von Datenverarbeitungshardware mit geringer Leistungsaufnahme | |
DE4000021A1 (de) | Verfahren und vorrichtung zur darstellung von kurven in einem zweidimensionalen raster von bildelementen | |
DE10136649A1 (de) | Verfahren und Vorrichtung zur Objekterkennung von sich bewegenden Kraftfahrzeugen |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
OP8 | Request for examination as to paragraph 44 patent law | ||
D2 | Grant after examination | ||
8364 | No opposition during term of opposition | ||
8327 | Change in the person/name/address of the patent owner |
Owner name: INSTITUT NATIONAL DE RECHERCHE EN INFORMATIQUE ET |
|
8328 | Change in the person/name/address of the agent |
Free format text: GRUENECKER, KINKELDEY, STOCKMAIR & SCHWANHAEUSSER, ANWALTSSOZIETAET, 80538 MUENCHEN |
|
8381 | Inventor (new situation) |
Free format text: WEIGL, KONRAD MICHAEL DIPL.-ING., 81827 MUENCHEN, DE |
|
8339 | Ceased/non-payment of the annual fee |