Vorwärtsgerichtete neuronale Netze

Gegenstand dieses Kapitels sind spezielle gerichtete Graphen, deren Kanten gewichtet sind. Es wird ein graphenbasierter Algorithmus behandelt, der aus vorgegebenen Werten an den Eingangsknoten, d. h. Knoten ohne hineinführende Kante, einen festgelegten Wert am Zielknoten, d. h. einem Knoten ohne herausführende Kante, erzeugt. Hierbei sind die Eingangswerte die Koordinatenwerte des Merkmalsvektors des aktuellen Objektes und der Wert des Zielknotens gibt die Nähe zu einem Targetvektor an, der die Klasse des Objektes beschreibt. Damit die Klassifizierung dann mit einer möglichst geringen Fehlerrate durchgeführt werden kann, minimiert man die über alle Objekte des Lerndatensatzes erstreckte Summe der Werte des Zielknotens, wobei die Gewichte der Kanten die Variablen sind. Dazu werden Varianten von Abstiegsverfahren vorgestellt. Ein entscheidender Aspekt ist die Berechnung des Gradienten der Zielfunktion, was in dieser speziellen Situation ebenfalls über einen graphenbasierten Algorithmus erledigt werden kann. Wenn man auf eine Vorverarbeitung der Merkmalsvektoren verzichtet, ist es häufig sehr hilfreich, die Daten passend zu filtern. Diese Filter können in die Graphenstruktur integriert werden, was zu Gleichheitsbedingungen der Gewichte führt und für die Optimierung ausgearbeitet wird.