Gradientenverfahren und künstliche neuronale Netze

In diesem Kapitel beschäftigen wir uns zunächst mit dem Gradientenverfahren, welches zur Suche nach Minima und Maxima von Funktionen verwendet werden kann. Dies ist ein klassisches Gebiet der numerischen Optimierung. Anschließend führen wir den Konvergenzbeweis des CG-Verfahrens. Dieser basiert wesentlich auf Techniken des Gradientenverfahrens. Ein Honigverkauf-Exkurs verdeutlicht die praktische Anwendung der linearen Regression, welche mittels des Gradientenverfahrens die unbekannten Parameter approximiert. Zuletzt beschäftigen wir uns mit modernen Anwendungen von Approximation und Gradientenverfahren, den künstlichen neuronalen Netzen.