Hyperparameter Tuning

Die in diesem Buch vorgestellten Online Machine Learning (OML)-Verfahren weisen eine Vielzahl von Einstellmöglichkeiten, sog. Hyperparameter, auf. So stehen für Hoeffding-Bäume eine Vielzahl von “Splittern” zur Erzeugung von Teilbäumen zur Verfügung. Es gibt unterschiedliche Verfahren zur Begrenzung der Baumgröße, um den Zeit- und Speicherbedarf in vernünftige Bahnen zu lenken. Hinzu treten noch viele weitere Hyperparameter, so dass eine händisch durchgeführte Suche nach der optimalen Einstellung sehr aufwändig ist und durch die Komplexität der Kombinationsmöglichkeiten zum Scheitern verurteilt ist. Daher wird in diesem Kapitel erläutert, wie eine automatische Optimierung der Hyperparameter durchgeführt werden kann. Neben der Optimierung des OML-Verfahrens ist das mit Sequential Parameter Optimization Toolbox (SPOT) durchgeführte Hyperparameter Tuning (HPT) auch für die Erklärbarkeit und Interpretation von OML-Verfahren von Bedeutung und kann zu einem effizienteren und somit ressourcenschonenden Algorithmus führen (“Green IT”).