Viele Algorithmen des Maschinellen Lernens besitzen Hyperparameter. Hyperparameter sind besondere Parameter und unterscheiden sich von Parameter dadurch, dass sie nicht im üblichen Sinne gelernt werden können. Sie müssen vor dem eigentlichen Lernprozess gesetzt werden. Da die Güte von Algorithmen aber stark von den Hyperparametern abhängt, müssen auch diese optimiert werden. Übliche Verfahren sind hier ein manuelles Setzen durch Experten oder eine Gridsuche, bei der viele verschiedene Hyperparameterkonfigurationen auf einer Validierungsmenge getestet werden und letztendlich der beste gewählt wird. Aktuelle Forschungen zeigen aber, dass das Bestimmen der Hyperparameter auch automatisch möglich ist und dabei sogar bessere Ergebnisse erziehlt werden können oder zumindest gleich gute in weniger CPU-Zeit.

Dieses Seminar soll den Studierenden Alternativen zur Hyperparameteroptimierung vermitteln und ihnen den aktuellen Stand der Forschung näher bringen. Hierfür werden insbesondere Arbeiten der letzten 2-3 Jahre näher betrachtet. Der Besuch der Veranstaltung Maschinelles Lernen ist hilfreich, aber nicht notwendig.

Das erste Treffen und die Themenvergabe findet am 15. April um 16:15 im D 017 statt. Die Literaturliste kann vorab schon eingesehen werden.