Nach positiver Absolvierung der Lehrveranstaltung sind Studierende in der Lage...

• geeignete Methoden für eine gegebene Problemstellung auszuwählen
• angemessene Technologien, Software-Werkzeuge und Standards zur Lösung einer gestellten Aufgabe zu benutzen
• Zusammenhänge und Prinzipien des maschinellen Lernens zu verstehen

In diesem Einführungskurs werden die Grundlagen des maschinellen Lernens anhand von Beispielen aus der Computer Vision vermittelt. Er konzentriert sich auf einige wenige Schlüsselbereiche, auf deren Grundlage die wesentlichen Gesetze des maschinellen Lernens vermittelt werden. Ein tieferes Verständnis der Methoden erlangen die Studierenden durch die eigenständige Implementierung der Modelle in den Laborübungen. Schwerpunkte sind lineare Modelle mit festen Basisfunktionen und deren Kernelerweiterungen sowie Optimierungsverfahren in überwachten und unüberwachten Lernszenarien. Modelle mit adaptiven Basisfunktionen und neuronale Netze werden vorgestellt. Die grundlegenden Gesetzmäßigkeiten, die auch in den Übungen behandelt werden, sind: Fluch der Dimensionalität, Bias-Varianz-Tradeoff und theoretische Grenzen des Generalisierungsfehlers und die Beziehung zur Modellkomplexität. Wir werden Aspekte und Herausforderungen des Lernens aus hochdimensionalen Daten wie Bildern beleuchten.

Im Einzelnen befasst sich die Vorlesung mit:

• lineare Modelle für Regression und Klassifikation (Perceptron, lineare Basisfunktionsmodelle, polynomiale und radiale Basisfunktionen, historischer Überblick), Anwendungen in der Computer Vision
• Vorverarbeitung, Merkmalsauswahl, Techniken zur Merkmalsextraktion
• Neuronale Netze
• Fehlerfunktionen und Optimierung (z.B. Pseudo-Inverse, Gradientenabstieg, Newton-Methode)
• Modellkomplexität, Regularisierung, Modellauswahl, VC-Dimension 
• Kernel-Methoden: Dualität, sparsity, Support-Vektor-Maschine
• Hauptkomponentenanalyse (linearer Kodierer) und Hebb'sche Regel
• Bayes'sche Betrachtung der oben genannten Modelle, Bayes'sche Regression
• Gaußsche Prozesse für die Regression
• Clustering und Vektorquantisierung, latente Variablen (z. B. k-means)
• Überblick über Deep-Learning-Modelle

Durch die Implementierung grundlegender Klassifizierungs- und Regressionsmethoden, deren Weiterentwicklung und Bewertung anhand von Bilddaten wird ein tiefgreifendes Verständnis der wichtigsten Methoden vermittelt.

Methoden sind:

• Vorlesung
• Erstellen von Programmen, die vorgestellte Methoden implementieren, unter schriftlicher Anleitung
• Vertiefung mittels Durchführen von Experimenten unter Verwendung der erstellten Programme
• Erstellung eines Dokuments mit der Beschreibung und Interpretation der Resultate
• mündliches Feedback während der Abgabegespräche

ECTS Breakdown: 

4.5 ECTS = 112.5 Stunden

30     Vorlesung

70     2 Übungsrunden (inklusive Befassen mit grundlegenden Methoden und 

       Literatur, Erstellen von Programmcode und Dokumentation)

2.5    2 Abgabegespräche (inklusive Vorbereitung)

10     Schriftliche Prüfung mit Vorbereitung

• Abgabe zweier Aufgabenblätter
• zwei Abgabegespräche
• eine schriftliche Prüfung

Die Anmeldung erfolgt im TISS. Die Einteilung in Kleingruppen mit je 3 Studierenden ist in den Tagen nach der Anmeldung in TUWEL möglich. 

Kenntnisse in linearer Algebra und Wahrscheinlichkeitsrechnung