Nach positiver Absolvierung der Lehrveranstaltung sind Studierende in der Lage...

- Identify threats to privacy of individuals in machine learning datasets

- Select fitting solutions for privacy-preserving machine learning

- Understand attack vectors on machine learning models, and how attacls can be detected and mitigated

- Select fitting concepts for explainable and interpretable machine learning

• Techniken zur Wahrung der Privatsphäre, um sensible Informationen in den Eingabedaten zu anonymisieren, z.B. um den Datenaustausch zu erleichtern, mit besonderem Schwerpunkt auf den Auswirkungen auf den Nutzen der Daten und der darauf trainierten Modelle. Dazu gehören z.B. die k-Anonymity und verwandte Modelle wie l-Diversity sowie Differential Privacy  etc.
• Techniken zur Wahrung der Privatsphäre, wie z.B. Differential Privacy, um Informationslecks an trainierten Modellen zu verhindern.
• Angriffsvektoren auf Modelle des maschinellen Lernens, z.B. membership attacks  und Model Stealing, Adversary Input Generation, und wie man sie einschränkt.
• Backdoor-Einbettung, um das Verhalten von scheinbar gutartigen Modellen für böswillige Zwecke zu manipulieren.
• Vertraulichkeitserhaltende Berechnung von Modellen des maschinellen Lernens, z.B. mit secure multi-party computation, und homomorphen Verschlüsselungsansätzen.
• Erklärbarkeit von Modellen des maschinellen Lernens, um ein besseres Verständnis und Vertrauen in die Modelle zu ermöglichen, z.B. durch Visualisierung, Regelextraktion, Zero-Shot Learning.

The course contains classroom lectures and exercises. Exercises include the application of privacy-preserving, secure and explainabel machine learning techniques for various data sets and implementation of thses techniques. The exercises are prepared at home and will be presented/discussed during the exercise classes.  

Dates:

5.3. 2020: Preliminary talk (Vorbesprechung) & intro

For all other dates, please see TUWEL! Note that the lecture won't take place every week!

- Solving of exercises regarding experiments in secruity, privacy and explainability of machine learning, using a software toolkit of the student's choice (e.g. Python scikit-learn, Matlab, R, WEKA, ...)

- Written exam at the end of the semester

184.702 Machine Learning