194.055 Sicherheit, Privacy und Erklärbarkeit in Maschinellem Lernen
Diese Lehrveranstaltung ist in allen zugeordneten Curricula Teil der STEOP.
Diese Lehrveranstaltung ist in mindestens einem zugeordneten Curriculum Teil der STEOP.

2022S, VU, 2.0h, 3.0EC
Lecture TubeTUWEL

Merkmale

  • Semesterwochenstunden: 2.0
  • ECTS: 3.0
  • Typ: VU Vorlesung mit Übung
  • LectureTube Lehrveranstaltung
  • Format der Abhaltung: Präsenz

Lernergebnisse

Nach positiver Absolvierung der Lehrveranstaltung sind Studierende in der Lage...

- Identify threats to privacy of individuals in machine learning datasets

- Select fitting solutions for privacy-preserving machine learning

- Understand attack vectors on machine learning models, and how attacls can be detected and mitigated

- Select fitting concepts for explainable and interpretable machine learning

Inhalt der Lehrveranstaltung

  • Techniken zur Wahrung der Privatsphäre, um sensible Informationen in den Eingabedaten zu anonymisieren, z.B. um den Datenaustausch zu erleichtern, mit besonderem Schwerpunkt auf den Auswirkungen auf den Nutzen der Daten und der darauf trainierten Modelle. Dazu gehören z.B. die k-Anonymity und verwandte Modelle wie l-Diversity sowie Differential Privacy  etc.
  • Techniken zur Wahrung der Privatsphäre, wie z.B. Differential Privacy, um Informationslecks an trainierten Modellen zu verhindern.
  • Angriffsvektoren auf Modelle des maschinellen Lernens, z.B. membership attacks  und Model Stealing, Adversary Input Generation, und wie man sie einschränkt.
  • Backdoor-Einbettung, um das Verhalten von scheinbar gutartigen Modellen für böswillige Zwecke zu manipulieren.
  • Vertraulichkeitserhaltende Berechnung von Modellen des maschinellen Lernens, z.B. mit secure multi-party computation, und homomorphen Verschlüsselungsansätzen.
  • Erklärbarkeit von Modellen des maschinellen Lernens, um ein besseres Verständnis und Vertrauen in die Modelle zu ermöglichen, z.B. durch Visualisierung, Regelextraktion, Zero-Shot Learning.

 

Methoden

Der Kurs enthält Vorlesungen und Übungen. Die Vorlesungen werden im Hörsaal abgehalten.  Die Übungen beinhalten die Anwendung von datenschutzkonformen, sicheren und erklärbaren maschinellen Lernverfahren für verschiedene Datensätze und die Implementierung dieser Verfahren. Die Übungen werden zu Hause vorbereitet und in den Übungsstunden vorgestellt/besprochen.


Prüfungsmodus

Prüfungsimmanent

Weitere Informationen

Die SPEML Vorlesung wird im Hörsaal abgehalten.

 

Vorbesprechung & Intro: 03.03.2022, 11:30, EI 10

 

Vortragende Personen

Institut

LVA Termine

TagZeitDatumOrtBeschreibung
Do.11:00 - 13:0003.03.2022 - 07.04.2022EI 10 Fritz Paschke HS - UIW Lecture
Do.11:00 - 13:0028.04.2022 - 30.06.2022FAV Hörsaal 3 Zemanek (Seminarraum Zemanek) Lecture
Do.11:00 - 13:0005.05.2022FAV Hörsaal 2 Lecture
Sicherheit, Privacy und Erklärbarkeit in Maschinellem Lernen - Einzeltermine
TagDatumZeitOrtBeschreibung
Do.03.03.202211:00 - 13:00EI 10 Fritz Paschke HS - UIW Lecture
Do.10.03.202211:00 - 13:00EI 10 Fritz Paschke HS - UIW Lecture
Do.17.03.202211:00 - 13:00EI 10 Fritz Paschke HS - UIW Lecture
Do.24.03.202211:00 - 13:00EI 10 Fritz Paschke HS - UIW Lecture
Do.31.03.202211:00 - 13:00EI 10 Fritz Paschke HS - UIW Lecture
Do.07.04.202211:00 - 13:00EI 10 Fritz Paschke HS - UIW Lecture
Do.28.04.202211:00 - 13:00FAV Hörsaal 3 Zemanek (Seminarraum Zemanek) Lecture
Do.05.05.202211:00 - 13:00FAV Hörsaal 2 Lecture
Do.05.05.202211:00 - 13:00FAV Hörsaal 3 Zemanek (Seminarraum Zemanek) Lecture
Do.12.05.202211:00 - 13:00FAV Hörsaal 3 Zemanek (Seminarraum Zemanek) Lecture
Do.19.05.202211:00 - 13:00FAV Hörsaal 3 Zemanek (Seminarraum Zemanek) Lecture
Do.02.06.202211:00 - 13:00FAV Hörsaal 3 Zemanek (Seminarraum Zemanek) Lecture
Do.23.06.202211:00 - 13:00FAV Hörsaal 3 Zemanek (Seminarraum Zemanek) Lecture
Do.30.06.202211:00 - 13:00FAV Hörsaal 3 Zemanek (Seminarraum Zemanek) Lecture

Leistungsnachweis

- Lösen von Übungsaufgaben unter Verwendung eines Software-Toolkits nach Wahl (e.g. Python scikit-learn, Matlab, R, WEKA, ...)

- Schriftliche Prüfung (closed book) - mit höchster Wahrscheinlichkeit im Hörsaal, aber via TUWEL. Bei geringen Anmeldezahlen kann die Prüfung auch mündlich durchgeführt werden (ebenfalls, abhängig von der Entwicklung der Pandemie-Situation voraussichtlich on-line)

 

Prüfungen

TagZeitDatumOrtPrüfungsmodusAnmeldefristAnmeldungPrüfung
Mo.12:00 - 14:0017.10.2022EI 10 Fritz Paschke HS - UIW schriftlich19.09.2022 00:00 - 14.10.2022 23:59in TISSExam (re-take)

LVA-Anmeldung

Von Bis Abmeldung bis
27.01.2022 00:00 06.04.2022 23:59 06.04.2022 23:59

Curricula

Literatur

Es wird kein Skriptum zur Lehrveranstaltung angeboten.

Vorkenntnisse

184.702 Machine Learning, or a similar Machine Learning lecture

Vorausgehende Lehrveranstaltungen

Sprache

Englisch