1. Lecture Series (no. 19333101) + Exercise (no. 19333102)

Cybersecurity und AI II: Explainable AI (Cybersicherheit und KI II: Erklärbarkeit), 5 LP

Schedule:  WS, 2+2 SWS

Instructors: Gerhard Wunder, Hania Elkersh

Inhalte:

Einführung, Motivation, Definitionen, Taxonomie und Annahmen, kurzer Überblick über die unterschiedliche Erklärungsansätze, Darstellung von Ergebnissen, Saliency Maps, Merkmalsextraktion, erste Anwendungen

Blackbox (Modell-agnostische) Erklärungen: Additive Feature Attribution (Methode und Eigenschaften), LIME und andere Varianten, SHAP, Shapley-Werte, von der lokalen Erklärung zum globalen Verständnis, Nachbarschaftskonstruktion (On-Manifold Erklärungen), Risiken von zufälligen Störungen

White-Box (Modell-spezifische) Erläuterungen: LRP, DTD, DeepLIFT, Grad-CAM, Counterfactuals

Informationstheoretische Erklärungsmethoden: Grundbegriffe (Synergie, Exklusivität usw.), Information Decomposition, Graph-Repräsentation, Kausalität, Theorie des repräsentativen Lernens

Anwendung und Implementierung: Debugging, Modelextraktion, Herausforderungen, Tradeoffs (z.B. Erklärbarkeit vs. Datenschutz), Angriffe auf Erklärbarkeit

2. Lecture Series (no. 19324501) + Exercise (no. 19324502)

Foundations of Information-Theoretic Privacy and Identity (Informationstheoretische Grundlagen von Datenschutz und Identität), 10 LP

Schedule:  SS, 4+2 SWS

Instructors: Gerhard Wunder

Inhalte:

Introduction: Access control systems and biometrics, information-theoretic tools

Secret sharing with privacy constraints and impostors

Biometric authentication, zero leakage systems, generated and chosen secrets

Biometric identification, secret binding

Practical constraints, fuzzy commitment, limits

Fuzzy vault scheme, limits