KKC_0105 | Erklärbare KI: Warum entscheidet die KI so?

Erklärbare KI ist kein „nice to have“, sondern entscheidet in vielen Projekten darüber, ob ein Modell produktiv gehen darf. In diesem Seminar bauen Sie ein belastbares Verständnis dafür auf, was eine Erklärung leisten kann und was nicht.

Sie unterscheiden Interpretierbarkeit, Erklärbarkeit und Transparenz und lernen, warum scheinbar plausible Erklärungen trotzdem falsch sein können, etwa durch Proxy-Features, Datenleckage oder die Verwechslung von Korrelation und Kausalität. Sie arbeiten praxisnah an Erklärungen für tabellarische Modelle: globale Sichtweisen wie Feature Importance, Partial Dependence Plots und ICE sowie lokale Erklärungen, die einzelne Vorhersagen nachvollziehbar machen. Dabei klären Sie, wann SHAP sinnvoll ist, wie Sie Ergebnisse korrekt interpretieren und welche Fallstricke bei stark korrelierten Merkmalen, seltenen Klassen oder instabilen Trainingsläufen auftreten.

Für Text- und Bildmodelle lernen Sie gängige Ansätze wie Saliency, Integrated Gradients und Occlusion Tests einzuordnen und zu prüfen. Ein Schwerpunkt liegt auf Robustheit: Sie führen Sanity Checks durch, testen Stabilität über Seeds und Splits und erkennen, wann Erklärungen eher Artefakte als Einsichten liefern. Abschließend leiten Sie XAI-Akzeptanzkriterien ab, verknüpfen XAI mit Fairness und Dokumentation und bereiten Ergebnisse so auf, dass Fachbereiche und Audits sie nachvollziehen können.

• Sie unterscheiden Interpretierbarkeit, Erklärbarkeit und Transparenz präzise.
• Sie erkennen Grenzen scheinbar plausibler Erklärungen und typische Modellrisiken.
• Sie nutzen globale Erklärverfahren wie Feature Importance, PDP und ICE.
• Sie interpretieren lokale Erklärungen einzelner Vorhersagen nachvollziehbar.
• Sie bewerten SHAP-Ergebnisse und deren Fallstricke bei korrelierten Merkmalen.
• Sie lernen Erkläransätze für Text- und Bildmodelle kennen.
• Sie übertragen Explainable-AI-Methoden auf Governance, Qualitätssicherung und Projektfreigaben.

Das Angebot richtet sich an Data Scientists, KI-Projektverantwortliche, Fach- und Führungskräfte, Compliance- und Risikoverantwortliche sowie technische Entscheider/innen, die KI-Entscheidungen nachvollziehbar bewerten müssen.

• Grundverständnis von Machine Learning (Train/Test, Features, Metriken).
• Hilfreich: erste Erfahrung mit Modellen auf tabellarischen Daten.

• Was „erklärbar“ wirklich heißt
  • Erklärbarkeit vs. Interpretierbarkeit vs. Transparenz
  • Use Cases: Kredit, HR, Medizin, Industrie, Marketing
  • Grenzen: Korrelation, Kausalität, Proxy-Features
• Erklärungen für tabellarische Modelle
  • Global vs. lokal: Feature Importance, PDP, ICE
  • SHAP-Grundprinzip und typische Fallstricke
  • Monotonic Constraints und verständliche Modelle
• Erklärungen für Text- und Bildmodelle
  • Attention ist keine Erklärung: was du stattdessen prüfst
  • Saliency, Integrated Gradients, Occlusion Tests
  • Prompt- und Input-Sensitivität bei LLM-Anwendungen
• Robustheit von Erklärungen
  • Stabilität über Seeds, Splits und Daten-Drift
  • Sanity Checks: Randomization, Permutation, Ablation
  • Counterfactuals: „Was müsste sich ändern, damit…?“
• Fairness, Bias und Compliance in der Praxis
  • Bias-Quellen: Daten, Labels, Feedback-Loops
  • Fairness-Metriken und Trade-offs (z. B. Equalized Odds)
  • Dokumentation: Model Cards, Data Sheets, Audit-Trails
• XAI in Betrieb: von Notebook zu Prozess
  • Definition von XAI-Akzeptanzkriterien und Schwellenwerten
  • Monitoring: Drift, Performance, Explanation-Drift
  • Kommunikation: Erklärungen für Fachbereich, Risiko, Legal