KKC_0209 | Risikomanagement für KI: sicher und konform

KI-Systeme scheitern selten an der Idee, sondern an fehlenden Leitplanken: unklare Verantwortlichkeiten, unzureichende Datenkontrollen, nicht nachvollziehbare Modellentscheidungen oder ein Betrieb ohne Monitoring. In diesem Seminar entwickeln Sie ein Risikomanagement, das diese Lücken schließt und sich in reale Produkt- und IT-Prozesse integrieren lassen. Sie starten mit einer sauberen Einordnung von KI-Risiken entlang von Modell, Daten, Prozess und Mensch.

Darauf aufbauend lernen Sie, Use Cases zu triagieren, Risikoklassen festzulegen und Akzeptanzkriterien zu definieren, die zu Ihr Risk Appetite passen. Im nächsten Schritt setzen Sie Governance auf: Rollen, RACI, Freigabewege, Change Control und den Umgang mit Vendor- und Third-Party-Risiken. Sie erarbeiten ein Policy-Set, das sowohl klassische ML-Anwendungen als auch GenAI abdeckt.

Für Compliance und Nachweisfähigkeit klären Sie, welche Pflichten und Dokumentationsartefakte aus EU AI Act und DSGVO typischerweise relevant sind und wie Sie diese mit Standards wie ISO/IEC 42001 sowie ISO 27001 verknüpfen. Technisch geht es um konkrete Kontrollen: Data Governance, Versionierung, Modellvalidierung gegen Bias und Robustheitsprobleme, Schutz vor Prompt-Injection und unsicheren Outputs sowie Monitoring gegen Drift. Abschließend bauen Sie Incident-Response-Playbooks für KI, inklusive Kill-Switch, Rollback und Human-in-the-Loop.

Sie gehen mit einem umsetzbaren Scoring-Modell, einem Risikoregister und Vorlagen nach Hause, die Sie direkt in Projekten verwenden können.

• KI-Risiken entlang von Modell, Daten, Prozess und Mensch einordnen
• Use Cases triagieren, Risikoklassen und Akzeptanzkriterien festlegen
• Governance mit Rollen, RACI, Freigabewegen und Change Control planen
• EU AI Act, DSGVO, ISO/IEC 42001 und ISO 27001 praxisnah verknüpfen
• Technische Kontrollen für Daten, Bias, Robustheit und Prompt Injection definieren
• Monitoring, Drift-Erkennung und unsichere Outputs berücksichtigen
• Risikoregister, Scoring-Modell und Incident-Response-Playbooks erstellen

Das Seminar richtet sich an Compliance, Datenschutz, IT-Sicherheit, KI-Verantwortliche, Produktteams, Führungskräfte und Projektleitungen mit KI-Vorhaben.

Grundkenntnisse zu IT-Prozessen, Datenschutz, Risikomanagement oder KI-Anwendungen sind hilfreich. Technische Spezialkenntnisse sind nicht erforderlich.

• KI-Risiken richtig einordnen
  • Risikobegriffe: Modell, Daten, Prozess, Mensch
  • Use-Case-Triage und Risikoklassen
  • Bedrohungsmodelle für KI-Systeme
  • Akzeptanzkriterien und Risk Appetite
• Governance, Rollen und Entscheidungswege
  • RACI: Product Owner, IT, Legal, Security
  • Freigabeprozesse und Change Control
  • Third-Party- und Vendor-Risiken
  • Policy-Set für GenAI und ML
• Recht, Compliance und Nachweisfähigkeit
  • EU AI Act: Pflichten, Dokumentation, Kontrollen
  • DSGVO: Rechtsgrundlagen, DPIA, Zweckbindung
  • ISO/IEC 42001 und Mapping zu ISO 27001
  • Audit-Trail, Evidenzen, Reporting
• Technische Kontrollen und Guardrails
  • Data Governance: Herkunft, Qualität, Versionierung
  • Modell-Validierung: Bias, Robustheit, Drift
  • Prompt- und Output-Sicherheit bei GenAI
  • Monitoring, Logging und Alarmierung
• Incident Response und Betrieb
  • KI-spezifische Vorfälle und Playbooks
  • Red-Teaming und Abuse-Tests
  • Rollback, Kill-Switch, Human-in-the-Loop
  • Lessons Learned und kontinuierliche Verbesserung
• Risikobewertung in der Praxis
  • Scoring-Modell und Risikoregister
  • Kontrollkatalog und Maßnahmenplanung
  • Go/No-Go-Entscheidungen begründen
  • Vorlagen: Checklisten, Reports, SOPs