KKC_0113 | KI-Training ohne Datenleck: Security by Design

Wenn Sie eigene KI-Modelle trainieren, wird Datensicherheit schnell zum kritischen Erfolgsfaktor. Nicht nur, weil Trainingsdaten oft personenbezogene oder geschäftskritische Informationen enthalten, sondern auch, weil Modelle und Pipelines selbst neue Wege für Datenabfluss eröffnen. In diesem Seminar starten Sie mit einem konkreten Bedrohungsmodell für Ihr Trainingsszenario: Welche Angriffsflächen entstehen in Datenspeichern, beim Labeling, in Trainingsjobs, in Artefakt-Repositories und in der Zugriffsverwaltung?

Darauf aufbauend leiten Sie praxisnahe Controls ab, die Sie in Projekten direkt umsetzen können. Sie erarbeiten, wie Sie Daten rechtssicher und sparsam nutzen: Datenklassifizierung, PII-Erkennung, Minimierung, Löschkonzepte und Nachweise für Audits. Danach geht es in die technische Umsetzung: Maskierung, Pseudonymisierung und Tokenisierung in der Datenaufbereitung, sichere Rollen- und Freigabemodelle für Labeling sowie Qualitätschecks, die Data Poisoning und Manipulationen erkennbar machen.

Ein Schwerpunkt liegt auf sicheren Trainingsumgebungen: Isolation im Netzwerk, Secrets-Handling, Least-Privilege-IAM, Logging und Monitoring. Zusätzlich behandeln Sie Supply-Chain-Security für ML, inklusive SBOM, Signierung und Scans für Container-Images und Dependencies. Abschließend lernen Sie, wie Sie Modellartefakte sicher versionieren, Leakage-Risiken wie Membership Inference einschätzt und vor einer Veröffentlichung Red-Teaming-Checks etablieren.

So entsteht ein durchgängiges Security-by-Design-Vorgehen für KI-Training.

• Bedrohungsmodelle für Daten, Labeling, Trainingsjobs und Repositories entwickeln
• Angriffsflächen in Zugriffsverwaltung und ML-Pipelines identifizieren
• Daten klassifizieren, minimieren und rechtssicher löschen
• Personenbezogene Informationen erkennen und Auditnachweise führen
• Maskierung, Pseudonymisierung und Tokenisierung anwenden
• Rollen- und Freigabemodelle für Labeling und Training gestalten
• Data Poisoning und Manipulation durch Qualitätschecks erkennen

Das Seminar richtet sich an ML-Engineer/innen, Data Scientists, Security-Engineer/innen, Datenschutzbeauftragte sowie Verantwortliche für KI-Plattformen und Datenmanagement.

Grundkenntnisse in Machine Learning, Datenpipelines und Informationssicherheit werden vorausgesetzt. Erfahrungen mit ML-Training oder Datenaufbereitung sind hilfreich.

• Bedrohungsmodell für KI-Training
  • Angriffsflächen: Daten, Pipeline, Artefakte, Zugriffe
  • Threat Modeling mit konkreten Abuse-Cases
  • Risiken: Data Poisoning, Exfiltration, Insider
  • Security-KPIs für ML-Projekte
• Datenschutz und Compliance im Trainingskontext
  • DSGVO-Grundlagen: Zweckbindung, Minimierung, Löschung
  • PII-Erkennung und sensible Datenklassen
  • Auftragsverarbeitung, TOMs, Audit-Nachweise
  • Umgang mit Daten aus Drittsystemen
• Datenaufbereitung mit Schutzmechanismen
  • Maskierung, Pseudonymisierung, Tokenisierung
  • Sampling-Strategien und Datenminimierung
  • Labeling-Prozesse: sichere Rollen und Freigaben
  • Qualitätschecks gegen Poisoning
• Sichere Trainingsumgebungen und Zugriffskontrolle
  • Isolierung: Netzwerksegmente, Secrets, IAM
  • Least Privilege für Daten, Jobs und Artefakte
  • Logging, Monitoring, Anomalieerkennung
  • Backup, Restore und sichere Löschkonzepte
• Supply-Chain-Security für ML
  • Risiken in Python-Paketen, Container-Images, Base-Images
  • Signierung, SBOM, Vulnerability Scans
  • Reproduzierbare Trainingsläufe
  • Freigabeprozesse für Dependencies
• Modellartefakte, Leakage und sichere Veröffentlichung
  • Model Inversion und Membership Inference verstehen
  • Prompt- und Output-Leakage bei GenAI-Workflows
  • Policies für Sharing, Registry, Versionierung
  • Red-Teaming-Checks vor Deployment