KKC_0114 | KI zur Spam und Scam Abwehr Training

Spam ist lästig, Scam ist teuer. In diesem Seminar bauen Sie eine Filterstrategie, die beides auseinanderhält und operativ funktioniert. Sie starten mit dem aktuellen Bedrohungsbild: Business Email Compromise, Smishing, Kontoübernahmen und typische Social-Engineering-Muster.

Danach legen Sie die Grundlage: Welche Daten Sie wirklich brauchen, wie Sie Labels verlässlich erzeugen und wie Sie PII so behandeln, dass Analyse und Datenschutz zusammenpassen. Im Kern geht es um Signale, die Treffer bringen. Sie nutzen Mail-Header und Routing-Informationen, leiten Features aus SPF/DKIM/DMARC ab und kombinieren sie mit URL-Analysen, Redirect-Ketten und Domain-Reputation.

Für Text lernen Sie, wie Sie Intent, Dringlichkeit und Manipulationsmuster als Features oder Embeddings abbilden. Darauf aufbauend vergleichen Sie Modellklassen: robuste Baselines wie Logistic Regression und Gradient Boosting, Transformer-Klassifikation sowie LLM-gestütztes Scoring, bei dem Sie Guardrails, Kosten und Ausfallsicherheit planen. Sie evaluieren nicht nur mit Precision und Recall, sondern übersetzen Fehler in Geld und Risiko: Kostenmatrix, kanalabhängige Thresholds und Review-Queues.

Zum Abschluss entwerfen Sie eine Deployment-Pipeline mit Enrichment, Scoring und Actions wie Quarantäne, Banner oder Link-Umleitung, inklusive Monitoring gegen Drift, adversariale Umgehung und klaren Incident-Playbooks.

• Aktuelle Bedrohungen wie BEC, Smishing und Kontoübernahmen einordnen
• Trainingsdaten, Labels und personenbezogene Informationen sicher behandeln
• Mail-Header, Routing, SPF, DKIM und DMARC als Signale nutzen
• URLs, Redirect-Ketten und Domain-Reputation analysieren
• Intent, Dringlichkeit und Manipulationsmuster aus Texten ableiten
• Baselines, Gradient Boosting, Transformer und LLM-Scoring vergleichen
• Guardrails, Schwellenwerte und operative Reaktionsprozesse definieren

Das Seminar richtet sich an Security-Analyst/innen, SOC-Mitarbeitende, E-Mail-Administrator/innen, IT-Sicherheitsbeauftragte sowie Fachkräfte für Fraud Prevention und Messaging Security.

Grundkenntnisse in E-Mail-Technik, IT-Sicherheit oder Datenanalyse werden vorausgesetzt. Programmiererfahrungen sind hilfreich.

• Bedrohungsbild: Spam, Scam, BEC, Smishing
  • Angriffsmuster, Psychologie, typische TTPs
  • Warum klassische Regeln scheitern und wo sie bleiben
  • Risiken: Account Takeover, Zahlungsbetrug, Datenabfluss
• Datenbasis und Labeling, die tragen
  • Quellen: Mail-Header, Body, URLs, Attachments, Chat-Logs
  • Label-Strategien: Heuristiken, Review, Active Learning
  • Datenschutz: PII-Redaktion, Aufbewahrung, Zugriff
• Feature Engineering und Signale
  • Header- und Routing-Signale, SPF/DKIM/DMARC als Features
  • URL- und Domain-Reputation, Redirect-Ketten
  • Textsignale: Intent, Dringlichkeit, Social Engineering
• Modelle: von Baselines bis LLM-gestützt
  • Baselines: Logistic Regression, Gradient Boosting
  • Embeddings und Transformer-Klassifikation
  • LLM-Scoring mit Guardrails und Kostenkontrolle
• Evaluation, Thresholds und Business-KPIs
  • Precision/Recall, ROC/PR, Kostenmatrix
  • Thresholding nach Kanal und Risiko
  • Human-in-the-Loop und Review-Queues
• Deployment: Echtzeit-Pipeline und Integration
  • Architektur: Ingestion, Enrichment, Scoring, Actions
  • Quarantäne, Banner, Link-Umleitung, Block/Allow
  • APIs, Webhooks, Logging und Audit-Trails
• Adversarial Taktiken und Drift
  • Prompting, Obfuskation, Homoglyphs, Image-Spam
  • Concept Drift, Kampagnenwechsel, Saisonality
  • Retraining, Canary-Releases, Rollback-Strategien
• Monitoring, Security Operations, Playbooks
  • Model Monitoring: Data Quality, Latency, Fail-open/closed
  • Alerting und Incident-Workflows
  • Post-Incident: Feedback in Labels und Regeln